yardeny/tokenized_gpt2_dataset
收藏Hugging Face2023-08-21 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/yardeny/tokenized_gpt2_dataset
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 16291456129
num_examples: 80462898
download_size: 7056135272
dataset_size: 16291456129
---
# Dataset Card for "tokenized_gpt2_dataset"
[More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
提供机构：
yardeny
原始信息汇总
数据集概述
特征信息
- input_ids: 序列类型为 int32
- attention_mask: 序列类型为 int8
数据分割
- train: 包含 80462898 个样本，总字节数为 16291456129
数据集大小
- 下载大小: 7056135272 字节
- 数据集大小: 16291456129 字节
