TrevorDohm/Pile_Tokenized
收藏Hugging Face2024-02-20 更新2024-06-22 收录
下载链接：
https://hf-mirror.com/datasets/TrevorDohm/Pile_Tokenized
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: text
dtype: string
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 1197349778214
num_examples: 134318121
download_size: 606495022503
dataset_size: 1197349778214
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
提供机构：
TrevorDohm
原始信息汇总
数据集详情
特征
- text: 数据类型为字符串。
- input_ids: 数据类型为整数序列，类型为int32。
- attention_mask: 数据类型为整数序列，类型为int8。
数据分割
- train:
- 字节数: 1197349778214
- 样本数: 134318121
数据大小
- 下载大小: 606495022503
- 数据集大小: 1197349778214
配置
- default:
- 数据文件路径: data/train-*
