xwjiang2010/pile_dedupe_train_tokenized
收藏官方服务：
资源简介：
--- dataset_info: features: - name: input_ids sequence: int32 splits: - name: train num_bytes: 100197587176 num_examples: 15000000 download_size: 46305700294 dataset_size: 100197587176 configs: - config_name: default data_files: - split: train path: data/train-* ---
提供机构：
xwjiang2010原始信息汇总
数据集概述
特征
- 名称: input_ids
- 序列类型: int32
数据分割
- 名称: train
- 字节数: 100197587176
- 样本数: 15000000
数据大小
- 下载大小: 46305700294
- 数据集大小: 100197587176
配置
- 配置名称: default
- 数据文件:
- 分割: train
- 路径: data/train-*
