zaydzuhri/the_pile_tokenized_5percent_truncated_packed
收藏Hugging Face2024-02-09 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/zaydzuhri/the_pile_tokenized_5percent_truncated_packed
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: input_ids
sequence: int32
splits:
- name: train
num_bytes: 17271389820
num_examples: 2107295
download_size: 7646892501
dataset_size: 17271389820
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
数据集信息：
特征：
- 名称：input_ids（输入ID序列），序列数据类型为int32（32位整型）
数据集划分：
- 划分名称：train（训练集），字节占用量：17271389820，样本总数：2107295
下载大小：7646892501，数据集存储总大小：17271389820
配置项：
- 配置名称：default（默认配置），数据文件：
- 对应划分：train（训练集），文件路径：data/train-*
提供机构：
zaydzuhri
原始信息汇总
数据集概述
数据特征
- 名称: input_ids
- 类型: int32
数据分割
- 名称: train
- 字节数: 17271389820
- 样本数: 2107295
数据大小
- 下载大小: 7646892501
- 数据集大小: 17271389820
配置
- 配置名称: default
- 数据文件:
- 分割: train
- 路径: data/train-*
