iankur/SlimPajama-1B
收藏Hugging Face2024-05-27 更新2024-06-12 收录
下载链接：
https://hf-mirror.com/datasets/iankur/SlimPajama-1B
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是[DKYoon/SlimPajama-6B](https://huggingface.co/datasets/DKYoon/SlimPajama-6B)中训练分割的采样版本，采样后的训练分割约为原始训练分割的1/6，而验证和测试分割保持不变。数据集包含文本、元数据和索引级别三个特征，分为训练、验证和测试三个部分，每个部分都有相应的字节数和示例数。
该数据集是[DKYoon/SlimPajama-6B](https://huggingface.co/datasets/DKYoon/SlimPajama-6B)中训练分割的采样版本，采样后的训练分割约为原始训练分割的1/6，而验证和测试分割保持不变。数据集包含文本、元数据和索引级别三个特征，分为训练、验证和测试三个部分，每个部分都有相应的字节数和示例数。
提供机构：
iankur
原始信息汇总
数据集概述
数据集特征
- text: 字符串类型
- meta: 结构化数据，包含子特征
- redpajama_set_name: 字符串类型
- index_level_0: 整数类型（int64）
数据集分割
- 训练集（train）:
- 示例数量: 933130
- 数据大小: 4066080183.08 字节
- 验证集（validation）:
- 示例数量: 9347
- 数据大小: 39109042 字节
- 测试集（test）:
- 示例数量: 9346
- 数据大小: 40114950 字节
数据集大小
- 下载大小: 2424961933 字节
- 总数据集大小: 4145304175.08 字节
数据文件配置
- 默认配置（default）:
- 训练集路径:
data/train-* - 验证集路径:
data/validation-* - 测试集路径:
data/test-*
- 训练集路径:
