beratcmn/minipile-2048
收藏Hugging Face2024-04-23 更新2024-06-12 收录
下载链接：
https://hf-mirror.com/datasets/beratcmn/minipile-2048
下载链接
链接失效反馈官方服务：
资源简介：
MiniPile-2048是`JeanKaddour/minipile`的修剪版本，使用Llama-3 tokenizer进行修剪，过滤掉超过2048个token的内容。该数据集适用于GPU资源有限的用户。MiniPile-2048是MiniPile的一个子集，由Berat Çimen策展。MiniPile是Pile的一个子集，由Jean Kaddour策展。Pile由Leo Gao、Stella Biderman、Sid Black、Laurence Golding、Travis Hoppe、Charles Foster、Jason Phang、Horace He、Anish Thite、Noa Nabeshima、Shawn Presser和Connor Leahy创建。MiniPile-2048和MiniPile遵循与Pile相同的MIT许可证。
MiniPile-2048是`JeanKaddour/minipile`的修剪版本，使用Llama-3 tokenizer进行修剪，过滤掉超过2048个token的内容。该数据集适用于GPU资源有限的用户。MiniPile-2048是MiniPile的一个子集，由Berat Çimen策展。MiniPile是Pile的一个子集，由Jean Kaddour策展。Pile由Leo Gao、Stella Biderman、Sid Black、Laurence Golding、Travis Hoppe、Charles Foster、Jason Phang、Horace He、Anish Thite、Noa Nabeshima、Shawn Presser和Connor Leahy创建。MiniPile-2048和MiniPile遵循与Pile相同的MIT许可证。
提供机构：
beratcmn
原始信息汇总
数据集概述
基本信息
- 名称: MiniPile-2048
- 语言: 英语 (en)
- 任务类别: 文本生成 (text-generation)
- 大小类别: 100K<n<1M
- 许可证: MIT
数据集结构
- 特征:
- text: 字符串类型
数据分割
- 训练集:
- 示例数量: 870460
- 字节数: 2058322608
- 验证集:
- 示例数量: 438
- 字节数: 1033274
- 测试集:
- 示例数量: 8651
- 字节数: 20641182
数据集大小
- 下载大小: 1232517026 字节
- 数据集总大小: 2079997064 字节
数据文件配置
- 默认配置:
- 训练集路径: data/train-*
- 验证集路径: data/validation-*
- 测试集路径: data/test-*
