Red Pajama
收藏arXiv2025-09-30 收录
下载链接：
https://github.com/Anonymous1252022/fp4-all-the-way
下载链接
链接失效反馈官方服务：
资源简介：
该数据集名为“红睡衣”数据集，它是一个开源的数据集，主要用于训练大型语言模型，包含了大约2000亿个标记。目前，该数据集的训练仍在进行中，一旦使用更大数据集的新版本训练完成，将会进行上传更新。目前的数据规模约为2000亿个标记，所涉及的任务是训练大型语言模型。
提供机构：
Computer
