redpajama-wiki-refined-by-data-juicer
收藏魔搭社区2026-01-08 更新2024-05-15 收录
下载链接：
https://modelscope.cn/datasets/Data-Juicer/redpajama-wiki-refined-by-data-juicer
下载链接
链接失效反馈官方服务：
资源简介：
A refined version of Wikipedia dataset in RedPajama by Data-Juicer. Removing some "bad" samples from the original dataset to make it higher-quality. This dataset is usually used to pretrain a Large Language Model.
由Data-Juicer针对RedPajama中的维基百科（Wikipedia）数据集优化得到的精炼版本。该版本通过剔除原始数据集中的部分低质量样本以提升整体数据质量，此数据集通常被用于大语言模型（Large Language Model）的预训练任务。
提供机构：
maas
创建时间：
2023-08-01
