SkyPile
收藏arXiv2025-09-30 收录
下载链接：
https://huggingface.co/datasets/Skywork/SkyPile-150B
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是一个庞大的高质量中文数据集，包含了233百万个网页，总共有1500亿个词汇标记。这些数据是从公开的网络资源中精心筛选并去重得到的，其规模达到了1500亿个词汇标记，专门用于语言模型的预训练任务。
This dataset is a large-scale high-quality Chinese corpus containing 233 million web pages with a total of 150 billion word tokens. It was meticulously screened and deduplicated from public web resources, and is specifically designed for language model pre-training.
提供机构：
Skywork
