karpathy-fineweb-edu-100b-shuffle-240shard
收藏魔搭社区2026-01-09 更新2025-11-03 收录
下载链接：
https://modelscope.cn/datasets/Thackeray/karpathy-fineweb-edu-100b-shuffle-240shard
下载链接
链接失效反馈官方服务：
资源简介：
用于复现卡帕西大模型项目nanochat的24G文本数据集，用于tokenizer训练、预训练、中间训练、监督微调、强化学习等。
A 24GB text dataset for reproducing Andrej Karpathy's nanochat large language model project, which is used for tokenizer training, pre-training, intermediate training, supervised fine-tuning, reinforcement learning and other related tasks.
提供机构：
maas
创建时间：
2025-10-17
搜集汇总
数据集介绍
背景与挑战
背景概述
该数据集用于复现nanochat项目，基于karpathy/fineweb-edu-100b-shuffle版本，包含100B数据洗牌后的240个分片。数据集大小为22.56GB，采用Apache 2.0许可证，并于2025年10月17日更新。
以上内容由遇见数据集搜集并总结生成
