Tiny LLM数据集
收藏魔搭社区2026-05-16 更新2024-05-25 收录
下载链接：
https://modelscope.cn/datasets/wdndev/tiny_llm_dataset
下载链接
链接失效反馈官方服务：
资源简介：
开源项目Tiny LLM所有训练数据集；https://github.com/wdndev/tiny-llm-zh
开源项目Tiny LLM的完整训练数据集；相关项目仓库链接：https://github.com/wdndev/tiny-llm-zh
提供机构：
maas
创建时间：
2024-05-18
搜集汇总
数据集介绍
背景与挑战
背景概述
该数据集为Tiny LLM项目提供训练数据，包含预训练、指令微调和偏好数据三部分。预训练数据源自多个中文经典数据集约35B tokens，微调数据约400万条，偏好数据约17万条，数据以二进制格式存储以节省空间。
以上内容由遇见数据集搜集并总结生成
