apertus-pretrain-gutenberg
收藏魔搭社区2025-12-04 更新2025-11-03 收录
下载链接：
https://modelscope.cn/datasets/swiss-ai/apertus-pretrain-gutenberg
下载链接
链接失效反馈官方服务：
资源简介：
# Gutemberg
Our version of the [project gutemberg corpus](https://huggingface.co/datasets/manu/project_gutenberg), so as used to pretrain Apertus (v1 being used before 9T, v2 between 9T and 12T).
More details about data provenance, preparation, and statistics can be found in our [tech report](https://github.com/swiss-ai/apertus-tech-report).
Sampling, filtering and data-preparation scripts can be found in [our dedicated GitHub repository](https://github.com/swiss-ai/pretrain-data/tree/main/pipelines/gutemberg).
Feel free to [reach out](mailto:sven.najem-meyer@epfl.ch) for any questions or suggestions 😊
# 古腾堡（Gutemberg）
我们的[古腾堡计划语料库（project gutemberg corpus）](https://huggingface.co/datasets/manu/project_gutenberg)版本，曾用于预训练Apertus模型（v1版本在9T数据量前使用，v2版本在9T至12T数据量区间使用）。
有关数据来源、预处理流程与统计信息的更多细节，可参阅我们的[技术报告（tech report）](https://github.com/swiss-ai/apertus-tech-report)。
采样、过滤与数据预处理脚本可在[我们的专属GitHub仓库](https://github.com/swiss-ai/pretrain-data/tree/main/pipelines/gutemberg)中获取。
如有任何疑问或建议，欢迎[联系我们](mailto:sven.najem-meyer@epfl.ch) 😊
提供机构：
maas
创建时间：
2025-09-04
