Proof-Pile-2

Name: Proof-Pile-2
Creator: OpenDataLab
License: 暂无描述

OpenXLab2026-04-18 收录

下载链接：

https://openxlab.org.cn/datasets/OpenDataLab/Proof-Pile-2

下载链接

链接失效反馈

官方服务：

资源简介：

Proof-Pile II, a 55 billion token dataset of mathematical and scientific documents.

提供机构：

OpenDataLab

创建时间：

2024-04-30

Proof-Pile-2

The dataset used for continual pre-training of large language models, with a focus on balancing the text distribution and mitigating overfitting.

DataCite Commons2026-01-07 更新00

proof-pile-2

[ArXiv](http://arxiv.org/abs/2310.10631) | [Models](https://huggingface.co/EleutherAI/llemma_34b) | [Data](https://huggingface.co/datasets/EleutherAI/proof-

魔搭社区2025-12-05 更新330

lehduong/proof-pile-2

该数据集包含三个子数据集：代数堆（algebraic-stack）、arxiv论文数据集和开放网络数学（open-web-math）。每个子数据集都包含文本数据，并划分为训练集、验证集和测试集。代数堆包含2831527个训练示例，500000个验证示例和74851个测试示例；arxiv包含3965390个训练示例，250000个验证示例和31577个测试示例；开放网络数学包含2908808个训练示

Hugging Face2025-06-19 更新70

proof-pile-2

A dataset of high quality mathematical text.

huggingface.co70

EleutherAI/proof-pile-2

Proof-Pile-2是一个包含550亿个token的数学和科学文档数据集，用于训练Llemma 7B和Llemma 34B模型。该数据集由三个子集组成：arxiv（29B tokens）、open-web-math（15B tokens）和algebraic-stack（11B tokens）。arxiv子集来自RedPajama，open-web-math子集包含互联网上的高质量数学文本，a

Hugging Face2023-10-25 更新5410