Nemotron-Math-Proofs-v2

Nemotron-Math-Proofs-v2是一个数学证明生成、验证和元验证跟踪数据集，旨在支持训练和评估能够生成严格数学证明、并逐步批判或验证证明正确性的模型。数据集包含82,737个样本，涵盖5,752个独特问题，问题来源于nvidia/Nemotron-Math-Proofs-v1数据集中的AoPS（Art of Problems Solving）社区子集。证明、验证跟踪和元验证跟踪是使用DeepSeek-V4-Pro模型在Max推理模式下生成的，遵循DeepSeekMath-V2论文中描述的证明生成和验证提示风格。数据集采用JSONL格式，每个记录包含自然语言证明问题、生成的证明和验证跟踪，主要字段包括：唯一标识符（uuid）、问题陈述（problem）、用于LLM训练的多轮消息序列（messages）、工具定义（tools）、许可证标签（license）、元数据（metadata）、问题来源标签（source）、数据集标签（dataset）、响应类型子集标签（subset，包括证明、验证、元验证）以及下游使用注释字段（used_in）。数据集分为三个子集：证明（24,696个样本）、验证（28,865个样本）和元验证（29,176个样本）。总磁盘大小为15.95 GiB，令牌计数为5,000,839,123。该数据集是先前发布的Nemotron-Math-Proofs-v1和Nemotron-Cascade-2-SFT-Data数据集的扩展，专注于自然语言数学证明数据，但不包含证明细化部分。数据集采用CC BY 4.0许可证，适用于商业和非商业用途，预期用途包括训练LLM进行结构化数学推理和证明生成、生成证明验证跟踪、构建长上下文或多轨迹推理系统以及研究证明有效性、验证器准确性和错误模式。

Nemotron-Math-Proofs-v2 is a mathematical proof generation, verification, and meta-verification tracking dataset designed to support training and evaluating models capable of generating rigorous mathematical proofs and step-by-step critiquing or verifying proof correctness. The dataset contains 82,737 samples covering 5,752 unique problems, sourced from the AoPS (Art of Problems Solving) community subset in the nvidia/Nemotron-Math-Proofs-v1 dataset. Proofs, verification traces, and meta-verification traces are generated using the DeepSeek-V4-Pro model in Max inference mode, following the proof generation and verification prompt style described in the DeepSeekMath-V2 paper. The dataset is in JSONL format, with each record including natural language proof problems, generated proofs, and verification traces. Key fields include: unique identifier (uuid), problem statement (problem), multi-turn message sequences for LLM training (messages), tool definitions (tools), license label (license), metadata, problem source label (source), dataset label (dataset), response type subset label (subset, including proof, verification, meta-verification), and downstream usage annotation field (used_in). The dataset is divided into three subsets: proof (24,696 samples), verification (28,865 samples), and meta-verification (29,176 samples). The total disk size is 15.95 GiB, with a token count of 5,000,839,123. This dataset is an extension of the previously released Nemotron-Math-Proofs-v1 and Nemotron-Cascade-2-SFT-Data datasets, focusing on natural language mathematical proof data but excluding proof refinement parts. It uses the CC BY 4.0 license, suitable for both commercial and non-commercial use, and intended for training LLMs in structured mathematical reasoning and proof generation, generating proof verification traces, building long-context or multi-trajectory reasoning systems, and studying proof validity, verifier accuracy, and error patterns.

原始信息汇总

数据集概述

• 名称: Nemotron-Math-Proofs-v2
• 所有者: NVIDIA Corporation
• 创建日期: 2026年5月1日
• 许可证: Creative Commons Attribution 4.0 International License (CC BY 4.0)
• 语言: 英语
• 模态: 文本
• 格式: JSONL

数据集描述

Nemotron-Math-Proofs-v2 是一个数学证明生成、验证和元验证轨迹数据集。问题来源于 nvidia/Nemotron-Math-Proofs-v1 中的 AoPS 子集。数据集包含 82,737 个样本，涵盖 5,752 个独特问题。

数据生成

• 问题来源: 从 nvidia/Nemotron-Math-Proofs-v1 数据集中选取的 AoPS 社区证明类问题。
• 证明与验证轨迹生成: 使用 DeepSeek-V4-Pro 的 Max 推理模式生成证明和验证轨迹，遵循 DeepSeekMath-V2 论文 中描述的提示风格。
• 收集方法: 混合（人工、合成、自动化）
• 标注方法: 混合（人工、合成、自动化）

数据集字段

• uuid: 样本的唯一标识符。
• problem: 问题陈述，源自 nvidia/Nemotron-Math-Proofs-v1 中的 AoPS 子集。
• messages: 用于 LLM 训练的标准多轮消息序列。
• tools: 工具定义列表（如有）。
• license: 每个样本的许可证标签，统一为 cc-by-4.0。
• metadata: 额外的元数据字段。
• source: 种子问题的来源标签，统一为 AoPS。
• dataset: 数据集/发布标签。
• subset: 响应类型或子集标签，包括 proof、verification 或 meta-verification。
• used_in: 保留用于下游使用标注的列表字段。

数据量化

分割	子集	样本数
train	proof	24,696
train	verification	28,865
train	meta-verification	29,176
train	总计	82,737

• 独特问题数: 5,752
• 总磁盘大小: 15.95 GiB
• Token 数量: 5,000,839,123

预期用途

• 训练 LLM 进行结构化数学推理和证明生成。
• 训练 LLM 生成证明验证轨迹并识别数学论证中的漏洞。
• 构建用于定理证明的长上下文或多轨迹推理系统。
• 研究证明有效性、验证器准确性、错误模式以及自我验证的数学推理。

搜集汇总

数据集介绍

构建方式

Nemotron-Math-Proofs-v2 数据集基于前一版本 v1 中的 AoPS 子集，精选了 5,752 道数学证明题目。为解决这些题目，研究人员采用 DeepSeek-V4-Pro 模型在最大推理模式下，生成了完整的证明过程、验证轨迹以及元验证轨迹。这一过程严格遵循 DeepSeekMath-V2 论文中提出的证明生成与验证提示风格，确保每个样本不仅包含严谨的数学推导，还附带对证明正确性、完备性的逐步审查记录。最终数据集共包含 82,737 个样本，覆盖证明、验证和元验证三种类型，并以 JSONL 格式存储。

特点

该数据集的核心特色在于其多层次、自洽的数学推理结构。每个问题关联多个响应，分别对应原始证明、验证评估及元验证反思，形成完整的推理链条。这种设计不仅支持模型学习生成严格证明，还培养了其自我批判和错误识别能力。数据来源真实可靠，源于 AoPS 社区的经典竞赛题目，保证了数学难度和多样性。此外，数据集规模适中，超过 50 亿 token 的高质量文本，为大语言模型的深度训练与评估提供了宝贵资源。

使用方法

本数据集主要用于训练和评估具备数学推理能力的语言模型。使用时，可直接加载 JSONL 文件，利用其中的 messages 字段构建多轮对话样本，其中用户输入为题目，助手输出依次为证明、验证或元验证内容。研究人员可根据 subset 字段筛选特定任务类型，例如单独使用 proof 子集训练证明生成能力，或结合 verification 子集提升模型对推理过程的校验能力。数据集兼容标准的文本生成任务框架，适用于监督微调和基于检索的推理增强等场景。

背景与挑战

背景概述

数学推理作为人工智能领域的核心难题之一，长久以来被视为评估机器智能水平的重要标尺。在此背景下，NVIDIA公司于2026年5月发布了Nemotron-Math-Proofs-v2数据集，旨在推动大型语言模型在严谨数学证明生成与验证方面的发展。该数据集由NVIDIA研究团队基于前序版本Nemotron-Math-Proofs-v1进行扩展，从AoPS社区精选了5752道数学证明问题，并利用DeepSeek-V4-Pro模型生成了超过8.2万条包含证明、验证及元验证的轨迹数据。数据集不仅服务于数学定理自动证明的研究，更为构建具备自我验证能力的数学推理系统提供了宝贵的训练资源，在自然语言处理与符号推理交叉领域具有重要影响力。

当前挑战

该数据集所应对的领域挑战主要聚焦于数学推理中的两大瓶颈：一是如何促使语言模型生成逻辑连贯、步骤严谨的数学证明，而非依赖统计模式进行表面近似；二是如何实现自动化的证明正确性验证，即模型需具备识别证明中遗漏、错误或冗余步骤的能力。在数据集构建过程中，挑战同样显著——从AoPS社区收集的题目覆盖从初等到高等数学的广泛领域，其表述的多样性和抽象性给模型生成统一格式的证明带来了困难；此外，构造验证与元验证轨迹需要设计精细的提示策略，以确保模型不仅输出结论，还能展示逐步的推理和自检过程。这些挑战的解决对于提升AI在学术和工程领域进行可靠数学推理的能力具有关键意义。

常用场景

经典使用场景

Nemotron-Math-Proofs-v2作为数学证明生成与验证领域的标杆性数据集，其经典使用场景聚焦于训练大语言模型执行结构化数学推理与形式化证明构建。该数据集包含逾八万条细粒度样本，覆盖从证明生成、验证到元验证的完整推理链条，特别适用于培养模型逐步审视数学论证严谨性的能力。基于DeepSeek-V4-Pro生成的证明轨迹与DeepSeekMath-V2风格的验证提示，研究者能够利用此数据集训练出具备自洽性检查的数学推理引擎，从而在定理证明、数学竞赛解题等任务中实现从直觉推演到严格证明的跨越。

实际应用

实际应用中，Nemotron-Math-Proofs-v2推动了多个高价值场景的技术落地。在教育科技领域，该数据集可赋能智能辅导系统，使其不仅输出解题步骤，更能对学生的数学证明进行逐行检查与纠错反馈。在软件验证与形式化方法中，基于该数据训练的模型可辅助工程师验证算法正确性或推导关键安全属性。此外，在自动化科研辅助系统中，该数据支撑了数学文献中定理证明的自动校验与补全工具的开发，显著降低人工审查的认知负荷，为数学知识的系统化积累提供了技术支撑。

衍生相关工作

该数据集衍生出诸多具有影响力的学术工作。基于其前序版本，研究者发展了自验证数学推理的DeepSeekMath-V2框架，证明了验证轨迹对提升推理可靠性的关键作用。NeMo-Skills工具链的构建使得该数据集能够高效集成到大模型微调流水线中，催生了多项关于数学证明生成效率与质量改进的研究。此外，围绕该数据产生的错误模式分析与验证器精度的研究成果，为后续定理证明器与数学推理代理的设计提供了重要的基准参照，推动了该领域从单一证明生成向证明生态构建的范式转型。