edbeeching/fineproofs-qwen3-235b-a22b-thinking-2507

FineProofs Qwen3 235B A22B Thinking 2507是一个与FineProofs兼容的训练数据集快照，使用Qwen/Qwen3-235B-A22B-Thinking-2507模型生成。该快照包含4202行数据，生成于2026年5月27日。数据集的schema与lm-provers/FineProofs-SFT完全一致，包括问题、推理内容、证明、类别、竞赛、gemini-3-pro-grade、qwen3-4b-thinking-reward@128、来源和消息等列。数据集仅包含完整的生成结果（finish_reason为stop），且推理和证明内容非空；grade/reward列存在但值为空，因为这些生成的证明尚未被评分。FineProofs Qwen3 235B A22B Thinking 2507 is a FineProofs-compatible training snapshot generated with the Qwen/Qwen3-235B-A22B-Thinking-2507 model. The snapshot contains 4202 rows and was generated on May 27, 2026. The schema exactly matches lm-provers/FineProofs-SFT, including columns such as problem, reasoning_content, proof, category, competition, gemini-3-pro-grade, qwen3-4b-thinking-reward@128, source, and messages. Only complete generations with finish_reason=stop and non-empty reasoning and proof are included; the grade/reward columns are present for schema compatibility but left null because these generated proofs have not been graded.

搜集汇总

数据集介绍

构建方式

本数据集为FineProofs兼容的训练快照，源自Qwen/Qwen3-235B-A22B-Thinking-2507模型在2026年5月27日生成的推理轨迹。构建过程中严格筛选了完整终止（finish_reason=stop）且包含非空推理内容与证明的生成样本，共保留4202条记录。数据结构与lm-provers/FineProofs-SFT完全一致，涵盖问题、推理内容、证明、类别、竞赛来源、评分占位字段及消息格式等九个字段，确保无缝对接既有流程。

特点

该数据集的独特之处在于其纯净性与兼容性。所有样本均通过生成质量门槛，剔除了不完整或空洞的推理，保证了内容的严谨性。评分列（如gemini-3-pro-grade和qwen3-4b-thinking-reward@128）虽保留但为空值，彰显了其原始生成未经过人工或模型干预的质朴状态，为后续定制化评分提供了灵活空间。此外，快照时间戳精确至秒，便于版本追溯与复现实验。

使用方法

使用时可直接加载data/train.parquet文件，以pandas或HuggingFace datasets库读取。由于schema与FineProofs-SFT一致，可作为替代训练集或初筛数据源，用于微调推理模型或作为奖励模型的基础语料。对于需要评分的应用场景，可自行填充空置的grade/reward字段，或将其作为未标注数据进行半监督学习。简单易用，兼容性强，适合数学推理与证明生成任务。

背景与挑战

背景概述

该数据集于2026年由LM-Provers团队构建，旨在以Qwen3-235B-A22B-Thinking-2507模型生成的高质量推理轨迹，扩充FineProofs-SFT训练快照。其核心研究问题聚焦于形式化数学证明的生成，即利用大规模思维模型产生可验证的证明步骤，以弥补现有SFT数据在复杂数学推理上的不足。作为FineProofs生态的兼容扩展，该数据集通过严格筛选完整生成（finish_reason=stop），确保了推理与证明的非空性，为后续强化学习或监督微调提供了可靠的训练语料。其发布推动了数学自动推理领域的发展，为验证大型语言模型在定理证明中的潜力提供了数据基石，对提升模型在竞赛数学和形式化验证任务上的表现具有重要影响。

当前挑战

该数据集面临的挑战可归于两个层面。在领域问题层面，形式化数学证明的自动生成至今仍是人工智能的难题，它要求模型不仅具备深厚的数学知识，还需精确掌握形式化语言（如Lean）的语法与逻辑，且证明过程需具备严格的可验证性，这是当前大模型普遍难以稳定胜任的任务。在构建过程中，挑战则更为直接：首先，必须从海量原始生成中剔除不完整或中断的样本（仅保留finish_reason=stop），以确保数据质量；其次，推理内容与证明步骤的一致性校验极为繁琐，需人工或辅助模型介入；最后，本快照中的质量评估列（如gemini-3-pro-grade、qwen3-4b-thinking-reward）因未完成评分而空缺，导致数据缺乏客观质量标签，限制了其在偏好对齐等任务中的直接应用。

常用场景

经典使用场景

FineProofs Qwen3 235B A22B Thinking 2507 数据集在数学推理与形式化证明领域扮演着重要角色，其经典使用场景聚焦于训练和评估大型语言模型在竞争性数学问题上的证明生成能力。该数据集包含了4202条由Qwen3-235B-A22B-Thinking-2507模型生成的完整思维链与形式化证明，每个样本均带有问题陈述、推理内容、证明文本、所属竞赛类别等信息，为研究者提供了高质量的训练语料。通过此数据集，研究者能够微调模型以生成结构严谨、逻辑连贯的数学证明，并探索如何将自然语言推理与形式化验证相结合，推动自动定理证明技术的发展。其精细的类别划分和竞赛来源也使得针对不同难度和题型的研究成为可能，是验证模型数学推理深度与证明可靠性不可或缺的基准资源。

解决学术问题

该数据集着力破解了数学推理领域中长期存在的两大难题：一是大型语言模型生成证明的幻觉与逻辑断裂问题，二是缺乏高质量、可复用的训练数据以支撑可验证推理研究。通过严格筛选仅保留完整生成（finish_reason=stop）且推理与证明非空的样本，数据集确保了内容的完整性与可用性，为对比不同模型在多步推理、符号操作和证明策略上的表现提供了标准化评测集。其意义在于，它填补了由顶尖开源模型生成、面向竞争数学的证明级训练数据空白，使学术社区能够深入剖析模型在数学证明中的错误模式，进而设计更有效的推理增强与对齐方法，从而推动可解释人工智能及数学自动化验证的学术前沿。

衍生相关工作

围绕该数据集已衍生出一系列重要的研究方向与经典工作。一方面，它作为微调基座，催生了针对数学证明任务的高效参数调整方法，如利用低秩适配（LoRA）或提示优化技术来提升小规模模型的证明生成能力，这些工作常以FineProofs系列为基准进行横向对比。另一方面，其结构化的schema（包含奖励分数列）启发了对模型输出进行自动化质量评估的研究，例如训练独立的奖励模型以预测证明的正确性，并与人工评分（如gemini-3-pro-grade）进行校准，进而发展出无人工干预的强化学习反馈回路。此外，研究者还基于此数据集探索了跨竞赛题型的迁移学习，以及将生成证明与外部验证器（如Lean或Isabelle）结合的神经符号系统，这些工作均以该数据集的训练样本为起点，拓展了形式化数学自动化与可解释推理结合的新路径。