遇见数据集

fineproofs-prm-context-v2-none

收藏
Hugging Face2026-08-03 更新2026-08-04 收录
官方服务:

资源简介:

FineProofs PRM Context v2 数据集(None 版本)是 FineProofs 项目中的一部分,专门用于训练过程奖励模型(Process Reward Model, PRM)。该数据集从经过验证的 FineProofs rollout 集合中构建,是九个行匹配的上下文变体之一,其中本变体不包含任何辅助 rollout 上下文。数据集的收集模型为 Qwen/Qwen3.5-9B(版本 c202236235762e1c871ad0ccb60c8ee5ba337b9a),运行 ID 为 fineproofs_all_qwen35_9b_direct2phase_m32_20260730。数据包含训练集和验证集,训练集有 53,457 行(对应 2,542 个问题),验证集有 2,602 行(对应 128 个问题)。每个样本包含 `reward` 字段(密集奖励目标,基于标准化扣分规则计算)和 `correct` 字段(布尔值,表示奖励是否 >= 0.5,作为历史兼容性投影)。九个变体具有相同的行键、标签、奖励值、训练/验证问题划分以及硬端点覆盖,仅上下文类型不同。该数据集适用于定理证明中的过程奖励建模任务。

The FineProofs PRM Context v2 dataset is part of the FineProofs project, specifically designed for training Process Reward Models (PRM). It is constructed from a validated FineProofs rollout collection and is one of nine row-matched context variants, where this variant does not include any auxiliary rollout context. The dataset was collected using the model Qwen/Qwen3.5-9B (version c202236235762e1c871ad0ccb60c8ee5ba337b9a) with run ID fineproofs_all_qwen35_9b_direct2phase_m32_20260730. The data includes a training set and a validation set: the training set has 53,457 rows (corresponding to 2,542 questions), and the validation set has 2,602 rows (corresponding to 128 questions). Each sample contains a `reward` field (a dense reward target computed based on a standardized deduction rule) and a `correct` field (a boolean indicating whether the reward is >= 0.5, serving as a historical compatibility projection). The nine variants share the same row keys, labels, reward values, train/validation problem splits, and hard endpoint coverage, differing only in context type. This dataset is suitable for process reward modeling tasks in theorem proving.

创建时间:
2026-08-02
搜集汇总
数据集介绍
fineproofs-prm-context-v2-none 数据集图片
构建方式
FineProofs PRM Context v2 - None 数据集源自经过严格验证的 FineProofs 展开(rollout)集合,是九种行匹配上下文变体之一,专为过程奖励模型(Process Reward Model, PRM)训练而设计。该变体摒弃了任何辅助展开上下文,仅保留基础输入与目标标签。数据构建过程中,部分前缀与完整回答的目标均采用规范化的标准评分(即截断分数除以满分),确保评估的一致性与客观性。数据集严格遵循契约,移除了留出问题后,再按问题划分训练集与验证集,保证各变体间行键、标签及奖励的完全对齐,并通过 SHA-256 校验保障数据的完整性与可复现性。
使用方法
使用该数据集时,研究者可直接加载默认配置中的训练与验证划分,用于训练或评估过程奖励模型。数据集中每一行提供上下文输入、部分前缀、完整回答及对应的稠密奖励值,模型应基于给定前缀预测奖励分数,以优化逐步推理的正确性。由于标注的奖励已规范化,可直接用作回归目标;若需兼容传统分类流程,可依据 reward >= 0.5 将正确列作为布尔标签。数据集附带的 provenance 与验证文件可辅助核查数据完整性,确保实验条件的严格一致。
背景与挑战
背景概述
FineProofs PRM Context v2 - None 数据集由致力于自动定理证明的研究团队于2026年创建,依托于大型语言模型 Qwen3.5-9B 生成的交互式证明轨迹。该数据集旨在训练过程奖励模型(Process Reward Model, PRM),用于评估定理证明中每一步的合理性,从而提升自动推理系统的性能。其核心研究问题在于如何利用无辅助上下文的简化设置,构建一个干净、可验证的奖励信号,以支持对证明过程的细粒度监督。通过提供超过5.6万条训练样本,覆盖约2670个问题,该数据集为过程监督学习提供了规模化资源,对强化学习与形式推理交叉领域具有重要影响力,尤其为多步推理中的信用分配问题提供了基准。
当前挑战
该数据集所解决的领域挑战在于定理证明自动化的稀疏奖励问题,传统的二值化正确性信号难以指导模型在长证明序列中进行有效学习,而过程奖励模型需在每一步提供密集反馈,但此类标注昂贵且易受噪声干扰。在构建过程中,挑战包括:多轮采样的奖励一致性,因模型生成轨迹长度各异,需采用规范化的剪裁分数(clamped points 除以 max points)以平衡长短证明的评分;确保九个上下文变体间严格的字段对齐和划分一致性,需移除保留问题以避免数据泄漏;以及通过SHA-256校验和与交叉验证机制确保数据质量与可复现性,同时还需维护训练与验证集在问题层面的不重叠,以评估模型的泛化能力。
常用场景
经典使用场景
FineProofs PRM Context v2 - None 数据集作为过程奖励模型(Process Reward Model, PRM)训练与评估的核心资源,在形式化数学定理证明领域占据重要地位。该数据集构建于经过验证的FineProofs rollout集合之上,专为监督式过程奖励建模而设计,旨在为每个推理步骤分配密集的奖励信号。其经典使用场景包括:训练基于Transformer架构的PRM,以区分证明过程中正确与错误的中间步骤;评估PRM对部分推导序列的评分能力,并支持对完整响应进行整体质量评估。研究者可利用其丰富的标注密度(以归一化奖励值为目标)进行细粒度学习,从而提升模型对证明状态的敏感度。
解决学术问题
该数据集有效解决了自动定理证明中过程级监督信号匮乏的核心学术难题。传统结果奖励模型仅对最终结论提供二元反馈,难以指导中间步骤的优化,而FineProofs PRM Context v2通过提供逐点密集奖励,使得模型能够学习到证明步骤的局部正确性,进而缓解稀疏奖励带来的训练困境。其规范的归一化奖励计算方式,以及跨九种上下文变体的一致性设计,确保了实验的可复现性与公平对比,为过程奖励建模的算法创新(如奖励聚合策略、置信度校准)提供了坚实的数据基础,深刻推动了可验证、可解释的神经符号推理研究。
实际应用
在实际应用中,该数据集支撑了交互式证明助手和自动化推理系统的能力升级。基于此数据集训练的PRM可嵌入到证明搜索框架中,实时评估候选推导步骤,引导证明器优先探索高奖励路径,从而显著提升证明寻找效率。在数学教育软件中,该模型能够对学生的解题步骤进行逐步诊断与反馈,辅助个性化学习。此外,其无上下文变体(Context None)模拟了无外部干预的纯推理环境,适用于自主智能体构建思维链、规划多步策略等场景,为通用推理智能体的奖励设计提供了可靠参考。
数据集最近研究
最新研究方向
该数据集聚焦于形式化定理证明领域的过程奖励模型(PRM)训练数据构造,其核心创新在于提供九种上下文变体以系统探究辅助上下文对过程监督信号学习的影响。当前前沿方向集中于利用无上下文(none)臂构建密集奖励信号,推动PRM在数学推理与自动证明中的泛化能力提升,同时结合Qwen3.5-9B等大型语言模型进行两阶段训练,以优化逐步评分与错误定位的准确性。该数据集的发布对于可验证的AI推理、形式化数学以及智能证明助手的发展具有重要推动作用,其严谨的验证与版本控制机制也为可复现研究树立了新标杆。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务