STOP-data
收藏资源简介：
STOP数据集是为训练和评估STOP（Super TOoken for Pruning）模块而构建的，该模块用于大型推理模型中的早期路径修剪。并行推理虽然能提高性能，但也带来了显著的效率问题，因为许多采样的推理路径从早期前缀开始就已经没有希望。该数据集提供了前缀-潜力监督，用于训练模型早期识别这些路径。 数据构建方法如下：1) 生成并截断固定长度的推理前缀；2) 对每个前缀进行多次蒙特卡洛滚动采样；3) 通过正确完成的比例估计前缀的成功概率，生成[0,1]范围内的软标签。 数据集涵盖数学（AIME）和科学（GPQA）领域，具有以下关键特性：前缀级监督用于早期修剪、模型特定的难度过滤、通过蒙特卡洛估计的概率标签。该数据集可用于训练轻量级分类器或适配器，以预测前缀质量并高效修剪推理路径。 数据集采用Apache 2.0许可证。
The STOP Dataset is constructed for training and evaluating the STOP (Super Token for Pruning) module, which is designed for early path pruning in large-scale reasoning models. While parallel inference can boost performance, it also introduces significant efficiency issues, as many sampled inference paths are already hopeless starting from their early prefixes. This dataset provides prefix-potential supervision to train models to identify such paths at an early stage. The data construction method is as follows: 1) Generate and truncate fixed-length inference prefixes; 2) Perform multiple Monte Carlo rollout samplings for each prefix; 3) Estimate the success probability of the prefix through the proportion of correctly completed paths, generating soft labels within the range [0, 1]. The dataset covers two domains: mathematics (AIME) and science (GPQA), and has the following key features: prefix-level supervision for early pruning, model-specific difficulty filtering, and probability labels estimated via Monte Carlo methods. This dataset can be used to train lightweight classifiers or adapters to predict prefix quality and efficiently prune inference paths. The dataset is licensed under the Apache 2.0 License.
数据集概述
数据集名称
STOP-data
核心目的
为训练和评估STOP (Super TOken for Pruning) 模块提供数据支持。STOP是一个用于大型推理模型中早期路径剪枝的轻量级模块。
数据构建方法
- 前缀生成：生成推理前缀，并在固定长度（例如2048个标记）处截断。
- 蒙特卡洛推演：为每个前缀采样多个（例如K=32）延续路径。
- 前缀评分：根据成功完成路径的数量与总采样路径数（K）的比值，估算前缀的成功概率，生成一个介于[0, 1]之间的软标签，用于指示前缀的潜力。
数据领域
数据构建基于以下领域：
- 数学（AIME）
- 科学（GPQA）
关键特性
- 提供用于早期剪枝的前缀级监督。
- 包含基于模型特定难度的过滤。
- 通过蒙特卡洛估计生成概率标签。
用途
该数据集可用于训练轻量级分类器或适配器，以预测前缀质量并高效地剪枝推理路径。
许可证
Apache 2.0
