bespokelabs/Bespoke-Stratos-17k

Bespoke-Stratos-17k是一个推理数据集，包含问题、推理轨迹和答案。它由5k编码数据、10k数学数据和1k科学及谜题数据组成，用于训练推理模型。

Bespoke-Stratos-17k is a reasoning dataset consisting of questions, reasoning traces, and answers. It is composed of 5k coding data, 10k math data, and 1k science and puzzle data, used for training reasoning models.

搜集汇总

数据集介绍

构建方式

Bespoke-Stratos-17k数据集由Bespoke Labs团队在Berkeley Sky-T1数据管线的启发下构建而成，旨在通过监督微调蒸馏技术提升大模型的推理能力。该数据集以DeepSeek-R1作为教师模型，生成包含问题、推理轨迹与答案的合成数据。构建过程中，团队利用自研的Bespoke Curator工具将Sky-T1管线迁移至自身平台，在1.5小时内以800美元成本高效完成数据生成。数据来源涵盖5k条编程数据（来自APPs与TACO）、10k条数学数据（源自AIME、MATH及NuminaMATH的奥林匹克子集）以及1k条科学与谜题数据（来自STILL-2）。采用拒绝采样策略过滤错误推理轨迹，并通过gpt-4o-mini替代传统解析逻辑验证数学答案，将正确解保留率从25%提升至73%，同时利用Ray集群加速代码验证过程。

特点

该数据集最显著的特点在于其高质量合成推理数据的生成范式。与Sky-T1不同，Bespoke-Stratos-17k直接使用DeepSeek-R1的原始推理轨迹，省略中间格式化步骤，因其轨迹已具备充分的连贯性和结构性，降低了预处理复杂度。数据集覆盖数学、编程、科学及谜题等多领域推理任务，通过拒绝采样机制剔除错误解答，确保样本可靠性。此外，团队引入gpt-4o-mini进行数学答案验证，显著减少假阴性案例，使有效数据占比大幅提升。数据集规模虽仅为17k条，却支撑了32B与7B两种参数规模的模型训练，并在AIME2024、MATH500等基准测试中展现出超越Sky-T1-32B的性能，体现了其高效蒸馏与泛化能力。

使用方法

该数据集主要面向研究人员与开发者，用于通过监督微调（SFT）蒸馏技术训练推理增强型语言模型。用户可直接从HuggingFace页面下载数据集，并参考Bespoke Labs提供的Curator工具示例代码（位于GitHub仓库）复现数据生成管线。训练方面，推荐基于Qwen-2.5系列基础模型（如32B-Instruct或7B-Instruct）进行微调，相关训练与评估代码可借鉴Sky-T1的开源实现。数据集格式包含问题、推理轨迹与答案三元组，适用于标准SFT流程。用户需注意，由于拒绝采样涉及随机性，具体问题实例可能略有差异，但整体分布保持一致。对于代码验证需求，建议集成Ray集群以提升效率，同时关注Curator工具后续更新的内置验证器功能。

背景与挑战

背景概述

Bespoke-Stratos-17k数据集由Bespoke Labs于2025年创建，旨在通过知识蒸馏技术提升大语言模型的推理能力。该数据集基于DeepSeek-R1的监督微调蒸馏数据，复现并改进了Berkeley Sky-T1的数据流水线，包含17,000个涵盖数学、编程、科学及谜题等领域的推理样本。其核心研究问题在于探索如何高效、低成本地从高性能教师模型中蒸馏推理能力，并验证蒸馏数据质量对模型性能的影响。数据集训练出的Bespoke-Stratos-32B模型在AIME2024、MATH500等基准测试中表现优异，部分指标超越o1-preview和DeepSeek-R1，证明了该数据流水线的有效性，对推理模型的小型化与实用化具有重要推动意义。

当前挑战

该数据集面临的核心挑战包括：1）推理蒸馏的可靠性问题，从DeepSeek-R1生成的推理轨迹需通过拒绝采样过滤错误解，但代码验证的复杂性成为瓶颈，Bespoke Labs借助Ray集群加速验证流程，并计划将代码执行验证器集成至Curator工具中；2）数据质量与效率的平衡，原始Sky-T1流水线中数学解的保留率仅25%，通过引入gpt-4o-mini辅助过滤，将正确解保留率提升至73%，但这一过程仍依赖外部模型，增加了成本与延迟；3）领域泛化性挑战，尽管数据集覆盖数学、编程、科学等多领域，但在LiveCodeBench Hard等极端任务上，7B模型的性能仍显著弱于大型模型，表明蒸馏数据在小规模模型上的推理能力迁移仍存在局限。

常用场景

经典使用场景

Bespoke-Stratos-17k 数据集的核心应用场景在于为大型语言模型提供高质量的推理蒸馏数据，以增强模型的数学、科学和编程推理能力。该数据集通过从 DeepSeek-R1 中提取推理轨迹，并结合来自 APPs、TACO、AIME、MATH、Olympiads 和 STILL-2 等权威数据源的问题，构建了涵盖 5k 编程、10k 数学和 1k 科学谜题的综合训练集。研究者常利用该数据集对 Qwen-2.5 系列模型进行监督微调，从而在 AIME2024、MATH500 和 GPQA-Diamond 等基准测试中显著提升性能，例如 Bespoke-Stratos-32B 在 AIME2024 上达到了 63.3% 的准确率。

解决学术问题

该数据集解决了大语言模型在复杂推理任务中性能受限的核心学术问题，尤其是如何通过低成本蒸馏方法高效提升模型对数学、科学和编程问题的深度推理能力。传统上，训练高性能推理模型依赖于大规模人工标注或昂贵的高阶模型输出，而 Bespoke-Stratos-17k 通过复用 DeepSeek-R1 的推理轨迹，并采用 GPT-4o-mini 进行智能筛选，将正确解的保留率从 25% 提升至 73%，显著降低了数据构建成本。这一方法验证了推理蒸馏的可扩展性，为学术界提供了经济高效的模型增强范式，推动了推理模型在资源受限场景下的广泛应用。

衍生相关工作

Bespoke-Stratos-17k 的发布催生了多项经典后续工作。一方面，研究者基于该数据集训练了 Bespoke-Stratos-32B 和 Bespoke-Stratos-7B 模型，并开源了完整的 Curator 数据筛选工具链，为社区提供了可复现的蒸馏流程。另一方面，该工作与 Berkeley Sky-T1 数据管线一脉相承，但通过采用 DeepSeek-R1 替代 QwQ 作为教师模型，以及优化拒绝采样逻辑，实现了性能与成本的双重突破。此外，该数据集还启发了对推理轨迹格式化方法的研究，证明了无需中间重格式化步骤即可保持轨迹的连贯性，为后续蒸馏工作提供了简洁高效的范例。