jescy525/archon-sft-v1-reasoning

archon-sft-v1-reasoning是一个属于AETHER家族的监督微调（SFT）数据集，专注于推理任务组。该数据集采用JSONL ChatML消息格式，每条记录包含消息序列（角色包括系统、用户或助手，以及内容）、任务类型标签（如函数调用、代码、推理链等）、来源数据集ID、语言（主要为英语）和系统来源字段。应用了MinHash去重技术，阈值设为0.85。数据100%来源于microsoft/orca-math-word-problems-200k数据集，任务类型全部为math_symbolic，涉及数学文字问题推理。尽管元数据标签包含英语和法语，但实际检测显示100%为英语内容，语言字段一致标记为en。该数据集通过prepare_sft.py管道生成，旨在用于数学问题解决的监督微调，代表实际数据而非初始设计计划。archon-sft-v1-reasoning is an AETHER family supervised fine-tuning (SFT) dataset belonging to the reasoning group. It is formatted as JSONL ChatML messages with task_type tagging and MinHash deduplication applied (threshold 0.85). The schema includes fields for messages (with roles such as system, user, or assistant and content), task_type (e.g., function_calling, code, reasoning_cot), source_ds (indicating the original dataset ID), lang (primarily English), and system_source. The data is 100% sourced from microsoft/orca-math-word-problems-200k, with all task_type entries being math_symbolic, focusing on math word problems reasoning. Despite language tags including both English and French, sampled rows show 100% English content, and the lang field is consistently en. Generated via the prepare_sft.py pipeline, this dataset represents the actual SFT data for mathematical reasoning, distinct from initial planning documents.

搜集汇总

数据集介绍

构建方式

该数据集隶属于ARCHON SFT v1系列中的reasoning子集，专为提升语言模型的推理能力而构建。其数据源自microsoft/orca-math-word-problems-200k，经由定制化的pipeline（prepare_sft.py，生成于2026年5月25日）转换处理而成。原始数据被统一转化为ChatML消息格式，每条样本包含系统、用户及助手的对话轮次，并附加了任务类型（task_type）、原始数据集标识（source_ds）、语种（lang）及系统提示来源（system_source）等元信息。构建过程中采用了MinHash算法进行去重，相似度阈值设定为0.85，以确保数据冗余度降至最低。最终所有样本以JSONL格式存储，并分片为多个文件，便于高效加载与使用。

特点

该数据集以数学文字题为核心，任务类型高度集中，经抽样验证100%为'symbolic_math'类别，且实际语种均为英语，尽管标注了英法双语可能性。每条记录均遵循ChatML规范，结构化清晰，包含完整的对话上下文，适合进行指令微调。数据集中还保留了来源信息，便于追溯与审计。值得关注的是，数据集的实际构成与其规划文档可能存在差异，这源于生成流水线如实反映真实部署状态的设计理念，而非基于初始计划。这种构建逻辑使数据集具备良好的可溯源性和数据透明度。

使用方法

用户可通过Hugging Face Datasets库加载该数据集，其默认配置名为'default'，训练分割路径下包含多个以'reasoning_shard_*.jsonl'命名的分片文件。每条样本中'messages'字段可直接用于训练对话模型，若需按任务类型筛选数据，可利用'task_type'字段进行条件过滤，例如仅选择'math_symbolic'类型的样本。数据集中'source_ds'字段有助于追踪每一条样本的原始来源。数据格式为JSONL，建议用户按需读取分片，进行批处理或流式加载，以适配不同规模的计算资源。

背景与挑战

背景概述

该数据集archon-sft-v1-reasoning为AETHER家族监督式微调（SFT）数据集中的推理子集，创建于2026年5月25日，由相关研究团队通过预处理流水线生成，旨在为大语言模型提供高质量的推理能力训练数据。核心研究问题聚焦于如何通过结构化、任务特化的数据集增强模型在数学推理、符号计算等领域的表现。该数据集采用ChatML消息格式，并融入MinHash去重等预处理手段，确保数据质量。其影响力体现在为开源社区提供了一项专注于推理任务、且来源明确（如基于microsoft/orca-math-word-problems-200k）的SFT资源，推动了模型在数学符号推理方向的可复现研究。

当前挑战

当前数据集面临的主要挑战包括：1）领域问题层面，需要解决大语言模型在复杂数学推理任务中存在的逻辑一致性不足、符号操作易出错及多步推导链条脆弱等核心难题，要求训练数据不仅涵盖丰富的问题类型，还需具备清晰的逐步推理结构。2）构建过程中遭遇了数据标注与语言一致性挑战，尽管元数据标注支持多种语言，但实际采样结果表明所有样本均为英文，这可能削弱多语言推理任务的泛化能力；此外，虽完成了去重处理，但如何平衡数据多样性与去重阈值（如0.85）以避免损失细微语义变化，仍需进一步验证。

常用场景

经典使用场景

在大型语言模型的后训练阶段，监督微调（SFT）是赋予模型遵循指令与展现推理能力的关键环节。archon-sft-v1-reasoning 数据集专为数学符号推理场景设计，其经典用途在于构建和优化模型的链式思维（Chain-of-Thought）推理能力。该数据集包含约数十万条高质量的中等规模英文数学应用题样本，每条样本均以ChatML格式组织，包含系统、用户、助手的多轮对话结构，并附带任务类型标签（如 math_symbolic）。研究者通常利用该数据集对基础语言模型进行指令微调，使模型学会在数学问题中逐步推导、分解复杂逻辑，最终输出准确答案。其经过去重处理的干净语料与标准化的结构化格式，为可控的推理能力训练提供了坚实的基座。

实际应用

在实际产业应用中，具备可靠数学推理能力的语言模型赋能了从智能教育辅导到自动化数据分析的广泛场景。archon-sft-v1-reasoning 数据集所训练的模型可以直接嵌入在线学习平台，为学生提供逐步解析的数学解题辅导，帮助用户理解复杂问题背后的逻辑链条。在金融合规与科学计算领域，经过该数据集微调的模型能够辅助处理数值计算、公式推导与预算规划等任务，提升自动化决策的精准度。此外，该数据集产出的推理型模型也可以在编程辅助工具中承担算法逻辑验证的角色，将自然语言描述的数学问题转化为可执行的伪代码或符号表达式。其轻量且专注的特性使得模型易于部署在算力受限的边缘设备上，成为教育科技与智能助手产品迭代的重要驱动力。

衍生相关工作

自该数据集发布以来，其结构化推理语料特性激发了多项衍生研究。最直接的经典工作包括基于该数据集训练的 AETHER 系列模型，这些模型在数学推理基准测试中展现出显著的指令遵循与步骤分解能力。此外，研究者利用其干净的 ChatML 格式，探索了任务类型标签在条件微调中的作用，衍生出对数学符号推理与函数调用能力的联合训练范式。数据集的来源字段使得抽样分析与数据溯源研究成为可能，推动了关于训练数据组成对推理泛化影响的研究。更有工作将其作为蒸馏教师模型的训练源头，通过知识蒸馏技术将链式思维推理能力迁移至参数更小的学生模型，从而实现高性能推理模型在资源受限环境中的部署。该数据集还催生了针对多语言数学推理扩展的探索，虽然当前仅覆盖英文，但其结构化框架为跨语言迁移提供了天然适配接口。