jescy525/archon-sft-v1-code

archon-sft-v1-code数据集是AETHER家族的监督微调（SFT）数据集，专注于代码相关任务。数据格式为JSONL ChatML消息，包含角色（如系统、用户、助手）、内容、任务类型（如函数调用、代码、推理链等）、来源数据集标识、语言和系统来源字段。应用了MinHash去重技术（阈值0.85）。数据集生成于2026年5月25日，主要来源于ise-uiuc/Magicoder-OSS-Instruct-75K（占85.7%）和m-a-p/CodeFeedback-Filtered-Instruction（占14.3%）。任务类型分布为：代码任务占51%，数学符号任务（从包含公式的代码中自动标记）占48%，protobuf_grpc任务占1.4%。尽管元数据标签显示支持英语和法语，但实际检测语言为100%英语。该数据集专用于代码指令跟随的监督微调，代表实际执行版本，与初始设计可能有所不同。The archon-sft-v1-code dataset is an AETHER family Supervised Fine-Tuning (SFT) dataset focused on code-related tasks. The data is in JSONL ChatML message format, including fields such as role (e.g., system, user, assistant), content, task type (e.g., function_calling, code, reasoning_cot), source dataset identifier, language, and system source. MinHash deduplication is applied with a threshold of 0.85. Generated on May 25, 2026, the dataset is primarily sourced from ise-uiuc/Magicoder-OSS-Instruct-75K (85.7%) and m-a-p/CodeFeedback-Filtered-Instruction (14.3%). The task type distribution is: 51% code, 48% math_symbolic (auto-tagged from code with formulas), and 1.4% protobuf_grpc. Although metadata tags indicate support for English and French, the actual detected language is 100% English. This dataset is designed for code instruction-following supervised fine-tuning and represents the executed version, which may differ from the initial design.

搜集汇总

数据集介绍

构建方式

archon-sft-v1-code数据集隶属于AETHER系列有监督微调数据集，聚焦于代码领域的指令跟随。该数据集通过一套名为prepare_sft.py的流水线生成，基于85.7%的ise-uiuc/Magicoder-OSS-Instruct-75K与14.3%的m-a-p/CodeFeedback-Filtered-Instruction两个真实来源进行采样。构建过程中应用了MinHash去重技术，相似度阈值为0.85，以确保数据多样性。每一条样本均采用ChatML格式的JSONL结构，包含messages、task_type、source_ds、lang和system_source等字段，便于下游任务适配。

特点

该数据集最显著的特点在于其任务类型的多元分布，经抽样统计发现，约51%的任务标记为‘code’，48%的任务被自动归类为‘math_symbolic’，另外1.4%涉及‘protobuf_grpc’，显示出代码与数学符号推理的深度融合。尽管元数据标注语言包含英语与法语，但实际抽样700条记录的检测结果显示100%为英语，语言字段统一为‘en’，反映了数据集在语言上的高度一致性。数据集规模介于10万至100万条之间，适合中等规模的模型微调。

使用方法

使用者可通过HuggingFace Datasets库加载该数据集，指定默认配置与训练分片（即code_shard_*.jsonl文件）。数据以JSONL格式存储，每条记录包含messages列表，可直接转换为ChatML格式用于对话模型的监督微调。task_type字段允许按任务类别筛选数据子集，例如仅保留code或math_symbolic类型以针对性训练。此外，source_ds字段追溯原始数据来源，便于溯源与引用，system_source字段则指示系统提示词的生成方��，为实验配置提供灵活性。

背景与挑战

背景概述

archon-sft-v1-code数据集是由AETHER家族于2026年5月发布的一款面向代码指令遵循的监督微调（SFT）数据集，旨在提升大语言模型在代码生成、函数调用及数学推理等结构化任务中的表现。该数据集由prepare_sft.py流水线生成，其资源主要来源于ise-uiuc/Magicoder-OSS-Instruct-75K和m-a-p/CodeFeedback-Filtered-Instruction两个高质量社区数据集，经MinHash去重（阈值0.85）处理，并采用ChatML格式组织。数据集以代码任务为核心，兼具数学符号推理与protobuf/grpc等专业领域样本，在代码智能与指令微调社区中具有重要参考价值，为新一代编程辅助模型的训练提供了标准化、高纯净度的训练语料。

当前挑战

该数据集面临的挑战主要体现在两个方面。首先，在领域问题层面，现有模型在复杂代码指令遵循中常出现逻辑链条断裂或上下文遗忘，而该数据集需解决如何通过混合多类型任务样本（如函数调用与数学符号推理）增强模型的泛化能力，并确保对非英语代码语料的支持。其次，在构建过程中，原始规划与实际采样存在偏差：尽管配置标注了英法双语，实际抽样显示全部700条记录均为英语，暴露出语言多样性缺失的问题；同时任务类型分布中“math_symbolic”的自动标注可能引入噪声，如何平衡人工校验与自动化流程以提升数据质量，仍是亟待攻克的难题。

常用场景

经典使用场景

Archon-SFT-v1-Code数据集专为代码领域的指令微调而设计，其核心应用场景聚焦于提升大语言模型在代码生成与理解任务上的能力。该数据集包含超过10万条以ChatML格式组织的对话样本，覆盖函数调用、代码编写、推理链条等多样化的任务类型，并经过MinHash去重处理以确保数据质量。研究者可基于此数据集对基础模型进行监督式微调，使其能够精准遵循用户关于代码生成的复杂指令，从而在编程助手、自动化脚本生成及代码补全等场景中展现出更优的指令跟随能力。

衍生相关工作

围绕Archon-SFT-v1-Code已衍生出多项经典学术工作，其中最具代表性的是AETHER系列模型的代码指令微调管线研究。该数据集作为AETHER家族SFT数据的代码子集，其构建流程中的MinHash去重阈值设定（0.85）、任务类型自动标注策略及ChatML格式规范被后续多个代码智能项目所借鉴。此外，该数据集还催生了关于代码与数学符号混合任务（即math_symbolic类型）的性能优化研究，推动了指令微调中跨模态知识对齐的理论发展。部分工作进一步基于此数据集分析了语言标签与真实语种分布之间的偏差，为多语言代码数据集的构建方法论提供了批判性视角。

数据集最近研究

最新研究方向

该数据集聚焦于代码指令微调的前沿方向，特别是通过混合多源代码指令数据（如Magicoder-OSS-Instruct-75K和CodeFeedback-Filtered-Instruction）来增强大语言模型的代码生成与函数调用能力。当前热点在于利用ChatML格式的多样性任务类型（如数学符号推理、protobuf/grpc）进行细粒度监督微调，以提升模型在复杂编程场景下的泛化性能。archon-sft-v1-code采用MinHash去重和任务类型标记，代表了从通用SFT向领域专用、高质量代码数据构建的演进趋势，对推动代码智能体的鲁棒性和实用性具有重要影响。