AweAI-Team/Scale-SWE-Distilled-DeepSeek-v4-Pro-High-41k

Scale-SWE数据集是一个大规模的软件工程任务数据集，来源于GitHub上的600多万个pull请求和23000多个仓库，覆盖了5200个不同的仓库。它包含10万个高质量实例，以及从DeepSeek v3.2模型提取的7.1万个轨迹（总计3.5B token）。数据集专注于Python编程语言，每个实例包括唯一标识符、仓库信息、工作目录、问题描述、补丁文件、测试用例等字段，旨在训练和评估编码代理在真实可执行任务上的性能。

The Scale-SWE dataset is a large-scale software engineering task dataset sourced from over 6 million pull requests and 23,000+ repositories on GitHub, covering 5,200 repositories. It contains 100,000 high-quality instances and 71,000 trajectories distilled from DeepSeek v3.2 (totaling 3.5B tokens). The dataset focuses on the Python programming language, with each instance including fields such as a unique identifier, repository information, working directory, problem statement, patch files, test cases, etc., aiming to train and evaluate coding agents on real executable tasks.

搜集汇总

数据集介绍

构建方式

该数据集源自大规模的GitHub生态数据挖掘，基于超过600万次拉取请求和23000余个仓库，遴选出5200个高质量仓库构建而成。研究团队从DeepSeek v3.2模型中蒸馏出71k条轨迹（合计3.5B token），并进一步利用DeepSeek-v4-Pro-High模型对Scale-SWE数据集进行精炼，最终生成41k条高质量蒸馏轨迹。每一条数据实例均包含唯一标识符、仓库信息、工作目录、预构建Docker镜像、真实补丁、问题描述以及合成复现脚本等丰富字段，确保数据具备可执行性与可复现性。

特点

该数据集的核心亮点在于其规模与质量的有机统一。首先，它覆盖了5200个真实GitHub仓库，是目前开源领域规模最大的可执行软件工程任务数据集之一。其次，数据实例均附带真实测试补丁与合成复现脚本，支持端到端的自动化评估流程。此外，数据集还提供了详尽的单元测试划分（FAIL_TO_PASS与PASS_TO_PASS），便于模型在修复前与修复后的性能对比。通过蒸馏DeepSeek系列先进模型的轨迹，数据集在保留任务真实性的同时，嵌入了高阶推理路径，显著提升了下游编码智能体的学习效率。

使用方法

使用者可通过Hugging Face平台直接下载该数据集，并借助配套的AweAgent工具链进行模型推理与评估。具体操作时，需根据每个实例的`pre_commands`字段在Docker容器内执行环境初始化，随后应用`f2p_patch`或`f2p_script`中的测试补丁。评估过程遵循标准化脚本，通过对比修复前后的单元测试通过情况衡量模型性能。该数据集支持微调与强化学习训练，研究者可将其作为监督式微调（SFT）或强化学习（RL）的训练语料，打造具备长程规划能力的编码智能体。

背景与挑战

背景概述

在软件工程领域，代码智能体的自动化能力正逐步成为提升开发效率的关键。2026年，由AweAI-Team主导的研究团队发布了Scale-SWE-Distilled-DeepSeek-v4-Pro-High-41k数据集，旨在通过大规模真实世界代码数据驱动代码智能体的演进。该数据集源自对超过600万个拉取请求和23000余个GitHub仓库的筛选与提炼，最终覆盖5200个仓库，并基于DeepSeek-v4-Pro-High模型对初版数据集进行蒸馏，生成了41k条高质量轨迹。核心研究问题聚焦于如何将代码智能体从有限测试场景推向大规模、复杂GitHub环境下的掌握水平。数据集在SWE-bench-Verified基准上达到了64%的性能，证明了其有效性，并为代码智能体的监督微调与强化学习提供了坚实的数据基础。

当前挑战

该数据集所应对的核心领域挑战在于，现有代码智能体多局限于小规模、可控的合成环境，难以在真实世界、大规模且高度异构的GitHub仓库中展现鲁棒性。构建过程中面临多重挑战：首先，从海量拉取请求中精准筛选出可重现、有代表性的软件工程任务，需要平衡数据质量与规模，避免噪声引入。其次，蒸馏过程对计算资源要求极高，71k轨迹的生成涉及约3.5B令牌的处理。此外，确保实例的多样性和覆盖度，同时维护任务的可执行性与测试脚本的完整性，是一项艰巨工程，例如部分高质量拉取请求缺乏作者提供的验证测试，需依赖合成单元测试生成器修补缺口。这些挑战共同构成了数据集构建的核心难题。

常用场景

经典使用场景

Scale-SWE-Distilled-DeepSeek-v4-Pro-High-41k数据集在软件工程与人工智能交叉领域扮演着基石角色，其经典使用场景聚焦于代码智能体的训练与评估。研究者利用该数据集的41k条高质量轨迹，对大型语言模型进行监督微调或强化学习，旨在让模型掌握从理解GitHub仓库中复杂问题陈述到生成准确代码补丁的全链路能力。例如，通过输入真实的错误报告和仓库上下文，模型需在模拟环境中完成代码定位、修改及验证，这一过程直接对应于SWE-bench-Verified等权威基准中的任务范式。该数据集以其源自超过600万条拉取请求和23000个仓库的庞大源，确保了训练实例的真实性与多样性，从而让智能体能够应对不同规模和复杂度的软件项目修复挑战。

衍生相关工作

该数据集孕育了多项开创性工作，包括DeNovoSWE数据集与AweAgent框架。DeNovoSWE扩展了长时域软件工程任务的高质量实例，支持从监督微调到强化学习的全流程训练；AweAgent则为模型推理提供了原生支持，并内置统一的评估脚本以实现结果可复现。这些衍生工作共同构建了一个从数据构建、模型训练到性能评估的完整生态，例如研究者通过AweAgent在Docker容器中复现修复任务，并利用Scale-SWE的测试补丁验证正确性。这一链条不仅加速了代码智能体的迭代优化，还推动了诸如上下文窗口扩展（256k序列）和多轮交互策略等关键技术的应用探索。

数据集最近研究

最新研究方向

该数据集聚焦于软件工程领域基于大规模真实代码仓库的智能体（coding agent）训练，通过从GitHub超600万条拉取请求和2.3万个仓库中蒸馏出高质量、长时序的软件工程任务实例（含DeepSeek-v4-Pro-High生成的4.1万条轨迹），推动代码智能体在复杂、现实场景下的推理与修复能力突破。当前前沿方向包括：利用其大规模可执行环境对智能体进行监督微调与强化学习，在SWE-bench-Verified上已达到64%的成功率；同时，该数据为开源社区提供了迄今最大规模的真实软件工程任务基准，激发了对代码生成、缺陷定位与自主修复等热点难题的深度研究。由于其覆盖5200个活跃仓库并支持长期时序决策，该数据集正成为连接大语言模型与真实软件工程实践的关键枢纽，对提升AI驱动的自动化开发工具具备深远影响。