nemotron-gym-agentic-swe-pivot

该数据集是Harbor任务二进制数据集，包含3,978个任务，由nvidia/Nemotron-RL-Agentic-SWE-Pivot-v1（属于nvidia/Nemotron-Post-Training-v3集合的一部分）转换而来。每个数据行代表一个有效的Harbor任务二进制文件，包含两列：path（字符串类型）和task_binary（gzip压缩的tar文件）。数据转换使用了OpenThoughts-Agent的data.nemotron_gym框架。该数据集适用于文本生成任务，特别关注智能体、Harbor平台、强化学习和Nemotron相关应用。数据集的评估标准基于单步软件工程工具调用匹配，要求区分大小写并进行空格标准化。数据集采用Apache-2.0许可证发布。This dataset is the Harbor Task Binary Dataset, containing 3,978 tasks, converted from nvidia/Nemotron-RL-Agentic-SWE-Pivot-v1 (part of the nvidia/Nemotron-Post-Training-v3 collection). Each data row represents a valid Harbor task binary file, with two columns: path (string type) and task_binary (gzip-compressed tar file). The data conversion utilized the data.nemotron_gym framework from OpenThoughts-Agent. The dataset is suitable for text generation tasks, particularly focusing on agents, the Harbor platform, reinforcement learning, and Nemotron-related applications. The evaluation criteria are based on single-step software engineering tool call matching, requiring case sensitivity and space normalization. The dataset is released under the Apache-2.0 license.

原始信息汇总

数据集概述

• 名称: laion/nemotron-gym-agentic-swe-pivot
• 许可证: Apache-2.0
• 任务类别: 文本生成
• 标签: agent, harbor, reinforcement-learning, nemotron

数据集来源与转化

• 该数据集由 nvidia/Nemotron-RL-Agentic-SWE-Pivot-v1 转化而来，后者属于 nvidia/Nemotron-Post-Training-v3 系列。
• 总共有 3,978 个任务，每个任务以有效的 Harbor 任务二进制格式存储。
• 转化工具为 OpenThoughts-Agent 框架中的 data.nemotron_gym 模块。

数据格式

• 每一行包含两个字段：
  • path（字符串）
  • task_binary（gzip 压缩的 tar 文件）

评分方式

• 采用单步 SWE 工具调用匹配（区分大小写，但会进行空白符归一化处理）。

搜集汇总

数据集介绍

构建方式

该数据集源自NVIDIA发布的Nemotron-RL-Agentic-SWE-Pivot-v1，作为Nemotron后训练系列的重要组成部分。通过OpenThoughts-Agent框架中的data.nemotron_gym工具，原始数据被系统性地转化为Harbor任务二进制格式。转换过程中，每一行数据均构建为包含路径字符串与gzip压缩tar文件的二进制对，最终形成了涵盖3978个任务的专门数据集，旨在为强化学习环境下的智能体训练提供标准化基础。

特点

数据集的核心特点在于其任务二元结构，每个样本包含路径与任务二进制两大字段，便于高效加载与分布式处理。所有任务均以SWE工具调用匹配为评分标准，该标准采用区分大小写且忽略空白符差异的精确比对方式，确保了评估的严格性与一致性。作为Harbor格式的衍生数据，它天然适配基于agent的强化学习流水线，为训练复杂代码生成与调试智能体提供了高质量、低冗余的样本空间。

使用方法

用户可直接通过HuggingFace Datasets库加载该数据集，每条记录中的task_binary字段需借助Harbor库解析为可执行的环境实例。在强化学习训练中，智能体根据给定的软件工程问题生成工具调用序列，系统依据单步SWE工具调用匹配结果给予奖励信号。建议在使用时结合Nemotron后训练框架，利用其预置的评估脚本来实现从数据加载到模型优化的端到端工作流，从而高效复现或改进原始工作中的实验结论。

背景与挑战

背景概述

该数据集由LAION与NVIDIA联合构建，源于NVIDIA发布的Nemotron-RL-Agentic-SWE-Pivot-v1数据集，是Nemotron后训练系列的重要组成部分。数据集创建于大语言模型智能体强化学习快速发展的背景下，聚焦于软件工程（SWE）领域中的工具调用任务。通过将原始数据转换为Harbor任务二进制格式，该数据集提供了3,978个结构化任务，旨在支持智能体在软件工程场景下的决策与工具使用能力。其发布为探索基于强化学习的智能体训练提供了标准化基准，特别是在单步工具调用匹配这一核心任务上，对推动智能体在真实代码环境中的应用具有重要影响。

当前挑战

该数据集所解决的领域挑战在于，软件工程任务中智能体对工具调用的精准性要求极高，但现有数据集多缺乏细粒度、可复现的基准，难以支撑强化学习训练。构建过程中，挑战在于如何将原始NVIDIA数据集高效转换为Harbor任务二进制格式，同时保证任务路径与二进制内容的一致性和可验证性。此外，评分机制采用大小写敏感、空白符归一化的单步工具调用匹配，这一严格标准要求数据预处理需统一编码与空格规则，避免因格式歧义导致评分偏差。

常用场景

经典使用场景

nemotron-gym-agentic-swe-pivot数据集专为智能体强化学习与代码工程任务设计，其经典使用场景聚焦于软件工程中的工具调用智能体训练。通过将nvidia/Nemotron-RL-Agentic-SWE-Pivot-v1中的近4000个任务转换为Harbor格式的任务二元组，该数据集为研究者提供了标准化的训练基线，支持智能体在单步软件工程操作中学习匹配工具调用模式。在文本生成任务框架下，它巧妙地将代码世界中的工具使用抽象为强化学习信号，使得智能体能够从成功与失败的调用案例中迭代优化策略，尤其在需要精准API调用与命令执行的环境中展现出不可替代的实用性。

解决学术问题

该数据集有效解决了学术界在智能体代码工程领域中训练数据稀缺与评估标准不统一的长期痛点。传统上，研究者依赖手工标注的少数样例或模拟环境，难以覆盖软件工程任务中工具调用的多样性；而nemotron-gym-agentic-swe-pivot通过大规模、规范化的任务二元组，首次为单步工具调用匹配提供了公正的评估基准。它缓解了强化学习智能体在真实代码环境中奖励信号稀疏性问题，推动了策略梯度算法的稳定训练，并为跨模型迁移学习奠定了数据基础，其影响在于使智能体在软件自动修复、命令执行等场景中的性能评估变得可复现、可比较。

衍生相关工作

基于该数据集衍生了许多经典工作，其中最具代表性的是OpenThoughts-Agent框架下的数据转换与训练管线优化。nvidia/Nemotron-Post-Training-v3系列模型直接采用该数据集的格式进行强化学习微调，将Pivot点挖掘策略成功应用于代码智能体领域。后继研究进一步扩展了其应用范围，包括多步工具调用链的建模、分布式环境中智能体协作策略的学习等。该数据集的标准化任务二元组格式也启发了多个人工智能实验室开发类似的Harbor任务库，推动了代码生成与工具调用间鸿沟的弥合，成为智能体强化学习社区不可或缺的基石数据资源。