nemotron-gym-agentic-function-calling-pivot-v2

该数据集是一个Harbor任务二进制数据集，包含9,579个任务，由nvidia/Nemotron-RL-Agentic-Function-Calling-Pivot-v1转换而来，属于nvidia/Nemotron-Post-Training-v3集合的一部分。数据集使用OpenThoughts-Agent的data.nemotron_gym框架进行转换，主要包含两列数据：path（字符串类型）和task_binary（gzip tar格式）。该数据集设计用于单步工具调用匹配（function_call）或LLM判断（message）的评估任务。与前一版本相比，v2版本修复了终端代理的答案交付契约问题：明确指示代理通过shell heredoc将答案写入评分器指定的文件路径并进行验证，而不仅仅是告知需要生产什么内容，解决了之前版本因代理以聊天回复形式输出答案导致评分文件缺失的问题。数据集适用于文本生成任务，特别关注代理、强化学习等应用场景。This dataset is a Harbor task binary dataset containing 9,579 tasks, converted from nvidia/Nemotron-RL-Agentic-Function-Calling-Pivot-v1, and is part of the nvidia/Nemotron-Post-Training-v3 collection. It was converted using the data.nemotron_gym framework from OpenThoughts-Agent, and primarily includes two columns: `path` (string type) and `task_binary` (gzip tar format). This dataset is designed for evaluation tasks involving single-step tool call matching (function_call) or LLM judgment (message). Compared to its prior version, the v2 release fixes the answer delivery contract issue for terminal agents: it explicitly instructs agents to write answers to the file path specified by the scorer via shell heredoc and conduct verification, rather than merely notifying what content needs to be generated. This resolves the problem of missing scoring files in previous versions caused by agents outputting answers in the form of chat replies. The dataset is applicable to text generation tasks, with a particular focus on application scenarios such as AI agents and reinforcement learning.

原始信息汇总

数据集概述

数据集名称：laion/nemotron-gym-agentic-function-calling-pivot-v2

许可证：Apache-2.0

任务类别：文本生成

标签：agent, harbor, reinforcement-learning, nemotron

数据集规模与来源

• 任务数量：9,579个任务（Harbor任务二进制格式）
• 来源：基于 nvidia/Nemotron-RL-Agentic-Function-Calling-Pivot-v1 转换而来，属于 nvidia/Nemotron-Post-Training-v3 的一部分

数据格式

• 列结构：包含 path（字符串）和 task_binary（gzip tar格式）
• 转换框架：使用 OpenThoughts-Agent 的 data.nemotron_gym 框架完成转换

评估方式（Grading）

• 单步评估：基于工具调用匹配（function_call）或LLM裁判（message）进行评分

版本变更说明

• 改进目标：修复终端代理的答案交付合约问题
• 先前版本问题：旧版本仅告知代理交付什么，但未说明如何提交；导致1回合的 terminus-2 代理以聊天回复形式输出答案，而非写入评分文件，因此多数试炼因“答案文件缺失”得分为0
• 本版本改进：指令明确要求通过 shell heredoc 将答案写入评分文件路径（并进行验证），评分逻辑无其他变化

搜集汇总

数据集介绍

构建方式

该数据集源自NVIDIA发布的Nemotron-RL-Agentic-Function-Calling-Pivot-v1，作为Nemotron-Post-Training-v3系列的一部分，经过Harbor任务二值化转换而来，共计包含9,579个独立任务。构建过程依托OpenThoughts-Agent框架中的data.nemotron_gym工具，将原始数据转换为包含路径（path）与任务二值化压缩包（task_binary）两列的结构化格式，确保了数据的高效存储与后续调用。

特点

本数据集的核心特点在于对终端Agent的答案交付协议进行了关键修复。前一版本仅指示Agent应产出何种内容，却未明确提交方式，导致单轮操作中Agent常以聊天回复形式输出答案，而非写入评分文件，造成多数试验因“答案文件缺失”而得零分。新版指令通过shell heredoc明确引导Agent将结果写入评分器的指定文件路径并校验，显著提升了任务完成的有效性与评分可靠性，评分逻辑则保持原样。

使用方法

该数据集适用于文本生成任务，特别针对强化学习与Agent函数调用场景设计。使用者可借助HuggingFace Datasets库直接加载，通过访问path与task_binary列获取任务路径与二进制数据。在评估阶段，单步任务采用工具调用匹配（function_call）及LLM裁判（message）两种方式进行评分，确保对Agent执行结果的全面衡量与反馈。

背景与挑战

背景概述

nemotron-gym-agentic-function-calling-pivot-v2数据集由LAION团队基于NVIDIA的研究成果构建，于近期发布，旨在推动智能体（agent）在函数调用场景下的强化学习训练。该数据集包含9,579个二元任务（task-binary），源自NVIDIA的Nemotron-RL-Agentic-Function-Calling-Pivot-v1数据集，并作为NVIDIA Nemotron后训练系列（v3）的一部分。核心研究问题聚焦于如何通过强化学习提升语言模型在工具调用与多轮交互中的自主决策能力。该数据集在智能体领域具有重要影响力，为终端代理（terminal agent）的稳定训练提供了标准化基准，弥合了模型输出与任务执行之间的鸿沟。

当前挑战

该数据集主要应对两大挑战。领域问题层面，智能体在函数调用中常因指令不明确导致执行失败，例如终端代理倾向于将答案以聊天回复形式输出，而非按规范写入评分文件，造成评分漏洞。构建过程层面，初始版本（v1）存在“答案交付契约”缺陷，代理虽知需产生答案，却缺乏具体提交机制的指导，导致多数评分归零。本版本通过显式指令（如使用shell heredoc写入评分文件路径并验证）固定了交付流程，大幅提升了训练可靠性与有效性。

常用场景

经典使用场景

该数据集专为训练和评估具备函数调用能力的智能体（Agent）而设计，其经典使用场景聚焦于强化学习框架下的多步推理与工具调用任务。通过将结构化的函数调用指令嵌入对话生成流程，该数据集能够有效模拟智能体在真实环境中根据用户需求动态选择并执行外部API或工具的过程，从而推动文本生成模型向自主决策与交互式任务求解方向演进。

解决学术问题

nemotron-gym-agentic-function-calling-pivot-v2数据集系统性地解决了智能体在复杂任务中“答案交付协议”不明确导致的学术瓶颈。前期版本因缺乏对终端智能体输出格式的严谨约束，造成高比例的零分评分现象。本数据集通过显式规范化写入文件路径与验证机制，使研究者得以精确度量模型的工具调用准确率与消息质量，为构建可验证、可复现的智能体行为评估基准提供了关键支撑，显著推动了函数调用型强化学习研究的发展。

衍生相关工作

基于该数据集，衍生了一系列关于智能体训练协议优化与行为对齐的经典工作，包括但不限于：改进型指令跟随策略（如显式输出约束的强化学习奖励设计）、多智能体协同调用的工具链集成方法，以及针对非确定性函数调用场景的鲁棒性训练范式。此外，该数据集作为NVIDIA Nemotron后训练系列的核心组件，也为开源社区中智能体评估框架（如OpenThoughts-Agent）的标准化与可扩展性探索提供了重要参考。