nemotron-gym-arc-agi-transductive-v2
收藏资源简介:
数据集nemotron-gym-arc-agi-transductive-v2源自nvidia/Nemotron-RL-ARC-AGI-v1 [transductive]的Harbor任务二进制数据集,包含10,000个任务。数据以两列形式组织:path(字符串类型)和task_binary(gzip tar格式),通过OpenThoughts-Agent的data.nemotron_gym框架转换而来。适用于文本生成任务,与智能体、强化学习及Nemotron框架相关,可能用于抽象推理或代码生成场景。评估方式基于输出网格的精确匹配(规范的单行每行空格分隔格式)。与前一版本相比,此版本修复了终端代理的答案交付契约问题,明确指令代理通过shell heredoc将答案写入指定文件路径并进行验证,但评分逻辑保持不变。
The dataset nemotron-gym-arc-agi-transductive-v2 is derived from the Harbor task binary dataset nvidia/Nemotron-RL-ARC-AGI-v1 [transductive] and contains 10,000 tasks. The data is organized in two columns: path (string type) and task_binary (gzip tar format), converted via the OpenThoughts-Agent data.nemotron_gym framework. It is suitable for text generation tasks, associated with agents, reinforcement learning, and the Nemotron framework, potentially for abstract reasoning or code generation scenarios. Evaluation is based on exact matching of output grids (in a standardized single-line, space-separated format). Compared to the previous version, this version fixes the answer delivery contract issue for terminal agents, explicitly instructing agents to write answers to a specified file path via shell heredoc and verify them, but the scoring logic remains unchanged.
数据集概述
- 数据集名称:
laion/nemotron-gym-arc-agi-transductive-v2 - 许可证:Apache-2.0
- 任务类别:文本生成 (text-generation)
- 标签:agent, harbor, reinforcement-learning, nemotron
数据集构成
- 任务数量:10,000 个任务 (task-binary 数据集)
- 数据来源:转换自
nvidia/Nemotron-RL-ARC-AGI-v1 [transductive],属于nvidia/Nemotron-Post-Training-v3系列的一部分。 - 列结构:包含
path(字符串类型) 和task_binary(gzip tar 格式) 两列。 - 转换工具:使用 OpenThoughts-Agent 框架的
data.nemotron_gym模块进行转换。
评分标准
- 评估方式:基于精确的输出网格匹配 (exact output-grid match)。
- 输出格式:采用规范的每行一个序列、空格分隔的格式 (canonical one-row-per-line space-separated format)。
版本变更 (v2 vs v1)
- 修复问题:针对终端智能体的“答案交付合约”进行了修复。
- 先前版本问题:在 v1 版本中,指令仅告知智能体“生成什么”,但未说明“如何提交”。导致 1 轮对话的
terminus-2智能体将答案作为聊天回复输出,而非写入评分文件,使得大多数试验因“答案文件缺失”而得分为 0。 - 修复内容:v2 版本明确指示智能体通过 shell heredoc 将答案写入评分器的文件路径,并进行验证。评分逻辑本身未作其他更改。




