Nemotron-RL-Instruction-Following-Structured-Outputs-v2

Nemotron-RL-Instruction-Following-Structured-Outputs-v2是一个由NVIDIA Corporation创建的合成文本数据集，主要用于训练和评估模型在结构化输出生成和工具调用提取方面的指令跟随能力。数据集包含三个核心分区：Split 1（直接生成）专注于测试模型在JSON、YAML和XML格式上进行自由形式文本结构化输出的能力；Split 2（多样化任务）在Split 1基础上增加了TOML和CSV输出格式，并扩展了问题类型，包括从文档提取、格式转换、多步转换、多步提取、逼真数据生成和错误校正；Split 3（工具调用提取）专注于测试模型使用专用提取工具进行文档摘要和提取的能力，评估其匹配复杂模式以进行工具调用的能力。数据集采用CC BY 4.0许可证，适用于商业或非商业用途，预期用途是强化学习训练，特别是针对结构化输出和工具使用任务。数据收集和标注方法为合成和自动化混合方式，数据模态为文本，存储格式为JSONL。总规模在10K到100K样本之间，具体为Split 1包含28,145个样本（约0.278 GB），Split 2包含25,768个样本（约0.398 GB），Split 3包含8,783个样本（约0.269 GB）。该数据集是其前身nvidia/Nemotron-RL-instruction_following-structured_outputs的直接后继版本，可作为替代或补充。Nemotron-RL-Instruction-Following-Structured-Outputs-v2 is a synthetic text dataset created and owned by NVIDIA Corporation, primarily used for training and evaluating models in instruction following for structured output generation and tool call extraction. The dataset consists of three core splits: Split 1 (direct generation) focuses on testing the models ability to generate free-form text structured outputs in JSON, YAML, and XML formats, involving patterns of varying complexity and presentation. Split 2 (diverse tasks) builds upon Split 1 by adding TOML and CSV output formats and expanding problem types, including direct extraction from documents, format conversion, multi-step conversion from known data, multi-step extraction from unrelated contexts, realistic data generation based on schemas, and error correction of corrupted outputs to match given schemas. Split 3 (tool call extraction) focuses on testing the models ability to use specialized extraction tools for document summarization and extraction, evaluating its correctness in matching complex and deep patterns for tool calls, with tasks including both with and without distractors. The dataset is licensed under CC BY 4.0, suitable for commercial or non-commercial use. Its intended use is reinforcement learning training, particularly for structured outputs with diverse output types and tasks involving tool usage. Data collection and annotation methods are a mix of synthetic and automated approaches. The data modality is text, stored in JSONL format, with a structure containing text and metadata. The total dataset size ranges between 10K to 100K samples, specifically Split 1 contains 28,145 samples (approximately 0.278 GB), Split 2 contains 25,768 samples (approximately 0.398 GB), and Split 3 contains 8,783 samples (approximately 0.269 GB), with further subdivisions by output format or tool patterns within each split. This dataset is a direct successor to its predecessor nvidia/Nemotron-RL-instruction_following-structured_outputs and can serve as a replacement or supplement.

原始信息汇总

数据集概述

数据集名称：Nemotron-RL-Instruction-Following-Structured-Outputs-v2

所有者：NVIDIA Corporation

创建与修改日期：创建于2026年4月15日，最后修改于2026年4月27日

许可证：CC BY 4.0

语言：英语

任务类别：文本生成

规模：10,000 < 样本数 < 100,000

版本：此数据集是 nvidia/Nemotron-RL-instruction_following-structured_outputs 的直接后续版本，可作为其替代或补充。

---

数据集拆分与量化

数据集包含三个拆分，总计 62,696 个样本，总大小约 944.42 MB（约 0.945 GB）。

拆分1：直接生成 (Direct Generation)

• 描述：测试模型在JSON、YAML和XML数据上执行自由形式结构化输出的能力，包含不同复杂度和呈现方式的 schema。
• 样本总数：28,145
• 总大小：277.63 MB (0.278 GB)

子集	样本数	大小
JSON 输出	9,382 (33.3%)	91.53 MB
XML 输出	9,382 (33.3%)	94.10 MB
YAML 输出	9,381 (33.3%)	92.00 MB

拆分2：多样化任务 (Diversified Tasks)

• 描述：增加TOML和CSV两种输出格式，问题类型扩展至文档直接提取、格式间翻译、基于已知数据的多步翻译、无关上下文的多步提取、仅依据Schema生成逼真数据、以及针对给定Schema的纠错。
• 样本总数：25,768
• 总大小：398.07 MB (0.398 GB)

子集	样本数	大小
JSON 输出	6,734 (26.1%)	93.64 MB
YAML 输出	5,525 (21.4%)	83.06 MB
XML 输出	5,173 (20.1%)	82.35 MB
TOML 输出	4,177 (16.2%)	69.73 MB
CSV 输出	4,159 (16.1%)	69.29 MB

拆分3：工具调用提取 (Tool-Calling Extraction)

• 描述：要求模型使用专用提取工具对文档进行摘要和提取，测试模型在有/无干扰项的情况下正确匹配复杂和深层Schema以进行工具调用的能力。
• 样本总数：8,783
• 总大小：268.72 MB (0.269 GB)

子集	样本数	大小
Random wrapper tool schema	3,478 (39.6%)	108.72 MB
Multi-key object tool schema	2,600 (29.6%)	74.97 MB
Extraction wrapper tool schema	2,162 (24.6%)	67.97 MB
Direct tool schema	543 (6.2%)	17.06 MB

---

数据特征

• 数据收集方法：合成
• 标注方法：混合（合成 + 自动）
• 数据模态：文本
• 数据格式：JSONL（包含文本和元数据）

---

预期用途

该数据集适用于强化学习训练，以提升指令遵循能力，特别是在多种输出类型的结构化输出以及工具使用的结构化提取任务中。

---

参考配置

各拆分对应的NeMo-Gym配置文件：

1. 拆分1：structured_outputs_json_yaml_xml_v1.yaml
2. 拆分2：structured_outputs_v3.yaml
3. 拆分3：structured_outputs_v4.yaml

搜集汇总

数据集介绍

构建方式

该数据集由NVIDIA Corporation精心合成，旨在强化模型在指令遵循与结构化输出方面的能力。数据集的构建基于NeMo-Gym框架中的配置文件，分为三个核心分片：第一分片聚焦于直接生成，涵盖JSON、YAML和XML格式，通过改变模式复杂度与呈现方式来测试模型的自由文本结构化输出能力。第二分片扩展了任务多样性，新增TOML和CSV格式，并引入文档直接提取、格式间翻译、基于已知数据的多步翻译、无关上下文的提取、仅模式生成以及错误纠正等任务类型。第三分片专注于工具调用提取，要求模型利用专用工具进行文档摘要与提取，验证其在复杂深层模式下的工具调用准确性，包括存在干扰项的场景。所有数据均以JSONL格式存储，包含文本与元数据，确保高效处理。

特点

该数据集具备显著的结构化输出多样性，覆盖JSON、YAML、XML、TOML和CSV五种主流格式，满足广泛的应用需求。其任务设计层次分明，从直接生成到多样化任务再到工具调用提取，逐步提升复杂度，全面评估模型的指令遵循能力。特别地，工具调用分片引入了随机包装器、多键对象、提取包装器和直接工具等多种模式，并结合干扰项，模拟真实世界的复杂交互场景。数据规模庞大，总分片样本量超过62,000条，每个分片内部子集分布均衡，确保统计可靠性。此外，数据集采用CC BY 4.0许可，适用于商业与非商业用途，具备高度可用性。

使用方法

该数据集主要面向强化学习训练，尤其适用于提升模型在结构化输出与工具使用方面的指令遵循能力。开发者可直接将其作为现有数据集nvidia/Nemotron-RL-instruction_following_structured_outputs的替代或补充。使用时应按分片加载数据，每个样本包含文本输入与对应的结构化输出标签，支持多种格式的生成任务。建议结合NeMo-Gym配置文件进行微调或评估，以针对性优化模型性能。数据集的合成与自动标注方法保证了标签的准确性与一致性，开发者可根据具体场景选择适当分片，例如直接生成用于基础能力验证，多样化任务用于泛化性测试，工具调用分片则适用于复杂交互场景的模拟训练。

背景与挑战

背景概述

随着大语言模型在指令遵循与结构化输出能力上的需求日益增长，如何评估并提升模型对多种格式（如JSON、YAML、XML、TOML、CSV）及工具调用场景下结构化输出的精确性，成为自然语言生成领域的重要研究方向。由NVIDIA于2026年4月推出的Nemotron-RL-Instruction-Following-Structured-Outputs-v2数据集，正是针对这一核心问题设计的合成数据集。该数据集包含三个子集：直接生成、多样化任务与工具调用提取，共涵盖超过6.2万条结构化输出样本，为强化学习训练提供了丰富、多样且具有挑战性的基准。作为前序版本nvidia/Nemotron-RL-instruction_following_structured_outputs的直接后继，该数据集通过引入更多输出格式、任务类型及复杂工具调用场景，显著拓展了结构化指令遵循的评估维度，对推动大语言模型在商业与非商业场景中实现可靠的结构化输出具有重要影响力。

当前挑战

该数据集所解决的领域挑战集中于大语言模型在结构化输出指令遵循中的两大瓶颈：其一，模型需应对从单一格式生成到多格式间转换、从文档提取到错误修正等多样化任务的综合能力，这对模型理解复杂模式、处理无关干扰项以及保持输出格式一致性提出了极高要求；其二，在工具调用场景中，模型需精准匹配嵌套模式与随机包装的抽象工具模式，并能在存在干扰项时仍正确提取信息。构建过程中，合成数据的自动化生成虽确保了规模与多样性，但如何设计涵盖不同复杂度与呈现方式的模式、如何平衡各子集样本分布（如工具调用中直接模式仅占6.2%），以及如何模拟真实世界中的错误输出与多步转换场景，均构成显著挑战，要求数据集在质量与代表性间取得精细平衡。

常用场景

经典使用场景

在自然语言处理与强化学习交叉领域，Nemotron-RL-Instruction-Following-Structured-Outputs-v2数据集堪称指令遵循与结构化输出能力训练的标杆资源。其经典使用场景聚焦于两大核心任务：一是多格式结构化输出生成，涵盖JSON、YAML、XML、TOML及CSV等主流数据序列化格式，要求模型根据给定模式的复杂程度与呈现方式，精准产出符合规范的文本；二是基于工具调用的信息抽取，模型需在包含干扰项的真实文档环境中，利用专用抽取工具完成摘要生成与深层模式匹配。该数据集尤其适用于大规模语言模型的偏好优化与强化学习微调，通过分阶段递增的任务难度，系统性地评估并提升模型在细粒度指令理解、格式约束遵循以及多步推理转化方面的综合能力。

实际应用

在实际产业应用中，该数据集导引的技术能力已渗透至多个高精度需求场景。例如，在可解释的智能体系统中，模型需将分析结果自动序列化为符合特定接口规范的JSON或YAML配置，以便无缝对接下游决策引擎；在知识管理平台中，从非结构化文档中抽取结构化摘要并输出为CSV或TOML格式，大幅提升了数据流水线的自动化程度。金融科技领域，它支撑着合规报告的自动生成与错误修正——当数据输出偏离预定Schema时，模型可自主识别偏差并发起修正流程。此外，在多语言客户服务与DevOps领域，通过工具调用模式实现的准确API交互，使得大模型能够可靠地触发外部系统操作，显著降低了人工干预成本与集成错误率。

衍生相关工作

该数据集的问世催生了一系列奠基性后续研究。其前身nvidia/Nemotron-RL-instruction_following-structured-outputs已为结构化输出强化学习铺平道路，而本文集的第二版更在任务广度与格式多样性上实现跃升，直接启发NeMo-Gym社区开发出与其配套的多个配置驱动型奖励服务器框架。研究者在此基础上拓展出跨格式翻译（如XML到YAML的语义映射）、多步推理抽取（在无关上下文中提取符合Schema的数据）以及错误校正（自动修复格式异常的生成内容）等衍生任务。进一步地，该数据集被用于训练具备工具感知能力的对话模型，推动了LLM在API编排、低代码开发平台及自动化测试生成等方向的应用落地，其影响力已从纯学术评估延伸至工业级工程实践。