Nemotron-SFT-ARC-AGI-v1-prompt-only

Nemotron-SFT-ARC-AGI-v1-prompt-only 是一个专门从源数据集 `nvidia/Nemotron-SFT-ARC-AGI-v1` 中提取提示词（prompt）部分而创建的数据集。该数据集仅包含提示词内容，旨在为大型语言模型的后训练（post-training）阶段提供高质量的指令数据。核心数据文件 `prompts.csv` 包含 252,069 条记录，每条记录包括主要提示词（prompt）、单独的系统提示词（system_prompt）以及结构化的工具定义（tools，当源数据中定义了可用工具时），其中嵌套数据结构以 JSON 格式编码存储在 CSV 单元格内。数据集还附带了摘要文件（`summary.md`）和空值/空行记录文件（`null_or_empty_rows.md`），分别用于提供数据提取的统计信息（如源行数、提取行数、差异计数、失败提示词计数）以及标识提取结果为空或无效的行索引。该数据集由 Nemotron 后训练 v3 提示词提取工作流生成，适用于指令微调（SFT）、提示工程、工具调用能力评估等自然语言处理任务，尤其服务于基于 Nemotron 框架的模型开发与优化。Nemotron-SFT-ARC-AGI-v1-prompt-only is a dataset created by extracting only the prompt portions from the source dataset `nvidia/Nemotron-SFT-ARC-AGI-v1`. It contains solely prompt content and is designed to provide high-quality instruction data for the post-training phase of large language models. The core data file `prompts.csv` includes 252,069 extracted records, each comprising: a main prompt, a separate system prompt, and structured tool definitions (tools, when available tools are defined in the source data), with nested data structures encoded in JSON format within CSV cells. The dataset also comes with a summary file (`summary.md`) and a null/empty rows record file (`null_or_empty_rows.md`), which provide statistical information on data extraction (such as source row count, extracted row count, difference counts, failed prompt counts) and identify row indices where extraction results are empty or invalid, respectively. Generated by the Nemotron post-training v3 prompt extraction workflow, it is suitable for natural language processing tasks like instruction fine-tuning (SFT), prompt engineering, and tool-calling capability evaluation, particularly serving model development and optimization within the Nemotron framework.

原始信息汇总

数据集概览

• 名称：Nemotron-SFT-ARC-AGI-v1-prompt-only
• 来源数据集：nvidia/Nemotron-SFT-ARC-AGI-v1
• 标签：nemotron、prompt-only、post-training

数据内容

该数据集是从来源数据集 nvidia/Nemotron-SFT-ARC-AGI-v1 中提取的仅包含提示（prompt）的记录。主要文件为 prompts.csv，每条记录包含以下字段：

• prompt：提示内容
• system_prompt：系统提示（分离存储）
• tools：当源数据行定义了可用工具时，结构化存储的工具信息（嵌套值在CSV单元格内以JSON格式编码）

此外，数据集还包含以下辅助文件：

• summary.md：源数据行数、提取行数、行数差异及失败提示数量汇总
• null_or_empty_rows.md：提示提取产生空或null提示的行索引

数据规模

• 提取行数：252,069
• 失败提示行数：0
• 行数变化：0

上传来源

由 jamesdborin 通过 Nemotron Post-Training v3 提示提取器工作流上传。

搜集汇总

数据集介绍

构建方式

该数据集源自NVIDIA发布的Nemotron-SFT-ARC-AGI-v1，经过后训练过程的提示词提取工作流处理，仅保留原始数据中的提示词部分。具体而言，通过从每一源行中提取出独立的提示词记录，形成结构化的prompts.csv文件，其中包含提示词、系统提示词以及结构化的工具定义（若源行定义了可用工具）。嵌套值在CSV单元格内以JSON编码形式存储，确保了复杂信息的完整性。此外，数据集还附带了summary.md和null_or_empty_rows.md文件，用于记录提取统计信息及空提示词行的索引，从而保证了数据构建过程的透明性与可追溯性。

特点

该数据集最显著的特征在于其“仅提示词”的精简设计，剔除了交互历史与响应内容，专注于模型输入侧的优化与评估。包含25万余条提取记录，且提取失败率为零，展示了构建流程的高效与可靠性。数据集中系统提示词与工具定义的保留，使其特别适用于探究提示词结构对模型行为影响的场景。同时，嵌套值的JSON编码处理，在保持CSV轻量性的同时，保留了复杂语义信息，为细粒度的提示工程分析提供了坚实的数据基础。

使用方法

使用者可直接加载prompts.csv文件进行训练或评估，利用其中的提示词、系统提示词及工具定义字段作为模型输入。适合用于后训练阶段的提示词优化实验，例如测试不同系统提示词对模型推理效果的影响，或验证工具调用场景下提示词格式的健壮性。由于数据集已预先清洗并确保无空提示词行，用户可省去大量数据预处理工作。建议配合NVIDIA的Nemotron后训练框架使用，以复现或扩展原始工作流中的提示词提取与分析流程。

背景与挑战

背景概述

Nemotron-SFT-ARC-AGI-v1-prompt-only数据集由NVIDIA的研究团队于近期创建，旨在为后训练阶段的大语言模型提供结构化提示数据。该数据集从原始的nvidia/Nemotron-SFT-ARC-AGI-v1中提取，专注于保留系统提示、用户提示及工具调用结构，从而支持模型在复杂推理与工具使用场景下的微调。背景源于大语言模型在抽象推理任务（如ARC-AGI挑战）中表现欠佳，亟需高质量、任务对齐的提示数据以提升模型的泛化能力。该数据集通过精细化的提示提取流程，生成了超过25万条记录，为后续的指令微调与对齐研究奠定了数据基础。其发布在HuggingFace平台上，由jamesdborin上传，体现了NVIDIA在模型后训练与数据工程领域的前沿探索。

当前挑战

该数据集面临的主要挑战包括：首先，领域问题层面，ARC-AGI任务要求模型具备类似人类的抽象推理能力，而现有大语言模型在组合泛化与新颖模式识别上存在显著瓶颈，导致模型难以从有限示例中推导出通用规则。其次，数据集构建过程中，提示提取需确保系统提示、工具调用与用户指令的结构完整性，原始数据中的格式歧义或嵌套JSON解析易引发信息丢失，使得提取后的提示与源行对齐困难。此外，数据规模达25万条，需保证提取效率与一致性，同时避免空提示或结构损坏，这对自动化处理流程的鲁棒性提出了严峻考验。

常用场景

经典使用场景

Nemotron-SFT-ARC-AGI-v1-prompt-only 数据集专注于抽象推理与视觉理解任务的微调阶段，尤其适用于提升大型语言模型在未见模式上的泛化能力。其经典使用场景在于从复杂的视觉推理问题中提取结构化提示，结合系统指令与工具定义，以引导模型完成类似 ARC-AGI 挑战的图灵测试式推理任务。通过纯提示形式的监督微调，该数据集为模型提供了推理链的显式引导，从而在保持零样本或少样本能力的同时，强化对抽象规则的先天理解。

实际应用

在实际应用中，该数据集广泛服务于需要强推理能力的智能系统开发，例如自适应教育平台中的概念推理题自动解答、工业视觉检测中的异常规则识别，以及新兴人机协作场景下基于自然语言指令的复杂操作规划。借助其纯提示结构，开发者可将其集成至对话式 AI 的推理模块，使模型面对未见过的问题时仍能调用抽象的认知框架，显著提升在弱标注环境下的决策稳健性。

衍生相关工作

基于 Nemotron-SFT-ARC-AGI-v1-prompt-only 衍生的重要工作包括 (1) 面向元学习的提示增强策略，通过动态组合该数据集的提示模板以生成新型推理路径；(2) 跨模态推理蒸馏框架，利用其结构化提示作为教师信号训练轻量级推理网络；(3) 基于失败案例分析的逆向推理强化方法，从 null 或空提示记录中挖掘模型认知盲区。这些工作进一步拓展了该数据集在认知架构探索与 adversarial robustness 研究中的影响力。