nemotron-code-oracle-filtered-qwen3.5-122b-131k-opencode-traces

Agent trace dataset 是一个包含智能体交互轨迹的数据集。数据集的核心列（如 prompt_token_ids、completion_token_ids、logprobs）以列表的列表形式存储了服务引擎直接输出的原始词元ID，每个内部列表对应智能体交互中的一个回合。为了准确地将这些词元ID解码为文本，必须使用模型服务时所用的特定分词器（来源为 Qwen/Qwen3.5-122B-A10B-FP8），使用通用同系列分词器可能导致解码错误。数据集适用于对智能体行为进行细粒度分析，例如研究模型在多轮交互中的生成模式、词元级概率分布或作为智能体轨迹分析的基准数据源。分词器的具体来源信息记录在 tokenizer_provenance.json 文件中。

Agent trace dataset is a dataset containing agent interaction trajectories. The core columns (such as prompt_token_ids, completion_token_ids, logprobs) store the raw token IDs directly output by the service engine in the form of lists of lists, where each inner list corresponds to a turn in the agent interaction. To accurately decode these token IDs into text, it is essential to use the specific tokenizer used during model serving (sourced from Qwen/Qwen3.5-122B-A10B-FP8), as using a generic tokenizer from the same series may lead to decoding errors. The dataset is suitable for fine-grained analysis of agent behavior, such as studying the models generation patterns in multi-turn interactions, token-level probability distributions, or serving as a benchmark data source for agent trajectory analysis. Detailed provenance information for the tokenizer is recorded in the tokenizer_provenance.json file.

原始信息汇总

数据集概述

• 数据集名称：Agent trace dataset
• 页面地址：https://huggingface.co/datasets/penfever/nemotron-code-oracle-filtered-qwen3.5-122b-131k-opencode-traces
• 标签：agent-traces, literal-tokens

核心数据列说明

数据集包含以下关键列，存储的是服务引擎返回的逐字词元（verbatim tokens）：

• prompt_token_ids
• completion_token_ids
• logprobs

这些列的数据结构为列表的列表（list-of-lists），其中每个内部列表对应智能体（agent）的一个步骤（turn）。

解码注意事项

必须使用与服务模型完全相同的分词器，否则解码出的词元文本会变为乱码。通用同族分词器无法正确解码。

• 服务模型/分词器来源：Qwen/Qwen3.5-122B-A10B-FP8
• 引擎报告的服务模型名称：1783165262829415
• 分词器来源参考文件：tokenizer_provenance.json（提供机器可读的分词器出处信息）

解码示例代码

python from transformers import AutoTokenizer

tok = AutoTokenizer.from_pretrained("Qwen/Qwen3.5-122B-A10B-FP8")

token_ids 是列表的列表（每一步一个列表），逐步骤解码：

text = [tok.decode(turn, skip_special_tokens=False) for turn in completion_token_ids]

注意事项

• 如果模型分词器位于 gs:// 镜像路径，需要先将相关文件（tokenizer.json、tokenizer_config.json、vocab.json、merges.txt）复制到本地，然后将 AutoTokenizer.from_pretrained() 指向该本地目录。

搜集汇总

数据集介绍

构建方式

该数据集基于Qwen3.5-122B-A10B-FP8模型在代码推理与生成场景下的交互轨迹构建而成。数据来源于模型服务引擎在多次智能体步骤中记录的原始推理输出，每一条轨迹包含提示词、补全内容及其对应的对数概率信息。原始token IDs以嵌套列表的形式按步骤存储，保留了模型在逐轮交互中生成的逐字词元序列。为确保数据的一致性与可复现性，所有token序列均使用与模型完全相同的tokenizer进行编码与解码。

使用方法

使用该数据集时，必须加载与模型服务时完全一致的tokenizer，即从HuggingFace仓库`Qwen/Qwen3.5-122B-A10B-FP8`获取。通过`AutoTokenizer.from_pretrained`方法初始化后，可利用`decode`方法将每一轮的补全token IDs解析为可读文本。注意应当逐个回合进行解码，并保持`skip_special_tokens=False`以保留特殊标记。此外，`tokenizer_provenance.json`文件提供了机器可读的tokenizer来源信息，便于脚本化处理与溯源。

背景与挑战

背景概述

该数据集由NVIDIA于2025年创建，依托Qwen3.5-122B-A10B-FP8模型生成，旨在捕捉智能体在代码执行过程中的轨迹数据。核心研究问题聚焦于如何通过大规模、高保真的agent traces数据集，推动代码生成与执行追踪领域的发展。数据集收录了经过过滤的开放式代码执行轨迹，记录了模型在每一步推理中的原始token序列与对数概率，为研究代码智能体的行为建模、推理路径分析及模型微调提供了宝贵资源。其影响力体现在为多步骤代码生成与执行追踪的研究设立了新的数据基准，尤其适用于需要细粒度token级分析的任务场景。

当前挑战

该数据集面临的核心挑战包括：1) 领域问题层面，代码智能体在执行过程中产生的复杂多步骤轨迹，使得传统基于静态代码分析的方法难以捕捉动态推理路径，亟需细粒度的token级数据来支撑行为建模与性能优化；2) 构建过程中，为确保数据保真度，必须使用与推理服务完全一致的Qwen3.5-122B-A10B-FP8分词器进行解码，通用同族分词器会导致词元解码出现乱码，这要求数据使用者严格复现原始部署环境，增加了数据复用的技术门槛；同时，每个agent步骤存储为列表嵌套列表的格式，也对数据处理流程的规范性与精度提出了更高要求。

常用场景

经典使用场景

在智能体轨迹建模与代码生成领域，nemotron-code-oracle-filtered-qwen3.5-122b-131k-opencode-traces数据集凭借其精细到字面令牌级别的交互记录，成为研究多轮代理推理过程的理想资源。研究者能够利用该数据集精准还原Qwen3.5-122B模型在开放式代码任务中的逐步生成轨迹，从而深入剖析大语言模型在复杂编程场景下的决策逻辑与令牌级行为模式。

解决学术问题

该数据集有效回应了语言模型在代理任务中生成过程不透明这一学术困境。传统研究多聚焦于最终输出质量，而忽视了中间推理步骤的建模价值。通过提供完整的多轮令牌序列及对数概率信息，该数据集支持对模型内部置信度演化、错误修正机制及长程依赖关系的量化分析，显著推动了可解释性、安全性与对齐性等核心议题的实证研究进展。

实际应用

在实际应用层面，该数据集为智能代码辅助系统的迭代优化提供了关键数据支撑。开发者可借助真实代理轨迹对代码生成模型进行微调，提升多步编程任务中的上下文连贯性与执行稳定性。此外，该数据集还可用于训练代码审查代理、构建交互式调试工具，以及评估大模型在真实软件工程流程中的适用性边界。

数据集最近研究

最新研究方向

该数据集聚焦于大语言模型在代理（agent）轨迹数据上的精细化行为建模，尤其是对Qwen3.5-122B-A10B-FP8模型在复杂任务中生成的多轮交互轨迹进行深度解析。当前前沿研究方向包括利用逐字令牌ID还原模型推理过程中的完整思维链，并结合logprobs信息分析模型在不同决策节点上的不确定性分布。同时，该数据集为多步骤代理任务的可解释性研究提供了关键素材，支持对模型在开放域代码生成与追踪场景下的决策机制进行量化评估。这一方向与当下可解释AI和智能体安全的发展趋势紧密关联，有助于推动更可靠的自主推理系统建设。