code-contests-noblock-qwen3.5-122b-131k-opencode-traces
收藏资源简介:
该数据集是一个代理追踪数据集,包含AI模型在代理交互步骤中产生的令牌级输出数据。数据以列表的列表形式组织,每个内部列表对应一个交互回合,主要字段包括prompt_token_ids(提示令牌ID)、completion_token_ids(完成令牌ID)和logprobs(对数概率),这些是服务引擎逐字发出的原始令牌序列。数据集与特定模型(Qwen/Qwen3.5-122B-A10B-FP8)及其分词器紧密关联,解码时必须使用该确切分词器以避免文本错误。数据适用于分析模型在代理任务中的令牌生成行为、调试模型输出或进行细粒度的性能评估。
This dataset is an agent tracking dataset containing token-level output data generated by AI models during agent interaction steps. The data is organized as a list of lists, with each inner list corresponding to an interaction round. Key fields include prompt_token_ids (prompt token IDs), completion_token_ids (completion token IDs), and logprobs (log probabilities), which are raw token sequences emitted word-by-word by the service engine. The dataset is closely tied to a specific model (Qwen/Qwen3.5-122B-A10B-FP8) and its tokenizer, and decoding must use that exact tokenizer to avoid text errors. The data is suitable for analyzing model token generation behavior in agent tasks, debugging model output, or conducting fine-grained performance evaluations.
数据集概述
- 数据集名称:Agent trace dataset
- 标签:agent-traces, literal-tokens
- 主要用途:包含智能体(agent)在执行任务过程中的完整追踪数据,包括提示、补全和logprobs等信息。
数据集结构
- 关键列:
prompt_token_ids:提示的令牌ID列表。completion_token_ids:补全的令牌ID列表。logprobs:对应令牌的对数概率。
- 存储格式:每个智能体执行步骤的数据以“列表的列表”形式存储,即每个内部列表代表一次对话回合的令牌ID。
解码说明
- 解码要求:必须使用与模型服务时完全相同的分词器进行解码,否则解码出的文字内容会出现乱码。
- 模型来源:
Qwen/Qwen3.5-122B-A10B-FP8(引擎报告的模型名称为1783165012733068)。 - 解码示例代码: python from transformers import AutoTokenizer tok = AutoTokenizer.from_pretrained("Qwen/Qwen3.5-122B-A10B-FP8") text = [tok.decode(turn, skip_special_tokens=False) for turn in completion_token_ids]
附加文件
- 数据集中包含
tokenizer_provenance.json文件,可用于机器读取分词器的来源信息。




