valoomba/agent_traces

pi-mono Unsloth SFT数据集是一个用于监督微调（SFT）的数据集，源自badlogicgames/pi-mono。它将pi coding-agent的会话轨迹转换为每个助手回合一行数据的格式。每行数据中，提示部分序列化了该回合之前的系统、用户、工具和助手上下文，而输出部分则为下一个助手消息或工具调用。数据集采用JSONL格式，包含instruction和output字段。它被分割为训练集（train.jsonl）和验证集（validation.jsonl）。转换设置包括：源仓库为badlogicgames/pi-mono，输出格式为studio_flat，分支模式为longest，最大上下文消息数为8，最大工具结果字符数为4000，最小助手字符数为40，最大指令字符数为70000，最大输出字符数为24000，最大总字符数为80000，验证比例为0.05。此外，数据预处理省略了助手的thinking块，工具调用和结果以XML-like文本块表示，并合并了相邻同角色消息以提高与常见聊天模板的兼容性。如果导出中存在会话特定的系统或开发者提示，则使用该提示；否则插入通用的pi coding-agent系统提示。The pi-mono Unsloth SFT Dataset is a Supervised Fine-Tuning (SFT) dataset derived from badlogicgames/pi-mono. It converts the conversation trajectories of the pi coding-agent into a format where each assistant turn occupies one line of data. In each line, the `instruction` field serializes the system, user, tool, and assistant contexts prior to that turn, while the `output` field contains the next assistant message or tool call. The dataset is stored in JSONL format and includes the `instruction` and `output` fields, and is split into a training set (train.jsonl) and a validation set (validation.jsonl). The conversion settings are as follows: the source repository is badlogicgames/pi-mono, the output format is studio_flat, the branching mode is longest, the maximum number of context messages is 8, the maximum character count for tool results is 4000, the minimum character count for assistant responses is 40, the maximum character count for instructions is 70000, the maximum character count for outputs is 24000, the maximum total character count is 80000, and the validation split ratio is 0.05. Additionally, the data preprocessing omits the assistant's thinking blocks, tool calls and results are represented as XML-like text blocks, and adjacent messages from the same role are merged to improve compatibility with common chat templates. If session-specific system or developer prompts exist in the export, they are used; otherwise, a generic pi coding-agent system prompt is inserted.

搜集汇总

数据集介绍

构建方式

该数据集源自`badlogicgames/pi-mono`，通过将pi编程代理的会话轨迹转换为监督学习格式构建而成。具体转换过程中，每个助手轮次（assistant turn）被提取为一个独立的训练样本，其中提示（prompt）保留了该轮次之前的多轮代理状态，而目标（target）仅包含下一轮助手的消息或工具调用。数据集采用Alpaca/instruction-output格式，将`instruction`字段映射为序列化的系统、用户、工具及助手上下文，将`output`字段映射为下一轮助手的响应。转换过程使用`studio_flat`输出格式，并设置了最大上下文消息数为8、最大工具结果字符数为4000、最小助手字符数为40等参数，以确保数据质量与一致性。

特点

该数据集具有显著的特色。首先，它专注于智能代理的对话式微调，每个样本保留了完整的上下文历史，使得模型能够学习到跨多轮交互的连贯性。其次，数据集中助手的`thinking`块被有意省略，而工具调用及其结果以XML风格的文本块呈现，这种设计有助于模型更专注于实际的行动序列。此外，相邻相同角色的消息被合并处理，以增强与常见聊天模板的兼容性。数据集还通过分支模式（`longest`）和验证比例（0.05）的设定，确保了训练与验证集的有效分布。

使用方法

该数据集适用于Unsloth Studio等微调框架，可选用Alpaca/instruction-output格式进行加载。使用时，需将`instruction`字段映射至用户或指令角色，`output`字段映射至助手或响应角色。数据集分为`train.jsonl`和`validation.jsonl`两个文件，可直接用于有监督的指令微调任务。建议在微调过程中注意会话特有系统提示的使用：若导出中包含系统或开发者提示，则直接采用；否则，将自动插入通用的pi编程代理系统提示。模型在此数据集上训练后，能够更好地理解多轮工具调用场景下的代理人行为，提升代码生成与任务执行的准确性。

背景与挑战

背景概述

近年来，随着大语言模型在代码生成与智能体任务中的广泛应用，如何有效收集并利用编程智能体的交互轨迹成为了提升模型性能的关键瓶颈。该数据集由badlogicgames/pi-mono项目衍生而来，由研究团队于近期创建，旨在系统整理编程智能体在复杂交互过程中的会话记录。核心研究问题聚焦于如何将多轮agent会话轨迹高效转化为适用于监督式微调的结构化数据，从而增强模型在代码生成、工具调用以及上下文理解方面的能力。通过转换格式，每个样本保留历史多轮agent状态作为输入指令，并以智能体的下一轮回复或工具调用作为监督目标，为开源社区提供了高质量的训练与验证样本，对推动智能体相关研究具有重要影响力。

当前挑战

该数据集所解决的领域问题主要在于编程智能体交互数据的稀疏性与非结构化挑战。现有模型往往难以从零散的多轮会话中有效学习连贯的任务完成策略，而agent_traces通过规范化序列格式，将原本杂乱的agent轨迹转化为清晰的任务指令与对应输出。构建过程中面临的核心挑战包括：会话长度控制与信息截断的平衡，需在不丢失关键上下文的前提下限制最大消息数与字符数；工具调用与结果的XML化表示，要求保留完整的功能语义；不同角色消息的合并处理，确保与常用对话模板兼容；以及智能体思考过程的剔除，避免引入冗余噪声。此外，系统提示词的动态选择策略也增加了数据构建的复杂性。

常用场景

经典使用场景

在智能体行为建模与代码生成领域，agent_traces数据集为研究者提供了一扇窥探编程智能体内部决策机制的窗口。该数据集源自pi-mono项目的完整编码智能体会话轨迹，经过精细化处理后，将每次智能体助手的回应转化为独立监督样本。每条样本保留了完整的多轮对话上下文作为指令输入，而以智能体的下一次消息或工具调用作为目标输出，这一设计使其特别适用于训练能够理解复杂对话状态并做出恰当回应的语言模型。数据集经过精心分割为训练集与验证集，并采用了最大上下文消息数限制、工具结果字符截断等策略，确保样本质量与训练效率的平衡。

解决学术问题

该数据集的核心学术价值在于它系统性地解决了编程智能体行为序列的结构化学习问题。传统监督微调数据集往往仅关注单轮问答或简单指令跟随，难以捕捉智能体在真实编程任务中反复调用工具、处理错误、调整策略的复杂行为模式。agent_traces通过保留多轮交互中的系统提示、用户指令、工具返回结果与智能体行动间的因果链条，使得模型能够学会在长程上下文中进行推理与决策。研究者利用此数据集探究了如何让语言模型掌握调用代码解释器、浏览文件系统、执行终端命令等实际编程工具的使用规范，从而推动从静态文本生成向动态环境交互式代码生成的范式转变。

衍生相关工作

agent_traces数据集的发布催生了一系列值得关注的相关工作。研究者以此为基石，探索了如何将智能体轨迹信息更高效地融入因果语言模型的训练范式中，例如通过设计特殊的注意力掩码机制来区分同一轮次中的思考过程与最终行动。后续工作进一步拓展了数据集的边界，引入了来自不同编程环境（如Jupyter Notebooks、VS Code扩展）的交互轨迹，构建了更为丰富的多域智能体行为语料库。与此同时，有研究团队针对该数据集中的long-context挑战展开了专项研究，开发出层次化摘要与动态上下文压缩技术，使得变长会话序列中的关键信息得以保留，显著提升了模型在超长编码任务上的表现。这些衍生工作共同编织起一个关于计算智能体行为学习的研究网络。