open-thoughts/TaskTrove

TaskTrove是一个开源的任务数据集集合，由OpenThoughts-Agent团队发布。它包含来自100多个任务源的超过750,000个独特任务，涵盖了流行的RL和SFT训练目标，如SWE-Smith、R2EGym和SWE-Re-Bench等。数据集中的任务分为带有验证器和不带验证器两种类型，分别适用于RL训练和评估以及SFT/数据生成。TaskTrove是AgentTrove的任务补充，AgentTrove中的代理轨迹是通过使用Harbor框架对这些任务数据集运行模型生成的。数据集的结构保留了原始HuggingFace仓库的文件和目录结构，每个源数据集都存储为一个子目录。

TaskTrove is an open-source collection of agentic task datasets, released by the OpenThoughts-Agent team. It contains over 750,000 unique tasks drawn from over 100 task sources, including popular RL and SFT training targets such as SWE-Smith, R2EGym, and SWE-Re-Bench. Tasks in TaskTrove are categorized into those with verifiers (for RL training and evaluation) and those without (for SFT/datagen). TaskTrove serves as the task complement to AgentTrove, where agent traces in AgentTrove were generated by running models against these task datasets using the Harbor framework. The repository structure preserves the original HuggingFace repo files and directories, with each source dataset stored as a subdirectory.

搜集汇总

数据集介绍

构建方式

TaskTrove是由OpenThoughts-Agent团队构建的开源智能体任务数据集集合，作为AgentTrove的配套资源，旨在为强化学习与数据生成提供标准化的任务基础。其构建过程严格遵循Harbor框架的规范，将每个原始数据集以“org__name”子目录形式组织，内部包含经过压缩的parquet格式任务二进制文件，存储路径与任务指令。v3版本在保留v2全部96个数据集的基础上，利用OpenThoughts-Agent的data.nemotron_gym工具转换了20个来自nvidia/Nemotron-Post-Training-v3的RLVR任务，覆盖指令遵循、数学、科学、知识推理及单步智能体分支场景。针对早期版本中DCAgent__code-contests-noblock的验证器缺陷，v3.1修正了bash脚本以捕获失败解决方案的奖励，确保奖励分布无偏。同时，v3.2将swegym任务数据集替换为更新版本，容量从989扩展至2,438个任务，通过补丁与验证流程提升任务质量。

使用方法

使用TaskTrove数据集需依赖OpenThoughts-Agent框架及其配套的Harbor环境。用户可通过运行Python脚本`python -m scripts.datagen.extract_tasks_from_parquet`，指定数据集仓库标识与输出目录，将parquet文件中的任务二进制内容解压至本地，参数`--on_exist overwrite`允许覆盖已有文件。该过程提取的任务可直接用于数据生成或强化学习流水线。对于需要回溯旧版本的情形，HuggingFace Hub的`snapshot_download`函数支持按修订标签（如v1、v2）下载完整快照，便于复现实验或对比不同版本差异。建议用户参考OpenThoughts-Agent仓库中的详细文档，了解任务加载、验证器调用及智能体训练的具体接口与示例代码。

背景与挑战

背景概述

TaskTrove是一个于2025年12月由OpenThoughts-Agent团队发布的开源智能体任务数据集集合，旨在为强化学习与监督式微调提供标准化的任务基准。该数据集汇集了涵盖代码生成、数学推理、科学知识、指令遵循及单步智能体动作等多种维度的任务，并通过Harbor框架实现了任务与验证器的统一封装。作为AgentTrove轨迹数据的任务补充，TaskTrove填补了智能体训练中高质量、可复现任务场景的空白，其引入的Nemotron-Gym RLVR转换任务进一步扩展了多领域、多模态的评估边界，对智能体系统的泛化能力研究具有重要推动作用。

当前挑战

TaskTrove所解决的领域挑战在于智能体任务场景的多样性与验证可靠性——现有数据集多聚焦于单一任务类型，缺乏对复杂推理、多轮交互及工具使用的统一评估标准，而该数据集通过集成验证器与LLM评判机制，为强化学习训练提供了可量化的奖励信号。在构建过程中，团队面临的核心挑战包括：旧版swegym任务集规模不足（仅989个任务）且部分测试脚本因shell错误设置导致失败轨迹被静默丢弃，需通过补丁验证与脚本修复（如引入set +e包装pytest）确保奖励记录的完整性；此外，将NVIDIA Nemotron-Gym的20个数据集转换为统一的任务格式时，需处理确定性答案（字符串/正则/数值/JSON模式）与主观评估（等价性、规则、混合IFEval）的混合场景，并确保每个任务的指令能准确引导智能体将答案写入评分文件路径，从而维持任务执行的原子性与可追溯性。

常用场景

经典使用场景

TaskTrove作为一份开源的智能体任务数据集集合，其经典使用场景在于为强化学习与监督式微调提供标准化的任务环境。该数据集整合了来自多个来源的任务描述与验证器，使得研究者和开发者能够基于Harbor框架直接进行模型训练与评估，尤其适用于构建和验证自动化代码生成、数学推理、指令遵循等复杂智能体行为的训练流程。

解决学术问题

TaskTrove的核心价值在于解决了智能体训练中高质量、多样化任务数据稀缺且格式不统一的学术研究问题。通过提供统一的任务二进制格式、内置验证器以及标准化的奖励机制，该数据集有效支撑了从单一指令执行到多步工具使用的智能体能力评测，避免了因任务噪声或奖励偏差导致的训练偏置，显著提升了强化学习训练的可靠性与可复现性。

实际应用

在实际应用中，TaskTrove为自动化软件开发、智能客服系统、多轮对话代理以及科学实验自动化等领域提供了关键数据支撑。例如，在软件工程智能体（SWE）领域，其包含的SWE-bench任务可以直接用于训练模型自动修复代码缺陷；在金融与医疗等垂直场景中，借助其函数调用与工具使用任务，可构建具备环境感知与自主决策能力的智能助手。

数据集最近研究

最新研究方向

TaskTrove作为面向智能体（Agent）任务的开源数据集集合，正推动强化学习与测试时计算（test-time compute）在代码生成、工具调用及多轮对话等复杂交互场景中的前沿探索。其v3版本融合了Nemotron-Gym RLVR任务，涵盖指令遵循、数学推理、科学知识等维度的奖励驱动训练与评估，并针对swegym等代码修复任务进行大规模升级与验证器修复，显著提升了奖励信号的可靠性。这一进展与目前业界对自主智能体系统可靠性、可扩展性的迫切需求紧密呼应，特别是在SWE-bench等基准引发对软件工程自动化能力持续关注的背景下，TaskTrove通过标准化、可复现的任务格式与Harbor框架的深度集成，为智能体的强化学习训练与系统性评估奠定了坚实的数据基础，对推动具身化环境中的推理、规划与错误修正能力研究具有重要方法论意义。