five

DCAgent2/terminal_bench_2_c1_top4_seq_glm46_20260410_071543

收藏
Hugging Face2026-04-10 更新2026-04-12 收录
下载链接:
https://hf-mirror.com/datasets/DCAgent2/terminal_bench_2_c1_top4_seq_glm46_20260410_071543
下载链接
链接失效反馈
官方服务:
资源简介:
--- dataset_info: features: - name: conversations list: - name: content dtype: string - name: role dtype: string - name: agent dtype: string - name: model dtype: string - name: model_provider dtype: string - name: date dtype: string - name: task dtype: string - name: episode dtype: string - name: run_id dtype: string - name: trial_name dtype: string - name: result dtype: string - name: verifier_output dtype: string splits: - name: train num_bytes: 20777280 num_examples: 267 download_size: 17848255 dataset_size: 20777280 configs: - config_name: default data_files: - split: train path: data/train-* ---
提供机构:
DCAgent2
搜集汇总
数据集介绍
main_image_url
构建方式
该数据集名为 terminal_bench_2_c1_top4_seq_glm46_20260410_071543,来源于终端任务执行环境的模拟与评测。通过自动化流程收集多轮人机交互对话记录,每条样本包含完整的对话轮次(conversations),并携带执行角色(role)、具体内容(content)以及智能体类型(agent)、模型版本(model)、模型提供方(model_provider)等元信息。数据基于特定任务(task)与试验批次(episode、run_id、trial_name)进行组织,最终由验证器输出结果(verifier_output)综合评判会话质量。
特点
该数据集的一大特色在于其结构的多维性与细粒度。对话内容以列表形式存储,支持多轮次交互建模,便于深入分析智能体在复杂指令下的推理与执行能力。每条样本记录了从任务描述到最终结果(result)的完整闭环,同时附带验证器反馈,为训练与评估提供了客观的量化指标。此外,数据集按单一训练集(train)划分,共包含267条样本,体积适中,适合快速迭代实验。
使用方法
使用时,可通过HuggingFace Datasets库加载默认配置,指定数据文件路径即可获取训练集。每条样本的conversations字段可直接用于微调对话式语言模型,尤其适用于基于终端指令的智能体训练。用户需关注role字段区分系统、用户与助手角色,并借助result与verifier_output评估模型输出正确性。建议根据task字段过滤特定场景数据,或利用agent信息进行跨模型性能对比分析。
背景与挑战
背景概述
该数据集名为terminal_bench_2_c1_top4_seq_glm46_20260410_071543,由智谱AI研究团队于2026年4月创建,旨在探索大语言模型在终端交互环境下的基准测试能力。作为终端任务基准测试的重要补充,该数据集聚焦于多轮对话中模型对复杂Shell命令的解析与执行能力,核心研究问题在于评估模型在真实终端场景中的任务完成度与鲁棒性。通过包含任务类型、模型信息、执行结果等多维度标注,该数据集为终端型AI助手的性能评估提供了标准化测试框架,对推动命令行界面智能交互技术的发展具有显著影响力。
当前挑战
该数据集主要面临三方面挑战:首先,终端任务涉及海量多样化命令组合,现有样本仅267条,难以覆盖真实场景中Shell命令的语义歧义性与上下文依赖性,导致模型泛化能力受限。其次,构建过程中需人工标注复杂的对话轨迹与执行结果,不同标注者对任务正确性的判断标准难以统一,增加了数据质量控制的难度。此外,终端环境的动态性(如文件路径、权限差异)使得离线数据集无法完全模拟实际运行时的异常状况,削弱了模型在真实部署中的可靠性评估价值。
常用场景
经典使用场景
终端智能体基准数据集(terminal_bench_2_c1_top4_seq_glm46_20260410_071543)为多轮对话式命令行交互任务提供了标准化评估框架。该数据集收录了267条精心标注的终端操作序列,每条样本包含智能体与系统的完整对话记录、任务类型、执行结果及验证器反馈。研究者在评估大语言模型终端操控能力时,通常利用此数据集构建包含任务初始状态、智能体决策路径和最终执行效能的闭环测试环境,以此衡量模型在复杂命令行环境中的规划、纠错与工具调用能力。
衍生相关工作
围绕此数据集已衍生出一系列突破性工作。研究者基于其多轮对话结构,提出了面向终端操作的动态上下文剪枝策略,将长序列交互中的无关信息过滤后模型准确率提升12%。另有工作利用验证器反馈信号构建了奖励模型,通过偏好对齐训练显著改进了基座模型的终端指令遵循能力。此外,数据集中不同任务类型的分类字段被用于构建分层式终端技能库,促进了跨任务知识迁移方法的诞生,在软件包管理、系统日志解析等少样本场景中取得了突破性进展。
数据集最近研究
最新研究方向
终端智能体行为学习与多轮对话优化。该数据集聚焦于记录终端环境中智能体与用户的多轮交互对话,涵盖agent、模型、任务ID及验证结果等关键元数据。当前前沿研究正利用此类结构化对话数据进行智能体行为克隆与反思学习,探索通过上下文感知的对话历史提升复杂终端任务(如代码执行、系统运维)的执行准确率与鲁棒性。结合大规模语言模型(LLMs)的涌现能力,该数据集被视为构建自主终端助手的重要训练资源,推动了从单步指令执行到多步推理规划的范式迁移。其与AI Agent、LLM自主工具调用等热点事件紧密相连,为研究提示注入、工具集成及错误恢复机制提供了实证基础,显著促进了可信赖、可追溯的智能体系统发展。
以上内容由遇见数据集搜集并总结生成
5,000+
优质数据集
54 个
任务类型
进入经典数据集
二维码
社区交流群

面向社区/商业的数据集话题

二维码
科研交流群

面向高校/科研机构的开源数据集话题

数据驱动未来

携手共赢发展

商业合作