UKPLab/agentcibench

AgentCIBench用于评估计算机使用代理（CUAs）在跨个人应用操作时是否尊重上下文完整性（CI）。每个场景都是一个可执行、可确定评分的多应用工作空间快照，配有一个未明确指定的用户请求和一个真实披露策略（必须分享/不得分享）。

AgentCIBench is designed to evaluate whether Computer Use Agents (CUAs) respect Contextual Integrity (CI) when operating across personal applications. Each scenario is an executable, scoreable snapshot of a multi-application workspace, paired with an unspecified user request and a truthful disclosure policy specifying "must share" or "must not share" information.

搜集汇总

数据集介绍

构建方式

AgentCIBench数据集的构建基于一种创新的MCTS驱动场景生成引擎。该引擎以36个人工撰写的种子场景为起点，这些种子来源于公开的计算机使用智能体演示、用户研究中常见的跨应用组合模式，以及上下文完整性文献中记载的失败案例。通过多种对抗性策略对种子进行变异，并保留高奖励且非重复的场景，最终生成包含117个测试场景的基准池。所有工作区内容均为合成数据，采用虚构的姓名、物品和标识符，确保不涉及真实个人信息。

特点

该数据集的核心特色在于聚焦计算机使用智能体在跨个人应用操作时对上下文完整性原则的遵循程度。111个测试场景精准覆盖三种失效模式：任务模糊导致的过度共享、接收者错位以及视觉共位引发的隐私泄露。每个场景都是一个可执行、确定性评分的多应用工作区快照，配以不完整的用户请求和明确的真实披露策略（必须共享或禁止共享），为评估智能体的隐私敏感性提供了结构化测试框架。

使用方法

数据集可通过HuggingFace的datasets库便捷加载，支持test、test_e2e和seeds三个子集，分别用于推理基准测试、端到端UI评估和种子分析。使用时需解析JSON格式的初始状态和真实标签字段。对于完整的推理与视觉评估，建议结合官方代码库运行基准测试。该数据集主要服务于计算机使用智能体部署前的上下文完整性评估、防御机制基准测试，以及隐私感知信息共享的训练信号构建。

背景与挑战

背景概述

AgentCIBench是由德国达姆施塔特工业大学UKP实验室的Anmol Goel与Iryna Gurevych于2026年提出的基准数据集，旨在评估大型语言模型驱动的计算机使用代理（CUA）在跨应用操作时是否遵循情境完整性（CI）这一隐私信息规范理论。随着CUA在个人数字工作空间中的部署日益广泛，其具备强大的任务执行能力却可能无意中泄露敏感信息，引发严重的隐私担忧。该数据集围绕任务歧义过度分享、接收者错位和视觉邻接暴露三类核心失败模式，构建了117个可执行、可确定性评分的测试场景，为系统化研究CUA的隐私行为提供了标准化评估平台，在AI安全与隐私对齐研究领域具有开创性意义。

当前挑战

AgentCIBench所面对的领域挑战在于CUA在执行用户指令时，常因请求表述不明确而将整个个人工作区状态倾泻式分享，或因理解内容与接收者匹配错误而将信息发送至不当对象，亦或是在UI中定位任务目标时不慎暴露邻近的禁止访问项目，这些均源于代理缺乏对情境完整性原则的显式遵循。在数据集构建过程中，挑战包括从36个人工编写的种子场景出发，通过蒙特卡洛树搜索引擎沿多种对抗策略自动变异生成高难度测试用例，并确保合成内容覆盖医疗、人力资源、法律等敏感主题的同时保持真实性，同时需要精准标注每个场景中强制分享与禁止分享的披露策略，以支撑可靠、可复现的隐私违规评估。

常用场景

经典使用场景

AgentCIBench最经典的使用场景是作为计算机使用代理（CUA）的隐私合规性基准测试平台。该数据集精心设计了117个可执行的、确定性评分的多应用工作空间快照，每个场景都包含一个未充分指定的用户自然语言请求和一份基于情境完整性（CI）理论的真值披露策略。研究者可以加载这些场景，让待测代理在模拟的个人应用生态（如即时通讯、待办事项、日历、代码编辑器、地图和购物应用）中执行任务，并通过比对代理实际信息共享行为与预设的must_share和must_not_share标签，精确量化代理在跨应用操作时是否尊重用户隐私边界。这一评估框架尤其适合检验模型在处理模糊指令、管理信息接收者及应对视觉界面干扰时的隐私决策能力。

衍生相关工作

AgentCIBench的发布催生了一系列重要的衍生研究工作。以该数据集为评估基准，研究者们相继提出了面向计算机使用代理的隐私感知推理框架，通过整合显式的信息流约束规则来增强代理的决策透明度。基于其任务模糊性过度共享的失败模式，相关工作发展出了动态信息最小化策略，让代理在接收模糊指令时主动请求澄清而非盲目共享数据。针对视觉邻接泄露问题，衍生工作探索了基于注意力机制的视觉上下文过滤方法，能够区分任务目标和邻接敏感信息。此外，该数据集的MCTS场景生成引擎也被扩展应用于构建其他类型代理的安全评估套件，推动了从单一任务正确性到多维度情境合规性的评估范式转变，并在人机交互和隐私法规遵从领域产生了广泛影响。

数据集最近研究

最新研究方向

随着大型语言模型赋能的计算机使用代理（CUA）在实际应用中日益普及，其隐私泄露风险成为安全对齐领域的核心关切。AgentCIBench数据集首次将情境完整性理论系统性地融入CUA评估框架，通过117个可执行、确定性评分的跨应用工作区场景，精准捕捉三类隐私失效模式：任务模糊性导致的过度共享、接收者错配引发的信息误投、以及视觉共位触发的敏感内容泄露。该基准揭示了一个严峻现实——即使是最先进的CUA在应对模糊用户指令时，仍倾向于不加甄别地倾泻个人状态信息，而不仅仅是执行任务所需的最小必要数据。这一发现直接呼应了2024-2025年间多起AI助手不当共享用户数据的公共事件，促使学界与产业界重新思考“能力”与“谨慎”之间的微妙平衡。AgentCIBench不仅为预部署隐私审计提供了标准化测试床，更催生了上下文感知共享机制、细粒度工具使用约束以及对抗性提示防御等前沿研究方向，推动CUA从“能干但粗心”向“既强且慎”的范式转变。