birdsql/usersim-guard-v1.5

USERSIM-GUARD是一个用于评估交互式Text-to-SQL环境中用户模拟器的安全性、可靠性和鲁棒性的基准数据集。该数据集由BIRD-Interact论文提出，旨在确保用户模拟器在提供有用回答的同时，不会泄露敏感信息（如解决方案思路、数据库模式细节或真实SQL）。数据集包含2,100个测试案例，分为三个核心维度：标记模糊性（AMB）、未标记模糊性（LOC）和不可回答性（UNA）。每个维度对应一个文件，每个文件包含700个样本。数据集中的每个记录包含唯一标识符、数据库名称、问题ID、问题类型和澄清问题等字段。评估采用LLM-as-Judge方法，并为每个维度提供了具体的评分标准。数据集还展示了多个模型在三个维度上的基准测试结果。

USERSIM-GUARD is a benchmark designed to evaluate the safety, reliability, and robustness of User Simulators in interactive Text-to-SQL environments. As proposed in the BIRD-Interact paper, a high-quality User Simulator must not only be helpful but also guarded, meaning it should provide helpful responses while refusing to leak sensitive information (like solution ideas, database schema details, or ground-truth SQL). The benchmark categorizes safety challenges into three core dimensions: Labeled Ambiguity (AMB), Unlabeled Ambiguity (LOC), and Unanswerable (UNA). It contains 2,100 test cases across three files (700 each), with fields such as instance_id, selected_database, question_id, question_type, and clarification_question. Evaluation uses an LLM-as-Judge approach with specific rating scales for each dimension. Benchmark results for various models are also provided.

搜集汇总

数据集介绍

构建方式

在交互式Text-to-SQL领域，用户模拟器的安全性评估至关重要。USERSIM-GUARD基准数据集由BIRD-Interact团队构建，旨在系统性地评测用户模拟器在动态交互环境中的防护能力。该数据集包含2,100个精心设计的测试用例，均匀分布于三个核心安全维度：标记歧义（AMB）、未标记歧义（LOC）和不可回答（UNA）。每个维度对应700个样本，分别存储于data_labeled.jsonl、data_unlabeled.jsonl和data_unanswerable.jsonl文件中。每条记录涵盖实例标识符、选定数据库、问题编号、提问风格类型及澄清问题文本等关键字段，为评估用户模拟器在面对潜在信息泄露风险时的行为提供了结构化测试框架。

使用方法

使用USERSIM-GUARD数据集时，研究者可加载三个JSONL文件中的测试用例，将clarification_question字段作为输入，驱动待评估的用户模拟器生成响应。随后，通过调用大语言模型作为评判者，依据预设的评分标准对模拟器的输出进行自动化评估：对于AMB和LOC样本，评判模型需判断响应是否在正确处理查询的同时未泄露模式细节或SQL提示；对于UNA样本，则需判定模拟器是否成功拒绝回答。最终，通过汇总各维度的A级和B级占比，可获取用户模拟器在不同安全挑战下的综合性能指标，从而指导模型的优化与迭代。

背景与挑战

背景概述

在自然语言处理与数据库交互的交叉领域，Text-to-SQL技术旨在将自然语言查询自动转化为可执行的SQL语句，其发展已取得显著进展。然而，传统评估范式往往局限于静态、单轮的查询解析，忽略了真实应用中用户与系统之间动态交互的复杂性。为弥补这一空白，BIRD-Interact团队于2025年提出了USERSIM-GUARD基准，该工作由Huo Nan、Xu Xiaohan等来自Google Cloud及BIRD Team的研究人员共同完成，相关成果发表于arXiv预印本。该基准聚焦于交互式Text-to-SQL环境中用户模拟器的安全性与鲁棒性，核心研究问题在于：用户模拟器在提供有用回答的同时，如何避免泄露数据库模式、SQL提示或解决方案等敏感信息。USERSIM-GUARD通过构建涵盖标签模糊、未标签模糊与不可回答三类场景的测试集，为评估用户模拟器的安全防护能力提供了系统化框架，对推动交互式数据库查询系统的可靠部署具有重要影响力。

当前挑战

USERSIM-GUARD所解决的领域挑战源于交互式Text-to-SQL环境中用户模拟器面临的多维安全风险。首先，在标签模糊场景中，用户模拟器需准确识别并处理带有明确标注的歧义问题，同时防止泄露数据库模式或SQL线索，这对模型的理解边界与信息过滤能力构成考验。其次，未标签模糊场景要求模型在缺乏标注指引的情况下，对合理但未明确覆盖的查询做出安全回应，其难度在于平衡回答的实用性与信息保密性。最后，不可回答场景聚焦于模型对数据库模式、SQL提示等敏感查询的拒绝能力，任何尝试回答的行为均被视为安全漏洞。此外，构建过程中，团队需人工设计涵盖三类场景的2100个测试案例，并确保每个案例的歧义类型、问题风格（正常、简洁或冗长）与安全边界清晰可控，这对数据标注的精确性与覆盖度提出了极高要求。

常用场景

经典使用场景

在交互式Text-to-SQL系统的研究与开发中，用户模拟器作为评估大语言模型动态交互能力的关键组件，其安全性与可靠性至关重要。USERSIM-GUARD数据集专为此场景设计，通过构建涵盖标注歧义、未标注歧义与不可回答三类安全挑战的2100个测试用例，为研究者提供了系统评估用户模拟器在复杂交互情境下行为表现的标准化基准。该数据集的经典使用方式是利用LLM作为评判者，对模拟器是否能在不泄露数据库模式、SQL提示或解决方案等敏感信息的前提下，正确回应各类澄清问题，从而衡量其防护能力。

解决学术问题

该数据集精准回应了当前Text-to-SQL领域一个被长期忽视的学术难题：如何在提升用户模拟器交互效能的同时，确保其具备信息防护的鲁棒性。传统研究多聚焦于SQL生成的准确率，而忽略了模拟器在交互过程中可能无意泄露数据库结构或解题思路的风险。USERSIM-GUARD通过系统定义三种安全维度，首次为模拟器的安全评估提供了可量化的指标体系，其引入的LLM-as-Judge分级评价框架，有效解决了以往依赖人工评判成本高、一致性差的困境，推动了交互式数据库查询系统向更可信赖的方向演进。

实际应用

在实际应用中，USERSIM-GUARD可嵌入至企业级智能数据库查询助手、自然语言接口开发平台以及教育领域的SQL教学系统中。例如，在金融或医疗等对数据安全性要求极高的场景下，部署基于该数据集验证的用户模拟器，能够确保系统在回答用户模糊查询时，既提供必要的交互澄清，又严守数据库模式与底层逻辑的机密性。此外，该基准还可用于自动化测试流水线，持续监控模型更新后的安全退化风险，为产品上线前的安全审计提供可靠依据。

数据集最近研究

最新研究方向

在交互式Text-to-SQL系统蓬勃发展的背景下，用户模拟器的安全性与鲁棒性成为前沿研究焦点。USERSIM-GUARD基准数据集应运而生，聚焦于评估用户模拟器在面对标记歧义、未标记歧义及不可回答查询时的防护能力。该数据集通过精心设计的2100个测试用例，系统性地检验模拟器是否能在提供帮助的同时，拒绝泄露数据库模式、SQL提示或解题思路等敏感信息。研究结果表明，基于LLM的先进模型在引入防护机制后，在不可回答维度上的安全拒绝率从基线平均50.1%跃升至93.3%，显著提升了交互系统的可信赖度。这一工作为构建更安全、更可靠的人机交互数据库查询系统奠定了关键评估基础，推动了Text-to-SQL领域从功能正确性向安全鲁棒性的范式演进。