aashiqmuhamed/RefusalBench-NQ

RefusalBench-NQ是一个用于评估检索增强生成（RAG）中选择性拒绝能力的单文档诊断基准数据集，旨在测试基于RAG的语言模型在上下文支持可靠答案时正确回答、否则以正确理由拒绝的能力。该数据集基于Natural Questions（NQ）数据集构建，通过应用176个语言扰动杠杆（涵盖6个不确定性类别和3个强度级别：低、中、高）生成实例，并经过4模型生成器-验证器管道一致同意过滤。数据规模为1,600个实例（仅测试集），源自100个NQ问题。每个实例包括扰动查询、扰动上下文和真实标签（expected_rag_behavior），标签根据扰动强度分为ANSWER_CORRECTLY（低强度）或REFUSE_*代码（中/高强度），拒绝代码涵盖如REFUSE_AMBIGUOUS_QUERY等类别。数据集用于模型评估，要求模型仅基于扰动查询和上下文进行回答或拒绝，并提供透明分析字段如implementation_reasoning。数据遵循Apache-2.0许可，源自NQ和KILT数据集，并附有相关论文引用。RefusalBench-NQ is a single-document diagnostic benchmark for selective refusal in retrieval-augmented generation (RAG): the ability of a grounded language model to answer when the context supports a reliable answer and to refuse with the correct reason when it does not. It is based on the Natural Questions (NQ) dataset, where instances are produced by applying 176 linguistic perturbation levers (across 6 uncertainty classes and 3 intensities: LOW, MEDIUM, HIGH) to verified-answerable NQ items, then filtered through a 4-model generator–verifier pipeline requiring unanimous agreement. The dataset contains 1,600 instances (single test split) derived from 100 source NQ questions. Each instance includes perturbed_query, perturbed_context, and the ground-truth label expected_rag_behavior, which is either ANSWER_CORRECTLY (for LOW intensity) or a REFUSE_* code (for MEDIUM/HIGH intensity), with refusal codes such as REFUSE_AMBIGUOUS_QUERY. It is designed for model evaluation, where models must respond based only on the perturbed query and context, and includes fields like implementation_reasoning for transparency. The dataset is licensed under Apache-2.0, inheriting from NQ and KILT, and is accompanied by a research paper for citation.

搜集汇总

数据集介绍

构建方式

RefusalBench-NQ的构建源于对检索增强生成（RAG）系统中模型选择性拒绝能力的评估需求。该数据集以100个来自Natural Questions且原始状态下所有前沿模型均能正确回答的问题为基底，通过一个涵盖6类不确定性（如歧义、矛盾、信息缺失等）与3种强度的176种语言扰动杠杆引擎进行系统性扰动。每个扰动候选需经过四元验证器（Claude-4-Sonnet、DeepSeek-R1、GPT-4o、Nova-Pro）的严格一致性审核，仅当全体验证器一致认可时方可纳入最终集。通过分层抽样确保各扰动类型与生成模型（共四个，每个贡献400条）的平衡分布，随后对180个样本进行专家人工验证，通过率高达93.1%，最终形成包含1,600个实例的诊断性基准集。

特点

该数据集的核心特质在于其精细化的结构化设计。每个实例均标注了明确的扰动类别、强度等级以及预期RAG行为标签，其中低强度扰动对应正确回答，中高强度则触发特定拒绝代码（如REFUSE_AMBIGUOUS_QUERY等）。数据字段完整保留了原始查询与上下文、扰动后的输入文本、生成模型的推理逻辑及验证器投票结果，实现了从扰动源头到最终决策的全链路可追溯性。特别值得注意的是，该数据集通过一致性的四模型验证机制确保了标注质量，且扰动杠杆的多样性（176种）为评估模型在不同语义扭曲下的鲁棒性提供了丰富维度。

使用方法

使用RefusalBench-NQ时，研究者应直接加载其提供的单一test分割集合。评估流程中，仅需将扰动后的查询（perturbed_query）与上下文（perturbed_context）输入目标模型，要求其输出精确答案或对应的拒绝代码（如REFUSE_INFO_MISSING_IN_CONTEXT）。需警惕字段implementation_reasoning内含扰动构建的详细解释，该信息泄露了预期答案，故绝不可纳入模型提示词中，仅供人工分析与透明度参考。模型的输出将与字段expected_rag_behavior进行比对，通过计算准确率等指标衡量其在拒绝与回答间的决策质量，从而有效诊断RAG系统的选择性拒绝能力。

背景与挑战

背景概述

RefusalBench-NQ是由Aashiq Muhamed、Leonardo F. R. Ribeiro等研究人员在2026年EACL会议论文中提出的单文档诊断基准，旨在评估检索增强生成（RAG）框架下语言模型的选择性拒绝能力。该数据集以Natural Questions为来源，通过176种语言学扰动杠杆（涵盖6类不确定性×3种强度）对可回答问题施加扰动，并经四模型生成-验证流水线一致同意筛选得到1600个实例。其核心研究问题在于：接地语言模型能否在上下文支持可靠答案时正确回答，在上下文存在缺陷时以恰当理由拒绝回答。该工作为RAG系统的可信赖性评估提供了标准化测试平台，对提升大语言模型在信息检索场景下的鲁棒性与可靠性具有重要推动意义。

当前挑战

RefusalBench-NQ面对的挑战主要来自两个方面。领域问题上，现有大语言模型在RAG场景中常面临两类困境：一是对噪声或矛盾上下文的过度自信，导致生成错误答案；二是面对轻微扰动时过度保守，拒答本可回答的问题。如何设计细粒度、可操作的拒绝策略成为该领域的关键难题。数据集构建过程中，挑战则体现在扰动工程与质量控制上：需要设计语义精确且覆盖广泛的176种扰动杠杆，确保扰动幅度可控且可解释；同时需构建四模型一致同意的验证机制，以排除标注歧义。此外，通过人类专家验证180个样本达93.1%通过率，进一步保证了数据集的高纯度与可靠性。

常用场景

经典使用场景

在检索增强生成（RAG）系统的评估中，RefusalBench-NQ作为一项单文档诊断基准，专门用于检验基础语言模型的选择性拒绝能力。该数据集通过精心设计的176种语言扰动杠杆，对Natural Questions中原本可回答的样本施加六类不确定性变换，并经由四模型生成-验证流水线的严格共识过滤，最终构建出1600条测试实例。研究者通常以扰动后的查询与上下文作为模型输入，要求模型在正确回答与精准拒绝之间做出抉择，从而系统性评估模型在面对模糊查询、矛盾上下文、信息缺失、错误前提等缺陷时的行为表现。

衍生相关工作

围绕RefusalBench-NQ涌现了一系列富有启发性的研究工作，其中最直接的衍生成果是其配套的多文档基准RefusalBench-GaRAGe，两者共同构成了更全面的选择性拒绝评估体系。此外，该数据集催生了对语言模型内部拒绝机制的可解释性分析，以及针对扰动类型动态调整阈值策略的算法研究。基于其严谨的构建范式——包含176种细粒度语言杠杆和四模型共识过滤流程，后续工作已开始借鉴这种自动化扰动生成与多方验证的方法论，用以构建类似的高质量诊断数据集，推动选择性预测和信念校准等交叉领域的发展。

数据集最近研究

最新研究方向

RefusalBench-NQ专注于评测检索增强生成（RAG）框架下语言模型的选择性拒答能力，即模型在面对可靠证据时应准确作答，而在信息缺失、矛盾或模糊等不确定性情形下，须以合理理由拒绝回答。该数据集基于Natural Questions构建，通过176种语言学扰动杠杆（覆盖6类不确定性×3种强度）生成扰动样本，经四模型一致验证后筛选出1600条高质量实例。前沿研究聚焦于提升RAG系统的鲁棒性与可信赖性，尤其关注模型在长尾或噪声检索场景中如何平衡作答准确性与拒答合理性，这对构建安全、可控的AI知识问答系统具有关键意义。