细粒度可解释性评估基准

细粒度可解释性评估基准是由百度公司创建的数据集，旨在评估神经网络模型和显著性方法的可解释性。该数据集包含三个代表性的NLP任务：情感分析、文本相似度和阅读理解，每个任务都提供了英文和中文标注数据。数据集中的标注理由经过精心标注，以确保充分、紧凑和全面。此外，还设计了一种新的评估指标，即在扰动前后理由的一致性，以统一评估不同类型任务的可解释性。该数据集的应用领域包括构建可信赖的系统，并希望促进可解释性研究的发展。

The Fine-grained Interpretability Evaluation Benchmark is a dataset created by Baidu Inc., which aims to evaluate the interpretability of neural network models and saliency methods. This dataset includes three representative NLP tasks: sentiment analysis, textual similarity, and reading comprehension, with both English and Chinese annotated data provided for each task. The annotated rationales in this dataset are carefully curated to ensure they are sufficient, concise, and comprehensive. In addition, a novel evaluation metric, namely the consistency of rationales before and after perturbation, is designed to uniformly evaluate the interpretability of different types of tasks. The application scenarios of this dataset include building trustworthy systems, and it is expected to promote the development of interpretability research.

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，可解释性评估长期面临数据与度量标准的匮乏。为应对这一挑战，细粒度可解释性评估基准通过系统化流程构建而成。该基准覆盖情感分析、文本相似性与阅读理解三项代表性任务，并同时提供英文与中文标注数据。构建过程包含数据收集、扰动数据创建及迭代式标注三个核心环节。数据源自现有公开数据集及用户日志，经筛选后由标注员依据严格标准标注理性依据，确保其满足充分性、紧凑性与全面性。扰动数据通过替换、插入或句法转换等方式生成，旨在评估模型在输入变化下的解释一致性。整个标注流程采用多轮迭代与质量评分机制，由资深标注员进行审核与修正，从而保障数据的高质量与可靠性。

特点

该数据集的核心特点在于其细粒度标注与多维评估能力。所有理性依据均以词元级别进行标注，并组织成独立集合形式，每个集合均满足充分性、紧凑性与全面性三项基本属性，为可解释性评估提供了精确的基准。数据集涵盖三种任务类型与双语数据，增强了评估的普适性与跨语言可比性。尤为突出的是，数据集中包含了针对原始样本精心构造的扰动样本，这些扰动在保持模型决策机制不变的前提下引入变化，为评估解释的一致性提供了基础。此外，数据集还引入了基于扰动一致性的新评估指标——平均精度均值，该指标能够统一适用于不同类型任务，从而克服了传统方法在非分类任务上的局限性。

使用方法

该数据集主要用于评估神经模型与显著性方法的可解释性。研究人员可利用其提供的词元级理性依据，通过计算词元F1分数等指标，衡量模型解释与人类标注之间的一致性，即合理性。同时，借助数据集中配套的扰动样本对，可计算平均精度均值等指标，以评估模型在输入变化下解释的稳定性，即忠实性。具体而言，用户需首先在相关任务上训练或加载待评估模型，随后应用集成梯度、注意力机制或LIME等显著性方法提取理性依据。接着，将模型提供的理性依据与数据集中的人类标注进行对比，或计算其在原始与扰动样本上理性依据的一致性，从而全面量化模型的可解释性表现。该基准为可解释性研究的进展提供了标准化、可复现的评估平台。

背景与挑战

背景概述

随着深度学习模型在自然语言处理领域的广泛应用，其内部决策过程的不透明性逐渐成为制约可信人工智能发展的关键瓶颈。为应对这一挑战，百度公司于2022年推出了细粒度可解释性评估基准，旨在为神经模型和显著性方法的可解释性提供系统化评估工具。该基准覆盖情感分析、文本相似度与阅读理解三大核心任务，并同时提供中英文标注数据，通过精心设计的词级理据标注，确保其满足充分性、紧凑性与全面性。这一创新性工作不仅填补了可解释性评估领域的数据空白，更通过扰动一致性指标构建了跨任务统一评估框架，为构建可信赖的自然语言处理系统奠定了重要基础。

当前挑战

该数据集面临的挑战主要体现在两大维度：在领域问题层面，如何精准评估神经模型的可解释性本身即是核心难题，现有评估方法常受限于任务类型差异与标注粒度不一致，导致难以建立跨任务的统一评估标准；在构建过程中，确保词级理据同时满足充分性、紧凑性与全面性需要复杂的迭代标注流程，而中英文双语数据的平行构建更增加了标注一致性与质量控制难度。此外，设计能够适用于分类与非分类任务的通用评估指标，特别是基于扰动一致性的新型度量方法，需克服传统评估在非分类任务上适用性不足的局限，这对数据集的科学性与实用性提出了更高要求。

常用场景

经典使用场景

在自然语言处理领域，随着深度学习模型日益复杂，其内部决策过程往往呈现黑箱特性，这引发了学术界对模型可解释性的广泛关注。细粒度可解释性评估基准应运而生，为评估神经模型及显著性方法的可解释性提供了标准化测试平台。该基准覆盖情感分析、文本相似度与阅读理解三大代表性任务，并同时提供英文与中文标注数据，通过精心设计的词级标注与扰动一致性指标，为可解释性研究奠定了坚实的实验基础。

解决学术问题

该基准有效解决了可解释性评估中缺乏统一标准与高质量数据的关键难题。传统评估数据集常因标注粒度不一或理性标注未能同时满足充分性、紧凑性与全面性而受限，导致不同研究难以横向比较。本基准通过提供满足三项核心属性的词级理性标注，并引入基于扰动前后理性一致性的新颖评估指标，实现了跨任务的可解释性统一度量。这不仅推动了可解释性评估方法的科学化与精细化，更为构建可信赖的智能系统提供了重要的理论支撑。

衍生相关工作

基于该基准，多项经典研究工作得以深入开展，例如对集成梯度、注意力机制与LIME等显著性方法的系统性评估，揭示了不同方法在可解释性上的优势与局限。研究进一步探讨了模型架构（如LSTM与Transformer）与可解释性之间的关联，并发现在某些任务中简单模型可能表现出与复杂模型相当甚至更优的可解释性。这些发现启发了后续关于模型轻量化与可解释性平衡的研究，以及跨语言可解释性泛化能力的探索，推动了可解释人工智能领域的持续演进。