XAI-TRIS

XAI-TRIS数据集由德国联邦物理技术研究院创建，旨在通过提供明确的类条件特征作为解释的基准，评估解释性人工智能（XAI）方法在非线性图像分类任务中的性能。数据集包含40,000个样本，每个样本是一个64x64像素的图像，这些图像基于不同类型的tetrominoes（由四个方块组成的形状）在噪声背景上的叠加。数据集设计了四种不同的分类场景，包括线性和三种非线性情况，以测试XAI方法在不同复杂度问题上的表现。通过这些场景，研究者可以量化评估XAI方法在识别真正重要特征方面的能力，特别是在存在抑制变量（即与预测目标无直接关联但影响模型输出的特征）的情况下的表现。XAI-TRIS数据集的应用领域包括但不限于机器学习模型的可解释性研究，以及在医疗诊断等关键应用中对模型决策的信任度提升。