遇见数据集

ResNet-20 解释可靠性数据

收藏
官方服务:

资源简介:

本数据集旨在评估基于ResNet-20架构的图像分类模型在CIFAR-10数据集上的解释可靠性。数据集的构建基于“与或交互”可解释性理论,通过计算模型输出中无法由显著交互解释的分量比例(即不可解释分量ρ),来量化解释的忠实度。我们选取了在CIFAR-10数据集上训练好的ResNet-20模型,并从其训练集中随机选取了10个类别、每类2张共20张图片作为测试样本。为了确保结果的稳定性,我们进行了三组不同随机种子的独立实验。每个样本的数据均包含通过“与或交互”算法计算得到的“与”交互效用值、“或”交互效用值以及所有遮挡情况下模型对目标类别的分类置信度。通过本数据集,用户可以复现我们提出的解释可靠性指标(ρ<0.1视为通过测试),为可解释人工智能领域中图像分类模型的解释方法比较与评估提供了标准化的基础数据资源。

提供机构:
上海交通大学
搜集汇总
数据集介绍
ResNet-20 解释可靠性数据 数据集图片
背景与挑战
背景概述
该数据集基于“与或交互”可解释性理论,评估ResNet-20模型在CIFAR-10数据集上的解释可靠性。数据包含20张测试样本的交互效用值及遮挡置信度,通过三组独立实验计算不可解释分量ρ(ρ<0.1视为通过测试),为图像分类模型的解释方法比较提供标准化基础资源。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务