CI-MNIST

CI-MNIST（相关和不平衡 MNIST）是MNIST数据集的一个变体，在属性、数据集特征和人工资格标准之间引入了不同类型的相关性。对于输入图像 x， 标签y∈{1,0} 分别表示合格或不合格，因为x是偶数还是奇数。数据集将背景颜色定义为受保护或敏感的属性s∈{0,1},其中蓝色表示非特权组，红色表示特权组。该数据集旨在评估具有挑战性的设置中的偏差缓解方法，并能够控制不同的数据集配置。CI-MNIST (Correlated and Imbalanced MNIST) is a variant of the MNIST dataset that introduces distinct types of correlations among attributes, dataset features, and human qualification criteria. For an input image x, the label y ∈ {1, 0} indicates qualified or unqualified status respectively, based on whether the digit represented by x is even or odd. The dataset defines the background color as a protected or sensitive attribute s ∈ {0, 1}, where blue denotes the unprivileged group and red denotes the privileged group. This dataset is designed to evaluate bias mitigation methods in challenging settings, and enables control over different dataset configurations.

搜集汇总

背景与挑战

背景概述

CI-MNIST是MNIST数据集的变体，通过引入标签与受保护属性之间的相关性来构建，其中背景颜色区分特权组与非特权组。该数据集旨在为偏差缓解方法提供评估基准，由麦吉尔大学等机构于2021年发布。