YieldShift

YieldShift是一个来自显示制造设施的真实生产线数据，作为公共基准数据集，用于评估表格机器学习在真实分布偏移下的性能。数据集包含约19,000行和226列（223个特征），支持连续缺陷率回归和二进制缺陷分类任务，其中缺陷类别占多数（74.7%）。特征包括173个数值特征和50个分类特征，已进行匿名化处理。YieldShift is a real production line dataset from a display manufacturing facility, serving as a public benchmark for evaluating tabular machine learning performance under real-world distribution shifts. The dataset comprises approximately 19,000 rows and 226 columns (223 features), supporting two tasks: continuous defect rate regression and binary defect classification, with the defect class being the majority class (74.7% of samples). The features include 173 numerical features and 50 categorical features, all of which have been anonymized.

原始信息汇总

数据集概述：YieldShift

YieldShift 是一个来自显示制造业真实生产线的表格数据集，旨在作为评估机器学习模型在真实分布偏移下性能的公开基准。

• 核心任务：数据集支持在同一 223 个特征（173 个数值型 num_*，50 个类别型 cat_*）上完成两项任务：连续缺陷率回归（目标变量 y）和二元缺陷分类（y > 0）。其中，缺陷类为多数类，占比 74.7%。
• 数据规模：数据集文件 data.parquet 包含约 19,000 行、226 列。所有数值特征经过最小-最大缩放以匿名化，且无数据行被添加、删除或重采样。
• 特征详情：
  • 数值特征（num_*）：173 个，缺失率范围为 0-99.3%，平均缺失率为 45%。
  • 类别特征（cat_*）：50 个，无缺失值。中位基数为 3，49/50 列的基数<=6，一个异常值列（cat_049）基数为 1,080。
  • 时间戳特征：x_time（特征采集时间）和 y_time（标签确认时间），无缺失值，但不作为建模特征。
  • 目标变量 y：连续缺陷率，缩放至 [0,1] 区间，无缺失值。
• 评估框架：采用配对、5 次重复的评估协议，在两种划分下对 19 个模型进行基准测试：普通随机划分和一组展现真实协变量/概念/标签偏移的领域。
• 模型家族（19 个模型）：
  • 基于树：RandomForest, LightGBM, XGBoost, CatBoost
  • 线性模型：LinearRegression（无正则化）, LinearModel（Ridge / ℓ2-LogReg）
  • 非注意力深度学习：MLP, ResNet, RealMLP, MLP_PLR, NODE, TabM
  • 基于注意力模型：FT_Transformer, TabTransformer, SAINT, TabNet
  • 基础模型：TabPFN v3, TabICL v2, TabFM v1.0
• 关键发现：在所有 19 个模型和 7 个回归领域上，从分布内（ID）到分布外（OOD）的回归 R² 均出现下降（平均从 0.577 降至 0.235），而分类平衡准确率几乎不变（平均下降 0.011，且 27% 的单元显示 OOD 性能不低于 ID）。模型的独立同分布排名并不能可靠预测其在分布偏移下的排名。
• 使用许可：
  • 代码：MIT 许可。
  • 数据集（data.parquet 和 results/）：CC BY 4.0 许可。

搜集汇总

数据集介绍

构建方式

YieldShift数据集源自真实显示面板生产线的工艺数据，旨在为表格机器学习在分布偏移场景下的评估提供标准化基准。该数据集包含约19000个样本与226个特征，其中173个为数值型、50个为类别型，均经过匿名化处理以防止原始值泄露。数值特征采用逐列最小-最大归一化，类别特征则保持整数编码。目标变量y为连续型缺陷率，经缩放至[0,1]区间，同时衍生出二分类标签y>0以判别缺陷是否存在。数据集以Parquet格式存储，并随附详细的数据字典，涵盖缺失率、基数等统计信息。构建过程中未对原始行进行增删或重采样，确保了数据的真实性与完整性。

使用方法

用户可通过简单的pip安装pandas、pyarrow、scikit-learn及lightgbm等库快速启动实验。加载data.parquet文件后，选取以cat_或num_开头的特征列作为输入X，以y列作为目标，即可进行随机划分的回归或分类任务。数据集支持两种评估协议：常规的独立同分布随机划分，以及基于14个精心挑选领域构成的分布偏移评估协议，后者涵盖协变量偏移、概念偏移与标签偏移等真实场景。通过运行预构建的流水线脚本（如04_benchmark_ml_random.py与05_benchmark_ml_ood.py），用户可复现包含19个模型、5次重复的基准测试，并利用Wilcoxon符号秩检验进行显著性分析。

背景与挑战

背景概述

在工业制造领域，尤其是高精度显示面板生产过程中，产线数据的分布漂移是制约机器学习模型实际部署的核心瓶颈。YieldShift数据集由某显示制造设施的实时产线数据构建，于2024年提交至KDD 2027数据集与基准赛道，旨在为分布漂移下的表格机器学习提供真实世界的评估基准。该数据集包含约1.9万个样本、223个特征（173个数值型、50个类别型），支持连续缺陷率回归与二分类两项任务，且缺陷类占多数（74.7%）。研究团队系统地基准测试了涵盖树模型、线性模型、深度学习及基础模型的19种算法，揭示了同分布下性能最优的模型在分布漂移场景中并非鲁棒，为工业智能诊断与自适应学习提供了关键评估平台。

当前挑战

该数据集所解决的领域挑战在于：真实产线数据天然存在协变量偏移、概念偏移与标签偏移，而现有公开制造数据集多假设独立同分布，导致模型在部署时性能骤降——实验表明所有19种模型的ID-OOD回归R²均值从0.577降至0.235。构建过程中面临的挑战包括：数据发布需经匿名化处理（特征重命名、数值min-max缩放以防原始值复原）以符合保密协议；173个数值特征中平均缺失率高达45%，存在结构性缺失模式需特殊处理；类别特征cat_049的基数达1080，远高于其他特征的基数中位数3，给建模带来稀疏性难题；此外，计算资源约束迫使团队排除TabR与ModernNCA等近邻推理模型的完整基准测试，并仅在OOD场景对注意力模型使用固定配置而非逐域调优。

常用场景

经典使用场景

在工业制造领域，模型泛化能力常因生产环境的动态变化而退化，YieldShift数据集正是为评估表格数据在真实分布偏移下的性能而构建。其最经典的使用场景是作为分布偏移基准测试平台：研究者可利用该数据集提供的173个数值特征与50个类别特征，同时执行连续缺陷率回归与二元缺陷分类两项任务。通过设计的多领域划分方案，该基准能够系统性地模拟协变量偏移、概念偏移和标签偏移，从而严格检验模型在从训练域迁移至未知测试域时的鲁棒性。这种设计使得YieldShift成为验证各类表格模型抗偏移能力的标准试金石，尤其适用于那些需在高维、稀疏、含缺失值的工业数据上部署的场景。

解决学术问题

该数据集直面长期困扰工业机器学习的核心学术难题——真实分布偏移对模型性能的严峻侵蚀。通过构建一个涵盖19种模型、5大模型族、跨越7个回归领域与6个分类领域的系统性评估框架，YieldShift揭示了几个关键发现：平均而言，回归任务的域内到域外R²从0.577骤降至0.235，而分类平衡准确率却几乎保持不变（仅下降0.011）。这一鲜明对比挑战了学界长期依赖独立同分布假设的评估范式，凸显出回归任务对分布偏移的脆弱性远高于分类任务。更重要的是，该数据集揭示了模型在独立同分布下的排名无法预测其在分布偏移下的表现——例如随机森林从第18位跃升至前8，这一颠覆性发现促使学界重新审视现有模型选择与评估方法论。

实际应用

在实际工业场景中，YieldShift数据集直接映射到显示面板制造产线的质量管控环节。凭借其源自真实生产线的数据基因，该数据集可服务于缺陷预测系统的鲁棒性验证：当生产线调整工艺参数、更换原材料批次或面临季节性环境变化时，预训练的缺陷率预测模型往往会经历显著的性能衰退。通过模拟这些真实发生的分布偏移，制造企业能够筛选出最耐迁移的模型架构，从而保障产线自动化检测系统在长周期内的稳定运行。此外，该数据集中缺陷类别占据74.7%的多数地位，颠覆了常规异常检测中少数类样本的假设，为工业不平衡学习提供了更具现实意义的评估资源，直接服务于质量预警阈值的优化与良率提升策略的制定。

数据集最近研究

最新研究方向

在工业制造领域，分布偏移（distribution shift）已成为制约机器学习模型从实验室走向产线实战的核心瓶颈。YieldShift数据集基于真实显示面板生产线数据，填补了公开可用的制造场景下分布偏移基准的空白。近期研究前沿聚焦于19种模型在协变量、概念及标签偏移下的鲁棒性评估，尤其关注回归任务性能的剧烈崩塌（平均R²从0.577降至0.235）与分类任务相对稳定的矛盾现象。值得注意的是，传统模型在独立同分布假设下的性能排序与偏移场景下的鲁棒性排序存在显著不一致，这一发现挑战了学界对模型泛化能力的传统认知，也为工业AI系统的可靠性验证提供了新的评估范式。