CellPath-Bench
收藏资源简介:
CellPath-Bench是一个多维基准,用于评估病理学基础模型在整张切片上的细胞表示能力。该基准包含25个经过质量控制的H&E-Xenium对齐组织切片,覆盖11个器官和7,079,283个细胞,并统一了细粒度和粗粒度的细胞分类体系。其创建过程首先从52个候选Xenium数据集中筛选出高质量切片,通过参考引导的分子注释和独立形态学评估构建而成。该基准旨在系统诊断模型在细胞类型解码能力及其跨组织、数据集和器官的泛化性能,为病理学基础模型的改进提供标准化测评框架。
CellPath-Bench is a multidimensional benchmark for evaluating the cell representation capabilities of foundational pathology models on whole-slide tissue sections. This benchmark includes 25 quality-controlled H&E-Xenium co-registered tissue sections spanning 11 organs and encompassing 7,079,283 cells in total, and unifies both fine-grained and coarse-grained cell classification taxonomies. It was developed by first screening high-quality sections from 52 candidate Xenium datasets, and constructed via reference-guided molecular annotation and independent morphological assessment. This benchmark aims to systematically evaluate the cell type decoding capabilities of models and their generalization performance across tissues, datasets and organs, providing a standardized evaluation framework for the improvement of foundational pathology models.
CellPath-Bench 数据集详情总结
数据集概述
CellPath-Bench 是一个面向病理学基础模型的细胞级线性探针基准测试平台,用于评估病理学基础模型在细胞级分类任务中的表示质量。该基准的核心特点是:模型权重在评估过程中不被更新,因此所有指标反映的是模型的特征表示质量,而非微调后的准确率。
评估设置
- 目标任务:细胞级分类(cell-level classification)
- 评估方式:线性探针(Linear Probe),冻结模型权重
- 评估协议:IS(in-section)、IOCD(intra-organ LOSO)、MOCV(organ-stratified CV)、LOOO(leave-one-organ-out)等多种协议
- 分类学层次:支持HE-L3 fine(主)和HE-L1 coarse 两种层次粒度
- 放大倍数:涵盖10x、20x、40x三种倍率
- 读出头类型:Nucleus (bilinear)、Patch CLS、Patch mean-pool、Concat(Nucleus, CLS)等多种配置
- 统计方法:所有指标均为器官或折平衡均值,并采用百分位自助法(B=2000)计算95%置信区间
核心结论
- 最佳模型:UNI2-h,Macro F1 = 0.369(95% CI: 0.321–0.417)
- 最佳与最差差距:0.069(Macro F1)
- 与第一名不可区分的模型:19个(其95%置信区间覆盖了榜首模型的均值)
- 参与比较的模型总数:30个
模型排行榜(前10名)
| 排名 | 模型 | 架构 | 特征维度 | Macro F1 | 95% CI |
|---|---|---|---|---|---|
| 1 | UNI2-h | ViT-g/14 | 1536 | 0.3694 | 0.321 – 0.417 |
| 2 | SEAL-UNI2 | ViT-g/14 + LoRA | 1536 | 0.3693 | 0.321 – 0.416 |
| 3 | H-optimus-1 | ViT-g/14 | 1536 | 0.3674 | 0.321 – 0.412 |
| 4 | Virchow2 | ViT-H/14 | 1280 | 0.3627 | 0.318 – 0.406 |
| 5 | H-optimus-0 | ViT-g/14 | 1536 | 0.3612 | 0.316 – 0.405 |
| 6 | H0-mini | ViT-B/14 | 768 | 0.3596 | 0.315 – 0.403 |
| 7 | GPFM | ViT-L/14 | 1024 | 0.3555 | 0.311 – 0.399 |
| 8 | Virchow | ViT-H/14 | 1280 | 0.3551 | 0.310 – 0.399 |
| 9 | Hibou-L | ViT-L/14 | 1024 | 0.3540 | 0.311 – 0.396 |
| 10 | UNI | ViT-L/16 | 1024 | 0.3506 | 0.306 – 0.394 |
注:所有模型在25/25个切片上均完成了评估。
数据集结构说明
该页面包含多个功能面板:
- Leaderboard:模型性能排名与置信区间可视化
- Readouts:不同读出头配置的评估结果
- Transfer:迁移学习相关数据
- Data panel:数据集详情
- Cell types:细胞类型信息
- Section atlas:切片图谱
- Methods:方法学说明
页面还提供图表、表格及CSV格式的数据导出功能,便于用户深入分析。




