🤖 machine learning

Worst-Group Equalized Odds Regularization for Multi-Attribute Fair Medical Image Classification

本文提出了一种最坏组平等几率边界正则化器，通过在推理工作点显式惩罚真阳性率和假阳性率中极端子组的偏差，以缓解医学图像分类中的群体差异，从而在不显著损害整体诊断性能的前提下提升跨多个属性的公平性。

原作者： Nikhil Cherian Kurian, Victor Caquilpan Parra, Abin Shoby, Luke Whitbread, Lauren Oakden-Rayner, Robert Vandersluis, Jessica Schrouff, Lyle J. Palmer, Mark Jenkinson

发布于 2026-05-20

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Nikhil Cherian Kurian, Victor Caquilpan Parra, Abin Shoby, Luke Whitbread, Lauren Oakden-Rayner, Robert Vandersluis, Jessica Schrouff, Lyle J. Palmer, Mark Jenkinson

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一名医生，正使用一款新型人工智能助手来协助诊断患者。你希望这款 AI 对所有患者都同样准确，无论他们是年轻还是年长、男性还是女性，或是来自不同的种族背景。

然而，该论文指出了一个隐藏的问题：AI 可能对某些群体“过于急切”（在患者未患病时却断言“你病了”），而对其他群体则“过于谨慎”（在患者确实患病时却断言“你没事”）。

如果你只看 AI 的整体得分（就像班级平均分），这些错误可能会相互抵消，让 AI 看起来完美无缺。但事实上，特定群体正遭受着不公平的对待。

以下是作者如何解决这一问题，并通过简单的类比进行解释：

1. 问题所在：“平均”的谎言

将 AI 的性能想象成一张学校的成绩单。

A 组（例如：年长男性）获得了"A"，因为 AI 非常擅长识别他们的疾病。
B 组（例如：年轻女性）获得了"F"，因为 AI 经常漏诊她们的疾病。
平均分：如果你将这些成绩取平均，会得到一个"C"。学校（或医生）可能会想：“好吧，平均分还可以，我们做得不错。”

但在医学领域，"C"的平均分是危险的。这意味着有些人被过度诊断（接受了不必要的治疗），而另一些人则被诊断不足（错过了挽救生命的治疗）。该论文将此称为“等概率机会”（Equalized Odds）的失败——用一种更时髦的说法，即“每个人拥有公平的机会”。

2. 解决方案：“最坏情况”教练

作者为 AI 制定了一项新的训练规则，称为**“最坏群体等概率机会正则化器”**（Worst-Group Equalized Odds Regularizer）。

想象一位正在训练球队的体育教练。教练不再只看球队的平均得分，而是决定：“我不在乎平均分。我在乎的是那个挣扎最激烈的球员。如果最弱的球员没有进步，那么整个球队就不公平。”

这位新的 AI 训练师也做了同样的事情：

它扫描数据，找出目前表现最差的特定人群（例如："60 岁以上的黑人女性”）。
它检查两件事：
1. 我们是否漏诊了该群体中的患病者？（诊断不足）
2. 我们是否错误地指控了该群体中健康的人？（过度诊断）
如果 AI 在这个特定的“最坏”群体上犯错，它会对 AI 的“大脑”施加“惩罚”。它迫使 AI 对这些群体给予额外关注，直到他们的结果与表现最好的群体相匹配。

3. “平滑”技巧

通常，寻找“最坏”的群体是很棘手的，因为这就像试图在一块摇摇欲坠的孤石上保持平衡。如果 AI 只关注一个犯错的特定个体，数学计算就会变得混乱，学习过程也会停止。

作者使用了一种巧妙的数学技巧，称为**“对数 - 和 - 指数”**（Log-Sum-Exp）。

类比：与其只关注一块摇摇欲坠的孤石，不如想象关注一小堆都略微晃动的岩石。
这使得 AI 能够从一群挣扎的患者中平稳地学习，而不是卡在单个异常值上。这让训练过程既稳定又高效。

4. 结果：无需牺牲的公平

作者在两个真实的医疗数据集上测试了这种方法：

用于青光眼检测的眼部扫描（较小的数据集）。
用于三种不同肺部疾病检测的胸部 X 光片（巨大的数据集）。

发生了什么？

之前：AI 整体准确，但对不同群体的对待方式差异巨大。
之后：AI 变得更加公平。“最好”群体与“最坏”群体之间的差距显著缩小。
代价是什么？ 通常，让事物变得更公平会使 AI 的整体准确率略微下降（就像教练过于关注弱球员，导致强球员感到无聊）。
惊喜：这种新方法在几乎不损失整体准确率的情况下实现了高度公平。AI 不必在“准确”和“公平”之间做选择；它两者兼得。

总结

该论文介绍了一种训练医疗 AI 的新方法，其作用就像一位严厉但公平的教练。它不再让 AI 满足于“足够好”的平均表现，而是不断寻找那些受到最差对待的患者群体，并迫使 AI 修正这些特定的错误。其结果是，这款医疗 AI 和以前一样聪明，但对所有人——无论其年龄、种族或性别——都更加公平。

技术摘要：用于多属性公平医学图像分类的最坏组均衡几率正则化

1. 问题陈述

本文解决了医学人工智能在不同人口统计群体（如年龄、性别、种族）间存在系统性性能差异的关键问题。虽然曲线下面积（AUC）等聚合指标在各组间往往看似相似，但它们可能会掩盖固定推理操作点处具有临床意义的公平性缺失。具体而言，某些子群体可能表现出过度诊断行为（真阳性率 [TPR] 和假阳性率 [FPR] 升高），而其他群体则表现出诊断不足行为（TPR 和 FPR 降低）。这些相反的趋势可能在聚合 AUC 中相互抵消，从而掩盖临床决策中有意义的差异。

现有的缓解策略面临若干局限性：

目标错位：GDRO、JTT 或 FairBatch 等方法通常通过重新加权样本或修改对数损失来降低平均预测风险，这可能无法捕捉特定操作点处局部的子群体差异。
单一属性聚焦：大多数先前的工作仅针对单一人口统计属性的公平性，导致交叉性差异未被解决甚至加剧。
交叉性挑战：处理多个属性的方法通常需要简化子群体定义以维持统计效力，或者在针对小样本子群体的表示级去偏（例如抑制互信息）时面临不稳定性问题。
场景局限性：许多方法仅在简化的二分类设置中进行评估，限制了其在临床影像中常见的多标签场景中的适用性。

2. 方法论

作者提出了一种专为现实多标签诊断场景设计的最坏组均衡几率（EO）边界正则化器。该方法利用无阈值的 Logit 边界，针对操作点级别的差异进行优化。

核心公式：

问题设定：数据集由输入 $x_i$ 、标签 $y_i$ 和人口统计属性 $a_i$ （如年龄、性别、种族）组成。子群体 $g$ 由属性 - 值对定义。
最坏组识别：在每个小批量中，该方法动态识别表现最差的子群体，而无需为每个属性维护单独的约束：
- 对于阳性样本（ $y=1$ ），识别平均预测概率最低的子群体 $g_{min}^{[+]}$ （表明存在诊断不足风险）。
- 对于阴性样本（ $y=0$ ），识别平均预测概率最高的子群体 $g_{max}^{[-]}$ （表明存在过度诊断风险）。
Logit 边界定义：目标是强制分离诊断不足组中最差情况的阳性样本与所有阴性样本，反之亦然，针对过度诊断组进行相反操作。
- 理想情况下： $\min_{m: y_m=1, g_m=g_{min}^{[+]}} \ell_m > \max_{n: y_n=0} \ell_n$ 且 $\max_{m: y_m=0, g_m=g_{max}^{[-]}} \ell_m < \min_{n: y_n=1} \ell_n$ 。
可微松弛：由于硬性的 min/max 算子不可微，作者使用Log-Sum-Exp (LSE) 算子对其进行替换。这平滑了极值，允许接近最差情况的样本对惩罚做出贡献，从而有助于缓解交叉性违规。
- $margin_{EO+} = \text{LSE}_{max}(\{\ell_i : y_i=0\}) - \text{LSE}_{min}(\{\ell_i : y_i=1, g_i=g_{min}^{[+]}\})$
- $margin_{EO-} = \text{LSE}_{max}(\{\ell_i : y_i=0, g_i=g_{max}^{[-]}\}) - \text{LSE}_{min}(\{\ell_i : y_i=1\})$
损失函数：应用铰链损失（hinge loss）仅对正边界（违规情况）进行惩罚：
- $L_{EO+} = \max(0, margin_{EO+})$
- $L_{EO-} = \max(0, margin_{EO-})$
- 最终目标函数为 $L = L_{base} + \lambda_{EO+}L_{EO+} + \lambda_{EO-}L_{EO-}$ ，其中 $L_{base}$ 是标准二元交叉熵（或在多标签情况下跨类别平均）。

关键机制：该正则化器充当一种局部 AUC 优化，增强最坏表现子群体中弱阳性样本相对于所有阴性样本的排序，反之亦然针对阴性样本，而无需后验阈值调整。

3. 主要贡献

统一的多属性正则化器：一种能够同时在所有人口统计轴（年龄、性别、种族）上动态识别“最坏”子群体的方法，避免了对显式交叉性约束或简化子群体定义的需求。
双向惩罚：与主要通过重排序改善 AUC 的标准对数损失不同，该双向正则化器明确地在操作点处惩罚过度诊断（FPR 侧）和诊断不足（TPR 侧）。
可微的最坏组优化：基于 LSE 的边界的使用使得最坏组公平性的基于梯度的训练更加稳定，将梯度流分布在样本上，而不是集中在单个异常值上。
多标签适用性：该方法在现实的多标签诊断设置中得到了验证，解决了现有文献通常专注于二分类的空白。

4. 实验结果

该方法在两个医学影像数据集上进行了评估：

RNFL-OCT：一个用于青光眼分类的眼科数据集（3,300 张图像）。
MIMIC-CXR：一个大型胸部 X 光片数据集（82,282 张图像），包含针对胸腔积液、心脏肥大和肺不张的多标签任务。

性能表现：

公平性指标：所提出的方法在两个数据集及所有人口统计属性（年龄、种族、性别）上，始终实现了最低的EOdds（TPR/FPR 差异的最差组与最佳组比率）和最高的EOM（跨多个子类的机会均等）。
- 在 RNFL-OCT 上，它将联合 EOdds 降低至 0.226（基线为 0.354），并将联合 EOM 提高至 0.926。
- 在 MIMIC-CXR 上，它将联合 EOdds 降低至 0.127（基线为 0.254），并将联合 EOM 提高至 0.916。
准确率权衡：该方法在对整体 AUC 影响极小的情况下实现了这些公平性改进。
- RNFL-OCT： $\Delta AUC = -0.006$ 。
- MIMIC-CXR： $\Delta AUC = -0.007$ 。
对比：与 FairBatch、GDRO、JTT、对抗训练和 FaMI 等基线相比，所提出的方法提供了更优越的公平性 - 准确率平衡。其他方法要么产生较弱的公平性提升，要么导致显著更大的准确率损失（例如，FaMI 显示 $\Delta AUC \approx -0.06$ ）。

消融实验：实验证实，正向（ $L_{EO+}$ ）和负向（ $L_{EO-}$ ）正则化组件是互补的；同时启用两者能产生最强的公平性增益。

5. 意义与主张

本文主张，其方法提供了一种统一机制，用于解决跨多个人口统计轴的公平性问题，而无需为每个属性或交叉性组管理单独约束所带来的计算或统计开销。通过针对导致过度诊断和诊断不足行为的局部分数差异，该方法在保持诊断性能的同时缓解了最坏情况下的子群体差异。

作者强调，虽然 AUC 可能会掩盖操作点处具有临床意义的差异，但其正则化器有效地优化了驱动 TPR 和 FPR 差异的特定分数区域内的排序。与现有方法相比，这产生了更有利的公平性 - 准确率权衡，使其特别适用于多标签预测和严格人口统计公平性至关重要的临床影像场景。