Neuron Incidence Redistribution for Fairness in Medical Image Classification

技术摘要：用于医学图像分类公平性的神经元发生重分布

问题陈述
医学图像分类的深度学习模型通常在人口统计子群体（如年龄、性别、种族）之间表现出系统性的性能差异。虽然现有的公平性干预措施通常通过预处理、对抗训练或后处理校准来针对输出级指标（如灵敏度或假阳性率），但它们往往无法解释驱动这些差异的内部机制。作者识别出一种特定的潜在机制：在迁移学习模型的倒数第二层中存在的特征纠缠（或多义性）。

实证分析表明，在标准的微调模型（如 ResNet-18）中，主导激活通道并非纯粹的疾病特异性。相反：

• 在阳性预测下的主导通道会被疾病阳性样本和“特权”人口统计群体（如男性、老年患者）共同激活。这导致这些群体的预测概率虚高，并造成过度诊断。
• 在阴性预测下的主导通道则优先被“弱势”群体（如女性、年轻患者）共同激活，抑制了他们的得分，从而导致系统性漏诊。

这种纠缠意味着单个特征通道同时编码了临床形态和人口统计相关性，直接导致了真阳性率（TPR）和假阳性率（FPR）的差异。

方法论：神经元发生重分布（NIR）
为解决这一问题，作者提出了神经元发生重分布（NIR），这是一种轻量级、可微的正则化方法，在训练过程中无需人口统计标签。

1. 神经元发生定义：对于一个迷你批次，特定神经元 $j$ 的“发生”（incidence）定义为预测概率加权的平均激活值：
   $$\phi_j = \frac{\sum_{i=1}^{B} \hat{p}_i z_{ij}}{\sum_{i=1}^{B} \hat{p}_i + \epsilon}$$
   其中 $\hat{p}_i$ 是阳性类的预测概率，$z_{ij}$ 是样本 $i$ 的神经元 $j$ 的激活值。这种加权确保该指标专注于模型已视为阳性的样本的表示结构。

2. 重分布损失：该方法惩罚倒数第二层所有神经元之间这些发生值的方差。如果阳性类证据集中在少数神经元中（高方差），损失就会增加。其目标是将阳性预测的“发生”均匀分布在整个层中：
   $$\mathcal{L}_{IR} = \frac{1}{d} \sum_{j=1}^{d} (\phi_j - \bar{\phi})^2$$

3. 训练目标：总损失将标准的二元交叉熵（BCE）与 NIR 正则化项相结合：
   $$\mathcal{L}_{total} = \mathcal{L}_{BCE} + \lambda \mathcal{L}_{IR}$$
   作者在实验中使用了固定的 $\lambda = 0.1$，证明该方法无需针对特定数据集进行超参数调整即可提供一致的改进。

主要贡献

1. 机制洞察：一项实证分析，将“主导通道纠缠”与不对称的过度诊断和漏诊联系起来。作者证明，顶级阳性类神经元优先被与疾病标签无关的特权人口统计群体共同激活。
2. NIR 算法：一种可微的、无标签的正则化器，鼓励在整个倒数第二层中分布阳性类表示，打破疾病信号与人口统计相关性之间的纠缠。
3. 实证验证：在 HAM10000 皮肤病变数据集上实现了显著的公平性提升，在哈佛 OCT-RNFL 青光眼数据集上取得了普遍积极（尽管混合）的结果，且无需敏感属性监督。

实验结果
该方法在两个数据集上使用微调的 ResNet-18 架构进行了评估。

• HAM10000（皮肤病变）：

  • 公平性：NIR 将年龄组间的 TPR 差异从 10.81% 降低至 0.93%，性别间的差异从 12.04% 降低至 0.74%（降幅超过 90%）。FPR 差异也得到了显著改善。
  • 准确性：该方法带来了 0.51 个点 的边际 AUC 提升（从 89.74% 到 90.25%），表明分布式表示不会损害判别性能。

• Harvard OCT-RNFL（青光眼）：

  • 公平性：NIR 大幅降低了种族的 FPR 差异（从 15.68% 降至 10.66%）和年龄的 FPR 差异（从 12.69% 降至 1.80%）。种族和性别的 TPR 差异也看到了适度的改善。
  • 准确性：AUC 下降了 3.03 个点（从 84.71% 降至 81.68）。作者将此归因于较小的数据集规模和类别不平衡，在这种情况下，强制均匀的发生率可能会部分抑制那些携带与人口统计纠缠的真实疾病信息的高发生率神经元。这突显了在受限数据 regime 下固有的准确性与公平性之间的权衡。

意义与主张
该论文声称，神经元发生重分布提供了一种原则性策略，通过针对差异的根本原因——迁移学习模型中主导神经元的多义性——来改善医学 AI 中的人口统计公平性。

• 实用性：与许多公平性干预措施不同，NIR 在训练时不需要人口统计标签，使其在临床部署中极具实用性，因为在这些场景中敏感属性通常不可用或受保护。
• 可解释性：这项工作将抽象的表示学习概念（多义性、神经元坍塌）与可观察到的人口统计差异联系起来，为模型为何在特定子群体上失效提供了机制性解释。
• 权衡意识：作者谦逊地承认，虽然 NIR 在较大数据集（HAM10000）上非常有效，但在较小且不平衡的数据集（OCT-RNFL）上可能会付出准确性代价。他们并未将此视为失败，而是将其作为准确性与公平性权衡的重要考量，表明强制更广泛的特征利用可以减少对最具判别力但人口统计纠缠最严重的神经元的依赖。

作者总结道，在整个倒数第二层重新分布潜在疾病证据是一种有效的、无标签的减轻子群体差异的方法，尽管未来的工作应探索将其与显式解纠缠或因果约束相结合，以进一步解耦特征。