💻 computer science

Exploring Entropy-based Active Learning for Fair Brain Segmentation

本文提出了一种公平性感知主动学习框架，该框架采用加权熵选择策略，通过优先处理表现欠佳的子群，显著降低医学图像分割中的性能差异，与标准方法相比，其差异指标最高可降低 86%。

原作者： Ghazal Danaee, Mélanie Gaillochet, Christian Desrosiers, Herve Lombaert, Sylvain Bouix

发布于 2026-05-05

📖 1 分钟阅读☕ 轻松阅读

原作者： Ghazal Danaee, Mélanie Gaillochet, Christian Desrosiers, Herve Lombaert, Sylvain Bouix

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一位老师，正试图教一名学生（一个 AI 模型）如何根据医学影像绘制大脑的特定部位，例如“左侧尾状核”。问题在于，让专家标注这些影像极其昂贵且耗时。你无法标注手头所有的影像；你的预算是有限的。

这就是主动学习发挥作用的地方。AI 不再标注所有内容，而是向老师提问：“在这些未标注的影像中，我应该先看哪一张以学到最多的东西？”通常，AI 会选择它最困惑的影像（即具有最高“不确定性”的影像）。

问题：不公平的学生
该论文指出了这种标准方法的一个缺陷。如果 AI 只选择它认为困惑的影像，它可能会无意中忽略某些人群。例如，如果 AI 天生更擅长理解 A 组人群的脑形，但在 B 组人群上表现挣扎，它可能会持续选择 A 组的影像，因为这些影像在一般意义上“更难”，或者它可能只是随机选择。最终，AI 在绘制 A 组人群的脑形方面变得精通，但在绘制 B 组人群时却表现糟糕。这就是不公平：医疗工具的质量取决于患者是谁。

解决方案：公平的老师
作者提出了一种让 AI 选择下一步学习哪些影像的新方法。他们称之为**“加权局部熵”**。让我们用一个简单的类比来分解这个概念：

“局部”部分（聚焦细节）：
想象大脑影像是一幅巨大的画作。AI 不需要担心整幅画；它只需要学会如何绘制那个微小的“左侧尾状核”斑点。标准方法可能会因整个大脑的大小或其所占空间而分心。作者的方法只在特定斑点处放置一个“放大镜”（掩膜）。这确保 AI 不会被整个大脑的大小所困扰，而只会被它需要学习的特定部位形状所困扰。
“加权”部分（公平性提升）：
这是关键秘诀。AI 保持一份记分卡。它会检查：“我在绘制 A 组人群的脑形方面表现如何？我在 B 组人群方面表现如何？”
- 如果 AI 在 A 组表现很好，但在 B 组表现糟糕，系统会给 B 组一个更高的优先级权重。
- 即使某张 B 组影像整体上不是最“困惑”的，系统也会迫使 AI 查看它，因为 AI 目前在该群体上表现失败。
- 这就像一位老师注意到一名学生在分数运算上挣扎，但在加法上表现良好。老师停止询问加法，完全专注于分数，直到学生赶上，确保学生不会在某个领域掉队。

他们如何测试
由于真实的医疗数据难以控制，研究人员使用计算机程序创建了合成（伪造）的大脑影像。他们创建了两个组：

第 1 组： 具有特定、棘手变形（例如形状略有不同）的大脑。
第 2 组： 正常大脑。

他们设置了两种场景：一种形状差异明显（“强偏差”），另一种差异微妙（“弱偏差”）。然后，他们让不同的 AI 策略选择影像进行学习。

结果

随机选择： AI 随机选择影像。它学得还可以，但它在第 1 组与第 2 组之间的表现差距仍然很大。
标准“困惑”选择： AI 选择它最不确定的影像。这通常使群体间的差距恶化，或者未能解决该问题。
新的“公平”方法： 使用加权局部熵策略的 AI 成为了赢家。
- 它主动寻找它正在挣扎的群体（第 1 组）的影像。
- 与标准方法相比，它将群体间的性能差距减少了75% 到 86%。
- 它实现了最高的“公平缩放性能”，意味着它既准确又公平。

主要启示
该论文表明，通过简单地调整 AI 选择学习数据的方式——特别是通过额外关注它目前表现失败的群体——它可以构建一个更公平的医疗工具，而无需标注成千上万张额外的图像。这是一种确保当 AI 变得更好时，它是为所有人变得更好，而不仅仅是为那些解剖结构恰好易于学习的幸运少数人的方法。

技术摘要：探索基于熵的主动学习以实现公平的脑分割

问题陈述
主动学习（AL）是降低医学图像分割中专家标注高昂成本的关键策略。然而，标准的基于不确定性的主动学习方法通常针对全局性能指标进行优化，往往忽略了由敏感属性（如种族、性别）定义的群体之间的性能差异。尽管公平的主动学习已在分类任务中得到探索，但其在医学图像分割中的应用仍基本未被触及。现有的分割模型往往表现出人口统计学差异，即在代表性不足的群体或具有特定解剖变异的群体中性能下降。此外，分割任务中朴素的基于不确定性的采样倾向于选择冗余图像或异常值，而标准的熵计算可能受到解剖体积差异而非真实模型不确定性的影响而产生偏差。

方法论
作者提出了一种专为脑 MRI 分割设计的公平感知主动学习框架。该方法的核心是一种加权局部熵选择策略，该策略根据当前的群体特定性能对体素级不确定性进行调节。

数据生成：为了控制偏差，本研究利用 SimBA 框架生成的合成 T1 加权脑 MRI。定义了两个群体：
- 群体 1：具有全局变形加上左侧尾状核局部变形的病例（模拟“偏差”或特定的解剖变异）。
- 群体 2：仅具有全局变形的病例。
  实验在“强偏差”（ $\mu=4$ ）和“弱偏差”（ $\mu=2$ ）条件下进行。
加权局部熵策略：
- 局部熵：为了将真实的认知不确定性与解剖体积变异解耦，熵仅在目标结构（左侧尾状核）周围的膨胀感兴趣区域（ROI）掩膜内计算。熵在 ROI 内取平均值并由区域大小归一化（ $\hat{H}$ ），防止较大的结构主导选择分数。
- 群体感知加权：该框架根据当前标记集上的 Dice 相似系数（DSC）计算每个群体 $g$ 的标准化性能得分（ $z_g$ ）。性能较低（DSC 较低）的群体通过 softmax 变换获得较高的权重（ $w_g$ ）。
- 采集分数：选择样本 $x_g$ 的最终分数是群体权重与局部熵的乘积： $score(x_g) = w_g \cdot \hat{H}$ 。这优先选择模型当前表现不佳的群体的样本。
实验设置：使用 3D U-Net 进行训练，主动学习循环从较小的标记集（10 个样本）开始，初始群体构成各不相同（平衡、80/20、20/80）。将该框架与随机采样（RS）、平均熵采样和局部熵采样进行了比较。

主要贡献

首个用于分割的公平主动学习：这项工作解决了公平主动学习与医学图像分割的交叉领域，这是一个此前相比分类任务未被探索的领域。
新颖的选择策略：引入了一种加权局部熵策略，该策略根据群体特定的 DSC 性能动态重新加权不确定性，确保主动学习过程聚焦于表现不佳的亚群。
不确定性与解剖结构的解耦：在膨胀 ROI 内使用掩膜化、缩放的熵，以确保选择由边界不确定性驱动，而非结构体积差异。

结果
在合成数据集上的实验表明，与随机采样和标准不确定性方法相比，所提出的方法显著减少了群体间的性能差异。

公平缩放性能：加权局部熵策略在所有初始化方案和偏差强度下，始终实现了最高的公平缩放分割性能（ESSP）。
差异减少：相对于标准熵采样，所提出的方法在最终标注预算下，将强偏差设置中的差异指标（ $\Delta$ ）降低了75%，在弱偏差设置中降低了86%。
选择动态：该方法成功优先选择了来自表现不佳的群体 1（形态学挑战亚群）的样本，而全局熵通常选择更多的群体 2 样本，随机采样则保持了 50/50 的平衡。
基线发现：令人惊讶的是，基线实验显示，仅在更具挑战性的群体 1 数据上进行训练所产生的 ESSP 优于平衡训练，这表明过度代表困难的形态学充当了“公平锚点”，而不会严重损害整体效用。

意义与主张
作者声称，这项工作提供了一种高效的策略，用于在资源受限且标注预算有限的环境中训练更公平的模型。该框架的显著特点是轻量级；它仅依赖标记集的性能来估计群体权重，不需要额外的公平性分类器或特征空间中昂贵的代表性建模。

该论文适度地承认了局限性，主要是使用合成数据来明确控制偏差幅度。作者指出，现实世界的医学数据涉及复杂且难以解耦的偏差（例如扫描仪伪影）。他们认为，虽然他们的结果支持加权采样以避免群体级性能偏差的效用，但将其转化为现实世界场景需要基于先验假设识别敏感属性以及可靠的参考分割。研究结论是，向表现不佳的群体施加自适应选择压力是实现公平医学图像分割的可行途径。

类似论文