🤖 machine learning

Towards Fairness under Label Bias in Image Segmentation: Impact, Measurement and Mitigation

本文提出了一种以数据为中心的框架，该框架通过利用模型的高置信度预测来识别系统性误差和特征空间伪影，从而将置信学习适配于图像分割任务以检测和缓解标签偏差，进而在无需干净、无偏的基准真值标签的情况下实现跨人口子群的公平性能。

原作者： Aditya Parikh, Stella Frank, Sneha Das, Aasa Feragen

发布于 2026-05-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Aditya Parikh, Stella Frank, Sneha Das, Aasa Feragen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和创意类比对该论文的解读。

核心问题：“坏尺子”

想象一下，你正在教一个机器人从照片中描出猫的轮廓。你给了它 1000 张照片作为学习素材。然而，这里有一个隐蔽的缺陷：对于每一张黑猫的照片，人类标注员不小心把轮廓画得太小，切掉了耳朵尖和尾巴尖；而对于每一张白猫的照片，轮廓则是完美的。

机器人从这些标注中学习。当它后来看到一只黑猫时，它会画出一只微小且不完整的猫，因为这就是它被教导的样子。当它看到一只白猫时，它会画出一只完美的猫。

这就是标签偏差。并不是机器人“笨”，而是针对特定群体（在本例中是特定类型的猫）的“尺子”（训练数据）坏了。

陷阱：为何标准检查会失效

通常，当我们检查机器人是否表现良好时，会使用一个叫Dice或IoU的分数。这就像老师给考试打分。

陷阱：如果老师的标准答案也是错的（因为它是由同一个有偏差的人类标注的），机器人就会得到高分！
论文的发现：作者指出，标准指标就像是用一把坏尺子去测量一个坏物体。即使机器人在特定群体上表现失败，它们也会说“干得好！”。事实上，论文表明，有时机器人在有偏差的群体上看起来更好，仅仅是因为与之比较的“正确”答案也是错的。

解决方案第一部分：“自信的侦探”（审计）

既然我们通常没有“完美”的答案（干净的真实标签）可供对照，我们该如何发现偏差呢？

作者改编了一种名为**自信学习（Confident Learning）*的工具。想象一位侦探，他不知道真相，但知道机器人如何思考*。

侦探问机器人：“你 100% 确定这个像素是物体的一部分吗？”
如果机器人说：“是的，我非常有信心这是猫耳”，但训练标签说：“不，那是背景”，侦探就会标记它。
通过观察机器人在哪里感到自信却与标签不一致，侦探就能发现偏差。

类比：这就像一个学生自信地认为自己拼写正确，但老师的答案键说是错的。如果学生 consistently 自信，而老师对特定的一组学生 consistently“错”，侦探就会意识到问题出在老师的答案键上，而不是学生身上。

论文引入了新的方法来衡量这一点，区分了：

遗漏错误（Omission Errors）：标签说“这里什么都没有”，但机器人看到了“有东西”。（轮廓太小）
误报错误（Commission Errors）：标签说“这里有东西”，但机器人看到了“什么都没有”。（轮廓太大）

解决方案第二部分：“特制眼镜”（缓解）

一旦我们知道数据有偏差，如何在不丢弃所有数据的情况下修复机器人？

作者发现了一个有趣的现象：当数据有偏差时，机器人内部的“大脑”（其特征空间）开始将这两个群体视为完全不同的物种。它学会激进地将它们分开。通常，公平性专家试图强迫机器人忽略这些差异。

论文的转折：他们不是强迫机器人忽略差异，而是给了它特制眼镜。

他们构建了一个系统，机器人根据图像所属的群体佩戴不同的“眼镜”。
训练期间：机器人学习到，A 组需要“厚眼镜”（以修正过小的轮廓），而 B 组需要“普通眼镜”。
推理期间（测试时）：这里是魔法所在。当机器人看到一张新图像时，无论对象是谁，它都会为所有人戴上“干净组眼镜”。

类比：想象一位裁缝在制作西装。他注意到对于 A 组，布料在洗涤后会缩水，所以他把布料剪得特别大。对于 B 组，布料不缩水，所以他按正常尺寸剪裁。

旧方法：试图让所有人的布料缩水程度相同（通常失败）。
论文的方法：针对缩水问题专门剪裁布料。然后，当顾客走进来时，裁缝只需对所有人都使用“完美合身”的版型，从而有效地抵消了缩水问题。

结果

作者在三种不同的场景中测试了这种方法：

人脸：人为地缩小女性人脸的轮廓。
细胞：人为地使特定颜色组的细胞轮廓变得“肿胀”。
皮肤病变：真实世界数据，其中较浅肤色拥有更大、更准确的轮廓，而较深肤色则不然。

结果：

标准公平性工具：试图强迫机器人对群体“视而不见”。这失败了。机器人在有偏差的群体上表现依然不佳。
论文的方法：通过承认偏差并使用“特制眼镜”（子组条件化），他们修复了性能差距。即使机器人在训练期间从未见过任何“完美”的标签，它对所有群体的准确率也变得同等准确。

总结

论文认为，在图像分割中，糟糕的数据会产生标准测试无法察觉的隐藏偏差。要修复它，你不需要丢弃数据或强迫 AI“色盲”。相反，你需要检测误差的具体方向（太大还是太小），并教导 AI 在做出最终预测时补偿这种特定误差。

技术摘要：迈向标签偏差下的图像分割公平性

问题定义

人工智能中的算法偏差通常表现为不同人口统计子群体之间的性能差异。尽管标签偏差（即系统性的群体条件标签错误）在分类任务中已得到充分研究，但在图像分割领域仍鲜有探索。在医疗影像等安全关键领域，有偏的标注（例如，针对特定患者群体系统性地下分割或过分割肿瘤）会直接传播至临床决策中。

一个关键挑战在于，标准分割指标（如 Dice、IoU）将复杂的空间误差压缩为单一标量，往往掩盖了偏差的方向性。此外，检测和缓解此类偏差通常需要有干净、无偏的真实标签，而在现实场景中，标注协议本质上具有主观性且易受特定人口统计扭曲的影响，因此这类标签极为罕见。现有的缓解工具通常假设标签干净或已知偏差结构，导致在真实标签未知的情况下处理标签偏差存在空白。

方法论

本文提出了一种以数据为中心的框架，用于在无需干净真实标签的情况下对分割任务中的标签偏差进行审计和缓解。该方法包含两个主要阶段：

1. 基于改进的置信学习（CL）的审计

作者将传统上用于分类数据集审计的置信学习（Confident Learning, CL）适配到分割这一密集预测任务中。

机制：该框架并非诊断模型，而是将数据集作为审查对象。分割模型作为代理，通过 K 折交叉验证生成置信预测（ $\hat{y}$ ），以此估计未观测到的真实标签（ $y_{true}$ ）。
联合分布估计：该方法计算像素级的联合分布矩阵 $Q(y_{obs}, \hat{y})$ ，其中 $y_{obs}$ 为观测到的（可能有偏的）标签。该矩阵隔离了非对角线元素，代表观测标签与模型置信预测不一致的误差。
方向性指标：为克服 Dice/IoU 的局限性，框架将 $Q$ $Q$ 投影到两个方向轴上：
- 遗漏率 (OmR)：观测为背景但被置信预测为前景的像素（下分割）。
- 误报率 (CoR)：观测为前景但被置信预测为背景的像素（过分割）。
偏差指示器：框架采用统计检验以区分系统性偏差与随机噪声：
- 卡方独立性检验：检验误差类型是否与子群体独立。
- 相对风险 (RR)：量化有偏群体相较于无偏群体出现误差的可能性。
- 对称性得分 (S)：衡量误差分布是否与群体规模成比例（高 S 值意味着均匀噪声；低 S 值意味着偏差）。

2. 基于子群体条件解码的缓解

作者观察到，标签偏差会诱导特征空间可分性，即编码器学会基于被污染的标注模式而非单纯的视觉特征来区分子群体。该框架并非像传统基于不变性的方法那样抑制这种可分性，而是加以利用。

子群体条件解码器：该方法利用特征级线性调制（FiLM），在编码器 - 解码器流程中注入可学习的子群体条件。在训练期间，特定于子群体的参数对编码器特征进行调制。
推理策略：在推理阶段，无论实际子群体身份如何，模型被强制对所有输入以“干净”参考组（ $g_c$ ）为条件。这系统地抑制了学习到的标注偏差。
非对称边界掩码：为防止模型学习有偏的边界风格，细粒度的边界监督仅从干净子群体的标注中路由，而物体内部的质量则利用所有样本。
自动条件化（无监督变体）：当有偏子群体未知时，预热阶段将平均损失最低（稳定损失吸引子）的群体识别为“干净”组，使系统能够自动过渡到非对称损失。

主要贡献

置信学习在分割中的适配：本文提出了一种框架，可直接在训练数据中检测标签偏差而无需干净真实标签，利用标准重叠指标无法捕捉的方向性指标（遗漏率/误报率）。
特征空间可分性的实证证据：研究表明，标签偏差增加了编码器潜在空间中子群体的可分性。关键在于，本文论证这种可分性是被污染输入的产物，可以建设性地用于缓解而非被抑制。
偏差缓解策略：提出了一种新颖的子群体条件解码策略，在无需干净标签的情况下实现公平的性能，其表现优于现有的公平性基线（对抗去偏、域不变对齐、公平性正则化），后者未能解决标注偏差的根本原因。

结果

该框架在三个数据集上进行了评估：

CelebAMask-HQ：受控的人口统计偏差（对女性/男性掩码应用腐蚀/膨胀）。
PhC-U373：半合成标注风格偏差（详细边界与粗略边界）。
ISIC 皮肤病变：现实世界的临床偏差（对浅色肤色系统性过度标注）。

主要发现：

检测：标准指标（Dice/IoU）往往无法检测偏差，或提供颠倒的公平性诊断（例如，观测 Dice 最高的群体实际上受标注错误影响最大）。相比之下，CL 审计在所有数据集上均正确识别了有偏子群体及误差性质（遗漏与误报），即使在没有干净标签的情况下也是如此。
缓解：传统的基于不变性的方法（对抗、MMD、CORAL）带来的提升微乎其微，因为它们抑制了人口统计信号却未纠正底层的标注风格。所提出的子群体条件方法显著缩小了性能差距（例如，在 100% 偏差下，将 CelebAMask-HQ 上的 Dice 差距从约 12% 降低至约 0.3%），并恢复了误差率的对称性。
特征可分性：实验证实，随着标签偏差的增加，特征空间中的子群体可分性单调增加，验证了偏差破坏表示空间的假设。

意义与主张

本文声称通过从以模型为中心的公平性（假设数据干净）转向以数据为中心的偏差审计，解决了分割算法公平性的一个关键空白。其主张包括：

标准指标不足以用于分割中的公平性评估，因为它们掩盖了标注误差的方向性本质。
标签偏差不仅仅是随机噪声，而是一种系统性的、群体条件的几何破坏，会改变网络的表示空间。
通过条件解码建设性地利用子群体可分性，比试图强制不变性（这可能导致性能“向下拉平”）是更有效的缓解策略。
所提出的框架能够在真实标签不可用的现实场景中实现可靠的偏差检测与缓解，为安全关键应用中的标注流程审计提供了一种原则性方法。

作者承认了局限性，指出审计在极端（100%）均匀偏差下易受攻击，此时观测标签与预测标签之间的分歧会减弱；且缓解策略依赖于至少一个子群体保留相对无偏标签的假设。未来的工作建议将该框架扩展至非均匀形态学操作及其他密集预测任务。