🤖 machine learning

Calibratable Disambiguation Loss for Multi-Instance Partial-Label Learning

本文提出了一种即插即用的可校准消歧损失（CDL），该损失通过调节基于间隔的目标函数，在多实例部分标签学习中同时提高分类准确率和模型校准度，从而解决现有 MIPL 方法中固有的可靠性问题。

原作者： Wei Tang, Yin-Fang Yang, Weijia Zhang, Min-Ling Zhang

发布于 2026-07-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Wei Tang, Yin-Fang Yang, Weijia Zhang, Min-Ling Zhang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名试图破解谜团的侦探，但你面临两个大难题。首先，你无法一次看到完整的犯罪现场；你只能看到零散、细小的线索（照片中的局部区域），并且必须据此推测整个房间发生了什么。其次，当你向人群询问嫌疑人的名字时，他们并没有给你一个确切的名字。他们给了你一个名单，上面有三四个名字，并说：“可能是其中之一！”但他们不会告诉你哪一个才是真正的罪犯。

这就是**多实例部分标签学习（Multi-Instance Partial-Label Learning, MIPL）**的混乱现实。这是一种计算机从不完美数据中学习的极其棘手的方式。你正在阅读的论文针对了其中的一个特定痛点：置信度（confidence）。

问题所在：过度自信（或缺乏自信）的侦探

在过去，试图解决这些 MIPL 谜题的计算机就像是那些要么畏首畏尾不敢下结论，要么在错误时又过于自大的侦探。

作者发现，现有的方法（如 DEMIPL、ELIMIPL 和 MIPLMA）在判断自己“有多确定”方面表现得很糟糕。如果计算机说：“我有 90% 的把握这是肿瘤”，它实际正确的概率往往只有 60%。或者，如果它说：“我只有 25% 的把握”，它实际正确的概率可能高达 80%。

在现实世界中，这是非常危险的。想象一下医生使用 AI 来观察病理切片（细胞图像）的情景。如果 AI 说：“我有 90% 的把握这是癌症”，医生可能会匆忙开始治疗。但如果 AI 实际只有 60% 的正确率，那将是一场灾难。计算机必须是经过校准的（calibrated）：如果它说“90%”，那么它在 90% 的情况下都应该是正确的。

论文明确反对了一个人们最初尝试过的简单修复方案：仅仅是将标准的“Focal Loss”（一种通常用于已知精确答案的工具）直接套用到这个混乱的 MIPL 问题上。作者展示了这种天真的做法会让计算机变得要么过于胆怯（置信度不足），要么过于傲慢（过度自信），并且实际上会让计算机获取正确答案的能力变差。

解决方案：“顶尖 vs 竞争者”的间距

那么，作者发明了什么呢？他们创造了一个名为**可校准消歧损失（Calibratable Disbiguations Loss, CDL）**的新工具。

把计算机的大脑想象成一个正在参加多选题考试的学生，而老师只给了他一组可能的选项（“候选集”）。学生必须从这个列表中选出正确的一个。

在旧的方法中，学生只是试图大喊：“我知道答案！”并尽可能快地将所选答案推向 100% 的置信度。这导致了“过度自信”的问题。

新的 CDL 方法则像是一位严厉的老师，他会说：“不要只对着你的答案大喊大叫。看看你的竞争者。”

竞争者（The Competitor）： 这是计算机做出的第二好的猜测。
规则： 只有当计算机的第一选择明显优于第二好的选择时，它才被允许获得极高的置信度。

如果计算机正处于挣扎阶段，且它的第一选择和第二选择不相上下（间距很小），CDL 会说：“好吧，继续努力，先别自以为是。”但如果第一选择远超竞争者，CDL 则会说：“做得好！你现在可以放松并保持自信了。”

这创造了该工具的两种版本：

CDL-CC： 将第一选择与第二好的候选者进行比较（就像比较赛跑中的第 1 名和第 2 名）。
CDL-CN： 将第一选择与最强的非候选者进行比较（就像将第 1 名选手与那些甚至没被允许参赛的人进行比较）。

结果：用数据说话

作者并不仅仅是凭直觉认为这行得通；他们在包括真实世界的结直肠癌病理图像和标准图像数据集（如 MNIST）在内的许多数据集上进行了测试。

以下是他们的发现，包含了实验中的准确数字：

更高的准确率： 在 Birdsong-MIPL 数据集上，旧的最佳方法（DEMIPL）达到了 74.36% 的准确率。他们的新方法（DAMCN）跃升至 80.38%。在包含三个错误标签的 SIVAL-MIPL 数据集上，他们比旧方法在准确率上实现了巨大的 18.58% 的提升。
更好的校准度： 这是最大的胜利。旧方法在“期望校准误差”（Expected Calibration Error, ECE）方面表现很差，该指标衡量的是其置信度与现实之间的差距。
- 在带有三个错误标签的 Birdsong-MIPL 数据集上，旧方法（DEMIPL）的 ECE 为 53.42%。这表明其宣称的置信度与事实之间存在巨大鸿沟。
- 他们的新方法（DAMCN）将该误差大幅削减至 4.52%。
- 总之，在基准数据集的 60 个不同测试案例中，他们的方法在 26 个案例中将校准误差降低了超过 50%。平均降幅为 44.76%。

结论

论文证明，通过加入这种“间距”规则——即迫使计算机检查其最佳猜测相对于亚军而言究竟优秀了多少——你可以在不损害获取正确答案能力的前提下，修复计算机的置信度问题。

他们展示了这种方法适用于从简单的图像拼图到复杂的医学图像的所有场景，在这些场景中，他们利用深度学习将图像分解为 9、16 甚至 25 个微小的补丁。图像越复杂，他们的新方法帮助越大，在最困难的癌症数据集上，某些版本的校准误差降低了 33.32%。

所以，下次当你看到 AI 进行医疗诊断时，你可以希望它使用的是类似这样的方法：一种知道自己到底有多确定的方法，因为它学会了在开始大喊“我对了！”之前，先尊重它的竞争对手。

以下是关于论文《面向多实例部分标签学习的可校准消歧损失》的技术摘要详细翻译：

问题陈述

本文研究了多实例部分标签学习（Multi-Instance Partial-Label Learning, MIPL），这是一个结合了多实例学习（MIL）与部分标签学习（PLL）挑战的弱监督框架。在 MIPL 中，每个训练样本由一个“包”（bag）组成，其中正实例是未识别的（MIL 的挑战），且真实标签隐藏在一组候选标签集合中（PLL 的挑战）。

虽然现有的 MIPL 方法侧重于标签消歧（从候选集中识别出真实标签），但作者发现了一个关键缺陷：这些方法往往存在模型校准度差的问题。现有方法产生的置信度分数无法反映其正确性的经验概率。这在病理图像分类等对决策敏感的应用场景中尤为严重，因为置信度分数直接指导着分诊和诊断过程。作者证明，将全监督学习中的校准技术（如 Focal Loss 或逆 Focal Loss）直接应用于 MIPL 是行不通的，因为缺乏真实标签会导致预测出现置信度不足或过度自信，并降低分类准确率。

方法论

作者提出了一种即插即用的可校准消歧损失（Calibratable Disambiguation Loss, CDL），旨在提高分类准确性的同时，在不损害消歧过程的前提下改善校准效果。

1. 核心机制：
CDL 通过**顶端对竞争者预测边际（top-vs-competitor prediction margin）**来调节基于动量的消歧目标。损失函数定义为：
$L_{CDL} = -\sum_{c \in S_i} w^{(t)}_{i,c} (1 - q^{(t)}_i + \Phi(\hat{p}^{(t)}_i))^\gamma \log(\hat{p}^{(t)}_{i,c})$
其中：

$q^{(t)}_i$ 是排名第一的候选标签的预测概率。
$\Phi(\hat{p}^{(t)}_i)$ 代表“竞争者”的概率。
项 $(1 - \beta_i)^\gamma$ 作为调节因子，其中 $\beta_i = q^{(t)}_i - \Phi(\hat{p}^{(t)}_i)$ 是边际（margin）。

2. 两种变体：
该方法根据竞争者的定义引入了两种具体的实例化形式：

CDL-CC (候选对候选, Candidate-vs-Competitor)： 竞争者是第二高的候选标签。该变体强调候选标签层面的分离。
CDL-CN (候选对非候选, Candidate-vs-Non-Candidate)： 竞争者是非候选标签中概率最高的那个。该变体强调候选与非候选之间的抑制。

3. 自适应权重：
该损失采用基于动量的标签权重更新策略。低边际的包（模糊情况）保留较强的消歧信号（高损失权重），而分离良好的包则减少了过度概率锐化的激励，从而缓解了过度自信问题。

4. 集成：
CDL 设计为可以无缝集成到现有的嵌入空间 MIPL 框架中。作者将 CDL 与三种成熟的注意力机制相结合：

消歧注意力机制 (DAM)
缩放加性注意力机制 (SAM)
边际感知注意力机制 (MAM)
由此产生了六种变体（例如 DAMCC, SAMCN, MAMCC 等）。

理论分析

论文从三个维度对 CDL 进行了严谨的理论分析：

损失层面： 证明了 CDL 是基于动量的消歧损失（MDL）的一种边际调节版本。理论界限证明了 CDL 在保留低边际（模糊）包的 MDL 拟合信号的同时，会降低表现良好的预测的权重。
校准层面： 作者推导出了一个下界和一个伪标签置信度对齐界限。他们表明，最小化 CDL 风险可以控制模型置信度与伪标签权重之间的对齐程度，这是期望校准误差（ECE）的一个关键组成部分。
优化层面： 梯度分析显示，CDL 引入了一个额外的“边际塑造（margin-shaping）”项。该项明确促进了优化过程中活跃的“顶端对竞争者”边际的增加。此外，通过动量更新，这些塑造后的边际被递归地转移到未来的伪标签权重中，确保了校准效果在多个 epoch 间持续存在。

实验结果

作者在四个基准数据集（MNIST-MIPL, FMNIST-MIPL, Birdsong-MIPL, SIVAL-MIPL）和七个真实世界数据集（包括各种配置的用于结直肠癌分类的 CRC-MIPL）上评估了其方法。

分类准确率： 所提方法在 72 个基准测试案例中的 67 个中优于六种最先进的 MIPL 基准方法（MIPLGP, DEMIPL, ELIMIPL, MIPLMA, PROMIPL, FASTMIPL）。在具有较高假阳性标签数量的挑战性场景下（例如 MNIST-MIPL 中 $r=3$ 时），提升尤为显著（最高达 23%）。
校准性能： 该方法显著降低了期望校准误差（ECE）。在基准数据集上，CDL 在 60 个案例中的 26 个里降低了超过 50% 的 ECE，平均降幅为 44.76%。在真实世界数据集上，该方法在 42 个案例中的 33 个里实现了超过 10% 的 ECE 降幅。
可靠性图（Reliability Diagrams）： 可视化分析证实，尽管基准方法在准确率很高的情况下仍将预测聚集在低置信度值（如 0.25）附近，但 CDL 变体生成的可靠性图显示，其预测置信度与经验准确率高度匹配。

意义与贡献

该论文声称有四项主要贡献：

问题识别： 这是首个识别并表征 MIPL 中模型校准问题的研究，证明了现有的以消歧为中心的方法会产生校准度差的置信度估计。
方法论创新： 提出了 CDL，这是一种通过边际调节平衡消歧与校准的即插即用损失函数，并提供了两种互补的实例化形式（CC 和 CN）。
理论基础： 提供了全面的理论分析，将 CDL 确立为边际调节的 MDL，推导了校准界限，并通过梯度和动量分析解释了优化动力学。
实证验证： 通过广泛的实验，在包括病理图像分类在内的多种基准和真实世界数据集上，证实了 CDL 能一致地提高分类准确性和校准性能。

作者总结道，CDL 为 MIPL 提供了一个鲁棒的解决方案，使构建的预测模型不仅准确，而且在其置信度估计方面具有可靠性，这对于医疗诊断等领域的实际部署至关重要。