Discrimination transfers but calibration does not:1prevalence-dominated miscalibration of diabetic2retinopathy screening across fundus cameras

想象一下，你正在教一个机器人识别一种特定的云朵。你向它展示了数千张由一台拥有完美镜头的尖端气象站拍摄的照片。机器人学会了非常有信心地说：“那是雷雨云！”但这里有一个棘手的部分：能够“识别”出云朵，与知道“降雨的可能性有多大”是两回事。如果机器人说：“我有 90% 的把握这是场风暴”，那么它需要 90% 的时间都是正确的。如果它错了，而你过度信任它，你可能会在下雨天忘记带伞，或者在天空晴朗时却白白带了一把伞。

这篇论文深入探讨了一个领域：计算机如何帮助医生发现一种叫做糖尿病视网膜病变的眼疾。它提出了一个非常实际的问题：如果我们用医院里大型、昂贵相机拍摄的照片来训练一台计算机，那么当我们把它带到村庄，使用小型手持相机时，它是否仍然值得信赖？答案不仅仅在于计算机是否能“看到”这种疾病（它确实能看到），而是在于它的“信心”在新的环境下是否依然合理。研究人员发现，虽然机器人的“眼睛”依然敏锐，但它对于自己有多确定的“直觉”却完全乱套了，这主要是因为该疾病在新的地方比在旧的地方更常见。

---

困惑的眼科医生机器人故事

想象一下，你有一个聪明的机器人眼科医生，名叫“Dr. AI”。你在一个环境优美、恒温恒湿的医院里，利用一台巨大的、昂贵的桌面式相机训练了 Dr. AI。Dr. AI 学会了观察眼睛的照片并识别出一种叫做糖尿病视网膜病变的疾病。当 Dr. AI 看到有病的眼睛时，它会给出一个分数：“我有 95% 的把握这是有病的！”当它看到健康的眼睛时，它会说：“我有 99% 的把握这是健康的。”

现在，你想把 Dr. AI 带到一个偏远村庄，去帮助那些无法获得大型医院医疗服务的人们。但在村庄里，你无法携带那台巨大的相机。你必须使用一个可以装进背包的小型手持相机。来自这个小相机的照片看起来有点不同——与医院的照片相比，它们可能更亮、更暗，或者稍微有些模糊。

核心问题： 当 Dr. AI 观察这些新的村庄照片时，它还会是一位好医生吗？

论文中的研究人员对 Dr. AI 进行了测试。他们发现了两种截然不同的情况：

1. 眼睛依然敏锐（判别力）： Dr. AI 仍然非常擅长区分有病和健康的眼睛。即使没有经过额外的训练，它仍然能像专门针对村庄照片训练过的机器人一样，几乎同样出色地将有病的眼睛排在健康眼睛之前。它并没有失去“看到”问题的能力。
2. 信心乱套了（校准度）： 这就是出问题的地方。Dr. AI 开始在它对自身确定性的描述上“撒谎”了。如果它说：“我有 90% 的把握这只眼睛是有病的”，它实际上并不总是能达到 90% 的正确率。它的信心评分失灵了。在村庄里，机器人可能会对健康的眼睛表现得过于自信，或者对有病的眼睛表现得信心不足。这是很危险的，因为医生需要依靠这些信心数值来决定哪些人需要立即去看人类专家。

为什么信心会崩溃？

你可能会想：“一定是手持相机的问题！照片看起来太不一样了。”研究人员测试了这个想法，并发现了一个令人惊讶的事实。

他们发现，相机本身只是问题的一小部分（约占 20%）。真正的“元凶”是人群。

你可以这样理解：在 Dr. AI 受训的医院里，每 20 个人中只有 1 人患病（5.7%）。但在村庄里，每 6 个人中就有 1 人患病（17.6%）。在另一个测试组中，近一半的人都患病了（40.6%）。

Dr. AI 是在一个疾病罕见的世界上受训的。它学会了保持谨慎。当它移动到一个疾病普遍存在的村庄时，它不知道如何调整自己的“直觉”。这就像一个在沙漠中长大的天气预报员。如果他们搬到了热带雨林，却说：“降雨概率只有 10%”，那么他们错了，不是因为他们的眼睛不好，而是因为他们习惯了一个降雨稀少的世界。研究人员表明，大约 80% 的混乱来自于这种疾病流行程度的变化，而不是来自拍照的相机。

如何修复机器人

那么，我们该如何修复 Dr. AI 破碎的信心呢？研究人员尝试了几种技巧：

• “温度”技巧： 他们尝试了一种简单的数学微调，称为“温度缩放”（temperature scaling）。这就像是调节一个旋钮，让机器人的回答变得更柔和或更强硬。但这并没有奏效，因为机器人的问题不仅仅是回答有多“柔和”，它需要改变整个基准线，因为它所处的环境疾病更常见。
• “再训练”方案： 他们尝试了另外两种方法，叫做 Platt 缩放（Platt scaling） 和 等距缩放（isotonic scaling）。这就像是给机器人上一堂简短、快速的课。他们只给机器人展示了 100 到 200 张来自村庄的新照片（由人类标注），并要求它调整其信心数值。
  • 结果： 有效！只需极少量的额外数据，Dr. AI 的信心就重新变得可靠了。它从原本完全错误的表现，变得几乎与专门针对村庄照片从头训练的机器人一样出色。

“微型大脑”问题

还有一个转折。为了让 Dr. AI 在廉价的手持设备上运行，你通常需要缩小计算机程序以使其适配。这被称为“量化”（quantization）。

• 半精度（FP16）： 这就像是轻微压缩一张照片。它使程序变小了，但没有损害 Dr. AI 的眼睛或其信心。这是安全的。
• 8 位整数（INT8）： 这就像是过度压缩照片，使其变得像素化。研究人员发现，这不仅破坏了 Dr. AI 的眼睛，还破坏了它的信心。即使他们尝试用“再训练”技巧来修复信心，也无法完全修复对“眼睛”造成的损伤。机器人变得不再准确，而且没有任何快速的数学手段能将其恢复原状。

总结

这项研究的主要启示是：为了让 AI 在现实世界中安全运行，我们不能仅仅看它是否能“发现”疾病。我们必须检查它的“信心”在新的环境下是否合理。

如果你要把一台医疗 AI 从富裕的医院带到贫困的村庄，不要仅仅因为它是“聪明”的就假设它一定行。那里的疾病可能更常见，而这会干扰机器人的信心。但好消息是，你不需要数百万张新照片来修复它。你只需要一小段简短、廉价的学习过程（大约 100–200 个样本）以及正确的数学技巧，就能教会机器人如何重新信任自己的感觉。此外，如果你为了适配微型设备而压缩程序，请务必小心：过度压缩可能会以一种你无法轻易修复的方式损坏机器人。