Does the Model See the Disease or the Shortcut? Causal Lesion Grounding for Chest Radiograph Diagnosis
该论文介绍了 RADAR，一种用于胸部 X 光片诊断的病灶锚定框架，它通过训练模型依赖特定的病灶图而非伪造的捷径，来强制实现对病理性的因果依赖，从而在合成移除病灶时，与传统分类器相比，实现了更优越的定位准确度并显著减少了误报预测。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在医学影像领域，计算机程序通常能够通过观察胸部X光片，以媲美人类医生的准确度正确识别疾病。这一成功引发了一个隐秘而关键的问题：计算机究竟是真正“看到了”疾病，还是仅仅发现了某种“窍门”？深度学习模型以寻找捷径而闻名。与其学习肺部感染的复杂视觉模式，程序可能会转而学习识别拍摄该照片的具体医院、用于拍摄的机器类型，甚至是烧录在胶片角落的小文本标签。如果模型依赖这些无关的线索，它可能会因为错误的原因而给出正确的答案，这种缺陷在计算机被用于新医院或不同类型的患者时，可能会变得非常危险。值得信赖的人工智能目标不仅是获得正确的标签，还要确保决策是建立在疾病的实际证据之上。
一个研究小组开发了一种名为RADAR的新方法来解决这个问题。他们并没有训练计算机去猜测诊断结果然后再事后解释其猜测，而是构建了一个系统，强制要求诊断必须直接源自一张疾病图谱。想象一下，计算机被要求寻找肺炎。它不是扫描整个图像寻找任何看起来像“生病”的模式，而是首先绘制出肺炎所在位置的具体轮廓。然后，它完全基于该轮廓内的像素来计算疾病的概率。如果轮廓内是空的，或者内部像素看起来很健康，计算机就不能说患者生病了。这种设计确保了疾病的位置与关于疾病的决策是同一件事，从而消除了模型通过观察图像错误部分而依赖无关部分的可能。
为了教会计算机正确绘制这些地图，研究人员结合使用了真实的医生标注和智能计算机预测。他们向系统展示了数千张放射科医生在特定问题周围画框的X光片，以及告知计算机心脏和肺部通常位置的解剖学指南。但他们训练过程中最核心的部分是一系列受控实验。研究人员通过向模型展示一张带有疾病的图像，然后用来自另一名患者的健康组织在数字层面替换掉患病区域来进行教学。他们训练计算机理解：如果疾病消失了，那么诊断也必须随之消失。与此同时，他们向计算机展示了一些改变了胸部健康部分或添加了虚假文本标记的图像，教导它这些变化不应改变诊断结果。这种被称为“反事实训练”（counterfactual training）的过程，迫使模型学习到疾病才是预测的原因，而不仅仅是一个巧合的模式。
当研究团队将这个新系统与标准模型进行对比测试时，结果令人震惊。在一组未见的图像上，新系统正确识别疾病的频率与传统模型相当，但在受到挑战时表现截然不同。当研究人员在数字层面移除模型所识别出的特定患病区域时，传统模型在62%至80%的情况下仍坚持认为患者患病，证明它们依赖于图像的其他部分。然而，新系统在同样的案例中，其置信度下降并停止预测疾病的比例达到了84%至93%。此外，当研究人员改变图像的健康部分或添加虚假文本时，新系统的诊断保持稳定，表明它不易被无关细节所迷惑。新系统绘制的地图也比用于解释其他模型的标准方法更接近放射科医生的标注。
研究还揭示了该系统仍然面临困难的地方。虽然它在处理如肺部积液等常见情况时表现良好，但在处理较小或较罕见的病症（如微小结节或肺萎陷）时则较为吃力，这仅仅是因为训练数据中这类特定问题的样本较少。在某些失败案例中，系统正确识别出了存在疾病，但绘制的轮廓过于宽泛，将健康组织也包含在内。研究人员指出，他们的方法依赖于交换组织块，这是一种有用的模拟，但并非对该特定患者真实健康版本的完美替代。尽管存在这些局限性，这项工作仍证明了构建一种不仅能猜测答案，而且能真正指向其合理化证据的医学人工智能是可能的。通过让计算机在做出决策之前先展示其推导过程，研究人员在创造不仅准确而且可靠、可理解的诊断工具方面迈出了重要一步。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。