Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
这项针对 47 项生物医学人工智能研究的系统综述表明，尽管 SHAP 和 LIME 等解释性方法被广泛用于解释因果预测模型，但其评估过程过度依赖基于属性的指标，且极少验证实际的因果有效性，从而凸显了模型解释与因果推理之间存在的关键差距。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代医学领域，人工智能已成为发现人类肉眼可能忽略的模式的强大工具。这些计算机系统可以扫描数千张医学图像，或筛选多年的患者记录，以预测谁可能会生病或疾病将如何进展。然而，知道两件事同时发生与知道其中一件事确实导致了另一件事之间存在着至关重要的区别。计算机可能会学习到某种特定的皮肤标记经常与某种严重疾病同时出现，但这并不意味着该标记会导致这种疾病；它可能只是完全由其他原因引起的副作用。如果医生依赖于一个只能看到这些联系的计算机，那么在试图治疗患者时，他们可能会做出错误的决定，因为治疗该标记并不能治愈疾病。这种发现模式与理解真实原因之间的差距，正是研究人员试图解决的核心挑战。
由慕尼黑工业大学的阿尔伯特·舒勒（Albert Schulle）进行的一项新的系统性综述研究了当前的工具在多大程度上能帮助我们理解这些原因。该研究调查了数百篇论文，以观察解释 AI 如何做出预测的方法是否真的能够揭示真实的生物学原因。研究人员发现，尽管科学家们渴望使用这些解释工具，但他们大多使用的是错误的方法。最流行的工具（即为年龄或血压等不同特征分配重要性评分的工具）非常擅长展示计算机注意到了什么，但在展示究竟是什么导致了结果方面却表现得很糟糕。事实上，该综述发现，对因果有效性的明确评估非常罕见，仅出现在所审查的研究中的 9%，这意味着绝大多数研究从未真正测试过它们的解释是否在因果关系上说了实话。
该综述检查了 2016 年至 2025 年间发表的 47 项研究，这些研究试图将这些解释方法应用于因果关系至关重要的医学问题，例如预测患者对特定药物的反应。研究人员发现，绝大多数研究（约 68%）依赖于特征归因方法。这些技术旨在突出计算机模型在做出决策时最重度使用了哪些输入变量。其中两种最常用的工具是 SHAP 和 LIME，它们的作用就像聚光灯，照亮模型认为最重要的数据点。虽然这些工具非常擅长展示计算机查看了哪些数字，但该综述认为它们在本质上是受限的，因为它们仅描述的是关联。它们可以告诉医生高血压是风险预测的关键因素，但无法告诉医生降低血压是否真的能预防心脏病发作。
该研究还寻找了其他更先进的方法，这些方法可能更接近真相。大约 15% 的研究使用了反事实解释（counterfactual explanations），即想象如果患者采取了不同的行动（例如服用不同的药物）会发生什么。这些方法在概念上更接近医生的思维方式，但仍仅用于极小比例的研究中。更为罕见的是基于概念的方法（concept-based methods），这类方法试图使用人类可理解的概念（如“肿瘤大小”）而非原始数据点来解释决策，在研究中仅占 6%。该综述发现，该领域严重向解释关联的简单工具倾斜，这造成了一种风险，即医生会将相关性误认为是因果关系。
或许最令人震惊的发现涉及这些解释是如何被测试的。当研究人员构建一个模型并对其进行解释时，他们需要检查这种解释是否有效。综述发现，72% 的研究检查了忠实度（fidelity），即仅仅检查解释是否符合计算机模型的实际行为。另有 43% 的研究检查了稳定性（stability），以确保解释不会在模型每次运行时发生随机变化。这些是重要的技术检查，但它们并没有回答最重要的那个问题：这个解释对于因果关系是否正确？综述发现，只有 9% 的研究曾尝试验证解释是否反映了真实的因果关系。在少数研究者尝试检查因果关系的案例中，他们大多依赖于询问人类专家该解释是否“感觉”合理，而不是使用严谨的测试来证明它。
这种工具的功能与领域需求之间的差距是显著的。作者指出，使用设计用来解释关联的工具来解决因果问题，就像是用一张交通模式图来规划徒步路线一样；地图可能会显示车辆在哪里行驶，但它不会告诉你哪条路径适合步行。该综述认为，目前的方法论是碎片化的，研究人员正在将强大的解释工具应用于那些从未被设计用于理解因果关系的模型之上。论文总结道，为了让人工智能在医学领域真正获得信任，该领域必须超越仅仅检查解释是否具有一致性。它需要开发出新的方法，通过更好的基准测试和关于疾病运作方式的更清晰假设，来测试解释是否真正符合底层的生物学原理。在此之前，AI 能够真正解释患者为何生病的承诺仍然难以实现。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。