Scientific Explanations in Health Sciences: Causality, Trust, and Epistemic Adequacy

想象一下，你正在看医生，但帮你诊断疾病的不是人类，而是一个超级聪明的计算机程序。这个计算机极其准确，几乎每次都能给出正确答案。但问题在于，它是一个**“黑盒”**。它会给你一个结果，但不会告诉你它为什么做出这个选择。这就像魔术师从帽子里变出一只兔子，却拒绝向你展示魔术是如何完成的。

这篇由 Martina Mattioli 和 Marcello Pelillo 撰写的论文指出，在医学领域，我们不能仅仅接受这种“魔术表演”。我们需要理解计算机决策背后的推理过程。作者们认为，目前的“可解释人工智能”（XAI）领域缺少了一个至关重要的成分：哲学。

以下是他们主要观点的简单拆解，使用了日常类比：

1. 问题所在：准确性 vs. 理解力

目前，医学 AI 界存在着一场巨大的争论。

• “准确性优先”派： 有些人说：“如果计算机 99% 的时间都是对的，那谁在乎它是怎么做到的？让它直接运行就好了。”他们认为要求解释可能会降低效率或降低计算机的准确性。
• “可解释性优先”派： 作者们认为，在医学中，信任就是一切。如果医生要依靠一台计算机来拯救生命，他们需要知道计算机为什么会那样认为。你不能仅仅信任一个黑盒；你需要信任其背后的逻辑。

2. 优秀解释的三大支柱

作者们认为，要解决这个问题，我们需要借鉴科学哲学中的三个具体概念：

A. 因果关系：是“网”还是“台球”

• 旧观点（台球）： 想象一排台球。你撞击第一个，它就会撞倒最后一个。因果关系是简单且线性的。某些 AI 模型就是这样运作的：“如果你看到症状 X，那就是疾病 Y。”
• 真实的医学视角（网）： 作者们认为，医学更像是一个蜘蛛网。一种疾病通常不是由单一事物撞击另一个事物引起的。它是遗传、生活方式、环境和运气交织在一起的复杂网络。
• 教训： 一个好的医学 AI 解释不应仅仅说“这两件事同时发生”。它需要解释连接的网络。如果计算机建议某种治疗方案，它必须展示这种治疗将如何实际地改变结果（干预），而不仅仅是预测将会发生什么。

B. 信任：一种“信托”关系

• 类比： 想象医生和患者是一个团队，患者处于脆弱状态，而医生承担着保护患者的特殊职责。这被称为“信托”（fiduciary）关系。
• AI 的问题： 当 AI 加入这个团队时，患者必须信任医生，而医生也必须信任 AI。如果 AI 是一个黑盒，那么当医生要推荐一项风险手术时，就无法向患者解释原因。这破坏了信任链。
• 教训： 信任不仅仅是关于 AI 是否“可靠”（就像一台总是能给你提供苏打水的自动售货机）。医学中的信任是关于正当性。AI 必须提供符合医生对患者职责的理由。如果 AI 提供了一个看似合理但虚假的理由，那是危险的，因为它会制造虚假的信心。

C. 为正确的人提供正确的解释

• 类比： 想象你在解释汽车引擎。
  • 对机械师，你要谈论活塞、燃油喷射和扭矩。
  • 对乘客，你会说：“引擎在发出异响，所以我们需要停下来以确保安全。”
  • 对监管机构，你要展示安全日志和合规表格。
• 教训： 医学领域不存在“一刀切”的解释。
  • 医生需要详细的、因果性的理由来证明治疗的正当性。
  • 患者需要简单、故事化的解释以便理解。
  • 监管者需要证据证明系统是公平且负责任的。
  • 目前的 AI 通常给每个人提供相同的通用答案，这无法满足这些不同的需求。

3. 解决方案：AI 设计的三条新规则

作者提出了三条简单的原则，认为真正的“可解释”医学 AI 应该遵循这些规则：

1. 解释必须支持行动： 解释不应仅仅是描述；它必须帮助医生决定做什么。如果 AI 说“这看起来像是肺炎”，它还应该解释为什么改变治疗方案会对患者康复有所帮助。
2. 解释必须量体裁衣： AI 应该能够切换它的“声音”。它应该能像科学家一样对医生说话，像讲故事的人一样对患者说话，以及像律师一样对监管者说话。
3. 信任必须经过测试： 我们不能仅仅因为某个东西看起来很酷或很准确就假设人们信任它。我们需要测试解释是否真的帮助医生建立了正确的信心（基于事实），而不是错误的信心（基于漂亮的图像）。

核心结论

论文总结道，目前的医学 AI 太过于关注数学和统计学。为了确保安全和实用，它需要拥抱哲学。

一个好的医学解释不仅仅是一份技术报告，它是机器、医生与患者之间的一座信任之桥。如果我们不使用正确的哲学工具（理解复杂的因果网、尊重医患纽带、以及面向正确的人进行沟通）来建造这座桥梁，我们就有可能去信任那些我们并不真正理解的机器。