When explanations disagree: a consequence-calibrated audit of post-hoc attribution for clinical time-series prediction
本研究表明，用于临床时间序列预测的后验归因方法往往会产生实质性的不一致以及具有临床后果的差异，这表明后果校准审计比寻求一种普遍首选的解释方法更具价值。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代医院中，计算机正越来越多地通过分析来自重症监护病房患者的持续数据流，协助医生做出关乎生死的决策。这些系统监测心率、血压和呼吸模式，寻找患者即将恶化的细微迹象。由于这些决策承载着如此沉重的分量，监管机构和医生都要求知道计算机为何做出特定的预测。他们希望得到一个能够指向触发警报的具体生命体征或历史事件的解释。为了实现这一点，研究人员开发了一些工具，它们在计算机完成计算后，就像聚光灯一样，高亮显示患者数据中最重要的部分。人们普遍希望，无论使用哪种聚光灯工具，它都会照射在相同的特征上，从而为患者为何处于风险之中提供一个一致的故事。
一位研究人员着手测试这种希望是现实还是幻觉。他们从三个庞大的独立数据库中收集了近 29,000 次住院病例的数据，涵盖了从脑损伤到脊柱手术等广泛的危重病症。他们训练了一个计算机模型来预测患者能否在住院期间生存，然后将三种不同的聚光灯工具应用于同一个模型和同一批患者，以观察这些工具在“什么因素最重要”这一问题上是否达成一致。结果非常鲜明：这些工具很少达成共识。平均而言，不同的方法在判断哪些因素最重要时，仅有一半左右的时间能够保持一致。在任何单一的患者群体中，这些工具的一致性水平都未达到专家认为实质性的程度。这种缺乏共识的情况并非由于患者所患疾病的具体类型，而是完全取决于数据来自哪个数据库，这表明解释是工具和数据源的属性，而非关于患者的固定事实。
为了理解这种分歧是否真的重要，研究人员创建了一系列模拟患者案例，在这些案例中，他们预先知道导致结果的确切原因。他们在数据中注入了特定的信号，例如血压突然下降，并观察这些聚光灯工具是否能正确识别出这些信号。结果显示，没有任何一种工具是始终表现最好的。一种工具可能在某种情境下完美识别出一个转瞬即逝的信号，但在另一种情境下却完全失败；而另一种工具则会截然相反。事实上，哪种工具表现最好的排名会根据患者的具体病情而完全翻转。这意味着，如果选择一种单一的“最佳”工具并在所有医院进行标准化应用，将会是一个错误，因为它对某些患者是正确的，而对另一些患者则是错误的。
最关键的发现出现在研究人员将这些技术性的分歧转化为潜在医疗行为时。他们将高亮的特征映射到医生可能采取的具体干预措施上，例如输液、开始使用提升血压的药物或进行影像学检查。当两种不同的工具应用于同一名患者时，它们在约三分之二的情况下指向了不同的治疗方案。这表明，解释工具的选择可能会从根本上改变给医生的建议。研究人员还测试了工具之间的分歧是否可以作为计算机预测错误的警告信号。令人惊讶的是，他们发现当工具产生分歧时，计算机的预测实际上不太可能出错，而不是更容易出错。这一反直觉的结果意味着，将分歧作为一种简单的错误报警手段可能会产生误导。
最终，研究得出结论，我们不能简单地选择一种解释方法并对其进行普遍信任。相反，这些工具的行为高度依赖于特定的数据和患者状况，因此需要一种新的方法。研究人员提出，在任何此类系统投入医院使用之前，必须进行一种特定类型的审计，该审计不仅要衡量计算机是否准确，还要衡量解释的变化程度以及这些变化对患者护理意味着什么。他们发现，虽然他们可以根据患者的生命体征之间的相关程度来预测何时可能发生分歧，但他们无法找到任何一组可以被无条件信任且解释足够可靠的患者群体。他们认为，前进的道路不是标准化为单一工具，而是不断地根据这些解释可能引发的现实世界后果来进行检查和校准。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。