Explainable Artificial Intelligence in Radiological Imaging: Bridging Computational Explanations and Radiological Reasoning
本文识别了医学影像中计算可解释人工智能（XAI）输出与放射学推理之间的关键差距，并提出了六层可解释性—放射学人工智能集成（XRAI）框架，旨在通过将技术解释与临床背景、工作流及治理相结合来弥合这一鸿沟。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在寂静而高风险的医学影像世界中，一种新型助手已经到来。放射科医生——即那些解读 X 光片、CT 扫描和 MRI 的医生——正越来越多地依赖人工智能来帮助发现癌症或肺炎等疾病。这些计算机系统在寻找人类肉眼可能忽略的图像模式方面表现得异常出色，其准确度往往能达到甚至超过经验丰富的专家。然而，这些系统运作起来就像一个“黑箱”。它们接收图像作为输入并产生诊断作为输出，但很少解释是如何得出该结论的。对于医生来说，仅仅知道机器很有信心是不够的；他们需要理解原因。如果计算机标记出肺部的一个斑点具有危险性，医生必须知道机器是对真实的肿瘤、无害的阴影还是图像中的故障做出的反应。如果没有这种清晰度，这项技术就无法在医院中被安全信任。这正是“可解释人工智能”领域介入的地方，它试图打开这个黑箱，展示机器决策背后的推理过程。
来自斯里兰卡、印度和英国大学的研究团队着手调查这些解释工具在现实世界的放射学领域中究竟运作得如何。他们对 2020 年至 2026 年间发表的近两百项科学研究进行了大规模的回顾，研究了人工智能是如何被教导去解释其在不同类型医学扫描中的工作的。他们的目标不仅是统计所使用的统计方法，还要观察计算机提供的解释是否对使用它们的医生真正有用。他们审查了涵盖从胸部 X 光到脑部 MRI 的各项研究，寻找计算机的技术输出与人类医生思考患者病情的方式之间的联系。
研究人员发现，该领域爆发式地展现出了创造力。现在已经有数十种方法可以让计算机解释自身。有些方法通过彩色热图突出显示图像中的特定区域，展示计算机观察最密切的像素点；有些则将图像分解成微小的碎片以观察哪些部分最为重要；还有一些尝试将当前图像与计算机已学习到的已知疾病示例进行对比。他们审查的研究涵盖了广泛的医学任务，从简单地检测疾病是否存在，到预测患者病情未来可能发生的变化。分析中最常见的扫描类型是胸部图像和脑部扫描，其次是乳腺成像和其他身体部位。
然而，这项回顾揭示了一个显著的脱节。虽然计算机在生成这些视觉解释方面变得越来越好，但这些解释本身往往并不使用医学语言。计算机可能会在扫描件上产生一个红点来显示它发现了问题，但那个红点并不一定能告诉医生问题的性质。计算机可能会突出显示肺部的一个区域，但它并未解释该区域包含的是肿瘤、感染还是仅仅是一根血管。研究人员观察到，大多数研究在评估这些解释时，都是在检查它们是否符合计算机的内部逻辑，而不是询问人类医生是否觉得它们有用或易于理解。这就像一名学生向老师展示了一个正确的答案，却未能以老师能够理解的方式展示解题过程。其结果是：一种对机器而言忠实、但对人类而言却令人困惑或无关紧要的技术性解释。
这种计算机输出与医生推理之间的差距是论文所指出的核心问题。研究人员认为，问题不在于缺乏解释技术，而在于缺乏将这些技术转化为医生可用的工具的过程。目前，这个过程往往止步于生成热图。研究表明，为了使这些工具真正发挥作用，必须有一个刻意的步骤，将计算机的原始数据转化为医学概念。与其仅仅展示一个高亮区域，系统应该能够说：“该区域显示出一个边缘不规则的肿块”，这才是放射科医生用于做出诊断的语言。
为了解决这个问题，作者提出了一个名为“可解释性–放射学人工智能集成”（XRAI）的新框架。这并非一种新的计算机算法，而是一个关于如何构建和使用这些系统的结构化指南。该框架建议首先明确特定的医学任务以及谁将使用该工具。然后，它引导为该特定工作选择合适的解释方法，生成解释，并且至关重要的一步是将该解释转化为通俗的医学术语。最后，它要求使用真实的医生进行测试，以观察这是否有助于他们做出更好的决策，并对整个过程进行详细记录，以确保安全性和问责制。
研究人员强调，这种方法目前仍是一个提议。他们已经勾勒出了问题并设计了前进的路径，但尚未证明这一新框架在真实的医院环境中有效。他们指出，未来的研究需要测试这种结构化方法是否真的能改善医生与人工智能的互动。论文总结道，医学人工智能的未来并不取决于让计算机变得更聪明，而在于让计算机与医生之间的对话变得更清晰。通过专注于将技术数据转化为有意义的医学推理，该领域可以从仅仅展示机器正在运行，转向确保其工作被信任且被理解。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。