Pathology Transport: Optimal-Transport Explanations for Clinical Data, and When Their Heatmaps (Fail to) Localize Disease
本文介绍了一种基于最优传输的生成式框架，用于解释临床人工智能，该框架成功生成了无监督恶性评分和表格形式的反事实解释，但关键性地揭示了其热图虽然能够定位合成病灶，却无法准确识别医学影像中的真实疾病区域，从而凸显了合成基准与临床现实之间存在的显著差距。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在医疗人工智能领域，一个能够预测患者是否患病的计算机程序仅仅是故事的一半。医生需要知道机器为何得出这一结论。他们需要看到哪些具体的测量指标改变了天平的倾斜方向，或者 X 射线图像中的哪一部分看起来很可疑。多年来，研究人员一直试图通过不断试探一个已完成的预测模型，并要求它解释其选择，来构建这些解释。但另一种方法提出了一个更大胆的问题：如果我们能够直接绘制出从健康到疾病的旅程，而根本不需要一个预测模型作为起点，情况会怎样？这个想法将一组健康患者和一组患病患者视为两个不同的数据点云。目标是绘制一条平滑、逻辑严密的路径，将这两个数据云连接起来，展示一个健康的身体是如何转变为患病状态的。如果存在这样一张地图，它就能揭示定义疾病的精确生物学转变，提供一种清晰、视觉化且感觉自然且根植于现实的疾病解释。
一位研究人员试图利用被称为“最优传输”（optimal transport）的数学框架来测试这一概念，该框架本质上是在寻找将一组事物转化为另一种形状的最有效方式。他们建立了一个系统，通过学习真实医疗数据来学习这种移动过程，首先使用了乳腺癌活检数据集，随后转向胸部 X 射线图像。在第一个实验中，他们向计算机输入了关于细胞核的三十种不同测量数据，例如大小、形状和纹理。系统学习了将代表健康细胞的数据点传输到恶性细胞所占据的空间的过程。结果是一个能同时完成三件事的模型：它能获取特定患者的数据，并展示该患者在患病时会呈现出怎样的状态，同时突出显示哪些测量指标发生了变化；它能根据患者的数据需要移动多远才能到达“患病”区域，从而为任何患者分配风险评分；它还能生成一张通用的地图，显示哪些生物特征对疾病最为重要，而在此过程中，系统在训练期间从未被告知哪些患者实际上是患病的。
在乳腺癌数据上的结果令人鼓欣喜。该系统生成的风险评分在约 91% 的情况下能正确识别恶性病例，对于一种从未见过诊断标签的方法来说，这是一个很强的表现。更重要的是，它产生的解释符合人类专家的认知。当系统展示一个健康细胞如何变为癌细胞时，它指向了病理学家关注的完全相同的生物学特征，如不规则的细胞核形状和较大的细胞尺寸。该系统并没有在预测结果方面击败标准的监督式计算机程序，但它成功地在健康与疾病之间创建了一条清晰、可导航的路径，这是标准程序无法提供的。它提供了一种可视化疾病过程本身的方法，而非仅仅是一个最终判决。
然而，当研究人员将同样的方法应用于胸部 X 射线图像，试图观察系统能否精准定位肺部肺炎的位置时，故事发生了急转弯。他们训练模型将健康肺部的图像向肺炎肺部的形状进行移动。当他们观察生成的热图（即本应突出显示病变区域的部分）时，发现系统无法定位问题。热图并没有聚焦在感染的具体位置，而是扩散到了整个肺部，更像是一个表示“某些地方出了问题”的通用信号，而不是一个精确的故障地图。为了理解发生这种情况的原因，研究人员通过在健康的肺部图像中植入一个虚假的、人工制造的病变点，创建了一个受控测试。在这些合成的、完美的病变点上，系统的热图确实发挥了作用，成功指向了那个虚假病灶。
这种在人工数据上的成功导致了一个关于该技术局限性的关键发现。当研究人员在来自大型医学挑战赛的真实 X 射线图像上测试该系统时，系统试图通过医生实际标注的方框来定位肺炎，其表现却崩溃了。那些在人工病灶上看起来很有前景的热图无法找到真实的疾病，其表现并不比随机猜测好多少。研究人员发现，系统并不是在对实际感染做出反应，而是在对人类解剖结构的正常且复杂的变异（如肋骨边缘或横膈膜的曲线）做出反应。教训是深刻的：一个在简单的、人工模拟测试中看起来很有说服力的热图，并不意味着它能证明系统可以在复杂、混乱的人体中发现真实的疾病。虽然该方法成功地为简单数据创建了一张美丽且逻辑严密的“健康向疾病转化”的地图，但它尚未解决在没有人类引导的情况下，在真实医疗图像中精准定位特定疾病这一更难的问题。这项工作有力地展示了如何构建可解释的人工智能，但也作为一个必要的警示：在受控模拟中看似完美的解决方案，在现实世界中未必站得住脚。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。