Uncovering neural decisions: How textual interpretation bridges AI and clinical reasoning
该论文介绍了 CRysTal，这是一个神经元层级的后验解释框架，它将人工智能模型的激活映射到标准化的临床术语，并证明了与现有解释方法相比，在多种医学影像任务中，该框架具有更高的放射学报告一致性、增强的诊断可靠性以及更高的医生工作效率。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代医学领域，人工智能已成为医生的强大伙伴，能够以往往超越人类视觉的速度和精度扫描人体图像。这些计算机系统可以观察肿瘤图像，并判断其是可能无害还是危险。然而，在这些强大工具与医院全面接受之间，存在着一个显著的障碍：即“黑箱”问题。虽然计算机可以给出正确的答案，但它往往无法解释是如何得出该结论的。它可能会指向图像中的一个模糊区域，但无法告诉医生为什么那个区域很重要。在医学中，了解原因与了解结果同样重要。医生依赖于特定的、标准化的征象——例如肿块的形状、边缘的锐利度，或是声波如何在其表面反射——来做出关乎生死的决策。如果计算机无法使用这些征象的语言进行交流，医生就无法信任它的建议，尤其是在计算机与人类医生意见不一致时。
上海交通大学及其他机构的一位研究人员开发了一种名为 CRysTal 的新方法，旨在解决这一信任问题。他们的工作重点是乳腺超声成像，这是检查乳腺组织的一种常用工具。研究人员希望观察他们是否可以将人工智能模型内部不可见的计算过程，转化为与医生日常使用的标准医学语言相匹配的清晰书面描述。CRysxtal 不仅仅是显示一个计算机观察位置的热图，它更像是一个翻译器。它将来自计算机“大脑”的原始电信号映射到一组结构化的临床特征上，例如“形状不规则”、“边缘呈角状”或“微钙化”。这一过程创建了一条证据链，供医生阅读并验证，将一个神秘的预测变成了一份透明的报告。
为了测试这一系统，研究人员训练了数种不同类型的人工智能模型，利用数千张超声图像来区分良性和恶性乳腺病变。一旦这些模型完成训练并锁定了其内部设置，研究人员便应用 CRysTal 来对其进行解释。该系统通过分析计算机“大脑”中被称为“神经元”的特定部分在看到图像时如何“放电”来工作。随后，它使用一种数学过程来确定这些神经元正在响应哪些临床概念。例如，如果一组神经元在计算机看到锯齿状边缘时被激活，CRysTal 就会学习将这种活动标记为“角状边缘”。通过结合这些单个神经元的信号，该系统为每一次诊断构建了一个完整的、结构化的解释。
结果表明，这种新方法在解释计算机思维方面比以往的方法更为准确。当研究人员将 CRysTal 生成的解释与人类放射科医生撰写的实际报告进行对比时，发现两者具有极高的一致性。该系统正确识别关键特征（如不规则形状和特定类型的边缘）的频率远高于其他解释工具。事实上，在所测试的不同计算机模型中，CRysTal 将这些特征描述的准确度提高了 3.4% 至 12.2%。它也更好地捕捉了诊断的整体方向，即正确识别了证据是倾向于良性还是恶性情况。这是一个至关重要的发现，因为它证明了计算机并非只是在瞎猜，而是确实在使用与人类专家相同的视觉线索。
研究人员还观察了计算机随时间学习的过程。他们追踪了模型在从零开始训练过程中的解释变化。在早期阶段，计算机的推理是模糊的，基于一般的视觉模式。但随着模型在做出正确诊断方面变得越来越出色，其内部推理也日益趋向于与标准医学概念保持一致。计算机开始关注医生所寻找的特定征象，例如病灶的方向或其后方的阴影。这种转变表明，当人工智能模型学会高效执行任务时，它会自然而然地开始像人类专家一样思考，而 CRysTal 能够揭示这一演进过程。
为了观察真实的医生是否认为这些解释有用，研究人员开展了一项涉及二十名超声科医师的研究，涵盖了从初级住院医师到资深专家的不同水平。医生们被要求阅读由 CRysTal 生成的结构化解释，并根据准确性、可读性以及与医学指南的匹配程度进行评分。医生们给出了极高的分数，平均接近 100 分中的 97 分，且不同经验水平的医生之间没有显著差异。这表明该系统使用的语言足够清晰专业，足以让该领域的任何人理解。
该研究更进一步，探讨了这些解释是否能真正帮助医生做出更好的决策。在模拟的工作流中，医生首先单独观察图像，然后是在仅有计算机评分的情况下观察图像，最后是在拥有计算机评分加上 CRysTal 解释的情况下观察图像。当计算机出错时，医生往往会被单纯的评分所误导，但结构化解释帮助他们发现了错误。通过使用 CRysTal，初级医生在计算机出错时显著提高了准确性，资深专家也表现得更好。此外，结构化解释帮助医生提高了工作速度，使初级医生的阅读时间缩短了约 10%，资深专家缩短了近 5%。这表明，清晰的文本证据允许医生比解释模糊的视觉热图更高效地处理信息。
研究人员还测试了这种方法是否可以应用于其他类型的医学影像。他们将 CRysTal 应用于涉及甲状腺超声和皮肤病变成像的数据集，并使用了这些领域特定的医学术语系统。该系统成功适应了这些新任务，生成的解释与甲状腺结节和皮肤斑点的临床发现保持一致。这种灵活性表明，该方法并不局限于乳腺癌，而可以成为使人工智能在不同医学领域实现透明化的通用工具。
最终，这项工作证明了弥合人工智能复杂数学逻辑与临床医学实用语言之间鸿沟的可能性。通过将计算机的内部信号转化为结构化的医学事实列表，CRysTal 提供了一种审计人工智能系统决策的方法。它并不改变计算机做出预测的方式，但它打开了一扇通往决策过程的窗口，允许医生验证每一次诊断背后的证据。这种透明度是迈向未来的一项重要举措，在那个未来，人工智能可以成为诊室中值得信赖且协作的伙伴，确保每一项决策都是安全、可靠且易于理解的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。