Grounding Healthcare LLMs in a Causal Knowledge Graph: Framework, Metrics, and a Cardiovascular Pilot
本文提出了一种可复现的、以图为中心的评估框架，该框架将因果知识图谱整合到大语言模型上下文中，以更好地评估医疗推理，并通过一项心血管领域的试点研究证明，尽管缺乏依据的模型可能获得较高的原始准确率，但基于图谱增强的方法在因果性、证据性和安全性指标方面显著优于后者。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能飞速发展的世界中，大型语言模型已成为强大的工具，能够阅读海量的医学文献并回答复杂的问题。这些系统正越来越多地被考虑用于医院，以协助医生进行临床决策。然而，这些模型的当前测试方式与它们在实际诊所中真正需要的评估方式之间存在着显著的差距。传统的测试往往像多项选择题一样，仅仅奖励模型选择了正确的最终答案。这种方法忽略了得出该答案的关键细节。在医学领域，通往结论的过程与结论本身同样重要；如果一个推荐是基于对药物作用机制的错误理解，或者忽略了危险的副作用，那么即使它给出了正确的建议，也可能与错误的答案一样具有危害性。研究人员面临的挑战在于，如何建立一种评估方式，不仅衡量机器是否得到了正确的结果，还要衡量它是否理解了潜在的原因、支持性的证据以及所涉及的风险。
一组研究人员通过创建一种新的框架解决了这一挑战，该框架旨在测试人工智能系统在锚定于结构化医学事实图谱时，对医疗干预措施的推理能力。研究人员并没有让模型在训练数据中自由游走，而是构建了一个专门的“知识图谱”，这本质上是一个数字网络，其中每一个医学主张（例如某种药物可以降低血压）都被视为一个独立的、经过验证的对象，并拥有自己的历史和来源。随后，他们在一系列心血管场景中对大型语言模型进行了测试，例如为一名患有高血压且具有特定健康限制的患者选择药物。研究人员将每个场景运行了四次，仅改变了提供给模型的信息类型：有时不提供任何医学事实；有时提供一份事实清单；有时提供一条因果关系链；有时则提供包含事实、因果链和证据来源的完整方案包。
结果揭示了一个令人惊讶且重要的脱节现象。当模型在没有任何外部医学事实引导的情况下进行测试时，它在仅仅选择正确药物方面的得分实际上最高，正确率接近95%。然而，这个高分具有误导性。在这些无引导的尝试中，模型本质上是在靠概率或依赖记忆模式来猜对答案，而无法解释为什么该药物有效，也无法识别相关的风险。当研究人员为模型提供结构化的医学事实图谱时，模型选择单一“最佳”答案的能力略有下降，但其解释推理的能力却得到了显著提升。在提供完整图景（包括药物如何影响身体的因果链、支持该链条的证据以及潜在副作用）的综合条件下，模型表现出了最可靠的推理能力。在这种综合条件下，模型正确识别因果机制的比例为84%，准确引用支持性证据的比例为74%，同时产生的无根据主张也大大减少。
或许最能说明问题的发现出现在医学证据不完整或不确定的场景中。在这些情况下，模型能够识别出信息不足以做出自信的建议，在“不确定性正确性”方面得分完美。然而，当被迫选择一种特定的治疗方案时，它往往无法选出标准的“金标准”答案。这凸显了一个关键的区别：模型知道何时应该犹豫，即便它并不总能选出首选的行动方案。研究还发现，模型报告发现的方式也非常重要。在某些情况下，模型了解某个关键的安全警告（例如某种药物对孕妇很危险），但由于问题格式没有明确要求其包含此信息，导致它未能将其纳入最终报告。这表明，失败并非源于缺乏知识，而是由于信息请求与记录方式之间的不匹配。
研究人员强调，这项工作是对医疗人工智能智能水平的一种衡量方式的展示，而非对任何特定机器的最终定论。他们发现，仅仅依赖单一的“正确性”分数会掩盖这些系统思考的复杂现实。一个模型可能会出于错误的原因得到正确答案，或者它可能完全理解科学原理，却未能传达安全风险。通过将评估分解为准确性、因果推理、安全意识和证据使用等独立指标，该框架暴露了这些不同的性能维度。研究结论指出，要使人工智能在医疗保健领域真正发挥作用，必须对其构建可辩护的、基于证据的论证的能力进行评估，而不仅仅是看它从列表中选择正确选项的能力。这种方法确保了当这些工具最终被用于支持现实中的医生时，它们不仅仅是在进行正确的猜测，而是植根于人类医学所要求的严谨逻辑与证据之中。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。