RAG-MedDx: A Preliminary Offline Prototype of a Citation-Traced Retrieval-Augmented Framework for Intelligent Medical Diagnosis Support

在现代医学世界中，计算机已成为强大的助手，能够阅读海量的医学文献并能以流利的、类人的句子进行交流。这些被称为大语言模型的系统，通过根据其从数百万份文档中学习到的模式来预测句子中的下一个词来工作。尽管它们在听起来自信且连贯方面表现出色，但有一个显著的缺陷：它们并不总是知道真相。因为它们依赖于记忆而非对事实的实时核查，所以有时会编造出听起来合情合理但完全错误的内容。在医疗保健这样一个高风险领域，关于疾病或药物相互作用的一个错误猜测都可能危及患者，这种编造事实的倾向是一个严重的问题。此外，当这些计算机系统给出答案时，它们通常表现得像“黑箱”一样，无法看到它们是利用哪本书或哪项研究得出该结论的。医生和患者不仅需要知道答案是什么，还需要知道答案来自何处，以便进行验证。

为了应对这些危险，一位名叫 Akanksha Gaikwad 的研究人员构建了一个新型医疗支持系统的初步原型。这个被称为 RAG-MedDx 的系统旨在强制计算机在开口说话之前，必须先在特定的受信任书籍集中查找答案，并随后展示它使用了哪本书。其目标是创建一个不仅是靠猜测，而是能将每一句陈述都追溯到真实来源的诊断工具。研究人员通过创建一个完全在本地计算机上运行、不连接互联网的简化离线版本来测试这一想法。结果表明，该系统能够成功找到相关的医学信息，将其与特定问题联系起来，并在不知道答案时承认，同时避免了使用云端计算机进行思考的需求。

这项工作的核心思想是改变计算机生成医疗建议的方式。该系统不再让计算机仅仅依赖其内部训练，而是像一名必须在回答问题前先检查书架的图书管理员。当用户输入症状描述时，系统首先会在一个包含六篇医学教科书条目的小型本地集合中进行搜索。它寻找与用户查询相匹配的关键词。如果找到了匹配项，它就会提取该信息并用其构建答案。至关重要的是，最终答案中的每一句话都会附带一个小标签，直接指向它所引用的特定教科书条目。这创造了一条从诊断回到证据的清晰路径，使人类能够立即验证来源。如果系统在搜索其集合时没有找到与症状相匹配的内容，它不会尝试猜测，而是简单地告知用户未找到匹配的信息，从而防止系统编造诊断。

在本文进行的测试中，该原型证明了这种方法在受控环境中是有效的。当用户输入关于胸痛放射至左臂的查询时，系统迅速搜索了其本地数据库。它找到了两个相关的来源，并在 0.77 秒内生成了答案。该响应包含了行内引用，将建议的每个部分都链接到其所依据的特定教科书条目。在第二次测试中，用户输入了一个与数据库中任何医学术语都不匹配的拼写错误的单词。在这种情况下，系统正确报告未找到来源，并且没有生成虚假答案。整个过程耗时 0.49 秒。这些测试是在没有任何外部服务器连接的单台设备上运行的，证明了该系统可以离线运行并保护患者数据的隐私。

了解本论文所取得的成果范围是非常重要的。文中所述的系统是一个原型，是更大项目中的第一步。本研究中测试的版本并未利用真正的、先进的人工智能来撰写答案；相反，它使用了一套简化的规则来模拟人工智能可能表现出的行为。因此，本文并不声称该系统已准备好为真实患者进行诊断，也不声称它优于现有的医疗工具。研究人员尚未衡量这种方法是否比标准计算机模型减少了错误或提高了诊断速度。此处呈现的工作是一项可行性演示。它展示了构建一个能够检索信息、附加引用并在缺乏证据时拒绝回答，且处于单一可检查流程中的系统是可行的。

研究人员还构建了一个单独的计算机框架，以便将来测试完整的系统。该框架旨在将这种新方法与不查找信息的标准计算机模型进行对比。计划是通过一组大量的医学问题来运行这两个系统，并测量它们的正确率、编造内容的频率以及回答所需的时间。然而，这些测试尚未开展。目前的论文侧重于系统的设计以及对其基本功能的成功演示。研究人员承认，目前的原型使用的是简单的关键词匹配，如果单词拼写错误可能会错过答案，并且基于规则的答案生成是作为复杂智能的一种替代方案。

尽管存在这些局限性，该原型为如何使医疗人工智能变得更安全、更可靠提供了一个清晰的愿景。通过要求计算机展示其推导过程并在不知情时承认，该系统解决了两个主要问题：虚假信息的风险和透明度缺失的问题。完全离线运行的能力意味着这样的系统可以在不将敏感患者数据发送到云端的情况下在医院中使用。虽然这项工作是初步的，且关于准确性和可靠性的最终结果尚待确定，但该原型成功证明了构建一个带有引用追踪且具备“无匹配感知”能力的检索系统是可行的。它为未来实现不仅流畅而且可验证、诚实的计算机医疗建议奠定了基础。