🤖 AI

Uncertainty Reasoning with Large Language Models for Explainable Disease Diagnosis

本文提出了一种神经符号框架，将大语言模型与模糊逻辑及形式化规则相结合，通过将非结构化的临床叙事转化为可审计的推理链，从而实现可解释、可验证且与人类认知一致的疾病诊断。

原作者： Xiaoyang Fan, Yufan Cai, Zhe Hou, Jin Song Dong

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Xiaoyang Fan, Yufan Cai, Zhe Hou, Jin Song Dong

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图解开一个复杂的谜团，比如弄清楚汽车为什么无法启动。你拥有两种截然不同的工具来帮助你：

直觉侦探（大语言模型）：这是一位超级聪明的侦探，他阅读过每一本汽车手册，也听过每一个关于故障汽车的故事。他可以看到诸如“天冷时偶尔会发出奇怪的咔哒声”这样混乱、模糊的描述，并立刻猜出：“啊，很可能是启动电机！”他们擅长理解混乱的语言并发现隐藏的线索。然而，他们有时会凭空捏造（产生幻觉），无法总是解释为什么会做出那样的猜测，而且他们的信心可能并不稳固。
严格法官（符号逻辑）：这是一位遵循严格规则手册的法官。如果规则规定“如果启动电机损坏且电池良好，那么汽车无法启动”，法官会完美地遵循它。他们从不凭空捏造，并且能向你展示他们所使用的规则手册的确切页码。但是，他们非常不擅长理解模糊的语言。如果你说“它发出某种咔哒声”，法官会感到困惑，因为他们的规则需要确切、清晰的事实。

问题：
现实生活中的医疗诊断就像那个汽车谜团，只不过主角换成了患者。患者用混乱、模糊的方式描述他们的症状（“我觉得有点累”，“我的胸口感觉像被皮带勒紧”）。医生需要结合侦探理解这种混乱语言的能力，以及法官遵循严格规则并解释其推理的能力。目前，人工智能系统通常只选择其中一种，导致它们要么过于模糊而不可信，要么过于僵化而无法理解。

解决方案：“神经符号”联手
本文提出了一种新系统，将直觉侦探和严格法官联手，创建一个医疗诊断助手。其工作原理如下，分步说明：

1. 翻译阶段（从侦探到法官）

首先，系统使用大语言模型（侦探）来阅读患者混乱的叙述。

魔法：侦探将“胸口像被皮带勒紧”或“断断续续的疼痛”等模糊短语翻译成结构化、逻辑化的事实。
转折：系统不是将这些转化为简单的“是/否”事实，而是将其转化为模糊事实。这就像调光开关而不是电灯开关。它不说“疼痛=是”，而是说“疼痛=80% 为真”。这捕捉到了“轻微”或“严重”的细微差别。

2. 推理阶段（法官的法庭）

一旦混乱的故事被翻译成这些模糊的、加权的事实，它们就会被传递给符号逻辑引擎（法官）。

过程：法官查阅医疗规则库（例如，“如果胸痛 + 运动 + 家族史 → 检查心绞痛”）。
计算：法官不只是说“有罪”或“无罪”。他们根据证据的强弱计算分数。如果疼痛是“轻微”的（权重 0.5），但家族史很强（权重 1.0），系统会计算出诊断的最终概率分数。
输出：它生成一个可能的疾病排名列表（例如，“稳定型心绞痛：72% 可能”，“心脏病发作：10% 可能”）。

3. “可解释”的超能力

这是最重要的部分。由于系统使用法官的严格规则，它可以为每个决策生成一份逐步明细单。

类比：如果普通人工智能说“你头痛”，这就像是一个魔术 8 球在给出答案。而这个系统会说：“你头痛是因为：(1) 你说你的头很痛（80% 置信度），(2) 你提到了压力（70% 置信度），以及 (3) 规则手册规定压力 + 头痛=紧张性头痛。”
审计轨迹：如果医生不同意，他们可以查看这份“明细单”，确切地看到触发了哪条规则，甚至可以调整权重（例如，“实际上，疼痛没那么严重，降低分数”）。系统会根据该反馈立即重新计算诊断。

4. 学习循环

系统不是静态的。它拥有一个“神经符号循环”：

人类反馈：如果医生纠正了系统，系统会更新其规则权重。
数据学习：如果系统发现特定症状（如“锐痛”）在数千个新病例中总是与特定疾病同时出现，它会自动调整规则以反映这种新模式。

论文发现（结果）

作者将这种“联手”系统与纯人工智能侦探（如 GPT-4）和纯逻辑法官进行了测试比较。

准确性：与顶级人工智能模型相比，混合系统在获得正确诊断方面同样出色，有时甚至更好。
信任度：与纯人工智能模型不同，该系统可以展示其工作过程。它为它的猜测提供了清晰的理由。
成本：有趣的是，虽然该系统运行时间稍长，但使用成本（“令牌”使用量）显著低于让一个庞大的人工智能模型独自完成所有工作。
鲁棒性：当数据混乱或模糊时，该系统通过利用“调光开关”（模糊逻辑）方法而不是卡在精确匹配上，很好地处理了这种情况。

总结：
本文提出了一种构建医疗人工智能的方法，使其表现得像创意翻译员与严格会计师之间的协作。它利用人工智能理解患者混乱的人类语言，将其转换为数学上精确的格式，然后利用严格的逻辑来诊断疾病。其结果是一个不仅聪明，而且诚实、透明，并能确切解释其如何得出结论的系统。

技术摘要：利用大语言模型进行可解释疾病诊断的不确定性推理

问题陈述

临床决策经常在不确定性条件下进行，此时患者叙述不完整、时间表述模糊，且通过定性、分级的术语（例如“轻度疲劳”或“高烧”）表达，而非明确的布尔事实。虽然大语言模型（LLM）在从自然语言中提取潜在信息方面表现出强大的能力，但它们缺乏可验证性、可解释性以及可靠的不确定性校准。相反，纯符号系统提供透明的规则和可验证的推理，但在面对现实世界临床描述中固有的模糊性和噪声时往往失效。本工作解决的核心挑战是开发一种诊断系统，将 LLM 的适应性与形式逻辑的严谨性相结合，以产生可解释、可审计且值得信赖的医疗诊断。

方法论

作者提出了一种神经符号推理框架，通过三模块架构将 LLM 与形式逻辑对齐：

1. 形式化知识构建

该模块连接非结构化文本与符号逻辑：

神经嵌入与规则归纳：使用领域微调的 LLM 对临床语料（病历、指南）进行编码。提示模型为症状 - 疾病对提出霍恩子句模板（ $H \leftarrow B_1, \dots, B_n$ ）。超过置信度阈值的模板被具体化为符号规则集 $R$ ，该规则集动态演化。
符号解码：LLM 将嵌入的文本片段转换为结构化三元组（实体、关系、值）。这些三元组被映射为具有真值度 $w \in [0, 1]$ 的模糊谓词，以反映语言模糊修饰语（例如，“轻度”映射为特定权重）。
Prolog 合成：三元组和规则通过模板库编译为符号知识库，从而为每个推断出的假设生成细粒度的证明树。

2. 神经符号循环

该框架支持涉及数据和人类反馈的连续学习循环：

医师驱动编辑：临床医生可以检查推理痕迹、添加例外规则、调整谓词权重或提供反例。这些编辑会被版本化，形成透明的审计轨迹。
自动化规则更新：系统采用两阶段机制进行数据驱动的优化：
- 在线被动 - 攻击性排序：当真值疾病相对于假阳性被错误排序时，调整症状权重。
- 结构添加/剪枝：定期分析聚合统计量（共现计数和特异性比率），根据证据阈值添加新的症状 - 疾病边或剪枝现有边。
版本化知识库：每次更新都会创建带时间戳的快照 $K(t)$ ，允许进行反事实审计，以解释诊断为何在不同版本间发生变化。

3. 实时诊断引擎

该模块执行诊断：

预处理：对病历进行分段并规范化时间表达式。
混合症状加权：症状权重源自检索先验（FAISS 索引中最近邻病例的相似度）与内在显著性（LLM 从文本模糊修饰语派生的权重）的混合。Softmax 混合允许临床医生调整对文本证据与检索证据的依赖程度。
模糊 Prolog 推理：加权事实在 SWI-Prolog（增强模糊逻辑库）中断言。如果规则的 t-范数激活超过阈值，则触发规则。
流行病学先验融合：最终概率通过将规则激活分数与基于患者人口统计学特征（年龄、性别、地区）的条件患病率数据相结合来计算。

主要贡献

混合架构：一个统一的管道，连接 LLM 提取、模糊症状表示、符号推导和概率排序。
可检查的更新机制：一个允许医师反馈和局部病例证据修订规则权重和结构的系统，同时保持知识库的版本化和可审计历史。
实证验证：在公共临床基准上的评估表明，与符号消融模型相比，混合设计提高了鲁棒性和可解释性，同时仍能与强大的 LLM 基线保持竞争力。

实验结果

该框架在三个数据集上进行了评估：gretelai/symptom-to-diagnosis（单标签）、lavita/ChatDoctor-iCliniq（多标签）和MIMIC-IV（多标签）。

准确率：在单标签数据集上，完整混合方法取得了最高的 Top-1 准确率（44.8%），优于纯 LLM 基线（例如 GPT-4o 为 39.0%）和消融后的符号模型。
多标签性能：在 iCliniq 数据集上，混合方法（Top-1 为 42.0%）略低于 GPT-4o（48.6%）。作者将此归因于数据质量问题（不可靠的标签、非症状文本）以及 LLM 擅长的极度模糊语境固有的难度。然而，在精简后的 iCliniq 数据集和 MIMIC-IV 数据集（具有更清晰的症状信号）上，混合系统表现出优越或相当的性能，在 MIMIC-IV 上实现了 57.2% 的 Top-1 准确率，而 GPT-4o 为 53.3%。
一致性与可解释性：系统在症状提取方面表现出低错误率（<1.3%）和高可解释性评分（3.20–3.67/4.00），证实中间推理与最终结论一致。
效率：虽然混合系统在 1,000 个样本上的运行时间更长（48.69 分钟，而 GPT-4o 为 26.61 分钟），但其成本效益显著更高（7.61 美元对比 14.68 美元），且使用的 token 更少（287 万对比 575 万）。

意义与主张

该论文声称，通过将神经提取建立在显式的模糊和符号表示之上，所提出的框架为实现诊断 AI 提供了一条实用途径，该 AI 能够在保留可追溯性的同时，对模糊的患者叙述进行推理。

作者强调，他们的系统不仅仅是按置信度对诊断进行排序，而是提供可审计的推理路径和形式上可验证的结论。与纯统计方法不同，该系统支持迭代优化，其中 LLM 生成的诊断与真值之间的不一致可以通过形式规则进行追踪、解释和修正。这项工作将自己定位为迈向不仅准确，而且可解释、鲁棒且与人类推理一致的 AI 的一步，解决了高风险临床决策支持中对透明度的关键需求。

作者承认了局限性，包括依赖人工策划的规则，这可能限制其在新领域的可扩展性；依赖专家设计的模糊逻辑隶属函数；以及目前缺乏对症状演变的显式时间建模。