💻 computer science

Possible or Definite? A Benchmark for Evaluating Diagnostic Uncertainty Preservation in Clinical Text

本文引入了一个包含 1,200 份临床文档的基准测试，旨在评估大语言模型在保留诊断不确定性方面的表现，结果显示当前模型经常无法维持这些关键的细微差别，从而为安全的临床部署带来了风险。

原作者： Hongbo Du, Zixin Lu, Jiaming Qu

发布于 2026-06-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Hongbo Du, Zixin Lu, Jiaming Qu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心理念：“也许”与“肯定”之争

想象一下，你是一名正在编写病历报告的医生。你并不百分之百确定患者是否患有肺炎，所以你写道：“疑似肺炎（Possible pneumonia）。”

在医学界，“疑似”这个词是一个安全阀。它是在告诉下一位医生：“我们需要继续观察；先不要开始重症治疗。”如果你把它改成直接写成**“肺炎（Pneumonia）”**，意思就完全变了。现在，接诊医生可能会认为：“好吧，已经确诊了，”从而开始不必要的治疗，或者跳过重要的检查。

这篇论文提出了一个简单但令人担忧的问题：如果我们要求一个聪明的 AI（大语言模型）来重写或总结这些医疗笔记，它能否保留住那个“也许”，还是会不小心把“也许”变成了“肯定”？

实验过程：为 AI 构建一场“压力测试”

研究人员并没有仅仅靠猜测，而是构建了一个大规模的“压力测试”，以观察 AI 的行为表现。

训练场： 他们从医院和癌症数据库中收集了 1,200 份真实的医疗文件（如出院小结和实验室报告）。
地图： 他们在这些文本中标记了超过 9,000 个特定的位置，这些地方体现了医生表达的不确定性。他们创建了一个 5 级的量表，范围涵盖：
- 第 1 级（确定不存在）： “不，患者绝对没有这个情况。”
- 第 2 级（可能/很可能）： “很有可能，但不是 100%。”
- 第 3 级（疑似/可能）： “可能是，但我们不确定。”
- 第 4 级（不确定/不明）： “我们没有足够的信息来判断。”
- 第 5 级（未提及/非断言）： “我们需要稍后检查这一点。”
测试： 他们将这些文件输入到三个流行的 AI 模型（来自 OpenAI、Google 和 Anthropic）中，并要求它们完成两件事：
- 总结（Summarize）： 为其他医生编写一个简短版本。
- 重写（Rewrite）： 将专业术语转化为面向患者的通俗易懂的语言。

他们通过两种方式测试 AI：

“常规”方式： 直接要求进行总结或重写。
“谨慎”方式： 给它一个严格的规则：“不要改变确定性的程度。如果原文说的是‘也许’，请务必保持为‘也许’。”

结果：AI 是一个“自信过度”的编辑

结果显示，AI 有一种表现得过于自信的严重习惯。

1. “自信陷阱”
当 AI 重写文本时，它经常会完全删掉那些表示“也许”的词汇。

类比： 想象一位天气预报员说：“有可能会下雨。”如果你要求 AI 为一位野餐策划者进行总结，它可能会说：“会下雨。”它并没有对“下雨”这件事撒谎，但它去掉了不确定性，让天气预报听起来像是一个保证。
数据统计： 即使 AI 保留了医学事实（例如“肺炎”），它保留正确不确定性程度的次数也不足 50%。
最严重的错误： 大约有 40% 的情况下，AI 会将一个“疑似”的诊断变成一个“确诊”的诊断。这是最危险的一种错误，因为它听起来权威，但实际上只是个猜测。

2. “患者”与“医生”之间的差距
AI 在为患者重写文本时，表现得比为医生重写时更差。

类比： 在与医生交流时，AI 表现得像一个谨慎的编辑，保留了细微的差别。但在与患者交流时，它表现得像一个试图简化情节的故事讲述者，为了让故事流畅，往往会删掉那些“剧情漏洞”（即不确定性）。
结果： 当尝试编写“患者友好型”文本时，AI 丢弃了更多的医学事实，也改变了更多的确定性。

3. “神奇提示词”并没奏效
研究人员尝试通过给 AI 一个严格的指令来解决这个问题：“请保留不确定性！”

结果： 这确实有一点帮助（将准确度提高了约 10–20%），但并没有解决根本问题。AI 仍然会过于频繁地把“疑似”变成“肯定”。这就像是告诉一名学生，“考试时不要瞎猜”，但他们还是照猜不误。

4. “排序”测试
在第二个测试中，他们要求 AI 查看一系列句子，并按“最确定”到“最不确定”进行排序。

结果： AI 在区分“绝对没有”和“绝对有”方面表现尚可。但在试图区分“很可能”和“疑似”时，它变得非常困惑。它很难看清那些极其相似的怀疑程度之间的细微界限。

总结

论文的结论是，虽然这些 AI 模型在听起来流畅且语法完美方面做得很好，但它们目前并不擅长保留医学语言中的“灰色地带”。

它们倾向于把“也许”变成“是的”。在医院里，这不仅仅是一个拼写错误；这是一个改变了医学含义的行为，可能会导致错误的检查或治疗。作者警告说，在我们能够教会 AI 像尊重“确定”一词一样尊重“可能”一词之前，我们不能仅仅依赖这些 AI 工具来总结医疗笔记。

技术摘要：可能还是确定？用于评估临床文本中诊断不确定性保留能力的基准测试

问题陈述
尽管大型语言模型（LLMs）正越来越多地应用于临床文本任务（如摘要生成和报告修订），但它们能否正确保留诊断中的不确定性仍缺乏深入研究。在临床实践中，不确定性表达（例如“疑似肺炎”与“肺炎”）不仅仅是谨慎的措辞；它们传达了证据的强度，指示了替代诊断，并指导着后续检测和治疗的决策。目前的临床 LLM 评估指标主要关注流畅度、连贯性和事实一致性，往往无法检测出模型何时改变了不确定性的程度。本文认为，改变这些表达方式可能会完全改变临床意义，从而可能导致有害的下游决策，然而这种特定的失效模式并未被标准的评估协议所捕捉。

方法论
本研究通过两个步骤的方法来解决这一差距：构建一个专门的基准测试以及对三种 LLM 进行双模态评估。

基准测试构建：
- 数据来源： 作者构建了一个包含 1,200 份临床文档的数据集，这些文档源自 MIMIC-IV-Note（出院小结和放射科报告）和 TCGA-Reports（病理报告）。
- 标注方案： 定义了一个五级不确定性方案，范围从 UL1（确定不存在） 到 UL5（未断言），中间级别包括 可能存在（Probable present）、疑似存在（Possible present） 以及 不确定/未解决（Indeterminate/unresolved）。
- 粒度： 与文档级标注不同，该基准测试利用了命题级标注。每份文档被表示为一个包含 9,184 个“线索-目标”（cue-target）对的集合，其中“线索”是不确定性表达（例如“不能排除”），而“目标”是临床概念（例如“肺栓塞”）。
- 提取流水线： 采用基于规则的流水线（利用正则表达式和医疗 NER 工具如 medSpaCy 和 QuickUMLS）来提取这些配对，以避免循环评估。对 90 份文档的子集进行的人工验证显示，平均准确率为 82%，Cohen's $\kappa$ 为 0.61。
评估框架：
本研究使用两种互补的研究问题（RQs）对三种 LLM（gpt-oss-120b、gemini-2.5-flash 和 claude-haiku-4.5）进行评估：
- RQ1（间接评估）： 评估在下游文本转换任务中的不确定性保留情况：临床交接摘要（Clinician Handoff Summarization） 和 患者友好型修订（Patient-Friendly Revision）。这些任务在两种提示条件下进行测试：基准（Baseline）（标准指令）和 受限（Guarded）（明确指示要保留不确定性并避免添加解释）。
- RQ2（直接评估）： 测试模型识别和排序不确定性线索的显式能力。这包括单信号设置（对单个配对进行分类）和多信号设置（同时对 2-5 个配对组成的集合进行分类和排序）。

核心贡献

基准测试创建： 本文引入了一个可重用的基准测试，包含 1,200 份文档和 9,184 个经过标注的线索-目标对，涵盖六种临床文本类型和五种不同的不确定性水平。
实证评估： 对三种最先进的 LLM 进行了系统评估，证明了标准流畅度指标无法捕捉到不确定性的扭曲。
失效模式识别： 研究识别出 LLM 存在一种向“确定性断言”倾斜的系统性偏差，即带有对冲性语言的内容被坍缩为确定的陈述，这种模式在文档级评估中是不可见的。

结果

间接评估 (RQ1)：
- 保留效果差： 在基准条件下，LLM 保留原始不确定性水平的频率不足 50%（不确定性保留率 [URR] 在 33.64% 至 45.55% 之间）。
- 主导失效模式： 主要错误是确定性断言（Certainty Assertion, CAR）。大约 40% 的保留目标被改写为确定的断言（例如，将“疑似”改为确定的陈述），而部分偏移和过度对冲占总错误的不到 8%。
- 任务差异： 与临床摘要相比，患者友好型修订任务导致了更激进的内容删除和更低的不确定性保留。
- 提示词效力： 虽然“受限（Guarded）”提示词将 URR 提高了 7–19 个百分点并减少了确定性断言，但并未消除扭曲；最佳配置下的 URR 仍仅约为 62.5%。
直接评估 (RQ2)：
- 分类 vs. 排序： 模型（gemini-2.5-flash）在单信号设置下的分类准确率（ULA）达到中等水平（78.4%）。然而，随着信号数量的增加，精确排序准确率显著下降（从 N=2 时的 86% 下降到 N=5 时的 48%）。
- 粒度问题： 模型在类别区分（如“确定不存在”）方面表现良好，但在相邻层级之间的细粒度区分上表现挣扎，特别是“可能存在（Probable present）”与“疑似存在（Possible present）”之间。

意义与主张
本文主张，不确定性保留必须被视为一个独立于流畅度和事实一致性的评估维度。作者认为，主要的失效模式并非随机噪声，而是一种向确定性倾斜的系统性偏差，这在临床工作流中构成了重大风险，因为在这些流程中，暂定诊断与确诊诊断需要不同的管理方式。

研究结论指出，虽然显式提示可以提供部分缓解，但不足以确保安全部署。研究结果强调，迫切需要更复杂的干预措施，例如在具有不确定性意识的基准测试上进行微调或偏好优化，以确保 LLM 不会因将不确定性坍缩为虚假确定性而无意中扭曲临床意义。作者强调，我们的工作揭示了一种标准指标无法捕捉到的失效模式，这要求在评估和部署临床 NLP 系统时发生转变。

核心理念：“也许”与“肯定”之争

实验过程：为 AI 构建一场“压力测试”

结果：AI 是一个“自信过度”的编辑

总结

类似论文