Measuring the Unmeasurable: A Diagnostic Sensor for AI Reasoning Pathology in Sequential Clinical Decision-Making

该研究提出了一种用于评估大语言模型在顺序临床决策中推理病理的诊断传感器，揭示了模型在分阶段信息输入下存在的“收敛性回归”缺陷及“收敛犹豫悖论”，并验证了结构化支架（SIPS）虽可能降低单次准确率，但能显著提升诊断假设的稳定性与可审计性，从而将 AI 治理要求转化为可量化的推理质量指标。

要点

这篇论文就像是在给未来的“超级医生 AI"做一场压力测试。

想象一下，你正在招聘一位侦探（AI 模型）来破案。传统的考试（目前的 AI 评测）是这样的：把整个案件的卷宗（所有线索、证词、证据）一次性全部堆在侦探面前，让他马上给出一个结论。在这种“一次性给全”的考试中，这些 AI 侦探表现非常出色，准确率高达 90% 以上。

但是，真实的看病过程不是这样的。

在现实世界中，医生是分阶段获取信息的：

1. 病人刚进门，只说了哪里不舒服（初步线索）。
2. 医生做了个检查，发现了一些异常（新线索）。
3. 化验结果出来了，指向了某个方向（关键转折）。
4. 最后做了个核磁共振，确诊了（最终证据）。

这篇论文（Wang, 2026）发现了一个惊人的秘密：当 AI 像真实医生一样，分阶段接收信息时，它们会犯一种非常隐蔽且危险的错误。

核心发现：AI 的“记忆闪失”与“改口病”

1. 现象：找到了，又丢了（Convergence Regression）

论文发现，当 AI 分阶段看病例时，它其实在中间阶段已经找到了正确答案（比如在第 2 步或第 3 步，它说：“哦，这好像是‘Sweet 综合征’"）。

但是，当第 4 步的新证据出现时，AI 就像被新线索“闪了腰”，突然觉得：“哎呀，那个新线索看起来更像‘真菌感染’（教科书式的典型症状）。”于是，它主动抛弃了之前找到的正确答案，转而相信那个看起来更像“标准答案”的错误选项。

比喻：
想象你在玩一个“大家来找茬”的游戏。

• 阶段一： 你发现了一个红点，心里想：“这肯定是红点。”
• 阶段二： 旁边突然多了一个更明显的蓝点。
• 阶段三： 你的大脑突然“短路”了，心想：“既然有个这么明显的蓝点，那刚才那个红点肯定是我看错了。”于是你擦掉了红点，只盯着蓝点看。
• 结果： 其实红点才是正确答案，但你因为被新出现的蓝点（新证据）干扰，主动放弃了真理。

论文把这种“找到了真理，却因新线索而自我否定”的现象称为**“收敛性倒退” (Convergence Regression)**。在没加任何约束的情况下，AI 有 30% 的概率会犯这种错。

2. 解决方案：给 AI 戴上“记事本” (SIPS 支架)

为了解决这个问题，作者给 AI 戴上了一副“紧箍咒”，或者更准确地说，是一个结构化的“思维记事本”（论文中称为 SIPS 支架）。

这个记事本强制 AI 在每一步都必须做三件事：

1. 列出清单： 必须写下目前怀疑的所有疾病（不能只写一个）。
2. 解释变动： 如果我要把“红点”从清单里划掉，或者把“蓝点”加进来，必须写出理由（比如：“因为新证据 X 支持蓝点，所以我把红点降级了”）。
3. 确认状态： 必须声明现在的结论是“稳定”还是“变了”。

比喻：
这就好比给侦探配了一个严格的副手。

• 以前：侦探脑子里想什么就说什么，新线索一来，他立刻改口，没人知道他想改口前是怎么想的。
• 现在：副手拿着小本本说：“等等，你刚才在第 2 步已经确认是‘红点’了。现在你想改成‘蓝点’？请写下你为什么要推翻之前的结论。"
• 结果：AI 被迫停下来思考，它发现新证据其实不足以推翻之前的铁证，于是它保留了“红点”这个正确答案，哪怕它不是排在第一位的。

神奇的效果：
加上这个“记事本”后，AI 不再“找错又丢错”了。它把正确答案保留了下来（准确率从 60% 提升到了 80%）。

3. 新的副作用：犹豫不决 (Convergence Hesitancy Paradox)

虽然“记事本”防止了 AI 乱改口，但也带来了一个新问题：AI 变得太谨慎了，不敢拍板。

因为 AI 被要求必须为每一个改变写理由，它变得不敢轻易把某个诊断推到“第一名”的位置。它会把正确答案放在第 2 或第 3 名，但把第一名留给那个看起来“最像标准答案”的错误选项。

比喻：
这就好比一个优柔寡断的法官。

• 以前：法官看到新证据，立刻拍板：“就是这个人！”（虽然有时候抓错了）。
• 现在：法官为了严谨，把嫌疑人 A、B、C 都列在名单上，并且给每个人都写了长长的辩护词。虽然他把真凶（正确答案）列在名单里了，但他不敢直接指认真凶是“第一嫌疑人”，而是说：“我觉得可能是他，但也可能是别人，大家再看看吧。”
• 结果： 真凶没有被“抓走”（没有排在第一位），但他也没有被“放走”（还在名单里）。

这篇论文到底想告诉我们什么？

1. 现在的考试骗人： 如果只考 AI“一次性给全信息”的能力，我们以为它很完美。但一旦让它像真人一样“边看病边思考”，它就会出现“找对又改错”的致命弱点。
2. 结构比算力重要： 让 AI 多思考（多消耗算力）并不一定有用。如果思考是乱糟糟的，它只是“想得更久但更错”。如果给思考加上结构（像 SIPS 这样的记事本），哪怕只多花一点点算力，效果也会好很多。
3. AI 需要“审计”： 这篇论文最大的贡献不是让 AI 变得更聪明，而是发明了一套**“听诊器”**（评分系统和错误分类法）。这套工具能让我们看到 AI 脑子里到底发生了什么：它是真的不知道答案（知识盲区），还是知道了答案却不敢坚持（稳定性问题）？
4. 未来的方向： 我们不需要一个“全知全能”的 AI，我们需要一个**“有迹可循、敢于坚持”**的 AI。未来的医疗 AI 应该先学会“不乱改口”（通过 SIPS），然后再学会“果断拍板”（通过下一步的改进）。

总结一句话：
这篇论文告诉我们，给 AI 看病开药，不能只靠它“灵光一闪”的直觉，得给它配个**“记事本”，强迫它把思考过程写下来、理清楚。这样，即使它最后没敢把正确答案排在第一位，至少它不会把正确答案偷偷删掉**，让医生有机会发现并纠正它。这才是医疗 AI 安全落地的关键。

技术摘要

这篇由 Stella X. Wang 于 2026 年 3 月在 medRxiv 上发布的预印本论文《Measuring the Unmeasurable: A Diagnostic Sensor for AI Reasoning Pathology in Sequential Clinical Decision-Making》（测量不可测量之物：AI 在序贯临床决策中推理病理的诊断传感器），深入探讨了大型语言模型（LLM）在模拟真实临床工作流（即信息分阶段到达）时的推理表现，揭示了现有基准测试无法捕捉的深层推理缺陷，并提出了一套新的测量与干预框架。

以下是该论文的详细技术总结：

1. 研究背景与核心问题 (Problem)

• 基准测试与现实脱节： 现有的 LLM 医学评估（如 MedQA、USMLE）通常以“单次提示（Single-Shot）”的方式提供完整的病例 vignette。然而，真实的临床诊断是一个序贯过程：信息分阶段到达（主诉 -> 查体 -> 实验室检查 -> 影像学/专科会诊），医生需要根据新证据不断更新、修正或放弃假设。
• 未知的推理病理： 目前尚不清楚 LLM 在序贯信息交付模式下是否会出现类似人类的认知偏差（如锚定效应、过早闭合），以及这些病理是否可被测量和缓解。
• 核心问题：
  1. 当信息分阶段到达时，LLM 的诊断推理会发生什么变化？
  2. 结构化支架（Structured Scaffolding）能否防止由此产生的推理失败？
  3. 如何将抽象的 AI 治理原则（透明度、可问责性）转化为可量化的测量指标？

2. 方法论 (Methodology)

研究采用了一项针对 N=50 个源自《新英格兰医学杂志》(NEJM) 真实病例的消融实验，使用模型 Claude Sonnet 4 (20250514)，在确定性设置（Temperature=0）下运行。

2.1 实验设计（三条件消融）

研究通过控制变量法比较了三种条件：

• C1 (单次提示基线)： 一次性提供完整病例，模型输出单一诊断。
• C2 (序贯，无支架)： 将病例分为 4 个阶段依次输入，模型仅被要求“更新诊断”，无结构约束。
• C3 (序贯，SIPS 支架)： 同样分 4 阶段输入，但强制使用 SIPS (Sequential Information Prioritization Scaffold) 框架。SIPS 要求模型在每个阶段强制执行：
  1. 强制鉴别诊断排名（Top-3 至 Top-5）。
  2. 显式假设轮换记录（明确说明哪些诊断被添加、移除、升序或降序，并给出理由）。
  3. 收敛状态追踪（声明状态是“基线”、“已改变”还是“稳定”，若稳定需给出置信度）。

2.2 测量工具

• 5+2 评分量表 (5+2 Scoring Rubric)： 超越二元准确率，从 7 个维度评估推理质量：
  • 5 个核心维度： 诊断准确率（定义为“访问率”，即中间过程是否出现过正确答案）、推理深度、校准度、假设追踪、步骤遵循度。
  • 2 个诊断维度： 过早收敛、锚定抵抗。
• 6 代码故障模式分类法 (6-Code Failure Taxonomy)： 对推理失败进行根因分类：
  • KV (知识缺失)： 从未生成正确诊断。
  • RF (排名失败)： 生成但排名过低。
  • SD (信号稀释)： 忽略了关键信号。
  • PC (过早闭合)： 过早锁定错误诊断。
  • LM (逻辑误读)： 数据正确但推理错误。
  • CR (收敛回归)： 核心发现，模型在中间阶段找到正确答案，但在后续阶段因新证据触发模式匹配而主动放弃该答案。

3. 关键发现与结果 (Key Results)

3.1 访问 - 稳定性解离 (Access-Stability Dissociation)

在 C2（无支架序贯）条件下，模型表现出显著的访问 - 稳定性解离：

• 访问率 (Access Rate)： 90% 的病例在推理的中间阶段曾将正确答案列入 Top-3。
• 最终准确率 (Final Accuracy)： 仅 60% 的病例在最终输出中保留了正确答案。
• 结论： 存在 30% 的稳定性缺口。模型“找到了真理，然后失去了它”。这种失败在单次提示评估中是完全不可见的。

3.2 收敛回归 (Convergence Regression, CR)

研究定义了一种新的故障模式 CR：模型在中间阶段正确识别诊断，但当后续信息（如影像学结果）触发更“教科书式”的替代诊断模式匹配时，模型会系统性地放弃之前的正确诊断。

• 案例： 在 Sweet 综合征和 Behcet 病案例中，模型在获得组织活检或基因证据后正确诊断，但在后续出现新的影像或症状时，被误导转向其他疾病，导致最终诊断错误。

3.3 SIPS 保留效应 (SIPS Retention Effect)

引入 SIPS 支架（C3 条件）后：

• 消除 CR： 收敛回归率降至 0%。
• 稳定性提升： 访问率 80%，最终准确率 80%，稳定性缺口为 0。
• 机制： 通过“可见性屏障”（必须显式记录移除）、“理由屏障”（必须解释为何推翻活检证据）和“收敛追踪屏障”（必须声明状态变更），强制模型保留已确认的诊断，即使排名下降。

3.4 收敛犹豫悖论 (Convergence Hesitancy Paradox)

SIPS 虽然提高了稳定性（Top-3 准确率提升至 80%），但导致 Top-1 准确率从 60% 下降至 40%。

• 原因： 强制的问责机制使模型变得“犹豫”，倾向于保留多个候选项（Hedging），而不是果断收敛到单一最佳诊断。
• 启示： “保留（Retention）”和“收敛（Convergence）”是两种架构上不同的推理任务，需要不同的机制解决。

3.5 推理质量与 Token 效率

• 质量提升： C3 在所有 5 个核心质量维度（推理深度、校准度、假设追踪等）上均优于 C1 和 C2。
• Token 效率： C2（无支架）消耗了 C1 3.1 倍的 Token 但准确率无提升（无效思考）；C3（SIPS）仅比 C2 多消耗 28% 的 Token，却带来了 20% 的准确率提升（结构化思考）。

4. 主要贡献 (Contributions)

1. 发现新故障模式： 首次记录了 收敛回归 (CR)，揭示了 LLM 在序贯推理中“先对后错”的隐蔽病理。
2. 提出测量框架： 发布了 5+2 评分量表 和 6 代码故障分类法，将推理质量从单一准确率分解为可审计的多维指标。
3. SIPS 作为诊断传感器： 论证了结构化支架不仅是性能提升工具，更是诊断传感器。它不直接修复推理，而是使推理病理（如 CR）变得可见、可分类、可审计。
4. 治理合规工具化： 将 WHO 和 FDA 的抽象治理原则（透明度、可问责性、安全性）映射为具体的量化分数（如“假设追踪”对应透明度，“收敛回归检测”对应可问责性）。
5. 开源资源： 发布了完整的测量框架、SIPS 规范、210 分评分矩阵及原始数据，作为通用的 LLM 推理审计工具。

5. 意义与影响 (Significance)

• 临床安全警示： 如果 LLM 在临床工作流中部署时缺乏结构化支架，它们可能会在中间步骤发现正确诊断，然后因自动化偏见（Automation Bias）而自信地输出错误结论，导致严重的医疗差错。
• 治理范式转变： 推动了 AI 治理从“结果导向（准确率）”向“过程导向（推理轨迹审计）”的转变。SIPS 生成的审计轨迹满足了监管机构对“不可变审计日志”的要求。
• 架构启示： 揭示了当前 LLM 在“保留假设”和“做出决策”之间存在架构性权衡。未来的系统可能需要结合 SIPS（用于稳定性）和临床决策矩阵（CDM，用于收敛决策）来同时解决这两个问题。
• 测量即护城河： 作者提出，在准确率基准日益同质化的背景下，基于专家知识的深度推理病理测量框架（如 6 代码分类法）将成为临床 AI 部署的核心竞争力和基础设施。

总结

该论文不仅揭示了 LLM 在模拟真实临床场景中的脆弱性（特别是收敛回归），更重要的是提供了一套可操作的测量与干预工具。它证明了通过结构化支架，可以将不可见的推理错误转化为可审计的轨迹，从而为 AI 在高风险医疗领域的负责任部署奠定了方法论基础。