💬 NLP

Beyond Self-Knowledge: Propagating Uncertainty Across Reasoning and Retrieval in LLMs

本文介绍了 BeyondUncertainty，这是一种利用语言模型口语化置信度来有选择性地将查询路由至检索的检索增强生成方法，与始终检索或从不检索的基准方案相比，该方法在提高准确性的同时减少了 Token 使用量，尽管其引入了来自初始置信度探测的适度开销。

原作者： Chandan Kumar Sah, Xiaoli Lian, Li Zhang

发布于 2026-07-29

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Chandan Kumar Sah, Xiaoli Lian, Li Zhang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一个超级聪明的机器人图书管理员，读遍了宇宙中几乎所有的书。你可以瞬间回答问题，因为你已经把它们全部记住了。但有时，世界会发生变化，或者你可能遗忘了一个微小的细节，或者你只是需要核实一个关于特定人物或地点的事实。如果你猜错了，你可能会表现得很自信，但实际上却完全错误。这就是“检索增强生成”（Retrieval-Augmented Generation，简称 RAG）发挥作用的地方。把 RAG 想象成一条规则，它说：“如果你不是 100% 确定，在回答之前先去图书馆查一下。”

然而，这里有一个陷阱。跑去图书馆需要时间和精力。如果你为每一个问题（即使是那些你已经知道的简单问题）都跑去图书馆，你会浪费大量的时间和燃料。另一方面，如果你从不去图书馆，你可能会在难题上给出错误的答案。科学家们正在尝试解决的大问题是：机器人如何知道自己确切地在什么时候需要停下来查阅资料，而不是在简单的任务上浪费能量？这篇论文探讨了机器人是否可以仅仅通过“说出”它对一个答案的自信程度，并利用这种感觉来决定是否去图书馆查阅资料。

“置信度检查”实验

在这项研究中，来自北航大学的研究员 Chandan Kumar Sah、Xiaoli Lian 和 Li Zhang 试图构建一个更聪明的图书管理员，他们称之为 BeyondUncertainty 系统。他们想看看一个“黑盒”AI（即你只能看到其答案，而看不到其内部齿轮运作方式的模型）是否可以使用其口头表达的置信度来决定何时获取额外信息。

以下是他们的实验步骤：

探测（The Probe）： 首先，他们向 AI 提问，并要求它给出一个快速的、结构化的答案，同时附带一个“置信度分数”（一个 0 到 1 之间的数字，表示它有多确定）。他们并没有要求 AI 展示解题过程或进行思考，只是要求它给出一个快速的猜测和置信度评分。
决策（The Decision）： 他们为每个 AI 模型设置了一个“阈值”（一个特定的置信度界限）。
- 如果 AI 说：“我超级自信（高于界限）”，系统就直接接受该答案。无需前往图书馆！
- 如果 AI 说：“我不太确定（低于界限）”，系统就会将问题发送到搜索引擎（使用一种称为 TF-IDF 的方法）以找到前 5 个相关的段落。然后，AI 阅读这些段落并给出最终的、更好的答案。
测试（The Test）： 他们在六个不同的百科知识数据集上的 27,000 个不同问题上进行了这项测试，并使用了三种流行的 AI 模型。

他们的发现：好的、坏的以及昂贵的代价

结果既有成功之处，也存在令人惊讶的权衡。

好消息：更聪明的搜索
该系统在判断哪些问题需要帮助方面表现得非常出色。当 AI 感到不确定时，它通常是对的，即它确实需要查阅资料。

更好的答案： “置信度路由”（Confidence Routing）系统实现了平均 0.483 的得分（一种衡量答案质量的指标，称为 F1）。这比不查阅任何资料直接猜测（0.401）要好，甚至略好于“总是查阅每一个问题”（0.467）的方法。
节省图书馆之旅： 由于该系统跳过了简单问题的图书馆查询，它检索到的文本段落比“总是查阅”的方法减少了 20.4%。它变得更加具有选择性。
击败随机猜测： 即使他们强迫该系统查阅与随机程序程序完全相同数量的问题，置信度系统在 18 种情况中的 17 种里都获得了更好的答案。这证明了 AI 对不确定性的“感觉”在挑选研究问题时确实是有用的。

坏消息：“探测”的成本
这里有一个转折。虽然系统在搜索方面节省了时间（减少了图书馆之旅），但它实际上使用了更多的总计算能力。

为了获得那个置信度分数，AI 必须首先运行一个额外的“探测”步骤。这个额外的步骤增加了总计 28.2% 的“Token”（AI 处理文本的基本单位）消耗。
因此，虽然该系统是检索节省型的（它没有获取那么多文档），但它并不是Token 节省型的（它使用了更多的总计算能量）。这就像雇佣一名侦探来检查你在旅行前是否需要地图；侦探让你免于买错地图，但你仍然需要支付侦探的费用。

“不太确定”的现实
研究人员还发现，AI 的置信度并不完美。

校准偏差： AI 给出的置信度数字在数学上并不是完美的概率。如果一个 AI 说“90% 确定”，它并不意味着它实际上有 90% 的概率是正确的。
模型差异： 该系统的表现高度取决于所使用的 AI 模型。其中一个模型（OpenAI）过于自信，以至于它几乎总是想要查阅资料，这使得“智能路由”变得没那么有用。另一个模型（Gemini）则要精简得多。
并非万能药： 改进并不算巨大或完美。在某些特定情况下，“总是查阅”的方法实际上比智能路由更好。该系统是一种平均水平的提升，而非通用的解决方案。

总结

这篇论文表明，询问 AI“你有多确定？”是决定何时进行额外研究的一种聪明方法。它有助于 AI 避免在已知信息上浪费时间，并能带来略微更好的答案。然而，询问这个问题本身的成本很高。该系统节省了获取过多文档的时间，但询问置信度这一额外步骤使得整个过程在总计算能力方面变得更加昂贵。

这是一个迈向更智能、更高效 AI 助手的有前景的一步，但也表明了“天下没有免费的午餐”：你可以对查阅的内容进行更具选择性的操作，但你可能仍需为做出这个决定而付出代价。

技术摘要：超越自我认知：在 LLM 的推理与检索中传播不确定性

问题陈述

检索增强生成（RAG）通过将响应锚定在外部证据上，增强了知识密集型问答（QA）的能力。然而，不加区别的检索引入了显著的低效性：它增加了上下文长度和延迟，且无关或冲突的段落可能会降低回答质量。虽然存在自适应 RAG 策略，但许多策略依赖于内部模型状态（如 Logits、激活值）或复杂的反思机制，而这些在黑盒 API 设置中是无法获取的。

本研究解决的核心问题是：**口头化置信度（Verbalized Confidence）**能否作为一种可操作的信号用于路由决策。具体而言，结构化的预检索探测是否能诱发出一种不确定性估计，从而有效地识别哪些问题受益于外部证据，进而优化回答质量、检索频率与 Token 效率之间的权衡？

方法论：BeyondUncertainty

作者提出了 BeyondUncertainty，这是一个与模型无关、面向黑盒的路由框架，旨在将可观测的置信度信号传播到外部证据获取决策中。该系统无需访问隐藏的思维链（CoT）、Logits 或内部激活值，也不需要对模型进行微调。

工作流

结构化探测： 对于给定的问题 $q$ $q$ ，提示 LLM 生成一个紧凑的 JSON 对象，包含：
- 一个临时答案 ( $\hat{a}_0$ )。
- 一个口头化的置信度估计值 ( $c_0 \in [0, 1]$ )。
- 一个简洁的状态摘要 ( $m_0$ )。
- 一个建议的操作 ( $d_0$ )，该操作会被记录但不用于路由决策。
路由决策： 根据在留出验证集上选定的模型特定阈值 ( $\tau_m$ $τ_{m}$ )（该阈值在测试前被冻结），决定路径：
- 高置信度 ( $c_0 \geq \tau_m$ )： 系统直接返回临时答案 $\hat{a}_0$ （无需检索）。
- 低置信度 ( $c_0 < \tau_m$ )： 系统触发检索步骤。使用确定性的稀疏检索器（TF-IDF）从固定语料库中获取前 5 个段落。随后，LLM 进行第二次调用，结合问题和检索到的上下文生成最终答案。
- 注：若置信度缺失或无法解析，则保守地映射为检索路径。

实验设计

范围： 在涉及 3,000 个独特问题的 27,000 个策略实例上进行评估，涵盖六个问答基准测试（Natural Questions, HotpotQA, 2WikiMultiHopQA, SQuAD, TriviaQA, MuSiQue）和三个模型家族（OpenAI, Gemini, Claude）。
基线：
- 无检索 (No Retrieval)： 单次调用回答，不带上下文。
- 始终检索 (Always Retrieval)： 前 5 个检索结果后进行单次调用回答。
- 随机匹配控制组 (Random Matched Control)： 一个事后控制组，其路由到检索的题目数量与 BeyondUncertainty 完全一致，但通过稳定的哈希函数而非置信度进行选择。
- 先验最优 (Oracle)： 一个理论上限，为每个实例在“无检索”和“始终检索”之间选择较优的结果。
指标： 归一化 Token 级 F1（主要指标）、精确匹配（Exact Match）、检索段落计数以及总 Token 使用量（输入 + 输出）。

核心贡献

模型无关的路由接口： 引入了一种方法，在无需访问内部模型或进行微调的情况下，将黑盒口头化置信度信号传播到检索决策中。
大规模配对评估： 在 27,000 个策略实例及多种数据集和模型上进行了全面研究，并在评估分母中保留了 API 和结构化输出失败的情况，以确保稳健性。
分配价值隔离： 证明了置信度引导的路由在检索频率减少之外，还提供了问题层面的分配价值，并通过了与随机控制组的计数匹配验证。

结果

1. 置信度的预测效用 (RQ1)

序数 vs. 绝对： 口头化置信度作为绝对概率的校准度较差（期望校准误差 $E_{5} \approx 0.43\text{--}0.53$ ）。然而，它作为一个一致的序数信号，与最终回答质量呈正相关 ( $\rho \approx 0.28\text{--}0.31$ )。
检索收益： 不确定性 ( $u = 1 - c_0$ ) 能适度预测检索是否会改善答案（ $\text{AUROC} = 0.628$ ）。

2. 质量与效率的权衡 (RQ2)

回答质量： BeyondUncertainty 实现了最高的聚合平均 F1 (0.483)，优于“无检索”（0.401）和“始终检索”（0.467）。
段落节省： 与“始终检索”相比，它减少了 20.4% 的检索段落（每实例 3.952 对比 4.966 个段落）。
Token 成本： 与节约 Token 的目标相反，额外的探测增加了总 Token 使用量，增加了 28.2%（每实例 1,539.8 对比 1,201.5 个 Token）。该方法是节省检索次数的，但不是节省 Token 的。
异质性： 相对于“始终检索”的改进并不统一。虽然置信度路由在 18 个数据集-模型单元格中有 16 个表现更好，但在经过 Holm 校正后的统计显著性有限（例如，仅在 NQ–OpenAI, SQuAD–Claude 等设置中显著）。在某些情况下（如 Gemini 在 2Wiki 上），检索反而会降低性能，而自适应方法成功避免了这种情况。

3. 分配 vs. 随机 (RQ3)

在匹配了路由到检索的题目数量后，BeyondUncertainty 在 18 个数据集-模型单元格中有 17 个表现优于随机分配，平均增益为 0.024 F1。这证实了置信度信号有效地识别了哪些问题受益于证据，而不仅仅是减少了检索量。

意义与主张

本文谨慎地提出，黑盒口头化置信度是受控 QA 条件下进行检索分配的有效信号，即使其校准度不高。

主要发现： 该方法成功优化了外部证据的分配，在减少不必要检索的同时，维持或提升了回答质量。
关键局限： 当前实现未能实现端到端的 Token 效率。初始置信度探测带来的额外成本超过了跳过检索所节省的 Token。
上下文细微差别： 路由的效果高度依赖于模型。对于具有高置信度饱和度的模型（例如，OpenAI 路由了 >95% 的查询），自适应收益会减小，表现得与“始终检索”相似。
未来方向： 作者建议未来的工作应专注于更廉价的置信度估计器、执行路径匹配的随机控制，以及开放域检索设置，以实现真正的 Token 效率。

研究结论认为，虽然 BeyondUncertainty 优化了证据获取，但目前是以牺牲总 Token 效率来换取更高的回答质量和更低的检索开销。