技术摘要：智能体系统中的置信度洗白（Confidence Laundering）

1. 问题陈述：接口瓶颈与置信度洗白

现代多步智能体系统，特别是由大语言模型（LLM）驱动的系统，将复杂任务分解为涉及工具调用、检索和中间推理的子任务。尽管最近的研究集中在估计单个步骤的或跨轨迹的聚合不确定性，但一个关键的结构性差距仍然存在：不确定性如何在组件之间传播。

本文识别了一种被称为置信度洗白（confidence laundering）的现象。在标准的智能体架构中，上游组件在不确定性、歧义或证据薄弱的情况下做出中间决策（例如，工具调用、搜索查询、检索到的段落、结构化字段）。然而，标准接口仅传输已提交的产物（committed artifact）——即离散的、可执行的输出——而丢弃了产生该产物的认识状态（epistemic state）（即犹豫、竞争性假设或脆弱性）。

这造成了一个接口瓶颈：

• 多对一投影（Many-to-One Projection）： 具有截然不同不确定性剖面的多种内部状态（例如，一个自信的决策与在多个备选项中处于势均力敌状态的决策）被投影到同一个离散产物中（例如，相同的搜索查询或 API 调用）。
• 失去脆弱性（Loss of Fragility）： 下游组件接收到一个“干净”的对象，该对象在程序上是有效且可执行的。它们继承了决策，但并未继承决策背后的不确定性。
• 系统级误差放大： 下游智能体将这些脆弱的上游决策视为稳定的前提，导致过度自信。本应触发谨慎、澄清或重新路由的不确定性被隐藏在流畅的文本或有效的 JSON 之后，导致局部校准失灵演变为系统级故障。

作者认为，不确定性传播不仅是一个轨迹层面的估计问题，更是一个接口设计问题。只有当上游决策的脆弱性在传递给下一个组件的过程中得以保留时，不确定性才能实现传播。

2. 方法论与核心概念

2.1 不确定决策交接（Uncertain Decision Handoff）

论文将不确定决策交接定义为：将一个在上游组件中基于不确定性做出的中间决策，传递给下游组件的过程。与简单的通信不同，交接传递的是操作责任（operational responsibility）。下游组件将该产物作为计算、工具执行或答案生成的逻辑前提。如果交接剥离了脆弱性的上下文，下游组件就无法判断该前提的可靠性。

2.2 潜在不确定性作为载体（Latent Uncertainty as a Carrier）

为了解决置信度洗白问题，作者提出了潜在不确定性（latent uncertainty）。

• 定义： 潜在不确定性是一种从智能体的内部连续状态（如隐藏状态、激活值或 KV trace）中衍生出的、带有不确定性的表示，并将其附加在决策交接中。
• 与标量/文本信号的区别： 不同于标量置信度分数（将多维认识状态坍缩为单一数字）或文本理由（对措辞敏感且可能压缩不确定性的结构），潜在不确定性充当一种表示层面的载体。它以一种下游组件可用的形式保留了“前承诺阶段的脆弱性（pre-commitment fragility）”，而不一定需要替换自然语言通信。
• 目标： 目标不是用文本取代隐藏状态，而是确保“怀疑”在接口坍缩后依然能够生存，从而允许下游智能体根据保留的不确定性信号触发适当的恢复动作（如澄清、重试、验证或重新路由）。

2.3 实验设置

作者使用 Qwen-1.5B 在 HotpotQA 数据集（转换为网页搜索工具使用场景）上验证了其观点。

• 任务： 上游智能体接收一个多跳问题，构建搜索查询，调用 Tavily 网络搜索 API，处理返回的片段，并生成最终答案。
• 不确定性标注： 并非依赖数据集的难度标签（易/中/难），而是通过行为方式推导不确定性标签。模型针对每个问题采样多条轨迹（$K=20$）。由此产生的答案簇的**语义熵（semantic entropy）**作为不确定性的基准真值（高熵 = 高不确定性）。
• 交接条件： 研究对比了四种交接条件下的下游不确定性可恢复性：
  1. 仅答案（Answer-only）： 标准接口（仅最终答案）。
  2. 标量分数（Scalar Score）： 最终答案 + 一个标量不确定性分数。
  3. 文本不确定性（Textual Uncertainty）： 最终答案 + 关于不确定性的自然语言描述。
  4. 潜在不确定性（Latent Uncertainty）： 最终答案 + 一个从上游隐藏状态中提取的载体（通过轻量级线性/MLP 分类器探测）。

3. 关键结果

实验观察支持了以下假设：标准接口会抹除上游不确定性，而潜在不确定性是一种更优的载体：

1. 难度标签不足以预测不确定性： HotpotQA 的难度标签（易/中/难）并不能清晰地预测模型的确定性。语义簇的分布在不同难度等级之间显著重叠，这表明不确定性是模型特有的，并且取决于工具使用的过程（例如，查询构建、证据覆盖范围），而非仅仅取决于任务难度。
2. 隐藏状态包含可恢复的不确定性： 在隐藏状态（特别是来自 Transformer 第 7、14 和 28 层）上训练的轻量级探测器，可以以很高的 AUROC 恢复基于语义熵的不确定性标签。性能随模型深度增加而提升，证实了不确定性在被压缩成最终文本输出之前，已经编码在潜在表示中了。
3. 潜在不确定性优于其他载体： 在下游不确定性检测任务中，潜在不确定性交接条件在 AUROC 和准确率方面均显著优于“仅答案”、“标量分数”和“文本不确定性”条件。
   • 仅答案 AUROC: ~0.618
   • 标量分数 AUROC: ~0.667
   • 文本不确定性 AUROC: ~0.785
   • 潜在不确定性 AUROC: ~0.874
     这表明，承诺后的文本产物和压缩后的注释会丢失有关上源脆弱性来源及结构的批判性信息，而潜在表示则保留了这些信息。

4. 贡献

本文的主要贡献有四点：

1. 重新定义不确定性传播： 它将视角从逐步估计转向了接口问题，认为当接口仅暴露已提交的产物时，不确定性传播就会失效。
2. 定义失效模式： 它正式定义了不确定决策交接和置信度洗白，将其作为脆弱的上游状态被重新包装为可靠的下游前提的机制。
3. 引入潜在不确定性： 提出了潜在不确定性作为一种表示层面的载体，旨在以下游可用的形式保留“前承诺阶段的脆弱性”。
4. 实证验证： 通过实验证明了标准接口会隐藏上游不确定性，并且潜在不确定性载体相比标量或文本信号，能实现更有效的下游恢复行为。

5. 意义与主张

论文声称，要使智能体系统变得更加鲁棒和可恢复，必须将不确定性传播视为接口的设计约束，而不仅仅是模型的输出属性。

• 接口契约： 不确定性应该是组件之间的契约的一部分。下游智能体必须知道一个产物是自信生成的、基于歧义生成的，还是基于微弱证据生成的，以便做出适当的决策（例如进行验证或重新路由）。
• 超越最终准确率： 对智能体系统的评估应超越最终答案的准确率和校准度。指标应当评估交接可靠性（handoff reliability），例如下游组件是否避免了过度信任脆弱的上游决策，以及是否能触发适当的恢复动作。
• 可恢复系统： 智能体架构的目标应当从生产“干净的产物”转向构建“可恢复的系统”，在这种系统中，怀疑被保留得足够久，以便系统能在错误级联之前检测并缓解错误。

作者保持了谦逊的态度，指出潜在不确定性并非标量或文本信号的普遍替代品，但在下游行为依赖于（仅靠承诺后的产物难以恢复的）脆弱性时，它具有特别重要的意义。他们也承认了实际应用中的限制，例如需要访问模型内部以及异构组件之间的兼容性问题。