🤖 AI

Uncertainty Decomposition for Clarification Seeking in LLM Agents

本文针对经典不确定性框架在交互式大语言模型智能体方面的局限性，提出了一种基于提示词的分解方法，将动作置信度与请求不确定性进行分离，以实现主动澄清寻求，该方法在包含刻意欠定任务的多种模型骨干网络基准测试中显著优于现有方法。

原作者： Gregory Matsnev

发布于 2026-06-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Gregory Matsnev

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在雇佣一位非常聪明但略显自负的私人助理来帮你跑腿办事。你给他们一份指令清单，比如“买一件衬衫”或“把杯子放在桌子上”。

有时，你会忘记告诉他们一些重要的细节，比如衬衫是什么颜色的，或者哪张桌子。在过去，如果这位助理不知道该怎么做，他们要么：

胡乱猜测：比如买了一件红色的衬衫，而你其实想要蓝色的，然后自信满满地告诉你：“我有 90% 的把握这是对的！”（这是一个错误）。
表示困惑但不出示理由：他们会说自己很困惑，但不会说明原因，这让你很难判断他们是因为任务太难而挣扎，还是因为你确实没给够信息。

这篇论文介绍了一种新的训练方法，让这些 AI 助手能更好地处理这种困惑。以下是使用简单类比进行的拆解：

核心问题：一个数字是不够的

目前，大多数 AI 助手会对他们采取的每一个行动给出一个单一的“置信度分数”（就像一个 0 到 100 的成绩）。

缺陷：如果助手说，“我只有 40% 的信心”，你并不知道为什么。
- 是因为任务很难？（例如：“有 500 件衬衫可供选择，我不确定你喜欢哪一件。”）
- 还是因为你没给够信息？（例如：“你让我买一件衬衫，但你没说颜色和尺码！”）
  如果助手是因为你忘记提供细节而感到困惑，他们不应该只是瞎猜；他们应该询问你：“嘿，你想要什么颜色？”旧系统无法区分“这很难”和“你忘了告诉我某些事”。

解决方案：将“置信度”一分为二

作者提出了一个简单的技巧：不再要求 AI 提供一个置信度分数，而是在其内部思考过程中要求提供两个独立的得分：

行动置信度（Action Confidence）：“假设我理解了目标，我对这个特定行动能否成功的把握有多大？”
- 类比：“我有 90% 的把握可以开车去商店，但我不知道你要去哪家店。”
请求不确定性（Request Uncertainty）：“你的指令中缺失了多少信息？”
- 类比：“你没告诉我商店的名字或颜色。我 100% 不确定，因为你漏掉了细节。”

通过将两者分离，AI 获得了一个专门的“频道”来表达：“我知道该做什么，但我需要更多信息。”而不是仅仅说“我很困惑”。

实验：“缺失细节”测试

为了证明这套方法有效，研究人员创建了两个新的类似电子游戏的测试（WebShop 和 ALFWorld），他们在其中故意隐藏了 50% 的指令。

设置：他们告诉 AI“买一件衬衫”，但删除了提示词中的“黑色”和“大号”等词汇。
目标：他们想看看 AI 是否会停下来问：“什么颜色和尺码？”而不是直接开始瞎猜。

他们使用五种不同的强大 AI 模型，将这种新的“双分数”方法与旧方法（仅使用一个分数）进行了对比测试。

结果

更擅长提问：新方法在识别缺失信息方面表现得好得多。与旧方法相比，它在提问澄清方面的能力平均提升了 73%。它成功地在几乎所有测试的 AI 模型中都识别出了缺失的细节。
没有损失技能：至关重要的是，给 AI 增加这个额外的“思考步骤”并没有降低它在指令清晰时的实际执行能力。它并没有失去解决问题的能力；它只是变得更擅长知道何时该停下来询问。

陷阱：“脑力损耗”

论文还发现了一个缺点，他们称之为**“能力稀释”（Capability Dilution）**。

隐喻：想象 AI 拥有一定量的精神能量（就像电池一样）。通常，它会使用 100% 的电池来解决任务。现在，它必须拆分这部分能量：一部分用于解决任务，一部分用于检查置信度，还有一部分用于检查你是否提供了足够的信息。
结果：因为在拆分能量，它有时完成实际任务的效果会比以前稍差一点。这就像一个短跑选手，虽然跑得很快，但因为同时还要试图看表并与教练交流，导致速度稍微慢了一点。

宏观结论

作者得出结论，虽然这种“双分数”技巧目前很有效，但这更像是一种“黑客手段”（hack）。它通过改变提示词的方式，强迫 AI 进行额外的思考。

他们认为，未来的方向不是更好的提示词，而是重新训练 AI 本身。他们相信下一代 AI 应该从底层构建，使其能够自然地理解“这很难”和“你没告诉我某些事”之间的区别，而不需要通过提示词来“诱导”。

简而言之： 这篇论文表明，如果你教会 AI 去区分“我不知道答案”和“你没给我问题”，它会变得更擅长寻求帮助。但通过简单的文本指令来实现这一点，会消耗它的一部分整体脑力。

技术摘要：用于 LLM 智能体澄清寻求的确定性分解

1. 问题陈述

交互式大语言模型（LLM）智能体在部分可观测条件下运行，接收不明确的自然语言指令并在充满噪声的环境中导航。早期推理步骤中的微小错误可能会传播，导致自信地得出错误结果。虽然确定性估计是标准的缓解工具，但现有框架（特别是偶然性/认知性二分法）被认为不足以应对交互式智能体。Kirchhof 等人 [13] 和 Kim 等人 [14] 指出，智能体需要**感知欠定性（underspecification-aware）**的确定性表示，这种表示应按来源进行分解，并能与用户沟通，以实现主动能力（如寻求澄清）。

此外，实际部署中的约束——例如黑盒 API 访问、严格的延迟预算以及缺乏标注训练轨迹——使得基于 logprob、多采样和基于训练的确定性方法变得不可行。这使得基于提示的方法（即智能体以结构化文本形式输出确定性）成为现实世界部署中唯一可行的方法。然而，现有的基于提示的方法通常只输出单个标量置信度分数，将两种截然不同的不确定性来源混为一谈：

任务难度： 执行动作本身很难（例如，从许多相似产品中进行选择）。
目标歧义： 用户的请求不明确（例如，“找一件衬衫”，但未说明颜色或尺寸）。

这种信号的混淆使得智能体无法区分“谨慎执行”与“请求澄清”。

2. 方法论

提议的分解方式

本文提出了一种基于提示的分解方法，将单个置信度标量分解为在每个步骤 $t$ 处发出的两个独立信号：

动作置信度 ( $c_t$ )： 在当前理解的基础上，智能体对于所选动作能推动任务完成的信心程度。这与基准方法中使用的标量置信度一致。
请求不确定性 ( $u_t$ )： 对用户目标是否完全明确的估计，范围从 0（完全明确）到 1（关键细节缺失）。该值锚定在一个三点量表上：
- $0$：恰好有一种正确的解释。
- $0.5$：至少有一个参数是开放或未说明的。
- $1$：关键细节缺失；存在多种有效的解释。

澄清触发机制

该方法引入了一种确定性的路由机制。如果 $u_t \geq \theta$ （其中 $\theta$ 默认为 $0.5$），则指示智能体发出特殊的动作 request_clarification（请求澄清），而不是执行任务动作。这在确定性估计与可观察行为之间建立了直接联系，使得系统可以作为针对欠定性的二分类器进行评估。

历史记录传播

遵循不确定性感知记忆（UAM）框架 [21]，不确定性数值 ( $u_t, c_t$ ) 及其自然语言解释都会被附加到交互历史 $H_t$ 中。这使得后续步骤能够对累积的请求级不确定性和动作置信度进行推理。

基准方法

所提方法与两种基于提示的基准方法进行了对比：

ReAct+UE： 标准的 ReAct 智能体，其提示后缀要求输出单个置信度分数和解释，但不会在历史记录中保留不确定性。
不确定性感知记忆 (UAM)： 与 ReAct+UE 类似，但会将置信度分数和解释通过历史记录进行传播，使智能体能够对过去的确定性进行推理。

基准测试

为了评估澄清寻求能力，作者构建了两个澄清增强型基准测试，其中 50% 的任务被刻意设计为欠定的：

WebShop-Clarification： 从指令中剥离了属性（如颜色、材质）和选项子句。
ALFWorld-Clarification： 从目标中随机移除物体或容器（例如，“把东西放入容器中”）。
在这些变体中，如果智能体正确地对欠定任务请求了澄清，原始目标将被揭示，并且情节将继续进行，从而确保了公平的成功率测量。

评估还包括用于故障检测（预测轨迹失败）和任务成功率的标准基准测试（WebShop, ALFWorld, REAL）。

3. 核心贡献

对比分析： 一项系统的研究表明，实际约束使得基于提示的方法成为黑盒 LLM 智能体处理确定性的唯一可行家族，从而激发了对其主动行为能力的深入研究。
新基准测试： 引入了 WebShop-Clarification 和 ALFWorld-Clarification，使将澄清寻求评估为二分类任务成为可能。
分解方法： 一种仅靠提示的方法，它将动作置信度与请求不确定性分离，无需训练或模型访问即可实现主动澄清。
实证评估： 在五个 LLM 后端（GPT-5.1, DeepSeek-v3.2-exp, GLM-4.7, Qwen3.5-35B, GPT-OSS-120B）上，针对澄清寻求和故障检测任务进行了全面的评估。

4. 结果

澄清寻求

所提的分解方法在识别欠定任务方面显著优于基准方法：

ALFWorld-Clarification： 在五个后端上的平均表现显示，所提方法比 ReAct+UE 的澄清 F1 值提高了 73%，比 UAM 提高了 36%。
WebShop-Clarification： 所提方法在每一个后端上都领先了 WebShop-Clarification 的澄清 F1 值。
泛化性： 收益在不同模型族中均得到了泛化，表明该分解方法并非特定于某种 LLM 架构。

故障检测

该分解方法并未牺牲检测故障（预测轨迹失败）的能力：

在所有后端和基准测试中，所提方法的故障检测 ROC-AUC 得分与 ReAct+UE 和 UAM 相当。
在 WebShop 和 REAL 上，所提方法在最后一步聚合和平均聚合中均取得了最高的 ROC-AUC。

任务成功率与校准

能力稀释： 观察到随着不确定性工具化的增加，任务成功率呈现单调下降趋势：ReAct+UE (28.6%) > UAM (27.8%) > 所提方法 (27.0%)。作者将其归因于“能力稀释”，即固定的推理预算被分配到了任务求解和多个不确定性评估之间。
过度自信： 可靠性图表显示，所有方法都存在系统性的过度自信现象；预测的置信度始终高于观察到的成功率（ECE 范围为 0.24 到 0.66）。
聚合敏感性： 轨迹级聚合方式的选择（如乘积、平均值、最后一步）显著影响故障检测得分。值得注意的是，在 ALFWorld 上，乘积聚合实际上充当了轨迹长度的代理，而非真正的置信度信号，因为失败的轨迹往往系统性地更长。

5. 重要性与主张

本文声称，所提的分解方法成功地将“欠定性不确定性”作为一个独立的类别进行了操作化，响应了 Kirchhof 等人 [13] 和 Kim 等人 [14] 的呼吁。通过提供专门的渠道来处理目标歧义，智能体可以主动寻求澄清，而不是默默失败或进行任意解释。

然而，作者对基于提示范式的局限性保持了谦逊的态度：

基于提示的限制： 观察到的能力稀释和系统性过度自信是基于提示方法的固有特征，因为模型必须在固定的 Token 预算内同时完成任务求解和自身置信度评估。
未来方向： 本文认为，最有前景的路径是原生确定性估计。与其通过提示来获取分解后的分数，不如通过训练（通过 RLHF、DPO 或 GRPO）使模型在内部区分任务难度和目标歧义。这将消除对基于提示提取的需求，消除能力稀释，并允许进行校准后的自然语言不确定性沟通。

总之，这项工作证明了分解不确定性能开启新的智能体能力，但它也指出，下一步需要通过基于对齐的训练，将这些机制从提示中转移到模型本身。