🤖 machine learning

Track, Rank, Crack: Epistemic Working Memory Scales Multi-Hop Reasoning in Language Agents

该论文介绍了 SLEUTH，这是一个通过将隐式上下文替换为显式的、结构化的认识论工作记忆（追踪已确认的事实、排序后的假设和开放性问题）来扩展多跳推理能力的语言智能体框架，该框架显著提升了在复杂基准测试上的性能，并揭示了组织推理状态对于克服上下文稀释和证据充分性问题而言，比原始模型能力更为关键。

原作者： Ning Liu

发布于 2026-07-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ning Liu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一名正在试图通过连接四个不同线索来破解谜题的侦探。你有一个笔记本，但它不是普通的笔记本。每当你发现一个新线索时，你都会把它写在一张纸上，然后把它塞进一个巨大的、不断增长的纸堆里。问题在于，随着纸堆变得越来越高，最底层的线索会被新加入的纸张掩埋。当你到达顶端时，你已经忘记了最初发现了什么。这正是许多 AI“智能体”（agents）在尝试解决复杂的多步问题时所面临的情况：它们迷失在了自己的历史记录中，作者称之为上下文稀释（context dilution）。

这篇论文介绍了一种名为 SLEUTH（结构化分层证据更新假设追踪）的新方法来解决这个问题。SLEUTH 不再让 AI 的大脑仅仅是一个巨大且混乱的纸堆，而是强制要求它维持一个非常具体、有组织的“工作记忆”，看起来就像侦探的白板一样。这个白板有三个截然不同的部分，AI 必须在每一步之后都对其进行更新：

已确认的事实： AI 已经发现并验证的事实，并附带关于其来源的注释（例如来源引用）。
活跃的假设： AI 正在猜测的可能答案，并根据支持它们的证据程度进行排名（高、中、低置信度）。
开放性问题： AI 仍需查明以解开谜题的具体事项，这些问题直接告诉 AI 下一步应该搜索什么。

作者在五个不同的棘手问答挑战上测试了该方法，包括 HotpotQA 和 MuSiQue，这些挑战涵盖了从 2 步到 4 步的推理链。他们发现，随着问题的难度增加，SLEUTH 的表现变得越来越好。在最难的 4 步问题上，使用相同的 AI 模型，SLEUTH 比标准方法（ReAct）的成功率提高了 11.1 个百分点。

真正酷的部分在于：论文指出，AI 如何组织它的思考，比 AI 模型本身有多“聪明”更为重要。 为了证明这一点，研究人员拿出了一个较弱的 AI 模型（GLM-5），并强制它使用 SLEUTH 的笔记本结构。这个经过组织的较弱模型，实际上击败了一个没有使用该结构的更强大的模型（Claude Sonnet）。这个带有笔记本的较弱模型在最难的问题上得分 48.9%，而那个没有该结构的更强模型仅得分为 42.0%。这表明，一种简单的、结构化的思考方式可以胜过纯粹的计算能力。

然而，论文也指出 SLEUTH 有时会产生一个新的问题：“证据充分性问题”（Evidence Sufficiency Problem）。因为 AI 组织事实的能力太强了，它有时会在已经拥有足够解开谜题的证据后，仍然继续寻找更多的证据。它会陷入“再检查一次”的循环中，在给出答案之前就耗尽了它的时间限制（称为“轮次预算”）。

为了解决这个问题，作者添加了一个“轻推”（nudge）。想象一下，当侦探用完了 70% 的允许时间时，教练吹响了哨子。这个哨声告诉 AI：“停止搜索！你已经有足够的证据了；现在利用你已有的信息来写出答案吧。”这个简单的规则帮助 AI 停止了浪费时间。当他们测试时，AI 在最难问题上的成功率从 49.1% 跳升到了 53.1%。

至关重要的是，论文显示这种“轻推”只有在 AI 拥有有序笔记本的情况下才有效。如果他们把同样的“停止搜索”哨声交给一个大脑混乱、无序的 AI，它并不会起作用（得分保持在 42.2%）。有序的状态是必要的前提，而“轻推”只是帮助 AI 利用它。

作者还测试了该方法在不同时间量和不同搜索设置下的表现。他们发现，无论 AI 每次搜索只能找到一段话还是五段话，SLEUTH 的优势都依然存在。他们还注意到，该方法不需要特殊的训练或新的硬件；它只需通过改变给 AI 的指令（即“提示词”）即可实现。

简而言之，论文表明，为了让 AI 智能体更好地解决长期的、复杂的谜题，我们不应该仅仅让 AI 变得更大或更聪明。相反，我们应该教它如何维护一个整洁、有结构的笔记本，记录它所知道的、它所猜测的以及它仍需寻找的东西。这种简单的组织方式的变化，使得即使是较弱的模型也能比那些处于混乱状态下的更强模型解决更难的问题。

技术摘要：SLEUTH —— 用于多跳推理的结构化认识论工作记忆

1. 问题陈述

在交替进行推理与工具使用的语言智能体（例如 ReAct）中，即使单个子任务非常简单，随着推理链条的增长，其性能也会出现剧烈下降。作者指出其根本原因是上下文稀释（context dilution）：智能体的调查状态（即已确认的内容、怀疑的内容以及尚待确定的内容）仅隐式地存在于不断增长的上下文窗口中。随着推理链的延伸，早期的发现会被后续检索到的信息所掩埋，导致智能体丢失已解决的子问题、可行的假设以及必要的下一步行动。这导致了两种主要的失效模式：

信息丢失： 已确认的证据因上下文稀释而丢失。
证据充分性瘫痪： 智能体已经收集到了足以回答问题的证据，但却无法做出决策，由于缺乏原则性的停止准则，导致其在无谓的验证上耗尽了轮次预算。

2. 方法论：SLEUTH

本文介绍了 SLEUTH（结构化分层证据更新假设追踪），该框架通过结构化的工作记忆，使智能体的认识论状态（epistemic state）变得显式且可操作。SLEUTH 完全通过提示词（prompting）实现（无需微调或架构变更），它要求智能体在每次工具调用后维护并更新一个三元状态 $W_t = (F_t, H_t, Q_t)$ ：

已确认事实 ( $F_t$ )： 一个单调累积的集合，包含从工具输出中提取的经过验证的陈述，每条陈述都溯源至特定的来源。一旦确认，事实在整个回合内永不撤回，从而防止信息丢失。
活跃假设 ( $H_t$ )： 按证据支持度（高/中/低置信度）排序的候选答案。每个假设都与其支持或反驳该假设的事实相关联。
开放问题 ( $Q_t$ )： 其解决情况将最显著改变假设排序的不确定性。每个问题都包含一个建议的行动（例如搜索查询）和一个优先级。最高优先级的问题直接驱动智能体的下一次工具调用。

承诺机制（Nudge/推动）

为了解决证据充分性问题，SLEUTH 采用了一种轻量级的推动机制（nudge mechanism）。当满足以下两个条件时，该触发器会被激活：

智能体已消耗了 $\alpha$ （设为 0.7）比例的轮次预算。
智能体已累积了至少 $\tau$ （设为 2）个已确认的事实。

一旦触发，智能体会收到一条综合指令，要求其利用当前的结构化状态构建最终答案，不再进行进一步搜索。这强制实现了从探索到利用（exploration to exploitation）的转换，防止在已解决的链条上耗尽预算。

3. 核心贡献

显式认识论状态： SLEUTH 将人类维护结构化工作笔记（事实、假设、问题）的实践操作化，并应用于语言智能体。不同于通过代码或训练外部化状态的方法，SLEUTH 完全依赖于提示词。
随难度扩展： 该框架的优势随推理复杂度的增加而扩大。在五个基准测试中，它优于成熟的基线模型（ReAct、Reflexion、Self-Ask、IRCoT），其增益从 2 跳问题（HotpotQA）的 +4.7 分扩大到 4 跳链条（MuSiQue）的 +11.1 分。
失效模式隔离： 本文识别并解决了两种不同的失效模式：
- 信息丢失 通过结构化事实追踪得到缓解。
- 证据充分性瘫痪 通过承诺推动机制得到缓解。
  关键在于，作者证明了如果没有结构化状态，推动机制是无效的；将推动机制应用于非结构化智能体（ReAct）并不会带来任何改进，从而隔离出有组织的认识论状态是有效承诺的必要条件。
协议遵循优于模型能力： 通过在较弱的模型（GLM-5）上强制执行严格的协议遵循，作者在最难的问题上恢复了高达 +19 分的性能。这表明，智能体组织其推理的方式，比原始模型能力对于扩展多跳推理能力更为关键。

4. 实验结果

实验在 HotpotQA、MuSiQue (2/3/4-hop) 和 2WikiMultiHopQA 上使用 Claude Sonnet 4.6 和 GLM-5 进行。

性能： SLEUTH 在所有数据集上均实现了最高的精确匹配（EM）得分。在 MuSiQue 4-hop 上，它达到了 53.1% 的 EM，而 ReAct 为 42.0%（差距为 +11.1 点）。
消融研究：
- 仅维护结构化事实（Facts-Only）即可恢复大部分增益，证实了防止上下文稀释是主要效应。
- 单独添加假设或问题带来的收益极小；必须具备完整的三元结构才能产生协同增益。
- 仅使用承诺推动机制（应用于 ReAct）几乎没有收益（+0.2 点），而它能使 SLEUTH 提升 +4.0 点。
跨模型泛化： SLEUTH 的收益随难度增加而扩展，即使是在较弱的模型上也是如此。当在 GLM-5 上强制执行协议时，它在 4-hop 问题上的表现优于运行在更强模型 Sonnet 上的非结构化 ReAct（48.9% 对比 42.0%）。
错误分析： SLEUTH 显著降低了超时率（在 4-hop 上从 17.8% 降至 11.1%）和推理错误。剩余的错误主要是由于对正确检索到的证据进行推理时的质量问题，而非检索或状态管理方面的失败。

5. 重要性与主张

论文认为，随着智能体处理的任务日益复杂，瓶颈正从推理能力转向推理组织。SLEUTH 表明，无需额外的训练、参数或轨迹搜索，仅通过构建智能体的内部状态，即可获得显著的性能提升。

核心教训是：协议遵循（protocol adherence）是活跃成分：一个被严格协议约束的较弱模型，其表现优于一个以隐式、非结构化状态运行的更强模型。作者将认识论状态管理定位为一种与扩展模型规模或测试时计算（test-time compute）相辅相成的设计维度。他们指出，虽然该框架解决了信息丢失和承诺瘫痪问题，但它并未解决针对正确检索到的证据进行推理质量的基本挑战，这仍是未来工作的瓶颈。