🤖 AI

Beyond Semantic Organization: Memory as Execution State Management for Long-Horizon Agents

该论文介绍了 MAGE，一种新颖的记忆架构，它通过使用层次化状态树来取代基于语义相似度的检索以管理执行状态，从而通过隔离错误、限制上下文增长并显著提高任务成功率以及降低 Token 消耗，来提升长程智能体的性能。

原作者： Yaoqi Chen, Haibin Lai, Yuru Feng, Chuyu Han, Qianxi Zhang, Baotong Lu, Menghao Li, Xinjiang Wang, Zhirui Wang, Shusen Xu, Zengzhong Li, Zewen Jin, Hao Wu, Cheng Li, Qi Chen

发布于 2026-06-05

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yaoqi Chen, Haibin Lai, Yuru Feng, Chuyu Han, Qianxi Zhang, Baotong Lu, Menghao Li, Xinjiang Wang, Zhirui Wang, Shusen Xu, Zengzhong Li, Zewen Jin, Hao Wu, Cheng Li, Qi Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试解决一个巨大的、包含 100 个步骤的谜题，而且你每走一步都会改变下一步的规则。如果你在早期犯了一个错误，可能会毁掉整个谜题的后续过程。这就是“长程智能体”（Long-horizon agents，即 AI 助手）在执行复杂任务（如规划旅行或购买一组兼容的商品）时所面临的挑战。

这篇论文指出，目前的 AI 记忆系统就像是糟糕的图书管理员，而作者提出了一种名为 MAGE 的新系统，它更像是一个聪明的项目经理。

以下是使用简单类比进行的详细拆解：

问题所在：“关键词图书管理员”

大多数目前的 AI 记忆系统运作起来就像一个只根据关键词来记忆事物的图书管理员。

运作方式： 如果你问：“我买了什么？”图书管理员会寻找“买”、“红色”或“鞋子”之类的词汇。
缺陷： 这就像试图通过抓取书中恰好包含“红色”一词的随机页面来重建一个故事。你可能会从第一章抓到一个关于红车的页面，从第五十章抓到一个关于红衬衫的页面，但你丢失了事件的序列。
结果： AI 会感到困惑。它可能会把正确的路径与错误的路径混淆，或者忘记某个特定的决策是依赖于前一步骤的。这就像是在开车时，你只盯着散落的路标看，而不是观察眼前的实际道路。

解决方案：MAGE（“项目经理”）

作者提出了 MAGE（基于智能体引导探索的记忆，Memory as Agent-Guided Exploration）。MAGE 不再是一个图书馆，而是将记忆视为一棵不断生长的家族树或一本**“选择你的冒险故事”的书**。

MAGE 不仅仅存储事实，它还存储旅程的状态。它将 AI 的历史记录组织成一个两层结构的树状图：

底层（原始足迹）： 它记录了 AI 走的每一步，就像一份详细的日记，记录着“我走到了这里，然后我看到了这个”。
顶层（摘要）： 当 AI 完成一个小目标（子目标）时，MAGE 会将这些步骤总结成一条简洁、整洁的笔记。这可以防止“日记”变得过长且混乱。

MAGE 如何运作：四个动作

MAGE 通过四个特定的动作来管理这棵树，类似于人类管理复杂项目的方式：

生长（继续行走）： 当 AI 采取新步骤时，MAGE 会将它添加到树的底部。如果 AI 尝试了一条已经探索过的路径，它只会移动到现有的分支，而不是开始一个新的分支。
压缩（总结）： 当完成一个微型目标时，MAGE 会将所有杂乱的步骤转化为一个清晰的摘要。这可以节省空间（就像压缩视频文件一样），同时不会丢失重要的情节点。
维护（质量检查）： 在 AI 接受一个摘要作为“事实”之前，MAGE 会进行双重检查。我们真的完成目标了吗？摘要准确吗？如果不是，它会立即标记错误。
修正（“撤销”按钮）： 这是它的超能力。如果 AI 犯了错，MAGE 不会仅仅删除整个记忆。它会进行分支处理。它会在错误发生的地方切断树干，保留错误之前的正确部分，并开启一个新分支重新尝试。这隔离了错误，使其不会污染整个旅程。

为什么这很重要：结果

作者在 MemoryArena 上测试了该系统，这是一个模拟复杂任务（如购买必须相互匹配的商品或为一群人规划旅行）的基准测试。

更高的成功率： MAGE 解决任务的成功率比其他系统高出 7.8% 到 20.4%。它不会在自己的历史记录中迷失方向。
运行成本更低： 由于 MAGE 会对旧步骤进行总结，并且只保留与其相关的“当前路径”在活跃记忆中，因此与那些试图一次性记住所有内容的系统相比，它使用的计算机 Token（AI 思考所需的“燃料”）减少了 55%。

核心要点

论文声称，对于要处理长期复杂任务的 AI 来说，它不应该仅仅是一个搜索过去事实的“搜索引擎”。它需要成为一个理解自身行为流向的执行管理者。通过将记忆组织为状态树而非相似事实的堆砌，MAGE 使 AI 能够保持在正确轨道上，及早发现错误，并通过不在无关历史上浪费能量来节省成本。

技术摘要：超越语义组织：将记忆作为长程智能体的执行状态管理

1. 问题陈述

本文探讨了为处理具有决策依赖性的**长程任务（long-horizon tasks）**的 LLM 智能体管理记忆所面临的挑战。在这些场景中（例如多步网页购物或复杂规划），每一个动作都会重塑未来的约束条件，且中间步骤的错误可能会产生连锁反应，导致后续进展失效。

作者认为，现有的记忆系统（包括 RAG 和各种智能体记忆架构）存在根本性的设计失配：

语义与状态依赖的矛盾： 当前系统基于语义相似度（内容与当前查询的相关性）而非执行状态依赖（决策的因果链）来组织历史记录。
状态碎片化： 通过检索语义相似但结构不连贯的条目，这些系统会使决策轨迹发生碎片化。由于缺乏将关键上下文绑定的机制，这些系统往往会丢弃关键的上下文连接，从而无法重建连贯的执行状态。
错误污染： 基于相似度的检索会将来自不同探索尝试的有效和错误轨迹混合在一起。由于缺乏显式的路径结构，错误无法被隔离，从而导致错误的传播和累积。
低效性： 矛盾的是，许多记忆系统消耗的 Token 数量甚至超过了直接保留完整历史记录（长上下文方法），但在任务成功率方面表现却更差。

2. 方法论：MAGE

作者提出了 MAGE（Memory as Agent-Guided Exploration，记忆作为智能体引导的探索），该框架将记忆从被动的语义存档重新定义为一种主动的执行状态管理器。MAGE 的灵感来源于人类执行复杂任务时的认知机制，特别是层次化分块（hierarchical chunking）、错误监控和选择性纠错。

核心架构：层次化执行状态树

MAGE 将智能体的历史记录组织为一个两层层次化状态树：

底层（原始追踪/Raw Trace）： 按执行顺序记录逐步的动作-观察对 ( $a_t, o_t$ )。这保留了细粒度的状态依赖。
顶层（压缩子目标/Compressed Subgoals）： 存储在子目标或决策边界处生成的摘要节点。这些节点将连续的底层片段压缩为紧凑的状态。

智能体的当前执行状态严格由该树的**活跃根节点到当前路径（active root-to-current path）**推导而来，而非通过检索组装不连贯的条目。该路径结合了：

压缩状态 ( $C$ )： 已完成子目标的摘要。
原始状态 ( $R$ )： 最近的、未经压缩的动作-观察追踪。
执行提示 ( $H$ )： 来自兄弟分支（失败的替代方案）的信息和诊断说明，用于指导未来的决策。

四个耦合操作

MAGE 通过四个操作的闭环循环来维护该树：

生长 (Grow)： 向底层追加新的动作-观察对。如果存在具有相同内容的节点（来自先前的探索），则指针指向该节点；否则创建一个新节点。这扩展了原始追踪并更新执行提示。
压缩 (Compress)： 当子目标完成或原始追踪超过阈值时触发。它用顶层的摘要节点替换完成的底层片段。这在限制上下文增长的同时，保留了未来恢复所需的决策边界。
维护 (Maintain)： 在压缩后立即进行的验证步骤。LLM 会根据任务指令验证摘要及其底层的追踪。如果检测到错误或信息缺失，它会记录诊断反馈并发出失败信号。
修正 (Revise)： 由验证失败或主动错误检测触发。它将活跃指针 ( $p_b, p_t$ ) 恢复到目标边界（错误发生前的状态），丢弃错误的片段，并作为新的分支（兄弟路径）恢复执行。这实现了错误的隔离，使其不影响活跃路径，同时保留了有效的进度。

3. 核心贡献

范式转变： 提出了 MAGE，将智能体记忆从基于相似度的检索转向通过两层层次化树进行的紧凑执行状态管理。
闭环状态管理： 设计了四个耦合操作（Grow, Compress, Maintain, Revise），将记忆视为一个智能体可操作的对象。这一循环将错误隔离到独立的的分支中，确保活跃的执行状态不受错误追踪的影响。
实证验证： 在 MemoryArena 基准测试上证明了 MAGE 相比于长上下文基线以及现有的记忆/RAG 系统，能够以显著更低的 Token 消耗实现更高的任务成功率。

4. 实验结果

实验在 MemoryArena 上进行，该基准测试包含四个领域中具有相互依赖性的长程任务：捆绑网页购物、团体旅行规划、渐进式网页搜索和形式化推理。

任务成功率 (SR)： MAGE 比基线模型（包括长上下文、HippoRAG2、MemoRAG、Mem0 等）平均提升了 7.8–20.4 个百分点。
Token 效率： 与长上下文方法相比，MAGE 平均减少了 55.1% 的 Token 消耗。不同于其他通常会在提取和查询重写方面产生额外开销的记忆系统，MAGE 的确定性树维护和边界感知压缩将辅助性的 LLM 调用降至最低。
消融实验： 移除三个核心机制（Compress, Maintain 或 Revise）中的任何一个都会导致性能显著下降，证实了完整的闭环循环对于可靠的状态管理是必要的。
泛化能力： 结果在不同的后端模型（Qwen3.6-27B, Qwen3.6-35B, 和 Gemma4-31B）上保持一致，表明该方法并不依赖于特定的模型架构。

5. 重要性与主张

论文声称，构建可靠且高效的长程智能体的关键在于保留执行状态结构，而非优化语义检索。

状态完整性： 通过从层次化树中的单一活跃路径构建当前状态，MAGE 防止了类比于相似度系统的碎片化问题。
错误隔离： 树状结构允许显式的分支和修正，使智能体能够将有缺陷的片段隔离起来，而不必丢弃有效的历史进度。
效率： 边界感知的压缩策略在不破坏状态依赖的前提下限制了上下文增长，实现了高任务成功率与低 Token 成本之间的“甜点区”（即性能-效率图中的“左上角”区域）。

作者总结道，将记忆视为一个主动的执行状态管理器，是构建能够处理复杂、现实世界任务（其中决策相互依赖且错误代价高昂）的鲁棒 LLM 智能体的基本原则。