🤖 AI

Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents

该论文介绍了 MRAgent，这是一个通过在“线索-标签-内容”（Cue-Tag-Content）图上采用主动重构机制来取代静态检索，从而在推理过程中动态调整记忆访问的框架，显著提升了 LLM 智能体基准测试中的长程性能与效率。

原作者： Shuo Ji, Yibo Li, Bryan Hooi

发布于 2026-06-05

📖 1 分钟阅读☕ 轻松阅读

原作者： Shuo Ji, Yibo Li, Bryan Hooi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于论文《记忆是重构的，而非检索的》（Memory is Reconstructed, Not Retrieved）的解释，采用了通俗易懂的语言和创意类比。

核心理念：为什么 AI 会在长对话中迷失

想象一下，你正在和一个已经和你聊了几周天的朋友聊天。突然，你问：“我们七月份聊到的那部电影叫什么名字来着？就在你去看海滩之前。”

如果你的朋友使用的是标准的 AI 记忆系统，他们就像一个拿着死板规则手册的图书管理员。他们听到“电影”和“七月”，就会立即从图书馆里调出所有书脊上写有“电影”或“七月”字样的文件。他们会把一大堆纸堆在你面前。你不得不从一月份的电影、明年的电影以及与对话毫无关系的关于海滩的电影中进行筛选。这既混乱又缓慢，而且他们经常错过你真正需要的那个特定文件，因为直到看到那一堆东西之前，他们都不知道你指的是哪部电影。

这篇论文的作者提出了 MRAgent，他们说：“人类的记忆并不是这样运作的。”

人类的记忆不是一个只需查找关键词的图书馆，而是一个侦探故事。当你试图回忆某事时，你不仅仅是抓取一个文件；你是在追踪线索。你会想：“噢，那是七月份……而且我们当时在聊海滩……那部电影是一部喜剧。”你会利用这些中间线索来缩小搜索范围，直到找到那个精确的记忆。

问题所在：“被动式” vs. “主动式”方法

论文指出，目前的 AI 智能体使用的是**被动检索（Passive Retrieval）**方法。

类比： 想象一个机器人手里只有一个手电筒。当你提问时，机器人照向前几个看起来相似的东西，然后就停下了。如果答案不在那里，机器人就会放弃或给出错误的答案。它无法在搜索过程中改变主意。

论文提出了主动记忆重构（Active Memory Reconstruction）。

类比： 想象一个拿着放大镜和笔记本的侦探。
1. 线索： 你给侦探一个提示（例如“七月”）。
2. 调查： 侦探找到了一个标签为“七月”的文件。在里面，他发现了一张便条，上面写着“我们聊了一部电影”。
3. 转向： 侦探意识到：“等等，我需要知道是什么类型的电影。”于是他利用这个新信息去寻找“喜剧”标签。
4. 发现： 现在，他找到了那个关于七月份那部喜剧电影的具体文件。

AI 不仅仅是“检索”一个答案；它是在逐步重构通往答案的路径，利用每一步发现的信息来引导下一步。

MRAgent 如何工作：“线索–标签–内容”图谱

为了让这种侦探工作成为可能，作者构建了一个特殊的记忆结构，称为线索–标签–内容图谱（Cue–Tag–Content Graph）。可以将其视为一个三层地图系统：

线索 (Cues)： 这些是像“Nate”、“七月”或“电子游戏”这样的小关键词。
标签 (Tags)： 这是核心秘诀。他们没有直接将“Nate”连接到一段长长的故事，而是将“Nate”连接到一个名为“暑假”的标签。标签充当了语义桥梁。它告诉 AI：“如果你在找 Nate，请先检查‘暑假’文件夹。”
内容 (Content)： 这是实际的记忆（发生的长文本内容）。

为什么这更好？
如果 AI 试图直接从“Nate”跳到“故事”，它可能会迷失在无关的故事海洋中。但通过先停留在标签阶段，AI 可以问自己：“‘暑假’这个标签看起来与我当前的问题相关吗？”如果是，它就深入挖掘；如果不是，它就会剪掉这条路径并尝试另一个标签。这防止了 AI 在阅读无关故事上浪费时间。

“主动重构”的过程

论文将 AI 的思考过程描述为一个循环：

推理： AI 查看问题及其当前的线索。
选择路径： 它决定：“我应该先检查‘七月’标签。”
探索： 它查看该标签下的内容。
细化： 它找到了一个新线索（例如“Caroline”）。它更新了自己的计划：“好吧，现在我需要检查 Caroline 在七月份的活动。”
重复： 它不断重复这个过程，直到拥有足够的证据来回答问题。

这与旧系统不同，旧系统只是抓取固定数量的文档并寄希望于运气。MRAgent 是动态的；它会根据沿途发现的情况改变其搜索策略。

结果：更快、更聪明、更便宜

作者在两个重大挑战（LOCOMO 和 LONGMEMEVAL）上测试了该系统，在这些挑战中，AI 智能体必须记住非常长对话中的细节。

准确性： MRAgent 在回答需要跨越时间连接线索的复杂问题时，表现显著优于其他方法（提升高达 23%）。
效率： 由于它能及早剪掉错误的路径，它阅读的词数（tokens）更少，消耗的时间也更短。它不会浪费精力阅读整个图书馆，而只阅读它需要的特定书架。

一句话总结

MRAgent 不再像一个死板的图书管理员那样把一堆书堆在你的桌上，而是像一个聪明的侦探，通过追踪线索，利用中间提示在记忆地图中导航，从而确保在不被噪音干扰的情况下找到正确答案。

技术摘要：记忆是重构而非检索：面向 LLM 智能体的图记忆

1. 问题陈述

大语言模型（LLM）智能体目前在处理长交互历史的推理方面面临困难。虽然现有的增强记忆智能体利用了外部记忆系统，但它们主要依赖于静态的“先检索后推理”范式。在这种僵化的流水线中，记忆访问与推理过程是脱节的，这阻碍了智能体根据推理过程中发现的中间证据来动态调整检索策略。

当前的方法分为两类，并各具局限性：

基于相似性的检索（例如 RAG, Mem0）： 这些系统基于固定的相似度评分函数检索记忆单元。它们无法推断新的检索线索，也无法根据中间发现进行调整，往往会因检索到表面相关但语义错误的事件而引入大量噪声。
基于图的记忆检索（例如 A-Mem, Zep）： 这些系统利用结构化记忆图，但依赖于预定义的遍历算子（例如固定的 $N$ 跳邻居扩展）。虽然它们捕捉到了结构化关系，但无法根据累积的证据推断新的检索路径或剪枝无关分支，从而导致组合爆炸和噪声。

核心挑战在于将记忆访问从被动的、一次性的检索过程转变为一个主动的、多步的重构过程，该过程通过关联记忆结构，在推理步骤中逐步揭示信息。

2. 方法论：MRAgent

作者提出了 MRAgent（面向 LLM 智能体的记忆推理架构），该框架将 LLM 推理直接集成到记忆访问中。该系统运行在一个 Cue–Tag–Content（线索–标签–内容） 关联记忆图上，并采用主动重构机制。

2.1. 关联记忆结构

记忆被组织为一个异构图 $\mathcal{M} = (\mathcal{C}, \mathcal{V}, \mathcal{R})$ ，包含三个主要组件：

线索 (Cues, $\mathcal{C}$ ): 精细的关键词，如实体、属性或上下文描述符。
内容 (Content, $\mathcal{V}$ ): 特定的记忆项，分为三个层级：
- 情境层 (Episodic Layer): 植根于特定上下文和时间线的具体事件。
- 语义层 (Semantic Layer): 从事件中提炼出的稳定、抽象的知识（如偏好、事实）。
- 抽象层 (Abstraction Layer): 总结跨情境重复模式的主题节点。
标签 (Tags, $\mathcal{G}$ ): 作为语义桥梁的关联关系。三元组 $(c, g, v) \in \mathcal{R}$ 通过标签 $g$ 将线索 $c$ 连接到内容节点 $v$ 。

这种结构实现了两阶段检索过程：LLM 首先根据线索选择相关的标签，然后根据这些标签检索内容。这实现了关联推理与内容级检索的解耦，从而允许有引导性的探索并剪枝无关分支。

2.2. 主动记忆重构过程

MRAgent 将记忆访问建模为一个由重构状态 $S(t) = (Z(t), H(t))$ 定义的序列决策过程，其中 $Z(t)$ 是活跃的记忆元素集合， $H(t)$ 是累积的证据。

该过程迭代执行以下步骤：

LLM 推理与动作选择： 基于当前查询 $x$ $x$ 、累积上下文 $H(t)$ $H (t)$ 和活跃集合 $Z(t)$ $Z (t)$ ，LLM 选择一组遍历动作 $\mathcal{A}(t)$ $A (t)$ 。这些动作包括：
- 前向遍历 (Forward Traversal): 从线索扩展到标签 ( $\Pi_{c \to g}$ ) 或从 (线索, 标签) 扩展到内容 ( $\Pi_{(c,g) \to v}$ )。
- 反向遍历 (Reverse Traversal): 从检索到的内容激活新的线索和标签 ( $\Pi_{v \to (c,g)}$ )。
受控记忆遍历： 系统执行选定的动作以生成候选节点。不同于穷举式的图扩展，此步骤由 LLM 的选择引导，从而减少了噪声。
LLM 路由与状态更新： LLM 评估候选节点，选择最相关的内容并剪枝无关分支。活跃集合 $Z(t+1)$ 和累积上下文 $H(t+1)$ 随之更新。
终止： 过程持续进行，直到累积的证据足以回答查询，或达到最大步数限制。

2.3. 记忆填充

记忆图通过自动化提炼流水线进行填充。LLM 处理输入的对话流以：

将文本分割为情境单元。
为每个情境提取精细的线索并生成关联标签。
提炼稳定的语义事实和抽象主题节点。
这创建了一个支持事件级和概念级推理的多粒度结构。

3. 核心贡献

主动记忆重构： 一种将记忆访问集成到推理循环中的新范式，允许智能体根据中间证据动态调整搜索策略。
Cue–Tag–Content 记忆图： 一种新型架构，其中关联标签介导检索，使 LLM 能够在访问详细内容之前识别有前景的路径并剪枝无关分支。
理论表达能力： 一个证明表明，主动检索策略的表达能力严格大于被动检索策略。具体而言，对于任何检索预算 $T \ge 2$ ，主动检索器的假设类严格包含被动检索器 ( $\mathcal{H}_{passive}^{LM}(T) \subsetneq \mathcal{H}_{active}^{LM}(T)$ )。
实证验证： 大量实验表明，在显著提升性能的同时，降低了计算成本。

4. 实验结果

作者在 LOCOMO（长对话记忆）和 LONGMEMEVAL（跨会话长期记忆）基准测试上对 MRAgent 进行了评估。

性能： MRAgent 在所有基线模型（包括 RAG, A-Mem, MemoryOS, LangMem, 和 Mem0）中表现最优。
- 在使用 Gemini 作为底座的 LOCOMO 测试中，MRAgent 取得了 84.21 的整体 LLM-Judge 分数，比表现最好的基线模型（Mem0 为 68.31）相对提升了 23.3%。
- 在 LONGMEMEVAL 上，MRAgent 比最强的基线模型相对提升了 32%。
效率： MRAgent 显著降低了 Token 消耗和运行时间。在 LONGMEMEVAL 上，每个样本消耗 118k tokens，而 A-Mem 为 632k，LangMem 为 3,268k；同时保持了 586 秒 的运行时间（相比之下，MemoryOS 为 3,135 秒）。
消融实验：
- 推理： 多步推理变体始终优于仅含结构的变体，证实了迭代证据积累的必要性。
- 标签： 加入关联标签（CTC 结构）比直接索引（CE）或无推理的媒介情境检索（CTE）提高了检索可靠性。
- 记忆层： 移除语义记忆层会导致性能下降，凸显了情境记忆与语义记忆的互补作用。
多轮分析： 证据召回率随推理轮次的增加而逐步提高，多跳查询从迭代探索中获益最多。智能体能有效判断何时停止搜索，从而最大限度地减少冗余探索。

5. 意义与局限性

意义：
本文认为，记忆检索应该被建模为一个主动的、重构的过程，而非被动的读取。通过将复杂的关联依赖建模转移到检索阶段，MRAgent 能够通过针对性的、基于状态的探索，以更少的计算资源解决复杂的、多跳的查询。这种方法与认知神经科学关于记忆的观点相一致，即线索会触发印迹（engrams）的重新激活，从而逐步重构连贯的体验。

局限性：
作者承认其当前实现中存在特定的局限性：

延迟： 由于关系推理被推迟到了检索阶段，重构的成本会随着探索深度的增加而增长。需要多次遍历步骤的查询会产生更高的延迟。
静态构建： 当前的记忆图随着交互的积累呈单调增长，缺乏随时间更新或整合记忆的机制，这在长期部署中可能会导致存储开销。

作者建议，未来的工作应侧重于自适应构建、轻量化记忆维护以及更鲁棒的遍历策略，以将主动重构扩展到更广泛的长程场景中。