🤖 AI

MemForest: An Efficient Agent Memory System with Hierarchical Temporal Indexing

MemForest 是一个高效的智能体记忆系统，它通过引入并行分块提取和一种名为 MemTree 的分层时间索引，解决了长上下文大语言模型中的可扩展性和延迟问题，该索引以局部更新取代了代价高昂的全状态重写，从而在记忆基准测试中实现了卓越的性能和吞吐量。

原作者： Han Chen, Zining Zhang, Wenqi Pei, Bingsheng He, Ming Wu, Jason Zeng, Michael Heinrich, Wei Wu, Hongbao Zhang

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Han Chen, Zining Zhang, Wenqi Pei, Bingsheng He, Ming Wu, Jason Zeng, Michael Heinrich, Wei Wu, Hongbao Zhang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你正在与一位非常聪明的朋友（一个 AI 智能体）交谈，这位朋友试图记住你在数月甚至数年间对他们说过的所有内容。其目标是让这位朋友不仅记住你说了什么，还要记住你何时说的，这样他们才能回答诸如“在搬到纽约之前你住在哪里？”这样的问题，而不仅仅是“你现在住在哪里？”。

这篇论文介绍了一个名为MemForest的新系统，旨在解决一个重大问题：当前的 AI 记忆系统更新缓慢、笨拙且昂贵。

以下是 MemForest 的工作原理，通过简单的类比进行解释：

问题：“全有或全无”的混乱

当前的记忆系统就像一个人在每次你说出新内容时，试图更新单条巨大的日记条目。

瓶颈： 每当你添加一个新事实，系统必须阅读整本日记，重写整本日记以包含新事实，然后保存它。
结果： 随着你的对话历史增长，这个过程变得越来越慢。这就像每次想添加一个句子时，都要编辑一本 1000 页的书。这造成了巨大的延迟（latency），并消耗大量计算能力。
混淆： 因为这些系统通常只是总结“最新”状态，所以它们会遗忘历史。如果你从波士顿搬到了纽约，然后又搬到了旧金山，一个简单的总结可能只会说“住在旧金山”。如果你问“在旧金山之前你住在哪里？”，系统可能会猜错，或者说“波士顿”，从而遗忘了中间的步骤（纽约）。

解决方案：MemForest

MemForest 通过将记忆视为单本日记，转变为一片不断生长的森林，从而改变了游戏规则。

1. 并行拾取（提取）

MemForest 不是派一个人通读整个对话来寻找事实，而是派出一支工人团队。

类比： 想象一个图书馆，不是由一位图书管理员从头到尾阅读每一本书来寻找引文，而是将书籍切成小章节，并让十位图书管理员同时阅读这些章节。
优势： 这使得信息的初始“拾取”变得极其快速，因为所有人都在同时工作。

2. “规范事实”（标准化砖块）

一旦工人找到一条信息，他们不会只是将其扔进一堆。他们会将其转化为一种标准化的“砖块”，称为规范事实（Canonical Fact）。

类比： 系统不是得到一堆杂乱无章的 raw clay（生粘土），而是将每一条记忆都变成统一的乐高积木。这确保了无论该事实来自 5 分钟前还是 5 个月前，它都能完美地嵌入结构中。

3. MemTree（组织化的森林）

这是核心创新。MemForest 将这些乐高积木组织成MemTree。

工作原理：
- 叶子： 树的底部存放具体的、原始的事实（例如"Bob 于 2024 年 7 月搬到了迈阿密”）。
- 分支： 树的中间存放事实组的摘要（例如"Bob 在 2024 年的搬迁”）。
- 根：树的顶部存放高层摘要（例如"Bob 的居住历史”）。
更新的魔力： 当新事实到来时，MemForest 不会重写整棵树。它只需添加一个新的叶子，并直接更新其正上方的分支。
- 类比： 想象一张家谱。如果有一个新生儿出生，你不需要从头重绘整张家谱。你只需在底部添加婴儿的名字，并更新父母的分支。树的其他部分（祖父母、表亲）保持完全不变。
优势： 这使得更新速度极快，无论记忆变得多大。

4. “时间旅行”搜索

当你提出问题时，MemForest 不仅仅是查找关键词。它会导航整棵树。

类比： 如果你问"Bob 在迈阿密之前住在哪里？”，系统不会只是扫描列表。它会沿着"Bob"树向下爬，查看“迈阿密”分支，然后查看紧邻其前的分支，从而找到“戴维斯”。
优势： 它完美地保留了时间线，使 AI 能够回答关于过去的复杂问题，而不仅仅是关于现在的问题。

结果

作者在两项困难的记忆测试（LongMemEval-S 和 LoCoMo）上测试了 MemForest。

速度： MemForest 更新记忆的速度比现有最佳系统快约6 倍。
准确性： 在尝试记住长期上下文的系统中，它取得了最高的准确率（79.8%）。
效率： 它解决了“更新缓慢”的问题，同时没有丧失记住过去细节的能力。

总结

MemForest 就像是从一个笨拙、缓慢的抄写员（每次你添加一个句子就重写整本书）升级到一个现代化的、组织有序的图书馆（新书瞬间被放置在正确的位置，图书管理员可以瞬间找到你需要的确切页面，即使那是多年前写的）。它使 AI 智能体运行更快、成本更低，并且在记住你生活的完整故事方面表现得更好。

技术摘要：MemForest

1. 问题定义

本文针对现有长上下文大语言模型（LLM）智能体记忆系统的低效性问题。尽管 prior 工作已提升了检索质量和存储组织，但这些系统因两个结构性瓶颈而遭受显著的管理开销：

顺序提取与维护：现有架构通常将 LLM 直接嵌入写入关键路径。新的对话片段必须同步提取、总结，并与现有记忆进行协调，迫使执行串行化，随着交互频率增加，这造成了延迟瓶颈。
粗粒度状态管理：当前系统频繁依赖对紧凑“热”状态（如用户画像或全局摘要）的完整状态重写。即使仅收到少量新证据，系统也必须重新读取并重写整个记忆对象。这导致维护成本随累积记忆总量而非新证据的大小而扩展。

此外，本文指出长上下文记忆本质上是时间性的。用户状态会演变，事实会被修正，历史过渡（例如从城市 A 搬迁至城市 B）对于复杂推理至关重要。现有系统往往无法保留这些时间轨迹，要么在压缩过程中丢失中间状态，要么因基于向量的检索缺乏时间排序而从错误的时间点检索证据。

核心挑战被定义为写入高效的时间数据管理问题：构建一个系统，在严格保留长上下文推理所需的历史状态演变的同时，最小化串行延迟和依赖于状态大小的成本。

2. 方法论：MemForest 架构

MemForest 将智能体记忆重新构想为写入高效的时间数据管理问题，其灵感来源于数据库系统中的写入优化索引（如 LSM 树）。该架构包含三个主要组件：

A. 共享记忆基底

MemForest 将持久状态与派生访问工件解耦：

持久状态：作为事实来源，包含规范事实。这些是从原始对话中提取的稳定、时间锚定的记忆单元（规范化表面形式、来源引用、实体提及）。
派生工件：从持久状态生成的摘要、节点嵌入和根索引行。这些工件可在局部编辑后有选择地重新生成，从而避免重写整个记忆对象。

B. 并行分块提取

为打破顺序瓶颈，MemForest 将传入的会话划分为固定大小的提取分块（例如，两回合分块）。这些分块被并发处理以提取局部记忆候选项。随后，输出被规范化为稳定事实。这种方法避免了对整个会话进行单一的串行 LLM 遍历。

C. MemTree：分层时间索引

MemForest 不再使用扁平的全局摘要或无序事实存储，而是将记忆组织为MemTree——针对特定实体、场景或会话的分层、时间有序树。

结构：叶子节点存储时间局部证据（规范事实或源对话单元格）。内部节点总结连续的时间区间。根节点提供森林级召回的粗略表示。
写入路径：新证据作为时间有序的叶子节点插入。维护是局部化的：仅标记并刷新插入叶子节点的祖先路径。这将维护成本从 $O(N)$ （完整重写）降低至 $O(\log N)$ （受影响的树路径）。
检索：MemForest 采用由粗到细的检索策略。它首先根据根摘要召回相关树（森林级召回），然后从区间摘要向下浏览至具体的叶子证据。这确保了需要历史上下文的查询（例如“用户在搬到 X 之前住在哪里？”）能够导航时间结构，而不仅仅依赖语义相似度。

3. 主要贡献

本文确定了三项主要贡献：

结构性局限的识别：作者指出，当前长上下文智能体记忆系统的主要局限在于串联的 LLM 循环提取以及全状态维护重写所带来的依赖于状态大小的延迟。
MemForest 架构：一种结合并行提取与分层时间索引（MemTree）的新型系统。该系统支持局部更新、可变粒度检索，以及一个在持续写入下随时间演变的持久、可查询记忆基底。
实证验证：作者证明，这种架构转变改善了速度与准确性的权衡。MemForest 在 LongMemEval-S 上实现了优于有状态基线的性能，同时显著降低了写入路径成本。

4. 实验结果

该系统在两个基准测试上进行了评估：LongMemEval-S 和 LoCoMo。

LongMemEval-S：
- 准确性：MemForest 在有状态基线中取得了最佳的整体 pass@1 准确率，达到 79.8%（使用 Qwen3-30B 作为骨干网络）。
- 效率：其内存构建吞吐量约为 EverMemOS（最强的有状态基线）的 6 倍，且相对于 MemoryOS，其挂钟写入时间实现了 13.7 倍 的加速。
- 权衡：该系统在大幅降低将新对话转化为可查询记忆延迟的同时，保持了高准确率。
LoCoMo：
- MemForest 保持了竞争力，特别是在时间结构化的长上下文问答方面。虽然 EverMemOS 在这一更复杂的基准测试中取得了略高的整体准确率，但 MemForest 在开放式和时间锚定的查询上表现强劲，且写入路径成本大幅降低。
消融研究：
- 惰性维护：批量“脏路径”刷新相比每次插入时的急切重新生成，显著减少了冗余的 LLM 调用。
- 树结构：适中的分支因子（ $k \approx 16$ ）平衡了摘要容量与检索准确率。
- 检索模式：规划器引导的 LLM 浏览实现了最高的准确率（在子集上 pass@8 为 90.0%），而仅基于嵌入的浏览提供了一种低延迟替代方案（85.0%），且准确率损失极小。

5. 意义与主张

本文主张 MemForest 代表了持久智能体记忆设计方式的转变。通过将记忆视为写入高效的时间数据管理问题，该系统克服了写入效率与忠实时间表示之间的传统权衡。

可扩展性：该系统避免了延迟随总记忆大小扩展的“维护底线”。相反，维护成本随新证据的大小和受影响的树路径而扩展。
时间保真度：通过将记忆实体化为时间有序的树而非扁平摘要，MemForest 保留了复杂推理所需的状态转换和历史证据，而这些在基于画像的系统中往往丢失。
生命周期效率：持久状态与派生工件的分离使得记忆状态能够高效地迁移和合并，而无需重放原始会话流，这是可比基线所不具备的能力。

作者得出结论，可扩展的长上下文记忆系统必须围绕写入效率、显式时间保留以及在持续更新下的局部可维护性来设计。MemForest 证明了在不牺牲回答质量的前提下，这些目标是可实现的。