💬 NLP

Less Context, More Accuracy: A Bi-Temporal Memory Engine for LLM Agents Where a Lean Retrieved Context Beats the Full History

本文介绍了 Engram，这是一个开源的双时态（bi-temporal）记忆引擎，它通过将无损写入路径与一种混合读取策略相结合，从双时态知识图中组装出紧凑且带有溯源标签的上下文，从而在准确率和效率上均超越了全上下文基准模型，在 LongMemEval_S 上取得了 83.6% 的评分，同时使用的 Token 数量显著减少。

原作者： Liuyin Wang

发布于 2026-06-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Liuyin Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于论文《更少上下文，更高准确度：面向 LLM 智能体的双时态记忆引擎》的通俗易懂的解释。

核心问题：“过重的背包”

想象你正在试图破解一个谜团，但你的侦探搭档（AI）背着一个每当你说话就会变重的背包。

旧方法： 为了记住三天前的一个线索，你把整个背包都倒在了桌子上。里面装满了所有东西：周二的天气预报、上周去过的餐厅菜单，以及你真正需要的那个线索。
结果： 侦探被这些垃圾（干扰项）搞得晕头转向。他们花了太多时间在翻找垃圾中，结果错过了线索，或者被噪音搞糊涂了。此外，背着这个沉重的背包既慢又贵。

解决方案：Engram（“聪明的图书管理员”）

作者构建了一个名为 Engram 的新系统。Engram 不会把整个背包都倒出来，而是像一位超级聪明的图书管理员，维护着一个完美且有条理的档案库。当你提问时，图书管理员不会把整座图书馆都搬给你，而是只带给你你需要的特定页面，并附上一张清晰的便签，注明这些页面是何时编写的。

它是如何工作的，分为三个简单的部分：

1. 两步写作过程（系统-1 与系统-2）

Engram 以两种不同的方式记录记忆，就像人类的大脑一样：

快速写入（系统-1）： 当你聊天时，Engram 会立即保存一份原始的、无损的对话副本（就像监控摄像头的录像）。这在毫秒内即可完成，不会拖慢你的速度。
慢速思考（系统-2）： 稍后，当系统处于闲置状态时，它会阅读这些录像，并将它们转化为原子事实（简单的陈述，例如“X 在 Y 工作”）。它会构建一个这些事实的时间线。
- 神奇的技巧： 如果一个事实发生了变化（例如，“X 在 Y 工作”变成了“X 在 Z 工作”），Engram 不会删除旧的事实。它会将旧事实标记为“已过期”，并将新事实与旧事实链接起来。这创建了一个“更替链”（supersession chain）。你总是可以回溯查看：“哦，在下午 2:00，我们认为 X 在 Y 工作，但在下午 3:00，我们将其更新为 Z。”

2. “截至某时”过滤器（时间旅行）

因为 Engram 保留了事实何时成立的时间线，所以它可以根据你提问时的时间点来回答问题。

类比： 如果你问“X 在哪里工作？”，Engram 知道要检查时间线。如果你是在询问关于上个月的情况，它会显示旧的工作；如果你是在询问关于今天的情况，它会显示新的工作。它不会因为矛盾而感到困惑，因为它清楚地知道每个版本在何时是有效的。

3. 混合读取（两全其美）

当你提出问题时，Engram 不仅仅是靠猜测。它使用一种“混合”搜索方式：

它寻找事实（干净、有条理的笔记）。
它同时也会抓取原始片段（原始对话片段），以确保不会丢失微小的细节。
它将两者混合在一起，过滤掉垃圾信息，并递给侦探一叠精简且完美的资料（约 9,600 字），而不是整个图书馆（79,000 字）。

结果：少即是多

作者在名为 LongMemEvalS 的 500 道题目的考试中测试了该系统。

全上下文团队： 尝试通过每次阅读整个历史记录来回答问题。他们的正确率为 73.2%。
Engram 团队： 使用那叠经过筛选的精简资料进行回答。他们的正确率为 83.6%。

令人惊讶的是： 通过丢弃 87% 的文本（即干扰项），Engram 实际上变得更准确了。完整历史记录中的噪音实际上损害了 AI 的表现。

为什么这很重要（根据论文所述）

准确度高于成本： 通常，人们试图通过减少内存使用来节省成本。Engram 证明了，使用更少的内存实际上可以让 AI 更聪明，因为它阻止了 AI 被分心。
没有“虚假数字”： 作者对诚实性要求非常严格。他们构建了一个公开、可复现的测试工具（“测试框架”），以便任何人都可以运行测试并看到相同的结果。他们修复了其他研究人员可能无意中获得的“不公平优势”（例如，让 AI 在完整的历史记录中直接看到答案）。
隐私与控制： 由于系统保留了清晰的“什么被相信以及何时被相信”的痕迹，因此如果用户要求被遗忘，删除特定记忆也会变得更容易。它也可以在本地运行，这意味着你的数据不必离开你的电脑。

总结

Engram 表明，对于 AI 智能体而言，记忆的质量比数量更重要。与其强迫 AI 阅读其完整的人生故事来回答一个简单的问题，不如使用一个具备时间感知能力、能检索相关且经过验证的事实的智能系统，这样可以更快、更便宜、更准确地解决问题。

技术摘要：Engram —— 一种面向 LLM Agent 的双时态记忆引擎

1. 问题陈述

长期记忆仍然是 LLM Agent 面临的一个关键差距，因为 Agent 本质上在不同会话之间是无状态的。目前普遍采用的权宜之计——将整个对话历史拼接进提示词（Prompt）——存在三个复合型问题：

成本与延迟： 随着历史长度的增加，Token 成本和推理延迟呈线性增长。
准确度下降： 随着无关回合（“干扰项”）的累积，模型难以定位相关证据，即所谓的“迷失在中部”（lost in the middle）现象。
复现性危机： 现有的记忆基准测试受限于不一致的评估框架（不同的摄取方法、回答提示词和裁判模型），导致性能报告出现矛盾，即同一个系统在不同来源下的得分可能大相径庭。

目前的记忆系统通常在优化成本或速度方面发力，但未能超越全上下文基准（full-context baseline）的准确度。本文认为，一个经过精确检索、精简的上下文切片不仅应该更便宜，而且应该比充满噪声的全窗口更准确。

2. 方法论：Engram 系统

Engram 是一个开源的双过程记忆引擎，基于**双时态数据模型（bi-temporal data model）**构建。它将记忆操作分为快速写入路径和异步整合路径，并为混合读取路径提供支持。

2.1 双时态数据模型

该系统将时间视为一等公民，使用两个轴向：

事件时间（有效时间/Event Time）： 事实在现实世界中成立的时间。
事务时间（Transaction Time）： 系统获知或撤销该事实的时间。
数据结构：
- 片段（Episodes）： 带有两个时间轴戳记的原始、无损的回合/事件。
- 事实（Facts）： 原子化的（主语、谓词、宾语）断言，包含表面文本、嵌入向量、显著性评分和溯源信息。事实携带 valid_at/invalid_at（有效/失效时间）以及 created_at/expired_at（创建/过期时间）时间戳。
- 图谱（Graph）： 具有双时态边关系的实体与关系。
不变性： 事实永不硬删除。被矛盾的事实会被标记为无效（invalid_at）并由新的事实取代，从而保留完整的审计追踪和溯源信息。

2.2 双过程架构

系统-1（热写入路径/Hot Write Path）：
- 操作： 追加无损片段，解决跨会话的身份识别，计算轻量级嵌入，并将其排入整合队列。
- 约束： 在关键路径上不调用 LLM；延迟控制在 50ms 以内。
系统-2（异步整合/Async Consolidation）：
- 操作： 提取原子化事实（基于规则或基于 LLM），构建双时态知识图谱，检测冲突，并使被取代的事实失效。
- 冲突解决： 使用“低成本优先，必要时升级”的策略。对于精确的槽位匹配或明显的时序矛盾，无需调用 LLM 即可解决。模糊情况则升级至 LLM 仲裁器。
- 显著性（Salience）： 应用衰减/强化评分，使未被强化的记忆逐渐淡化。
混合读取路径（Hybrid Read Path）：
- 检索： 分解查询并通过四个并行通道进行检索：稠密语义（BGE 嵌入）、词法（BM25）、图遍历（n-hop）以及近期性/显著性。
- 融合： 使用倒数排名融合（RRF）结合可选的交叉编码器重排序来组合排名列表。
- 过滤： 应用双时态“截至某点”（as-of）过滤器（检索在特定时间点有效的事实）和弃权门控（若证据缺失则拒绝回答）。
- 上下文组装： 构建一个紧凑的上下文，包含冲突解决后的事实、相关的原始会话块和会话摘要。

2.3 可复现的评估框架

作者贡献了一个中立的、内置于仓库中的评估框架，旨在消除测量完整性方面的陷阱：

官方裁判： 使用 LongMemEvalS 中官方的类别特定裁判提示词，避免使用自创的裁判模型。
全上下文基准： 在每次比较中都包含全历史基准。
完整性修复： 修正了诸如全上下文截断（确保基准能看到整个“干草堆”）以及“事实被前置到全历史中”（确保测试衡量的是检索能力而非仅仅是记忆增强）等问题。
确定性： 使用零依赖的离线回退进行单元测试；为每个指标发布了原始的逐题日志。

3. 核心贡献

双过程引擎： 一种具有非破坏性冲突解决机制（失效而非覆盖）的记忆系统，能够解决大部分冲突且无需调用 LLM。
经验性的准确度提升： 证明了精简的检索上下文（~~9.6k tokens）在准确度上优于全上下文基准（~~79k tokens）。
中立的框架： 提供了一个包含官方裁判、全上下文基准和已发布原始日志的可复现评估流水线，以应对该领域的复现性危机。
混合读取路径洞察： 发现“仅事实”的检索路径会丢失召回率；将冲突解决后的事实与原始会话块相结合，对于恢复细节是必要的。

4. 结果

在 LongMemEvalS 基准测试（涵盖 7 个类别的 500 个问题）上使用官方裁判进行了评估：

整体准确度： Engram 的精简配置实现了 83.6% 的准确度，而全上下文基准为 73.2%（提升了 10.4 个百分点）。
效率： 精简配置使用的 Token 量约为原先的 1/8（9.6k vs 79k），同时保持了更高的准确度。
统计显著性： 该增益具有决定性的统计意义（McNemar 精确检验， $p < 10^{-6}$ ）。Engram 正确回答了基准模型错过的 81 个问题，而基准模型领先的情况仅有 29 个。
错误率： 两个系统在 500 个问题中均未出现 0 错误（即没有系统性崩溃）。
分类别表现：
- 知识更新（Knowledge-Update）： 87.5%（受益于失效/取代机制）。
- 时序推理（Temporal Reasoning）： 81.1%（受益于“截至某点”过滤）。
- 弃权（Abstention）： 86.7%（系统在记忆缺乏答案时能正确拒绝回答）。
- 多会话聚合与偏好（Multi-session Aggregation & Preference）： 分别为 79.3% 和 73.3%，这些领域被识别为仍有提升空间。
消融观察： 一个将事实前置到全历史中的变体（engram_full）得分为 83.4%，与精简版本相似。这表明结构化事实驱动了准确度的提升，而全历史仅增加了 Token 量却并未提高正确性。

5. 意义与主张

论文提出了两个主要主张：

质量提升优于成本优化： Engram 证明了长期记忆可以是一种质量提升机制，而不不仅仅是成本节省手段。通过过滤干扰项，一个精简的检索切片比全上下文窗口更准确。
测量完整性： 论文指出，由于评估框架不一致，该领域的基准数据经常受到质疑。通过提供一个带有官方裁判和全上下文基准的中立、可复现框架，作者认为这个“可靠的计分板”本身与系统本身一样具有价值。

作者对局限性保持谦逊，指出结果基于单一基准和单一回答者骨干网络。他们将多会话聚合和偏好处理识别为开放性挑战，并呼吁未来的研究涉及多个骨干网络和受控的组件消融。该系统设计为可自托管并具备离线回退功能，从而在无需外部 API 依赖的情况下确保数据隐私和可复现性。