💬 NLP

ElasticMem: Latent Memory as a Learnable Resource for LLM Agents

ElasticMem 是一个新颖的框架，它通过将记忆视为一种可学习、可弹性的潜变量资源，利用自适应检索和通过组相对策略优化的可变预算分配来增强大语言模型（LLM）智能体，从而在显著提高推理准确性和任务成功率的同时，与现有的固定记忆方法相比降低了 Token 成本。

原作者： Tao Feng, Chongrui Ye, Tianyang Luo, Jingjun Xu, Xueqiang Xu, Haozhen Zhang, Ge Liu, Jiaxuan You

发布于 2026-06-01

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Tao Feng, Chongrui Ye, Tianyang Luo, Jingjun Xu, Xueqiang Xu, Haozhen Zhang, Ge Liu, Jiaxuan You

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名正在试图破解复杂案件的侦探。你有一个装满了成千上万份旧案卷、证人陈述和线索的大型文件柜（这就是你的长期记忆）。

过去，当有新问题出现时，侦探会找出一些看起来与问题相似的一叠卷宗，然后把整叠卷宗都堆到桌子上阅读。

问题所在： 这种方式非常混乱。桌子上堆满了无关紧要的纸张（噪音），侦探不得不阅读大量废话，才能找到那一个关键的线索。这既缓慢又昂贵（在占用桌面空间方面），而且经常让人感到困惑。

这篇论文介绍了一种名为 ElasticMem 的新系统。把它想象成一个超级智能、充满魔力的助手，为你管理这个文件柜。

ElasticMem 是如何运作的（魔力助手）

ElasticMem 不仅仅是根据单词看起来有多相似来抓取文件，它更像是一个聪明的图书管理员，理解你实际想要做什么。

1. “弹性”预算（灵活的桌面空间）
想象一下，你的桌面空间是有限的。

旧方法： 每次你拉出一个文件，无论它是一本十页的小说还是一张小贴纸，占用的空间都是一样的。
ElasticMem 的方式： 助手会观察文件并做出决定：“这份文件是关键证据！让我们给它一大块桌面空间，以便你进行深入研究。”但对于一份虽然有点相似但毫无用处的资料？“这只是背景噪音。”助手会把它缩减成一张极小的贴纸，或者干脆丢弃。
结果： 你只把你的“桌面空间”（计算能力）花在那些真正能帮你解决问题的记忆上。

2. 读取你的心智（自适应检索）
通常，图书管理员只会匹配关键词。如果你问关于“苹果”的问题，他们会给你关于“苹果”的文件。

ElasticMem 的方式： 助手会在你思考问题时，观察你的大脑（AI 的内部思维过程）。它会意识到：“噢，你不仅仅是在问苹果；你是想烤派，所以你需要的是食谱，而不是苹果种植的历史。”它会调取能帮你“烤派”的文件，即使“苹果”这个词并不是最明显的匹配项。

3. “软性”记忆（隐形笔记）
ElasticMem 并没有把文件的全文粘贴到你的桌面上，而是将重要的部分转化成了“隐形笔记”（潜在 Token）。这些笔记直接向你的大脑低语关键信息，而不会弄乱你的视野。这节省了大量的空间。

训练：从成功中学习

这个助手是如何学会这些的呢？

它不仅仅是死记硬背规则。它在玩一个试图解开谜题的游戏。
如果它抓取了正确的文件并分配了合适的空间，它会获得奖励（高分）。
如果它抓取了错误的文件或在垃圾信息上浪费了空间，它会得到低分。
随着时间的推移，它学会了如何通过拉伸或收缩其记忆使用量来获得最佳结果。

论文的研究发现

研究人员在两类挑战上测试了这个新系统：

记忆测验： 提出需要记住长对话细节的问题（例如，记得 500 条消息前用户的喜好颜色）。
机器人任务： 给一个虚拟机器人指令，让它在房子里做事（例如，“把苹果放在柜台上”）。

结果：

更聪明： 该系统的正确率显著高于旧方法。
更快/更便宜： 它使用了更少的“Token”（单词/数据单位）来完成工作。它没有在阅读无关文件上浪费时间。
更擅长优先级排序： 它学会了忽略那些看起来相似但毫无用处的档案，并专注于那些真正包含解决方案的档案。

核心结论

ElasticMem 改变了 AI 使用记忆的方式。它不再将记忆视为一个僵化的、固定大小的盒子（其中所有内容都得到同等的关注），而是将记忆视为弹性的。它会拉伸，给重要的大型记忆充分呼吸的空间；同时收缩或忽略那些微小的、无用的记忆。这使得 AI 变得更聪明、更快，并且在处理复杂问题时，不会被自己的过去所淹没。

技术摘要：ElasticMem

问题陈述

长期记忆对于使大语言模型（LLM）智能体在长程交互中实现连贯推理、个性化响应以及复用过往经验至关重要。然而，现有的记忆增强系统将记忆视为一种固定资源，这导致了记忆容量的静态分配与查询依赖的效用之间存在不匹配。

目前的方法主要分为两类，两者都存在显著局限性：

文本空间方法（Text-Space Methods）： 这些方法检索自然语言记录并将其拼接进上下文窗口。虽然具有可解释性，但它们会产生巨大的 Token 开销，并且对噪声或冗余证据非常敏感，因为无关的记忆无论其效用如何，都会消耗上下文 Token。
潜空间方法（Latent-Space Methods）： 这些方法将记忆压缩为连续向量或软 Token，以降低文本成本。然而，它们通常依赖于僵化的检索机制（例如固定的余弦相似度）和固定容量的接口，其中每个检索到的块（chunk）都会获得统一的潜空间预算。这无法区分哪些块包含关键证据，而哪些块仅仅是词法相似但毫无帮助。

核心挑战在于，记忆的有用程度高度依赖于查询（query）和任务，但检索和容量分配通常是由固定的设计选择而非从任务结果中学习来决定的。

方法论：ElasticMem

作者提出了 ElasticMem，这是一个将记忆视为可学习、弹性潜空间资源的框架。ElasticMem 不采用固定的检索和统一的分配，而是学习根据推理器的内部状态进行自适应检索，并根据下游效用为记忆分配可变的潜空间预算。

该框架由四个关键阶段组成：

1. 潜空间记忆库构建

离线构建一个潜空间记忆库，并在训练期间保持冻结。每个记忆块 $m_i$ 由冻结的基础 LLM 编码器进行编码，生成：

一个检索键 ( $k_i$ )：该块的最终隐藏状态。
一个内容缓存 ( $C_i$ )：该块的最后 $N_c$ 个隐藏状态。
这使得在推理时无需重新对全文进行编码即可实现高效检索。

2. 查询驱动的检索

与使用独立且固定的检索器的标准系统不同，ElasticMem 从推理器自身的隐藏状态中导出检索查询。

LoRA 适配的推理器在给定查询 $q$ 的情况下采样一个检索控制 Token $a$ 。
推理器处理 $(q, a)$ 以生成查询状态 $h_q$ 。
基于 $h_q$ 与缓存的检索键 $k_i$ 之间的余弦相似度进行记忆检索。这使得检索能够适应模型对查询的内部理解，而非仅仅依赖于表层语义匹配。

3. 弹性潜空间预算分配

在检索出前 $Z$ 个候选块后，一个轻量级的Transformer 预算策略 ( $\pi_\phi$ ) 为每个块分配可变的潜 Token 数量 ( $b_j$ )。

预算 $b_j$ 从离散分布 $\{0, 1, \dots, B_{max}\}$ 中采样。
当 $b_j=0$ 时，模型可以抑制那些虽然相似但无用的检索块。
该策略包含查询状态、记忆键、检索得分和学习到的秩嵌入（rank embeddings）等特征，利用自注意力机制在分配容量前对记忆进行相互比较。
有用的块获得更大的预算，而冗余或误导性的块则被压缩或抑制。

4. 潜空间记忆注入与优化

从内容缓存中选定的隐藏状态通过学习到的潜空间投影器 ( $P_\psi$ ) 投影为软记忆 Token，并注入到推理器的输入序列中。

训练： 整个过程（检索控制、预算分配、投影和生成）通过**组相对策略优化（GRPO）**进行联合优化。
奖励信号（如准确率、任务成功率）不仅监督最终答案，还监督检索决策和预算分配。这使得模型能够学习基于实际任务结果来决定检索哪些记忆以及每个记忆应分配多少表示容量。

核心贡献

弹性潜空间记忆（Elastic Latent Memory）： 一种全新的范式，将记忆从固定的文本或潜空间接口转变为一种可学习、弹性的资源，其容量根据效用进行动态分配。
推理器状态自适应检索（Reasoner-State Adaptive Retrieval）： 一种以推理器内部状态和采样控制 Token 为条件的检索机制，超越了僵化的语义匹配。
效用感知预算策略（Utility-Aware Budget Policy）： 一种学习型策略，为检索到的块分配可变的潜空间预算，使模型能够优先处理有用的证据并抑制噪声。
端到端优化（End-to-End Optimization）： 一个通过下游任务奖励联合优化检索、分配和生成的训练框架，使记忆管理与任务效用保持一致。

实验结果

ElasticMem 在 MemorySuite 上进行了评估，涵盖了记忆密集型问答（PersonaMem, LoCoMo, LongMemEval）和具身智能体决策（ALFWorld），使用了 Qwen2.5-3B 和 Qwen2.5-7B 作为骨干网络。

性能提升：
- 问答任务： 与最强的基准模型相比，ElasticMem 将加权平均准确率提升了 26.2% (Qwen2.5-3B) 和 24.6% (Qwen2.5-7B)。
- 智能体任务 (ALFWorld)： ElasticMem 将加权平均成功率提升了 66.3% (Qwen2.5-3B) 和 27.2% (Qwen2.5-7B)。
效率： ElasticMem 在所有对比方法中实现了 ALFWorld 上最低的 Token 成本，证明了性能的提升并非源于更长的交互轨迹或过度的记忆使用。
消融实验：
- 预算策略： 基于 Transformer 的预算策略显著优于随机、统一和基于 MLP 的分配策略，证实了学习跨记忆交互的价值。
- 检索： 使用控制 Token 的查询状态检索优于语义检索和冻结状态检索，凸显了将检索适配到推理器内部状态的重要性。
- 容量限制： 中等的单块预算限制（ $B_{max}=20$ ）取得了最佳效果，这表明过大的预算可能会因向无用块分配过多容量而降低性能。

意义与主张

论文声称 ElasticMem 解决了当前记忆系统中的一个根本性不匹配：记忆分配的静态性与记忆效用的动态性之间的矛盾。通过将记忆视为一种可学习的资源，该框架使智能体能够：

即使在记忆与查询并非词法最相似的情况下，也能优先考虑有用的证据和可迁移的计划。
抑制会消耗上下文或潜空间容量的噪声或冗余记忆。
在保持高 Token 效率的同时，在推理和决策任务中实现卓越的性能。

作者总结道，弹性潜空间记忆是构建更高效、更具适应性且长程的 LLM 智能体的一个有前景的方向，它超越了固定上下文和僵化检索范式的局限性。