💬 NLP

MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents

MemSkill 引入了一种面向大语言模型智能体的自进化框架，该框架用可学习且可适应的技能取代了静态的、手工设计的记忆操作，并通过由控制器、执行器和设计器构成的闭环系统，动态优化记忆管理策略，从而在多样化的基准测试中提升任务表现。

原作者： Haozhen Zhang, Quanyu Long, Jianzhu Bao, Tao Feng, Weizhi Zhang, Haodong Yue, Wenya Wang

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Haozhen Zhang, Quanyu Long, Jianzhu Bao, Tao Feng, Weizhi Zhang, Haodong Yue, Wenya Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于MemSkill论文的通俗解释，辅以富有创意的类比。

核心难题：“僵化的图书管理员”

想象你有一位个人助理（AI 智能体），它能与你交谈数小时、数天甚至数周。为了提供有效帮助，这位助理需要记住你之前说过的话。

目前，大多数 AI 助理使用一套固定的规则来决定记住什么。这就像一位图书管理员，只被允许使用三种特定的印章：“保存”、“删除”或“忽略”。

如果你告诉管理员“我讨厌西兰花”，他们会盖上“保存”章。
如果你说“其实我现在喜欢西兰花了”，他们必须手动找到旧笔记并盖上“删除”章。

问题在于，这些规则是由人类硬编码的。它们不会根据情境变化。如果对话变得漫长、复杂或怪异，图书管理员就会感到困惑，因为他们的印章无法适应新场景。他们僵化、迟缓，且常常抓不住重点。

解决方案：MemSkill（“变形工具包”）

这篇论文的作者提出了MemSkill，一种让 AI 管理记忆的新方法。MemSkill 不再使用固定的印章，而是为 AI 提供了一套可学习、可选择、甚至可随时间进化的“技能”工具箱。

这就像一把能长出新刀刃的瑞士军刀。

1. 技能（刀刃）

MemSkill 拥有的不是简单的“保存”或“删除”，而是具体、可复用的指令，称为技能。

技能 A：“记录事件的时间和日期。”
技能 B：“追踪物体的位置。”
技能 C：“察觉某人何时改变了主意。”

这些技能就像食谱。它们告诉 AI：“当你看到日期时，按这种方式记录；当你看到地点时，按那种方式记录。”

2. 控制器（工头）

当 AI 与你对话时，一个“控制器”扮演着施工工头的角色。

它审视你刚才说的话。
它瞥一眼技能工具箱。
它挑选出最适合当前这一刻的 3 到 5 个技能。
它将这些技能交给 AI 以处理信息。

类比：如果你在谈论烹饪食谱，工头会挑选“列出食材”和“记录温度”技能。如果你转而谈论电影，工头就会将这些替换为“记住角色名字”和“追踪剧情反转”技能。

3. 设计者（教练）

这是最令人兴奋的部分。大多数系统在构建完成后就停止学习了。MemSkill 拥有一个设计者，它像一位体育教练。

AI 尝试利用当前的技能来回答问题。
有时，它会失败。也许它忘记了一个关键细节，因为它缺乏处理该类特定信息的技能。
设计者会审视这些失败案例（即“棘手情况”）。
它会询问一个高级 AI：“我们为什么失败了？我们需要新技能吗？我们需要微调旧技能吗？”
随后，设计者会编写新技能或修复旧技能，并将它们添加到工具箱中。

类比：想象一支足球队因为不知道如何防守某种特定类型的射门而不断输球。教练（设计者）观看比赛，意识到这一短板，并发明了一种新的防守训练（新技能）来教导球队。球队每次比赛都会变得更强。

实际运作方式

论文描述了一个闭环：

学习使用：AI 练习挑选正确的技能来记忆事物。
进化工具：当 AI 失败时，设计者修复工具箱，添加新技能或优化旧技能。
重复：AI 带着改进后的工具箱重新开始，变得越来越聪明、更具适应性。

论文发现（结果）

研究人员在四个不同的挑战上测试了 MemSkill：

长对话：记住非常长对话（如 10 小时对话）中的细节。
复杂问题：回答需要连接故事不同部分线索的问题（HotpotQA）。
机器人任务：帮助虚拟机器人导航房屋并寻找物体（ALFWorld）。

结果：

MemSkill 在几乎每一项测试中都击败了所有其他方法（那些“僵化的图书管理员”）。
它的泛化能力更强：当在一种任务类型（如聊天）上训练，并在完全不同的任务（如在家中寻找物体）上测试时，它依然表现良好。这是因为它学到的技能是灵活的，而不仅仅是死记硬背的答案。
它的效率更高：通过使用正确的技能一次性处理文本块，它不需要像旧方法那样频繁调用 AI，从而节省了时间和成本。

总结

MemSkill改变了 AI 记忆事物的方式。它不再强迫 AI 遵循僵化的人类编写规则手册，而是赋予 AI一套灵活且不断进化的技能集。AI 学习为工作选择哪些技能，而当它犯错时，一位“设计者”会帮助它发明新技能，以防止同样的错误再次发生。它将记忆管理从静态的规则列表转变为自我改进、自适应的系统。

技术摘要：MemSkill：面向自进化智能体的记忆技能学习与演化

1. 问题陈述

当前大语言模型（LLM）智能体的记忆系统主要依赖静态的、人工设计的操作（例如固定的添加/更新/删除/跳过原语）和启发式模块，以决定存储、修订或修剪哪些信息。这些方法将人类关于记忆管理的先验知识硬编码到系统中，导致系统在多样化的交互模式下缺乏灵活性，且在处理长交互历史时效率低下。作者认为，将记忆提取视为固定的程序化工作流会形成瓶颈，使得记忆行为在分布偏移下变得脆弱，且无法随着智能体历史的增长而有效扩展。

2. 方法论：MemSkill

MemSkill 将记忆操作重新框架化为一组可学习且可演化的记忆技能。该系统不再采用固定流程，而是将记忆构建视为应用一组少量通用、可复用、结构化的行为（即技能）的结果，这些技能规定了交互轨迹何时以及如何被转化为记忆。

该架构由三个核心组件组成，并在闭环优化过程中运行：

A. 技能库

一个共享的结构化记忆技能存储库。每个技能 $s$ 包含：

用于表示和选择的简短描述。
详细的规范内容，指导执行器进行提取或修订（包括目的、使用条件、应用步骤和约束）。
初始化：系统从四个规范原语的最小集合开始：INSERT（插入）、UPDATE（更新）、DELETE（删除）和 SKIP（跳过）。

B. 学习使用技能（控制器与执行器）

控制器：一个神经网络，学习为给定的文本片段从技能库中选择一小部分与上下文相关的技能（Top-K）。其选择基于当前文本片段和检索到的现有记忆。控制器使用共享评分器来处理可变大小的技能库，计算状态与技能表示之间的语义距离。
执行器：一个基于 LLM 的模块，接收选定的技能和当前上下文，在单次传递中生成结构化的记忆更新。这允许进行片段级（span-level）处理，而非逐轮（turn-by-turn）处理，从而减少了冗余的 LLM 调用。
优化：控制器通过强化学习（PPO）进行训练，使用下游任务性能（例如 F1 分数、成功率）作为奖励信号，以优化技能选择策略。

C. 技能演化（设计器）

为了超越固定的技能集，MemSkill 引入了一个设计器，定期演化技能库：

困难案例缓冲区：在训练期间，系统记录当前技能选择产生不正确或不完整记忆的具有挑战性的案例。
案例选择：设计器对这些困难案例进行聚类，并根据难度分数（低奖励 + 高失败计数）选择具有代表性的失败案例。
两阶段演化：利用 LLM，设计器分析失败模式以：
- 优化现有技能（更新指令以解决特定差距）。
- 提出全新的技能以捕捉缺失的记忆行为。
稳定性机制：系统维护表现最佳技能库的快照。如果演化步骤导致性能下降，则回滚。此外，一个短暂的探索阶段会促使控制器偏向新引入的技能，以促进其被采纳。

3. 主要贡献

MemSkill 框架：一种新颖的智能体记忆方法，将记忆操作表示为不断演化的技能库，将记忆构建从固定流水线转变为自适应的、以技能为条件的生成过程。
闭环优化：一种训练方案，结合了用于技能选择的强化学习与基于 LLM 的从困难案例中引导的技能演化，实现了记忆技能集的持续 refine 和增长。
实证验证：全面的评估表明，MemSkill 提高了任务性能，并在无需特定任务记忆工程的情况下实现了跨场景的泛化。

4. 实验结果

作者在四个基准测试中评估了 MemSkill：LoCoMo 和 LongMemEval（对话记忆）、HotpotQA（分布偏移/长上下文推理）以及 ALFWorld（具身交互任务）。

性能：MemSkill 在所有数据集上始终优于强基线模型（包括 MemoryBank、A-MEM、MemoryOS 和 Mem0）。在对话基准测试中，它取得了最高的 LLM 裁判评分；在 ALFWorld 中，它取得了最高的成功率，并需要更少的交互步骤。
泛化性：
- 跨模型：在 LLaMA-3.3-70B 上学习的技能有效地迁移到了 Qwen3-Next-80B，无需重新训练，并在两个模型上均优于基线。
- 跨数据集：在 LoCoMo 上学习的技能迁移到了 LongMemEval 和 HotpotQA（一种具有不同交互格式的基于文档的问答任务），证明了对分布偏移的鲁棒性。
效率：通过在片段级而非逐轮级进行处理，MemSkill 显著减少了 LLM 调用次数和输入/输出 token 数量，同时与逐轮基线相比保持或提高了记忆质量。
消融研究：移除控制器（随机选择）或设计器（固定原语）导致性能显著下降，证实了有针对性的技能选择和技能演化均至关重要。

5. 意义与主张

该论文声称，MemSkill 为 LLM 智能体提供了一条通往自进化记忆管理系统的途径。通过将记忆行为与人类先验解耦，并允许从交互数据中学习和 refine，该系统能够适应不同的领域（对话、具身任务、文档问答）和不断变化的任务需求。

作者强调，他们的方法解决了当前记忆系统的僵化问题，这些系统通常在分布偏移或长历史下失效。MemSkill 的“闭环”特性，即系统不仅学习如何使用记忆，还学习需要哪些记忆操作，代表了向能够自主改进自身记忆构建和维护机制的智能体迈出的重要一步。这项工作被呈现为针对基准测试场景的研究贡献，而实际部署考虑（如隐私、同意）则被注明为正交的未来工作。