💻 computer science

ERSkill: Evolving for Skill-Guided Adaptive Memory Retrieval

该论文介绍了 ERSkill，这是一个以检索为中心的框架，它通过将检索行为表示为可执行技能，并对技能路由器和技能集进行协同优化，使 LLM 智能体能够持续演进其记忆访问策略，从而在异构记忆查询任务中显著超越现有基准。

原作者： Haolong Chen, Liang Zhang, Zhuo Li, Lei Xue, Guanrxu Zhu

发布于 2026-08-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Haolong Chen, Liang Zhang, Zhuo Li, Lei Xue, Guanrxu Zhu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在和一个超级聪明的机器人朋友聊天，它能记住你说过的一切。在人工智能的世界里，这些“大语言模型”正逐渐成为长期的合作伙伴，而不仅仅是单次使用的助手。为了实现这一点，它们需要一个记忆库——一个存储事实、偏好和过往对话的地方。但棘手之处在于，如果不知道如何找到正确的书，拥有一个巨大的记忆图书馆也是徒劳的。如今大多数机器人的做法是使用一种静态的、一成不变的方法来搜索记忆，比如对每个问题都使用同样的简单关键词搜索。如果你问：“我早餐吃了什么？”机器人可能只会寻找“早餐”这个词。但如果你问：“为什么那场风暴之后我就不再去海滩了？”机器人就需要将一场风暴事件与随后的决定联系起来，这需要一种复杂得多的搜索策略。研究人员提出的核心问题是：机器人能否学会根据被问及的内容来改变其搜索记忆的方式？

这就是名为 ERSkill 的新框架派上用场的地方。把 ERSkill 想象成一个不仅拥有记忆，还拥有一个可以随时间学习和升级的“搜索技能工具箱”的机器人。它不再使用单一、僵化的搜索方法，而是将记忆检索视为一组可执行的“食谱”。有些食谱很简单，比如“寻找一个特定的名字”；另一些则很复杂，比如“找到一个名字，然后看接下来发生了什么，再寻找去年发生的类似事件”。机器人使用一个智能“路由”（就像一个交通指挥官）来决定针对每个问题该使用哪种食谱。

让 ERSkill 与众不同之处在于它会进化。它不会仅仅固守最初拥有的那些食谱。在练习回答问题的过程中，它会意识到：“嘿，这个食谱在寻找事实方面表现出色，但在寻找事物发生的原因方面表现得很糟糕。”于是，它开始发明新的食谱并完善旧的食谱。它使用一个巧妙的系统来记录它尝试过的每条搜索路径（一个“经验前缀树”，就像一张它走过的所有道路的地图），这样它就不会在原地兜圈子。它还使用了一个“双重前沿”安全网：一组技能被用来测试它们是否具备变得优秀的潜力，而第二组技能只有在机器人的交通指挥官能够可靠地在适当时刻选中它们时，才被允许进入最终的阵容。

结果令人印象深刻。在进行高难度的记忆测试时，ERSkill 不仅仅是表现得稍好一点，而是彻底碾压了竞争对手。通过使用强大的 AI 模型 Qwen3-Next-80B-A3B-Instruct，ERSkill 比表现最好的非进化方法提升了 31.3% 的总分。即使使用更小、更快的模型 GPT-5.4-nano，它仍然提升了 28.1% 的性能。这篇论文表明，通过让机器人学习“如何”搜索，而不是仅仅告诉它“搜索什么”，它成为了一个更高效、更具适应性的伙伴。它不仅仅是在记住更多，而是在更聪明地记忆。

技术摘要：ERSkill —— 向技能引导的自适应记忆检索演进

问题陈述

虽然大语言模型（LLM）智能体日益依赖长期记忆来进行持久交互，但管理这些记忆的检索机制通常是静态的。现有的自我演进方法侧重于优化记忆内容（例如，蒸馏推理轨迹或更新记忆项），但在查询时往往依赖于预定义的、固定的检索策略（如稠密检索或 BM25）。这种静态方法限制了在异构记忆查询上的表现，因为这类查询需要多样化的证据构建策略。例如，一个需要特定事件检索的查询与一个需要跨多个事件进行因果推理的查询，其本质是完全不同的。核心问题在于：LLM 智能体如何能够演进并学习组合复杂的检索动作，从而使其检索行为能够适应不同查询的多样化信息需求。

方法论：ERSkill 框架

作者提出了 ERSkill（Evolving Retrieval Skill，演进检索技能），这是一个将智能体记忆访问建模为技能引导的证据构建过程的以检索为中心的框架。该系统由三个核心组件组成：

1. 结构化记忆与原语库

ERSkill 将交互历史编译为结构化记忆库 $M(D) = (A, I, G)$ ，包含原子级记录（ $A$ ）、索引（ $I$ ）和图结构（ $G$ ）。ERSkill 不再将记忆视为被动存储，而是通过一个固定的检索原语（retrieval primitives, $P$ ）库将其暴露出来。这些原语充当状态转移函数（ $p: (q, s, M(D)) \to s'$ ），包括：

搜索原语： entity_search（基于实体的搜索）、lexical_search（基于 BM25 的词法搜索）以及 dense_search（基于语义相似度的稠密搜索）。
扩展原语： temporal_focus_expand（时间焦点扩展）、similarity_expand（相似性扩展）和 relation_expand（关系扩展），用于通过图边来扩大证据范围。
处理原语： llm_process 用于查询重写、过滤和动态控制。

2. 检索技能与路由

检索技能（ $\kappa$ ）被定义为一个由一系列原语组成的、可执行的程序。这种抽象使得检索行为具有可重用性、可解释性和可精炼性。

技能路由（Skill Router）： 一个经过训练的模型 $R_\theta$ 会根据查询 $q$ 动态匹配当前技能集 $K$ 中的最优技能 $\kappa$ 。路由模型将查询和技能描述编码为向量表示，以计算兼容性得分，从而选择最能为答案生成构建所需证据视图的技能。

3. 技能-路由协同演进

为了克服静态技能集的局限性，ERSkill 采用了一种协同演进程序，对技能集和路由进行联合更新。该过程由两个关键机制引导：

经验字典树（Experience Trie）： 一个高效的数据结构，用于记录探索过的原语路径。它允许技能生成器复用过去的展开（rollout）经验，检测重复的候选方案，并避免冗余探索。
双前沿机制（Double-Frontier Mechanism）： 该机制将能力扩展与部署稳定性解耦：
- 能力前沿（Capability Frontier, $C_t$ ）： 维护一个具有最佳“预言机侧”（oracle-side）价值（即如果始终选择最优技能时的最佳可能表现）的紧凑技能集。它追踪已发现的最大检索能力。
- 部署前沿（Deploy Frontier, $B_t$ ）： 维护推理时实际使用的技能集。它仅包含路由能够可靠选择的技能。
- 演进过程： 通过编辑来自能力前沿的路径来生成新的技能候选方案。候选方案会在训练和验证批次上进行评估。能力前沿通过保留预言机性能进行更新，而部署前沿仅在新的技能集能提升路由性能或在容差范围内保持紧凑性时才会进行更新。这确保了系统可以在探索新能力的同时，不会破坏已部署智能体的稳定性。

核心贡献

以检索为中心的框架： 本文引入了一种范式转变，即将记忆访问视为查询自适应的证据构建，而非固定的检索策略。
ERSkill 架构： 一个通过经验字典树和双前沿设计来协同演进检索技能与路由器的技能引导框架，以平衡探索与稳定性。
实验表现： 广泛的实验证明，ERSkill 显著优于强大的非演进和自我演进基准模型。

实验结果

作者在三个智能体记忆基准测试集 LoCoMo、LongMemEval 和 PerLTQA 上对 ERSkill 进行了评估，使用了两个骨干 LLM：Qwen3-Next-80B-A3B-Instruct 和 GPT-5.4-nano。

性能增益： ERSkill 在 F1、BLEU-1 和 LLM-as-a-Judge 分数上的综合平均表现上均取得了最佳成绩。
- 使用 Qwen3-Next-80B-A3B-Instruct 时，其综合平均分比最强的基准模型提升了 31.3%。
- 使用 GPT-5.4-nano 时，其综合平均分提升了 28.1%。
迁移能力： 在 LoCoMo 上训练的技能可以有效地迁移到 LongMemEval，无需额外训练即可保持卓越性能。
成本-性能权衡： ERSkill 展示了良好的权衡，在获得最高 L-J 分数的同时，与其它基于 LLM 的记忆构建方法相比，其在记忆构建 Token 和推理 Token 方面的开销都非常轻量。
消融实验： 去除关键组件（技能演进、路由、双前沿或经验字典树）会导致性能大幅下降，证实了每项设计的必要性。

意义与主张

论文声称 ERSkill 凸显了检索侧演进是一个极具前景的长短期 LLM 智能体研究方向。作者认为，虽然记忆内容和推理引导已经变得越来越具有自适应性，但检索行为本身在很大程度上仍保持着预定义的状态。通过将检索建模为一种技能引导的、可演进的过程，ERSkill 使智能体能够为异构查询构建定制化的证据。

其重要性在于证明了：

自适应检索至关重要： 如果检索机制保持固定，那么仅仅更新记忆摘要或推理轨迹是不够的。
稳定演进是可能的： 双前沿机制允许在扩展检索能力的同时，确保部署的智能体保持稳定可靠。
高效性： 该框架在实现高性能的同时并未产生过高的推理成本，这表明针对性的证据构建比单纯检索更多内容更为有效。

作者保持了谦逊的态度，指出当前系统依赖于固定的原语库和基于展开（rollout）的评估，这会产生训练成本。他们确定了未来的研究方向，例如利用更廉价的评估器来提高效率、支持原语发现，以及将自适应检索扩展到规划和工具使用领域。