💻 computer science

AutoMem: A Text-Gradient Recursive Self-Improvement Framework for Automated Memory Architectures Search

该论文提出了 AutoMem，一种文本梯度递归自我改进框架，通过将经验引导的搜索与失败引导的模块诊断相结合，自动发现任务自适应记忆架构，在提升准确率-效率权衡的同时，一致性地优于人工设计的基准模型。

原作者： Lin Du, Jie Zhou, Yuxuan Cai, Kai Chen, Qin Chen, Xin Li, Bo Zhang, Wei Li, Liang He

发布于 2026-08-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Lin Du, Jie Zhou, Yuxuan Cai, Kai Chen, Qin Chen, Xin Li, Bo Zhang, Wei Li, Liang He

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

人工智能已经达到了一个阶段，大型语言模型可以作为智能体（agents）发挥作用，能够进行规划、使用工具并浏览网页以解决复杂问题。为了有效地实现这一点，这些智能体需要一种记忆事物的方式，就像人类依赖长期记忆来回想起过去的教训、事实和策略一样。然而，为机器构建这种记忆并不像添加一个笔记本那么简单。它涉及一系列决策：哪些信息应该被记录下来，如何存储，智能体在需要时如何找到它，以及如何移除陈旧或无用的条目。多年来，研究人员一直通过手工构建这些记忆系统，为每项任务选择一种特定的设计并始终如一地使用。但正如木匠不会用同一种工具应对所有工作一样，“一刀切”的记忆系统在任务发生变化时往往会失效。

来自华东师范大学和上海人工智能实验室的研究团队通过将记忆视为一个针对特定工作需要去解决的谜题，而非一个固定的发明，解决了这一问题。他们构建了一个名为 AUTOMEM 的系统，该系统可以自动为给定的任务搜索最佳的记忆设计。该系统不再由人类工程师去猜测哪种存储和检索方法的组合效果最好，而是测试数千种不同的配置，从错误中学习，并不断优化其选择，直到找到一个性能超越即使是最优秀的专家设计的系统。其结果是一种能够适应问题特定需求的记忆架构，无论是在浏览网站、解决多步推理挑战，还是在深入挖掘搜索结果方面。

研究人员首先将智能体记忆的概念分解为四个不同的部分，类似于图书馆的组织方式。首先是编码器（encoder），它决定哪些信息值得保存。第二是存储器（store），它决定如何保存这些信息，例如存放在简单的列表、复杂的连接网络或结构化数据库中。第三是检索器（retvier），它是当智能体需要时寻找正确信息的机制。最后是管理器（manager），它处理记忆的生命周期，删除旧的或冲突的数据，以保持系统的效率。通过将这四个部分的各种选项进行混合与匹配，研究人员创造了一个极其广阔的可能记忆设计空间。他们的初步实验揭示了一个关键的事实：没有一种设计能适用于所有情况。擅长解决数学问题的记忆系统在浏览网站时可能会表现得很糟糕，而且对于一个计算机模型而言最佳的组合，对另一个模型而言可能效果很差。

为了在如此广阔的可能性空间中导航而不浪费时间和计算能力，团队开发了一种从失败中学习的方法。当系统尝试一种记忆设计而智能体未能解决任务时，系统并不仅仅是丢弃这次尝试。相反，它表现得像一名细心的调查员，分析故障究竟发生在何处。是因为智能体从未记录下正确的线索吗？是因为信息以一种无法被找到的格式存储了吗？是因为它提取了错误的记忆吗？还是因为它保留了太多过时的信息？系统会精准定位导致错误的记忆过程中的特定环节，并将这种技术性故障转化为通俗易懂的指令。它会告诉搜索过程：“问题出在数据存储方式上；下次请尝试不同的格式。”

这种诊断与调整的过程在一个循环中进行。系统根据从以往失败中学习到的经验提出新的记忆设计，进行测试，然后再次分析结果。仅通过几次自我改进的轮次，系统就能收敛到一个高效的架构。在测试中，研究人员使用了三个不同的具有挑战性的基准测试：一组复杂的推理问题、一系列深度的网页导航任务，以及一系列困难的搜索查询。他们使用两个不同的强大计算机模型作为智能体运行了这些测试。在每种情况下，系统发现的记忆架构都优于人类设计的最佳替代方案。在推理基准测试中，与最强的固定记忆系统相比，该系统将准确率提高了近四个百分点。在网页导航任务中，准确率也提高了近四个点，而在深度搜索挑战中，它提升了一个完整的百分点。

除了更准确之外，该系统还证明了自己更加高效。它发现的记忆设计通常需要更少的计算资源来运行。例如，在推理基准测试中，该系统在实现更高准确率的同时，使用了显著更少的 token（衡量文本处理计算成本的指标）。这表明该系统不仅找到了更努力工作的办法，还找到了更聪明工作的办法。它发现，对于某些任务，最好的方法是将信息存储在将相关事实链接在一起的类图结构中；而对于其他任务，简单的结构化列表则更为有效。对于网页导航，它发现文本与结构化数据的结合效果最好；而对于深度搜索，它则倾向于一个能够轻松重新排列过去解决方案以找到最相关方案的系统。

研究人员还测试了他们的方法是真的在学习，还是仅仅运气好。他们将这种引导式搜索与仅仅随机挑选记忆设计的方法进行了对比。随机方法偶尔能找到一个好的设计，但它并不稳定，并且经常浪费资源去测试那些显然很差的设计。相比之下，引导式系统通过每一轮测试稳步提升，找到解决方案的时间和计算成本都仅为随机方法的一半。这证实了系统通过诊断失败并将失败转化为具体指令的能力是其成功的关键。如果没有这个反馈循环，系统会难以提升，经常陷入成本高昂却无效的设计中。

研究结论指出，人工智能智能体的未来不在于构建一个单一、完美的记忆系统，而在于创建能够根据手头任务调整其记忆的系统。研究人员发现，最佳的记忆设计高度依赖于智能体正在进行的具体工作性质及其运行的计算机模型。一个在某种类型问题上对某个智能体有效的设计，对另一个智能体来说可能是一种阻碍。通过自动化这些设计的搜索过程，该团队展示了构建不仅更聪明、而且更高效的智能体是可能的。这项工作表明，随着人工智能越来越多地融入复杂的现实世界任务，动态调整智能体如何记忆和使用信息的能力，将与智能体本身的智能水平同样重要。该系统并非取代人类的智慧，而是扩展了人类的智慧，让计算机能够以一种人类无法通过手动设计来完成的复杂方式，找到适合工作的正确工具。

技术摘要：AUTOMEM

问题陈述

长期记忆对于大语言模型（LLM）智能体而言正变得日益关键，它使智能体能够保留并重用过往交互中的信息。然而，目前的记忆系统主要依赖于人工设计，并在部署时即已固定。作者指出一个根本性的局限：记忆的有效性并非由单一组件（如检索器）决定，而是由四个不同模块之间复杂的、耦合的相互作用决定的：编码（写什么）、存储（如何表示）、检索（如何选择）以及管理（如何维护/演化）。

一项初步研究表明：

任务特定性： 没有哪一种记忆架构能在所有任务或骨干模型中占据主导地位；最优配置随数据集的不同而显著变化。
模块耦合： 模块效应是非加性的。如果编码器产生的记忆质量较低，即使检索器很强也可能失效；如果检索策略不匹配，一个有用的存储格式也可能变得无效。
盲目搜索的低效性： 虽然在离散搜索空间内存在强大的架构，但随机搜索的成本极高，且无法将失败的尝试转化为可重用的优化信号。

核心问题被定义为任务自适应记忆架构选择：在受限的搜索空间内寻找一个可行的架构 $a = (e, s, r, m)$ ，以在有限的评估预算下，最大化任务准确率和记忆增益，同时最小化推理成本。

方法论：AUTOMEM

作者提出了 AUTOMEM，这是一个文本梯度递归自我改进框架，旨在高效地在离散且耦合的记忆架构空间中进行导航。AUTOMEM 并不使用解析梯度，而是从失败的智能体运行轨迹中构建“文本梯度”来引导搜索。该框架以迭代轮次的形式运行，包含两个主要部分：

1. 经验引导的架构搜索 (EGAS)

EGAS 通过将提案 LLM 置于基于历史搜索轨迹的结构化先验之上，来提出候选架构。它利用了三种特定的状态表示：

经验账本 ( $L$ )： 存储跨轮次的、可重用的知识元组，形式为（条件，推荐/不推荐的编辑，证据，状态）。这可以防止搜索重新进入已被否定的方向。
观察图 ( $G$ )： 维护任务模式层级的统计数据（例如 $\mu(c, u)$ ），将特定的任务条件与模块选择及其观察到的结果联系起来，作为软先验。
帕累托前沿 ( $P_t$ )： 根据准确率、记忆增益和运行成本的多目标排名，追踪非支配的候选方案。

2. 失败引导的模块诊断 (FGMD)

FGMD 将失败的智能体运行轨迹转化为针对下一轮搜索的有针对性的文本反馈。该过程包括：

范围过滤： 使用基于规则的门控机制，过滤掉与记忆无关的失败（例如工具错误、超时、推理错误），以确保只有归因于记忆的失败才会驱动搜索。
模块归因： 将失败分类为特定的模式（例如提取缺口、检索失误、陈旧记忆），并映射到负责的模块（编码、存储、检索或管理）。对于模糊情况，由 LLM 诊断器进行精细化归因。
文本梯度合成： 系统聚合失败直方图和代表性轨迹，生成结构化的文本梯度 $\delta_{t+1}$ 。该梯度识别主要瓶颈，提供落地证据，并建议具体的架构编辑（例如从语义检索切换到混合检索）。
差异化验证： 建议会针对之前的轮次进行验证；如果某次编辑未能提高性能，则会在账本中降低其权重，从而完成从诊断到搜索的闭环。

核心贡献

记忆设计的系统化： 本文将长期记忆设计形式化为对四个模块（编码、存储、检索、管理）构成的因子化空间的搜索，证明了现有系统仅仅是这一共享空间内的固定点，且最优配置具有任务依赖性。
AUTOMEM 框架： 引入了一个结合了经验引导搜索与失败引导诊断的递归自我改进框架。该方法通过将失败的运行轨迹转化为方向性的文本信号，实现了在有限评估预算下高效发现任务自适应架构。
实证验证： 在三个基准测试（GAIA、WebWalkerQA、xBench-DeepSearch）以及多种 LLM 骨干模型（Qwen3.5、gpt-5 变体）上的全面实验表明，AUTOMEM 发现的架构优于人工设计的基准方案。

实验结果

在 GAIA、WebWalkerQA 和 xBench-DeepSearch 上的评估显示，AUTOMEM 表现出以下特性：

性能提升： AUTOMEM 一致优于最强的设计型人工记忆基准。在六个“基准-骨干模型”设置中，其准确率平均提升了 2.8 个百分点。
- 在 GAIA (Qwen3.5-122B-A10B) 上，AUTOMEM 达到了 71.5% 的准确率，而最佳基准 (MemoryBank) 为 67.8%。
- 在 xBench-DeepSearch 上，它达到了 46.0%，而 SOTA 为 45.0%。
- 在 WebWalkerQA 上，它达到了 72.5%，而最佳基准为 68.9%。
效率： AUTOMEM 实现了良好的准确率-效率权衡。在 Qwen3.5-122B-A10B 条件下，它在保持更高准确率的同时，比最强准确率基准降低了 14.3% 的 Token 成本。
搜索效率： AUTOMEM 在 5 个进化轮次 内就在 GAIA 上达到了 71.5% 的准确率，超过了 10 次随机试验 的最佳结果 (69.7%)。其消耗的 Token 预算仅约为随机搜索所需的 55%。
消融实验： 移除 FGMD 或 EGAS 都会显著降低性能。若移除 FGMD，准确率降至 64.2%（在某些语境下低于无记忆基准），且 Token 成本翻倍。若移除 EGAS，准确率降至 57.9%，这表明了积累搜索经验的必要性。

被发现的架构

论文强调 AUTOMEM 会针对不同的任务分布收敛到不同的架构：

GAIA (多步推理)： 青睐 Tip+Workflow+Trajectory 编码、Graph 存储和 Contrastive 检索，以组织实体并区分成功的与失败的工具调用轨迹。
WebWalkerQA (导航)： 青睐 Insight+Workflow+Shortcut 编码、JSON 存储和 Hybrid 检索，以保留精确的页面事实并验证工具使用。
xBench-DeepSearch (深度搜索)： 青睐 Tip+Insight+Trajectory 编码、JSON 存储和 Case-based 重排序，以有效地重用已解决的案例。

重要性与主张

本文主张，LLM 智能体的记忆不应被视为一种固定的、手工设计的机制，而应是一种 自适应架构，必须根据目标任务分布进行优化。通过将记忆设计视为一个搜索问题并利用文本梯度反馈，AUTOMEM 证明了自动化的、任务自适应的搜索可以发现超越人类直觉且能优化准确率与计算成本权衡的架构。作者将这项工作定位为任务自适应记忆搜索的第一步，并指出未来的工作可以将其扩展到样本级自适应和开放式记忆模块生成。