🤖 machine learning

Rosetta Memory: Adaptive Memory for Cross-LLM Agents

本文介绍了 Rosetta Memory，这是一个以内存为中心的框架，它采用联合训练的、基于特征剖析条件的算子以及最小增益采样课程，以实现跨多种且频繁切换的大型语言模型的自适应内存共享和鲁棒性能。

原作者： Hao Yang, Shiqi Shen, Haoxuan Li, Zhipeng Wang, Zhi Gong, Xu Chen

发布于 2026-06-09

📖 1 分钟阅读☕ 轻松阅读

原作者： Hao Yang, Shiqi Shen, Haoxuan Li, Zhipeng Wang, Zhi Gong, Xu Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是使用简单语言和日常类比对论文“Rosetta Memory”进行的解释。

核心问题：“翻译丢失”的智能体

想象你有一支由工人（AI 智能体）组成的团队，正在试图破解一个复杂的谜团，就像在破获一起侦探案件。为了破案，他们需要互相传递笔记。

工人 A 是一个快速、随性的程序员，喜欢用简短、潦草的要点来写笔记。
工人 B 是一个缓慢、谨慎的作家，需要完整的、礼貌的句子才能理解内容。
工人 C 是一个视觉型思考者，需要将信息整理成表格。

在过去，如果工人 A 写了一份笔记并传给工人 B，工人 B 经常会感到困惑。因为这份笔记是用“工人 A 的语言”写的，而不是“工人 B 的语言”。团队会因此丢失线索、忘记重要细节或误解指令。这就是当不同的语言大模型（LLM）尝试共享记忆时发生的情况：记忆的“语言”与读者的“语言”并不匹配。

解决方案：罗塞塔记忆（Rosetta Memory / RoMem）

作者创建了一个名为 Rosetta Memory 的系统。你可以把它想象成一个通用翻译员，也是你 AI 团队中的专业公证员。

它并不强迫每个工人以同样的方式写作，而是坐在中间，根据谁在写以及谁在读来调整笔记。

它使用了两个特殊的工具（算子）：

“翻译员”（写入算子）： 当一个工人写笔记时，这个工具会查看是谁写的。它会将那些原始、杂乱的笔记重写为一种“标准化”的格式，以便日后任何人都能轻松理解。它会剔除作者个人的习惯特征。
“适配器”（读取算子）： 当一个工人需要阅读笔记时，这个工具会查看是谁在阅读。它会将那份标准化的笔记重新塑造成该读者偏好的特定格式（例如，将一段文字转换成适合视觉型思考者的表格，或者变成适合程序员的要点列表）。

他们是如何训练这个系统的

为了教会这个系统如何工作，研究人员并没有只展示一种类型的工人。他们创建了一个拥有许多不同类型 AI 模型（有些快，有些慢，有些来自不同的公司）的“训练营”。

他们使用了一种聪明的训练技巧，叫做**“最小增益采样”（Minimum-Gain Sampling）**。

想象一位老师注意到那位“缓慢、谨慎的作家”（工人 B）在理解笔记方面最吃力。
老师不会让系统只练习简单的学生，而是强迫系统针对那些挣扎中的学生进行额外艰苦的练习。
这确保了系统能够真正帮助到那些通常会被遗忘的模型，而不仅仅是做到平均水平。

他们还使用了一张“计分卡”，只有当系统相比于直接传递原始笔记确实提升了团队表现时，才会给予分数。这确保了系统是在学习如何翻译，而不仅仅是在背诵答案。

他们的发现

研究人员在三个不同的“谜题”游戏（数据集名为 HotpotQA、2WikiMultihopQA 和 MuSiQue）上测试了该系统，在这些游戏中，AI 必须连接多个线索才能找到答案。

结果： 使用 Rosetta Memory 的团队比使用标准方法的团队能更好地破解谜团。
“未见”测试： 即使在测试中换了一个他们在训练期间从未见过的“新类型工人”，系统依然表现良好。当团队构成发生变化时，它并不会崩溃。
“不匹配”证明： 他们展示了如果没有这个系统，如果在任务中途更换工人，团队往往会失败，因为笔记对新工人来说并不明了。有了 Rosetta Memory，无论谁在阅读，笔记始终都能被理解。

总结

Rosetta Memory 是一个聪明的中间人，它确保 AI 智能体可以无缝地交换笔记，即使它们说不同的“语言”或具有不同的风格。它在写入时进行翻译，并在读取时进行适配，确保无论在任何给定时刻是由哪种具体的 AI 模型在工作，整个团队都能保持步调一致。

技术摘要：Rosetta Memory (RoMem)

1. 问题定义：跨 LLM 记忆不匹配

本文解决了部署大语言模型（LLM）智能体时的一个关键差距：即假设记忆系统是为单一、静态的骨干模型设计的。在实践中，智能体经常在不同的 LLM 之间切换（例如，使用 Claude 进行编程，使用 GPT 进行写作；或者为了成本效率将步骤路由到不同的模型）。作者指出，由一个模型写入的记忆往往无法被另一个模型有效地消费，这主要源于两个层面的不匹配：

写入侧差异（Write-Side Divergence）： 给定相同的状态，不同的源 LLM 会产生不同的动作，从而在记忆中存储不同的内容。
读取侧敏感性（Read-Side Sensitivity）： 即使是语义等价的记忆条目，当被不同的目标 LLM 读取时，由于提示词敏感度和上下文解释能力的差异，也可能导致不同的智能体结果。

作者将此形式化为跨 LLM 记忆适配问题（Cross-LLM Memory Adaptation Problem）：如何使智能体的记忆系统进行适配，使得由上游 LLM 写入的记忆能够有效地激活下游 LLM，无论轨迹中所涉及的具体模型是什么？其目标是在异构池中最大化所有可能的模型分配下的预期回报，而非针对单一固定的骨干模型进行优化。

2. 方法论：Rosetta Memory (RoMem)

RoMem 将视角从“以 LLM 为中心的记忆设计”转向了“以记忆为中心的 LLM 适配”。它将记忆视为上游写入者与下游读取者之间的一种可迁移接口。

核心架构

该系统引入了两个可学习且具备 LLM 感知能力的算子：

写入算子 ( $f_{write}$ )：接收源 LLM 的标识符（profile）、观察结果和动作，并输出经过蒸馏和归一化的记忆条目。
读取算子 ( $f_{read}$ )：接收目标 LLM 的标识符（profile）、当前观察结果和记忆库，并输出针对特定读取者进行适配的、可用于提示词的上下文。

Profile 条件化

为了处理多样化的模型而无需为每个特定模型微调算子，RoMem 使用了 Profile 嵌入（profile embeddings）。每个 LLM 都关联着一个轻量级的 profile 记录（包括模型 ID、文本描述以及后端、系列、规模等元数据）。一个可学习的映射函数 $g$ 将这些 profile 转换为连续向量（软前缀 token），用以对 $f_{write}$ 和 $f_{read}$ 进行条件化约束。这使得算子能够通过理解其“风格”和能力，泛化到未见过的 LLM。

训练策略

算子通过 专家迭代（Expert Iteration） 循环进行训练，该循环包含两项特定的创新，以确保在异构模型池中的鲁棒性：

反事实增益奖励（Counterfactual Gain Reward）：为了将学习到的算子的贡献与 LLM 本身的固有能力分离，系统计算性能差距 ( $\Delta R$ )。这是指使用学习到的算子所获得的奖励与朴素基线（原始记忆拼接）之间产生的差异。这确保了模型学习的是如何通过适配来提升性能，而不仅仅是利用强大的骨干模型。
最小增益采样课程（Minimum-Gain Sampling Curriculum）：在训练过程中，系统会优先处理“服务不足”的 LLM——即那些具有最低反事实增益的模型。步长 $t$ 时刻的采样概率会向 $\Delta R$ 较低的模型倾斜，并结合嵌入距离进行多样化处理，以确保单个轨迹内的行为多样性。这防止了模型过拟合到高性能的模型组合，并确保了对困难模型组合的覆盖。

3. 核心贡献

问题形式化：通过在 HotpotQA、2WikiMultihopQA 和 MuSiQue 上的初步研究，本文经验性地证明了记忆不匹配在跨 LLM 设置中是一个显著问题，并正式定义了跨 LLM 记忆适配问题。
Rosetta Memory (RoMem)：一个新颖的框架，通过联合学习基于 profile 条件化的写入和读取算子，为异构智能体实现记忆适配。
训练创新：引入了最小增益采样课程以提高对表现不佳的模型对的覆盖率，以及性能差距奖励以将算子效用与骨干模型强度解耦。
经验验证：广泛的实验表明，RoMem 在多个数据集上均优于无记忆基线（CoT、Self-Ask）、原始缓冲区基线（Step-Accumulate）以及结构化记忆基线（Mem0、Memento）。

4. 实验结果

作者在三个多跳问答数据集上评估了 RoMem：HotpotQA、2WikiMultihopQA 和 MuSiQue。

整体性能：RoMem 在所有数据集的精确匹配（EM）、F1 值和语义准确率（AccLLM）方面均持续取得了最高分。值得注意的是，在难度较大的 MuSiQue 数据集上，它在 F1 和 AccLLM 上展现出明显的领先优势，表明其能有效保留复杂链条中的部分证据。
消融实验：移除 profile 条件化或写入算子会导致性能显著下降，这证实了对记忆内容的适配以及对目标模型的呈现方式的适配对于性能都是必要的。
对未见模型的泛化能力：在针对训练期间未见过的六个 LLM（如 gpt-5-mini, deepseek-reasoner）进行测试时，RoMem 保持了稳健的性能，即使轨迹中包含的未见模型数量增加，其表现通常仍优于基线。
最小增益采样：敏感性分析显示，适度的重加权（例如 $\eta \approx 1.2$ 至 $1.6$）可以提升性能，而过度重加权则可能产生负面影响。
定性分析：检查发现，写入算子成功移除了源模型的确定性成分和搜索指令，而读取算子则根据目标模型的偏好调整了事实的排序和显性程度（例如，针对 Gemini 使用表格格式，针对 Claude 使用思维链格式）。

5. 意义与主张

本文主张仅仅存储证据是不够的；记忆必须以适配特定消费 LLM 的形式进行写入和读取。通过将记忆视为一种可迁移的接口，RoMem 使异构 LLM 智能体能够有效地共享阶段性记忆，从而减少冗余计算，并在因成本、延迟或可用性限制而更换模型时提高鲁棒性。

作者将这项工作定位为“迈向以记忆为中心适配的第一步”。他们承认了局限性，指出其评估仅限于具有固定证据链的可控多跳问答任务，尚未涵盖开放式网络导航或超长时程规划。他们还提醒，如果不对学习到的记忆接口进行仔细审计，可能会传播偏差或错误，因此建议在高风险部署中进行数据最小化处理和人工检查。