Governed Collaborative Memory as Artificial Selection in LLM-Based Multi-Agent Systems

本文将基于大语言模型的多智能体系统中持久性记忆的选择挑战框架化为“受治理的协作记忆”，提出一项将记忆治理视为人工选择机制的设计议程，以确保认知质量、来源保真度和可追溯的制度状态，而非仅仅依赖检索准确性。

要点

想象一个 AI 助手团队正在共同开展一项长期项目。过去，这些 AI 就像在单次咖啡聊天中相遇的陌生人：它们交谈、提供建议，然后在会议结束后遗忘一切。它们没有关于“自己是谁”或“学到了什么”的“记忆”。

但现在，这些 AI 正在获得持久记忆。它们可以记住昨天的教训，为明天存储规则，并将知识传递给队友。这固然很好，但也带来了一个新问题：谁有权决定什么能成为团队永久历史的一部分？

如果 AI 犯了一个错误，写了一个有趣但错误的故事，或者养成了一种坏习惯，这是否应该成为整个团队的永久规则？还是应该保持私密？

本文认为，我们需要一个**“受治理的协作记忆”系统。不要把它仅仅看作一个文件柜，而要看作一个选择过程**——就像博物馆策展人决定哪些文物展出、哪些留在地下室一样。

以下是他们观点的分解，使用了简单的类比：

1. 问题：记忆的“狂野西部”

如果没有规则，AI 可能会保存它认为有趣的一切。

• 类比：想象一个学生在日记本里写下每一个念头，包括拼写错误、白日梦和虚假事实。如果它们后来阅读这本日记来决定该做什么，可能会依据自己偶然写下的谎言采取行动。
• 风险：在 AI 术语中，这被称为“无治理的持久性”。一个虚假记忆被保存、重新加载并重复，直到它成为整个系统永久且不可更改的“事实”。

2. 解决方案：四种不同的“记忆层”

作者建议我们不应以相同的方式对待所有记忆。相反，我们应该将其组织成房子里四个不同的“房间”，每个房间对准入内容有不同的规则：

• 房间 1：个人储物柜（代理本地记忆）

  • 是什么：特定于单个 AI 角色的私人笔记。
  • 类比：厨师的个人食谱或机械师特定的工具偏好。
  • 原因：如果我们强迫厨师和机械师共享完全相同的笔记，厨师可能会开始修车，而机械师可能会开始做饭。我们需要保持它们独特的“身份”分离，以便它们能继续胜任各自的工作。

• 房间 2：市政厅（共享机构记忆）

  • 是什么：整个团队的官方永久规则和教训。
  • 类比：城市的正式法律或公司的手册。
  • 规则：除非通过严格的“治理”检查，否则没有任何东西能进入这里。仅凭 AI 认为这是一个好主意是不够的；它需要证据和批准。

• 房间 3：档案馆（归档记忆）

  • 是什么：旧历史、研究和背景信息。
  • 类比：图书馆的地下室或博物馆的存储库。
  • 规则：你可以查看这些项目，但它们不是活跃的规则。我们不需要在有人阅读旧报纸剪报之前对每一份进行投票，但我们必须知道它们的来源。

• 房间 4：白板（项目连续性记忆）

  • 是什么：当前任务的临时笔记。
  • 类比：贴在办公桌上用于当天会议的便利贴。
  • 规则：项目完成后，这些内容会被擦除或转移。它们不应意外地与市政厅中的永久法律混合在一起。

3. “选择”如何运作

本文比较了决定什么进入“市政厅”（共享记忆）的不同方式：

• “全收”方法（无治理）：快速，但危险。虚假会变为永久事实。
• “测试分数”方法（自动）：AI 检查记忆是否能提高数学分数或速度。这对数字有效，但对“诚实”或“公平”之类的事情无效。
• “规则手册”方法（宪法式）：AI 遵循一套人类编写的规则（如“不要撒谎”）。它具有可扩展性，但可能会忽略细微差别。
• “人类法官”方法（人类批准的人工选择）：人类（或人类主导的过程）查看候选记忆并说：“是的，这是真实且重要的；让我们将其正式化。”
  • 为何重要：人类更擅长判断那些无法通过分数衡量的事物，例如“这个 AI 听起来可信吗？”或“这是否符合我们团队的价值观？”

4. 证据表明了什么

作者在现实世界的 AI 系统中测试了这一想法。他们发现：

• 错误会发生：即使有规则，AI 仍可能编造虚假故事。
• 系统会学习：系统不是简单地删除错误，而是记录了为什么它是错误的，并制定了新规则以防止下次发生。
• 身份保持安全：新的 AI 团队成员可以加入并学习团队规则，而不会失去自己独特的个性。
• 透明度：系统保留了“纸质记录”，显示哪些记忆被拒绝、哪些被修订、哪些被批准。你可以看到决策的历史，而不仅仅是最终结果。

核心要点

本文并非主张“人类必须检查每一个记忆”。相反，它指出：我们需要有意识地选择如何筛选记忆。

我们需要问：

1. 什么值得保存？（一个事实？一种感觉？一条规则？）
2. 谁决定它足够好，可以成为永久性的？（一次测试？一本规则手册？一个人？）
3. 如何将 AI 独特的个性与团队的共享知识区分开来？

如果我们不回答这些问题，我们可能会构建出高效但容易重复自身谎言、失去独特技能或变成一团混乱、相同的数据块的 AI 团队。目标是使记忆变得可检查、可纠正且诚实。

技术摘要

技术摘要：基于大语言模型的多智能体系统中的受治理协作记忆作为人工选择

问题陈述
随着基于大语言模型（LLM）的多智能体系统从孤立交互中的无状态参与者演变为具有持久记忆的状态承载组件，一个关键的设计缺口已经出现。虽然现有研究解决了检索准确性、访问控制和记忆一致性问题，但往往忽视了选择这一根本问题：哪些候选记忆应从私有的、瞬时的数据转变为共享的、持久的、塑造行为的制度性状态？

缺乏明确的治理，持久记忆可能成为“可遗传”错误的载体，其中看似合理但虚假的摘要会在会话、智能体和系统版本之间被重新加载并传播。核心问题不仅在于谁可以读取记忆，更在于谁或什么决定候选记忆应成为系统共享本体的一部分。本文将这一挑战框架化为受治理的协作记忆，论证记忆治理作为一种选择机制，决定了哪些记忆变体得以存续、保持私有、被拒绝或被取代。

方法论与框架
本文提出的是一个概念框架和分层架构设计，而非受控实验比较。方法论包括：

1. 定义选择机制：作者将记忆治理划分为四种不同的机制，强调这些是基于目标属性的设计选择，而非优越性的层级：

   • 无治理持久化：记忆未经刻意评估即进入持久存储。这提供了低摩擦度，但可能导致虚假信息和幻觉的持久化。
   • 宪法/混合选择：由自动化流程（如 RLHF、宪法 AI）强制执行人类编写的原则或约束。这具有良好的可扩展性，但可能遗漏原则中未包含的特征，或屈服于奖励黑客攻击。
   • 自动指标驱动选择：持久性由基准测试、测试或可衡量的奖励决定。这对于可衡量的性能有效，但无法捕捉判断质量、认知诚实度或制度连贯性。
   • 人类批准的人工选择：操作员或治理流程明确决定持久性。这速度较慢且可扩展性较低，但对于选择缺乏清晰指标的品质（如角色保留和制度连贯性）是必要的。

2. 提出的分层架构：为了在不导致异构智能体身份崩溃的情况下实施这些机制，作者建议将记忆分离为四个具有不同治理负担的独立层：

   • 智能体本地记忆：默认私有；保留特定角色的启发式方法、约束和故障模式，以防止身份崩溃。
   • 共享制度记忆：用于跨智能体事件、原则和教训的持久存储。这一层承担最重的治理负担，需要证据和明确批准。
   • 归档记忆：长周期的历史 artifacts 和背景知识。这些可被检索，但与活跃的制度记忆区分开来，以防止治理过载。
   • 项目连续性记忆：活跃的任务状态和交接上下文，保持分离以避免瞬态工作与持久知识之间的范围污染。

3. 治理机制：该框架依赖于来源和版本谱系。选择不仅关乎最终被接受的记录，还在于使过程可审查。这包括追踪谁起草了记忆、支持它的证据是什么、谁批准了它、以及哪些版本被拒绝或取代。架构采用“取代而非擦除”的语义，确保修正作为制度知识保持可追溯。

证据与结果
本文通过一个运行中的基于大语言模型的多智能体生态系统（截至 2026 年 4 月）的文档化轨迹来支持其设计主张。作者明确指出，这些轨迹是观察性的，并未确立其相对于其他机制的因果优越性。证据说明了五个关键模式：

• 无治理持久化失败：一个未管理的自动记忆文件包含三个看似合理的虚假条目，这些条目在后续审计前一直存续，展示了在没有选择机制的情况下错误如何成为可重新加载的状态。
• 批准后的制度记忆：一个程序性教训成功转化为经批准的原则，展示了选择过程的结果。
• 版本注册选择循环：系统记录了一个候选版本，识别出缺陷，标记为失败，进行修订，然后修复了更新后的状态。这证明了拒绝和修订是可见的，而非隐藏的。
• 身份保留的扩展：一个新智能体加入生态系统，在访问共享制度记忆的同时保持独立的私有身份坐标，验证了共享记忆与本地记忆的架构分离。
• 作为学习的治理：发生了一次治理后的虚构错误。系统并未阻止该错误，而是记录了失败并将其转化为经批准的“宁可放弃而非虚构”原则，说明治理是一种学习机制而非完美的防火墙。

主要贡献与设计主张
主要贡献是针对持久性基于大语言模型的多智能体系统的设计议程。本文认为，记忆治理必须被视为决定系统未来行为的选择层。关键设计主张包括：

• 持久系统需要针对共享记忆的明确选择机制。
• 受治理的协作记忆必须分离智能体本地记忆、共享制度记忆、归档记忆和项目连续性记忆。
• 当目标属性包括判断质量、来源保真度和角色保留时，人类批准的人工选择至关重要。
• 被拒绝、弃权和被取代的记忆必须保持为可审查的选择结果，而非管理噪音。
• 记忆系统的评估必须超越召回率和性能，扩展到包括来源保真度、选择可追溯性、认知质量、修正路径和角色保留。

意义与局限性
本文的意义在于将记忆治理从存储或访问控制问题重新框架化为选择机制问题。它提出，在持久性多智能体系统中，决定什么成为共享状态的决策是最关键的设计选择，决定了系统是集体学习还是传播错误。

作者对其主张持谦逊态度，承认：

• 证据仅限于一个生态系统，并未证明人类批准机制优于自动机制。
• 人类批准引入了瓶颈和潜在的操作员偏见。
• 将治理扩展到多个批准者或分布式权威仍然是一个未解决的挑战。
• 遗留记忆系统面临自举问题，即治理前的记录可能已经影响行为。

最终，本文呼吁设计者和评估者改变处理智能体记忆的方式：从优化检索效率转向确保选择过程本身是明确的、可审查的，并与异构智能体身份的保留相一致。