技术摘要：基于多时间尺度记忆动力学的 LLM 系统持续知识更新

1. 问题陈述

大型语言模型（LLM）通常经过一次性训练后部署于动态世界中，而其中的事实性知识并非静止不变。新事实不断涌现，旧事实逐渐过时，概念间的关联随时间增强或减弱。在部署时被冻结的模型无法适应这些变化。

现有的持续学习方法面临显著局限：

• 参数化持续学习：更新模型权重以吸收新信息存在灾难性遗忘的风险，计算成本高昂，且对于将模型作为服务使用的开发者而言往往不可行。此外，单一的更新机制无法区分以不同速率变化的知识。
• 外部记忆增强：当前的检索增强生成（RAG）和记忆增强系统保持骨干网络冻结，但依赖外部记忆存储。然而，这些系统通常通过固定规则（如追加、修剪或时间衰减）显式地管理记忆。它们并非通过重塑内部关联结构来“学习”；关联不会因重复而增强，也不会因缺乏证据而自然减弱。

核心挑战在于构建一个能够进行选择性适应的系统：通过持续证据强化已确认的关联，放弃缺乏支持的关联，并在不修改底层 LLM 骨干网络的情况下持续完成这一过程。

2. 方法论：Memini 系统

作者提出了Memini，这是一种通过多时间尺度动力驱动的记忆重组来实现持续学习的范式，而非依赖外部管理或参数更新。

2.1. 记忆架构

Memini 利用一个持久有向图 $G = (V, E)$，其中：

• 节点（$V$）：代表从输入文档流中提取的实体或概念。
• 边（$E$）：代表有向关联（$A \to B$）。与先前的基于图的系统不同，边是无标签的（含义编码在连接模式中），并携带持久且演变的权重。

2.2. 多时间尺度边动力学

核心创新在于每条边的内部状态。遵循Benna-Fusi 突触巩固模型，每条有向边 $(A, B)$ 维护两个耦合的内部变量：

1. $w_{fast}$（快变量）：可访问分量。它直接对共现事件（输入 $I(t)$）做出响应，快速衰减（$\tau_{fast}$），并且是检索期间读取的唯一变量。
2. $w_{slow}$（慢变量）：隐藏的巩固分量。它不接收直接的外部输入。它仅通过与 $w_{fast}$ 的双向耦合而改变，且衰减速度要慢得多（$\tau_{slow} \gg \tau_{fast}$）。

动力学由以下微分方程控制：
$$\frac{dw_{fast}}{dt} = -\frac{w_{fast}}{\tau_{fast}} + C(w_{slow} - w_{fast}) + I(t)$$
$$\frac{dw_{slow}}{dt} = -\frac{w_{slow}}{\tau_{slow}} + C(w_{fast} - w_{slow})$$

其中 $C$ 是耦合强度，$I(t)$ 是共现输入。

2.3. 涌现行为

这种耦合在不依赖显式规则或门控模块的情况下产生了三种关键行为：

• 事件敏感性：单次共现会导致 $w_{fast}$ 急剧上升，形成瞬态痕迹；若未得到强化，该痕迹会迅速衰减。
• 渐进巩固：重复的共现会反复提升 $w_{fast}$，进而通过耦合逐渐将 $w_{slow}$ 拉高。一旦 $w_{slow}$ 积累，即使直接输入停止，它也能维持 $w_{fast}$，从而使关联从事件性过渡到稳定性。
• 选择性遗忘：停止接收强化的关联会衰减。由于 $w_{slow}$ 衰减缓慢，它能在一段时间内维持 $w_{fast}$，但长期缺乏证据会导致关联最终消失。这重新定义了遗忘，将其视为一种功能性机制，使记忆与当前世界状态保持一致，而非一种失败。

2.4. 基于扩散激活的检索

检索通过在图上的扩散激活进行。查询实体激活种子节点，激活沿边传播，权重由 $w_{fast}$ 的当前值决定。

• 系统读取当前记忆状态，但在检索过程中不修改它。
• 由于 $w_{fast}$ 同时反映了近期性（近期输入）和巩固性（由 $w_{slow}$ 维持），在不同时间发出的相同查询会遍历不同的路径，并根据证据历史检索到不同的上下文。

3. 主要贡献

1. 持续学习的新范式：本文主张区分“积累”记忆（增长存储）与“学习”记忆（通过动力学重组结构）。Memini 将学习实现为关联权重的自主重组。
2. 受生物学启发的动力学：它将 Benna-Fusi 突触巩固模型适配到 LLM 外部记忆中，利用耦合的快/慢变量来解决可塑性 - 稳定性权衡问题。
3. 涌现的选择性：系统实现了选择性保留和遗忘作为动力学的涌现属性，消除了对显式删除规则、阈值或外部管理器的需求。
4. 底层的分离：该设计将语言处理底层（冻结的 LLM）与学习底层（动态记忆）分离开来，允许记忆在不修改模型权重的情况下持续演变。

4. 实验结果

作者使用包含 13 篇按时间顺序排列的关于 COVID-19 大流行的维基百科文章（涵盖四个阶段：起源、遏制、疫苗、变异株）的流进行了初步验证。

• 设置：在流中追踪了 20 个实体。系统使用了双变量的 Benna-Fusi 实现（$\tau_{fast}=2, \tau_{slow}=10, C=0.2$）。
• 定性验证：系统成功展示了三种预测的机制：
  • 事件性：“蝙蝠 - SARS-CoV-2"（单次提及）显示 $w_{fast}$ 出现瞬态尖峰并迅速衰减。
  • 巩固："mRNA - 疫苗”（第三阶段中重复提及）显示 $w_{slow}$ 上升，并在直接输入停止后长期维持 $w_{fast}$。
  • 近期敏感性：“德尔塔 - 疫苗”（近期重复提及）由于衰减时间较短，保留了比旧巩固对更高的权重。
• 消融研究：将 Memini 与单时间尺度消融（移除 $w_{slow}$）和均匀保留基线（无衰减）进行了比较。
  • 结果：对于“重复提及但不再提及”的关联，Memini 保留的平均权重比单时间尺度消融大约30 倍。
  • 意义：这一差距隔离了慢变量的贡献，证明其对于保留旧但先前已确认的知识是必要的。
  • 对照：对于“提及较少且不再提及”的对，两个系统都衰减至接近零，而均匀基线保留了它们（证明了无遗忘的代价）。

5. 意义与主张

本文主张 Memini 代表了对外部记忆概念化的转变：从由外部规则管理的静态存储转变为通过自身动力学进行重组的学习底层。

• 理论贡献：它证明了事件敏感性、渐进巩固和选择性遗忘可以从单一机制（耦合的多时间尺度动力学）中涌现，而无需独立的存储或模块。
• 实际意义：通过将学习与 LLM 骨干解耦，Memini 提供了一条持续知识更新的路径，避免了与参数更新相关的灾难性遗忘和计算成本。
• 适度范围：作者明确指出，当前工作是一项理论设计，仅在小型受控数据集（13 份文档）上进行了初步验证。他们承认，扩展到包括检索基准和更大文档流在内的完整实证验证仍是 immediate 的下一步。本文并未声称解决所有持续学习问题，而是提出了一种管理关联知识时间动力学的特定机制。