🤖 machine learning

Geometry of Forgetting: Representation Flux in Continual Learning

本文引入了“表示通量”（representation flux）这一将潜在表示位移与灾难性遗忘联系起来的几何度量，并提出了 FlowLess-R，一种通过在持续学习过程中约束表示变化来缓解遗忘的与架构无关的正则化方法。

原作者： Maksim A. Kazanskii

发布于 2026-08-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Maksim A. Kazanskii

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

人工智能已经掌握了从海量数据中学习的能力，但它却在面对一个类似于人类的基本挑战时显得力不从心：如何在学习新知识的同时，记住昨天所学到的内容。在机器学习领域，这种现象被称为“灾难性遗忘”。当一个神经网络（一种模仿大脑结构的计算机系统）在处理一系列不同的任务时进行顺序训练，它往往会为了容纳新信息而覆盖掉之前的知识。想象一下，一名学生在学习一门新语言时，突然忘记了上周学习的词汇。几十年来，研究人员一直试图通过减缓计算机内部设置的变化速度，或者强制系统定期复习旧示例来解决这个问题。虽然这些方法有所帮助，但它们通常将问题视为调整机器内部数值的问题，而对计算机内部“理解”如何发生偏移的深层机制却基本未加探索。

一位研究人员现在将注意力转向了这一隐藏的理解层面，提出防止遗忘的关键不在于机器的设置，而在于其创建的“表示”（representations）的稳定性。在这些系统中，每一张图像或每一条数据都被转换为高维空间中的一个独特点，这是一个几何地图，相似的项会聚集在一起，而不同的项则会彼此远离。该研究人员发现，当计算机遗忘一项任务时，是因为这些内部点移动得太远、太快。他引入了一个被称为“表示通量”（representation flux）的概念，该概念衡量了特定数据点在相邻两次训练之间在内部空间中所移动的距离。通过追踪这些运动，他发现数据点位置的剧烈且突然的跳跃，是系统即将失去正确识别该项能力的可靠早期预警信号。

研究始于观察这些内部点在计算机学习一系列任务（如识别不同类型的手写数字或衣物）时的行为。研究人员注意到一个清晰的模式：在计算机对先前学习过的项目出错之前，该项目的内部表示往往会经历显著的位移。这种运动并非随机，它与计算机预测能力的信心下降密切相关。当内部点移动巨大距离时，系统对识别该物体的确定性会大幅下降。相反，当点保持相对静止时，系统便能保留其知识。这一观察结果表明，遗忘不仅仅是记忆检索的失败，更是数据在机器心智中物理位置的漂移。研究人员发现，这种关系在各种数据集（从简单的手写数字到复杂的日常物体图像）中均成立，表明这些内部空间的几何结构对于这些系统如何学习和遗忘至关重要。

受此发现的启发，研究人员开发了一种名为 FlowLess-R 的新方法来稳定这些内部运动。该方法并不试图冻结计算机的整个“大脑”或限制其学习能力，而是专注于让旧示例的内部点保持锚定状态。当系统将一张旧图像保存到其记忆库以备日后复习时，它也会同时记录下该图像在那个时刻的精确内部点位置。在未来的训练阶段，每当系统再次查看该旧图像时，它都会轻轻地将当前的内部点拉回到最初存储的那个位置。这创造了一种“系绳”，防止该点过度游走，从而确保系统对该旧示例的理解即使在学习新事物时也能保持一致。该方法具有灵活性，可以添加到现有的学习系统中而不改变其基本架构，起到一种维持内部地图稳定的简单约束作用。

应用该方法的成果是显著的。当与标准的记忆复习技术结合使用时，FlowLess-R 始终能降低计算机随时间流逝而丢失知识的速率。在涉及任务序列的测试中，该方法大幅降低了遗忘率，根据图像复杂度和记忆库大小的不同，改进幅度在近 6% 到 19% 之间。至关重要的是，这种记忆保持能力的提升并没有以牺牲学习新任务的能力为代价；在许多情况下，系统在所有任务上的最终准确率实际上反而提高了。研究人员还测试了网络中哪个部分的稳定化最为有效，发现将点锚定在靠近最终决策层的位置效果最好。这表明，虽然系统的早期部分需要具备提取新特征的自由度，但理解的最终阶段必须保持稳定，以保留已学到的知识。

这项工作为人工智能如何处理时间的流逝和知识的积累提供了新的视角。通过将关注点从机器的可调设置转向其内部表示的运动，研究人员识别出了一个能够预测遗忘何时发生的几何标记。他们的发现表明，这些内部地图的稳定性与学习新模式的能力同样重要。所提出的方法提供了一种维持这种稳定性的简便方式，为构建能够持续学习而不丢失过去的系统提供了实用的工具。虽然本研究侧重于图像识别任务，但其背后的原理——即保持旧数据的内部表示稳定可以防止其被覆盖——为未来研究更鲁棒、更持久的人工智能开辟了道路。

技术摘要：遗忘的几何学：持续学习中的表示通量

问题陈述

灾难性遗忘是持续学习中的一个根本障碍，即神经网络在优化新任务时，其在先前学习任务上的性能会发生退化。现有方法主要通过参数正则化（如 EWC、SI）或经验回放（ER）来缓解遗得，但对于学习到的表示空间内发生的几何动力学过程了解较少。目前的方法通常侧重于参数更新或来自前序模型的特征蒸馏，对于理解导致遗忘的特定几何过程（例如潜表示的位移）提供的见解有限。

研究方法

1. 作为几何标记的表示通量

作者引入了表示通量（representation flux），这是一个几何量，定义为样本的潜表示在连续训练轮次（epoch）之间的位移幅度。形式上，对于第 $t$ 轮的样本 $x$ ，其通量为 $\Phi(x, t) = \|z_{t+1} - z_t\|_2$ ，其中 $z_t = f_{\theta_t}(x)$ 。

本文通过在多个基准测试（SplitMNIST、SplitFashionMNIST、SplitCIFAR10、SplitTinyImageNet）上的实证分析，研究了该通量与灾难性遗忘之间的关系。来自这些分析的关键发现包括：

时间先行性： 高表示通量往往出现在硬遗忘（hard forgetting）的峰值之前，尤其是在任务边界处。
样本级相关性： 表示位移的幅度与样本被遗忘的概率之间存在强正相关性。
置信度动态： 较大的表示位移与预测置信度的显著下降相关，而置信度的提升则集中在较低的通量水平。
几何预测因子： 表示通量是样本级遗忘的一个强判别器（优于仅使用局部表示密度），并且在结合密度及其他几何描述符（如密度泄漏）时能提供互补信息。

2. FlowLess-R：表示空间正则化

受“大表示位移与遗忘相关”这一观察结果的启发，作者提出了 FlowLess-R（针对表示的 FlowLess）。与约束网络权重或从冻结的教师网络中蒸馏特征的方法不同，FlowLess-R 直接在表示空间内操作，以约束累积漂移。

机制：

参考锚定： 当样本 $x_i$ 被添加到回放缓冲区时，计算并存储其潜表示 $\tilde{z}_i = f_{\theta_i}(x_i)$ 作为固定参考。
正则化损失： 在随后的训练期间，当前表示 $z_i = f_{\theta}(x_i)$ 会因偏离其存储的参考值而受到惩罚。正则化损失定义为：
$L_{flux} = \frac{1}{N_r} \sum_{i=1}^{N_r} \|z_i - \tilde{z}_i\|_2^2$
集成： 该项被添加到标准的持续学习目标函数中（ $L = L_{CL} + \lambda L_{flux}$ ）。该方法与架构无关，可以集成到现有的基于回放的方法（ER、DER++、ER-ACE）中，而无需修改网络架构。

关键结果

作者在四种数据集和三种基准回放方法（ER、DER++、ER-ACE）上，使用 MLP 和 ResNet-18 骨干网络对 FlowLess-R 进行了评估。

减少遗忘： FlowLess-R 在所有基准测试中一致地降低了平均遗忘量。
- ER： 在所有四个数据集上均实现了具有统计显著性的遗忘减少（例如，在 SplitMNIST 上为 -8.68%，在 SplitTinyImageNet 上为 -5.96%）。
- DER++： 显示出实质性的改进，特别是在 SplitTinyImageNet（-19.07%）和 SplitCIFAR10（-13.61%）上。
- ER-ACE： 在所有基准测试中一致地减少了遗忘，并在 SplitMNIST、SplitFashionMNIST 和 SplitCIFAR10 上取得了显著收益。
准确率保持： 在大多数设置下，遗忘的减少伴随着最终平均准确率的提高或维持，这表明正则化并未以牺牲学习新任务为代价。
层消融实验： 在 SplitMNIST 上的实验表明，将正则化应用于最后一层隐藏层效果最好，这表明稳定分类器之前的表示比约束早期特征提取层更有效。
可扩展性： 该方法在不同的回放缓冲区大小下表现出鲁棒性。值得注意的是，在 SplitTinyImageNet 上，随着回放容量的增加，FlowLess-R 的收益变得更加显著，这可能是由于拥有了更广泛的存储表示锚点。
密度加权： 测试了一个可选的密度加权变体，但发现其相比于无权重公式并无显著优势，因此作者在主要实验中采用了更简单的无权重版本。

意义与主张

本文声称提供了一个统一的样本级几何特征描述，用于刻画表示动态与灾难性遗忘。其主要贡献如下：

识别表示通量： 本研究确立了表示通量作为一个信息丰富的几何标记，证明了它可以作为随后性能下降的早期指标。
几何视角： 它将关注点从参数空间约束转向潜表示密度的演化，为现有的参数正则化方法提供了互补的视角。
简单且有效的正则化： FlowLess-R 被呈现为一种简单、与架构无关的策略，它通过将回放样本锚定到其历史参考值来稳定潜表示。它仅需在训练期间增加一个表示匹配项。
互补性： 结果表明，直接约束累积表示漂移（通过 FlowLess-R）可以与现有的缓解突发任务边界干扰的机制（如 ER-ACE 的非对称更新）相辅相成。

作者在理论保证方面保持谦逊，指出虽然表示通量是一个信息丰富的经验标记，但建立这些动态与泛化之间关系的理论保证仍是一个开放性问题。他们还承认，目前的研究侧重于图像分类和基于回放的方法，将正则化方法、序列决策和语言模型作为未来的研究方向。