In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models

人类大脑是学习的大师。它能够习得一项新技能，比如弹奏一个吉他和弦，而不会立即忘记如何骑自行车。这种在终生积累知识的能力被称为持续学习。相比之下，人工智能系统（由被称为神经网络的数学连接层构建而成）在处理同样的任务时却表现得极其吃力。当这些机器学习一组新信息时，它们往往会覆盖旧信息，从而抹除之前所知的一切。这种被称为“灾难性遗忘”的现象，是因为机器的内部设置为了适应新数据进行了调整，从而在无意中破坏了处理旧数据所需的模式。为了让机器人或软件变得真正具有持久性和适应性，它们必须解决这个问题，即在不丢失过去的情况下进行持续学习。

为了理解如何解决这个问题，研究人员经常向生物学寻求灵感。在哺乳动物的大脑中，一个被称为海马体的结构充当了新记忆的临时存放区，而新皮层则存储长期知识。每天晚上，在大脑睡眠期间，大脑会重放近期的经历，将它们从临时存放区转移到长期存储区。此外，大脑分为两个半球，它们的工作方式通常各不相同：一侧倾向于以灵活的方式处理新的、新颖的信息，而另一侧则负责管理既定的常规，保持稳定性。来自莫纳什大学和CSIRO机器人研究中心的一组研究人员借鉴了这些生物学原理，构建了一种全新的计算机架构，试图以此阻止人工智能产生遗忘。

研究人员创建了一个名为 4MAS 的系统，代表“4 模块醒/睡”（4 Module Awake/Sleep）。该系统并非由单一、庞大的大脑组成，而是由两个不同的半部分，即模拟生物大脑左右侧的“半球”构建而成。每个半球都拥有自己的记忆系统：一个持有近期观察到的少量样本的短期缓冲区，以及一个学习数据整体形态的长期生成器。该系统按照一个在“清醒”与“睡眠”之间交替运行的周期进行运作。在清醒阶段，系统利用真实数据学习新任务，同时也会回顾其短期记忆中的示例。在睡眠阶段，不再引入新数据。相反，两个半球会相互交流。它们生成关于已学知识的合成示例，并利用这些示例来相互微调，从而在整合新知识的同时，强化旧知识。

这一设计的一个核心创新在于，这两个半球并非完全相同。研究人员为它们设定了不同的“个性”。其中一个半球被调校得更加稳定且保守，专注于保护已有的知识；另一个则被调校得更具可塑性和探索性，渴望适应新的模式。这种分工协作使得系统能够平衡学习新事物的需求与保留旧事物的需求。研究人员在几项标准的图像识别挑战上测试了这一架构，在这些挑战中，机器必须一个接一个地学习新的图像类别，而不再能看到旧的图像。

结果令人瞩目。在一个简单的手写数字数据集上，该系统的准确率达到了 98.3%，几乎与同时看到所有数据的模型表现持平。在一个更复杂的服装图像数据集中，它达到了 84.9% 的准确率，显著优于其他试图防止遗忘的方法。即使是在一个包含 100 个不同物体类别的极难数据集中，该系统也实现了持续学习，达到了 29.29% 的准确率，这优于之前的最佳方法。研究表明，该系统不仅仅是死记硬背新数据，它还保留了旧数据，且损失极小，研究人员将这一指标称为“表示漂移”（representational drift）。系统在学习未来的同时保持过去的能力，直接归功于“睡眠”阶段。当研究人员移除睡眠周期时，系统的性能下降，且两个半球无法有效地协同工作。

实验还揭示了两个半球之间的具体差异至关重要。当两个侧面被设定为完全一致时，系统的表现反而变差了。只有当一侧允许灵活变化而另一侧保持稳定时，系统才表现出色。这表明，拥有执行不同任务的专业化部分，比依靠一个试图完成所有工作的统一部分更为有效。研究人员发现，当“睡眠”学习率保持在极低水平时，系统运行效果最好，这允许进行细微的调整而非剧烈的改变。他们还发现，系统需要少量的记忆来存储近期的示例，但一旦这种记忆达到一定规模，再扩大规模也不会带来太多帮助。

这项工作并不声称已经永久解决了人工智能的问题，也不暗示机器很快就会像人类一样做梦。所使用的模型相对简单，且是在特定的、受控的数据集上运行的。然而，研究结果提供了一条清晰的前行路径。通过模仿将记忆任务分配给两个专业化侧面的生物学策略，并利用休息期来巩固知识，工程师可以构建出更像生物体的机器。这项研究证明，长期困扰人工智能的“稳定性-可塑性困境”，可以通过不强求单一系统完成所有工作，而是通过创建一个通过工作与休息循环相互支持的专业化代理团队来加以管理。