Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing
本文通过证明序列化印记编辑（engram editing）表现出路径依赖性和非交换行为，从而证伪了AI印记框架中的组合记忆状态假设（Compositional Memory States Hypothesis），进而证明在累积的序列负载下，记忆擦除并非一种稳定的修复手段。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
想象一下，你拥有一个巨大的、神奇的图书馆，里面的每一本书都是由一个超级聪明的机器人编写的。这个机器人不仅能阅读书籍，还能从学到知识，将其存储在由数字构成的“大脑”中。科学家们最近发现了一种方法，可以在机器人的大脑中找到这些特定的记忆并将其抹除，就像从电脑中删除单个文件一样。这个过程被称为“机器遗忘”（machine unlearning），这件大事之所以重要，是因为如果机器人学到了不该学的东西（比如秘密或有害的事实），我们需要能够让它忘记那件特定的事情，而不破坏它大脑的其他部分。
把机器人的大脑想象成一张巨大的、复杂的网状结构。当机器人学习某样东西时，它会拉紧某些线条。为了让它遗忘，科学家们发现了一种方法，可以精准地剪断特定的线条来放松那段特定的记忆。最近的一项研究表明，如果你想让机器人忘记两件不同的事情，先剪哪一个都无所谓，最终结果都会是一样的，就像把蓝色和黄色颜料混合成绿色，无论你先倒蓝色还是先倒黄色，结果一样。他们称之为“交换流形”（commutative manifold），这是一个高级术语，意思是指操作的顺序不会改变结果。但这篇文章提出了一个非常重要的问题：如果不断地重复剪断线条会发生什么？机器人的大脑会疲劳吗？顺序真的重要吗？
这篇文章就像是一位材料科学家在测试一座桥梁。他们不仅仅是检查桥梁能否承载一辆汽车，而是连续开过一辆重型卡车，接着又是一辆，再接着又是一辆，以此来观察金属是否会出现疲劳或裂纹。研究人员采用了前一项研究中的精确方法，并在三个不同规模（模型）的机器人大脑上进行了测试。他们不仅仅是剪断一个记忆，而是连续剪断了一系列记忆，一个接一个，并观察着那些并未被触碰的记忆会发生什么。
以下是他们的发现，事实证明，“顺序无关紧要”这个观点其实是错误的。
首先，他们发现机器人的大脑具有路径依赖性（path-dependent）。这意味着你所做过的事情的历史很重要。如果你先剪掉记忆 A 再剪掉记忆 B，机器人最终呈现的状态与先剪 B 再剪 A 是完全不同的。事实上，这种差异巨大。如果两件要遗忘的事情关系紧密，这种差异大约达到 81% 到 100%，如果它们关系较远，差异大约在 47% 到 68% 之间。这就像折叠一张纸：如果你先向左折再向右折，它最终的形状会与先向右折再向左折不同。机器人的大脑会记住剪断的顺序，而最终的结果会根据顺序而改变。
其次，他们发现重叠会让顺序变得更加关键。如果两件你想让机器人遗忘的事情是有联系的（例如“埃菲尔铁塔”和“卢浮宫”，两者都是著名的巴黎地标），那么剪断它们的顺序对结果的影响几乎等同于剪断动作本身。在一次特定的测试中，在剪断埃菲尔铁塔记忆之前先剪断卢浮宫的记忆，导致机器人完全遗忘了第三件完全无关的事情，即罗马的斗兽场。但如果他们先剪断埃菲尔铁塔，斗兽场的记忆就保住了。剪断的顺序竟然决定了一个原本未被触及的记忆是生存还是死亡。
第三，论文显示机器人的大脑会积累疲劳。每当他们剪断一个记忆时，那些未被触碰的部分也会开始移动和变形。研究人员使用机器人的内置“应变计”（用于追踪数据组织方式的数学工具）测量了这一点。他们观察到，随着每一次新的剪断，这些未被触碰的部分也会离原始状态越来越远。这就像反复弯曲一个回形针，即使你没有折断你正在握住的部分，金属也会随着时间的推移而变弱并改变形状。
最后，或许是最令人惊讶的发现，他们发现遗忘并不像我们想象的那样永久。当他们剪断第二个或第三个记忆时，机器人有时会开始“想起”他们试图抹除的第一件事。在一个案例中，一个几乎完全消失的记忆（得分为 8.91）仅仅因为随后剪断了另一个无关的记忆，其分数就显著回升到了 4.85。编辑大脑以遗忘某事的行为，实际上将一些被抹除的知识重新推回了机器人的脑海中。
那么，这意味着什么？“你可以按任何顺序抹除记忆并获得完美、稳定的结果”这一想法是错误的。如果你今天使用这种方法让机器人忘记某事，然后明天再次编辑它以让它忘记另一件事，机器人可能会意外地重新记起第一件事。你今天获得的“擦除证明书”到明天可能就不再有效了。机器人的大脑不是一个你可以直接删除文件的静态对象，它是一个活生生的、不断变化的系统，你编辑的历史会改变未来。科学家们并没有弄坏机器人，但他们证明了“魔术橡皮擦”是有极限的：它在进行单次剪断时效果很好，但如果你持续使用它，顺序就会变得至关重要，大脑会感到疲劳，而被遗忘的东西可能会卷土重来。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。