🤖 AI

Repeated Shared Access Enables Grokking, but Edit Propagation Depends on a Fine-Grained Addressable Memory

本文证明了虽然重复的共享访问使模型能够克服分布外泛化的障碍（即“顿悟”），但有效的知识事实编辑传播特别需要一种细粒度的、可寻址的记忆基质，该基质允许前向计算进行写入并随后重新读取已编辑的事实，而循环递归本身仅能部分提供这种能力。

原作者： Yanan Niu

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Yanan Niu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在教一个机器人解决一个简单的谜题：“如果爱丽丝是鲍勃的兄弟，而鲍勃是查理的兄弟，那么爱丽丝对查理来说是什么关系？”

这篇论文研究了不同类型的“机器人大脑”是如何学习这个谜题的，更重要的是，当你告诉它们：“实际上，爱丽丝是鲍勃的姐妹”时，它们能多好地更新自己的答案。

研究人员测试了四种不同的机器人大脑设计，以观察它们能否学会这个谜题，以及它们能否在不破坏其他部分的情况下，轻松地更新其记忆。

四种大脑设计

把这四种设计想象成学生备考的不同学习方式：

“一次性”阅读者 (Dense/稠密型)： 这个学生从头到尾读一遍教科书。他们擅长背诵书中的精确句子，但如果你问一个需要组合两个从未在一起出现过的事实的棘手问题，他们就会卡住。
“反复阅读者” (Loop/循环型)： 这个学生反复阅读同一个短章节（循环）。通过反复阅读，他们最终可以弄明白“一次性”阅读者错过的那些棘手的组合事实。
“做笔记的人” (Dense+Mem/稠密+记忆型)： 这个学生读一遍书（像第一个学生一样），但他有一个专门记录关键事实的笔记本。每当需要时，他都可以查阅笔记本里的事实。
“反复阅读且做笔记的人” (LMC/循环+记忆型)： 这个学生两者兼备：他既会反复阅读章节，也有一个笔记本可以查阅事实。

重大发现：学习与编辑

论文发现了一个令人惊讶的分歧：学习谜题与编辑事实之间存在差异。

1. 学习谜题 (Grokking/顿悟)
要学习这个棘手的谜题（即需要结合两个步骤），机器人需要对信息进行重复访问。

“一次性”阅读者失败了。
“反复阅读者”、“做笔记的人”以及“反复阅读且做笔记的人”都成功了。
教训： 如何获得重复访问并不重要（无论是通过重读同一段文本还是查阅笔记）。只要大脑在思考过程中多次看到该事实，它就能学会这个谜题。

2. 编辑事实 (真正的惊喜)
现在，假设你告诉机器人：“把‘爱丽丝是鲍勃的兄弟’这个事实改为‘爱丽丝是鲍勃的姐妹’。”你希望机器人的整个谜题答案能自动更新。

“反复阅读者” (Loop) 在这里失败了。 尽管他们学会了谜题，但当你改变一个事实时，机器人无法正确更新最终答案。这就像你在反复阅读的一本书中划掉了一个词；机器人会在脑海中不断重读旧版本，因为它没有一个专门的地方来写下新版本。
“做笔记的人” (Dense+Mem 和 LMC) 完美成功。 因为他们有一个特定的、可寻址的笔记本（记忆存储器），你可以走到“爱丽丝”被写下的那一页那一行，把它划掉，然后写上“姐妹”。当机器人重新阅读谜题时，它会立即看到新的笔记并更新答案。
“一次性”阅读者也无法更新，仅仅是因为它最初根本没学会这个谜题。

核心隐喻：白板 vs 回声

论文使用了一个很好的区分：共享访问 (Shared Access) 与 可寻址记忆 (Addressable Memory)。

回声 (Loop)： 想象一个房间里有一个麦克风和一个扬声器。如果你说“爱丽丝是鲍勃的兄弟”，房间就会回荡这句话。如果你想改变它，你必须对着回声大喊。回声是混乱的；你无法轻易地隔离出其中一个句子进行修改，而不影响整个房间的声音。这就是为什么“反复阅读者”的大脑在编辑事实时表现挣扎。
白板 (Memory)： 想象一块白板，上面写着“爱丽丝是鲍勃的兄弟”。如果你想改变它，你走上前去，找到那个特定的位置，擦掉它，然后写上“姐妹”。房间的其他部分保持安静。这就是为什么“做笔记的人”的大脑如此擅长编辑。

“细粒度”的细节

研究人员还发现，白板的“质量”很重要。

如果白板很大，并且为每个事实都设有微小、特定的位置（细粒度/Fine-Grained），你就可以在改变一个事实的同时，不会意外地弄脏旁边的其他事实。
如果白板很小且拥挤，改变一个事实可能会意外地擦除或改变相邻的事实。
论文显示，“反复阅读且做笔记的人”配合细粒度的白板，可以实现100% 的成功率，且对无关事实造成的损伤几乎为零。

总结发现

为了学习： 你只需要多次看到信息。无论是通过循环（反复阅读）还是使用记忆（查阅笔记），这并不重要；两者都有效。
为了编辑： 你需要一个特定的地址。你需要一个存储事实的具体位置，你可以前往那里、修改它，并让大脑的其他部分随后看到这一变化。
- 单纯的循环不足以实现编辑，因为它只是一个重复的回声，而不是一个特定的存储点。
- 记忆（一个特定的可寻址存储器）是成功编辑的关键。

简而言之： 你可以通过让机器人反复思考事实来教会它解谜。但如果你想稍后修正机器人记忆中的错误，你必须给它一张可以写下更正内容的“便利贴”，而不是仅仅让它重复旧的故事。

技术摘要：重复共享访问实现“顿悟”（Grokking），但编辑传播取决于细粒度的可寻址存储

问题陈述

本文研究了组合推理任务中事实编辑传播（factual edit propagation）背后的机制。虽然最近的研究表明，循环 Transformer（looped transformers）和记忆增强模型（memory-augmented models）都可以克服“顿悟”障碍（即标准密集型 Transformer 在处理分布外（OOD）组合时出现的延迟泛化问题），但目前尚不清楚这些架构在编辑方面的功能是否等效。具体而言，如果一个模型成功学习了一个组合任务，那么对单个原子事实进行的局部编辑是否能正确传播到下游组合中？作者旨在确定，编辑传播能力是重复共享访问（学习的一个共同要素）的结果，还是需要一种特定的可寻址存储（addressable memory）基质。

研究方法

本研究采用了一个受控的合成知识图谱（KG）问答设置（基于 Wang 等人 [26]），涉及原子事实和 2-hop 组合。作者利用一个 2×2 实验网格，交叉了两个因素：

骨干类型（Backbone Type）： 密集型（单次通过）vs. 循环型（带有权重绑定的重复重计算）。
记忆访问（Memory Access）： 无记忆 vs. 共享记忆（在迭代之间查询显式存储）。

这产生了四种架构：

Dense（密集型）： 标准 Transformer，无记忆，无循环。
Loop（循环型）： 循环 Transformer，无外部记忆。
Dense+Mem（密集+记忆）： 具有共享记忆的密集型骨干（无循环）。
LMC（循环-记忆耦合）： 具有共享记忆的循环型骨干。

实验协议：

研究 1（学习）： 测量“顿悟”（即 OOD 准确率超过 0.1 的时刻）以识别哪些架构跨越了泛化障碍。辅助控制变量包括单共享 FFN 记忆和部分共享循环，用以隔离稀疏路由和全递归的必要性。
研究 2（编辑）： 使用通用的编辑传播协议。对每个基质应用一次成功的直接编辑（翻转单个跳步预测）。通过测量 2-hop 组合是否正确更新以反映新的桥接事实，来评估传播情况。
定位（Localization）： 使用因果补丁（causal patching）和交换干预（interchange interventions）来验证事实是否存储在特定的、占主导地位的记忆位点中，并在组合过程中被重复使用。
诊断： 使用 “HOLDANS”（保持答案子空间）交换诊断来测量事实注入的时机和重用窗口的大小。

核心贡献

1. 重复共享访问是实现“顿悟”的使能原则

论文证实，重复共享访问是实现 OOD 泛化（顿悟）的共同要素，无论具体的实现方式如何。

Loop（重复重计算）和 LMC/Dense+Mem（重复读取记忆）都成功跨越了 OOD 障碍。
Dense 模型（无共享）无法实现泛化。
辅助控制显示，稀疏 MoE 路由对于顿悟并非严格必要（单个共享 FFN 即可满足），同样，全权重绑定也不是必须的（部分共享即可生效）。关键因素是跨迭代重用承载事实的基质的能力。

2. 事实向可寻址位点的定位

在 LMC 架构中，研究表明原子事实被定位到占主导地位的记忆专家（experts）中，并在组合过程中被重用。

单存储机制（Single-Store Regime）： 对于 199/199 个测试的原子，在单跳步骤（step0）中的主导专家与该事实作为 2-hop 查询中的桥接事实时（step1）所使用的主导专家是完全一致的。
因果控制： 抑制主导专家会导致召回率崩溃，而抑制其他专家则不会。桥接替换干预确认了组合依赖于迭代的单跳查找，而非直接的 2-hop 记忆。

3. 可寻址性决定编辑传播

核心发现是学习能力与编辑能力之间的脱节。虽然重复访问可以实现学习，但可寻址存储是实现鲁棒编辑传播的必要条件。

具备记忆能力的基质（LMC, Dense+Mem）： 表现出强大的编辑传播能力（0.71–0.96）。对单个事实进行的局部编辑能成功更新 2-hop 组合。
无记忆基质（Loop, Dense）： 表现出微弱或不存在的传播。
- Loop： 显示出中间程度的传播（0.04–0.30）。它共享计算，但缺乏一个明确的可寻址位点来进行针对性编辑。
- Dense： 近乎零传播（0.00–0.03）。
统计分离： 具备记忆能力的单元与无记忆单元之间的差异具有统计学意义（Mann–Whitney $p=0.008$ ），而两种具备记忆能力的单元之间则无显著差异（ $p=0.55$ ）。

4. LMC 编辑的精确度

LMC 的编辑具有高度精确性。

单行编辑（One-Row Edits）： 仅修改主导记忆位点中激活值最大的那一行（ $m=1$ ），即可实现 100% 的直接成功率，并在内部探测中达到 0.989 的平均传播率。
局部性： 这种稀疏编辑将对无关事实的附带损伤降至最低（约 0.1%）。然而，“共存”事实（共享相同专家的事实）可能会按隐藏状态相似度比例发生泄漏，这支持了局部性的叠加态（superposition）观点。

结果汇总

架构	骨干	记忆	顿悟 (OOD)	编辑传播 (强)
Dense	Dense	无	否	0.00 – 0.03
Loop	Looped	无	是	0.04 – 0.30 (中间)
Dense+Mem	Dense	共享	是	0.71 – 0.96 (强)
LMC	Looped	共享	是	0.78 – 0.92 (强)

注入窗口： “HOLDANS” 诊断表明存在粗略的顺序：LMC 将事实较早注入到一个可寻址位点，且具有较宽的重用窗口；Loop 注入较晚且窗口较窄；Dense 则没有可靠的窗口。然而，这是一个基质层面的解释，并不预测种子层面的传播（例如，在 Loop 内部，高 HOLDANS 分数并不与高传播率相关联）。

重要性与主张

本文声称提供的是一项受控机制研究（用于研究编辑传播的“模式生物”），而非提出一种新的架构。其重要性在于：

解构学习与编辑： 它证明了使模型能够学习组合任务的机制（重复共享访问）与使模型能够编辑这些任务的机制（细粒度可寻址性）是不同的。
完善对循环的作用理解： 循环 Transformer 被证明是编辑能力的中间、部分案例。它们共享计算（实现学习），但缺乏进行干净、针对性编辑所需的显式可寻址位点。
可寻址性的必要性： 成功的编辑传播取决于基质是否暴露了一个细粒度的可寻址存储，供前向计算进行写入并随后重新读取。
粒度依赖性： 论文指出，记忆带来的编辑优势随可寻址存储的精细程度而变化。虽然主要结果使用了细粒度路由（ $N=128$ ），但在粗粒度测试（ $N=13$ ）中，优势依然存在但有所减弱，这表明“可寻址性”是核心因素，尽管其效能受路由粒度的调节。

作者明确指出，这些发现源于受控的合成设置，并未声称在未经进一步验证的情况下可以直接推广到自然语言预训练或检索增强系统。这项工作建立了一个机械性前提：为了实现编辑传播，模型必须将事实存储在一个可寻址的、在循环内的记忆中，并由正常的计算过程进行重读。