🤖 machine learning

Noise-Driven Escape from Metastable Phases explains Grokking in Deep Neural Networks

本文将深度神经网络中的“顿悟”（grokking）现象解释为由 L2 正则化诱导的一阶相变过程中，从亚稳态向下的噪声驱动逃逸，其中随机梯度下降噪声最终使模型能够克服能量势垒，并在长时间过拟合后实现泛化。

原作者： Ibrahim Talha Ersoy, Karoline Wiesner

发布于 2026-06-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Ibrahim Talha Ersoy, Karoline Wiesner

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心思想：为什么 AI 有时会“突然开窍”

你可能听说过一种被称为 “Grokking”（顿悟/大彻大悟） 的奇特现象。在这种现象中，神经网络（一种 AI 类型）似乎在很长一段时间内表现得很差，只是在死记硬背训练数据，却无法理解背后的规则。然而，突然之间，它仿佛瞬间开窍，从无到有地实现了完美的理解，并开始展现出卓越的泛化能力。

这篇论文提出了一种新的解释来阐述为什么会发生这种情况。作者认为，Grokking 并非魔法，而是物理学。具体来说，这是关于陷入山谷并等待一个推力将其推离山谷的过程。

类比：徒步者与山丘

想象一下，一个深度神经网络就像一名徒步者，正试图在一个多山的地形中寻找最低点（这个地形代表了问题的“最佳”解）。

1. “L2 正则化”的景观
论文关注的是一种特定的设置，称为“L2 正则化”。你可以把它想象成一条规则，强制要求徒步者必须靠近地图的中心。

作者发现，改变这条规则的强度会改变山脉的形状。
在某些强度下，地形会创造出两个截然不同的山谷，中间由一座高山隔开。
- 山谷 A（陷阱）： 一个浅显易达的山谷，徒步者被困于此。此时的徒步者是“愚笨”的（准确率低）。
- 山谷 B（目标）： 一个更深、更好的山谷，此时的徒步者是“聪明”的（高准确率/高泛化能力）。
- 山丘： 隔开两者的陡峭山脊。

2. 问题所在：陷入困境
如果徒步者从山谷 A（“亚稳态”）出发，他们就会被困住。他们无法直接走过那座山，因为山太高了。在理想状态下，他们会永远停留在这里，导致 AI 永远无法学会。

3. 解决方案：“噪声”带来的推力
现实世界的 AI 训练使用的是一种叫做 SGD（随机梯度下降） 的技术。这个过程带有一点“噪声”或抖动感。想象一下，每当徒步者迈出一步时，地面都会轻微地晃动。

论文认为，这种抖动就像是一个随机的推力。
大多数时候，徒步者只是在浅山谷里摇晃。
但偶尔，一系列幸运的抖动会将徒步者推过山丘，进入那个深邃、聪明的山谷。
一旦跨越，他们就会滑向谷底并停留在那里。这种跨越山丘的时刻就是“Grokking”。

论文实际的研究发现

研究人员使用了一个简化版的 AI（称为“线性网络”），因为这类模型可以像进行物理实验一样完美地解决数学问题。以下是他们的证明：

1. 你可以人为制造陷阱
他们展示了通过调整“正则化”规则，可以刻意将 AI 困在“愚笨”的山谷中。

结果： 当他们让 AI 从这个陷阱开始训练时，AI 在数千个步骤（epoch）内一直保持愚笨状态。
“Grokking”时刻： 突然间，AI 脱离了陷阱，变得聪明起来。这完美模拟了现实中 AI 出现的延迟性、突发性成功的现象。

2. AI 的“温度”
论文将此与热力学中的一个概念——**阿伦尼乌斯动力学（Arrhenius kinetics）**联系起来。

将 AI 的“抖动”（由学习率和批大小引起）视为温度。
温度越高 = 抖动越剧烈： 如果你增加“温度”（通过改变学习设置），徒步者会被更快地推过山丘。
温度越低 = 抖动越微弱： 如果你降低温度，徒步者需要等待更久才能获得那次幸运的推力。
数学原理： 他们证明了逃离所需的时间遵循精确的数学定律：如果你将“抖动”增加一倍，等待时间会呈指数级下降。他们在数据中以 99.1% 的匹配度证实了这一点。

3. 每个特征对应一个陷阱
论文指出，对于 AI 需要学习的每一个独立“特征”（例如先学习加法，再学习乘法），都会有一个新的山丘和一个新的山谷。

AI 可能会在学习第一个特征时陷入困境，然后突然“顿悟”第二个特征，接着是第三个。
这解释了为什么复杂的任务可能会经历多次“恍然大悟”的过程，而不仅仅是一次。

4. “训练集与测试集”的差距
在某些实验中，当 AI 被困在陷阱中时，它看起来像是在死记硬背训练数据（训练误差低，但测试误差高）。

论文解释说，这并不是因为 AI 在进行传统意义上的“记忆”。它只是因为 AI 陷入了一个“部分解”（低秩状态）。
一旦它跳过山丘到达“完全解”，训练集与测试集之间的差距会瞬间消失。

总结

论文声称，Grokking 是一个物理逃逸过程。

AI 被困在一个“足够好”但并非“完美”的状态中。
它在那里等待，直到随机噪声（来自训练过程）给予它一个足够大的推力，使其跨越障碍。
一旦跨越，它会瞬间变得完美。

为什么这很重要？
作者表示，这为我们提供了控制 Grokking 的“遥控器”。由于逃逸时间取决于“温度”（学习率和批大小），理论上我们只需通过调整这些设置，就可以在不改变 AI 架构的情况下，加速或减慢 AI “变聪明”的速度。

重要提示： 作者明确指出，他们是在线性网络（一种简化的数学模型）中证明了这一点，并提供了证据表明这在复杂的非线性网络中也同样适用，但他们并未在医疗诊断或自动驾驶等具体的现实应用场景中进行测试。研究的重点纯粹在于学习发生的机制。

技术摘要：噪声驱动的亚稳态相位逃逸解释了深度神经网络中的顿悟（Grokking）现象

问题陈述

本文探讨了深度神经网络（DNN）中的**顿悟（grokking）**现象，即在训练损失饱和后的长时间过拟合阶段后，泛化能力出现的突然且延迟的提升。虽然之前的研究已将顿悟与正则化联系起来，或将其归因于熵垒（entropy barriers），亦或提出了玻璃态弛豫（glassy relaxation）理论，但其精确的机制起源仍存在争议。具体而言，本文旨在解释为什么模型会在低准确率状态中滞留很长时间，随后又突然过渡到高准确率的泛化状态，以及这种延迟是否受类似于相变的特定物理原理支配。

研究方法

作者采用深度线性网络作为一种极简且具有解析可解性的模型。这一选择使得研究能够获得损失函数的精确解，从而实现对亚稳态极小值和能量垒的解析定位。

L2 正则化与相变： 本研究基于先前的发现，即改变 L2 正则化强度 ( $\beta$ ) 会诱导 DNN 中发生一阶相变。在线性网络中，这些相变与数据协方差矩阵的奇异值 ( $\eta_i$ ) 相关联。对于深度 $L \ge 3$ 的网络，正则化后的损失函数会分解为每个奇异值的独立项，从而在临界正则化强度 $\beta_c$ 以下创建一个零秩（zero-rank）解与非零秩（non-zero-rank）解共存的景观。
工程化构建亚稳态陷阱： 作者利用 L2 正则化作为控制工具，通过从在 $\beta > \beta_c$ 时训练的检查点进行初始化，刻意将模型困在亚稳态的低准确率相位（例如，秩-1 或秩-0 状态）。
SGD 作为朗之万动力学： 从这些亚稳态的逃逸过程被建模为一个热激活过程。随机梯度下降（SGD）小批量（mini-batches）的随机性被映射为朗之万动力学，其有效温度为 $T_{eff} \propto \eta_{lr}/B$ ，其中 $\eta_{lr}$ 是学习率， $B$ 是批量大小。
阿伦尼乌斯定标（Arrhenius Scaling）： 本文测试了逃逸时间 ( $\tau$ ) 遵循 Kramers–Arrhenius 定律的假设： $\ln \tau = \ln \tau_0 + \Delta E_{eff}/T_{eff}$ 。这预测了 $\ln \tau$ 与 $B/\eta_{lr}$ 之间存在线性关系。

核心贡献与结果

1. 滞后现象与延迟收敛

作者证明了一阶 L2 相变创造了由能量垒分隔的共存亚稳态。

陷阱机制： 当模型被初始化在亚稳态相位（例如，当存在秩-2 全局极小值时却处于秩-1 状态）时，它会陷入其中数千个 epoch。
重现顿悟： 通过刻意构建陷阱，作者重现了顿悟的核心特征：
- 长延迟： 取决于陷阱的深度，收敛被延迟了数个数量级（例如， $\tau \approx 5500$ 到 $>10,000$ 个 epoch）。
- 突发性： 一旦噪声驱动模型跨越能量垒，从低准确率到高准确率的过渡是突然发生的。
- 对初始化的敏感性： 始于亚稳态之外的模型收敛迅速，而始于亚稳态内部的模型则表现出顿悟行为。
训练/测试差异： 通过使用稀疏子采样（其中训练数据不足以确定弱特征），作者重现了典型的顿悟曲线：训练误差停留在次优水平，同时测试误差保持高位，随后随着模型逃逸到更高秩的解，测试误差急剧下降。

2. 阿伦尼乌斯动力学与有效势垒

研究证实了逃逸过程受阿伦尼乌斯型动力学支配。

线性定标： 数值实验显示， $\ln \tau$ 与 $B/\eta_{lr}$ 之间存在线性关系，判定系数 $R^2 = 0.991$ 。
有效势垒高度： 提取的有效势垒 ( $\Delta E_{eff} \approx 0.15 \pm 0.05$ ) 显著大于沿损失路径的最小能量势垒 ( $\Delta E_{min} \approx 0.003$ )。作者将这种差异归因于高维参数空间（ $D=170$ ）带来的熵效应和几何修正，这与 Kramers–Langer 公式一致。

3. 顿悟的机制解释

论文提出，顿悟并非单一事件，而是由一阶相变中的**滞后（hysteresis）**现象导致的后果。

特征计数： 亚稳态的数量对应于可学习特征的数量（数据协方差矩阵的奇异值）。
阶段性顿悟： 在具有 $d$ 个特征的复杂任务中，顿悟可能会经历多达 $d$ 个离散阶段，模型会依次逃离对应于每个奇异值的亚稳态相位。
记忆 vs. 泛化： 作者认为，在涉及线性随机任务时，“记忆”并不是顿悟的必要成分。相反，训练/测试差距源于模型在完成完整解（秩-2）之前，停滞在部分解（秩-1）的状态。记忆与泛化被重新诠释为对一系列秩转换过程中“部分进展”与“完整进展”的描述。

意义与主张

该论文声称提供了一个植根于噪声激活亚稳态逃逸统计物理学的候选机制。其重要性在于：

统一框架： 它将顿悟与成熟的物理原理（滞后、阿伦尼乌斯动力学）联系起来，而非将其视为一种异常的深度学习人工产物。
预测能力： 该框架提供了可证伪的预测：
- 顿悟应对应于可学习特征数量的离散阶段发生。
- 更深的网络由于具有更高的能量垒，应表现出更长的顿悟延迟。
- 逃逸时间可以通过超参数（ $\eta_{lr}$ 和 $B$ ）进行控制，遵循关系式 $\ln \tau \propto B/\eta_{lr}$ 。
实际应用： 研究结果表明，仅通过选择超参数即可加速或抑制顿悟延迟，这为更高效的学习方案提供了途径。
泛化性： 虽然在线性网络中得到了确立，但作者提供的证据表明，相同的一阶相变行为和定性机制在具有 sigmoid 和 tanh 激活函数的非线性网络中依然存在。

作者总结道，其工作为区分顿悟与其他现象提供了原则性的基础，并指出随着任务复杂度的增加，潜在的滞后现象会自然增长。