🤖 machine learning

How are linear representations learned? Exact solutions to the dynamics of abstraction

本文提出了一种关于抽象的动力学理论，该理论推导出了线性与非线性神经网络在训练过程中线性概念表示如何涌现的精确解，揭示了抽象受数据几何、网络深度和初始化尺度所支配，并遵循一种使激活值相对于前激活值减弱抽象程度的普遍衰减律。

原作者： William W. Yang, Andrew M. Saxe, Peter E. Latham

发布于 2026-07-13

📖 1 分钟阅读☕ 轻松阅读

原作者： William W. Yang, Andrew M. Saxe, Peter E. Latham

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正试图教一个机器人理解世界。你给它看红色的正方形、蓝色的正方形、红色的圆形和蓝色的圆形。你想让机器人学习到“正方形性”（square-ness）是一个单一且一致的概念，无论它是红色还是蓝色。在机器人的大脑（神经网络）中，这个概念被存储为一个巨大多维地图中的特定方向。如果机器人的理解是“抽象”的，那么在红色世界中“正方形减去圆形”的方向，应该与蓝色世界中“正方形减去圆形”的方向完全一致。它们应该是平行的。

这篇论文深入探讨了在学习过程中，这种完美的对齐是如何发生的，以及是什么阻碍了它的完美实现。

重大发现：“丰富型”与“懒惰型”的学习之舞

作者构建了一个简化且在数学上可解的神经网络版本，来实时观察这种对齐过程。他们发现，通往理解的路径并不是一条直线，而是一场带有意外转折的舞蹈。

把机器人的学习过程想象成一名徒步旅行者，试图到达一个特定的营地（最终完美的理解）。

目的地： 最终营地的位置完全由地形（数据）和地图（目标）决定。如果数据是混乱的，营地就是混乱的。如果数据是干净的，营地就是完美的。
徒步者的装备（初始化）： 令人兴奋的部分在于，徒步者如何开始旅程会改变他们走的路径，即使目的地保持不变。
- “丰富型”徒步者（微小起点）： 如果机器人从极小的权重开始（就像一个背着极轻背包的徒步者），它会迅速跳过混乱的中间地带，并在很早阶段就达到一个完美对齐的状态。它会在那里停留很长一段时间，几乎像是陷入了一个完美理解的时间循环。作者称之为“亚稳态”（metastability）。这种状态是如此完美，以至于如果你在训练早期停止，你会认为机器人已经永久掌握了这个概念。
- “懒惰型”徒步者（巨大起点）： 如果机器人从较大的权重开始（背着沉重的背包），它永远无法达到那个高度。它只是缓慢地向最终目的地爬升并停在那里。它从未见过那个完美的时刻。

规则： 最终目的地是由数据固定的，但训练过程中的理解巅峰是由你起始的大小控制的。如果你起始得足够小，机器人甚至可以在数据有噪声的情况下，达到近乎完美的抽象。

深度效应：越深越聪明

论文还研究了当我们堆叠更多神经元层（就像建造更高的塔）时会发生什么。

类比： 想象将信息传递给一排人。如果信息是“红色正方形”，第一个人说话时可能会带一点口音；第二个人会将其清理得更干净；当信息到达高塔顶端时，信息会变得非常清晰。
发现： 作者在数学上证明了，随着你增加层数，最终的表示会变得更加抽象。这是一种平滑的插值：你走得越深，你就越接近“纯粹”的概念，前提是你试图预测的目标本身已经是抽象的。

非线性陷阱：为什么“激活”会削弱概念

真实的神经网络并非仅仅是直线；它们拥有“非线性”（如 ReLU 或 GELU），这些函数就像门控或过滤器。论文测试了将“概念方向”通过这些门控时会发生什么。

发现： 这些门控会削弱对齐。它们就像灯泡上的调光开关。“前激活”（信号经过门控前）比“激活”（信号经过门控后）更明亮，也更具对齐性。
证明： 作者为特定的非线性函数（如 erf 函数和 leaky ReLU）证明了一个“衰减定律”（Attenuation Law）：这些非线性函数会降低信号相对于其前一阶段的抽象得分。他们推测这一结论适用于更广泛的非线性函数族，但严格的证明仅适用于这些特定情况。它们并不会神奇地修复糟糕的对齐，只会让情况变得稍微变差。

这对现实中的 AI 意味着什么

作者不仅停留在数学层面；他们还在像 DINOv3（视觉模型）和 Gemma 4（语言模型）这样真实的巨型模型上测试了这些想法。

实验： 他们提取了这些巨型模型，并临时用恒等函数（identity function）替换了其中的 GELU 激活函数（本质上只是在该步骤移除了非线性），以观察会发生什么。
结果： 当他们移除非线性时，概念变得更加抽象，且模型在泛化能力（将知识从一个语境转移到另一个语境）方面表现得更好。这证实了理论：非线性实际上模糊了概念。

这篇论文排除了什么

重要的是要了解这篇论文不是在讨论什么完整的故事：

它不仅仅关于终点： 之前的理论通常只关注训练的最后阶段，假设机器人最终会达到完美。这篇论文表明，旅程本身很重要。机器人可能会达到一个完美的巅峰然后逐渐偏离，或者取决于它的起始方式，它可能永远无法达到那个高度。
它并不总是完美的： 在现实世界中，由于数据的混乱，机器人很少能达到 100% 的完美对齐。论文表明，最终的抽象水平是一个基于输入和目标的“噪声”的数学公式。如果数据有噪声，无论训练多久，抽象都会是不完美的。

他们的可靠程度如何？

数学： 对于简单的线性网络，作者拥有精确且已证实的解。他们不仅仅是在猜测；他们解出了方程。他们确切地知道抽象是如何随时间变化的。
模拟： 对于深层的非线性网络，他们使用了模拟和数学近似（无限宽极限）。结果非常强大且符合理论，但这些结果是从这些特定的数学模型中推导出来的。
现实世界： 当他们将此应用于 DINOv3 和 Gemma 4 时，他们进行了测量。实验表明，他们的理论是成立的：移除非线性确实提高了这些真实模型中的抽象度和泛化能力。

总结

理解概念的学习就像是在行走。目的地由数据决定，但你所走的路径取决于你的起点。如果你从微小处开始，你可能会达到一个持久的纯粹清晰时刻。如果你走得更深，你会变得更清晰。但要警惕途中的门控（非线性）；它们往往会调暗你理解的光芒。通过理解这些动态机制，我们可以构建更好的工具来窥探 AI 的大脑，并使其变得更聪明。

技术摘要：抽象动力学的精确解

问题陈述

在人工与生物神经网络中，高层概念经常被观察到在表示空间中表现为近似线性的方向。这一现象被形式化为线性表示假设（Linear Representation Hypothesis, LRH），它构成了许多可解释性与控制方法的基础，例如用于概念检测的线性探针和激活转向（activation steering）。虽然先前的理论工作已经确立了抽象表示（即概念向量在不同语境下完美对齐）可以在损失函数的全局最小值处出现，但抽象在训练过程中如何涌现的动力学过程仍不为人所知。经验观察表明，抽象往往表现出非平凡、非单调的轨迹，并且经常无法达到简单渐近理论所预测的完美抽象（ $\alpha=1$ ）。

本文旨在解决以下核心问题：抽象在训练过程中的轨迹是怎样的？它如何受数据集几何结构、网络深度和初始化的影响？非线性如何影响这些动力学过程？

方法论

作者开发了一个动力学框架，通过一个极简且具有解析解的设定来研究概念向量的对齐程度，称之为“抽象”（abstraction）。

极简线性网络模型：
- 设置： 一个在包含两个二元隐变量（“形状”和“颜色”）的四类数据集上训练的两层线性网络。
- 抽象得分 ( $\alpha$ )： 定义为不同语境下概念向量之间的余弦相似度（例如，“红色语境下的正方形减去圆形”与“蓝色语境下的正方形减去圆形”之间的向量）。 $\alpha=1$ 意味着完美的线性。
- 假设：
  - 变量投影读出（Variable-Projected Readout）： 假设读出权重（ $W_r$ ）在所有时刻都处于岭回归最优状态，从而有效地仅对特征权重进行正则化。这使得动力学简化为关于特征核 $Q = Z^\top Z$ 的函数。
  - 二因子对称性（Two-Factor Symmetry, 2FS）： 假设输入（ $\Sigma_x$ ）、目标（ $\Sigma_y$ ）和特征核具有在类别内置换和全局隐变量重标记下保持不变的特定对称结构。这使得核动力学可以被对角化为五个特征模态：全局均值（ $G$ ）、形状（ $S$ ）、颜色（ $C$ ）、形状-颜色交互（$SC $）以及残差（$ I$）。
- 动力学： 作者推导了特征值在梯度流下关于核 $Q$ 的精确常微分方程（ODEs）。抽象得分被表示为 $S$ 和 $SC$ 特征值之比（逆信噪比）的函数。
向非线性网络的扩展：
- 使用神经切线核（NTK）/ 神经网络高斯过程（NNGP）极限，将该理论扩展到无限宽的两层非线性网络。
- 分析了两种非线性形式：误差函数（ $\text{erf}$ ）和 Leaky ReLU。
- 作者推导了将预激活核 $Q$ 转换为特征核 $K$ 的核映射，并分析了这些映射如何瞬时且动态地影响抽象得分。
经验验证：
- 在合成数据和真实世界数据集（3dshapes）上进行实验，使用了 ResNets 和 Transformer（DINOv3, Gemma 4）。
- 对 Transformer 模型应用了一种“局部 GELU 消融”程序，以测试关于非线性的理论预测。

核心贡献与结果

1. 线性网络动力学的精确解

论文提供了训练过程中抽象轨迹 $\alpha(t)$ 的精确隐式解。

终端抽象定律： 最终的抽象值 $\alpha_\infty$ 仅由输入核与目标核的逆信噪比的几何平均值决定：
$\alpha_\infty = \frac{1 - \sqrt{\nu(\Sigma_x)\nu(\Sigma_y)}}{1 + \sqrt{\nu(\Sigma_x)\nu(\Sigma_y)}}$
其中 $\nu = \lambda_{SC}/\lambda_S$ 。当输入或目标中有一个是无噪声时，可实现完美抽象（ $\alpha_\infty=1$ ）。
初始化规模控制最大抽象： 虽然终端值与初始化无关，但训练过程中达到的最大抽象值高度依赖于初始化规模（ $\kappa$ $κ$ ）。
- 在**富集极限（rich limit，小初始化）**下，网络可以在衰减到终端值之前，在极长时间内实现接近完美的抽象（ $\alpha \approx 1$ ）的亚稳态（metastability）。
- 在**懒惰极限（lazy limit，大初始化）**下，抽象值永远不会超过其终端值。
非单调性： 在信号占主导的机制中，抽象可能会超过其终端值，在收敛前达到一个峰值。

2. 深度与层间插值

在“层间平衡”假设下，将模型扩展到具有 $L$ 层的深层线性网络：

层间插值： 第 $\ell$ 层的抽象在 arctanh 空间中对输入抽象和最终层抽象进行线性插值：
$\text{arctanh}(\alpha^{(\ell)}) = \left(1 - \frac{\ell}{L}\right)\text{arctanh}(\alpha_{\Sigma_x}) + \frac{\ell}{L}\text{arctanh}(\alpha^{(L)})$
深度提升抽象： 如果目标几何结构比输入几何结构更具抽象性，那么增加网络深度会单调地提高最后一层的终端抽象度。

3. 非线性网络中的衰减定律

对于无限宽非线性网络的一个显著理论结果：

衰减定律： 非线性（特别是 $\text{erf}$ 和 Leaky ReLU）会削弱特征空间（ $H$ ）相对于预激活空间（ $Z$ ）的抽象程度。形式化表达为： $|\alpha_K| \leq |\alpha_Q|$ 。
差异化影响：
- Erf 网络： 其动力学过程与线性理论非常接近。
- ReLU 网络： 其动力学对目标几何结构的依赖较小，而更多取决于输入几何结构。对于纯 ReLU，即使目标是无噪声的，如果输入噪声很高，也无法保证实现完美抽象；系统可能会收敛到“反抽象”（ $\alpha \approx -1$ ）。

4. 经验应用

Transformer (DINOv3, Gemma 4)： 应用该理论，作者展示了在 Transformer 块中消融非线性（将 GELU 局部替换为恒等映射）会增加抽象度并提高线性探针的泛化能力。这验证了在有限宽深层模型中的衰减定律。
神经科学 (猕猴腹侧纹状通路)： 通过分析 V4 和 IT 区域的记录，研究发现抽象度沿腹侧视觉层级递增，这与理论预测一致，即更深的层级（更接近行为输出）应表现出更高的抽象度。

意义与主张

本文声称提供了第一个能够捕捉完整学习轨迹（而非仅仅是渐近终点）的抽象动力学理论。

弥合理论与实践： 它解释了为什么在现实场景中抽象往往无法达到完美（由于输入/目标噪声以及初始化规模），以及为什么它会表现出非单调行为。
可解释性与控制： 研究结果表明，线性探针和转向向量的质量从根本上与其抽象动力学相关。关于消融非线性可以提高探针泛化能力的发现，为该现象提供了理论基础。
神经科学意义： 该理论为大脑中抽象表示的涌现提供了机械性解释，预测了更深的皮层层级应表现出更高的抽象得分，这一预测得到了猕猴数据的证实。

作者强调，尽管其精确解依赖于简化假设（线性网络、2FS 对称性、无限宽），但其定性预测（过冲、初始化依赖性、深度提升以及非线性的衰减作用）在现实的、有限宽的深层学习设置及生物数据中均表现得十分稳健。