🤖 machine learning

Analogies between Transformer Layers and Power Method

本文在 Transformer 层与幂法之间建立了一个类比，证明 token 与值矩阵和输出权重矩阵乘积的主特征向量相一致，这一现象在共享权重模型中可被解析证明，并可用于将 Transformer 的输出引导至任意方向。

原作者： Chenglong Li, Claudio Altafini

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Chenglong Li, Claudio Altafini

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和创造性类比对该论文的解读。

核心思想：Transformer 作为“幂法”机器

想象一下 Transformer（AI 聊天机器人背后的“大脑”）不是一个复杂的神经网络，而是一座巨大的多层建筑。建筑的每一层都是一个“层”。当一条信息（一个“令牌”，比如句子中的一个词）进入这座建筑时，它会从底层一路走到顶层，在每一站都接受处理。

这篇论文的作者发现了一个令人惊讶的秘密：令牌在这些层中移动的方式，在数学上几乎与一种经典的数学技巧——“幂法”完全相同。

类比：磁罗盘

把“幂法”想象成一个试图寻找北方的磁罗盘。

设置：你有一根指向随机方向的罗盘指针（令牌）。
过程：你将罗盘放在一张地图上，地图下隐藏着一个巨大的隐形磁铁。磁铁将指针稍微拉向“北方”。
归一化：指针移动后，你强制它保持相同的长度（不允许它变长或变短，只允许旋转）。
结果：如果你反复这样做，指针最终会停止摇摆，几乎完美地指向北方。

论文认为，Transformer 的每一层都在做完全相同的事情。

“磁铁”是一个特定的数学矩阵（由该层的权重生成的数字网格）。
“北方”是主特征向量。这是数据空间中一个特殊且占主导地位的方向。
“归一化”是层归一化步骤，它保持令牌的大小恒定。

因此，当令牌在 Transformer 中向上移动时，它就像罗盘指针一样，不断地被“倾斜”或拉向这个主导方向。

两种类型的建筑

这篇论文考察了两种不同类型的 Transformer 建筑，它们的表现各不相同。

1. “通用”建筑（共享权重）

一些 Transformer，如 ALBERT，每一层都使用完全相同的蓝图。每一层的“磁铁”都是相同的。

发生的情况：因为磁铁处处相同，令牌在每一步都被拉向同一个方向。这就像走上一段楼梯，每一级台阶都略微向同一面墙倾斜。
结果：当令牌到达顶部时，它几乎完美地对齐了那个主导方向。论文从数学上证明，在这种情况下，所有令牌最终都会收敛到指向同一个方向（一种称为“共识”的状态）。

2. “定制”建筑（逐层变化的权重）

大多数流行的 Transformer，如 GPT-2、BERT 和 GPT-Neo，每一层都有不同的蓝图。“磁铁”会随着层级变化而改变。

发生的情况：在第一层，磁铁将令牌拉向“北方”。在第二层，磁铁改变并将令牌拉向“东北”。在第三层，它又将令牌拉向“南方”。
结果：因为目标不断移动，令牌永远无法完美对齐到单一方向。然而，论文表明，在每一个步骤中，令牌仍然试图对齐当前楼层的主导方向。这就像一名徒步旅行者试图跟随一位不断改变“最佳”方向想法的向导。徒步旅行者无法到达完美的目的地，但在每一刻，他们仍然被推向一个特定的方向。

“转向”技巧

这篇论文最激动人心的部分是对这一发现的实际应用。作者意识到，由于“幂法”依赖于磁铁的强度（谱隙），我们可以黑客式地操纵系统。

类比：
想象你在“定制建筑”（如 GPT-2）中。令牌四处游荡，因为每一层的磁铁都很弱且相互冲突。但是，你被允许在令牌离开前的最后一层改变磁铁。

操作：你将最后一层的磁铁替换为一个超级强大的、定制的磁铁，它精确指向你希望令牌去的方向（例如“要乐于助人”或“要有创造力”）。
效果：因为这个新磁铁比其他所有磁铁都强大得多（创造了巨大的“谱隙”），它覆盖了之前所有的混乱。令牌瞬间就与你选择的方向对齐了。

论文声称，这使我们能够将大型语言模型的输出引导至我们想要的任何特定方向，只需微调最后一层的数学参数即可。

研究结果总结

机制：Transformer 的工作原理就像一种重复的数学练习（幂法），试图将数据与“主方向”对齐。
共享权重（ALBERT）：如果各层相同，令牌会完美收敛到该主方向。
不同权重（GPT/BERT）：如果各层不同，令牌不会完美收敛，但在每一步中，它们仍然表现出与当前层主方向对齐的倾向。
黑客手段：通过在最后一层添加一个强大的、定制的“踢力”，我们可以迫使令牌与我们选择的任何方向对齐，从而有效地引导 AI 的输出。

重要提示：为了使这种数学类比成立，该论文特意忽略了“前馈网络”（负责复杂非线性思考的层部分）。它们只关注注意力和归一化部分。它们还指出，在现实世界的模型中，这种对齐往往很弱，因为“磁铁”不够强，但这一原则依然成立。

技术摘要：Transformer 层与幂法之间的类比

问题陈述
本文旨在解决人们对深度 Transformer 中 Token 表示收敛的具体向量方向缺乏理解的问题，这一现象被称为“过度平滑”、“秩崩溃”或"Token 均匀性”。虽然已知深度 Transformer 倾向于进入一种所有 Token 变得相同的共识状态，但这种共识向量的性质及其驱动机制尚不明确。现有文献通常将自注意力建模为连续时间系统，或专注于单头场景，导致实际模型（如 GPT2、BERT 和 ALBERT）的离散时间、多头行为探索不足。具体而言，本文旨在确定 Token 通过 Transformer 层的迭代过程是否类似于寻找主特征向量的已知数值方法。

方法论
作者将 Transformer 建模为离散时间动力系统，其中层索引 $t$ 代表时间。他们专注于 Token 向量 $x_i(t)$ 通过单层时的更新规律，明确排除了前馈网络（FFN），并利用 $L_2$ 归一化（替代标准的 LayerNorm）以隔离注意力和投影机制的几何效应。

方法论的核心在于为每一层 $t$ 定义一个“层矩阵” $F_t$ ，该矩阵由输出权重矩阵（ $O$ ）与注意力头的拼接值权重矩阵（ $V$ ）的乘积构成：
$F_t = O_t V_t$
更新规则被分析为动力系统中的一个步骤：
$x_i(t+1) = \text{LayerNorm}\left(x_i(t) + \text{AttentionOutput}\right)$
作者将这一更新与幂法（Power Method）进行了直接类比，幂法是一种用于计算矩阵主特征向量的迭代算法。在幂法中，向量被反复乘以矩阵并归一化，若存在谱间隙，则收敛至主导特征向量。

分析分为两个主要场景：

共享权重（时间不变）：使用 ALBERT 模型进行分析，其中所有层的权重相同（ $F_t = F$ ）。作者针对主特征值为实数且严格主导、复数或非主导的情况，提供了严格的解析表征。
层变权重（时变）：使用 BERT、GPT2 和 GPTNeo 进行分析。在此情况下， $F_t$ 在每一层都会变化。作者研究了尽管目标在变化，Token 是否仍表现出与当前层主特征向量 $v_{1,t}$ 对齐的趋势。

为了验证理论，作者在预训练模型上进行了数值实验，测量 Token 向量与层矩阵主特征向量之间的相关性。他们还提出了一种通过修改最终层来“引导”输出的方法。

主要贡献

与幂法的类比：本文确立了 Transformer 层（忽略 FFN）的操作类似于幂法的单步。Token 被投影并归一化，倾向于向层矩阵 $F_t$ 的主特征向量倾斜。
收敛性的解析表征：
- 对于共享权重 Transformer（如 ALBERT），作者证明，如果层矩阵 $F$ 具有严格主导的实特征值，系统将收敛至所有 Token 与主特征向量 $v_1$ 对齐的共识状态。
- 他们确定了稳定性条件，指出如果主特征值为复数，Token 将收敛至由特征向量的实部和虚部张成的 2D 子空间中的极限环。
- 他们表明，“二分共识”（Token 分裂为两组，分别对齐 $\pm v_k$ ）在理论上是可能的，但在多头设置中实证上罕见且不稳定。
真实模型上的实证验证：
- 在ALBERT上的实验证实，Token 收敛至共享层矩阵的主特征向量。然而，收敛速度通常受限于较小的谱间隙（ $\lambda_1 \approx \lambda_2$ ）或复特征值。
- 在层变模型（BERT、GPT2、GPTNeo）上的实验表明，虽然 Token 不会因 $F_t$ 的变化而累积对齐至单一全局特征向量，但在每一步中，它们仍表现出与当前层主特征向量 $v_{1,t}$ 相关性统计显著的增加。这证实了即使在时变系统中，“幂法”行为在局部依然存在。
通过秩 -1 微扰进行 Token 引导：本文提出了一种构造性方法，将 Token 引导至任意期望方向。通过在最终层的输出矩阵上添加足够大的秩 -1 微扰，作者可以创建一个大的谱间隙。这迫使最终层矩阵产生一个新的、用户定义的主特征向量，导致所有 Token 与该特定方向对齐。

结果

ALBERT：在共享权重模型中，Token 迅速收敛至共识。对于 ALBERT-base 和 large 版本，主特征值为实数但接近第二个特征值，导致收敛发生在前两个特征向量张成的空间内。对于 xlarge 和 xxlarge 版本，复特征值导致 Token 在 2D 子空间中旋转。
层变模型：在 BERT 和 GPT 变体中，与当前层主特征向量的对齐度（ $\gamma_t$ ）为正但通常较弱。这种弱性归因于现实世界 Transformer 中较小的谱间隙（ $\lambda_{1,t} - \lambda_{2,t}$ ）。然而，每一步对齐概率增加（ $\rho_t > 0.5$ ）的现象被一致观察到，验证了这一类比。
引导：当最终层通过秩 -1 微扰被修改时，谱间隙变得很大，Token 实现了与新诱导的主特征向量的近乎完美对齐，无论模型架构如何。

意义与主张
本文主张，通过幂法的视角观察 Transformer，为 Token 过度平滑和共识提供了原则性的解释。它表明共识的“方向”并非任意的，而是由值权重矩阵和输出权重矩阵乘积的谱性质决定的。

作者强调，虽然标准 Transformer 中的自然对齐由于谱间隙较小而较弱，但该机制足够稳健，可被利用。所提出的引导方法为控制模型输出提供了一种原则性的替代方案（如提示工程或激活编辑），因为它直接操纵了最终层的几何投影性质。本文结论认为，即使忽略 FFN，这一类比依然成立，表明注意力机制和层归一化是这种特征向量对齐行为的主要驱动因素。