🤖 machine learning

Analogies between Transformer Layers and Power Method

本論文はトランスフォーマー層とべき乗法との間の類比を確立し、トークンが値行列と出力重み行列の積の主要固有ベクトルと整合することを示し、この現象は共有重みモデルにおいて解析的に証明可能であり、トランスフォーマーの出力を任意の方向へ誘導するために利用し得るものである。

原著者： Chenglong Li, Claudio Altafini

公開日 2026-05-26

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Chenglong Li, Claudio Altafini

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

以下は、この論文を平易な言葉と創造的な比喩を用いて解説したものです。

大きなアイデア：Transformer を「べき乗法」の機械として捉える

AI チャットボットの頭脳である Transformer を、複雑なニューラルネットワークではなく、巨大な多階建てビルとして想像してみてください。ビルの各階は「層（レイヤー）」です。ある情報（文の単語のような「トークン」）がビルに入ると、各処理場で処理を受けながら、最下層から最上層へと移動していきます。

この論文の著者たちは、驚くべき秘密を発見しました。トークンがこの層を通過する様子は、数学的に「べき乗法」と呼ばれる古典的な数学のトリックとほぼ同一であるということです。

比喩：磁気コンパス

「べき乗法」を、北を見つけようとするコンパスのように考えてみましょう。

準備： 任意の方向を指しているコンパスの針（トークン）があります。
プロセス： そのコンパスを、その下に巨大な見えない磁石が隠された地図の上に置きます。磁石は針をわずかに「北」の方向へ引き寄せます。
正規化： 針が動いた後、その長さを一定に保つように強制します（伸び縮みさせず、回転させるだけです）。
結果： これを繰り返すと、針は最終的に揺れ動きを止め、ほぼ完璧に北を指すようになります。

この論文は、Transformer の各層がまさにこれを行っていると主張しています。

「磁石」は、その層の重みによって作成された特定の数学的行列（数値のグリッド）です。
「北」は主固有ベクトルです。これはデータ空間における特殊で支配的な方向です。
「正規化」は、トークンのサイズを一定に保つレイヤー正規化のステップです。

したがって、トークンが Transformer を上へ移動するにつれて、コンパスの針のように、この支配的な方向へ常に「傾けられたり」引き寄せられたりします。

2 種類のビル

この論文は、異なる振る舞いをする 2 種類の Transformer ビルを分析しています。

1. 「ユニバーサル」ビル（共有重み）

ALBERT などの一部の Transformer は、すべての階で全く同じ設計図を使用します。「磁石」はすべての階で同一です。

何が起こるか： 磁石がどこでも同じであるため、トークンは各ステップで同じ方向へ引き寄せられます。まるで、すべての段が同じ壁の方向へわずかに傾いた階段を上っていくようなものです。
結果： トークンが頂上に到達する頃には、その 1 つの支配的な方向とほぼ完璧に整列しています。この場合、すべてのトークンが最終的に同じ方向を指すように収束する（「コンセンサス」と呼ばれる状態になる）ことを、論文は数学的に証明しています。

2. 「カスタム」ビル（層ごとの重み変化）

GPT-2、BERT、GPT-Neo などの人気のある Transformer のほとんどは、階ごとに異なる設計図を持っています。「磁石」は層から層へと変化します。

何が起こるか： 1 階では磁石がトークンを「北」へ引き寄せます。2 階では磁石が変わり、「北東」へ引き寄せます。3 階では「南」へ引き寄せます。
結果： 目標が動き続けるため、トークンは単一の方向と完璧に整列することはありません。しかし、論文は示しています。各ステップにおいて、トークンは依然として現在の階の支配的な方向へ整列しようとしています。まるで、どの方向が「最善か」を次々と変えるガイドに従おうとするハイカーのようです。ハイカーは完璧な目的地には到達しませんが、各瞬間において特定の方向へ押しやられ続けています。

「操縦」のトリック

この論文の最も興奮すべき部分は、この発見の実用的な応用です。著者たちは、「べき乗法」が磁石の強さ（スペクトルギャップ）に依存しているため、システムをハックできることに気づきました。

比喩：
あなたが「カスタムビル」（GPT-2 のようなもの）にいると想像してください。各階の磁石が弱く、互いに矛盾しているため、トークンはあちこちさまよっています。しかし、トークンが退出する直前の最後の階の磁石を変更することが許されているとします。

行動： 最後の階の磁石を、あなたがトークンを行かせたい方向（例えば「親切にする」や「創造的になる」）を正確に指す、超強力なカスタムメイドの磁石に置き換えます。
効果： この新しい磁石は他のものよりもはるかに強力であるため（巨大な「スペクトルギャップ」を生み出す）、それまでのすべての混乱を無効化します。トークンは即座に選択した方向へ整列します。

論文は、最終層の数学をわずかに調整するだけで、大規模言語モデルの出力を私たちが望む任意の特定の方向へ操縦できることを主張しています。

発見のまとめ

メカニズム： Transformer は、データを「主要な方向」へ整列させようとする反復的な数学的演習（べき乗法）のように機能します。
共有重み（ALBERT）： 層が同一であれば、トークンはその主要な方向へ完全に収束します。
異なる重み（GPT/BERT）： 層が異なれば、トークンは完全に収束しませんが、各ステップにおいて依然として現在の層の主要な方向へ整列する傾向を示します。
ハック： 最終層に強力なカスタムな「キック」を加えることで、トークンを私たちが選択する任意の方向へ強制的に整列させ、AI の出力を実質的に操縦することができます。

重要な注記： この数学的比喩を機能させるため、論文は特に「フィードフォワードネットワーク」（複雑な非線形思考を行う層の一部）を無視しています。彼らはアテンションと正規化の部分にのみ焦点を当てています。また、現実世界のモデルでは、この整列は「磁石」が十分に強くないためしばしば弱いものであると指摘していますが、原理は真実であるとしています。

技術的サマリー：トランスフォーマー層とべき乗法とのアナロジー

問題提起
本論文は、深層トランスフォーマーにおいてトークン表現が収束する特定のベクトル方向に関する理解の欠如に対処する。この現象は「オーバースムージング」、「ランク崩壊」、または「トークンの均質化」として知られている。深層トランスフォーマーがすべてのトークンが同一になる合意状態へ向かう傾向があることは確立されているが、この合意ベクトルの性質とそれを駆動するメカニズムは依然として不明である。既存の文献では、自己注意を連続時間システムとしてモデル化するか、単一ヘッドのシナリオに焦点を当てることが多く、GPT2、BERT、ALBERT などの実用的なモデルの離散時間かつマルチヘッドの振る舞いは十分に探求されていない。具体的には、本論文は、トークンをトランスフォーマー層を通過させる反復プロセスが、主固有ベクトルを見つけるための既知の数値計算手法に類似しているかどうかを明らかにしようとする。

手法
著者らは、層インデックス $t$ を時間として表す離散時間ダイナミカルシステムとしてトランスフォーマーをモデル化する。彼らは、単一層を介したトークンベクトル $x_i(t)$ の更新則に焦点を当て、フィードフォワードネットワーク（FFN）を明示的に除外し、注意機構と射影機構の幾何学的効果を分離するために標準的なレイヤーノルマル化の代わりに $L_2$ ノルマル化を用いる。

手法の核心は、各層 $t$ に対して「層行列」 $F_t$ を定義することにある。これは、出力重み行列（ $O$ ）と注意ヘッドの連結された値重み行列（ $V$ ）の積として構成される：
$F_t = O_t V_t$
更新則は、ダイナミカルシステムの一ステップとして分析される：
$x_i(t+1) = \text{LayerNorm}\left(x_i(t) + \text{AttentionOutput}\right)$
著者らは、この更新と、行列の主固有ベクトルを計算するために使用される反復アルゴリズムであるべき乗法との直接的なアナロジーを指摘する。べき乗法では、ベクトルが行列によって繰り返し乗算され、正規化され、スペクトルギャップが存在する場合、支配的な固有ベクトルへ収束する。

分析は 2 つの主要なシナリオに分けられる：

共有重み（時間不変）： 全層で重みが同一（ $F_t = F$ ）である ALBERT モデルを用いて分析される。著者らは、主固有値が実数で厳密に支配的である場合、複素数である場合、または非支配的である場合について、厳密な解析的特徴付けを提供する。
層ごとに変化する重み（時間変数）： BERT、GPT2、および GPTNeo を用いて分析される。ここでは、 $F_t$ が各層で変化する。著者らは、ターゲットが変化するにもかかわらず、トークンが現在の層の主固有ベクトル $v_{1,t}$ と整列する傾向を示すかどうかを調査する。

理論を検証するために、著者らは事前学習済みモデルで数値実験を行い、トークンベクトルと層行列の主固有ベクトルとの相関を測定する。また、最終層を修正することで出力を「誘導（steering）」する方法も提案する。

主な貢献

べき乗法とのアナロジー： 本論文は、FFN を除いたトランスフォーマー層の操作が、べき乗法の単一ステップにアナログであることを確立する。トークンは射影され正規化され、層行列 $F_t$ の主固有ベクトルへ傾く傾向がある。
収束の解析的特徴付け：
- 共有重みトランスフォーマー（例：ALBERT）の場合、層行列 $F$ が厳密に支配的な実固有値を持つならば、システムはすべてのトークンが主固有ベクトル $v_1$ と整列する合意状態へ収束することを著者らは証明する。
- 安定性の条件を特定し、主固有値が複素数である場合、トークンは固有ベクトルの実部と虚部によって張られる 2 次元部分空間内でリミットサイクルへ収束することを指摘する。
- 「二極合意」（トークンが $\pm v_k$ に整列する 2 つのグループに分かれること）が理論的には可能であるが、マルチヘッド設定では経験的に稀で不安定であることを示す。
実モデルにおける実証的検証：
- ALBERT における実験は、トークンが共有層行列の主固有ベクトルへ収束することを確認する。ただし、収束速度は、小さなスペクトルギャップ（ $\lambda_1 \approx \lambda_2$ ）や複素固有値によってしばしば制限される。
- 層ごとに変化するモデル（BERT、GPT2、GPTNeo）における実験は、 $F_t$ の変化によりトークンが単一のグローバル固有ベクトルへの集積的な整列を示さない一方で、各ステップで 現在の 層の主固有ベクトル $v_{1,t}$ との相関が統計的に有意に増加することを示す。これは、時間変数システムにおいても局所的に「べき乗法」の振る舞いが維持されていることを確認する。
ランク 1 摂動によるトークンの誘導： 本論文は、任意の望ましい方向へトークンを誘導するための構成的な方法を提案する。最終層の出力行列に十分に大きなランク 1 摂動を加えることで、著者らは大きなスペクトルギャップを創出できる。これにより、最終層行列が新しい、ユーザー定義の主固有ベクトルを持つよう強制され、すべてのトークンがこの特定の方向へ整列する。

結果

ALBERT： 共有重みを持つモデルでは、トークンが急速に合意へ収束する。ALBERT-base および large では、主固有値は実数だが 2 番目の固有値に近く、最初の 2 つの固有ベクトルが張る空間内での収束をもたらす。xlarge および xxlarge では、複素固有値がトークンを 2 次元部分空間内で回転させる。
層ごとに変化するモデル： BERT および GPT 変種では、現在の 層の主固有ベクトルとの整列（ $\gamma_t$ ）は正であるが、一般的に弱い。この弱さは、実世界のトランスフォーマーにおける小さなスペクトルギャップ（ $\lambda_{1,t} - \lambda_{2,t}$ ）に起因する。しかし、各ステップで整列が増加する確率（ $\rho_t > 0.5$ ）は一貫して観察され、アナロジーを検証する。
誘導： 最終層をランク 1 摂動で修正すると、スペクトルギャップは大きくなり、トークンはモデルアーキテクチャに関係なく、新たに誘導された主固有ベクトルとほぼ完璧に整列する。

意義と主張
本論文は、トランスフォーマーをべき乗法のレンズを通して見ることで、トークンのオーバースムージングと合意に対する原理的な説明を提供すると主張する。それは、合意の「方向」が恣意的なものではなく、値重み行列と出力重み行列の積のスペクトル特性によって決定されることを示唆する。

著者らは、標準的なトランスフォーマーにおける自然な整列は小さなスペクトルギャップのために弱いものの、そのメカニズムは利用するのに十分なほど頑健であると強調する。提案された誘導法は、モデル出力を制御するための既存の手法（プロンプトエンジニアリングや活性化の編集など）に対する原理的な代替案を提供する。なぜなら、それは最終層の幾何学的射影特性を直接操作するからである。本論文は、このアナロジーが FFN を無視しても成り立つと結論付け、注意機構とレイヤーノルマル化がこの固有ベクトル整列行動の主要な駆動力であることを示唆している。