技術要約：貢献度重み：自己注意型トランスフォーマーの幾何学的解析

1. 問題提起

アテンション重み（$\alpha_{ij}$）を分析することは、大規模言語モデル（LLM）における情報の流れを解釈するための標準的な手法となっている。しかし、このアプローチは、大きなアテンション・マス（集積量）が機能的な重要性と等価であるという暗黙の仮定に依存している。著者らは、この見解は、集約されるバリューベクトルの幾何学的特性を無視しているため不完全であると主張している。具体的には、アテンション重みだけでは以下の要素を説明できない：

1. バリューベクトルの大きさ（ノルム）。
2. バリューベクトルと最終層の出力との間の方向的一致性。

これらの要因を無視することは、「アテンション・シンク（高いアテンションを受けるが、出力への寄与がほとんどない初期トークン）」の誤解や、高アテンション・トークンの重要性の過大評価といった、誤った結論を導く原因となる。既存のバリューを考慮した指標は、ノルムや距離を取り入れている場合もあるが、方向的一致によって引き起こされるトークン間の干渉（建設的または破壊的）という決定的な影響を見落としていることが多い。

2. 手法

2.1. 理論的枠組み

本論文は、マルチヘッド・アテンション（MHA）を単なる生のトークンの加重平均としてではなく、投影されたバリューベクトルの加重平均として再定式化する。
入力シーケンスに対し、レイヤー $l$ の位置 $i$ における出力は次のように表される：
$$o^{(l)}_i = \sum_{h=1}^H \sum_{j=1}^i \alpha^{(l,h)}_{ij} \tilde{v}^{(l,h)}_j$$
ここで、$\tilde{v}^{(l,h)}_j = x_j W^{(l,h)}_V W^{(l,h)}_O$ は投影されたバリューベクトルを表す。著者らは、トークンの影響力は以下の3つの要因に依存すると仮定している：

1. 選択強度（Selection Strength）: アテンション重み $\alpha_{ij}$。
2. 大きさ（Magnitude）: 投影されたバリューベクトルのノルム $\|\tilde{v}_j\|$。
3. 方向的一致性（Directional Alignment）: 投影されたバリューと出力方向とのコサイン類似度 $\cos(o_i, \tilde{v}_j)$。

2.2. 貢献度重み（Contribution Weights）

トークンの重要性を忠実に定量化するために、著者らは投影ベースの指標である貢献度重み（$c_{ij}$）を導入する。これは、重み付けされたバリューベクトルと出力方向との正規化された内積として定義される：
$$c_{ij} = \frac{\langle o_i, \alpha_{ij} \tilde{v}_j \rangle}{\|o_i\|^2} = \alpha_{ij} \frac{\|\tilde{v}_j\|}{\|o_i\|} \cos(o_i, \tilde{v}_j)$$
この指標は、トークンの影響力を、アテンション重み、相対的な大きさ、および方向的一致の積へと分解する。

• ヘッド内（Intra-head）: 単一のヘッド内での貢献度を測定する。
• ヘッド間（Inter-head）: ヘッド固有の重み付きベクトルを結合されたマルチヘッド出力上に投影することで、全ヘッドにわたる貢献度を測定する。
• 特性: アテンション重み（非負であり、合計が1となる）とは異なり、貢献度重みは負の値を取り得（破壊的干渉を示す）、シーケンス次元にわたって合計が1となる。

2.3. 実験的評価

著者らは、既存の指標（生のアテンション、バリュー重み付きアテンション、バリュー重み付き出力正規化アテンション）に対し、以下の手法を用いて貢献度重みの忠実性を評価した：

• 因果的介入（Causal Interventions）: 重要度順にランク付けされたトークンの投影されたバリューをマスクし、言語モデリングタスク（GSM8K, FineWeb-Edu）およびダウンストリームタスク（MMLU, Winogrande, BoolQ）におけるパープレキシティの変化（$\Delta$PPL）を測定する。
• 指標:
  • 包括性（Comprehensiveness）: 重要度の高いトークンを除去した際のパフォーマンス低下（低下が大きいほど優れた指標）。
  • 十分性（Sufficiency）: 重要度の低いトークンを除去した際のパフォーマンス低下（低下が小さいほど優れた指標）。
• モデル: Mistral-7B, LLaMA-3.1-8B, Qwen3-8B, Deepseek-7B。

3. 主な知見と貢献

3.1. 貢献度重みの忠実性

貢献度重みは、セマンティックに重要なトークンを特定する上で、アテンションベースの指標を一貫して上回る性能を示した。

• 包括性: 貢献度重みによって重要であると特定されたトークンを除去すると、生のアテンションやバリュー重み付きアテンションによって特定されたトークンを除去する場合と比較して、モデルのパフォーマンスが著しく低下する（$\Delta$PPLが大きい）。
• 十分性: 重要度の低いトークン（貢献度重みによって定義）を除去しても、モデルは高い精度を維持し、高い除去率においてもベースラインの性能を保つ。
• 幾何学的進行: 本研究は、明確な忠実度の階層を示している：生のアテンション < バリュー重み付きアテンション < バリュー重み付き出力正規化アテンション < 貢献度重み。これは、方向的一致（コサイン類似度）を取り入れることが、指標の精度を向上させる上で最も重要な要因であることを裏付けている。

3.2. バリュー幾何学のメカニズム的役割

本論文は、トークンの貢献を分解することで、異なる種類のトークンによる明確な挙動を明らかにしている：

• シンクトークン（初期トークン）: その貢献はアテンション重みによって駆動されるのではない。代わりに、バリュー幾何学（相対的なノルムとコサイン類似度）によって支配されている。初期トークンは、後続のセマンティックなトークンに対して逆方向の一致（アンチ・アライメント）（負のコサイン類似度）を示す。
• テール（尾部）トークン: その貢献は、アテンション重みと方向的一致の両方によって決定される。

3.3. アテンション・シンクの再解釈

著者らは、アテンション・シンクを余剰なアテンションの受動的な「貯蔵庫」とする見解に異議を唱え、代わりにシンクを能動的な情報抑制器として提示している：

• 破壊的干渉: シンクトークンは、セマンティックなトークンと系統的に逆方向の一致（アンチ・アライメント）を持つバリューベクトルを持っている。これにより破壊的干渉が生じ、出力ノルムを能動的に抑制する。
• 凸関係: シンクリート（最初のトークンへのアテンション・マス）と出力ノルムの関係は、単調ではなく**凸（Convex）**である。最小の出力ノルムは、シンクがすべてのアテンションを捕捉したときではなく、中間的なシンクリート（$\alpha < 1$）において発生する。
• セマンティック・ドリフトの対抗: セマンティックな方向とは反対の方向を向くことで、シンクは、非クリティカルなトークンからの多くの小さく弱いアテンションの蓄積によって導入されるセマンティック・ドリフトを打ち消す。シンクのベクトルノルムを除去する介入を行うと、低ノルムのヘッド出力がセマンティック・コーン（意味の円錐）へと崩壊し、ノイズとパープレキシティが増大する。

4. 意義と主張

本論文は、アテンション・ベクトルの和の全幾何学を考慮することで、貢献度重みがトークンの機能的重要性のより忠実な尺度を提供することを主張している。

• メカニズム的洞察: 本研究は、アテンション・シンクの理解を、受動的な吸収体から、方向的な対立を通じてセマンティック・ドリフトに対抗し表現を安定させる能動的な抑制器へと転換させる。
• 汎用性: 実験はデコーダーのみのモデルに焦点を当てているが、著者らは貢献度重みがアテンション機構の構造にのみ依存しており、あらゆるアテンションベースのアーキテクチャ（エンコーダーのみのモデル、ViTなど）に適用可能であると述べている。
• 限界: 本研究はデコーダーのみのトランスフォーマーと特定のデータセット（GSM8K, FineWeb-Edu）に焦点を当てている。著者らは、提案する指標はドメインを問わず堅牢であるが、特定の幾何学的挙動（シンクのアンチ・アライメントなど）は評価されたモデルにおいて観察されたものであると注記している。

著者らは、トランスフォーマーの忠実なメカニズム的理解のためには、アテンションの「説明としての側面」を超えて、バリュー幾何学を分析することが不可欠であると結論付けており、「幾何学を意識した（geometry-aware）」解釈への移行を提唱している。