Laguerre Geometry for Interpreting Large Language Models

技術要約：大規模言語モデルの解釈のためのラグーエ幾何学

問題提起
大規模言語モデル（LLM）における原子的な計算の存在論的な明晰さにもかかわらず、それらの計算がいかにして創発的な知能へと結実するのかという認識論的なメカニズムは依然として不透明である。中心的な謎は、LLMの表現空間内における意味的概念の構成に関するものである。線形表現仮説（LRH）に主に依拠する既存のアプローチは、通常、概念を単一の点、線形方向、またはガウス型クラスターとして定義するが、これらの方針では4つの根本的な問いが未解決のまま残されている。(I) 概念の正確な定義とは何か？ (II) それはどの表現空間にエンコードされているのか？ (III) どのような具体的な幾何学的構造がそれを担っているのか？ そして (IV) なぜ線形性が仮定されるのか、そしてそれはどの程度成立しているのか？ さらに、既存の解釈可能性ツール（例：Logit Lens、Tuned Lens）は、多くの場合、ヒューリスティックなデコーディングに依存するか、あるいは学習を必要とし、中間層における隠れベクトルの「意味」に対する原理的なグラウンドトゥルース（真理値）を欠いている。

手法
著者らは、低レベルの幾何学的分解と高レベルの意味的組織化を統一するために、**ラグーエ幾何学（Laguerre Geometry）**に基づく幾何学的フレームワークを提案する。この手法は、以下の3つの主要な段階を経て進行する。

1. ラグーエ・ボロノイ図（LVD）としてのアンエンベディング層：
   本論文は、重み $W$ とバイアス $b$ によってパラメータ化されたLLMの最終的な線形投影層（アンエンベディング層）が、自然に表現空間 $\mathbb{R}^d$ をラグーエ・ボロノイ図（別名：パワー図）へと分割することを確立している。

   • 概念の定義： 概念はベクトルではなく、中心 $c_j$ と重み $\nu_j$ によって特徴付けられる特定のラグーエ・ボロノイ細胞 $\omega_j$ として再定義される。カテゴリは、複数のこのような細胞の結合として定義される。
   • 幾何学的特性： この定式化により、概念間およびカテゴリ間の線形分離可能性を厳密に定義することが可能になる。決定的なことに、ラグーエの重みと中心から導出される**ドミネーション・スコア（支配スコア）**を導入することで、「犬」$\subset$ 「哺乳類」$\subset$ 「動物」といった、ベクトル距離のみでは検出が困難な階層関係（下位概念／上位概念）の検出を可能にする。

2. トランスフォーマー層の分解：
   著者らは、この幾何学的視点を中間トランスフォーマーブロックへと拡張する。ネットワークを区分線形演算子（MLPブロック）へと分解し、アテンション機構を分析することで、入力空間が区分線形領域へと分割されることを示している。

   • 単一入力 vs 多重入力： 単一入力トークンの場合、その軌跡は静的な区分線形フローのツリーに従う。多重入力の場合、クロスアテンション機構は動的な輸送項として機能し、アテンションが作動すると、異なるツリー（領域）間を「跳躍」して隠れ軌跡を移動させる。
   • 領域の対応関係： いかなる層においても、各線形領域には、さらなる文脈的干渉を受けることなくネットワーク内を伝播した場合に最終的に到達するであろうラグーエ細胞に対応する意味ラベルが割り当てられる。

3. 幾何学的レンズとラグーエ・オートエンコーダ：

   • 幾何学的レンズ（Geometric Lens）： 学習不要かつハイパーパラメータフリーの、隠れベクトルをデコードする手法である。これは、自己アテンションの重みを1に強制し（クロス・トークン間の更新をゼロにする）、当該ベクトルを残りの区分線形ネットワークを通じて伝播させることで、文脈的効果を排除した上で、そのベクトルが最終的に到達するラグーエ細胞を特定する。
   • ラグーエ・オートエンコーダ（LAE）： 隠れ表現とその対応するLVD領域を共同でレンダリングする2D可視化ツールである。これは、再構成誤差と、再構成された点が元の点と同じラグーエ細胞内に存在することを保証する項を組み合わせた損失関数を用いて学習され、決定幾何学を保持する。

主な貢献

• 概念の再定義： 本論文は、概念を点や方向に基づく定義から脱却し、アンエンベディング層によって誘起される凸多面体領域（ラグーエ・ボロノイ細胞）として定義する。
• 階層の発見： ラグーエの重みが概念の階層関係や包含関係を自然にエンコードしており、事前定義された属性セットなしに、下位概念や上位概念を教師なしで発見できることを示す。
• 幾何学的レンズ： モデル固有の区分線形分割を辿ることにより、任意の層における隠れベクトルがエンコードしている正確な概念を明らかにする、新しい学習不要の解釈可能性ツールである。
• 可視化： ラグーエ・オートエンコーダは、モデルの決定幾何学とトークン表現の軌跡の両方を統合した2Dビューを提供する。

実験結果
著者らは、以下の実験を通じてフレームワークを検証している。

• 線形分離性： 「動物 vs 植物」および「事象 vs 認知」の線形プロービング・タスクにおいて、ラグーエ幾何学（LVDからリフトされた点を使用）は、複数のモデル（Phi-2, Gemma-2, Pythia）にわたり、カテゴリ幾何学（白色化されたベクトル）やラティス幾何学よりも低いエラー率を達成した。
• 階層検出： 提案されたドミネーション・スコアは、Phi-2およびPythia-70Mにおいて、ラティス幾何学やランダムなベースラインを大幅に上回る精度で、階層関係（例：「動物」の下の「犬」）を特定することに成功した。
• 軌跡分析： 「The capital of France is」というプロンプトの可視化において、幾何学的レンズは、Logit LensやPatchscopesと比較して、表現空間内をより複雑で多様な経路で辿ることを示した。これは、文法的には誤っているが事実としては正しいトークン（例：「Paris」）が、モデルが文法的に正しいトークン（例：「_Paris」）に落ち着く前の、中間層において出現するという、モデルの内部的な洗練プロセスを捉えている。
• インコンテキスト干渉： 干渉を誘発するように設計されたプロンプト（例：架空の文脈で都市名を入れ替える）において、幾何学的レンズは優れた堅牢性を示した。中間層（具体的には第20層）におけるトークン・ランクを検証することで、幾何学的レンズはLogit LensやPatchscopesよりも頻繁に事実として正しいトークンを回収しており、最終層の干渉によって上書きされる前の、モデルの真の推論プロセスを明らかにしていることを示唆している。

意義と主張
本論文は、線形表現仮説を、単なる非公式な仮定から、モデルの区分線形構造に基づく厳密に定義された特性へと昇華させ、その厳格な幾何学的基礎を提供すると主張している。概念を点ではなく「領域」として確立することで、著者らは、このフレームワークが隠れ表現に対する原理的なグラウンドトゥルースを提供し、ヒューリスティックなデコーディングや外部学習の必要性を排除すると論じている。

その意義は、解釈可能性を「説明的幾何学（静的な構造の記述）」から「実行可能な解釈可能性（actionable interpretability）」へと転換させた点にある。幾何学的レンズを用いることで、研究者は隠れベクトルにエンコードされた正確な概念を読み取ることができ、提示された通り、インコンテキスト干渉によってモデルの最終出力が損なわれた場合でも、事実としての真実を回収できる。著者らは、本研究を、高レベルの知能がいかにして低レベルの幾何学的分割から創発するかを理解するための基礎的な一歩として位置づけており、今後は因果的介入や行動制御への拡張を計画している。