Emergent Ordinal Geometry in Transformers Trained on Local Comparisons

技術要約：局所的な比較学習を行ったTransformerにおける創発的な順序幾何学

問題提起
本論文は、隠れた全順序内における局所的（隣接する）な比較のみを用いて学習されたTransformerモデルが、生物学的システムが推移的推論（TI）に用いるものと同じ原始的なメカニズムを獲得するかどうかを調査している。TIとは、既知の隣接関係（例：$A < B, B < C$）から非隣接の関係（例：$A < C$）を推論する能力である。生物学的認知は、このプロセスを「アナログ的なメンタル・ナンバーライン（数直線）」を通じて解決しており、それは記号的距離効果（離れた比較の方が、隣接する比較よりも高速かつ正確に処理される現象）によって裏付けられている。一方、Transformerは順序を線形的に表現するように明示的な圧力を受けていない。本研究は、この特定の幾何学的表現と行動的シグネチャが、Bryant and Trabasso [1971] のパラダイムに基づいた学習において、自発的に創発するかどうかを問うものである。

手法
著者らは、隠れた全順序を持つ$N$個のエンティティ（$e_0 \prec e_1 \prec \dots \prec e_{N-1}$）を用いた合成タスクを構築した。

• 学習データ： モデルは、両方向の隣接ペア（$D_{train} = \{(e_i, e_{i+1}), (e_{i+1}, e_i)\}$）のみに対して学習される。
• 評価データ： モデルは、離れたペアの集合（$D_{OOD} = \{(e_i, e_j) : |i-j| > 1\}$）に対して評価される。これは、局所的なデータのみからグローバルな順序を再構成することを要求する。
• モデルアーキテクチャ： エンティティ埋め込み、1つのアテンションヘッド（抽象的な議論では1つ、結果のセクションでは2つ）、4次元幅のGELU MLP、および線形アンエンベディング・ヘッドからなる単層Transformer。関係性は最終位置の残差（residual）からデコードされる。
• 指標：
  1. 幾何学的構造： 線形性を測定するためのエンティティ埋め込みに対する主成分分析（PCA）（第1主成分の分散 $\rho_1$）、および投影された位置と真のランクとの相関（ランク整合性）。
  2. 行動的シグネチャ： 記号的距離効果を検出するために、決定の確信度（ロジット・マージン）と幾何学的分離（$g_{ij}$）をランク距離（$|i-j|$）に対して測定する。

主な貢献

1. 合成タスクの隔離： 本論文は、順序の一般化を局所的な比較から厳密に分離し、生物学的なTIパラダイムを忠実に模倣した制御されたタスクを導入した。
2. 創発的な1次元多様体： Transformerが、エンティティの埋め込みを自発的に1次元多様体へと組織化することを示す証拠を提示した。この多様体の主軸は、真のランク順序をほぼ完璧な忠実度で復元する。
3. 距離効果の計算論的アナロジー： モデルの精度が天井に達している場合でも、モデルが記号的距離効果を示すことを実証した。すなわち、決定の確信度と幾何学的分離の両方が、アイテム間のランク距離に対して単調にスケールする。

結果
実験は、$N=10, 15, 20$のエンティティ集合に対して行われた。

• Grokking的なダイナミクス： 分布外（OOD）への一般化の出現は、埋め込みの幾何学的な再編成と一致している。この遷移は最適化（特に重み減衰）に対して敏感であり、「grokking」に似た一時的なダイナミクスを生じさせる。
• 幾何学的復元： 学習が進むにつれ、埋め込みは主成分が真のランク順序と一致する直線上に収束していく。
• 行動の模倣： ピーク時のOOD精度において、モデルの内部表現と出力の確信度は、記号的距離効果に厳密に従う。離れたペアは、隣接するペアと比較して、正しく分類されるだけでなく、埋め込み空間においてより高い確信度と大きな幾何学的分離を伴う。

意義
本論文は、50年前の行動的規則性（TIにおける記号的距離効果）を、学習された神経表現の幾何学に結びつけることを主張している。Transformerが明示的な監督なしに「メンタル・ナンバーライン」を自発的に開発できることを示すことで、本研究は、認知科学と現代のニューラルネットワークの解釈可能性を橋渡しする、推移的推論のメカニズム的説明を提供している。これは、抽象的な関係推論を行う能力が、全順序内における局所的な制約を最適化することの自然な副産物である可能性を示唆している。