Sparse Autoencoders Map Brain-LLM Alignment onto Cortical Semantic Topography

技術的サマリー：スパースオートエンコーダは脳と大規模言語モデルの整合性を皮質のセマンティックな地形図 onto 写像する

問題提起
計算神経言語学における確固たる発見として、大規模言語モデル（LLM）の中間層が言語に対する人間の脳反応を最もよく予測し、モデルの深さにわたって「逆 U 字型」の関係を形成することが挙げられる。しかし、この整合性のメカニズム的理由は未解明のままだ。既存の理論は、互いに排他的ではない 3 つの説明を提案している：(1) 予測処理：中間層が脳に似た予測誤差を生成する；(2) 特徴発見：中間層には後期層での専門化に先立って、最も豊かなセマンティック表現が含まれている；(3) 幾何学的アーティファクト：中間層は高次元で線形に復号可能な表現を有している。先行研究は、セマンティックな内容が集計レベルで脳との整合性を支配することを確立したが、どの 特定のセマンティック特徴が整合性を駆動し、それが皮質の どこ にマッピングされるかを決定する granularity（粒度）を欠いていた。

方法論
著者らは、LLM の表現を解釈可能な特徴に分解する**スパースオートエンコーダ（SAE）**を用いることで、メカニズム的解釈可能性と神経符号化を架橋した。

1. モデル分解：SAE をGPT-2 XL（15 億パラメータ）とLlama-3.1-8B（80 億パラメータ）の 4 層ごとに訓練し、層あたり16,000〜32,000の特徴を抽出した。モデルは 5 億トークンで訓練され、再構成 $R^2 \geq 0.95$ を達成した。
2. 特徴分類：2 パスプロトコルにより、特徴をセマンティック、構文、語彙、予測、その他の 5 種類に分類した。
   • パス 1：GPT-4 による自動分類。
   • パス 2：2 人の大学院生による人間による検証（Cohen's $\kappa = 0.81$）。
3. 神経データと符号化：本研究ではUTS fMRI データセット（ネイティブ英語話者 8 名、27 の自然な物語）を利用した。ボクセルごとのリッジ回帰モデルを、特徴部分集合から fMRI 反応を予測するように適合させた。分散分割を用いて、カウント一致および分散一致のランダムな基準に対して、固有の寄与を分離した。
4. 事前の地形図予測：事後のパターンマッチングを避けるため、著者らは5 つのセマンティックサブカテゴリ（具体性/有生性、イベント構造、情動/感情、社会的/精神的、空間/場所的）と、それらが予測される皮質領域を、3 つの独立した神経科学プログラム（Binder ら (2009)、Huth ら (2016)、Deniz ら (2019)）の知見を交差させることで a priori（事前に）導出した。
5. 検証：
   • 収束テスト：Spearman 順位相関と超幾何的重なりテストにより、観測された SAE 特徴から領域へのマッピングを a priori 予測と比較した。
   • 因果的/行動的：活性化パッチング（アブレーション）と、読書時間データセット（Natural Stories, Provo Corpus）に対する一般化線形混合モデル（GLMMs）を用いて、セマンティック特徴の因果的役割と行動的関連性を検証した。

主要な貢献

1. 中間層優位性の特徴レベル分解：本研究は、セマンティック特徴のみが、完全な SAE 再構成活性化が達成したピーク符号化性能（$r=0.285$）の**94%**を回復することを示した。これは分散一致のランダムな基準を大幅に上回る（$p<0.001, d=1.31$）。これは、構文構造や幾何学的次元性ではなく、セマンティックな内容が脳と LLM の整合性の主要な駆動力であることを確認するものである。
2. 皮質セマンティック地形図の形式的検証：本論文は、SAE によって発見された特徴が、先行手法ではアクセス不可能な粒度で既知の皮質セマンティック組織を再現することを示す最初の証拠を提供する。形式的な収束テストにより、5 つのセマンティックサブカテゴリから 5 つの脳領域への観測されたマッピングが、独立した神経科学文献から導出された a priori 予測と有意に一致することが確認された（Spearman $\rho=0.72, p<0.001$; 超幾何学的 $p=0.007$）。
3. 行動的および因果的証拠：
   • 読書時間：SAE セマンティック特徴は、語彙制御および標準的な単語レベルのセマンティック規範を超えて人間の読書時間を予測する（$\Delta \log Lik = 38.4, p<0.001$）。
   • 活性化パッチング：ピーク層（GPT-2 XL の L24）でセマンティック特徴をアブレーションすると、符号化性能が有意に低下した（$\Delta r^2 = -0.14$）。これは、これらの特徴に因果的役割があるという証拠と一致する。
4. 一般化：この知見は、言語（英語、中国語、フランス語）およびモデル（GPT-2 XL, Llama-3.1-8B）を超えて一般化する。

結果

• 中間層：両モデルとも逆 U 字型のプロファイルを示し、GPT-2 XL では L20〜24、Llama-3.1-8B では L12〜16 でピークに達した。
• セマンティックの支配性：セマンティック特徴はモデルが捉えた神経分散の**88%**を説明した。語彙特徴は、初期層特徴の重要な部分を占めていたにもかかわらず、固有の分散への寄与は無視できるほど小さかった（$\Delta R^2 \approx 0.000$）。
• 地形図的整合：特定のサブカテゴリが予測通り特定の領域にマッピングされた：
  • 具体性/有生性 $\rightarrow$ 後側頭皮質および角回。
  • 情動/感情 $\rightarrow$ 前側頭皮質および dmPFC。
  • 社会的/精神的 $\rightarrow$ 下前頭皮質および前側頭皮質。
  • 空間的 $\rightarrow$ 角回。
• 予測誤差：探索的分析は、脳が予期せぬセマンティック内容（予測誤差）も符号化する可能性を示唆しており、生のセマンティクスと予測誤差を組み合わせることで符号化性能が向上した（$\Delta r = +0.018, p<0.01$）。
• 規範との比較：SAE 特徴は、符号化性能（$r=0.285$ 対 $0.194$）および地形図的収束（$\rho=0.72$対$0.31$）の両方で、単純な単語レベルのセマンティック規範（具体性、価など）を上回った。これは、文脈的かつ微細な表現の重要性を浮き彫りにしている。

意義と主張
本論文は、脳と LLM の整合性に関する問いを、「セマンティクスが関係を駆動するかどうか」というものから、「どの特定のセマンティック特徴が、脳のどこで整合性を駆動するか」というものへと変容させると主張する。

• メカニズム的洞察：著者らは、中間層の優位性が、モデルが後期層でトレーニング目的（次のトークンの予測）に特化する前に、セマンティックの豊かさがピークに達することを反映していると論じる。
• 神経科学的収束：結果は、セマンティック記憶のハブ・アンド・スポーク構造を支持し、LLM が自発的に人間の神経解剖学と収束する皮質地形図を発見することを示している。
• 方法論的進展：神経データに SAE を適用することで、集計尺度を超え、計算表現を特定の神経生物学的メカニズムに結びつける特徴レベルの説明を提供する。著者らはこれを、以前は切り離されていた 2 つの実証的規則性（中間層の優位性と皮質セマンティック組織）を横断する単一の特徴レベル説明として位置づけている。

著者が認めた限界
論文は、以下のいくつかの限界を指摘している：

• 特徴ラベリングに GPT-4 を使用することは共有バイアスを導入する可能性がある（人間による検証とクロス LLM チェックで軽減）。
• 平均アブレーションは、因果的主張にとって粗い介入である。
• fMRI の分解能（約 2 秒）は、単語レベルのセマンティクスと構成的セマンティクスを混同する。
• 本研究は 3 つの言語（すべて頭部先行）間での一般化チェックであり、包括的な言語間証明ではない。
• 予測誤差分析は、完全な階層的予測符号化の単純化された代理指標である。