論文「Semantic Sections: An Atlas-Native Feature Ontology for Obstructed Representation Spaces」の技術的サマリー

1. 概要と背景

本論文は、機械学習のメカニズム的解釈可能性（Mechanistic Interpretability）における「特徴（Feature）」の定義に関する根本的な問い直しを提案しています。従来の研究では、ニューラルネットワーク内の意味的な特徴は、活性化空間内の単一のグローバルなベクトル、辞書原子、または潜在座標として表現されると仮定されることが一般的でした。しかし、著者は、表現空間が「局所的には整合的だが、大域的には整合しない（obstructed）」場合、このグローバル・ベクトル仮説が破綻することを指摘し、その代替概念として**「セマンティック・セクション（Semantic Section）」**を導入しました。

2. 問題設定

近年のアトラスベースの研究（Javidnia, 2026）により、ニューラル表現は複数の局所的なチャート（文脈）から構成され、それらの間には学習された遷移マップが存在することが示されました。しかし、この遷移には以下の幾何学的な障害が存在します。

• 代理せん断（Proxy Shearing）: 局所的な意味がチャート間で歪んで変換される現象。
• 非自明なホロノミー（Nontrivial Holonomy）: 閉じたループを周回して戻ってきた際、元のベクトルと一致しない（回転する）現象。

これらの障害がある場合、局所的に整合的な意味が、単一のグローバルなベクトルとして大域的に結合（グリーディング）しないことがあります。つまり、「1 つの特徴＝1 つのグローバルベクトル」というオントロジー（存在論）は、表現空間が「障害（Obstruction）」を持つ領域では機能しません。

3. 提案手法：セマンティック・セクション

著者は、障害のある表現空間における特徴の正しい基本単位として、**「セマンティック・セクション」**を提案します。

3.1 定義

セマンティック・セクションとは、文脈アトラス上で定義された、輸送（Transport）と整合する局所的特徴代表の家族です。

• 各チャート $c$ には局所ベクトル $s_c$ が存在します。
• 隣接するチャート間の輸送マップ $T_{vu}$ によって、これらの局所ベクトルが整合的に接続されている必要があります。
• 単一のグローバルベクトルではなく、チャートごとに異なる代表ベクトルを持ちつつ、アトラスの輸送構造を通じて同一性を維持する「家族」として特徴を捉えます。

3.2 理論的枠組み

セクションは、その支持グラフ（Support Graph）の構造と、ループ周回時の整合性に基づいて 3 つのレジームに分類されます。

1. 木局所セクション（Tree-local Sections）: 木構造（サイクルなし）の支持グラフ上で定義されるもの。経路依存性のみで定義されるため、弱い局所的整合性しか保証されません。
2. 大域化可能セクション（Globalizable Sections）: サイクルを含む支持グラフ上で定義され、任意のループを周回しても代表ベクトルが符号と誤差の範囲内で一致する（ホロノミーが小さい）もの。真の意味での大域的な特徴です。
3. ねじれたセクション（Twisted Sections）: 局所的には整合的（エッジ上の欠陥が小さい）ですが、ループを周回すると代表ベクトルが回転して一致しない（非自明なホロノミーを持つ）もの。これは「局所的には意味を持つが、大域的な単一特徴としては定義できない」状態を表します。

4. 発見・認証パイプライン

凍結された LLM（大規模言語モデル）のアトラスからセマンティック・セクションを発見・認証するための実用的なパイプラインを開発しました。

1. 種子伝播（Seeded Propagation）: 特定のチャートと軸（seed）から出発し、グラフ上を輸送マップを通じて局所ベクトルを伝播させます。
2. 同期（Synchronization）: 複数の経路で到達したチャートにおいて、入力された代表ベクトルを整合させ、単一の局所代表を推定します。
3. 欠陥ベースの剪定（Defect-based Pruning）: 輸送欠陥（エッジ欠陥、経路欠陥）が閾値を超えるチャートを除去し、整合的な支持領域を抽出します。
4. サイクル認識分類（Cycle-aware Taxonomy）: 支持グラフのベッチ数（独立したループの数）と、ループ輸送による欠陥（ホロノミー欠陥）に基づき、上記の 3 つのタイプ（大域化可能、ねじれた、木局所）に分類します。
5. 重複除去（Deduplication）: 異なる種子から発見された同一のセクションを、支持領域の重なりや幾何学的類似性に基づいて統合し、一意なセクションの数を推定します。

5. 実験結果

Llama 3.2 3B、Qwen 2.5 3B、Gemma 2 2B の各モデルの第 16 層（および Llama の他の層）を対象に実験を行いました。

5.1 横断的なセクションの分布

• Gemma 2: 最も豊かなサイクルサポート構造を持ち、14 の「大域化可能セクション」と 4 つの「ねじれたセクション」を発見しました。
• Llama 3.2: 全 3 つのタイプ（大域化可能、ねじれた、木局所）を希薄ながら網羅的に持っています。
• Qwen 2.5: 「木局所セクション」が支配的であり、サイクルサポートを持つセクションは比較的少ない（制御集団として機能）。
• これらの結果は、セマンティック・セクションが特定のモデルのアーチファクトではなく、障害のある表現空間における普遍的な特徴構造であることを示唆しています。

5.2 意味的同一性の回復（Semantic Identity Recovery）

最も重要な発見は、**「セマンティック・セクションとしての同一性は、生（Raw）のグローバル・ベクトル類似性では回復できない」**という点です。

• セクションベースの回復: 認証されたセクション内のすべてのチャートペアは、セクション定義により 100% 正しく同一と判定されます。
• 生ベクトル類似性の失敗: 同一セクションに属する局所ベクトル間の生コサイン類似度は、一般的に非常に低いです。
  • 例：Gemma の大域化可能セクション（14 個、1221 ペア）において、コサイン類似度閾値 0.5 で正しく検出されたペアはわずか 2.62% でした。閾値 0.7 では 0% になりました。
  • これは、局所的な代表ベクトルが、単一のグローバルベクトルとして視覚的に近接していないことを意味します。

5.3 層間・閾値のロバスト性

• 層間変化: Llama において、層 12 と 16 ではサイクルサポート構造が確認されましたが、層 20 では希薄化しました。これは、セマンティック構造が層深さに依存して変化することを示しています。
• 閾値ロバスト性: 幾何学的閾値を多少変化させても、モデル間の定性的な傾向（Gemma が豊富、Qwen が木局所中心など）は安定していました。

6. 貢献と意義

主な貢献

1. オントロジーの転換: 障害のある表現空間における特徴の定義を、「単一グローバルベクトル」から「輸送整合的な局所セクションの家族」へと変更しました。
2. 理論的定式化: 木局所、大域化可能、ねじれたセクションの 3 つのレジームを定義し、サイクル整合性（Cycle Consistency）とホロノミーが局所から大域への統合を制御することを証明しました。
3. 実証的パイプライン: 凍結 LLM におけるセクション発見・認証パイプラインを開発し、実データでの有効性を示しました。
4. 実証的証拠: 生ベクトル類似性が意味的同一性の回復に失敗し、セクションベースのアプローチが成功することを示しました。

学術的・実用的意義

• 解釈可能性の精度向上: グローバルベクトル仮説に固執することは、障害のある領域において意味構造を誤って断片化させるリスクがあります。セマンティック・セクションは、この問題を解決し、より忠実な解釈を可能にします。
• ホロノミーの再解釈: ホロノミーを単なる幾何学的な診断指標ではなく、「単一値の意味的同一性に対する障害」として捉え直すことで、モデル内部の複雑な意味構造を理解する新たな視点を提供しました。
• 今後の方向性: 特徴の編集、操作、下流タスクとの整合性など、セクションベースの新しい解釈可能性タスクへの道を開きます。

結論として、本論文は、大規模ニューラルネットワークの表現空間が必ずしも大域的に整合しない場合、特徴を「局所から大域へ（Local-to-Global）」の視点で捉える必要があることを強く主張し、そのための数学的枠組みと実証的根拠を提供しています。