💬 NLP

From Human Cognition to Neural Activations: Probing the Computational Primitives of Spatial Reasoning in LLMs

この論文は、大規模言語モデルの空間推論能力が構造化された内部表現に基づくものではなく、言語的ヒューリスティックや断片的なメカニズムに依存していることを、人間の認知理論に基づいたタスクと機械的解析を通じて実証的に明らかにしたものです。

原著者： Jiyuan An, Liner Yang, Mengyan Wang, Luming Lu, Weihua An, Erhong Yang

公開日 2026-03-30

📖 1 分で読めます☕ さくっと読める

原著者： Jiyuan An, Liner Yang, Mengyan Wang, Luming Lu, Weihua An, Erhong Yang

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

🕵️‍♂️ 研究の核心：「魔法の箱」の中身を探る

これまでの AI の評価は、「問題に正解したか（テストの点数）」だけで判断されていました。
しかし、これは**「暗記して正解したのか、それとも本当に論理的に考えて正解したのか」**がわからない状態です。

この研究では、AI が「正解」を出す瞬間に、その頭の中で何が起きているかを**「機械的な視点」**から詳しく調べました。

🧩 3 つの「空間のゲーム」で AI を試す

研究者は、人間の空間認知の仕組みをヒントに、AI に 3 つの異なる「空間ゲーム」をさせました。

関係性パズル（誰がどこにいる？）
- 例：「A は B の左、B は C の上……では A は C のどこ？」
- チェック点： 複数の情報を組み合わせて、全体像を頭の中で描けるか？
視点変換ゲーム（回転させたらどうなる？）
- 例：「北を向いていて、右に曲がって、さらに後ろを向いたら、今どっちを向いている？」
- チェック点： 自分自身の向きや位置を、頭の中で回転・移動させられるか？
空間プログラム実行（道順を追う）
- 例：「原点から 3 歩前、2 歩右、鏡像反転……最終地点はどこ？」
- チェック点： 一連の動きを記憶し、順番に計算して最終地点を導けるか？

これらを英語、中国語、アラビア語で同じように行い、AI の「言語」に依存しない本当の能力を見極めました。

🔍 調査方法：AI の「脳」をスキャンする

AI が答えを出す過程で、以下の 3 つの技術を使って「頭の中」をスキャンしました。

プローブ（探針）： 隠れた層（中間層）に「空間の情報」が隠されていないか探す。
スパース・オートエンコーダー： AI の神経回路から「空間に特化した特定のスイッチ」を見つけ出す。
因果介入（いじくり回す）： 特定のスイッチを強制的に切り替えたり消したりして、AI の答えが変わるかどうかを確認する（これが「本当に空間を理解している証拠」になる）。

💡 驚きの発見：AI の「空間脳」は不完全だった

研究結果は、**「AI は空間を理解しているように見えるが、実はかなり脆（もろ）い」**というものでした。

1. 中間層では輝くが、最後には消える

AI の頭の中では、**「中間の段階」で空間情報がしっかり整理されていました。しかし、「答えを出力する直前の最後」**になると、その情報が消えてしまい、言語的なパターン（「たぶんこうだろう」という勘）に置き換わってしまっていることがわかりました。

例え話： 料理の途中までは完璧にレシピに従って調理しているのに、お皿に盛り付ける瞬間に「なんとなく美味しそうに見えるから」と適当に盛ってしまうような状態です。

2. 言語によって「脳の回路」が違う

同じ「空間ゲーム」でも、英語と中国語、アラビア語では、AI が使っている**「内部の回路（スイッチ）」が全く違いました**。

例え話： 同じ「家」を作るのに、日本人は木造、アメリカ人はコンクリート、アラブ人は土壁というように、「同じ結果（正解）」を出すために、言語ごとに全く異なる方法（回路）を使っていることがわかりました。これは「空間の概念」が言語に依存していることを示しています。

3. 方向感覚は苦手

「誰がどこにいるか（位置関係）」や「座標計算」はそこそこできましたが、**「どちらを向いているか（方向）」**の感覚は、AI にはほとんど存在しませんでした。

例え話： 地図上の「位置」は覚えているのに、「北東西南」の感覚が全くない、方向音痴の AI です。

🎯 結論：AI は「空間の天才」ではなく「言葉の達人」

この研究からわかることは、現在の AI は**「立派な空間認識能力（認知地図）」を持っているわけではなく**、「言葉の並び順や統計的なパターン」を巧みに使って、あたかも空間を理解しているふりをしているということです。

良い点： 中間過程では空間的な計算ができている。
悪い点： その情報が最終的な判断にしっかり活かされておらず、言語が変わると中身も変わってしまう。

🚀 今後の展望

この研究は、**「テストの点数が良いからといって、AI が本当に賢いわけではない」と警鐘を鳴らしています。
ロボットや自律走行車など、現実世界で動く AI を作るためには、単に「正解を出す」だけでなく、「頭の中で空間情報をしっかり維持し、言語に依存しない強固な仕組み」**を作る必要があると提言しています。

一言でまとめると：
「AI は空間パズルを解くのが上手に見えますが、実は頭の中で『空間の地図』を描いているのではなく、『言葉のつじつま合わせ』で正解を導いているだけかもしれません。本当の空間理解には、まだ多くの課題が残っています。」

この論文「From Human Cognition to Neural Activations: Probing the Computational Primitives of Spatial Reasoning in LLMs（人間の認知から神経活動へ：LLM における空間推論の計算的原基の探求）」は、大規模言語モデル（LLM）が空間推論タスクで高い精度を示す際、それが構造化された内部空間表現に基づいているのか、それとも表面的な言語的ヒューリスティック（手掛かり）に依存しているのかを、機械論的（メカニスト的）な視点から解明しようとする研究です。

以下に、問題設定、手法、主要な貢献、結果、そして意義について詳細にまとめます。

1. 問題設定

近年、LLM や視覚言語モデル（VLM）は、ナビゲーションやロボティクスなど空間理解を必要とする分野で急速に進歩しています。しかし、ベンチマークでの高い正解率が、生物学的な認知（認知地図、心像回転など）に類似した「構造化された空間表現」の獲得を反映しているのか、それとも単なる「表面的な言語的相関」や「記憶」によるものなのかは不明確でした。
従来の研究は出力の正誤（行動レベル）に焦点を当てており、モデル内部で空間情報がどのように表現・処理されているかというメカニズムの解明が不足していました。本研究は、このギャップを埋め、LLM の空間推論能力の本質を「行動」ではなく「内部表現と因果的メカニズム」の観点から評価することを目的としています。

2. 手法と実験設計

本研究は、人間の空間認知の計算理論に基づき、空間推論を 3 つの「計算的原基（Computational Primitives）」に分解し、それぞれに対応する制御されたタスクファミリーを設計しました。

2.1 タスクの分類（3 つの原基）

関係的構成（Relational Composition）: 複数のペア関係（例：A は B の左、B は C の上）から、間接的に接続されたエンティティ間の関係を推論するタスク（認知地図に相当）。
表現変換（Representational Transformation）: 初期の空間配置から、回転や視点変更などの幾何学的変換を適用し、結果を報告するタスク（心像回転に相当）。
状態保持空間更新（Stateful Spatial Updating）: 一連の移動や変換コマンドを実行し、最終的な位置を計算するタスク（経路統合に相当）。

2.2 実験設定

モデル: 多言語対応 LLM（Qwen2.5-7B、Llama-3-8B）のベース版と指令微調整版を使用。
言語: 英語、中国語、アラビア語の 3 言語で、計算的に同等なタスクを独立して構築（直接翻訳ではなく、表面形式は自然に変化させつつ計算構造は同一に保つ）。
推論プロトコル: 連鎖思考（Chain-of-Thought）を誘発させず、単一パス推論（Standard single-pass inference）のみで評価。これにより、生成されたテキストの推論プロセスではなく、隠れ層の活性化に埋め込まれた「暗黙的な空間表現」を分析します。
分析手法:
- 線形プロービング: 隠れ状態から空間変数（相対位置、向き、座標）を復元できるかを確認。
- スパースオートエンコーダー（SAE）分析: 解釈可能な特徴量（Feature）を特定し、空間選択性を評価。
- 因果的介入（Causal Interventions）: 活性化パッチングや特徴量の除去（Ablation）を行い、空間表現が行動に因果的に影響を与えるか検証。

3. 主要な結果

実験結果から、以下の重要な知見が得られました。

3.1 空間表現の存在と限界

中間層での符号化: 空間情報はモデルの中間層で明確に符号化されており、線形プロービングで高い $R^2$ 値（最大 0.40 程度）を示しました。また、因果的介入によりモデルの出力を意図的に変化させることが可能であり、これらの表現が機能していることが確認されました。
一時的・断片的な性質: 空間表現は最終層（トークン予測を行う層）に向かうにつれて急激に減衰し、保存されません。また、異なるタスクファミリー間で特徴量の重なりが少なく（12-18%）、空間推論が統合された単一の「認知地図」ではなく、タスク固有の断片的な表現に依存していることが示されました。

3.2 言語依存性とメカニズムの退行（Degeneracy）

言語による性能差: 関係的推論タスクでは言語間で性能差が見られましたが、座標ベースのタスク（プログラム実行）では差が小さく、言語不変性が高い傾向がありました。
メカニズムの退行: 異なる言語（英語、中国語、アラビア語）で同様の行動性能を示していても、それを支える内部の特徴量（SAE による因果的に重要な特徴）は大きく異なっていました。これは、同じ出力に至るための内部経路が言語ごとに異なることを意味します。

3.3 失敗モード

関係的推論: 複雑度が増すと精度が非単調に低下し、多制約の統合が部分的に破綻する傾向が見られました。
向き推論: ほぼ確率レベルの性能であり、幾何学的な状態追跡ではなく、頻出する方向（北、東など）への言語的バイアスに依存していることが示唆されました。
空間プログラム実行: 最も高い性能を示しましたが、エラーの多くは純粋な算術ミスに起因しており、空間推論そのものではなく数値処理能力に支えられている側面がありました。

4. 主要な貢献

メカニスト的評価フレームワークの提案: 従来のベンチマーク精度に依存せず、人間の認知理論に基づいた「計算的原基」を分解し、LLM の内部表現を多角的（プロービング、SAE、因果介入）に分析する枠組みを確立しました。
空間推論の限界の明確化: LLM は空間情報を符号化できるが、それは「構造化された普遍的な空間推論」ではなく、「文脈依存的で断片的な表現」であることを実証しました。
多言語メカニズムの解明: 言語によって空間表現の内部実装が異なる（メカニズムの退行）ことを初めて示し、LLM の空間能力が言語構造に強く依存していることを明らかにしました。

5. 意義と結論

本研究は、現在の LLM が「表面的なパターンマッチング」と「生物学的な堅牢な空間認知」の中間に位置していることを示唆しています。LLM は特定のタスク形式や言語的合図がある場合に空間構造を構築できますが、それは永続的ではなく、タスク間や言語間で統合されていません。

この発見は、LLM の空間推論能力を向上させるためには、単なるベンチマークスコアの向上ではなく、処理段階全体にわたって空間表現を維持・統合するアーキテクチャや学習手法の必要性を浮き彫りにしています。また、AI の安全性や解釈性を高めるためには、行動結果だけでなく、内部のメカニズムを評価する「メカニスト的評価」が不可欠であることを強調しています。