Across the Levels of Analysis: Explaining Predictive Processing in Humans Requires More Than Machine-Estimated Probabilities

この論文は、マーの分析レベルの枠組みを用いて、言語処理における予測の重要性や大規模言語モデル（LLM）の不可欠性という二つの主張を批判的に検討し、LLM の強みと心理言語学モデルを統合した今後の研究方向性を提示しています。

要約

この論文は、最新の「AI 言語モデル（LLM）」と「人間の脳が言葉を処理する仕組み」の関係について、非常に重要な指摘をしています。

一言で言うと、**「AI が『次に来る言葉の確率』を計算する能力は素晴らしいけれど、それだけで『人間がどうやって言葉を理解しているか』を完全に説明することはできない」**という主張です。

以下に、難しい専門用語を使わず、身近な例え話を使って解説します。

---

1. 昔と今の「言葉の難しさ」の探し方

【昔の失敗談：1960 年代】
昔の研究者たちは、「文法構造が複雑な文ほど、脳は処理しにくい（読むのに時間がかかる）」と考えました。しかし、この考え方は「文法規則そのもの」に注目しすぎていて、実際の人間の脳の動きをうまく説明できませんでした。これは「失敗した地図」として知られています。

【今のブーム：2020 年代】
50 年経った今、AI（言語モデル）のおかげで、また同じような考え方が流行っています。

• AI の視点: 「文脈から考えて、次に『猫』が来る確率は 90%、『飛行機』が来る確率は 0.1% だ。だから『飛行機』は予測しにくく、脳が驚く（処理が難しい）はずだ」という考え方です。
• 現在の状況: AI はこの「予測の難しさ（確率）」を計算するのが非常に得意で、人間の読書速度や脳の反応と一致する部分が多いです。そのため、「人間の脳も AI のように確率計算をしているに違いない」という意見が強まっています。

2. この論文の「警鐘」：AI は完璧なモデルではない

著者たちは、「AI の計算結果は便利だが、それだけで人間の脳を説明するのは危険だ」と警告しています。

【例え話：天気予報と傘】

• AI（確率モデル）: 「明日の降水確率は 80% だから、傘が必要だ」と言います。これは**「結果（傘が必要か）」**を正確に予測しています。
• 人間の脳（アルゴリズム）: しかし、人間が傘をさすまでの**「プロセス」**はもっと複雑です。「空を見て雲の形を確認し」「風を感じて」「過去の経験と照らし合わせて」判断します。

AI は「80% だったから傘が必要」という答えは出せますが、人間が**「どうやってその判断に至ったか（脳のどの部分がどう動いたか）」という「仕組み」**までは説明できていません。

3. 具体的に何が足りないのか？

AI が人間の脳を完全に模倣できていない点として、以下の 3 つが挙げられています。

1. 「意味のつながり」と「文脈の予測」の混同

   • AI は「犬」という言葉が出たら「猫」が来る確率が高いと計算しますが、これは単に「よく一緒に使われる言葉」を覚えているだけかもしれません。
   • 人間の脳は、文脈の論理や意味を深く理解して予測しています。AI の計算は、この 2 つを区別できていないことがあります。

2. 「錯覚」への弱さ

   • 人間は、文法が間違っているのに「意味が通じるから大丈夫」と勘違いしてしまう「言語の錯覚」を起こすことがあります。
   • AI は、人間が錯覚を起こすような微妙なニュアンスや、文脈の矛盾を「確率」だけで処理しようとして、人間とは違う反応をしてしまいます。

3. 「脳の仕組み」からのアプローチの欠如

   • 人間の脳は、予測と実際の入力（聞こえた言葉）のズレを検知して学習する「予測符号化（Predictive Coding）」という仕組みを持っています。
   • 現在の AI は、この「生物学的な仕組み」を真似ているわけではありません。単に膨大なデータから統計的なパターンを抽出しているだけです。

4. 今後の方向性：AI と脳の「良いとこ取り」

著者たちは、AI を否定しているのではありません。むしろ、「AI のすごい予測能力」と「人間の脳の仕組み（アルゴリズム）」を組み合わせるべきだと言っています。

• AI の役割: 「どの言葉が予測しにくいか」という**「難易度の指標」**として使う。
• 人間の研究の役割: その難易度に対して、脳が**「どのように処理しているか（どの神経回路がどう動くか）」**を解明する。

【例え話：ナビゲーションアプリとドライバー】

• AI（ナビアプリ）: 「今から目的地まで、このルートが最も確率的に速いです」と教えてくれます。これは素晴らしい道具です。
• 人間の脳（ドライバー）: しかし、ドライバーが実際にハンドルを切り、アクセルを踏み、曲がり角でバランスを取る**「運転の技術」**は、ナビアプリの計算だけでは説明できません。

これからの研究は、**「ナビアプリ（AI）の予測データ」を使って、「ドライバー（人間）の運転技術（脳の処理プロセス）」**をより深く理解しようというものです。

まとめ

この論文は、**「AI が言葉を予測する能力は素晴らしいが、それだけで人間の『言葉の理解』という複雑な脳の働きを説明するのは不十分だ」**と伝えています。

AI を単なる「答え合わせの道具」ではなく、人間の脳がどう動いているかを解き明かすための**「新しいパートナー」**として、より深く、生物学的な視点と組み合わせて研究を進めていこうという提言です。

技術概要

この論文「Across the Levels of Analysis: Explaining Predictive Processing in Humans Requires More Than Machine-Estimated Probabilities（分析レベルを超えて：人間の予測的処理を説明するには、機械推定された確率以上のものが必要である）」は、Futrell と Mahowald の「言語モデル（LM）と言語処理」に関する評論に対する論評（Commentary）です。著者らは、マー（Marr）の分析レベルの枠組みを用いて、大規模言語モデル（LLM）が言語処理の理解にどのように貢献できるか、またその限界について論じています。

以下に、論文の技術的概要を問題、手法、主要な貢献、結果、意義の観点から日本語で詳述します。

---

1. 問題設定 (Problem)

• 背景: 1960 年代の「派生理論的複雑さ（DTC）」の失敗を経て、現在の心理言語学では「予測理論（Surprisal Theory）」が主流となっている。これは、文脈に基づいた言語情報の予測可能性（確率）が処理困難さを説明するという考え方である。
• 現状の課題: 近年、LLM が文脈確率を高精度に推定できるようになり、LLM の確率値が人間の処理困難さ（読書時間や脳波など）を説明する主要な指標として再評価されている。
• 核心的な問題: 著者らは、LLM の「確率的推論」が人間の「予測的処理」を完全に説明できるわけではないと指摘する。
  • LLM は単に統計的な確率を計算しているに過ぎず、人間の認知プロセス（アルゴリズムレベル）や神経メカニズム（実装レベル）を反映していない。
  • 人間の処理には、確率以外の要因（文法構造、意味的連想との混同、時間的遅延、文脈の質的パターンなど）が関与しており、LLM の確率値だけでは説明しきれない現象（言語的錯覚や役割逆転など）が存在する。

2. 手法・アプローチ (Methodology)

この論文は実験的なデータ収集ではなく、理論的・概念的な分析に基づいています。

• マーの分析レベルの枠組みの適用:
  • 計算レベル (Computational Level): 何のために処理を行うか（予測）。LLM はこのレベルでの「処理困難さの集計的指標」として有用である。
  • アルゴリズムレベル (Algorithmic Level): どのように処理を行うか（具体的な計算プロセス）。LLM はここでの人間のメカニズムを直接モデル化していない。
  • 実装レベル (Implementational Level): 脳内でどのように物理的に実装されるか（神経生物学的機能）。LLM は生物学的に妥当な予測符号化（Predictive Coding）とは異なる。
• 既存研究のレビューと対比:
  • 過去の DTC の失敗と現在の Surprisal 理論の成功・限界を比較。
  • LLM の予測値と、厳密に制御された実験（言語的錯覚、予測違反の帰結、時間的遅延、生成と理解の対比など）で得られた心理言語学的データを対照させる。
  • 単純で解釈可能なモデルや、生物学的に妥当な予測符号化モデル（Predictive Coding models）の成果と比較する。

3. 主要な貢献 (Key Contributions)

• LLM の役割の再定義:
  • LLM は「言語処理の核心メカニズムそのもの」としてではなく、「予測可能性の要因を特定するためのコンポーネント」として、より高度なアルゴリズムモデルの一部に組み込むべきであると提言する。
  • LLM の確率値は、人間の処理困難さの「集計的指標（Aggregate Measure）」としては有用だが、個別の現象を説明する「機能的説明（Functional Explanation）」としては不十分であることを明確にする。
• LLM の限界の特定:
  • 意味的連想と文脈的期待の混同: LLM は両者を区別できず、N400 や P600 などの脳波反応を完全に説明できない。
  • 質的パターンの欠落: 論旨の役割逆転（Argument role reversals）や言語的錯覚（Linguistic illusions）に対する人間の反応の質的パターンを捉えきれていない。
  • 生物学的妥当性の欠如: LLM の成功は、神経科学的な予測符号化理論とは修辞的なつながりしか持たず、生物学的メカニズムを反映していない。
• 将来の方向性の提示:
  • 異なる表現レベル間での相互作用（Interactivity）を考慮し、予測可能性の要因をプロセスモデルに組み込むこと。
  • 単純な認知モデル（Rumelhart & McClelland, Elman など）を生物学的に妥当な計算方法と結びつけたアプローチ（予測符号化モデルなど）の再評価と発展。

4. 結果・知見 (Results & Findings)

論文は以下の具体的な知見を導き出しています。

• LLM 確率の限界: LLM の驚き（Surprisal）値は、構文の曖昧性解消の困難さを説明する証拠が乏しい（Huang et al., 2024 などの引用）。また、文法的錯覚に対する人間の「良い程度（Good-enough）」の処理や、論旨役割の誤解を LLM は再現できない。
• アルゴリズムレベルへの回帰: 1960 年代の DTC から現在の Surprisal 理論への移行は、より微細な現象（アルゴリズムレベル）への関心を高めた。しかし、LLM への過度な依存は、この微細なメカニズムの解明を妨げている可能性がある。
• 予測符号化モデルの有効性: 神経生物学的機能に基づいた予測符号化モデル（Nour Eddine et al., 2024; Ohams et al., 2026）は、制御された実験環境だけでなく、自然な読書データにおいても、同規模の LLM と同等の予測力を持ちつつ、より解釈可能なメカニズムを提供している。
• LLM との共存: 心理言語学者は LLM を「言語処理の核心メカニズム」としてではなく、「より詳細なアルゴリズムの構成要素」として活用すべきである。

5. 意義 (Significance)

• 学問的バランスの回復: 大規模言語モデル（LLM）の台頭による「確率万能論」への傾倒に対し、心理言語学が持つ「メカニズムの解明」という伝統的な強みを再評価させる。
• 理論的統合の指針: 計算レベルでの LLM の強力な予測能力と、アルゴリズム・実装レベルでの人間の認知メカニズム（予測符号化など）を統合する道筋を示す。
• 今後の研究への示唆:
  • 単に LLM の出力を従属変数として使うだけでなく、LLM の予測を人間の処理プロセス（時間的経過、神経反応）と結びつける「プロセスモデル」の構築が重要である。
  • 生物学的に妥当なモデル（Predictive Coding）と LLM の長所を組み合わせることで、言語処理の完全な理解に近づける可能性がある。

結論:
著者らは、LLM が言語処理研究に「処理困難さの推定」という点で大きな貢献をしていることは認めつつも、人間の予測的処理を完全に説明するには不十分であると結論づけます。真の進展のためには、LLM の確率的推論を、アルゴリズムレベルのメカニズムや生物学的に妥当な予測符号化モデルと統合し、「どの単語が予測可能か（What）」だけでなく、「それがどのように処理されるか（How）」を解明する方向へ研究を進める必要があると提言しています。