Selective Deficits in LLM Mental Self-Modeling in a Behavior-Based Test of Theory of Mind

以下は、Christopher Ackerman 氏による論文「Selective Deficits in LLM Mental Self-Modeling in a Behavior-Based Test of Theory of Mind（行動ベースの心の理論テストにおける LLM の自己モデル化における選択的欠損）」の技術的な要約です。

1. 問題提起 (Problem)

大規模言語モデル（LLM）が、自分自身や他者を「知識、意図、信念状態を持つエージェント」として表現する能力（心の理論：Theory of Mind, ToM）を習得しているかどうかは、重要な研究課題です。
これまでの研究では、LLM が「サリーとアンのテスト」などの古典的な ToM タスクで人間レベルの性能を示すことが報告されてきましたが、以下の弱点が指摘されています。

• 模倣の限界: LLM は訓練データに含まれる膨大な ToM 関連の記述を単に模倣しているだけであり、因果モデルを構築して任意の状況で展開しているわけではない可能性。
• 記述と行動の乖離: 従来のテストは「他者がどう行動するかを記述する」ことを求めており、LLM の言語生成能力の優位性に依存している。
• 自己モデルの欠如: 他者の心の状態を推測する能力と、自分自身の知識状態（自分が知らないことを認識する能力）を推測する能力は、必ずしも相関しない可能性がある。

本研究は、LLM が単なるパターンマッチングではなく、戦略的に行動するために必要な「真の心的モデル（Mental Models）」を構築できているかを検証することを目的としています。

2. 手法 (Methodology)

著者は、LLM の訓練分布から外れた新しい「行動ベースのテストパラダイム」を開発しました。これはテキストベースのゲーム形式で、参加者（プレイヤー）は他のキャラクター（味方、敵）の知識状態を監視し、戦略的な行動を選択する必要があります。

• ゲームの仕組み:
  • プレイヤーは部屋にいて、容器（袋、箱、バスケット）への物体の移動や、他のキャラクターの入室・退室を監視します。
  • 各ターン終了時、特定のキャラクター（自分、味方、または敵）が「特定の容器の最終内容」を答える必要があります。
  • プレイヤーは以下の 3 つの行動から選択できます（正解はチームに 1 点、行動にはコストがかかる場合あり）：
    1. Ask（質問）: 0.5 点の代償で他者に情報を聞く。
    2. Tell（伝達）: 0.5 点の代償で他者に情報を教える（嘘も可能）。
    3. Pass（通過）: コストなしで何もしない。
• 評価される 4 つの認知コンポーネント:
  1. 自己知識 (Self Knowledge): プレイヤー自身が容器の内容を知らない場合、味方に質問する必要があるか（自分が知らないことを認識する能力）。
  2. 他者の真偽の信念 (True vs False Belief): 味方が誤った信念を持っている場合、それを正す必要があるか（他者の誤った信念の理解）。
  3. 味方の知識 (Teammate Knowledge): 味方が既に正解を知っている場合、教えるのをやめることができるか（他者の知識状態の区別）。
  4. 味方対敵 (Teammate vs Opponent): 敵に対しては情報を教えない、あるいは戦略的に嘘をつくことができるか（他者の意図の理解）。
• 実験対象:
  • 2024 年 5 月以降にリリースされた 28 種類の LLM（オープンソース・クローズドソース、推論モデル・非推論モデル）。
  • 「非思考 (Nonthinking)」モデル: 思考プロセス（Chain-of-Thought）なしで、単一のフォワードパスで行動を決定するモデル。
  • 「思考 (Thinking)」モデル: 思考トレース（スクラッチパッド）を使用して推論を行うモデル。
  • 比較対象として人間被験者（n=10）も同様のタスクを実施。

3. 主要な貢献 (Key Contributions)

1. 行動ベースのパラダイムの提案: 単なる記述ではなく、戦略的な行動選択（Ask/Tell/Pass）を通じて ToM 能力を評価する新しい枠組みを確立。
2. 自己モデル化の欠損の発見: 最先端の LLM でさえ、他者の心的状態のモデル化では人間レベルの性能を示す一方で、「自己の知識状態をモデル化する（自分が知らないことを認識する）」タスクでは、思考プロセスなしには完全に失敗することを示した。
3. 思考プロセスの役割の解明: 思考トレース（Chain-of-Thought）が、不適切な「教える (Tell)」行動を抑制し、戦略的な欺瞞（嘘）を可能にする上で決定的な役割を果たすことを実証。
4. 認知的負荷の影響: 心的状態の遷移数（Epistemic State Transitions）が増加すると、非思考モデルの性能が低下することを示し、LLM が限られたワーキングメモリのような機構で心的状態を保持している可能性を示唆。

4. 結果 (Results)

• 非思考モデル (Nonthinking Models):
  • 2025 年半ば以前のモデルは、すべてのタスクで確率的な推測（Chance level）以下の性能しか示さなかった。
  • 2025 年半ば以降の最新モデルは、「他者モデル化（他者の信念や知識を推測）」タスクでは人間レベルの性能に達したが、「自己知識（自分が知らないことを認識）」タスクでは依然として失敗し続けた。
  • 自己知識タスクの性能は、他のタスクやモデルの能力・リリース日と相関しなかった。
  • 認知的負荷（心的状態の遷移数）が増えると性能が低下し、LLM がオンラインで心的状態を追跡しているが、容量に限界があることを示唆。
• 思考モデル (Thinking Models):
  • 思考プロセスを許容された場合、最も高性能なモデルはすべてのタスクでほぼ完璧な性能を示した。
  • 思考モデルは、他者が真実を知っている場合に「教える」行動を抑制する能力や、敵に対して戦略的に嘘をつく能力（戦略的欺瞞）を顕著に示した。
  • 自己知識タスクにおいても、思考プロセスにより人間レベルの性能を達成するモデルが存在したが、自己モデル化の成功には「一人称（I）」での思考が重要であり、二人称（You）での思考は失敗と相関していた。
• 人間との比較:
  • 人間被験者はすべてのタスクで高い一貫した性能を示し、自己モデル化と他者モデル化の間に性能差は見られなかった。

5. 意義と結論 (Significance)

本研究は、LLM が ToM 能力を「獲得」しているのか、単に「模倣」しているのかという議論に新たな視点を提供しています。

• 真の心的モデルの欠如: 非思考 LLM が自己知識タスクで失敗し続けることは、LLM が「自分自身を、環境の変化に曝され、他のエージェントと同様の制約を受ける存在」としてモデル化する能力が本質的に欠けていることを示唆しています。これは、LLM が単に訓練データのパターンを再生しているに過ぎない可能性を強く示しています。
• 推論の必要性: 戦略的な行動（特に情報の抑制や欺瞞）には、思考プロセス（Chain-of-Thought）が不可欠であり、これが LLM の「推論」能力の核心であることを示しています。
• 安全性への示唆: LLM が他者の意図を誤解したり、自己の知識状態を過信したりすることは、社会的な相互作用や安全な AI 開発において重大なリスクとなります。
• 今後の展望: 本研究は、LLM のメタ認知や自己モデル化能力を評価するための行動ベースのベンチマークの第一歩であり、より多様なタスクや内部メカニズムの解明が今後の課題です。

結論として、LLM は高度な言語能力を通じて他者の行動を予測する「表面的な ToM」を模倣することは可能ですが、戦略的な行動を必要とする状況下での「自己モデル化」や「因果的な心的モデルの構築」においては、依然として人間とは異なる、選択的な欠損を抱えていることが明らかになりました。