Language Models Might Not Understand You: Evaluating Theory of Mind via Story Prompting

ゲタチュエウとサパロフによる論文「言語モデルはあなたを理解していないかもしれない：ストーリー・プロンプティングを通じた心の理論の評価」の詳細な技術的サマリーを以下に示す。

1. 問題提起

大規模言語モデル（LLM）は、推論タスク（数学、コーディング、論理）において著しい進歩を示してきたが、他者の心的状態、信念、視点を帰属させる能力である**心の理論（ToM）**に関する推論能力については、その真価が依然として不確かである。

• データ汚染: 既存の ToM ベンチマーク（サリー・アンテストや TOMI など）は、現代の LLM の事前学習データに含まれている可能性が高い。その結果、モデルは真に推論しているのではなく、単に答えを「暗記」している可能性があり、性能指標が過大評価されている。
• 制御の欠如: 従来の合成ベンチマークは、しばしば LLM 自体が物語を生成することに依存しており、これが一貫性の欠如を招き、特定の变量（例：キャラクターの視点対イベントのタイミング）を分離して評価することを困難にしている。
• ギャップ: LLM が真に心的状態をモデル化できるのか、それとも直近の傾向（recency bias）や暗記に依存したヒューリスティックに頼っているのかを評価するための、堅牢で汚染のないフレームワークが必要である。

2. 手法：StorySim フレームワーク

著者らは、ToM および世界モデル化（WM）能力を評価するための新規物語を生成する、プログラム可能な合成フレームワークであるStorySimを導入した。

中核コンポーネント

• STORYBOARD: $D = (C, \phi, G, E, n)$ と定義される高レベルの記号仕様。ここで、
  • $C$: キャラクターの集合。
  • $G$: 場所と接続性を表す有向グラフ。
  • $E$: 決定論的かつタイムスタンプ付きの主要イベントの集合（例：「キャラクター A が $t=5$ に部屋 2 へ移動する」）。
  • $n$: イベントの総数。
  • $\phi$: 行動タイプ（例：enter、move）。
• 生成プロセス:
  1. 記号的生成: StorySim は、STORYBOARD の制約に厳密に従うイベントの系列を生成する。論理的整合性を保証しつつ（例：キャラクターは隣接する場所のみへ移動可能）、非決定的な詳細をランダムに埋め込む。
  2. 翻訳: イベントはテンプレートを用いて自然言語に変換される。
  3. 言い換え（オプション）: 物語は、言語的な自然さを高めるために LLM（GPT-4o-mini）によってさらに言い換えられる可能性があるが、中核的な論理は記号的なストーリーボードに固定されたままとなる。
• 新規性: 物語は特定の制約とランダムな変異を用いてアルゴリズム的に生成されるため、生成された物語のいずれかが事前学習データに現れる確率は「天文学的に小さい」。

実験デザイン

著者らは、異なる認知能力を分離するために 3 つの特定のプロンプトタイプを設計した。

1. ToM プロンプト: あるキャラクターが他者の場所についてどう信じているかを問う（例：「ボブはアリスがどこにいると思っているか？」）。これは現実とは異なる視点をモデル化する能力をテストする。
2. WM-Human プロンプト: 観測された事実に基づき、キャラクターの客観的な場所を問う（例：「ボブが部屋にいる間、アリスはどこへ行ったか？」）。これは視点の取得を必要としない世界モデル化をテストする。
3. WM-Inanimate プロンプト: WM-Human と同様だが、外部の力によって移動させられる無生物を使用する。これはモデルの推論がエージェントの「有生命」な性質に敏感かどうかをテストする。

操作された主要変数:

• 誤導距離: キャラクター（S1）が他者（T）の移動を最後に目撃してから、T の最終的な場所までの時間ステップ数。これは直近バイアス（最後に観測された場所ではなく、最も最近の場所を予測すること）をテストする。
• ToM の次数: 一次元（A は B が X にいると思っている）対 二次元（A は B が C を X にいると思っている）。
• キャラクター数: 単純で慣れ親しんだ物語構造を超えた一般化をテストするために、キャラクターの数を調整する。

3. 主要な貢献

1. StorySim フレームワーク: データ汚染のリスクを排除し、物語変数（視点、タイミング、グラフ構造）の精密な操作を可能にする、完全に制御可能な合成ベンチマーク。
2. ToM と WM の分離: 一般の世界モデル化から ToM を独立して評価する方法を提供し、モデルが物理的出来事の追跡（WM）では優れているが、他者の心的状態の追跡（ToM）では失敗する傾向があることを明らかにした。
3. ヒューリスティックの特定: このフレームワークは、「最初の共通場所ヒューリスティック」（現在いる場所ではなく、キャラクターが最初に交わった場所を予測する）や直近バイアスといった、特定の失敗モードを成功裏に特定した。
4. 包括的なベンチマーキング: ゼロショットおよびファウショットの設定において、広範なモデル群（GPT-4、GPT-5.4、Llama 3.1/3.2/3.3、R1、Qwen）を評価した。

4. 主要な結果

• ToM と WM の不一致: ほとんどのモデルは、**世界モデル化（WM）タスクにおいて心の理論（ToM）**タスクよりも高い精度を達成した。これは、LLM が他者の主観的視点をシミュレートするよりも、物理的状態を追跡する方が得意であることを示唆している。
• 「人間」効果: 模型は無生物と比較して、人間を題材とした WM タスクで著しく高いパフォーマンスを示した。これは、「エージェント」の存在が、より正確な推論経路（そして異なる経路）を誘発することを示唆している。
• モデルサイズとの相関:
  • Llama 3.1ファミリーでは、モデルサイズ（パラメータ数）と ToM パフォーマンスの間に明確な正の相関があった。
  • DeepSeek R1は、全体的な ToM 精度が最も高く、ToM と WM のパフォーマンス間のギャップが最小であった。
  • GPT-5.4は WM では優れていたが、ToM では苦労しており、生粋の推論能力が自動的に社会的推論に等しいわけではないことを浮き彫りにした。
• サリー・アンテストの失敗: 標準的なサリー・アン設定でテストされた場合、モデルは 100% の精度を達成した。しかし、同じ長さのランダムに生成された物語でテストされた場合、精度は大幅に低下した（例：約 75-87% まで）。これは、データ汚染により、古典的なテストが真の ToM の不十分な尺度であることを確認した。
• ヒューリスティックへの依存:
  • 直近バイアス: この研究では、モデルが主要な失敗モードとして直近バイアス（最後に知られた場所を予測すること）に依存しているという決定的な証拠は見つからなかった。「誤導距離」が変化しても、パフォーマンスは安定していた。
  • 最初の共通場所ヒューリスティック: 支配的な誤りパターンは、実際の移動を追跡するのではなく、キャラクターが最初に交わった場所を予測することだった。
  • コンテキスト長の課題: 推論を重視するモデル（R1 など）は、長い思考連鎖を生成する際に不十分なコンテキスト長により頻繁に失敗し、「プロンプトの拒否」や幻覚的な誤りにつながった。
• 複雑性: 物語内のキャラクター数を増やしても、トップクラスのモデルの ToM パフォーマンスは著しく低下せず、複雑な社会的グラフを処理する堅牢性を示唆している。

5. 意義と今後の課題

• ベンチマークの再定義: 著者らは、サリー・アンなどの静的で汚染の可能性があるデータセットから、StorySim のような動的な合成ベンチマークへと分野を移行させ、LLM の能力を真に評価する必要があると主張している。
• 安全性への含意: 堅牢な ToM の欠如は、重大な安全性上の懸念である。LLM がユーザーが異なる視点や隠れた意図を持っていることを理解できない場合、有害なシナリオを検出したり、ユーザーを操作したりする際に失敗する可能性がある。
• 今後の方向性: 著者らは、StorySim を用いて、反事実的推論、目標の帰属、選好モデリングなど、より複雑なシナリオの探求を提案している。また、複雑な ToM タスクに必要な深い推論連鎖を支援するために、モデルのコンテキスト処理能力の向上が必要であると強調している。

結論として、この論文は、LLM が改善されつつあるものの、心の理論に必要な特定の認知的飛躍には依然として苦労しており、しばしばヒューリスティックに依存するか、客観的な世界状態と主観的信念を区別できずにいることを示している。StorySim は、これらの能力を厳密に測定し、改善するために必要なツールを提供する。