あなたは、混み合った部屋に座り、アレックスとジェイミーという二人の友人の物語を聞いているところだと想像してください。あなたは真実のすべてを知っています。あなたは、ジェイミーがクッキーを瓶の中に隠すところを見て、その後、アレックスが忍び込んでそのクッキーを箱に移すところを目撃しました。しかし、ここでのトリッキーな点は、問いが「あなた」が何を知っているかを求めているのではないということです。問いは、「アレックスはどこにクッキーを探しに行くでしょうか？」と聞いています。正解するためには、人間が自然に行っている、しかし驚くほど難しいことをしなければなりません。それは、自分が知っていることを「知らないふり」をすることです。あなたは、箱のことを忘れ、瓶のことだけを記憶して、アレックスの立場に身を置かなければなりません。この精神的な超能力は「心の理論（Theory of Mind）」と呼ばれます。それは、他人が自分とは異なる独自の思考、信念、そして秘密を持っていることを理解する能力のことです。

長い間、科学者たちは人工知能（特に大規模言語モデル、LLM）に、この方法を教えようと試みてきました。これらのAIモデルは、インターネット上のほぼすべての文章を読み込んだ非常に賢い学生のようなものですが、誰かが何を考えているかを推測することに関しては、しばしば間違えてしまいます。彼らは、キャラクターの「誤った」信念（クッキーは瓶にある）ではなく、「真実」（クッキーは箱にある）に基づいて答えてしまう傾向があるのです。これから読む論文は、AIモデルが真実を利用してしまうのを避け、物語の登場人物のように考えられるようにするための、新しい方法を見つけ出すことで、この問題に取り組んでいます。

問題点：「かくれんぼ」の罠

かつて、研究者たちは物語を使ってAIと「かくれんぼ」をすることで、このAIの問題を解決しようとしました。彼らはAIに対し、「さて、質問に答える前に、そのキャラクターが見ていなかったストーリー内のすべての文章を削除してください」と指示しました。もしキャラクターが部屋を出たなら、AIは彼らが不在の間に起きたことをすべて消去しなければなりませんでした。これは「イベント・ハイディング（出来事の隠蔽）」と呼ばれます。

これは、先生が生徒からテストを取り上げ、「このページは見ないでください、そこには無視すべき答えが書いてあります」と言うようなものです。その考え方は、もしAIが真実を「見ることが」できなければ、それを利用しようとしないだろう、というものでした。しかし、このアプローチには大きな欠陥がありました。それは、AIに非常に厳格なルールに従わせることを強いたのです。例えば、思考を特定のコードや硬直したリスト形式で書かなければならないといった具合です。それは、クリエイティブな作家に対して、「形容詞を使わず、箇条書きだけで物語を書きなさい」と言うようなものでした。この厳格さは、しばしばAIを混乱させ、フォーマットのルールに従おうとしすぎるあまり、ミスを引き起こしました。時には、AIが間違った文章を削除してしまったり、自分の思考を小さすぎる箱に押し込もうとして行き詰まったりすることもありました。

新しいアイデア：「隠すのではなく、明らかにする」

この論文の著者であるEojin Jeon氏とSangKeun Lee氏は、全く異なるアプローチを試みることにしました。彼らはAIから真実を隠すのではなく、AIにはすべてを見せた上で、キャラクターが「知らないこと」を明示的に述べるよう求めたのです。

あなたが、友達が何を考えているかを当てるゲームをしているところを想像してください。友達の目を覆って手がかりを見えなくする代わりに、あなたは友達にこう言います。「私はクッキーが箱にあることを知っているけれど、君はそれを知らない。君は、それが瓶にあることしか知らないんだ」。このように言葉に出して伝えることで、あなたは友達に、箱のことを無視するように思い出させるのです。

研究者たちは、彼らの新しい手法を PICTURE と呼んでいます。これは「思考の連鎖（Chain-of-Thought）における、生成された知識の欠如を用いた視点取得（Perspective-taking with Generated Lack of Knowledge in Chain-of-Thought Reasoning）」の略称です。とても長い名前ですので、分解してみましょう。

1. 隠さない（No Hiding）: AIは、秘密や動きを含む物語の全容を受け取ります。
2. 「知識の欠如」ステップ: 回答する前に、AIは自由な形式の説明（通常の会話のような形式）を書き、キャラクターが何を知っており、決定的なことに、何を「知らない」のかを列挙するよう求められます。
3. 「ストップ」サイン: 「リアムは、オーウェンがラディッシュを動かしたことを知らない」と書き記すことで、AIは精神的な「ストップ」サインを作成します。これは、AI自身に対して、「よし、私はこの出来事を見ているが、リアムは見ていない。だから、この件を使って回答してはいけない」と伝えているのです。

彼らが発見したこと

チームは、キャラクターが物体を動かしたり、部屋を離れたり、会話をしたりする様々なストーリー・パズルを用いて、このアイデアをテストしました。彼らは、この新しい「PICTURE」手法を、従来の「隠す（Hide and Seek）」手法や、標準的なAIのテクニックと比較しました。

結果は非常に有望でした。平均して、PICTUREを使用したAIは、「誤信念（false-belief）」パズル（キャラクターが真実について間違っているもの）において、従来のメソッドと比較して**7.3%**多く正解を出しました。これはAI研究の世界では大きな成果です。

さらに重要なことに、この論文は、この手法が「抑制制御（inhibitory control）」と呼ばれるスキルをAIに教えていることを示唆しています。心理学において、これは目の前にある正しい情報に対して、それを使わないように自分を制止する能力のことです。例えば、有名なテストにおいて、青いインクで「RED（赤）」という単語が書かれているとき、インクの「色」を答えるように求められたら、あなたは「RED」という単語を読んでしまう自分を止める必要があります。論文は、キャラクターが知らないことを明示的に述べることで、AIは「真実」の答えを使いたいという衝動を抑制し、代わりにキャラクターの視点に固執することを学ぶのだと示しています。

なぜ重要なのか

この論文は、人間を理解させるために、AIの真実に対する目隠しをする必要はないということを示唆しています。実際、真実を隠すことは、AIを硬直した混乱したフォーマットに追い込むことで、状況を悪化させている可能性があります。むしろ、AIにすべてを見せた上で、キャラクターの知識の空白を明確に言語化させることで、AIが自力で情報をフィルタリングする学習を助けているのです。

著者たちは、この手法が、小さなオープンソースのモデルから巨大で強力なモデルに至るまで、さまざまな種類のAIモデルでうまく機能することを発見しました。AIは依然として間違いを犯すこともありますが（特に登場人物が多い非常に複雑な物語において）、PICTURE手法は重要な進歩であるようです。これは、機械に人間の心を理解させるための最善の方法は、すべてを見せることではなく、その絵の中にいる各人が、何を失っているのかを優しく思い出させてあげることである、ということを示しています。