Reversing Arrows in Large Language Models

ロボットに、単に言葉を読み取るだけでなく、事実の巨大で目に見えない網へと言葉を繋ぎ合わせることで、世界を理解させる方法を教えていると想像してみてください。これは**知識グラフ（Knowledge Graphs）の世界であり、そこではすべての繋がりには、「一方通行の道路」のように特定の方向が存在します。「アリスはボブの母親である」と知っていれば、ロボットは「ボブはアリスの子供である」ということも理解しなければなりません。しかし、ここからが厄介なところです。もし順番を入れ替えて「ボブからアリスへ」と尋ねたら、意味は完全に変わってしまいます。それは、「鍵が錠前を開ける」ことを知っていることが、自動的に「錠前が鍵を開ける」ことを意味しないのと同じです。科学者たちはこれらを逆関係（inverse relations）**と呼んでおり、これこそが、事実を正しく捉えるか、あるいは逆に捉えてしまうかの分かれ目なのです。

近年、私たちは**大規模言語モデル（LLM）**と呼ばれる、超スマートなコンピュータを構築してきました。これらは、インターネット上のほぼすべての文章を読み込んだデジタル脳のようなものです。物語を書いたり質問に答えたりすることには非常に長けています。しかし、そこには拭いきれない懸念があります。これらのデジタル脳は、本当にこれらの関係の「方向」を理解しているのでしょうか？ それとも、単に言葉が通常どのように一緒に現れるかに基づいて推測しているだけなのでしょうか？ もしロボットが「母親」と「子供」を入れ替え可能なラベルだと考えてしまったら、壊れた世界の地図を作り上げてしまうかもしれません。この論文は、まさにその問いを掘り下げ、これらのAIの脳が、名前の順序を入れ替えたときに、親と子の違いを真に区別できるかどうかをテストしています。

大いなる矢印反転テスト

この研究において、研究者のセフィカ・エフェオグルとエイドリアン・パシュケは、5つの人気のあるAIモデルを究極のテストにかけました。彼らは単にAIに文章を書かせたのではありません。5,457もの異なるシナリオを用いた、巨大な多肢選択式のクイズを用意したのです。例えば、ゲーム番組の司会者が「ニールス・ボーアとその息子アーゲが到着した……」という文章を読み上げ、「ニールスからアーゲへの関係は『父親』ですか、それとも『息子』ですか？」とAIに問いかけます。次に、脚本をひっくり返して、「アーゲからニールスへの関係は何ですか？」と問うのです。

研究者たちは、矢印が逆を向いたときにAIが混乱するかどうかを見たいと考えました。AIが（ニールス・ボーアが実在する科学者であることを知っているといった）記憶されたパターンに頼っていないことを確認するために、彼らはいくつかのトリックを使いました。時には、実在の人物を「デビン・ロドリゲス」や「アンジェラ・ブラッドリー」のような架空の名前に入れ替えました。またある時には、名前を完全に「XXX」や「YYY」で隠し、AIが人物の有名さに依存せず、文章の論理のみに頼るようにしました。さらに、定義の記載があるリファレンスシートをAIに与えることで、それが役に立つかどうかさえも試してみました。

AIが実際にやったこと（そしてやらなかったこと）

結果は、これらのAIの脳がいまだに方向性に対して少し不器用であることを明らかにする、複雑なものでした。

第一に、研究によって方向が非常に重要であることが分かりました。AIモデルは一貫していませんでした。モデルによっては「ヘッド・トゥ・テイル（頭から尾へ）」（例：親から子へ）を判断するのが得意でしたが、研究者がそれを「テイル・トゥ・ヘッド（尾から頭へ）」（子から親へ）に入れ替えると、スコアが急落したり、モデルによって激しく変動したりしました。それはまるで、AIは北に向かう地図を読むのは得意だが、南に向かって運転せよと言われると道に迷ってしまうようなものです。例えば、あるデータセットでは、あるモデルは一方の方向では**67.28%の正解率を出しましたが、別のモデルは同じタスクの逆方向ではわずか2.03%**しか正解できませんでした。このことは、AIが真にその関係を「理解」しているのではなく、以前に見たパターンに反応していることが多いことを示唆しています。

第二に、研究者は辞書の定義（「関係の説明」）を与えることが役立つかどうかをテストしました。もし「『母親』とは女性の親のことである」と教えれば、AIはよりうまくいくのではないかと彼らは期待しました。結果は、これが一貫して役立つわけではないことを示唆していました。ケースによっては、追加の言葉によってAIがわずかに改善することもありましたが、多くの場合、何も変わらなかったか、あるいは状況を悪化させました。単に定義を読むだけでは、矢印がどちらを向いているかという混乱を魔法のように解決することはできないようです。

最後に、「架空の名前」を用いた実験が最も啓示的なものでした。AIが実在の人物を扱っているときは、その人物の訓練データにその名前と関係が含まれていたため、比較的良好なパフォーマンスを示しました。しかし、研究者が合成された名前に入れ替えたり、名前を完全にマスクしたりすると、パフォーマンスは非常に敏感になりました。一部のモデルは崩れ落ちるように失敗しましたが、他のモデルは驚くほど踏みとどまりました。このことは、AIの成功が純粋な論理よりも、エンティティ（実体）への習熟度に依存していることを示唆しています。もしAIが「ニールス・ボーア」を認識できれば、それは「父性」という概念を理解しているからではなく、単にその物語を知っているために正解を推測している可能性があるのです。

結論

本論文は、大規模言語モデルは強力ではあるものの、逆関係の方向性という技術をまだ完全には習得していないと結論付けています。彼らは系統的な非対称性を示しており、つまり、ある方向には強いが、もう一方の方向には弱いといった傾向があります。また、彼らは関係性自体の論理よりも、特定の人物を知っていることに大きく依存しているようです。

著者らは、この問題が「解決された」とか、AIが永遠に壊れていると証明したわけではないことに注意深く触れています。むしろ、彼らの研究は、精密で方向性のある知識を必要とするタスクにこれらのモデルを使用する際には、より慎重になる必要があることを示唆しています。もし私たちがAIに正確な世界の地図を作らせたいのであれば、「母親」と「子供」がコインの両面であるということを、AIが理解していると単純に仮定してはいけません。私たちは検証を続け、矢印を反転させ続け、ロボットが単に誰が有名かという予測に基づいて推測しているだけではないことを確認し続けなければならないのです。