Grounding Without Corrective Control: Truth-Tracking Profiles for Large Language Models

地図 vs. コンパス：道を知っていることと、そこを歩くことは同じではない

あなたはロボットに都市のナビゲーションを教えようとしていると想像してください。あなたには主に2つの方法があります。1つ目は、何千人もの人々が数百年にわたって描き続けてきた、完璧で巨大な都市の地図をロボットに与えることです。ロボットはそのすべての通り、すべての建物、そしてすべての近道を暗記します。ロボットは地図を完璧に暗唱でき、古い地図と全く同じ新しい地図を描くことさえできます。これは、多くの人工知能システムが学習する方法に似ています。彼らは何十億ページもの人間のテキストを読み込み、人々が書いたパターン、事実、物語を吸収します。

2つ目の方法は、ロボットに生きたコンパスと一対の目を与えることです。これにより、ロボットは「今この瞬間」の世界を見ることができ、道路が工事で封鎖されていることに気づいたり、曲がり角を間違えたことに気づいたりできるようになります。これは、世界の静的な記録を持っていることと、世界とのライブな接続を持っていることの違いです。科学者たちは、AIが本当に物事を「知って」いるのか、それとも単に優れた模倣者（ミミック）に過ぎないのかについて、長年議論してきました。この論文は、AIが「地図」を持っているかどうかを問うているのではありません。AIが「コンパス」を持っているかどうかを問うているのです。たとえAIが完璧な地図（コンテンツ）を持っていたとしても、自らの作業を確認するためのライブな経路を持っていなければ、現実世界の変化に対して盲目である可能性がある、とこの論文は示唆しています。この区別を理解することは極めて重要です。なぜなら、それが、いつAIの回答を信頼してよく、いつ自分自身で再確認する必要があるのかを教えてくれるからです。

---

論文の核心： 「ライブ・ワイヤー（生きた電線）」テスト

この論文の著者であるブレット・レイノルズは、大規模言語モデル（私たちが今日使っている超スマートなAIチャットボット）を見るための新しい視点を提案しています。彼は、私たちは「このAIは真実を知っているか？」と問うのをやめ、「このAIは真実へのライブ・ワイヤー（生きた接続）を持っているか？」と問い始める必要があると主張しています。

AIを、世界中のあらゆるレシピを暗記した非常に才能のあるシェフだと考えてみてください。もしあなたがチョコレートケーキについて尋ねれば、そのシェフは材料、温度、そして焼き時間を完璧に説明できます。これは**グラウンディング（接地）**です。シェフの知識は、彼らが読んだ何百万もの料理本に「接地」しています。しかし、ここに落とし穴があります。もしあなたがシェフに「今、オーブンは実際に熱いですか？」とか「今朝、職人がレシピを変えましたか？」と尋るなら、シェフは知らないかもしれません。彼らは、本を読むのを止める前に、本に何と書いてあったかしか知らないのです。彼らには、キッチンへのライブ・ワイヤーがありません。

レイノルズはこの欠けている接続を**コレクティブ・コントロール（修正制御）**と呼んでいます。それは、タスクを実行している最中に、新しい間違いを見つけ出し、修正する能力のことです。

• 派生的回答可能性（Derivative Answerability）: これは、AIが過去に人間が行った修正を継承しているために、物事を正しく答えられる状態を指します。もしAIが「空は青い」と言えば、それは人類が何世紀にもわたって本の中でその事実を修正してきたおかげで正しいのです。AIは人間の真実の背中に乗っているのです。
• ライブな回答可能性（Live Answerability）: これは、AIが今、自分自身で空を確認できる状態を指します。もし実際に嵐のせいで空が灰色であれば、ライブな回答可能性を持つシステムは、その灰色を見て、答えを更新します。

この論文は、現在のほとんどのAI設定は、完璧な料理本を持っているが目がないシェフのようなものであると示唆しています。彼らは歴史を暗唱することには長けていますが、世界が変化したり、特定の新鮮な事実を確認したりする必要があるときには、しばしば失敗します。

「真理追跡」のための5つのチェックポイント

レイノルズは、AIシステムが真実への「ライブ・ワイヤー」を持つために何が必要かを詳しく分解しています。彼はこれを**ルート・プロファイル（経路特性）**と呼んでいます。AIを車だと想像してください。安全に運転するためには、単に地図が必要なだけでなく、路面を見ることができるドライバーが必要です。レイノルズは、車が実際に走行できるかどうかを決定する5つの特徴を挙げています。

1. ターゲット・アクセス（対象へのアクセス）: システムは、自分が話している対象を実際に「見ることが」できるか？（車にはフロントガラスがあるか？）
2. 検知可能性（Detectability）: 何かがおかしいと気づけるか？（ドライバーは赤信号を見ているか？）
3. チェック経路の独立性（Checking-Route Independence）: 作業を確認している人は、作業をしている人と別人か？（もしドライバーが道路標識を塗っている本人であれば、自分自身を欺いてしまうかもしれません。もう一つの目が必要です。）
4. 属性特定（Attribution）: システムは、正確に何が間違っていたのかを突き止められるか？（ドライバーは赤信号を見たのか、それとも単に段差を感じただけなのか？）
5. 効果的な取り込み（Effective Uptake）: システムは、見つけたことに基づいて実際に自分の行動を変えることができるか？（もしドライバーが赤信号を見ているのに、ブレーキが壊れているために走り続けているなら、そのシステムは失敗しています。）

もしAIがこれら5つすべてを備えていれば、コレクティブ・コントロールを持っていることになります。それは新しいエラーを察知し、修正することができます。もし一部しか持っていない、あるいは「チェック」が単なる古い間違いの再生に過ぎない場合、どれほど賢く見えたとしても、リアルタイムで真理を追跡することはできません。

ツールを加えるとどうなるか？

論文では、インターネットへのアクセス（検索/Retrieval）、計算機の使用（ツール）、あるいは画像を見ること（マルチモーダル入力）など、人々がAIを修正しようとするさまざまな方法について考察しています。レイノルズは、これらのツールは、もしそれらが5つのチェックリストの特定のギャップを埋めるものである場合にのみ、役に立つのだと主張しています。

• 検索（図書館）: もしAIに生きた図書館へのリンクを与えれば、古い事実を見つける能力は向上します。しかし、もしその図書館が古い本で溢れているなら、AIは依然として過去に囚われたままです。これは「記録へのアクセス」には役立ちますが、物理的な物体を測定する必要がある場合には役立ちません。
• ツール（計算機）: もしAIがコードを実行したり計算機を使えたりすれば、数学の能力は向上します。しかし、もしツールが壊れていたり、AIが間違ったツールを選んだりすれば、それは依然として推測しているに過ぎません。
• マルチモーダル（目）: もしAIが写真を見ることができれば、目の前にあるものを描写する能力は向上します。しかし、写真を見られるからといって、写真の中にある物体の温度を測定できるわけではありません。

論文は、単にツールを追加することが自動的にAIを「より賢く」したり「より真実に基づいたもの」にしたりするわけではないと示唆しています。それは、特定のツールが特定の仕事に合致している場合にのみ役立ちます。もしあなたがAIに液体の量を測るよう頼むなら、図書館（検索）を与えても役に立ちません。定規（ツール）が必要です。もし夕焼けを描写するよう頼むなら、定規を与えても役に立ちません。目（マルチモーダル）が必要です。

「タコ」と「イジー」の問題

論文は、その要点を説明するために2つの有名な思考実験を用いています。

• タコ: タンクの中に住み、ケーブルで2つの島とつながっているタコを想像してください。タコは島にいる人々が話している声を聞くことができますが、彼らを見ることも触れることもできません。タコは、人々が次に何を言うかを予測することを学びます。タコは人間そっくりに振る舞うことができますが、言葉が現実世界で何を「意味」しているのかは全く理解していません。
• イジー: 生まれた時からテキスト画面しかない部屋に閉じ込められて育った、イジーという人間を想像してください。イジーは画面上のテキストからすべてを学びます。イジーは世界について完璧に語ることができますが、木を見たことも、雨を感じたこともありません。

レイノルズは、タコもイジーも「コンテンツ（内容）」は持っている（言葉を知っている）ものの、コレクティブ・コントロールを欠いていると論じています。もし世界が変われば、彼らはそれを知ることはできません。彼らは過去から引き継いだ「継承された」真実に縛られているのです。

結論：なぜこれが重要なのか

この論文は、AIが「偽物」であるとか、役に立たないと主張しているわけではありません。むしろ、どのように信頼すべきかについて注意を促しています。

• 歴史やスタイルに関するタスクの場合: AIの「継承された」知識（地図）は通常、十分です。AIは素晴らしい物語を書いたり、古い事実を要約したりすることができます。
• 現実世界の「今」に関するタスクの場合: AIには「ライブ・ワイヤー」が必要です。それがない場合、AIは古いパターンに基づいて推測しているだけなので、自信満々に間違ったことを言う可能性があります。

レイノルズは、私たちは単にAIがいかに流暢に聞こえるかを見るべきではないと示唆しています。むしろ、そのルート・プロファイルを見るべきです。それは真実へのライブな経路を持っているか？ 自らの作業をチェックできるか？ もし私たちがこれらのライブな経路をAIシステムに組み込まなければ、現実から完全に切り離された、非常に流暢なだけの回答を受け取ることになるでしょう。論文は、AIが「コンテンツ」を持つことはできても、「コレクティブ・コントロール」を持つことは別の、より困難な課題であり、AIと変化し続ける世界との間に特定のアーキテクチャ上の架け橋を築くことが必要であると結論づけています。