あなたが非常に賢く、読書家である司書（大規模言語モデル、または LLM）を持っていると想像してください。この司書は数百万冊の本を読み、ほぼ何でも教えてくれます。しかし、人間と同様に、完全に記憶できることには限界があります。時には、似たような 2 つの物語を混同したり、特定の細部を忘れたり、正しそうだが実際には正しくない事実を自信を持って作り出したりすることもあります。研究者たちはこれを「幻覚（ハルシネーション）」と呼んでいます。

これを解決するために、この論文の著者たちは、司書が働く新しい方法を提案しており、それを**「推論時の知識グラフ構築」**と呼んでいます。

彼らの方法がどのように機能するかを、隠された宝を見つけるための「地図」を作るというアナロジーを用いて、簡単なステップに分解して説明します。

問題：「非構造化」された検索

通常、あなたが司書に難しい質問をすると、彼らは「思考の連鎖（Chain of Thought）」のように、単に一生懸命考えることで答えようとするかもしれません。あるいは、インターネット上のいくつかのテキストを検索して読み通すかもしれません。

• 問題点: 長く乱雑な段落のテキストを読むことは、都市についての小説を読むことで、その都市の特定の通りを見つけようとするようなものです。迷子になったり、曲がり角を見逃したり、無関係な詳細に気を取られたりしやすいのです。情報が整理されていないため、司書は間違った事実を掴んでしまう可能性があります。

解決策：「地図」の作成（知識グラフ）

テキストを読むだけでなく、著者たちは司書に、質問に答えている間に地図（知識グラフ）を描くことを教えます。この地図は、点（事実）を線（関係性）で結びます。

彼らの 4 段階のプロセスは以下の通りです。

1. 種となる地図の描画（初期化）

質問（例：「バーンスタインの交響的舞曲はどの戯曲に基づいていますか？」）をされたとき、司書はまず自分の記憶を見て、小さく粗いスケッチを描きます。

• 彼らは以下のように書き留めます：ダグ・アチャーツ → 編曲 → 交響的舞曲 → 由来 → ウエスト・サイド・ストーリー。
• 問題点: 司書の内部記憶は不完全な場合があります。彼らはウエスト・サイド・ストーリーで止まり、「これが答えだ！」と思うかもしれません。しかし実際には、ウエスト・サイド・ストーリー自体が何か別のものに基づいています。地図には一部が欠けています。

2. 地図の拡張（内部拡張）

司書はスケッチを見て、「これらの点について他に何を知っているか？」と自問します。彼らは自分の頭脳を使って、地図にさらに線を追加しようとします。

• 彼らは以下のように追加するかもしれません：ウエスト・サイド・ストーリー → 作曲 → レナード・バーンスタイン。
• 問題点: この拡張を行っても、司書は依然として、ウエスト・サイド・ストーリーを元の戯曲であるロミオとジュリエットに結びつける決定的なリンクを見落としている可能性があります。内部記憶に欠落があります。

3. 「都市ガイド」への相談（外部検索）

これが魔法のステップです。司書は、「完全な図が得られているか確信が持てない」と気づきます。そこで、彼らは一時停止し、信頼できる外部の都市ガイド（ウィキペディアや Google 検索など）に相談します。

• 彼らはガイドでウエスト・サイド・ストーリーを検索します。
• ガイドはこう述べています：「ウエスト・サイド・ストーリーはロミオとジュリエットに着想を得ています。」
• 司書はこの新しく検証された事実を取り込み、地図に追加します：ウエスト・サイド・ストーリー → 着想源 → ロミオとジュリエット。
• 利点: 司書が以前に間違いを犯していた場合（例えば、音楽が異なる年のものであると思っていた場合など）、都市ガイドは単に追加するだけでなく、地図を修正するのを助けます。

4. 宝の発見（グラフ上での回答）

これで、ダグ・アチャーツからロミオとジュリエットまでを結びつけた、完全で修正された地図が完成しました。司書は地図上の経路をたどります。経路は明確で、都市ガイドによって検証されているため、彼らは自信を持ってこう言うことができます：「答えはロミオとジュリエットです。」

なぜこれが優れているのか？

この論文は、この方法が以下の 3 つの主な理由で優れていると主張しています。

1. 混沌ではなく構造: 非構造化されたテキストの洪水を渡り歩く代わりに、司書は構造化された地図で作業します。これにより、無関係な情報に気を取られにくくなります。
2. 自己修正: 司書は自分の記憶だけを信頼するわけではありません。彼らは自分の地図の間違いを修正するために外部ガイドを使用します。司書が「A は B につながる」と考えていても、ガイドが「A は C につながる」と言えば、司書は地図を更新します。
3. 小さな司書でも大きな仕事をこなせる: 実験により、この地図構築方法を使用すれば、小さく性能の低い「司書」（小規模な AI モデル）でも、巨大なモデルと同等のパフォーマンスを発揮できることが示されました。外部ガイドが競争条件を均等化します。

結果

著者たちは、この方法を 3 種類の異なる雑学クイズの課題でテストしました。

• 結果: 彼らの方法は、AI に質問する標準的な方法よりも一貫して多くの正解を得ました。
• 「想起（リコール）」の向上: 彼らは、外部ガイドを使用することで、構築した「地図」に正しい事実が含まれる頻度が大幅に高まった（「想起」、つまり正しい事実を見つける能力の大幅な向上）ことを発見しました。これは単に AI の記憶に頼る場合と比較して顕著です。

注意点（限界）

著者たちは欠点についても率直に述べています。

• ゴミを入れればゴミが出る: 司書が地図の初期部分を間違って描き、外部ガイドがそれを検出できない場合、最終的な答えは依然として間違っています。
• 完璧ではない: 地図に正しい事実があることと、実際に正しい答えを選ぶことの間にはまだ隔たりがあります。このシステムは現時点では 100% 完璧ではありません。

まとめ

要約すると、この論文は、AI に単に「考える」ことや「段落を読む」ことを求めるのではなく、事実の視覚的な地図を作成し、その地図を信頼できる百科事典と照合し、地図上の誤りを修正し、その後、地図に従って答えにたどり着くことを提案しています。これにより、AI はより正確になり、嘘をつきにくくなり、理解しやすくなります。