Evo-DKD: Dual-Knowledge Decoding for Autonomous Ontology Evolution in Large Language Models
Evo-DKDは、大規模言語モデル内のデュアルデコーダーメカニズムを活用することで、構造化された編集と自然言語による正当化を同時に生成し、それらを動的なゲーティングシステムを介して調整し、かつクローズドな推論ループ内で検証することにより、単一ストリームのベースラインを精度およびダウンストリームタスクの性能において上回る自律的なオントロジー進化を可能にする新しいフレームワークである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
インターネットを、本が絶え間なく書き込まれているものの、目録システムが石器時代に取り残されたままの、巨大で混沌とした図書館だと想像してみてください。この図書館において、「オントロジー」はマスター・ファイリング・システムのようなものです。それは、物事が互いにどのように関連しているかを正確に伝える厳格なルールのセットです（例えば、「犬」は「哺乳類」の一種であり、「哺乳類」には「食べ物」が必要である、といった具合です）。この目録を最新の状態に保つことは、人間にとって悪夢です。なぜなら、世界はあまりにも速く変化し、新しい事実が毎秒のように飛び出してくるため、手動でファイリング・システムを更新することは遅くて退屈な作業だからです。
ここで「大規模言語モデル（LLM）」が登場します。彼らを、図書館にあるほぼすべての本を読破した、超スマートで貪欲な読者だと考えてください。彼らは新しい物語や事実を瞬時に理解できます。しかし、一つ落とし穴があります。彼らはチャットをしたり物語を書いたりすることには長けていますが、厳格なファイリング・ルールに従うことは非常に苦手なのです。もし彼らに目録の更新を頼めば、事実を捏造したり（これは「ハルシネーション（幻覚）」と呼ばれる問題です）、情報を整然としたエントリー形式ではなく、乱雑なパラグラフとして書いてしまうかもしれません。科学者たちが投げかけている大きな問いは、「これらの超スマートな読者に、単に物事を知るだけでなく、人間の手を借りずに完璧に整理する方法を教えることができるか？」ということです。
ここで、Evo-DKDと呼ばれる新しいアイデアが登場します。このプロジェクトの背後にいる研究者、Vishal Raman、Vijai Aravindh R、Abhijith Ragavは、AIモデルを、二人の専門家が協力し合うチームのように機能させる巧妙な方法を提案しています。一つの脳がすべてをやろうとするのではなく、「デュアル・デコーダー（二重デコーダー）」システムをシミュレートするのです。建設現場の作業員を想像してください。一人は、設計図と寸法でのみ会話する「厳格な建築家（構造化デコーダー）」であり、もう一人は、なぜそのように建設しているのかを平易な英語で説明する「お喋りな現場監督（非構造化デコーダー）」です。
このセットアップでは、「建築家」が知識グラフに追加すべき新しい事実（例：「オゼンプックは体重減少を助ける」）を提案し、同時に「現場監督」がその理由を説明する文章（例：「医師がオゼンプックを推奨するのは……」）を書きます。特別な「ゲーティング・メカニズム」――交通信号や審判のようなもの――が、いつ建築家の声を聞き、いつ現場監督の声を聞くべきかを決定します。最も素晴らしい点は、現場監督による説明が、建築家の設計図をダブルチェックするために使用されることです。もし説明が理にかなっていない場合、その新しい事実は拒否されます。これにより、AIが自身の作業をチェックし、データベースを更新し、その新しい知識を用いて将来の質問により良く回答するという「クローズドループ」が生まれます。
研究者たちは、巨大なスーパーコンピューターにアクセスできなかったため、より小さなAIモデル（TinyLlama-1.1B）を使用してこのアイデアをテストしました。二つの別々の物理的な脳を構築する代わりに、プロンプトを用いた巧妙なトリックを使い、単一のテキスト・ストリーム上でこのデュアル・デコーダー・チームをシミュレートしました。彼らはこれを、ヘルスケア（医学的事実）、セマンティック検索（人々が検索時に何を意味しているのかを解明すること）、文化遺産（歴史と工芸品）という3つの異なる世界で試しました。
結果は有望なものでしたが、著者たちはこれがあくまでシミュレーションであることを注意深く述べています。彼らがこの「デュアル・デコーダー」チームを、設計図のみを話すモデルやパラグラフのみを話すモデルと比較したところ、チームが勝利しました。テストにおいて、デュアル・デコーダー・アプローチは、「リラックスド・アキュラシー（寛容な正確性：言い回しが少し異なっていても事実が合っていれば正解とするもの）」で0.97のスコアを、「エグザクト・アキュラシー（厳密な正確性）」で0.93のスコアを達成しました。また、説明の質もはるかに高く、セマンティック類似性テスト（BERTScore）で0.88、判定者によるスコアで0.76を記録しました。
例えば、ヘルスケアのシナリオにおいて、AIが「オゼンプックは体重減少を管理するのに役立つ」と指示された場合、システムは単にその事実を盲目的にデータベースに追加するだけではありませんでした。システムは構造化された事実 (Ozempic, manages, weight) を生成すると同時に、「医師は糖尿病患者の体重管理を助けるためにオゼンプックを推奨する」という文章を生成しました。彼らがこの新しい知識を用いて検索エンジンをテストした際、システムはついに糖尿病患者向けの体重減少薬に関する質問に答えることができましたが、以前は全く理解できていませんでした。
しかし、論文は明確に限界についても述べています。これは、あらゆる問題を解決する魔法の杖ではありません。このシステムはAIの内部知識に依存しているため、もしAIがそもそもその事実を知らなければ、正しく作り出すことはできません。また、「検証」ステップは人間ではなくAI自身によって行われるため、真実を完全に保証するものではありません。研究者たちは、将来的には、より安全にするために外部の検索エンジンや人間のレビュー担当者と組み合わせることができると示唆しています。しかし、現時点において、Evo-DKDは魅力的な道筋を示しています。それは、AIに二つの声――厳格な声と、お喋りな声――で自分自身と対話することを教え、人類の知識をよりスマートに、自己更新していく図書館を構築するという道です。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。