NeSyFS: A Neuro-symbolic Fast-Slow Thinking Framework for LLM Agent under Partial Observability
本論文は、信念状態の表現に知識グラフを活用し、不確実性を考慮したプランニングとリフレクションをリアクティブな行動と統合することで、部分観測下におけるLLMエージェントの性能を向上させる、ニューロ・シンボリックな高速・低速思考フレームワークであるNeSyFSを提案する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
ビデオゲームをプレイしている場面を想像してみてください。画面は霧に覆われています。キャラクターの目の前数フィートしか見えず、巨大で複雑な城の中で隠された宝箱を見つけなければなりません。マップ全体を見ることはできず、自分が目標に対してどの位置にいるのかも正確には分かりません。これが、人工知能における「部分観測性（partial observability）」の世界です。このコンピュータサイエンスの一角では、研究者たちが、チャットボットを動かしている超スマートなテキスト生成器である大規模言語モデル（LLM）に、自律的なエージェントとして振る舞う方法を教えています。これらのエージェントは、意思決定を行い、ツールを使い、問題を解決しなければなりませんが、多くの場合、世界の全容が見えない状態でそれらを行う必要があります。大きな課題は、AIが世界の全状態を見ることができないとき、混乱してしまうことです。直前に行ったことを忘れたり、目標を見失ったり、あるいは間違いだと判明する推測に基づいて計画を立ててしまったりすることがあります。科学者たちは、素早い直感と慎重で遅い思考を組み合わせることで、人間と同じようにこの霧がかった世界をナビゲートできるエージェントを構築しようとしています。
ここで、「NeSyFS」と呼ばれる新しいフレームワークが登場します。これは「Neuro-symbolic Fast-Slow thinking（ニューロ・シンボリック・ファスト・スロー・シンキング）」の略称です。これを、その霧がかったビデオゲームのシナリオを扱うために特別に設計された、AIエージェントのための新しいオペレーティングシステムだと考えてください。ジョージア工科大学のDuo Xu氏とFaramarz Fekri氏は、従来の手法が、映画の全セリフを書き出した長く乱雑な要約を読みながら、映画の内容すべてを思い出そうとしているようなものだと気づきました。それは情報が多すぎ、重要な詳細がノイズの中に紛れてしまいます。代わりに、NeSyFSはAIに「知識グラフ」と呼ばれる「生きた記憶のノート」を与えます。これは単なるメモのリストではありません。「冷蔵庫が開いている」から「中にカップが入っている」へとつながる蜘蛛の巣のような、事実の構造化されたウェブなのです。
このフレームワークは、人間の思考方法に触発されて、AIの脳を2つのモードに分割しています。「ファスト・シンキング（速い思考）」モードは、エージェントの反射神経です。エージェントは記憶のノートをちらりと見て、最も関連性の高い事実（例：「カップが必要だ、そしてさっき冷蔵庫の中に一つ見た」）を掴み取り、素早い動きをします。しかし、時には霧が濃すぎて、素早い推測が間違っていることもあります。そんな時、「スロー・シンキング（遅い思考）」モードが作動します。これはエージェントの意図的なプランナー（計画者）です。単に推測するのではなく、チェスのプレイヤーが3手先を読むように、頭の中でさまざまな未来の経路をシミュレーションします。これは、特別な数学的トリック（Twisted Sequential Monte Carloと呼ばれる手法から借用したもの）を使用して、一度に多くの可能な未来をテストし、有望に見えるものを保持し、行き止まりにつながるものを破棄します。
エージェントが脱線しないようにするために、第3のパーツとして「リフレクション・モジュール（内省モジュール）」が存在します。コーチがサイドラインに立っている様子を想像してください。エージェントが素早い動きをするたびに、コーチは記憶のノートをチェックし、その動きが実際に目標達成に役立つかどうかを確認します。もしコーチが「いや、それは筋が通っていない」と言えば、エージェントは考え直さなければなりません。もしエージェントが同じ間違いを繰り返すなら、コーチはより良い戦略を練るために「スロー・シンキング」のプランナーを呼び出します。論文は、この組み合わせ——構造化されたメモリ、素早い反射、慎重な計画、そして批判的なコーチ——が、AIを従来の手法よりもはるかに優れたパフォーマンスへと導くことを示唆しています。3つの異なるゲームのような環境（仮想の家、オンラインストア、科学実験室）を用いたテストにおいて、NeSyFSエージェントは他のトップレベルの手法を大幅に上回り、より高い頻度でタスクを解決し、エラーを少なく抑えました。研究者たちは、単なる長い履歴ログを読む代わりに、この構造化された記憶のノートを使用することで、エージェントが目標を正しく維持し、霧の中をより効果的にナビゲートできることを発見しました。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。