あなたは、数日間にわたって起きたミステリーを解決しようとしている探偵だと想像してください。あなたの手元には、自分がしたこと、見たこと、考えたこと、言ったことのすべてが記された、膨大なノートがあります。あるページは一日の簡単な要約であり、あるページは一歩一歩の足跡を書き留めた生々しいリストであり、またあるページは誰と誰が話したかのマップであり、別のページは検索したキーワードのリストです。もし、「鍵を失くしたのは何時だったか？」という単純な質問に答えるために、このノートのすべてを読もうとしたら、情報の多さに脳が圧倒されてしまうでしょう。しかし、もし特定のページだけを読んだとしたら、別のセクションに隠されている重要な手がかりを見逃してしまうかもしれません。これは、現代の「AIエージェント」——デジタルアシスタントとして機能するコンピュータプログラム——が直面している課題です。彼らは複雑な問題を解決するために長い一連の出来事を記憶する必要がありますが、しばしば自分自身の記憶の中で迷子になってしまいます。科学者たちは、これらの記憶を整理する最善の方法を見つけようとしてきました。AIにすべてを読ませるべきか？ それとも、一つのタイプのノートだけを選ぶべきか？ あるいは、もっと賢い方法があるのか？

この論文では、これらのAI探偵たちのための「超スマートな司書」として機能する、MESA（Multi-structure Evidence Selection for long-horizon Agent）と呼ばれる巧妙な新システムを紹介しています。MESAは、AIにすべてのノートを強制的に読ませたり、どの単一のページを見るかを盲目的に推測させたりするのではなく、それぞれの特定の質問に対して「完璧な組み合わせ」のノートを選び取ることを学習します。これは、シェフがただ目の前にあるスパイスの瓶を掴んだり、スパイスラックのすべてを鍋の中にぶち込んだりするのではなく、料理の味を見て、「少しの塩と、ひとつまみの胡椒が必要だ」と気づき、正確にその2つの瓶を手に取るようなものです。研究者たちは、これをAMA-Benchというベンチマーク（AIが長期にわたってどれだけ記憶し、推論できるかをテストする巨大なテストのようなもの）でテストしました。その結果、MESAは従来のメソッドよりもはるかに優れた回答ができることが分かりました。実際、MESAは既存の最高システムよりも8.5%高い頻度で正解を導き出し、しかも、メモリから読み取る単語数（「トークン」）を41%も少なく抑えました。これは、単にすべてを読むことや、一つのものだけを選ぶことではなく、選択的に異なる種類のメモリビューを混ぜ合わせることが、長期的なパズルを解く鍵であることを示唆しています。

問題点：ノイズが多すぎ、シグナルが足りない

ビデオゲームをプレイしているところを想像してください。あなたは50ステップ前に行ったことを覚えていなければならないパズルを解かなければなりません。あなたのキャラクターは、走り回り、モンスターと戦い、NPCと話し、アイテムを集めてきました。もしゲームに対して「なぜドアがロックされたのか？」と尋ねたら、その答えは、40ステップ前に行った「特定の鍵を落とした」というような、ごく小さな詳細の中に埋もれているかもしれません。

AIの世界では、これらの「ステップ」は**軌跡（トラジェトリー）**と呼ばれます。これらは、行動、観察、思考が長く、乱雑に連なった鎖のようなものです。問題は、これらの鎖が数百ステップにも及ぶ可能性があることです。もしこの鎖全体をAIに流し込むと、コストがかかり、混乱を招きます。もし要約しようとすれば、重要な細部を見失ってしまうかもしれません。

科学者たちは、部屋の散らかったものを異なるビンに整理するように、記憶を異なる「構造」、つまりフォーマットに整理することで、この問題を解決しようとしてきました。

• 要約（Summaries）： 一日の「要旨」を伝える日記のようなものですが、細かい詳細は省かれています。
• 時系列ストア（Temporal Stores）： カレンダーやタイムラインのように、出来事を厳格な順序で保持します。
• 知識グラフ（Knowledge Graphs）： 人や物のつながりを示すウェブのようなもので、それらがどのように関連しているかを示します。
• ベクトルデータベース（Vector Databases）： 単語が異なっていても、「雰囲気」や意味に基づいて物事を見つける検索エンジンのようなものです。
• 生の痕跡（Raw Traces）： セキュリティカメラの録画のようなもので、あらゆる動きを見せてくれますが、ノイズが多く、スキャンするのが困難です。

大きな疑問は、**「AIはどのビンを開けるべきか？」**ということでした。

古い手法：多すぎるか、少なすぎるか

MESAが登場する前、AIはこの問題に対処するために主に2つの方法を用いていました。

1. 「すべてを読む」アプローチ： AIはすべてのビンを一度に開き、すべてのノートを脳内に注ぎ込みます。これは、朝食に何を食べたかを知るために、日記、カレンダー、地図、そしてセキュリティ映像のすべてを同時に読もうとするようなものです。情報が多すぎて、重要な手がかりがノイズの中に紛れてしまいます。
2. 「一つを選ぶ」アプローチ： AIはどの単一のビンが最適かを推測し、その一つだけを読もうとします。これは、朝食に何を食べたかを知るために、カレンダーだけを見ることに決めるようなものです。日記にそのことについて書いていたとしても、それを見逃してしまうかもしれません。

研究者たちは、どちらの極端な方法も上手くいかないことを発見しました。時にはタイムラインが必要であり、時にはマップが必要であり、多くの場合、両方のミックスが必要です。しかし、「最高のミックス」は質問によって変わります。「何が最初に起きたか」という質問にはタイムラインが必要ですが、「誰が誰と話したか」という質問にはマップが必要です。

解決策：適応型司書、MESA

MESAは、ダイナミックな司書になることを学習するシステムです。それは単に一つのビンを選ぶのでも、すべてのビンを開けるのでもありません。代わりに、質問を見て、「ああ、この質問には少しのタイムラインと少しのマップが必要だが、生のビデオ映像はスキップしていいな」と判断します。

仕組みを簡単に説明すると、以下の通りです。

1. ライブラリ： まず、AIは履歴から5つの異なるタイプのメモリ構造（要約、タイムライン、マップ、検索、生のビデオ）を構築します。これらはすべて事前に作成され、一定のまま保たれます。
2. セレクター（選択器）： 質問が入ってくると、システムの特別な「セレクター」部分（MESAが学習させる部分）が、どの構造を使用するかを決定します。これは、質問を見て適切なツールを選ぶスマートなアシスタントのようなものです。
3. 学習： 難しいのは、このセレクターを教え込むことです。このシステムには、あらゆる質問に対してどのビンを選ぶべきかを正確に指示してくれる「教師」はいません。その代わりに、最終的な結果から学習します。「AIは正解に辿り着いたか？」です。もし答えが間違っていた場合、システムは選択戦略を微調整します。システムは、新しい組み合わせを試すこと（探索）と、うまくいっている方法を使い続けること（活用）のバランスを取るために、**UCB（Upper Confidence Bound）**という巧妙な数学的トリックを使用します。

研究結果

研究者たちは、複雑で長いタスクが詰まったデータセットであるAMA-Benchを用いて、MESAをテストしました。彼らは、既存の最高の方法と比較を行いました。

• 精度の向上： MESAは**65.1%の確率で正解を導き出し、従来の最高システム（AMA-Agent）を8.5%**上回りました。
• スマートな効率性： MESAはより正確であったにもかかわらず、メモリから使用する単語数（トークン）を実際には41%少なく抑えていました。これは、単に多くを読んでいるのではなく、より「良く」読んでいることを意味します。
• 単一の勝者はいない： この研究は、「万能な」メモリ構造は存在しないということを裏付けました。最適なメモリタイプの組み合わせは、特定のタスクや特定の質問によって変化します。

なぜこれが重要なのか

この論文は、AIの記憶の未来が、より大きなライブラリを作ることや、単一のタイプのノートを選ぶことにあるのではないことを示唆しています。それは、柔軟性にあります。人間が、日付についてはカレンダーを、場所についてはマップを、感情については日記をチェックすべきだと知っているのと同様に、AIも問題を解決するために、異なる種類のメモリビューを混ぜ合わせる方法を知る必要があります。

MESAは、AIに選択的かつ適応的であることを教えることで、思考の仕方や記憶の保存方法を変えることなく、より賢く、より効率的にできることを示しています。これは、単に大量のデータを持っているだけでなく、最も重要な瞬間に、まさに必要なデータを見つけ出す方法を知っているAIへの一歩なのです。