数ヶ月、あるいは数年にわたって続く会話を想像してみてください。そこでは、ある人がずっと昔に起きた出来事について質問したり、数十回に及ぶ過去のやり取りの中に散らばった事実を繋ぎ合わせたりします。このような、助けとなるアシスタントとして設計されたコンピュータプログラムにとって、この膨大な履歴を把握することは極めて困難な作業です。これらのプログラムは、しばしば「エージェント」と呼ばれ、過去のやり取りを外部のメモリ（記憶）ライブラリに保存します。しかし、ライブラリを持っていることと、正しい本を見つけ出す方法を知っていることは別問題です。新しい質問が届いたとき、システムは、実際に有用な数少ないメモリを見つけ出すために、数千もの保存されたメモリを素早く精査しなければなりません。従来、システムは単語の類似性に基づいた迅速かつ広範な検索を行い、より精密さが必要な場合には、強力な言語モデルに質問と候補となるメモリを読み取らせ、その関連性を判断させてきました。しかし、ここに苛立たしい非効率性が存在します。新しい質問が行われるたびに、システムはゼロからスタートしてしまうのです。システムは前回の検索から学んだ教訓を忘れ、計算したスコアや気づいたパターンを破棄してしまいます。それはまるで、テストのために勉強し、テストが終わった直後にすべてを忘れ、次の試験のために同じ教材を再び学び直さなければならない学生のようです。

香港中文大学（深セン）の研究者たちは、この忘却のサイクルを打破する方法を提案しました。彼らは「EARM」と呼ばれる新しいフレームワークを導入しました。これは「Experience-Amortized Reranking for Memory（経験減衰型メモリ再ランキング）」の略です。核心となるアイデアは単純かつ深遠です。システムは過去の会話の内容を覚えるだけでなく、過去にどのように情報を探し出すことに成功したかをも覚えるべきである、というものです。関連性の判断を一度限りのコストとして扱うのではなく、研究者たちは、これらの判断をエージェントの生涯を通じて蓄積される一種の「経験」として扱うように設計しました。どのメモリがどのような種類の質問に対して有用であったかの記録を保持することで、システムは自身のメモリの地図を学習します。この地図により、強力な言語モデルにすべてのメモリを読ませることなく、新しいメモリの関連性を予測することが可能になります。

実験において、研究者たちは、エージェントが異なる時期の情報をつなぎ合わせることを必要とする複雑な質問を含む、長い会話のデータセットを用いてこの手法をテストしました。彼らは、新しい手法を2つの標準的なアプローチ、すなわち、単語の類似性のみに依存する基本的なシステムと、言語モデルにすべての候補メモリを直接スコアリングさせるより強力なシステムと比較しました。結果は、直接的なスコアリングと学習された予測を組み合わせたこの新手法が、基本的なシステムを大幅に上回ることを示しました。この手法は、回答の正確性を最大6.62パーセント向上させました。これは、わずかな改善さえも困難とされる分野においては、極めて大きな進歩です。おそらくより重要なのは、このシステムが、候補のわずか17.5パーセントという極めて少ない割合しか直接スコアリングできない設定においても、高い有効性を維持したことです。この疎な設定において、システムは蓄積された経験を用いて空白を埋め、過去のやり取りから学んだパターンに基づいて残りのメモリの関連性を推定しました。

この成功の背後にあるメカニズムは、関連性はランダムではないという考えに基づいています。特定のメモリは特定の種類の質問に役立つ傾向があり、特定の質問は異なるメモリにわたって同様の関連性のパターンを引き起こす傾向があります。研究者たちは、これらのつながりを構造化された形で記録するシステムを構築しました。新しい質問が届くと、システムは言語モデルに直接スコアリングさせるための、戦略的に選ばれた少数のメモリを選択します。そして、過去のスコアの履歴を用いて、残りのメモリの関連性を推定します。このプロセスは、熟練した司書が、特定の歴史的出来事について尋ねる利用者は、たとえ利用者がまだ明言していなくても、特定の文書一式を必要とするであろうことを察知するプロセスに似ています。システムは盲目的に推測するのではなく、過去の検索による「経験」を用いて探索をガイドし、自身の知識ベースへのアクセス方法を効果的に学習しているのです。

最も驚くべき発見の一つは、このシステムが、全件を網羅する徹底的な検索の恩恵の大部分を、わずか4分の1の計算量で回収できたことでした。システムが堅牢な履歴を構築するのに十分な数の質問を処理する頃には、非常に少ない新しい入力だけで、極めて正確な決定を下せるようになります。研究者たちは、学習された推定値を通じて選択されたメモリは単なる埋め合わせではなく、測定可能な価値をもたらしており、直接スコア付けされたメモリが単独で提供するものよりも、最終的な回答の質をさらに0.78から2.79パーセント向上させていることを発見しました。これは、システムが、過去の経験を利用して、初期の迅速な検索で見逃されていた有用な情報を、自身のメモリの潜在的な構造を認識することによって見つけ出していたことを示唆しています。

この研究は、人工知能のメモリに関する考え方に転換をもたらしたことも強調しています。伝統的に、焦点はより多くの情報を保存することや、情報をより良く表現することに置かれてきました。この研究は、真に長期間活動するエージェントには、その情報をいかに効率的に取り出すかを学ぶ必要があることを示唆しています。研究者たちは、エージェントは単にコンテンツを蓄積するだけでなく、そのコンテンツがいかに有用であったかについての経験をも蓄積すべきであると主張しています。検索スコアを使い捨ての副産物ではなく、持続的な状態として扱うことで、システムは検索という行為を、繰り返されるコストから、学習された能力へと変貌させています。このアプローチにより、エージェントは単に多くを知るだけでなく、すでに知っていることをより上手く見つけ出すことで、時間の経過とともに賢くなれるのです。

研究者たちは、この手法が効果的に機能するためには特定の条件が必要であることを認めています。それは、長期にわたって投げかけられる質問がある程度の共通のテーマや構造を共有しており、かつメモリ自体が安定していることを前提としています。もしすべての質問が直前の質問と全く無関係であったり、保存されたメモリの意味が急速に変化したりする場合、システムはパターンを学習するための手がかりを見つけるのに苦労するでしょう。しかし、ユーザーがしばしば同様のトピックに戻ったり、以前のアイデアに基づいた展開を行ったりする長期的な会話の文脈においては、この手法は堅牢であることが証明されました。システムは、直接的なスコアリングの数が減少しても優位性を維持しており、蓄積された経験が信頼できるガイドであることを示しました。

究極的に、この研究は人工知能の効率性に対する新しい視点を提供しています。それは、システムを賢くするためのコストが、保持する情報の量に応じて線形に増大する必要はないということを実証しています。システムに自身の検索履歴を記憶させることを通じて、研究者たちは、知識豊富でありながら効率的でもあるエージェントを構築することが可能であることを示しました。システムは毎回ゼロからすべてを再評価する必要はありません。過去の決定という肩の上に立つことができるのです。このアプローチは、エージェントが単に経験から学ぶだけでなく、自身の歴史をどのようにナビゲートするかからも学ぶ人間のように、相互作用を通じて行動を適応させ、洗練させていく、真に長期的な運用が可能なエージェントの実現に近づけています。