🤖 AI

Memory is Reconstructed, Not Retrieved: Graph Memory for LLM Agents

本論文は、静的な検索をCue-Tag-Contentグラフ上での能動的な再構成メカニズムに置き換えることで、推論中のメモリ・アクセスを動的に適応させるフレームワークであるMRAgentを導入しており、これによりLLMエージェントのベンチマークにおける長期間のパフォーマンスと効率性を大幅に向上させている。

原著者： Shuo Ji, Yibo Li, Bryan Hooi

公開日 2026-06-05

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Shuo Ji, Yibo Li, Bryan Hooi

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

大きなアイデア：なぜAIは長い会話の中で迷子になるのか

想像してみてください。あなたは数週間にわたってチャットを続けている友人と話しています。突然、あなたはこう尋ねました。「ほら、7月のビーチに行く直前に話した、あの映画の名前は何だったっけ？」

もしあなたの友人が標準的なAIメモリシステムを使っていたら、彼らは厳格なルールブックを持つ司書のように振る舞います。彼らは「映画」と「7月」という言葉を聞いた瞬間、その単語が表紙に書かれたすべてのファイルをライブラリーから即座に引き出します。そして、目の前に大量の書類の山をぶちまけます。あなたは、1月に行った映画や、来年の映画、さらには会話とは全く関係のないビーチに関する映画まで、その山の中から探し出さなければなりません。それは乱雑で、時間がかかり、彼らが「どの映画」を指しているのかを（書類の山を見るまで）理解できていないために、特定のファイルを見逃してしまうこともよくあります。

この論文の著者であるMRAgentは、こう言います。「それは人間の記憶の仕組みではありません。」

人間の記憶は、単に単語を検索するだけのライブラリーではありません。それは探偵の物語です。何かを思い出そうとする時、単にファイルをつかむのではなく、手がかりの跡を辿ります。「ああ、あれは7月だった……それで、ビーチの話をしていた……そして、あの映画はコメディだった」と考えます。これらの中間的な手がかりを使って、検索範囲を絞り込み、正確な記憶にたどり着くのです。

問題点：「受動的」対「能動的」なアプローチ

この論文は、現在のAIエージェントが**受動的検索（Passive Retrieval）**という手法を用いていると主張しています。

比喩： フラッシュライト（懐中電灯）しか持っていないロボットを想像してください。質問を受けると、ロボットは似ているように見える最初の数個の物に光を当てて止まってしまいます。もし答えがそこに正しくなければ、ロボックは諦めるか、間違った推測をします。途中で考えを変えることはできません。

論文は**能動的メモリ再構成（Active Memory Reconstruction）**を提案しています。

比喩： 虫眼鏡とノートを持った探偵を想像してください。
1. 手がかり： あなたは探偵にヒントを与えます（例：「7月」）。
2. 調査： 探偵は「7月」とラベル付けされたファイルを見つけます。その中には、「映画について話した」というメモがあります。
3. 方向転換： 探偵は気づきます。「待てよ、どんな種類の映画だったかを知る必要があるな」。探偵はその新しい情報を使って、「コメディ」というタグを探します。
4. 発見： そして今、7月のコメディ映画に関する特定のファイルを見つけ出します。

AIは単に答えを「検索」するのではなく、ステップごとに答えへの経路を再構成し、あるステップで見つけた情報を使って次のステップを導きます。

MRAgentの仕組み：「手がかり–タグ–内容」マップ

この探偵のような働きを可能にするために、著者たちは**手がかり–タグ–内容グラフ（Cue–Tag–Content Graph）**と呼ばれる特別なメモリ構造を構築しました。これは、3層のマップシステムだと考えてください。

手がかり（Cues/Clues）： これらは「Nate」「7月」「ビデオゲーム」といった小さなキーワードです。
タグ（Tags/Bridges）： これが秘伝のソースです。「Nate」を直接長いストーリーに結びつけるのではなく、「Nate」を「夏の休暇」のようなタグに結びつけます。タグは意味的な架け橋として機能します。それはAIに、「もしNateを探しているなら、まず『夏の休暇』フォルダを確認せよ」と伝えます。
内容（Content/Story）： これは実際の記憶（何が起きたかという長いテキスト）です。

なぜこれが優れているのか？
もしAIが「Nate」から直接「ストーリー」へ飛び込もうとすると、無関係なストーリーの海の中で迷子になる可能性があります。しかし、まずタグで立ち止まることで、AIは自分自身に問いかけることができます。「この『夏の休暇』というタグは、今の質問に関連しているだろうか？」もしそうなら、深く潜ります。そうでなければ、その経路を切り捨て、別のタグを試します。これにより、AIが無関係なストーリーを読むことに時間を浪費するのを防ぎます。

「能動的再構成」のプロセス

論文では、AIの思考プロセスをループとして説明しています。

推論： AIは質問と現在の手がかりを見ます。
経路の選択： AIは「まず『7月』のタグを確認すべきだ」と決定します。
探索： そのタグの下にあるものを調べます。
洗練： 新しい手がかり（例：「Caroline」）を見つけます。計画を更新します。「よし、次はキャロラインの7月の活動を確認する必要があるな」。
反復： 十分な証拠が集まり、質問に答えられるようになるまで、これを繰り返します。

これは、決まった数のドキュメントをただ掴み取って、あとは運に任せるという古いシステムとは異なります。MRAgentは**ダイナミック（動的）**です。道中で見つけたものに基づいて、検索戦略を変化させます。

結果：より速く、より賢く、より安価に

著者らは、AIエージェントが非常に長い会話の詳細を記憶しなければならない2つの大きな課題（LOCOMOおよびLONGMEMEVAL）でテストを行いました。

正確性： MRAgentは、時間を超えて点と点を結びつける必要がある複雑な質問に対して、大幅に優れた結果（最大23%の向上）を示しました。
効率性： 間違った経路を早い段階で切り捨てるため、他の手法よりも**少ない単語数（トークン）**を読み、短い時間で済みます。ライブラリー全体を読み耽ってエネルギーを無駄にすることはありません。必要な棚だけを読みます。

一文でのまとめ

MRAgentは、机の上に本の山をぶちまける硬直した司書として振るプトするのではなく、手がかりの跡を辿り、中間的なヒントを使って記憶のマップをナビゲートする、スマートな探偵として振る舞い、ノイズの中で迷うことなく正しい答えを見つけ出します。

技術要約：メモリは検索されるのではなく、再構成される：LLMエージェントのためのグラフメモリ

1. 問題提起

大規模言語モデル（LLM）エージェントは、現在、長い対話履歴に基づく推論に苦慮している。既存のメモリ拡張型エージェントは外部メモリシステムを利用しているが、その多くは静的な「検索して推論する（retrieve-then-reason）」パラダイムに依存している。この硬直したパイプラインでは、メモリへのアクセスが推論プロセスから切り離されており、推論中に発見された中間的な証拠に基づいて検索戦略を動的に適応させることができない。

現在の手法には、明確な限界を持つ2つのカテゴリが存在する：

類似度ベースの検索（例：RAG, Mem0）： これらのシステムは、固定された類似度スコアリング関数に基づいてメモリユニットを検索する。これらは新しい検索手がかりを推論したり、中間的な発見に適応したりすることができず、表面的な関連性はあるものの意味的に正しくないイベントを検索してしまうことで、大幅なノイズを導入することが多い。
グラフベースのメモリ検索（例：A-Mem, Zep）： これらのシステムは構造化されたメモリグラフを利用するが、定義済みの探索オペレータ（例：固定された $N$ ホップの隣接ノード展開）に依存している。これらは構造的な関係性を捉えることはできるが、蓄積された証拠に基づいて新しい検索パスを推論したり、無関係なブランチを刈り込んだりすることができないため、組合せ爆発とノイズを引き起こす。

核心となる課題は、メモリへのアクセスを、受動的で一回限りの検索プロセスから、連想メモリ構造によって導かれ、推論ステップを通じて段階的に情報を明らかにする能動的な多段階の再構成プロセスへと変革することである。

2. メソドロジー：MRAgent

著者らは、MRAgent（Memory Reasoning Architecture for LLM Agents）を提案する。これは、LLMの推論をメモリへのアクセスに直接統合するフレームワークである。本システムは、**Cue–Tag–Content（手がかり・タグ・コンテンツ）**連想メモリグラフ上で動作し、能動的な再構成メカニズムを採用している。

2.1. 連想メモリ構造

メモリは、3つの主要なコンポーネントを含む異種混合グラフ $\mathcal{M} = (\mathcal{C}, \mathcal{V}, \mathcal{R})$ として構成されている：

Cues（手がかり $\mathcal{C}$ ）： エンティティ、属性、または文脈的記述子などの微細なキーワード。
Content（コンテンツ $\mathcal{V}$ ）： 以下の3つのレイヤーに分類される特定のメモリ項目：
- エピソード層（Episodic Layer）： 特定の文脈とタイムラインに根ざした具体的な出来事。
- セマンティック層（Semantic Layer）： イベントから抽出された、安定した抽象的な知識（例：好み、事実）。
- 抽象化層（Abstraction Layer）： エピソード全体にわたる繰り返されるパターンを要約したトピックノード。
Tags（タグ $\mathcal{G}$ ）： 意味的な架け橋として機能する連想関係。トリプル $(c, g, v) \in \mathcal{R}$ は、タグ $g$ を介して手がかり $c$ とコンテンツノード $v$ を接続する。

この構造により、2段階の検索プロセスが可能になる。まずLLMが手がかりに基づいて関連するタグを選択し、次にそれらのタグを条件としてコンテンツを検索する。これにより、連想的な推論とコンテンツレベルの検索が分離され、ガイドされた探索と無関係なブランチの刈り込みが可能になる。

2.2. 能動的メモリ再構成プロセス

MRAgentは、メモリへのアクセスを、再構成状態 $S(t) = (Z(t), H(t))$ によって定義される逐次的な決定プロセスとして定式化する。ここで、 $Z(t)$ はアクティブなメモリ要素の集合であり、 $H(t)$ は蓄積された証拠である。

プロセスは以下のステップを反復する：

LLMの推論とアクション選択： 現在のクエリ $x$ $x$ 、蓄積されたコンテキスト $H(t)$ $H (t)$ 、およびアクティブな集合 $Z(t)$ $Z (t)$ に基づき、LLMは一連の探索アクション $\mathcal{A}(t)$ $A (t)$ を選択する。これらのアクションには以下が含まれる：
- 前方探索（Forward Traversal）： 手がかりからタグへの展開 ( $\Pi_{c \to g}$ )、または（手がかり、タグ）からコンテンツへの展開 ( $\Pi_{(c,g) \to v}$ )。
- 後方探索（Reverse Traversal）： 検索されたコンテンツから新しい手がかりとタグを活性化させる ( $\Pi_{v \to (c,g)}$ )。
制御されたメモリ探索： システムは選択されたアクションを実行して候補ノードを生成する。網羅的なグラフ展開とは異なり、このステップはLLMの選択によってガイドされるため、ノイズが低減される。
LLMルーティングと状態更新： LLMは候補を評価し、最も関連性の高いコンテンツを選択して、無関係なブランチを刈り込む。これにより、アクティブな集合 $Z(t+1)$ と蓄積されたコンテキスト $H(t+1)$ が更新される。
終了： 蓄積された証拠がクエリに答えるのに十分になるか、最大ステップ制限に達するまでプロセスは継続される。

2.3. メモリの構築（Population）

メモリグラフは、自動化された蒸留パイプラインを通じて構築される。LLMは入力される対話ストリームを処理し、以下の操作を行う：

テキストをエピソード単位に分割する。
微細な手がかりを抽出し、各エピソードに対して連想的なタグを生成する。
安定したセマンティックな事実と抽象的なトピックノードを蒸留する。
これにより、イベントレベルと概念レベルの両方の推論をサポートする多層的な構造が作成される。

3. 主な貢献

能動的メモリ再構成： メモリへのアクセスを推論ループに統合し、エージェントが中間的な証拠に基づいて探索戦略を動的に適応させることを可能にする新しいパラダイム。
Cue–Tag–Content メモリグラフ： 連想的なタグが検索を媒介する新しいアーキテクチャであり、LLMが詳細なコンテンツにアクセスする前に、有望なパスを特定し、無関係なブランチを刈り取ることを可能にする。
理論的表現力： 能動的な検索ポリシーは、受動的な検索ポリシーよりも厳密に表現力が高いことを示す証明。具体的には、任意の検索予算 $T \ge 2$ について、能動的リトリーバーの仮説クラスは受動的リトリーバーのクラスを厳密に包含する ( $\mathcal{H}_{passive}^{LM}(T) \subsetneq \mathcal{H}_{active}^{LM}(T)$ )。
実証的検証： 強力なベースラインと比較して、計算コストを削減しつつ大幅な性能向上を示す広範な実験。

4. 実験結果

著者らは、LOCOMO（長期対話メモリ）および LONGMEMEVAL（セッションをまたぐ長期メモリ）のベンチマークを用いてMRAgentを評価した。

性能： MRAgentはすべてのベースライン（RAG、A-Mem、MemoryOS、LangMem、Mem0を含む）を上回った。
- GeminiをバックボーンとしたLOCOMOにおいて、MRAgentはLLM-Judgeスコアで 84.21 を達成し、最強のベースラインであるMem0（68.31）に対し 23.3%の相対的改善 を示した。
- LONGMEMEVALにおいて、MRAgentは最強のベースラインに対し 32%の相対的改善 を達成した。
効率性： MRAgentはトークン消費量と実行時間を大幅に削減した。LONGMEMEVALにおいて、A-Memの632kトークン、LangMemの3,268kトークンに対し、MRAgentはサンプルあたり 118kトークン を消費し、実行時間は 586秒（MemoryOSの3,135秒と比較）を維持した。
アブレーション研究：
- 推論（Reasoning）： 多段階推論のバリアントは、構造のみのバリアントを一貫して上回り、反復的な証拠蓄積の必要性を裏付けた。
- タグ（Tags）： 連想的なタグ（CTC構造）の導入は、直接的なインデックス参照（CE）や、推論を伴わない媒介エピソード検索（CTE）よりも検索の信頼性を向上させた。
- メモリ層（Memory Layers）： セマンティックメモリ層を除去すると性能が低下し、エピソード記憶とセマンティック記憶の相補的な役割が浮き彫りになった。
マルチターン分析： 証拠の想起は推論ターンが進むにつれて漸進的に向上し、マルチホップのクエリは反復的な探索から最も大きな恩恵を受けた。エージェントは、探索を停止すべきタイミングを効果的に判断し、冗長な探索を最小限に抑えた。

5. 意義と限界

意義：
本論文は、メモリ検索を受動的な読み出しではなく、能動的な再構成プロセスとしてモデル化すべきであると主張している。複雑な関係的依存関係のモデリングを検索段階へと移行させることで、MRAgentは、ターゲットを絞った状態依存の探索を通じて、より少ない計算リソースで複雑なマルチホップクエリを解決することを可能にする。このアプローチは、手がかりがエングラム（記憶痕跡）の再活性化を誘発し、一貫した体験を段階的に再構成するという認知神経科学の視点と一致している。

限界：
著者らは、現在の実装における特定の限界を認めている：

レイテンシ（遅延）： 関係的な推論が検索段階に委ねられているため、再構成のコストは探索の深さに比例して増大する。多くの探索ステップを必要とするクエリは、シングルショットの検索よりも高いレイテンシを伴う。
静的な構築： 現在のメモリグラフは、相互作用が蓄積されるにつれて単調に増大し、時間の経過に伴うメモリの更新や集約のメカニズムを持たないため、長期運用においてストレージオーバーヘッドが生じる可能性がある。

著者らは、今後の研究として、能動的再構成をより広範な長期ホライゾン設定に拡張するために、適応的な構築、軽量なメモリメンテナンス、およびより堅牢な探索ポリシーに焦点を当てるべきであると示唆している。