技術要約: REAL - LLMの長期記憶管理のための推論強化グラフフレームワーク

1. 問題提起

大規模言語モデル（LLM）は、有限のコンテキストウィンドウ（通常8K〜256Kトークン）に起因する、長期記憶の管理における重大な課題に直面しています。対話が数週間または数ヶ月に及ぶにつれ、履歴の情報はコンテキストの制限を超え、以下の3つの主要な問題を引き起こします：

1. 無制限のコンテキスト蓄積: 対話履歴は必然的に有限の制限を超過します。
2. アテンションの減衰: モデルのアテンションは距離に応じて劣化し、長いコンテキスト内に散在する関連詳細の検索を困難にします。
3. 主題の不連続性: 現実世界の会話はトピック間を飛び越えるため、重要な事実が関連のないトークンの間に埋もれてしまいます。

既存の外付けメモリソリューションは、以下の3つの具体的な限界を抱えています：

• C1: 平坦なメモリ構成の非効率性: 現在のシステムは、ベクトルデータベースに格納された平坦なテキストチャンクを使用することが多いです。これらは関連するチャンク間の明示的なリンクを欠いており、マルチホップ推論を妨げ、語彙的には類似しているが意味的には無関係な情報を取得してしまうことがよくあります。
• C2: 事実の進化の欠如: 構造化メモリシステムは、既存の事実を新しい事実で上書きする破壊的な更新を採用することがよくあります。これは、ユーザーの嗜好、計画、および関係性の時間的な進化を消去してしまい、行動の変化を理解するために必要な歴史的コンテキストを失わせます。
• C3: 検索における非効率性と受動性: 既存の検索メカニメントは、クエリに対して非依存的かつ受動的です。検索された証拠が不完全な場合（例：対称性や下位概念による欠落した証拠の推論など）、それらを補完できず、多くの場合「わかりません」という回答に陥ります。

2. 手法: REALフレームワーク

著者らは、メモリを時間的かつ信頼度を考慮した有向プロパティグラフとして構成するREAL（Reasoning-Enhanced grAph framework for Long-term memory management）を提案しています。

A. メモリ構築

REALは、非破壊的かつ増分的なプロセスを通じてメモリを構築します：

• 原子的事実の表現: 会話は、$(h, r, t, [\tau_s, \tau_e], c, \iota)$ という六つ組（sextuples）で表される原子的事実に分割されます。ここで、$h$ と $t$ はエンティティ、$r$ は関係、$[\tau_s, \tau_e]$ は有効期間、$c$ は信頼度スコア、$\iota$ は探索意図ラベルを表します。
• 非破壊的な時間的更新:
  • 単一値の関係（例：「居住都市」）: 事実が変化する場合、古い期間は新しい事実の開始時刻で終了し、独自の期間を持つ新しい事実が挿入されます。これにより、事実の並行バージョンが保持されます。
  • 多値の関係（例：「好みの食べ物」）: 新しい事実は、既存の期間を閉じることなく並行エッジとして追加され、共存が可能になります。
• 属性の強化:
  • 信頼度の層別化: 言語的な手がかり（例：「かもしれない」対「常に」）に基づいて信頼度スコア（$c$）が割り当てられます。ノイズを減らすため、標準的な検索には $c \ge \theta_{stable}$ の事実のみが使用されます。
  • 探索意図: 将来の検索戦略を導くために、事実に意図（FACT, CAUSAL, TEMPORAL, CONTRAST, EVOLUTION）がラベル付けされます。
• 属性の強化:
  • 信頼度の層別化: 言語的な手がかり（例：「かもしれない」対「常に」）に基づいて信頼度スコア（$c$）が割り当てられます。ノイズを減らすため、標準的な検索には $c \ge \theta_{stable}$ の事実のみが使用されます。
  • 探索意図: 将来の検索戦略を導くために、事実に意図（FACT, CAUSAL, TEMPORAL, CONTRAST, EVOLUTION）がラベル付けされます。

B. メモリ検索

REALは、コンパクトな証拠サブグラフを抽出するために、セマンティック評価器ガイド付きハイブリッド・ビームサーチを採用しています。

1. ルートエンティティのアンカリングと意図のデカップリング: システムはクエリからルートエンティティを抽出し、特定の探索意図を推論します。
2. ハイブリッド・ビームサーチ:
   • 候補の拡張: 現在のノードから、時間的妥当性（クエリ時刻に一致）、信頼度閾値、および意図の適合性によってフィルタリングされた隣接ノードを検索します。
   • パス・スコアリング: 統合されたスコアリング関数が、クエリ関連性（$S_{QR}$）、論理的一貫性（$S_{LC}$）、およびエンティティ固有の回答充足度（$S_{AS}$）に基づいてパスを評価します。
   • 決定手順: 各ビームに対して、システムは停止（現在のパスが十分な場合）、拡張（新しいパスの方が優れた場合）、または反事実的推論の呼び出しを決定します。
3. 反事実的推論: 通常の拡張が失敗した場合（有効な隣接ノードがない、または一貫性が低い場合）、システムは論理規則（例：対称性、下位概念、時間的継承）を用いて代替的な探索仮説を生成し、欠落した証拠を復元します。
4. グローバル・プルーニング: パスはグローバルにプルーニングされ、次のイテレーションのために上位$k$個の候補が保持されます。

C. 回答生成

検索されたメモリ・サブグラフは、パス、タイムスタンプ、および信頼度スコアを含むコンパクトなコンテキストへとシリアライズされ、最終的な回答生成のためにLLMに供給されます。

3. 主な貢献

1. マルチ属性メモリ構築: 事実の進化と並行バージョンを保持する、時間的かつ信頼度を考慮した有向プロパティグラフとしてメモリを表現するメカニズム。
2. 推論強化型適応的検索: 探索意図のデカップリング、セマンティック評価器ガイド付きハイブリッド・ビームサーチ、および反事実的推論を統合し、堅牢でクエリに応じた証拠発見を可能にする戦略。
3. 性能向上: 既存の最先端手法に対して大幅な改善を示す包括的な評価。

4. 実験結果

著者らは、DeepSeek-V3、Qwen3-32B、LLaMA3.3-70Bなどのモデルを用い、対話形式のベンチマーク（LoCoMo, LongMemEval, PersonaMem）および長文ドキュメント形式のベンチマーク（HotpotQA, 2WikiMultihopQA, MuSiQue）でREALを評価しました。

• 全体的な性能: REALは、既存のメモリ管理手法（平坦テキスト、グラフベース、フルコンテキスト・アプローチを含む）に対して平均**22.72%**の向上を達成しました。
• ベースラインとの比較:
  • フルコンテキスト・ベースラインに対し平均**49.33%**上回り、単にコンテキストを増やすだけでは不十分であることを示しました。
  • 平坦テキスト手法（MemGPT, Mem0）を**23.85%**上回りました。
  • グラフベースのベースライン（Vanilla Memory Graph, Mem0g, A-MEM）を**12.71%**上回り、時間的および推論的なメカニズムの必要性を浮き彫りにしました。
• アブレーション研究: コアコンポーネント（時間的間隔、信頼度層別化、意図ラベル、セマンティック評価器、または反事実的推論）のいずれかを取り除くと、性能の低下が見られました。これは、統合された設計の必要性を裏付けています。
• 効率性: REALは、単純な手法と比較して構築および検索においてレイテンシが発生しますが、他のグラフベースの手法よりも少ないグラフノードを訪問しており、最高レベルの回答精度を達成しています。これは、計算量と性能の間の良好なトレードオフを示しています。

5. 意義と主張

本論文は、LLMのメモリを構造化され、時間的に進化し、クエリに適応するデータ管理問題として扱うことが、信頼性の高い長期LLMシステムを構築するための有望な方向性であると主張しています。

REALは、以下の方法により、現在のメモリシステムにおける決定的なギャップを埋めます：

• 平坦なテキストを超え、明示的な関係を捉える構造化グラフへと移行すること。
• 破壊的な更新を、事実の進化を保持する非破壊的な時間的追跡に置き換えること。
• 受動的な検索から、反事実的推論を通じて欠落した証拠を推論できる、推論強化された能動的な探索へとシフトすること。

著者らは、本フレームワークが長期的なメモリ性能を大幅に向上させ、LLMが長期的な時間軸にわたって歴史的な情報をより忠実に保持、更新、および検索することを可能にすると結論付けています。