技術要約：意味的組織化を超えて：長期的なホライゾンを持つエージェントのための実行状態管理としてのメモリ

1. 問題提起

本論文は、相互に依存する決定を伴う長期的なホライゾン（long-horizon）のタスクに取り組む大規模言語モデル（LLM）エージェントにおける、メモリ管理の課題に対処している。マルチステップのウェブショッピングや複雑なプランニングといったシナリオでは、各アクションが将来の制約を再形成するため、中間段階のエラーが後続の進捗を無効化する連鎖的な失敗を引き起こす可能性がある。

著者らは、既存のメモリシステム（RAGや様々なエージェントメモリ・アーキテクチャを含む）が、根本的な設計上のミスマッチを抱えていると主張している：

• 意味的類似性と状態依存性の乖離： 現在のシステムは、内容の関連性（現在のクエリに対する意味的な類似性）に基づいて履歴を整理しており、実行状態の依存関係（決定の因果関係の連鎖）に基づいていない。
• 状態の断片化： 意味的に類似しているが構造的に断絶しているエントリを検索することで、これらのシステムは決定の軌跡を断片化させてしまう。ステップ間の結合となる重要なコンテキストが破棄されることが多く、一貫した実行状態の再構築を妨げている。
• エラーの汚染： 類似性ベースの検索は、異なる探索試行からの有効なトレースと誤ったトレースを混在させてしまう。明示的なパス構造がないため、エラーを隔離できず、結果としてエラーの伝播と蓄積を招く。
• 非効率性： 逆説的だが、多くのメモリシステムは、フル履歴を保持する手法（ロングコンテキスト・アプローチ）よりも多くのトークンを消費しながら、タスクの成功率においては依然としてパフォーマンスが低い。

2. 手法：MAGE

著者らは、メモリを受動的な意味的アーカイブから、能動的な実行状態マネージャーへと再定義するフレームワークであるMにはMAGE (Memory as Agent-Guided Exploration) を提案する。MAGEは、人間の複雑なタスク実行における認知メカニズム、具体的には階層的なチャンキング、エラー監視、および選択的な修正から着想を得ている。

コア・アーキテクチャ：階層的実行状態ツリー

MAGEは、エージェントの履歴を2層の階層的状態ツリーとして構成する：

1. 下層（生トレース / Raw Trace）： 実行順序に従って、ステップごとのアクションと観測のペア（$a_t, o_t$）を記録する。これにより、きめ細かな状態依存性が保持される。
2. 上層（圧縮されたサブゴール / Compressed Subgoals）： サブゴールや決定の境界で生成された要約ノードを格納する。これらは、連続する下層のセグメントをコンパクトな状態へと圧縮する。

エージェントの現在の実行状態は、検索によって断絶したエントリを組み立てるのではなく、このツリーの**アクティブなルートから現在に至るパス（root-to-current path）**から厳密に導出される。このパスは以下で構成される：

• 圧縮された状態 ($C$)： 完了したサブゴールの要約。
• 生の状態で ($R$)： 直近の、未圧縮のアクション・観測トレース。
• 実行ヒント ($H$)： 将来の決定を導くための、兄弟ブランチ（失敗した代替案）からの情報および診断ノート。

4つの結合された操作

MAGEは、以下の4つの操作によるクローズドループ・サイクルを通じてこのツリーを維持する：

1. Grow（成長）： 下層に新しいアクション・観測ペアを追加する。もし以前の探索から同一の内容を持つノードが存在する場合、ポインタをそこにマージし、そうでなければ新しいノードを作成する。これにより、生のトレースが拡張され、実行ヒントが更新される。
2. Compress（圧縮）： サブゴールが完了したとき、または生のトレースが閾値を超えたときにトリガーされる。完了した下層セグメントを、上層の要約ノードに置き換える。これにより、将来のリカバリに必要な決定境界を保持しつつ、コンテキストの増大を抑制する。
3. Maintain（維持）： 圧縮直後に行われる検証ステップである。LLMが、タスク指示書に対して要約とその基礎となるトレースを検証する。エラーや情報の欠落が検出された場合、診断フィードバックを記録し、失敗を通知する。
4. Revise（修正）： 検証失敗または能動的なエラー検出によってトリガーされる。アクティブなポインタ（$p_b, p_t$）をターゲットとなる境界（エラーが発生する前の状態）まで復元し、誤ったセグメントを破棄して、**新しいブランチ（兄弟パス）**として実行を再開する。これにより、エラーをアクティブなパスから隔離しつつ、有効な進捗を保持する。

3. 主な貢献

1. パラダイムシフト： エージェントのメモリを、類似性駆動の検索から、階層ツリーによるコンパクトな実行状態管理へと転換するMAGEの提案。
2. クローズドループの状態管理： メモリをエージェントが操作可能なオブジェクトとして扱う、4つの結合された操作（Grow, Compress, Maintain, Revive）の設計。このサイクルにより、エラーを別個のブランチに隔離し、アクティブな実行状態が誤ったトレースに汚染されないことを保証する。
3. 実証的検証： MemoryArenaベンチマークにおいて、MAGEがロングコンテキストのベースラインや既存のメモリ/RAGシステムと比較して、大幅に少ないトークン消費量で優れたタスク性能を達成することを実証した。

4. 実験結果

実験は、Bundled Web Shopping、Group Travel Planning、Progressive Web Search、Formal Reasoningの4つのドメインにわたる、相互依存的な長期ホライゾン・タスクを特徴とするMemoryArenaベンチマークを用いて行われた。

• タスク成功率 (SR)： MAGEは、ベースライン（ロングコンテキスト、HippoRAG2、MemoRAG、Mem0などを含む）に対し、平均で7.8～20.4パーセントポイント向上した。
• トークン効率： MAGEは、ロングコンテキスト・アプローチと比較して、平均で**55.1%**トークン消費を削減した。抽出やクエリの書き換えによってオーバーヘッドが発生しやすい他のメモリシステムとは異なり、MAGEの決定論的なツリー維持と境界認識型の圧縮は、補助的なLLM呼び出しを最小限に抑えている。
• アブレーション研究： 3つのコアメカニズム（Compress, Maintain, または Revise）のいずれかを削除すると、大幅な性能低下が見られた。これは、信頼性の高い状態管理には完全なクローズドループ・サイクルが必要であることを裏付けている。
• 汎用性： 結果は異なるバックエンドモデル（Qwen3.6-27B, Qwen3.6-35B, および Gemma4-31B）にわたって維持されており、このアプローチが特定のモデルアーキテクチャに依存していないことを示している。

5. 意義と主張

本論文は、長期ホライゾンのエージェントが信頼性と効率性を両立するための鍵は、意味的な検索を最適化することではなく、実行状態の構造を保持することにあると主張している。

• 状態の整合性： 階層ツリー内の単一のアクティブなパスから現在の状態を構築することで、MAGEは類似性ベースのシステムを悩ませる断片化を防ぐ。
• エラーの隔離： ツリー構造により、明示的な分岐と修正が可能となり、有効な歴史的進捗を破棄することなく、欠陥のあるセグメントを隔離できる。
• 効率性： 境界認識型の圧縮戦略は、状態依存性を壊すことなくコンテキストの増大を制限し、高いタスク成功率と低いトークンコストの両立（性能・効率プロットにおける「左上」の領域）を実現する。

著者らは、メモリを能動的な実行状態マネージャーとして扱うことが、意思決定が相互に依存し、エラーの代償が大きい複雑な現実世界のタスクを処理できる、堅牢なLLMエージェントを構築するための基本的な原則であると結論づけている。