MemArchitect: ポリシー駆動型メモリガバナンス層の技術的概要

本論文「MemArchitect: A Policy Driven Memory Governance Layer」は、自律型エージェントとしての大規模言語モデル（LLM）が直面する「メモリ幻覚（Memory Hallucination）」と「文脈汚染」の問題に対処するため、受動的な記憶ストレージから能動的なガバナンス層へとパラダイムを転換する新しいアーキテクチャを提案しています。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

---

1. 問題定義：ガバナンスの欠如（Governance Gap）

LLM がステートレスなチャットボットから自律型エージェントへ進化していく中で、以下の致命的な課題が発生しています。

• メモリ幻覚（Memory Hallucination）: エージェントが自身の履歴から矛盾する事実（例：2024 年の「未婚」と 2025 年の「既婚」）や古くなった事実を同時に検索し、誤った判断を下す現象。
• 文脈汚染（Context Pollution）: 単にコンテキストウィンドウを拡大するだけでは、矛盾や不要な情報（「ゾンビメモリ」）が蓄積され、エージェントの信頼性が低下する。
• 既存手法の限界:
  • MemGPT/MemOS: 仮想メモリページングなど OS 的なアプローチだが、記憶を「追記専用のログ」として扱い、矛盾の解決やプライバシー（忘れられる権利）の強制が不十分。
  • SimpleMem/LLMLingua: 意味的圧縮に焦点を当てているが、情報の鮮度や事実性を能動的に管理するメカニズムが欠如している。

これらのシステムは「記憶のガバナンス（管理・統制）」の欠如により、自律的な長期タスクにおいて不安定になります。

2. 手法：MemArchitect のアーキテクチャ

MemArchitect は、モデルの重みを変更することなく、外部の「ガバナンスミドルウェア」として機能します。ユーザーとエージェントの間に「選別と入札（Triage & Bid）」の経済モデルを挿入し、すべての情報がコンテキストウィンドウを獲得するために競合する仕組みを導入しています。

2.1 4 つの基盤ポリシー（Governance Pillars）

MemArchitect は以下の 4 つのドメインで構成される統一されたガバナンスプロトコルを実装しています。

① ライフサイクルと衛生管理（Lifecycle & Hygiene）：「忘却エンジン」

• FSRS 減衰（FSRS Decay）: 従来の指数関数的減衰ではなく、Free Spaced Repetition Scheduler (FSRS v4) を採用。記憶の「想起可能性（R）」が「安定性（S）」と「時間（t）」に依存する生物学的忘却曲線を模倣します。
• エントロピートリガー型統合: 情報密度を監視し、冗長性が高い場合、 Episodic Memory（エピソード記憶）を Semantic Facts（意味的事実）に圧縮し、不要なノイズ（R < 0.3）を積極的に削除します。

② 一貫性と真実性（Consistency & Truth）：「ユーティリティエンジン」

• カルマンフィルタによる反射ループ: 各記憶の「信頼スコア（U）」をカルマンフィルタで追跡。有用な記憶は慣性を持ち、幻覚や誤った情報は数学的に重みを下げます。
• 関連性ディスクリミネータ（Veto Gate）: ベクトル検索を通過しても、厳密な含意閾値（< 0.1）を満たさない場合は破棄する「拒否ゲート」を設け、文脈へのノイズ混入を防ぎます。

③ 適応的検索（Adaptive Retrieval）：「オークションエンジン」

• マルチホップ分解: 複雑なクエリを部分質問に分解し、断片的な事実を検索します。
• 適応的スコアリング: クエリの種類（事実、時間的、推論）に応じて検索重みを調整します（例：推論タスクでは古い記憶にペナルティ、事実は時間不変）。
• ヘッビアングラフ拡張: 「一緒に発火する記憶は結合される」という原理に基づき、頻繁に共起する記憶（A と B）を自動的にリンクさせ、文脈を補完します。

④ 効率性（Efficiency）：「予算エンジン」

• 適応的トークン予算: 検索の信頼度に応じてコンテキストウィンドウを動的に割り当てます。高信頼時は「推論予約（Reasoning Reserve）」を確保し、低信頼時は「検索予約（Recall Reserve）」を最大化します。

2.2 ガバナンスサイクル

システムは以下の 3 つのパスで動作する閉ループ構造を持っています。

1. Read Path（検索オークション）: クエリ分類、分解、スコアリング、フィルタリング、ヘッビアン拡張を経てトークン予算に収容。
2. Reflect Path（フィードバックループ）: 生成後の出力分析により、どの記憶が使用されたかを検知し、カルマンフィルタと FSRS 安定性を更新。
3. Background Path（衛生エンジン）: アイドル時に記憶ストアをスキャンし、ノイズ削除と事実圧縮を実行。

3. 実験結果

LoCoMo-10 ベンチマーク（長期対話記憶評価）を用いて、MemOS（システムレベル管理）および SimpleMem（アルゴリズム的効率化）と比較評価を行いました。

• 評価モデル: Qwen-3B, Llama-3.1-8B
• 主要な結果:
  • 全体精度: MemArchitect は全タスクで平均 +7.45% の精度向上を達成。
  • SimpleMem 対比: 時間的推論（Temporal Reasoning）で +39.2%、マルチホップで +29.1% の大幅な改善。SimpleMem は圧縮により時間的マーカーを失う傾向があり、MemArchitect の FSRS ポリシーがこれを克服しました。
  • MemOS 対比:
    • 弱点: 単一ホップや時間的リコール（Raw Recall）では MemOS に劣る（例：時間的推論で -44.9%）。これは MemArchitect が「一度きりの事実」を積極的に削除するためです。
    • 強み: 自由領域（Open Domain）で +11.3%、マルチホップで +4.1% 上回ります。
  • 考察: MemArchitect は「 eidetic memory（写真記憶）」を犠牲にする代わりに、「抽象的統合」と「長期一貫性」を大幅に向上させます。失敗モードを「制御不能な幻覚」から「調整可能な過剰剪定（Over-Pruning）」へとシフトさせています。

4. 主要な貢献

1. ガバナンスの概念化: 記憶を「受動的なストレージ」から「能動的な裁判所（Adjudication）」へと転換し、矛盾、プライバシー、鮮度をポリシーで管理する枠組みを提案。
2. モデル非依存の実装: モデルの重み変更を必要とせず、外部レイヤーとして機能するため、軽量かつ汎用的。
3. FSRS とカルマンフィルタの応用: 認知科学（間隔反復）と制御理論（カルマンフィルタ）を LLM メモリ管理に応用し、生物学的な忘却と信頼性評価を数値化。
4. トレードオフの可視化: 「完全な記録保持」と「文脈の純度」の間のトレードオフを明示し、意図的な剪定が長期的なエージェントの信頼性を高めることを実証。

5. 意義と将来展望

MemArchitect は、自律型エージェントが長期にわたって信頼性高く動作するための必須要件として「ガバナンス」を位置づけています。

• 実用性: 矛盾する情報の排除や、プライバシー規制（忘れられる権利）への準拠を可能にします。
• 将来の課題: 低頻度事実の保持のための FSRS 調整、人格（Persona）維持の評価（PreFEval など）、およびより大規模なベンチマーク（LongMemEval）での検証が今後の課題として挙げられています。

結論として、MemArchitect は単なる記憶容量の拡大ではなく、「何を記憶し、何を忘れ、どのように信頼するか」を制御するポリシー駆動型アーキテクチャが、次世代の自律 AI にとって不可欠であることを示唆しています。