技術要約：信頼性の高い長期的エージェント・コンテキスト進化のためのスコープ化された検証（GRACE）

1. 問題の定式化

本論文は、固定された運用ハーネス下における**長期的エージェント・コンテキスト進化（long-horizon agentic context evolution）の課題に取り組んでいる。デプロイされた大規模言語モデル（LLM）エージェント・システムにおいて、「エージェント・コンテキスト」は、タスク入力、ツールの観測結果、およびエージェントの役割、制約、ドメイン上の仮定を定義する永続的なシステムレベルの指示（persistent system-level instruction）**から構成される。

タスクの分布が時間の経過とともに変化する場合、この永続的な指示は、効果を維持するために運用経験に基づいて改訂されなければならない。しかし、この指示を**平文（flat text）**として維持すると、アーティファクトが増大するにつれて、以下のような重大な失敗モードが発生する：

• コンテキスト崩壊（Context Collapse）： 不整合が蓄積し、これまでの改善を台無しにする。
• 検証の困難性： 文書が大きくなるにつれ、ルール、制約、および手順間の関係性を検証することが、長いコンテキスト処理への依存度を高め、矛盾や冗長性の検出を困難にする。
• 無制限の増大（Unbounded Growth）： 構造的な管理が行われない場合、指示の内容が制御不能に増大し、ガイドラインの衝突や信頼性の低下を招く。

核心となる問題は、進化に使用される**表現基質（representation substrate）**を隔離することである。本論文は、モデル、ツール、およびハーネスを固定した状態で、構造的な表現を用いることが、平文によるメンテナンスと比較して、長期的な進化の地平において検証の有効性と集約性を維持できるかどうかを問うている。

2. メソドロジー：GRACE

著者らは、永続的な指示を平文ではなく**型付きセマンティックグラフ（typed semantic graph）**として維持するフレームワークである、**グラフ正則化エージェント・コンテキスト進化（GRACE: Graph-Regularized Agentic Context Evolution）**を提案する。デプロイされるアーティファクト自体はテキスト形式であるが、進化のプロセスはグラフ基質上で動作する。

2.1 グラフ正則化基質

GRACEは、指示を以下の3つのオブジェクトタイプに分類されたノードを持つ有向型付きグラフ $G_t = (V_t, E_t)$ として表現する：

• ノード ($V$): 原子的な指示ユニットをエンコードする。
  • identity（アイデンティティ）：エージェントの立場（権限と対象）。
  • norm（規範）：行動ルール（遵守または違反すべき基準）。
  • knowledge（知識）：ドメインの前提（推論の基礎）。
• エッジ ($E$): 構造的関係をエンコードする。
  • supports（支持）：根拠または正当化。
  • refines（精緻化）：特殊化（条件や例外の追加）。
  • sequence（順序）：手続き的な順序。
• スキーマ制約: ネットワークスキーマ $\mathcal{T}_G$ は、許容されるソース・ターゲットの型ペアを定義し、すべての更新がスキーマに適合することを保証する。

2.2 進化パイプライン

進化オペレータ $F_{Evolve}$ は、前状態 $(G_{t-1}, \ell_{t-1}, o_t)$ を、3つのステージを経て次状態 $(G_t, \ell_t)$ へと変換する：

1. 操作プランニング（Operation Planning）:

   • LLMを介したプランナーが、診断的観測（失敗したエージェントの相互作用から導出されたもの）を、一連の型付きグラフ編集 $\Delta^{edit}_t$（例：AddNode, ModifyNode, AddEdge）に変換する。
   • これらの編集は、中間グラフ $\hat{G}_t$ を作成するために決定論的に適用される。
   • 関係維持モジュールが、編集されたノードに付随する関係をレビューし、追加の関係レベルの編集 $\Delta^{rel}_t$ を提案する。

2. 構造的検証（Scoped Verification / スコープ化された検証）:

   • 全テキストを再読する代わりに、検証は**ローカルな型付き近傍（local typed neighborhoods）**に焦点を当てる。
   • 検証半径 $k$ は、「接触した」ノード（プランニング段階で変更されたノлоード）の周囲の近傍 $N_k$ を定義する。
   • **構造分析（Structural Analysis: SA）**は、このローカルな部分グラフを検査し、以下の2つのセマンティックな問題を検出する：
     • 矛盾（Contradiction）: 重複する指示ユニットが同時に満たされることが不可能な、結合的な充足不能性を検出する。
     • 冗長性（Redundancy）：構造的な差別化（例：異なる支持近傍）なしに、あるユニットが別のユニットを包含している、限界的なセマンティック寄与の欠如を検出する。
   • 検出された問題は、スキーマに適合する操作を用いて修復される。

3. デルタ再構成（Delta Reconstruction）:

   • 検証されたグラフ $G_t$ は、テキスト形式の指示チェックポイント $\ell_t$ に変換される。
   • これは、グラフレベルの変更に合わせた**増分編集（incremental edits）**を通じて行われ、影響を受けないコンテンツやフォーマットを保持する。

3. 実験設定

• ドメイン: $\tau^2$-benchから派生した通信カスタマーサービス。
• プロトコル: 10回の進化バッチにわたる制御された分布シフト・プロトコル。経験バッチは、保持と適応をテストするために、2つの意図混合フェーズ（フェーズAおよびフェーズB）を交互に繰り返す。
• 条件:
  1. GRACE: フルメソッド（グラフ基質 + 構造分析）。
  2. GRACE w/o SA: 構造分析を除いたグラフ基質（アブレーション研究）。
  3. HCE (Holistic Context Evolution): 組み込みの整合性ガードを備えた平文ベースライン。
• 指標:
  • pass@k: 能力（best-of-k）。
  • pass^k: 厳格な信頼性（all-k試行が成功しなければならない）。
  • Backward Transfer (BWT): 分布がシフトした後における、特定の意図に対する性能の保持。
• モデル: エージェントモデルは Gemini 2.5 Flash に固定。診断および評価には固定された手順を使用。

4. 主要な結果

5回の独立した反復実験を通じて、GRACEはベースラインと比較して優れた信頼性と保持能力を示した：

• 持続的な向上: GRACEは、厳格な信頼性（pass^3）を、ゼロショット・ベースラインの 0.091 から、最終チェックポイント ($\ell_{10}$) における 0.673 ± 0.136 まで向上させた。
• ベースラインとの比較:
  • HCE (平文): 初期には向上したが、時間の経過とともに低下し、最終的に 0.191 ± 0.051 で終了した。指示が増大するにつれて「コンテキスト崩壊」に苦しんだ。
  • GRACE w/o SA: 初期には向上した（$\ell_6$ で 0.458）が、利得を定着させることに失敗し、$\ell_{10}$ では 0.248 ± 0.144 に低下した。
• リファレンス性能: GRACEの最終チェックポイント（0.673）は、同一のホールドアウトセットにおける Gemini 3.1 Pro のゼロショット・リファレンスである 0.242 を上回った。
• 失敗モード分析:
  • HCE は高い矛盾カウント（平均 3.35）と大きな指示サイズ（82,592 文字）を蓄積し、一貫性の喪失を招いた。
  • GRACE w/o SA は低い矛盾カウントを維持したが、定着に失敗し、結果として高い冗長性（平均 4.85）と制御不能な増大を招いた。
  • GRACE は低い矛盾（1.75–1.90）と低い冗長性（4.15）を維持し、指示基質を効果的に集約した。
• 保持（Retention）: GRACEはほとんどのサイクルで正またはゼロのバックワード・トランスファーを示したが、HCEは持続的な負のバックワード・トランスファーを示し、分布がシフトした際の能力喪失を露呈した。

5. 貢献と意義

本論文は主に3つの貢献を行っている：

1. グラフ正則化基質: 永続的なエージェント指示を、進化させるための中間表現として型付きセマンティックグラフを導入した。これにより、グローバルなテキストの再読ではなく、ローカルな近傍に焦点を当てたスコープ化された構造的検証が可能となった。
2. 評価プロトコル: 分布シフトの制御されたプロトコルを提案し、フェーズ内の向上とクロスフェーズの保持の両方をテストすることで、表現と検証メカニズムの効果を分離した。
3. メカニズムの洞察: アブレーションを通じて、信頼性の高い長期的進化には2つの異なる要件があることを特定した：
   • 構造的基質: 検証をローカルにし、重大な矛盾を防ぐために必要である。
   • 集約メカニズム: 重複する内容を統合し、微妙な緊張関係を解決し、無制限の増大と冗長性を防ぐために（構造分析を通じて）必要である。

意義:
本論文は、信頼性の高い長期的コンテキスト進化のためには、進化するアーティファクトの「表現」が極めて重要であると主張している。平文によるメンテナンスは、アーティファクトが大きくなるにつれて検証がますます困難になる。GRACEは、指示を型付きグラフとして維持し、ローカルな構造的検証を行うことで、平文のアプローチや集約メカニズムを欠いたグラフアプローチよりも、エージェントが分布の変化に対してより効果的に信頼性を維持し、適応できることを示している。これは、「蓄積される指示ユニット間の関係」が、耐久性を確保するために、明示的かつ検査可能なほどローカルである必要があることを示唆している。

限界:
著者らは、現在の証拠が $\tau^2$-bench の通信ドメイン、および固定されたエージェントモデルとハーネスに限定されていることを指摘している。GRACEを他のドメインや、実装予算が一致した先行するコンテキスト進化システムと比較するために、さらなる評価が必要である。