技術概要：AGORA – LLM エージェントにおける推論不要なプロンプト圧縮のためのアダプター接地型観測・行動保持

1. 問題定義

大規模言語モデル（LLM）エージェントは、環境と対話するにつれて、行動と観測の長い軌跡を蓄積します。タスクの地平線が延びるにつれて（例：WebShop においてステップ 30 で 10 万トークンを超える）、このコンテキストを圧縮することは実用的な必要性となります。しかし、本論文は、一般的な単一ターン LM 向けに設計された標準的なプロンプト圧縮技術が、LLM エージェントに対して構造的に不適切であると主張しています。

特定された核心的な問題は行動文法の破壊です。エージェントの軌跡において、重要な行動のセマンティクス（識別子、括弧、search[...] や click[...] などの行動動詞）を担うトークンは、周囲の自然言語コンテキストから非常に予測可能であることが多いです。その結果、自己情報量やパープレキシティに基づいてトークンをランク付けし、最低スコアのものを削除するトークンレベルの抽出型圧縮器は、体系的にこれらのセマンティックトークンを削除してしまいます。その結果生じる「圧縮された」プロンプトは文法的な英語を含みますが、文法誤ったエージェントコマンドを含んでおり、環境が行動を拒否し、エージェントが失敗する原因となります。

著者らは、2 つの独立したトークンレベル手法ファミリー（Selective Context と LLMLINGUA-2）にまたがる 17 の実験セル全体において、1.3〜13.3 倍の圧縮を達成しているにもかかわらず、すべての構成が平均報酬（$m_r$）$\leq 0.05$ に崩壊することを示しました。

2. 手法：AGORA

これに対処するため、著者らはAGORA（Adapter-Grounded Observation-Action Retention Architecture、アダプター接地型観測・行動保持アーキテクチャ）を提案します。これは、推論不要なステップレベル圧縮器です。トークンレベルの手法とは異なり、AGORA は完全な（行動、観測）ペアの粒度で動作し、行動構文が維持されることを保証します。

AGORA は 3 つの主要なコンポーネントで構成されます：

1. 構造化プロンプトパーサー：

   • エージェントの軌跡を役割タイプ化されたブロック（システム、タスク、過去のステップ、現在の観測、保留中の応答）に分割します。
   • 過去の相互作用を離散的なステップペア $(a_i, o_i)$ にグループ化します。
   • この解析は決定論的かつタスク非依存であり、役割マーカー（例：[ASSISTANT]、[USER]）に依存します。

2. 常時保持フロア（決定論的品質フロア）：

   • 形式と最近性を維持するために、特定の重要なコンテンツを無条件に保持します：
     • システムメッセージ（$c_{sys}$）とタスク指示（$c_{task}$）。
     • 現在の観測（$c_{now}$）と保留中の応答（$c_{pend}$）。
     • 最も最近の $K_{recent}=2$ ステップ。
   • このレイヤーは、エージェントが機能するために必要な「不変性」（現在の状態と最近の履歴を知っていることなど）が失われることがないことを保証します。

3. 学習済みステップ関連性スコアラー：

   • 現在の観測に対する残りの過去のステップの関連性をスコアリングするように訓練された、1 億 2500 万パラメータの RoBERTa-base 分類器です。
   • 訓練信号： モデルは反事実的な次の行動変化ラベルに基づいて訓練されます。各過去のステップ $s_i$ と現在の観測 $c_{now}$ に対して、エージェントのバックボーンを $K=8$ 回クエリします（半分は $s_i$ を含み、半分は含まない）。ラベルは、正規化された次の行動が変化する割合です。これにより、ステップの重要度を示すソフトラベル $y_i \in [0, 1]$ が生成されます。
   • 推論： スコアラーは API 呼び出しなしで単一のフォワードパス（ステップあたり約 2ms）を実行します。ステップ $s_i$ を削除することが次の行動を変化させる確率 $p_i$ を出力します。

4. 貪欲な予算充填：

   • 目標文字数予算（例：元の長さの 25%）が与えられた場合、システムは「常時保持フロア」後の残りの空間を、関連性スコア $p_i$ の降順で非フロアステップを貪欲に選択することで埋めます。
   • 削除されたステップは、単一の省略マーカー（例：[... N step(s) elided ...]）に置き換えられます。

3. 主要な貢献

本論文は 3 つの主要な貢献を行います：

1. 行動文法破壊の特定： 著者らは、トークンレベル圧縮器がエージェントで失敗する構造的な失敗モードを正式に診断し、命名しました。これらの手法が、行動構文に不可欠な低自己情報量トークンを削除するため、エージェントのパフォーマンスが崩壊することを示す体系的な証拠（17 のセル）を提供します。
2. AGORA アーキテクチャ： 構造化パーサー、決定論的な「常時保持」フロア、反事実的ラベルに基づいて訓練された学習済み関連性スコアラーを組み合わせた、新規の推論不要なステップレベル圧縮器です。これは、ステップごとの LLM オーバーヘッドをゼロとしながら、適応的な圧縮（1.0〜11.5 倍）を達成します。
3. コンポーネント帰属： 消融実験を通じて、各設計選択の具体的な価値を分離しました：
   • 常時保持フロアは、品質保持のための支配的なレバーです（これを削除するとパフォーマンスが大幅に低下します）。
   • 学習済みスコアラーは、適応的な圧縮範囲の主要な駆動因子であり、固定された保持率を維持しながら、軌跡の複雑さに基づいて圧縮率を変化させることを可能にします。

4. 実験結果

著者らは、9 つのセル（3 つの環境：ALFWorld、ScienceWorld、WebShop；3 つのバックボーン：qwen3.5-flash、gpt-4o-mini、gpt-5-mini）において、10 のベースライン（トークンレベル抽出手法および LLM ベースの抽象化圧縮器を含む）に対して AGORA を評価しました。

• 品質保持： AGORA は、9 つのセルのうち 8 つで非圧縮パフォーマンスの $\geq 75\%$ を保持する唯一の推論不要手法です（例外は gpt-5-mini での ScienceWorld の 73%）。
  • AGORA による平均報酬（$m_r$）：0.387（非圧縮に対して 92% 保持）。
  • 対照的に、トークンレベル手法（Selective Context、LLMLINGUA-2）は $m_r \leq 0.05$ に崩壊しました。
• 圧縮効率： AGORA は、単一の固定構成（$\rho=0.25$）を使用して、1.0〜11.5 倍の適応的エンドツーエンド圧縮範囲を達成し、セルごとの調整なしに特定の軌跡レジームに適応します。
• コスト： AGORA は、ステップごとの追加 LLM トークンコストをゼロにします（推論不要）。LLM ベースの圧縮器（HiAgent、AgentDiet、ACON）は、長軌跡シナリオでは積極的な圧縮によりタスクあたりのコストが低くなる傾向がありますが、自身の圧縮器呼び出しのためにタスクあたり 8〜126k の追加トークンを支払います。AGORA は、ステップごとの LLM オーバーヘッドが許容できない場合、または保持が制約条件となるシナリオで優れています。
• 消融実験： 「常時保持フロア」を削除すると、最大の性能低下（$\Delta m_r \approx -0.088$）が発生しました。スコアラーを削除すると性能はわずかに低下するのみ（$\Delta m_r \approx -0.031$）でしたが、適応的圧縮範囲が失われ、フロアが品質を処理し、スコアラーが圧縮量を処理することを確認しました。

5. 意義と主張

本論文は、AGORA がエージェントに対するプロンプト圧縮のアプローチにおいて必要な転換を表すと主張しています。著者らは、トークンレベル圧縮の「ランクして削除」のパラダイムは、情報密度ではなく行動コマンドの構造的完全性を最適化するため、エージェントに対して構造的に誤って指定されていると論じています。

意義：

• パラダイムシフト： 設計空間をトークンレベルからステップレベルの圧縮へ移行させ、エージェントコマンドの構文完全性を維持します。
• 推論不要の実用性： エージェント向けの高品質な圧縮には、高価なステップごとの LLM 呼び出しは不要であることを実証し、凍結されたブラックボックスバックボーンでの展開を可能にします。
• 堅牢性： 意味的な要約よりも構造的保持（「フロア」）を優先することで、汎用圧縮器で見られる壊滅的な失敗モードを回避します。

著者らは、AGORA が万能のコスト勝者ではないこと（LLM ベースの手法は長軌跡設定の純粋な$/task においてしばしば勝る）と、評価が広い信頼区間（$n=30$）に起因する点推定に依存していることを率直に認めています。しかし、彼らは AGORA が、行動文法を破ることなく多様なエージェント設定で高いパフォーマンスを維持する唯一の実用的な推論不要ソリューションを提供すると主張しています。