What Should Agents Say? Action-state Communication for Efficient Multi-Agent Systems

技術要約：効率的なマルチエージェントシステムのための PACT

問題提起
大規模言語モデル（LLM）に基づいたマルチエージェントシステム（MAS）は、通常、エージェント間の通信に制約のない自然言語に依存しています。エージェントは役割、パイプライン、またはターン・スケジュールを通じて協調しますが、彼らが交換するコンテンツは自由形式であり、完全な推論プロセス、冗長な説明、および重複した再記述を含んでいます。このアプローチは重大な非効率性を生み出します。エージェントが長い内部推論のトレースを転送するにつれ、後続のエージェントは、共有された対話履歴の一部としてこのコンテンツを繰り返し処理しなければならなくなります。この「コンテキストの累積（context compounding）」は、トークン使用量を急速に膨張させ、共有コンテキストウィンドウを消費し、特に現代の推論モデルを用いたマルチターン設定において、システムのパフォーマンスと推論コストの両方を低下させます。

現在のMAS研究は、主にオーケストレーション（役割、ターン交代、ツールの割り当て）に焦点を当ててきましたが、エージェント間のメッセージ内容は二次的で制約のない変数として扱ってきました。本論文は、メッセージのコンテンツこそが、パフォーマンスとコストの両方を直接形作る中心的な設計レバーであると主張しています。

手法：診断分析と PACT
著者らはまず、2つの異なるMASトポロジー—対称的な証拠分割型相互作用（Split-Evidence Interaction）（設定A）およびシーケンシャル・パイプライン（設定 B）（設定B）—を用いて、8Bから32Bのパラメータを持つモデルを用いて診断分析を行いました。彼らは5つの一般的な通信戦略を評価しました：

1. フルコンテンツ（Full Content）: 推論トレースを含む、自由形式の出力全体を転送する。
2. 簡潔な生成（Concise Generation）: ネイティブな非思考モードを使用して、より短い応答を生成する。
3. 結論のみ（Conclusion Only）: 最終的な回答や結論のみを渡す。
4. 簡潔な要約（Brief Summary）: 明示的に短い自由形式の要約を求める。
5. アーティファクトのみ（Artifact Only）: 役割固有のアーティファクト（例：計画や批判）のみを渡す。

分析からの知見：

• 単一の戦略がすべてのトポロジーにおいて普遍的に最適であるということはありません。
• フルコンテンツは一貫して高コストかつ冗長です。
• 簡潔な生成および簡潔な要約は不安定であり、後続のエージェントが必要とするタスク関連の情報が欠落することがよくあります。
• 結論のみは、役割の順序によってコンテキストが供給されるパイプラインでは機能しますが、証拠が不足している相互作用においては失敗します。
• アーティファクトのみは有用なコンテンツを捉えますが、意図やグラウンディング（根拠付け）を伝えるための必要なプロトコルを欠いており、その結果、相互作用のターン数が増加することがあります。

PACT プロトコル
効果的なメッセージは、プライベートな推論ではなく、**アクションを中心とした情報（action-centered information）**を保持しなければならないという知見に基づき、著者らは PACT（Protocolized Action-state Communication and Transmission） を提案します。

• コアメカニズム: PACTは、エージェント間の通信を「公開された状態更新（public state-update）」の問題として扱います。エージェントの生の出力（$y_t$）が共有履歴に追加される前に、送信側関数（$\Pi_{PACT}$）によって、コンパクトで構造化された記録へと投影されます。
• メッセージ構造: 公開メッセージは以下の3つのフィールドで構成されます：
  1. ACTION（アクション）: 送信者が何を行ったか、または次のエージェントが何をすべきかを明示する（意図を明確にする）。
  2. STATE（ステート）: アクションの根拠となる証拠、観察、または環境からのフィードバックを記録する（コンテキストを提供する）。
  3. RESULT（リザルト）: 実行可能な出力（例：洗練された解決策、検索された事実、またはツールの結果）を含む。
• プライバシー境界: PACTは、プライベートな計算と公開された通信を厳格に分離します。エージェントは、自身の完全な内部推論、自己チェック、およびプランニング能力を保持します。共有されるのは、結果としての「アクション・ステート・レコード」のみです。これにより、中間的な熟考がコンテキストウィンドウ内で累積することを防ぎます。
• ハーネス非依存（Harness-Agnostic）: PACTはMASの設計選択（役割、スケジュール）とは直交しており、既存のシステムにおいて軽量なプロキシ・フックとして実装可能です。

主な貢献

1. 体系的な分析: 固定された通信ポリシーが普遍的に最適ではないことを示し、エージェント間のメッセージ内容が、未探索ながらも重要な設計次元であることを特定しました。
2. PACTプロトコル: プライベートな計算と公開された通信の境界を定義し、共有履歴をコンパクトなアクション・ステート・レコードに限定する、トレーニング不要でハーネスに依存しないプロトコルを導入しました。
3. 実証的検証: 制御されたMAS設定および実際のコーディング・ハーネスにおいて、PACTがパフォーマンスとコストの境界（performance–cost frontier）を改善することを示しました。

実験結果

• 制御されたMAS設定:
  • 証拠分割型（設定A）: PACTは、非制約的な通信と比較して、ベースラインおよびモデルスケール全体で平均 38.7% のトークン使用量を削減しながら、同等または優れたF1スコアを達成しました。
  • シーケンシャル・パイプライン（設定 B）: PACTは、大幅に少ないトークンを使用しながら、同等またはより強力な精度を達成しました。例えば、Qwen3-32Bモデルにおいて、PACTはMulti-Agent Debateベースラインが必要とするトークンのわずか約19〜23%のみを使用しながら、精度を維持または向上させました。
  • アブレーション（切除実験）: 3つのフィールド（Action, State, Result）のいずれかを削除すると、パフォーマンスが低下し、トークン使用量が増加しました。これは、完全なアクション・ステートの受け渡しが不可欠であることを裏付けています。
• 実世界のコーディング・ハーネス:
  • OpenHands: PACTは、SWE-bench Verifiedの解決率を19.40%から23.00%に向上させ（+18件の解決）、解決あたりのトークン数を 10.3% 削減しました。
  • SWE-agent: PACTは、入力トークンを 50.4% （314.6Mから156.0Mへ）削減し、解決あたりのトークン数を 47% 削減しましたが、解決率への影響はごく僅かでした（25.6%から24.2%）。

意義と主張
本論文は、エージェント間のメッセージの内容を規律付けることが、冗長なコンテキストの増大を抑制するための効果的なメカニズムであることを主張しています。PACTは、エージェントが効果的に協調するために、必ずしも完全な推論トレースを共有する必要はなく、代わりに構造化され、根拠付けられたアクション・ステート・レコードを共有することで十分であることを示しています。

著者らは、PACTがトレーニング不要でハーネスに依存しないことを強調しており、既存のエージェント・アプリケーションに対する実用的な推論時の介入であることを示しています。これらの結果は、MASの「パフォーマンス–コストの境界」を改善できるのは、単にモデルをスケールさせたりオーケストレーションを変更したりすることだけでなく、共有される通信チャネルにどのような情報が入るかを厳密に定義することによっても可能であることを示唆しています。本論文は、エージェント間の通信を制約のない自然言語のままにしておくことは非効率的であり、スケーラブルでコスト効率の高いマルチエージェントシステムには、PACTのような構造化されたプロトコルが必要であると結論付けています。