技術要約: MANTA (Multi-Agent Network Topology Adaptation)

問題提起

現在の大規模言語モデル（LLM）ベースのマルチエージェントシステムは、タスクの分解と協調を通じて複雑な問題解決能力を向上させている。しかし、既存のフレームワークは通常、通信トポロジー（誰が誰と通信するか、どのように情報をルーティングするか、どこで検証を行うかといった構造）を、固定された設計上の選択肢、あるいはオフラインの最適化対象として扱っている。これらの構造は実行前に決定され、過負荷のブランチ、時期尚早な合意、あるいは検証ステップの欠落といった失敗に直面しても、静的なまま維持される。

本研究が取り組む中心的な問いは、「マルチエージェントシステムは、個々のタスクを解決しながら、自身の通信トポロジーを改善できるか？」というものである。トレーニング、オフライン探索、または実行前最適化に依存する従来のアプローチとは異なり、これにはインスタンス条件付きのプランニング、中間的なコラボレーション・トレースに基づくテストタイムのトポロジー変異、およびモデルの重みを更新することなくトポロジーの経験を転送することが求められる。

手法: MANTA フレームワーク

MANTA (Multi-Agent Network Topology Adaptation) は、通信構造が推論時に自己進化することを可能にするフレームワークである。これは、LLMベースのメタエージェントと決定論的なコードを組み合わせた、入れ子状のオーケストレーション・ループを通じて動作する。

1. システムアーキテクチャ

システムは以下の2つのレイヤーで構成される：

• ターゲット・マルチエージェントシステム: 推論、ツール呼び出し、およびメッセージ交換を通じてタスクを実行する。
• オーケストレーション層: タスク自体を解くのではなく、トポロジーと実行フローを管理する。これは3つのLLMコンポーネントと決定論的ロジックで構成される：
  • トポロジー・プランナー (Topology Planner): タスクと蓄積された経験に基づき、初期のチーム構造（インタラクション・パターン、エージェント数、役割）を設計する。
  • トレース・オーディター (Trace Auditor): 各ターンの後のコラボレーション・トレースを監視し、回答の正誤ではなく、プロセスの異常（例：ツールエラー、時期尚早な合意、検証の欠如）をフラグ立てする。
  • スキル・リフレクター (Skill Reflector): 複数の実行におけるプロセス信号から教訓を蒸留することで、長期的なプレイブックを定期的に書き換える。
  • コントローラーおよび決定論的コード (Controller & Deterministic Code): トポロジーを検証し、メッセージをルーティングし、可視性ポリシーを強制し、限定的な構造修復を実行する。

2. トポロジーの表現と変異

トポロジーは、エージェントの役割（コーディネーター、ワーカー、検証者など）、インタラクション・パターン（スター型、チェーン型、討論型、投票型）、およびコンテキスト・ポリシー（情報の可視性）を定義する、バージョニングされた仕様である。

• 初期プランニング: プランナーはタスクに応じたトポロジーを生成する。
• 実行と監査: エージェントが1ターン実行する。オーディターは、構造化されたアーティファクトをスキャンして「プロセス・フラグ」（例：tool_error_cascade、premature_consensus、duplicate_state_mutation）を検出する。
• 限定的修復: 修復可能なフラグが検出された場合、コントローラーは1回の実行につき1回の限定的な変異を許可する。プランナーは変異（例：過負荷のワーカーをサブグループに拡張する、検証者を追加する、エッジを繋ぎ変える、または実行順序を変更するなど）を提案する。決定論的コードは、適用前に新しい構造を検証する。

3. メモリ・メカニズム

MANTAは、2つのホライゾンを持つプレイブック・システムを利用する：

• 短期プレイブック (Short-term Playbook): 現在の実行内でのトポロジー、監査フラグ、および修復決定を記録し、即時の修復選択に役立てる。
• 長期プレイブック (Long-term Playbook): 実行をまたぐ一般的な原則と教訓を保存する（例：「ツールを用いない推論には、討論よりも投票が好ましい」）。これは、グラウンドトゥルース（正解）のベンチマーク回答には一切アクセスせず、プロセス信号（クリーンなトレース vs フラグ付きのトレース）のみを用いて、毎 $N$ 回の実行ごとにスキル・リフレクターによって更新される。

主な貢献

1. 新しい問題定式化: 本論文は、通信構造は静的な設計上の選択肢ではなく、実行中に適応可能な動的な変数であると主張し、トポロジーレベルの自己改善を定式化した。
2. MANTA手法: タスクに応じたトポロジーを計画し、コラボレーション・プロセスを監査し、失敗が検出された際に標的を絞った構造的変異を適用するフレームワークである。これは、重みの更新なしに、各タスクから学習して将来のトポロジー選択を改善する。
3. 実証的証拠: 5つのベンチマークにおいて、MANTAが静的なマルチエージェント・トポロジー、シングルエージェント手法、および自動ワークフロー設計ベースラインを上回ることを示した。ケーススタディは、過負荷のブランチやチェック漏れといった失敗からの具体的な回復プロセスを示している。

実験結果

MANTAは、情報探索 (BrowseComp)、ツール使用 (StableToolBench)、プランニング (PlanCraft)、ワークフロー実行 (WorkBench)、および数学的推論 (MATH) にわたる5つのベンチマークで評価され、バックボーンとしてGemma 4が使用された。

• パフォーマンス: MANTAは平均スコア 74.0 という最高値を達成し、最強のベースラインである ADAS を 5.8 パーセントポイント 上回った。PlanCraftにおいて最高の結果を出した。
• 効率性: MANTAは、評価されたマルチエージェントシステムの中で最も少ないトークンを使用した。そのメタレベルの操作は、推論予算の約12%を占めるに過ぎなかった。
• アブレーション研究:
  • 初期プランニング: タスク条件付きプランニングを固定トポロジーに置き換えると、最大の性能低下（71.7% から 57.5% へ）が見られ、初期構造選択の重要性が浮き彫りになった。
  • 修復: トポロジー修復を除去すると、性能は 60.8% に低下した。
  • メモリ: 長期プレイブックを除去すると、減少幅は小さいものの一貫した低下が見られ、クロスラン（実行間）の学習が追加的な価値を提供することが示された。
• 変異予算: 変異予算を 0 から 3 に増やすにつれて性能は向上し、最初の変異が最大の利得をもたらした。
• 転移可能性: 長期プレイブックはドメインをまたいで知識を転送することに成功し（例：PlanCraft から WorkBench へ）、プラスの利得を得た。一方で、他の適応型ベースラインから構造を転送した場合は、マイナスまたは中立的な効果となった。

意義と主張

本論文は、**「推論時の自己改善は、コラボレーションのアーキテクチャ自体にも及ぶことができる」**と主張している。

• 適応の異なる階層: MANTAは、出力、プロンプト、推論トレース、またはエージェントの重みの適応とは異なる、トポロジーを独自の自己改善レベル（彼らの階層におけるレベル6）として位置づけている。
• 構造的 vs 量的: 結果は、効果的な適応には、単にエージェントの数を増やすことよりも、通信の配線変更、実行順序の変更、または検証の挿入が重要であることを示唆している。例えば、修復においては、新しいソルバーを追加するのではなく、並列アクションを直列化したり、クリティック（批評家）を挿入したりすることが多く行われた。
• プロセス指向の学習: 本システムは、グラウンドトゥルースのラベルやオフライン探索を必要とせず、プロセス信号のみを用いて、創発する失敗に応じてコラボレーション・プロセスを再編成できることを示している。

著者らは、トポロジーを実行時の自己改善の対象として扱うことで、エージェントシステムがコラボレーション・プロセスを動的に適応させることができ、より堅牢で柔軟なマルチエージェントシステムへの道を開くと結論付けている。