技術要約：知識に基づいたツール使用ワークフローにおけるAIエージェントのための宣言的スキル

問題提起

本論文は、非構造化知識ベース（KB）に依存する、現実的かつ複雑なカスタマーサービス・ワークフローにおけるAIエージェントのオーケストレーションについて取り組んでいる。具体的には、著者らは金融顧客サービスというドメインである「$\tau$-Knowledge」ベンチマークに焦点を当てている。このドメインにおいて、エージェントは「対話的なインタラクション」、「手続き的なタスク実行（制約の順序付け、検証）」、「検索されたドキュメントに基づく推論」という3つの明確なコンピテンシーを実行する必要がある。

核心となる課題は、エージェントが（例：「銀行口座の解約」には特定のランダムなサフィックスと前提条件が必要であることを突き止めるなど）実行前に、大規模で非構造化されたKB内からツールの機能と手続き的ルールを発見しなければならない点にある。環境は**分散部分観測マルコフ決定過程（Dec-POMDP）**としてモデル化されており、エージェントはデータベースの状態に対する不完全な視点しか持たず、目標状態を達成するためにツールの出力とユーザーメッセージに依存しなければならない。著者らは、現在のエージェントが以下の点で苦戦していることを特定している：

1. マルチホップ推論を必要とする複雑な相互依存関係。
2. 暗黙的なサブタスクの順序付け（例：データの変更前に本人確認を行うこと）の遵守失敗。
3. ツールによる検証を行わずに、ユーザーの主張を過度に信頼すること。
4. 探索の非効率性と不当な仮定。

メソドロジー

本研究では、2つのリトリーバル（検索）レジーム（Golden retrieval および Embedding-based retrieval）の下で、5つの大規模言語モデル（LLM）を用いてインスタンス化された3つの異なるポリシー・クラス（オーケストレーション・パラダイム）を比較している。

1. ベースライン・エージェント ($\pi_B$)

静的なシステムプロンプトと会話履歴のみを条件とする、標準的な拡張なしのLLMエージェント。明示的な制御フローや手続き的な事前知識を持たない。

2. 宣言的エージェント ($\pi_D$)

システムプロンプトに自然言語によるスキルファイルを付加することで、ベースラインを拡張したエージェント。これらのファイルは、以下の内容を記述する手続き的事前知識（procedural prior）として機能する：

• 銀行業務の手続き: 前提条件、ツールの発見要件、および順序制約（例：「限度額の引き上げには未解決の紛争がないこと」）。
• 顧客インタラクション: 記述的な4ステップの会話構造（挨拶、トリアージ、検証、アクション）。
• 知識の発見: KBを検索するための戦略。ツール発見が状態変化を伴うツールのためのハードな前提条件であることを強調する。
  LLMは実行時にこれらのファイルを読み込み、明示的なステートマシンを使用することなく、動的にワークフロー、ツール、および検証戦略を決定する。

3. 命令的エージェント ($\pi_I$)

決定論的な有限オートマトン（外部化された制御）を実装したエージェント。挨拶 $\to$ トリアージ $\to$ 検証 $\to$ プランニング $\to$ 実行 $\to$ 確認 という厳格なフェーズグラフを強制する。

• 制御フロー: フェーズ遷移はコードによって計算され、LLMによって計算されるのではない。
• 制約: 各ターンにおけるアクション空間は制限される（$A_{\phi_t} \subset A$）。例えば、状態変化を伴うツールは、成功した「検証」フラグによってゲート制御された「実行」フェーズでのみ許可される。
• メカニズム: カーンのアルゴリズムを用いたタスクキュー（トポロジカルソート）、決定論的な「エスカレーション」フェーズへのエスカレーションを含むツールごとのリトライ・ポリシー、および厳格なレスポンス型強制を含む。

理論的枠組み

著者らはエージェントをDec-POMDPの枠組み内で定式化し、4つの理論的命題を提案している：

• 命題1: スキルファイルは、手続き的コンピテンシーのギャップを持つモデルに対して、情報的優位性（アクションの条件付きエントロピーの減少）を提供する。
• 命題2: 命令的な制限はポリシー・クラスを縮小させる。成功するかどうかは、コンプライアンスによる利得がモデル容量の損失を相殺できるかどうかに依存する。
• 命題3: 命令的エージェントは、リトライ制限によって軌道の長さを制限することで、コストを削減すべきである。
• 命題4: リトリーバルのノイズは観測チャネルを劣化させる。チャネルがノイズに満ちている場合、スキルファイルの利点は崩壊する。

主な結果

1. オーケストレーションがパフォーマンスに与える影響

• 宣言的優位性: Golden Retrieval（高品質な根拠）の下では、DeclarativeAgentは5つのモデルのうち4つでベースラインを一貫して上回り、その利得はモデルの手続き的コンピテンシーのギャップに応じてスケールした。これはPass1（タスク成功率）およびWrite-Argument Accuracyを向上させた。
• 命令的アンダーパフォーマンス: ImperativeAgentは、すべてのモデルおよびリトリーバル設定においてベースラインを下回った。アクション空間の制限により、コンプライアンスのメリットを得る前にモデルの能力が損なわれた。
• ボトルネックとしてのリトリーバル: Embedding Retrieval（ノイズあり）の下では、すべてのエージェントのパフォーマンスが急激に低下した。DeclarativeAgentの優位性は弱いモデルにおいて崩壊しており、スキルファイルが根本的に誤った、あるいは欠落した根拠を補完できないことが確認された。

2. コンプライアンスと効率性

決定論的なゲートが安全性を向上させるという仮説に反して：

• 不正な書き込み: ImperativeAgentは、ベースラインと比較して、不正な書き込み（検証前の書き込み）の発生率を減少させなかった。いくつかのケース（embedding retrieval）では、検証前の書き込み率がむしろ高かった。
• 脆弱性: ImperativeAgentは、ベースラインやDeclarativeと比較して、著しく高いオーバーリトライ率（4〜7倍高い）と長い軌道長を示した。これは、コードベースの厳格なフェーズ遷移が脆弱であることを示唆している。つまり、LLMがフェーズを誤分類すると、ゲートをバイパスしたり無限ループに陥ったりする可能性があるが、適応的なLLMベースのエージェントはエラーをより柔軟に処理できる。
• コスト: ImperativeAgentは、軌道の長さの増加とリトライループにより、予測されたコスト削減を実現できなかった。

意義と主張

本論文は、以下の貢献と洞察を主張している：

1. 効果的な事前知識としての宣言的スキル: 自然言語によるスキルファイルは、特に基礎となるモデルに手続き的コンピテンシーのギャップがある場合、ツールを使用するエージェントにとって効果的なオーケストレーション・パラダイムである。これらは、ステートマシンのような脆弱性を伴うことなく、精度を向上させ、オーケストレーション・エラーを減少させる。
2. 命令的オーケストレーションの限界: 本研究は、決定論的なステートマシンが複雑で非構造化された環境においてコンプライアンスを保証するという仮定を実証的に否定している。コードベースの制御の硬直性は、フェーズの誤分類やエラーからの回復失敗を招き、この文脈においては適応的なエージェントに対して安全性上の優位性を提供しない。
3. リトリーバルの支配性: リトリーバルの質が、AIエージェントにおける支配的なボトルネックである。オーケストレーションのパラガン（宣言的または命令的）に関わらず、観測チャネル（検索された根拠）がノイズに満ちている場合、パフォーマンスを回復させることはできない。
4. エンジニアリングへの示唆: 規制のあるドメインにおいて、コンプライアンスの保証のために決定論的なゲートに依存することは、誤解を招く可能性がある。スキルを強化したプロンプトは、リトリーバルの質が高い限り、エージェントの挙動を向上させるための保守性が高く低コストな手法となる。

著者らは、宣言的なオーケストレーションが測定可能な精度向上を提供する一方で、エージェント・システムの商業的ポテンシャルを解き放つためには、オーケストレーションと並んでリトリーバルの進歩を優先事項としなければならないと結論づけている。