技術的概要：ステートレス実行環境における複雑なマルチターンツール呼び出し相互作用のシミュレーション

問題提起

合成データは、複雑なマルチターンのツール呼び出しを処理するように、小型で費用対効果の高い大規模言語モデル（LLM）を微調整するための重要なリソースである。しかし、そのようなデータを生成するための既存のフレームワークは、頻繁にステートフルな実行環境の利用を前提としている。これらの環境では、相互作用の有効性は、実行状態が事前に指定された目的と一致するかどうかによって決定される。

この前提は、多くの現実世界のシナリオ、特にデータセキュリティがライブバックエンドへの特権アクセスを禁止する企業環境や、統一された状態なしに複数のソースからツール仕様を合成する場合において、機能しない。さらに、多くのトップクラスのオープン言語モデルは、シミュレーションのみが可能な合成された LLM 生成ツール上で訓練されている。現在の手法は、実在のステートフルなバックエンドへのアクセスなしに、暗黙的なツール呼び出し（ユーザーのリクエストがすべての必要なツールを明示的に指定していない場合）を伴う意味的に複雑なマルチターン相互作用を生成することに苦労している。

手法：DiGiT-TC

著者らは、ステートレスな環境で動作しながら、ステートフルな探索の複雑さを模倣する合成のマルチターンツール呼び出し会話の生成を設計したフレームワーク、DiGiT-TC（ツール呼び出しのためのデータ生成と変換）を紹介する。中核的な革新は、生成プロセスにおける「転換」である。ユーザーリクエストを生成し、その後ツール呼び出しを導き出すのではなく、DiGiT-TC はまずツール呼び出しのシーケンスを生成し、その後に対応するユーザーリクエストを構築する。

このフレームワークは、以下の段階を通じて動作する：

1. 初期化：会話の初期化は、空のメッセージリスト、サンプリングされたツールセット、およびユーザーペルソナで行われる。ペルソナは、サンプリングされたツールに関連する具体的な詳細（例：所在地、職業）で拡張される。
2. プラン蒸留：
   • LLM がペルソナとツールに基づいて、ツール呼び出しの生シーケンス（$S$）を生成する。これらの呼び出しには、ツール間の参照（例：Pythonic ドット記法を用いて $1.output のように呼び出し間でデータを渡す）が含まれる。
   • シーケンスは有向非巡回グラフ（DAG）として扱われる。フレームワークは、最大の連結成分を選択し、冗長または切断されたツール呼び出しをフィルタリングすることで、これをより簡潔な部分シーケンスに蒸留する。
3. リクエスト生成（暗黙的なツール呼び出しの選択）：
   • 蒸留されたシーケンス $S$ は、**明示的（$E$）と暗黙的（$I$）**の 2 つのセットに分割される。
   • アルゴリズムが暗黙的セットの目標サイズをランダムに選択する。他の要素の依存関係ではない要素を $S$ から反復的に削除し、残る暗黙的セットには、明示的セットに必要だがユーザーによって直接言及されていないツール呼び出しが含まれるようにする。
   • LLM が、シーケンス $E$ を明示的にターゲットとしつつ、$I$ のツールを直接言及しないユーザーリクエスト（$r$）を生成する。
   • 検証：ユーザーリクエストがツールシーケンスの単なる自明な書き写しでないことを保証するため、フレームワークはツール呼び出し内の引数のランクと、ユーザーリクエストにおけるそれらの出現順序との間のケンダルの$\tau_b$相関係数を計算する。相関が高すぎる場合（線形的で明示的なマッピングを示す）、その例はフィルタリングされる。
4. 逆翻訳：
   • ノイズを軽減し、生成されたユーザーリクエストが意図されたツールシーケンスに実際に導くことを保証するため、フレームワークは逆翻訳ステップを実行する。
   • LLM に対して、生成されたユーザーリクエスト（$r$）と利用可能なツールのみに基づいて、新しいツールシーケンス（$S'$）を予測するようプロンプトする。
   • システムは、元のシーケンス $S$ の「リーフ（最終出力）」が $S'$ に表現されていることを検証する。条件 leaves(S) \ leaves(S') = ∅ が満たされない場合、その例は破棄される。
5. 終了と拡張：
   • 実行と要約：ツール呼び出しはシミュレート（LLM 経由で実行）され、変数の値を置換し、結果の要約を生成する。
   • エラー拡張：フレームワークは、2 種類のエラーをシミュレートすることで複雑さを導入する：
     • 人間のエラー：明確化を必要とする解決不可能または不完全なユーザーリクエスト。
     • ツール実行エラー：誤ったツール呼び出しのシミュレーションに続き、モデルを正しい解決策へと導くヒント（LLM によって生成）が付随する。

主要な貢献

1. 暗黙的呼び出しのステートレス生成：DiGiT-TC は、ステートフルな実行バックエンドを必要とせずに、暗黙的なツール呼び出しを伴う複雑なマルチターン相互作用を体系的に生成する最初のフレームワークである。
2. 選択的生成戦略：生成順序を逆転させる（ツール呼び出し $\to$ ユーザーリクエスト）ことで、どの呼び出しが明示的でどの呼び出しが暗黙的であるかを微細に制御できるようになる。
3. 逆翻訳によるノイズ軽減：逆翻訳ステップの導入により、生成されたユーザーリクエストが堅牢であり、意図されたツールシーケンスに忠実にマッピングされることを保証し、幻覚や不一致をフィルタリングする。
4. オープンソースエコシステム：著者らは、データ生成フレームワーク、プロンプト、および結果として得られるデータセット（5,000 データポイント）を完全にオープンソース化している。これらはすべて、ライセンスに優しいオープンウェイトの教師モデルであるGPT-OSS-120Bを用いて生成された。

実験結果

著者らは、DiGiT-TC を 3 つの標準ベンチマーク、BFCL（Berkeley Function Calling Leaderboard）、$\tau$-bench、およびACEBenchで評価した。

• 性能向上：DiGiT-TC データを用いてベースモデル（例：Granite-4.1-3B、Llama3.1-8B-Inst）を微調整した結果、ベースモデルに対して有意な性能向上（6 から 25 パーセントポイントの範囲）が得られた。
• ベンチマーク比較：
  • BFCL マルチターンカテゴリにおいて、DiGiT-TC（Llama3.1-8B-Inst 使用）は**35.5%**の精度を達成し、ToolWeave（25.0%）や Magnet（26.5%）などの他のオープンデータアプローチを上回り、フロンティアデータで訓練されたモデル（例：40.3% の ToolACE-MT）の性能に迫った。
  • この手法は$\tau$-benchおよびACEBench全体で強い汎用性を示し、オープンソースデータのみで訓練された従来の手法を一貫して上回った。
• アブレーション研究：
  • 暗黙的なツール呼び出しを除去すると性能が 4% 低下し、複雑な推論におけるそれらの必要性が確認された。
  • 逆翻訳を除去すると性能が 3% 低下し、ノイズ軽減におけるその役割が浮き彫りになった。
  • より小さな教師モデル（GPT-OSS-20B）を使用すると約 2% 低下したが、これはより大きなモデルが役立つ一方で、この手法は小型でアクセスしやすいモデルでも有効であることを示唆している。

意義と主張

本論文は、DiGiT-TC が、エージェント型 AI の開発における重要なギャップを埋めることを主張している。それは、実在のステートフルなバックエンドへのアクセスに伴うプライバシーリスクやコストなしに、複雑なマルチターンのツール呼び出しデータを用いて小型モデルを訓練する能力である。

• プライバシーとスケーラビリティ：ツール仕様とオープンウェイトモデルのみに依存することで、このアプローチは企業バックエンドとのインターフェースにおけるデータセキュリティリスクを回避する。
• 費用対効果：著者らは、GPT-OSS-120B を使用することは、GPT-4o などのフロンティアモデルを使用するよりも著しく安価であること（例あたり約 0.015 ドル対 GPT-4 の著しく高いコスト）を指摘し、高品質な合成データ生成をより広範な実践者にとってアクセス可能にしている。
• オープンモデルにおける最先端：この研究は、オープンソースかつオープンウェイトの教師モデルによって生成されたデータのみで訓練されたモデルにおける、マルチターンツール呼び出し性能の新たな最先端を設定した。

著者らは、システムの完全な状態のシミュレーションが利用可能なタスクにおいては、その状態を活用する手法が依然として優れている可能性を謙虚に認めている。しかし、DiGiT-TC は、そのような環境が存在しない場合でも、高品質な訓練データを生成するための堅牢で再現性のあるプロセスを提供する。