技術要約：効率的なコード・ローカライゼーションのための適応的並列実行の学習

問題提起

コード・ローカライゼーション（ソフトウェアの問題を解決するために必要な特定のコード実体（ファイル、関数、スニペット）を特定すること）は、自動化されたソフトウェア開発パイプラインにおける重大なボトルネックとなっている。近年の研究では、最先端のエージェントが計算リソースの50%以上をこのタスクに費やしていることが示されている。現在のアプローチは通常、**逐次的なツール実行（sequential tool execution）**に依存しており、エージェントはクエリを反復的に洗練させ、結果をターンごとに確認するというプロセスを踏む。

この逐次的なパラダイムは、厳格な計算予算（限定されたインタラクション・ターン数）の下で、根本的なトレードオフに直面する：

1. 情報の飢餓（Information Starvation）: エージェントが十分な文脈的証拠を集める前にインタラクションの割り当てを使い果たしてしまい、結果として精度が急激に低下する。
2. 非効率な並列化（Inefficient Parallelism）: 並列ツール実行（1回のターン内で複数のツールを呼び出すこと）は、情報密度を高めるための解決策となるが、ナイーブな実装では強制的な並列の幅（breadth）が固定されることが多い。これは高い冗長性を招く。本論文では、既存のシステムにおいて、強制された並列ツール呼び出しの**34.9%**が冗長であり、増分的な情報の利得を提供せず、リソースを浪費しノイズを導入していると指摘している。

核心となる課題は、包括的かつ非冗長な並列化を実現することである。すなわち、既知の、あるいは無関係なコードの探索を排除しつつ、情報のカバレッジを最大化することである。

手法：FuseSearch

著者らは、並列コード・ローカライゼーションを、結合された品質–効率最適化タスクとして再定式化した、ミニマリストなコード・ローカライゼーション・エージェントであるFuseSearchを提案する。

1. ミニマリストなツールセット

FuseSearchは、補助的なインフラストラクチャ（例：コードグラフ、AST、または言語固有のパーサー）を使用せずに動作する。以下の3つの言語に依存しない、読み取り専用のツールに依存している：

• grep: ファイル内容における正規表現ベースのパターン検索。
• glob: ファイルパスのパターンマッチング。
• read_file: オプションの行範囲指定を伴うファイル内容の読み取り。

2. 二重目的の定式化

本フレームワークは、2つの相補的な指標を最適化する：

• ローカライゼーション品質 ($F1$): ファイルレベルおよび関数レベルの両方における適合率（precision）、再現率（recall）、およびF1スコアによって測定される。
• ツール効率 ($e$): 新規な情報の利得と、総呼び出し回数の比として定義される。
  • 各ツール呼び出し $i$ について、情報利得 $g_i$ は、返された実体をこれまでに発見された実体の履歴 ($H$) と比較することによって計算される。
  • $|E_i| > 0$ の場合、$g_i = \frac{|E_i \setminus H|}{|E_i|}$、それ以外は $0$ とする。
  • 効率 $e$ は、ある軌跡（trajectory）における $k$ 個のツール呼び出しの平均情報利得である：$e = \frac{1}{k} \sum g_i$。

3. 結合最適化トレーニング・パイプライン

FuseSearchは、適応的な並列戦略を学習するために、2段階のトレーニング・アプローチを採用している：

• ステージ1：二重指標フィルタリングを用いた教師あり微調整（SFT）

  • 有能なティーチャーモデル（Kimi-K2-Instruct）がトレーニング用の軌跡を合成する。
  • 高品質な初期化を保証するため、軌跡は $F1 \geq \rho_F$ かつ $e \geq \rho_e$ を満たすもののみを保持するようにフィルタリングされる。
  • これにより、信頼性の高い並列実行（1ターンあたり2〜8個のツール）のベースラインを確立するための、約6Kの高精度な軌跡データセットが生成され、ベースモデル（Qwen3-4BおよびQwen3-30B）の微調整に使用される。

• ステージ2：結合報酬を用いた強化学習（RL）

  • Group Relative Policy Optimization (GRPO) を使用して、モデルを $F1$ と $e$ の両方を最大化するようにさらに最適化する。
  • 報酬関数は以下のように設計される：
    $$R(\tau) = \alpha \cdot F1(\tau) + \gamma \cdot (F1(\tau) \cdot e(\tau))$$
  • 設計の根拠: 線形項 ($\alpha \cdot F1$) は、正しいローカライゼーションに対するベースラインの報酬を保証する。乗算項 ($\gamma \cdot F1 \cdot e$) は「ソフトゲート」として機能し、高い品質が達成された場合にのみ報酬を増幅させる。これにより、精度を犠牲にして効率を最適化したり（例：無関係だが新しいファイルを読み込む）、逆に大量の冗長性を許容して精度を最適化したりすることを防ぐ。

4. 適応的並列性

固定された幅を持つアプローチとは異なり、FuseSearchはタスクの文脈に基づいて検索の幅を動的に調節することを学習する。トレーニングプロセスは、探索フェーズ（コンテキストを収集するための広範な並列化）から精緻化フェーズ（焦点を絞ったターゲット型の呼び出し）へと進化し、探索の幅と精度のバランスを効果的にとる。

主な貢献

1. ツール効率指標: コード検索における情報の新規性を定量化するための「ツール効率」の導入。これは、検索の有効性と計算効率を共同で最適化する、効率性を考慮したトレーニングフレームワーク（SFT + RL）に統合されている。
2. FuseSearch エージェント: グラフナビゲーションやASTパースに頼らず、わずか3つの読み取り専用ツールのみを使用するミニマリストなローカライゼーション・エージェントであり、複雑なシステムと同等またはそれ以上の性能を発揮する。
3. 効率駆動による品質向上: 効率を考慮したトレーニングが、ノイズが多く冗長な信号を排除することで、自然にローカライゼーションの品質を向上させることを実証した。これにより、高パフォーマンスでコスト効率の高いエージェントが可能になる。

実験結果

SWE-bench Verified（386例）で評価した結果、FuseSearch-4B（学習済み）は、逐次的なベースラインおよび他のエージェント手法と比較して優れた性能を示した：

• ローカライゼーション品質:
  • ファイルレベルで 84.7%、関数レベルで 56.4% の F1 スコアを達成。
  • 最良の逐次的ベースライン（RepoSearcher）を大幅に上回る（例：ファイルF1で +46.5%）。
  • オープンソースモデル（Qwen3-4B）を使用しながら、プロプライエタリなモデル（Claude Haiku 4.5）と同等の性能を実現。
• 効率性の向上:
  • 逐次実行と比較して、ウォールクロックタイムで 93.6% の高速化。
  • インタラクション・ターン数を 67.7% 削減。
  • トークン消費量を 68.9% 削減。
• ダウンストリームへの影響: メインエージェント（Kimi-K2）のプリサーチ・モジュールとして使用した場合、FuseSearchはソリューションのパス率を損なうことなく、インタラクション・ターン数を 23.1%、エンドツーエンドのタスク時間を 28.5% 削減した。

意義と主張

本論文は、効率を考慮したトレーニングが、プロダクショングレードの自動ソフトウェア開発に向けた重要なステップであることを主張している。並列実行を単なるレイテンシ削減の戦術としてではなく、結合最適化問題として再定式化することにより、FuseSearchは以下を実証している：

• 冗長な探索は、コストと精度の低下の両方の主要な原因である。
• 「新規な」情報と「冗長な」情報を区別することを学習することで、コンパクトなモデル（4Bパラメータ）が、より大規模で逐次的、あるいは重厚なインフラを備えたエージェントを凌駕できる。
• 広範な探索から焦点の絞られた精緻化へと進化する適応的並列性が、厳格な計算予算下での情報の飢餓を克服するための鍵である。

著者らは、彼らのアプローチが、単に正確なだけでなく、計算量的に実用的なエージェントの構築を可能にすると結論付けている。これは、時間制約のある環境における自動ローカライゼーションの展開を制限している現在の「コストと精度のトレードオフ」に対処するものである。