技術要約：Arbor – 自律型エージェントのための認知レイヤーとしてのツリー探索

問題提起

大規模言語モデル（LLM）ベースのコード最適化における最近の進展は、自律型エージェントが孤立した計算ターゲット（例：単一のカーネルや特定のオペレータ）に対して高品質な解を発見できることを示している。しかし、プロダクション・ソフトウェアのパフォーマンスは、複数のレイヤー（アプリケーション、フレームワーク、コンパイラ、カーネル、ハードウェア）の複雑な相互作用から生じる。一つのレイヤーを最適化すると、別のレイヤーにおけるボトルネックやデグレ（性能退行）を露呈させることがあり、これは介入によって以前の進捗が無効化される可能性がある状態を持つ広大なアクション空間を生み出す。

既存のアプローチには、主に3つの制限がある：

1. 孤立したスコープ： コンパイラのオートチューナーやマルチエージェント・フレームワークは、通常、単一のレイヤーまたは単一のターゲット内で動作するため、クロスレイヤーの依存関係に対処できない。
2. 状態を持つメモリの欠如： 現在のシステムは、測定結果を単なる停止信号として扱い、進化する共有ワーキングメモリを保持していない。つまり、失敗を診断データとしてではなく、単なる失敗として扱っている。
3. 連鎖的な失敗への対処不能： 最適化によってシステムクラッシュやデグレが発生した場合、既存のシステムには、その根本原因を診断し、制約を探索プロセスに伝播させ、その後の探索を再形成するメカニズムが欠けている。

核心となる課題は、候補生成から候補選択へとシフトしている。すなわち、各介入がボトルネックの分布を塗り替えてしまう動的なランドスケープにおいて、変化を検出し、レイヤーを横断して失敗を診断し、探索の最前線を自律的に拡大できるシステムが必要とされている。

手法：Arbor フレームワーク

Arborは、フルスタックのパフォーマンス最適化を、動的に拡大するアクション空間に対するヒューリスティック・スコアリングによるツリー探索として定式化する。これは、エージェント間で共有されるワーキングメモリとして機能する明示的な探索ツリーを維持する認知レイヤーを導入している。

1. 探索手順と状態管理

• ツリー構造： 最適化の状態は、プロファイルされたベースラインを根とするツリー $T = (V, E)$ である。各ノードは、アクションとその結果（保持、リバート、またはクラッシュ）を表す。ルートからノードへのパスは、介入の累積的なシーケンスを定義する。
• 動的拡大： ツリーは静的ではない。成功したアクションの後、システムは再プロファイリングを行い、以前は見えていなかったボトルネックを明らかにし、初期化時には存在しなかった新しいブランチを生成する。
• 探索ループ： オーケストレーターは、以下の深さ優先ループを実行する：
  1. 現在の状態をプロファイリングし、ボトルネックとGPUタイムシェアを特定する。
  2. ヒューリスティック関数を用いて候補アクションをスコアリングする。
  3. スコアリングされた最高のアクションをドメイン・スペシャリストに派遣する。
  4. 正確性の検証とエンドツーエンドのベンチマークを通じて結果をゲートする。
  5. ツリーを更新する：保持されたアクションは新しいベースラインとなり、リバートされたアクションは診断用アノテーションを記録し、クラッシュしたアクションは根本原因分析（RCA）をトリガーする。
  6. ボトルネックの分布が変化することに応じて、残りの候補を再スコアリングする。

2. ヒューリスティック・スコアリング

候補は、期待される利得とコストおよびリスクのバランスを取りながら、探索ボーナスを含めてスコアリングされる：
$$h(a) = \frac{g(a)}{c(a) \cdot (1 - r_{acc}) \cdot (1 - r_{crash}) \cdot m_{gap}} + C_s \frac{\ln N}{1 + n_{cat}}$$

• $g(a)$： ターゲットカーネルのGPUタイムシェアと、カテゴリ固有のスピードアップ・プライア（永続的な知識ベースから導出）に基づき推定された期待利得。
• $c(a)$： 推定されるウォールクロック・コスト（実装、再起動、ベンチマーク）。
• $r_{acc}, r_{crash}$： キャンペーンの進行に伴って洗練される、正確性とクラッシュの経験的な失敗率。
• $m_{gap}$： 残りのスループット目標とのギャップに応じてスケーリングする緊急性マルチプライヤー。
• UCB項： サンプリングが不十分なアクションカテゴリの探索を促進する。

3. チェック・アンド・バランスを備えたマルチエージェント・アーキテクチャ

Arborは、効果的なエンジニアリング組織を模倣するように、能力をハードスキル（ドメイン専門知識）とソフトスキル（調整プロトコル）に分解してエージェントを構成する。

• オーケストレーター（「テックリード」）：

  • プロファイリング、スコアリング、および委譲を行うことで、最適化ループを駆動する。
  • ハードウェアのコンテキスト、知識ベースのエントリ、および失敗の履歴を用いてプロンプトを構成する。
  • コード自体を実装するのではなく、「何を試すべきか」および「誰が実装するか」を決定する。
  • 特定のタスクのために、実行時にドメイン・スペシャリストを動的に構築する。

• クリティック（「品質保証」）：

  • 安定性と測定の整合性を守る。
  • クラッシュに対する**根本原因分析（RCA）**を行い、実装エラーと非生産的な方向性の区別を行う。
  • ベンチマークのアノマリーを検出するためのガードレールを適用する。
  • **イントロスペクション（内省）**を行い、リバートされたアイデアが異なる制約下で価値を保持しているかを評価する。
  • 長期的なシステムヘルスを監視し、生産性のない領域への再訪問を防ぐための制約を公開する。

• ドメイン・スペシャリスト：

  • タスクごとに動的に構築される。
  • レイヤーを横断して非同期に動作し、マージ可能なパッチを返す前に、ローカルな検証を伴う反復的な洗練を行う。
  • クリティックが公開した制約を遵守する。

• 永続的知識ベース：

  • セッションを超えて戦略と失敗モードを蓄積する。
  • 新しいモデルやハードウェアへのウォームスタート転送を可能にし、スコアリングのプライアを情報提供し、実行ごとの分散を低減させる。

主な貢献

1. 状態を持つツリー探索の定式化： クロスレイヤーの最適化を、ツリーが共有ワーキングメモリとして機能するツリー探索として定式化した。失敗は子ノードへの制約として伝播し、成功は再プロファイリングをトリガーして探索の最前線を拡大させる。
2. チェック・アンド・バランスを備えたマルチエージェント・アーキテクチャ： オーケストレーターが積極的な最適化を推進し、クリティックが安定性を守る、デュアルエージェント・システムを導入した。どちらのエージェントも一方的にシステムを駆動することはできず、これにより、セッションの生存可能性のために短期的なスループットの犠牲が払われることが保証される。
3. スキルの分解： エージェントの能力を、ハードスキル（ドメイン専門知識）とソフトスキル（調整プロトコル）に分解し、クロスセッション転送のための永続的なメモリによって裏付けられている。
4. 動的なスペシャリスト構築： 固定されたエージェントから脱却し、特定の最適化ターゲット、ハードウェアコンテキスト、および履歴データに基づいて、実行時にドメイン・スペシャリストを動的に構築する。

結果

Arborは、AMD Instinct GPU（MI355XおよびMI300X）上のLLM推論サービングにおいて評価された。

• スループットの向上：
  • MI355Xにおいて、Arborは数日間の完全自律運用後、ベンダー最適化済みのベースラインに対して**+40%から+193%**のスループット向上を達成した。
  • MI300X（世代間検証）において、向上率は**+62%から+99%**であった。
• 再現性： 実行ごとの分散は2パーセントポイント以内であり、ハードウェアに依存しない再現性を示した。
• アブレーション／比較： Arborのハーネス（マルチエージェント・ツリー探索フレームワーク）を持たない単一のエージェントは、**+33%**のスループット向上で頭打ちとなり、数時間以内に修復不可能なクラッシュを起こした。
• ケーススタディ（gpt-oss-120b）： 120B MoEモデルの特定の探索ツリーにおいて、システムは30のアクションを探索した。9つが保持され、16個が診断的洞察を伴ってリバートされ、3個がクラッシュしたがRCAによって回復された。システムは6,515 tok/s/GPU（ベースラインの4,405 tok/s/GPUに対し48%の向上）に達し、イントロスペクション（例：デッドコードパスの特定）やRCA（クラッシュをアルゴリズムの欠陥ではなく依存関係の問題として分類）からの知見を活用した。

意義と主張

本論文は、Arborが自律的な最適化を、孤立した候補生成から状態を持つ広大なアクション空間のナビゲーションへとシフトさせたものであると主張している。失敗を探索を再形成する診断信号として扱い、共有ワーキングメモリを維持することで、Arborは、システム不安定性のために通常は不可能とされる、数日間にわたる完全自律的なキャンペーンを可能にする。

本フレームワークは以下を実証している：

1. システムがボトルネックの変化を検出し、スタック全体にわたって失敗を診断できるのであれば、クロスレイヤーの最適化は人間の介入なしに実現可能であること。
2. 積極的な探索がシステムの安定性を損なわないようにするために、チェック・アンド・バランスのアーキテクチャが不可欠であること。
3. 永続的なメモリを通じて、セッションやハードウェア世代を越えた知識転送が可能であり、新しいハードウェアやモデルの立ち上げの障壁を低減できること。

最終的に、Arborは、ソフトウェアとハードウェアのフルスタックにわたるエンジニアリングチームに伝統的に必要とされる協調的な努力を自動化することで、LLMデプロイメントの運用コストと炭素集約度を削減することを目指している。