Service-preserving carbon- and water-aware resource allocation for geo-distributed AI inference

技術要約：地理分散型AI推論におけるサービス維持型の炭素・水意識型リソース割り当て

問題提起
地理分散型のAI推論は、ワークロードの配置において、ヘテロジニアスな容量、レイテンシ、およびマイグレーション制約と環境目標とのバランスを取る必要があるという、複雑なリソース割り当ての課題を提示している。既存のアプローチは、物理単位やサービス・炭素・水の優先順位を不明瞭にする重み付けスコアに依存しているか、あるいは環境最適化が「実行可能な未充足サービス」の犠牲の上に成り立つことを防げていないことが多い。さらに、水制約は炭素制約とは異なり、必ずしも共変動するわけではなく、意味を持つためには特定の地域的コンテキスト（例：水ストレス）を必要とする。核心となる問題は、高ストレス地域における物理的な直接水使用量を段階的に制限することによって生じる炭素ペナルティを、最大可能なAI推論サービスレベルを厳格に維持しながら決定することである。

手法
著者らは、システム問題を検査可能な「炭素・水フロンティア」へと変換する、トレース駆動型の2段階レキシコグラフィック最適化フレームワークを提案している。

1. システムモデルと会計：

   • サービスプロキシ： モデルは、Alibaba GenAI Serving Top-Down Dataset 2026 (GenTD26) から導出された実行時間（$D_t = \sum \tau_j / 3600$）に基づく「シングルアクセラレータ等価」サービスプロキシを使用する。
   • 物理会計： 炭素は、ITエネルギー $\times$ PUE $\times$ 地域炭素係数によって算出される。直接水は、ITエネルギー $\times$ 水使用効率 (WUE) によって算出される。極めて重要な点として、PUEは施設の電力および炭素には影響を与えるが、直接水には影響を与えない。
   • スクリーニング： Aqueductベースラインの水ストレスに基づくバイナリの位置スクリーニングにより、地域を「高（High）」または「極めて高い（Extremely high）」として識別する。これらの地域における直接水はキャップ（上限）の対象となるが、その他の地域における水は対象外となる。

2. 2段階レキシコグラフィック最適化：

   • 第1段階（サービス最大化）： 容量、マイグレーション制限、およびレイテンシ閾値の制約条件下で、未充足サービス（$u_t$）を最小化する。これにより、最大実行可能なサービスレベル（$S_{max}$）を確立する。
   • 第2段階（環境最適化）： 未充足サービスを第1段階の最適値（数値的許容範囲内）に固定し、総モデル化炭素を最小化する。この段階では、オプションの$\epsilon$-制約 $\sum W_{tr}^H \leq \epsilon$ （ここで $W_{tr}^H$ はスクリーニングされた直接水を表す）の下で動作する。
   • アプローチ： この構造により、環境比較は同一のサービスレベルを提供する割り当ての間でのみ行われることが保証される。$\epsilon$-制約は、炭素と水を重み付けスコアに集約するのではなく、物理単位（kgCO2eおよびリットル）のまま保持する。

3. 実験設計：

   • リファレンス・フロンティア： 制約なしの炭素優先割り当てにおけるスクリーニングされた水曝露量の0%から100%まで、水キャップを変化させることで、21点のフロンティアを生成する。
   • シナリオ・エンベロープ： 3つの炭素マッピング、3つのPUEシナリオ、3つの容量シナリオ、3つのマイグレーション制限、および3つのレイテンシ閾度を組み合わせた完全な要因計画（243セル）を行う。
   • 感度分析： 構造的なモデル特性とシナリオ依存の大きさを分離するため、81の空間的WUEプロファイル、エネルギー規模のチェック、および4,000組のペアリングされた循環的24時間ブロック再サンプリングを含む。

主な結果

• リファレンス・フロンティア： リファレンス・シナリオにおいて、スクリーニングされた直接水を2.4250 L回避すること（キャップを0%に設定すること）は、制約なしの炭素優先割り当てと比較して、0.0582 kgCO2eの追加的な炭素コストを招く。しかし、これは「マイグレーションなし」のベースラインよりも13.083%低い炭素量である。
• 限界コスト： キャップが厳しくなるにつれて、回避されたスクリーニング済み水1リットルあたりの限界炭素コストは増加し、制限の緩いセグメントの0.0016 kgCO2e/Lから、ゼロキャップに近づく最終セグメントの0.0707 kgCO2e/Lへと上昇する。
• 割り当ての変化： 水キャップが厳しくなるにつれ、モデルはスクリーニングされた地域（北および北西）から、スクリーニングされていない地域（南西）へと割り当てをシフトさせるが、起点地域（東）は変化しない。
• シナリオの堅牢性： 243セルのグリッドにおける1,215の最適解全体において、マイグレーションなしのベースラインに対する炭素の変化は、-48.151%から数値的なゼロの範囲にある。炭素削減の方向性は安定しているが、大きさは連邦化の仮定に基づいて大きく変動する。
• WUEの感度： 空間的なWUEの変動は中間的なキャップ・ペナルティに影響を与えるが、リファレンス設定におけるゼロキャップおよび100%キャップのエンドポイントを変更することはない。
• 時間的安定性： ペアリングされた再サンプリングにより、炭素削減の方向がトレースセグメントの異なる時間的組成に対しても持続することが確認されたが、回避される水の量は変化する。

主な貢献

1. サービス等価な実行可能集合： 環境比較が、単に需要を削減するだけの「グリーン」な解決策を防ぐために、最大実行可能なサービスを厳格に提供する割り当てに制約されるフレームワークを導入した。
2. 物理単位の統合： 物理的な直接水会計を、地域的なストレス・スクリーンを伴う明示的な制約として統合し、不透明な重み付けスコアではなく、解釈可能な単位（リットルおよびkgCO2e）を保持した。
3. 検査可能なフロンティア： 21点のフロンティアと隣接するキャップによる炭素コストを提示することで、リソース管理者が水制限と炭素ペナルティの間のトレードオフを可視化できるようにした。
4. 包括的なストレス・テスト： 完全な243セルの連邦グリッド、1,215のキャップ制約付き解、および広範な再サンプリングを通じて、構造的なモデル特性とシナリオ依存の大きさを区別し、監査可能なエビデンス・チェーンを提供した。

意義と主張
本論文は、サービス維持型の環境制約を評価するための再現可能なプランニング・ベンチマークおよびリソース管理インターフェースを提供すると主張している。その主要な意義は、サービスの実現可能性を環境最適化から切り離すことにあり、これにより高次のオーケストレーション・システムが以下を実行できるようにする：

• スクリーニングされた水の許容量を宣言し、連邦制の制約内で達成可能な最小のモデル化炭素を受け取る。
• 受容可能な炭素ペナルティを指定し、対応する実行可能な水キャップおよび地域割り当てを特定する。

著者らは、本フレームワークが、サービス等価な実行可能割り当てを提示することを目的としたデザインタイム・レイヤーであることを強調している。これは、キューイング、障害、またはリアルタイムのテレメトリを扱うランタイム・システムではない。本研究は、運用上の直接水（ITエネルギー $\times$ WUE）の範囲に明確に限定しており、フルライフサイクルの水フットプリントや水文学的利益を代表するとは主張しておらず、より広範な評価には現在のモデルには存在しない追加の地域的・時間的な証拠が必要であると述べている。本研究は、将来のプロダクション・オーケストレーション・スタックへの統合に向けたモジュール型の構成要素として機能するものである。