テクニカル・サマリー：Green SARC

問題提起

人工知能のコストセンターは、固定設計のトレーニングから、エージェンティックなシステムにおける確率的な推論軌道へと移行しています。境界のあるコストを持つ従来のAPIコールとは異なり、エージェンティックなワークフローは、モデル呼び出し、ツールの実行、およびリトライの動的なシーケンスを伴うため、同一のタスクであってもトークン消費量およびそれに伴う財務的・炭素的コストが数桁単位で変動します。

現在の緩和策（事後監査およびエージェントループと並行して評価されるポリシー・アズ・コード）には、根本的な欠陥があります。それは、制約の評価が実行の「後」または「傍ら」で行われるという点です。月末に検出された予算超過はトークンを「取り消す」ことはできず、ダッシュボードに記録された炭しまみれの炭素排出量は炭素を「取り消す」こともできません。本論文は、効果的なガバナンスには、アクションがコミットされる前にコストを予測し、制約を実行ループの「内部」で強制することが必要であると主張しています。

手法：Green SARC アーキテクチャ

Green SARCは、FinOpsおよびGreenOpsに対してSARC（アーキテクチャによるガバナンス）フレームワークを適用します。これは、コストおよび炭素の制約を第一級の仕様オブジェクトとして扱い、エージェントループ内の4つの特定のサイトでこれらを強制します。

1. Pre-Action Gate（実行前ゲート）: コアとなる革新的な部分です。静的なルールではなく、このサイトでは学習され、較正された予測を用いて、提案されたアクションのトークンコストと炭素量を予測します。予測が指定された信頼レベル（$1-\delta$）で残りの予算内に収まる場合にのみ、アクションを承認します。
2. Action-Time Monitor（実行時モニター）: ループ回数や限界コストに対するハードリミット（サーキットブレーカー）を強制し、暴走するリトライや再計画ループを停止させます。
3. Post-Action Auditor（実行後監査人）: 予測値と実績値のコストをログに記録し、監査証跡を提供するとともに、推定器のための学習シグナルを生成します。
4. Escalation Router（エスカレーション・ルーター）: 予算または炭素上限を使い果たしたタスクを、人間によるレビューまたは決定論的なフォールバックへとルーティングします。

理論的基礎

• State Snowball Theorem（状態スノーボール定理）: 各ステップで蓄積されたフルコンテキストを再送信するナイーブなマルチエージェント・ループは、累積的なプロンプトコスト $\Theta(n^2)$ を招くことを定式化しています。その主要係数は $p/2$ であり、$p$ はホップあたりのトークン増分です。
• Predictive Gate & Calibration（予測ゲートと較正）: ゲートは、過去の残差に基づいて学習された推定器 $\hat{f}_\theta$ を使用します。特定の残差分布を仮定せずに安全性を確保するため、本論文では**分割共形予測（split-conformal prediction）**を採用しています。これにより、分布に依存しない有限サンプルでの周辺被覆保証が提供されます。つまり、承認されたアクションによる予算超過の確率は $\delta$ 以下に抑えられます。
• Anytime-Valid Safety（随時有効な安全性）: ヴィル（Ville）の不等式と劣ガウス仮定（または重い裾を持つ実データに対する経験的バーンスタイン境界）を用いることで、本フレームワークは、あらゆる軌跡のプレフィックスにおける累積的な過剰支出に対して、時間一様（time-uniform）な境界を提供します。
• Decoupling（デカップリング）: このアーキテクチャは、コスト・ガバナンスと正当性（correctness）ガバナンスを明示的に切り離しています。システムは「安全だが高価」であることも、「安価だが不安全」であることも可能であり、Green SARCは前者を独立して管理します。

主な貢献

1. State-Snowball Theorem: ナイーブなコンテキスト蓄積が二次的なコスト成長を招くことの形式的な証明と経験的な確認、およびアダプターノードによってホップあたりの増分を制限することで、これを線形成長へと崩壊させることを証明しました。
2. Calibrated Predictive Gate: ルールベースの会計を学習された予測へと一般化し、分割共形較正を通じて分布に依存しない安全性保証を提供する、実行時のゲートです。
3. Pareto Frontier Dominance（パレート境界の支配）: アーキテクチャによるゲートが、ソフトペナルティ（ラグランジュ緩和）アプローチを圧倒することを示す経験的証拠。ソフトペナルティは期待値として予算に合わせるよう調整されていても、約91.5%のシードにおいて予算を突破しますが、アーキテクチャによるゲートは、完了した作業を最大化しつつ、予算を突破するシードを0%に抑えます。
4. Real-Trace Validation（実トレース検証）: 実世界のShareGPTデータ（非ガウス的な残差）を用いた被覆検証により、標準的なNormal-$\sigma$ゲートはタイトなリスクレベルにおいて過小な被覆しかできない一方で、分割共形較正は公称通りの被覆を維持することを実証しました。
5. Open-Source Implementation: 4つのサイト・アーキテクチャ（Normal-$\sigma$ゲートおよびオプションの分割共形較正を含む）を実装した、依存関係のないPythonライブラリ（フェーズ1）を提供します。

実験結果

合成評価 (IBP ワークロード)

• Ablation（アブレーション）: レバー（Scope, Routing, Circuit Breaker）ごとの節約効果の分解。
  • Scope (Adapter Node): コンテキストの成長を制限することで、トークン削減（~43-55%）を推進します。
  • Routing: トークン数をさらに減らすことなく、効率的なモデルへの切り替えによってトークン削減をUSDおよび炭素の節約へと変換します。
  • Circuit Breaker: 暴走するループを終了させることで、増分的なトークン節約を加えます。
• Binding Budgets（拘束予算）: タイトな予算（ベースラインの25%）の下で、ゲートは90%のステップを承認しながら、**予算超過の発生率0%**を実現しました。一方、ソフトペナルティは予算を突破せずに軌跡を完了させることに失敗しました。
• Forecast Quality（予測の質）: 学習された推定器は、平均絶対誤差（MAE）をコールドスタート時の約4,000トークンから、約20回の観測以内にノイズフロア（~34トークン）まで減少させました。

Real-Trace Validation (実トレース検証)

• ShareGPT (チャット・トラフィック): 実世界の会話は負の累積プロンプト曲率（凹型）を示しており、$\Theta(n^2)$ のスノーボールは、ナイーブなオーケストレーションの産物であり、チャットの本質的な特性ではないことを示しています。しかし、Normal-$\sigma$ゲートは実世界の残差（歪んだ、ヘビーテイルな分布）に対して過小な被覆しかできず、一方で**分割共形（split-conformal）**は公称通りの被覆を維持しました。
• BurstGPT (プロダクション・トラフィック): 50,000件の実Azure OpenAIリクエストにおいて、レバーの順序（Scope $\to$ Tokens, Routing $\to$ USD/Carbon）が成立することを確認しました。サーキットブレーカーは作動せず（リトライ・ストームなし）、これがマルチステップのストレスシナリオに対するセーフガードであることを裏付けました。
• SWE-rebench (マルチステップ・エージェント): GitHubのイシューを解決する3,000件の実的なエージェント・プランにおける検証：
  • State Snowballの成立: 100%のプランが正の二次曲率（$\hat{c}_2 > 0$）を示し、中央値の曲率（216）は線形予測（134）を上回りました。
  • Circuit Breakerの活性: 11.4%の軌跡で作動し、フルスタックに対する限界的なトークン節約を提供しました。
  • コスト・ユーティリティのトレードオフ: 積極的なコンテキスト削減はトークンを節約しますが、タスク解決のリスクを伴います。「安全な」キャップ（中央値の2倍）は2.3%のトークンを節約したのみですが、積極的なキャップ（0.5倍）は55%を節約しましたが、ワーストケース分析において100%のプランを中断させました。

Adversarial Robustness (敵対的堅牢性)

• Scope-aware padding: 攻撃者がキャップの直前までプロンプトをパディングして正当な作業を最大化しようとする場合、ゲートはこれを通します（これは有界プロンプト・ガバナンスの根本的な限界です）。
• Forecast-defeating attacks: 完了を水増ししたり、モデルコストを虚偽報告したりする攻撃は、事後的にAuditor（監査人）によって捕捉されます。Auditorは不一致をログに記録し、エスカレーションをトリガーします。このアーキテクチャは、完璧な承認時の拒絶ではなく、「予測・実行・記録・再学習」のループに依存しています。

意義と主張

本論文は、Green SARCがエージェンティックAIガバナンスのための必要なアーキテクチャ上の転換を提供すると主張しています。その意義は以下の通りです。

1. 事後から予測へ: コスト制御を、照合（reconciliation）から、較正された安全性保証を伴う実行前の予測へとシフトさせたこと。
2. ハード制約 vs ソフトペナルティ: 有限のペナルティ（ラグランジュ緩和）は、確率的な環境においてハードな実行時制約の代わりにはなり得ないこと、アーキテクチャによるゲートのみが予算遵守を保証できることを示したこと。
3. 分布に依存しない安全性: 残差が非ガウス分布である実世界のデプロイメントにおいて、共形予測（conformal prediction）がいかに不可欠であるかを証明し、データ分布が変化しても安全性の約束が維持されることを示したこと。
4. モジュール性: このフレームワークは正当性ガバナンス（SARC）とは直交しており、エージェントのコアロジックを変更することなく、クラウド請求書や炭素排出量を管理するために独立してデプロイ可能です。

著者らは、現在の実装（フェーズ1）が単一プロセス予算を使用しており、デフォルトでNormal-$\sigma$ゲートを使用していること（分割共形はオプションであること）などの制限についても明示的に述べています。「State Snowball」は、ナイーブなオーケストレーションの失敗モードであり、会話の本質的な特性ではないことが確認されています。論文は、コンテキスト・キャッピングによるトークン節約はポリシーに依存し、タスクの有用性とトレードオフの関係にあることを認めつつ、これらの知見を謙虚に提示しています。