Macro-Prudential AI Governance: A Two-Layer Early Warning and Response System for Frontier AI

技術要約：マクロ・プルデンシャルAIガバナンス（MEWRS）

問題提起
本論文は、現在の最前線（フロンティア）AIガバナンスにおける構造的な欠陥を指摘している。現在、多大な努力が「ミクロ・プルデンシャル」な監視（個別のモデルや特定のリリース決定の評価）に注がれている一方で、セクター全体にわたる相関的なリスク蓄積を管理するための「マクロ・プルデンシャル」なツールが不足している。著者は、2008年以前の銀行危機とのアナロジーを引き合いに出し、単一のモデルにおけるリスクを発見したとしても、それが必ずしも行動につながるわけではないと主張している。個別のモデルレビューでは、構造的に類似したシステム間で脆弱性（例：ジェイルブレイクの手法）が一般化してしまうような、システム的なダイナミクスを捉えることができない。現在の提案は多くの場合、単一モデルの安全性には対処しているが、競争的な開発レース、共有されたアーキテクチャ、および共通の依存関係によって引き起こされる連鎖的な崩壊に対して、セクターを無防備な状態に置いている。

手法：二層構造のMEWRSフレームワーク
本論文は、マクロ・プルデンシャル早期警戒・対応システム（MEWRS）を提案しており、これは特にデベロッパー内部のフロンティアAI（外部製品とは異なり、内部の研究、テスト、およびプロダクション・ワークフローで使用されるシステム）に焦ニズムを絞っている。このフレームワークは、バーゼルIIIの金融安定性アーキテクチャと米国の金融安定監視モデルを、以下の2つの明確なレイヤーへと適応させたものである。

レイヤーA：早期警戒と協調的対応
このレイヤーは、「発見者（Finder）ー調整者（Coordinator）ー防御者（Defender）」モデルを適応させ、構造化されたレポートを政府のクリアリングハウスを通じてドメイン固有のワーキンググループへとルーティングするものである。

• 発見者（Finders）： 内部評価チーム、契約されたレッドチーマー、独立した研究者、および政府パートナー（例：NIST CAISI）が、4つのカテゴリ（デュアルユース能力、自律性指標、セキュリティ侵害、アライメント・整合性の失敗）に関する構造化されたレポートを提出する。
• 調整者（Coordinator）： 管轄区域固有のエンティティ（米国におけるBISおよびNIST CAISIを含む構成、またはEU/英国における同様の機関を想定）が、深刻度、影響範囲（ブラスト・ラジアス）、およびラボ間の相関シグナルに基づいてトリアージを行う。
• 防御者（Defenders）： 脅威ドメイン別（サイバー、バイオ/化学、自律性、窃盗）に組織された独立したワーキンググループが、即時の緩和、協調的な開示、およびエスカレーションのための事前コミットされたプレイブックを活用する。
• 報告スキーマ： 営業秘密の開示を必要とせずに、展開範囲、能力のエビデンス、およびセキュリティ状態を捕捉する標準化されたスキーマ（バーゼルのPillar 3開示に類似）を用いる。

レイヤーB：AI安全性バッファー
このレイヤーは、3つの定量的バッファー指標を通じて運用コントロールを較正する。リスク加重資産が自己資本比率を左右する銀行業務と同様に、これらの指標はリスクプロファイルの上昇に応じてより強力なセーフガードを起動させる。

1. 有効計算量リスク（ECAR）： システム的な影響範囲のプロキシ（代理指標）であり、$ECAR(m) = C(m) \cdot A(m) \cdot R(m)$ として計算される。これは、有効な学習計算量（$C$）、自律性因子（$A$）、および到達因子（$R$）を組み合わせ、セクターの最前線に対してスケールさせたものである。
2. 累積レッドチーム時間（CRTH）： 評価者の独立性、能力、およびアクセスレベルに応じて調整された、専門家によるストレス・テスト時間の加重合計である。これは「ボラティリティ・ヘアカット」として機能し、低CRTHは残留不確実性が高いことを意味し、より大きなバッファーを必要とする。
3. アライメント堅牢性スコア（ARS）： 敵対的条件下および分布シフト条件下におけるモデルの安定性を測定する経験的指標である。低いARSは脆弱なシステムを示唆し、テストと展開速度の制限（キャップ）をトリガーする。

主な貢献
本論文は、AIガバナンス分野への5つの具体的な貢献を概説している。

1. 報告スキーマとアーキテクチャ： 内部システムのための協調的な報告パイプラインの詳細なアウトライン、および進化するリスクカテゴリに対応するバージョン管理されたスキーマ。
2. バッファー指標： リスクに応じて運用コントロールをスケールさせるための、ECAR、CRTH、およびARSの定義と較正ロジック。
3. メカニズムのマッピング： バーゼルIIIの6つのメカニズム（リスク加重資本バッファー、G-SIBティアリング、カウンター・シクリカル・バッファー、Pillar 3開示、リビング・ウィル、および中央銀行の技術的能力）をAIガバナンスの類似物に構造的にマッピングしたもの。
4. 失敗モード分析： 規制の虜（キャプチャー）、調整者の濫用、コンプライアンスによる参入障壁（モート）、指標のゲーミングを含む7つの潜在的な失敗モードの特定と、データ最小化、サンセット条項、標準化された係数表などの具体的な緩和策。
5. 検証計画： 理論的な仮定に頼るのではなく、トリアージまでの時間と緩和の受け入れ能力をテストするために、レッドチーム／ブルーチーム演習を中心とした段階的な検証計画の提案。

結果と主張
本論文は、政策提言およびフレームワーク設計であるため、経験的な実験結果は提示していない。代わりに、以下の提供を主張している。

• 個別のモデルの安全性とセクター全体の監視との間のギャップを埋める概念的フレームワーク。
• バッファー要件をトレーリング指標（追跡指標）やカウンター・シクリカルな調整（例：能力サージ指数）に結びつけることで、連鎖的な崩壊が発生する前に「オフランプ（離脱路）」を創出する事前コミットメントのメカニズム。
• 小規模なプロジェクトやオープンソースプロジェクトへの負担を最小限に抑えつつ、システム上重要なAI機関（SIAI）には厳格な基準を課す比例性の原則。
• ゲーミングを防ぐためのトレーリング指標と、応答性を維持するための前方視的な危険能力閾値を組み合わせたハイブリッド・トリガー・システム。

意義
著者は、MEWRSが重要である理由として、「発見と対応のギャップ」およびセクター全体の監視の欠如に対処している点を挙げている。2008年以降の金融規制の構造的アーキテクチャを借用することで、本フレームワークは、相関的なリスク蓄積を管理するためのテスト可能で実装可能な道筋を提示している。また、金融とのアナロジーは構造的なものであり（能力のサイクルや「最後の貸し手」の不在といった相違を認めた上で）、カウンター・シクリカル・バッファーやシステム的ティアリングといったツールの機能的な転用は、現在のミクロ・プルデンシャルなアプローチを超えた進化として必要であると強調している。本フレームワークは、体系的な失敗の確率を減少させつつ、有益なイノベーションを維持することを目的として、自主的な試行を経て法定制度へと成熟するように設計されている。