Risk-Aware Degraded-Mode Orchestration for Resilient Cloud–Edge AI Agents: From Containerized Fault Injection to Heterogeneous Kubernetes Validation

お気に入りのアプリが単一のプログラムではなく、小さな目に見えないロボットたちのチームとして動いている世界を想像してみてください。あるロボットはニュースを運び、別のロボットはルールをチェックし、三番目のロボットはコードを書き、四番目のロボットは巨大な脳（AI）と対話して物事を理解します。これが現代の「クラウド・エッジAI」の仕組みです。インターネットとあなたのローカルデバイスにまたがって走る、複雑なサービスの連鎖です。通常、これらのチームはタフです。もし一つのロボットがつまずいても、他のロボットが再試行したり、待機したり、バックアッププランに切り替えたりします。しかし、ここに落とし穴があります。時には、ただ「仕事を終わらせること」だけでは不十分な場合があるのです。もしルールをチェックするロボットが不在だった場合、チームは推測だけで進めてはいけません。なぜなら、誤って重要なものを壊したり、許可されていないことをしてしまったりする可能性があるからです。これは「オンライン状態を維持すること」と「安全を維持すること」の間の難しいバランスです。

ここで、DMO-AI（Degraded-Mode Orchestration for AI：AIのための縮退モード・オーケストレーション）という新しいアイデアが登場します。これは、これらのロボットチームのための、非常に賢い交通整理のお巡りさんだと考えてください。単に「進め」や「すべてを止めろ」と言うのではなく、このお巡りさんはチームが取り組んでいる特定の仕事の内容を見極めます。それは楽しい物語を書くような低リスクなタスクでしょうか？ それとも、お金を動かしたり医療記録を変更したりするような高リスクなタスクでしょうか？ もし「ルールチェッカー」のロボットが病気（故障）になった場合、お巡りさんはこう指示するかもしれません。「よし、物語については、手元にある古いルールブックを使おう。でも、銀行振込については？ 絶対にダメだ。止まって人間に聞きなさい。」この論文は、このリスクを認識できる賢い交通整理のお巡りさんが、従来の「愚かな」方法よりも多くの仕事を安全に遂行できるかどうかを検証しています。

問題点：「全か無か」の罠

あなたが自動運転車を運転している場面を想像してください。車は道が安全かどうかを知るために、クラウドサーバーと通信する必要があります。突然、サーバーとの接続が不安定になりました。車はどうすべきでしょうか？

従来のシステムには、通常2つのモードがあります。

1. フェイルオープン（Fail-Open）: 「走り続けろ！たぶん道は大丈夫だ。」これは危険です。サーバーが実際には「止まれ」と言っていた場合、車が壁に突っ込む可能性があるからです。
2. フェイルクローズ（Fail-Closed）: 「直ちに停止せよ！」これは非常に安全ですが、たとえ信号が一瞬途切れただけで道が実際にはクリアであっても、あなたは渋滞の中に座り続けることになります。

問題は、AIエージェント（私たちのロボットチームのようなもの）が行うことは多岐にわたる点です。中には低リスクなもの（ニュース記事の要約など）もあれば、高リスクなもの（データベースの削除など）もあります。「一律のルール」は機能しません。低リスクな要約を、高リスクな銀行振込と同じように扱えば、安全でない結果が得られるか、あるいは有用な作業を不必要に停止させてしまうかのどちらかになります。

解決策：リスクを認識する交通整理のお巡りさん

この論文の著者である Albert Adusei Brobbey、Narayan Bhosale、Dan Bamfo は、DMO-AI と呼ばれる新しいシステムを構築しました。単にインターネットが動作しているかどうかを確認するのではなく、このシステムはタスクを続行させる前に3つの質問を投げかけます。

1. この仕事のリスクはどの程度か？（楽しい物語か、それとも銀行振込か？）
2. 何が欠けているのか？（「ルールチェッカー」がダウンしているのか、それとも単に「ニュース取得者」がいないだけなのか？）
3. 代わりに何ができるか？

システムには、選択可能な「縮退モード（バックアッププラン）」のメニューがあります。

• ノーマル（Normal）: すべてが正常に動作している。
• ローカルモデル（Local Model）: 巨大なクラウドの脳がダウンしている場合、ローカルデバイス上のより小さく単純な脳を使用する（ただし、低リスクの仕事に限る）。
• キャッシュされたポリシー（Cached Policy）: ルールチェッカーがダウンしている場合、古いルールブックを使用する（ただし、リスクレベルに対して十分に新しいものである場合に限る）。
• 読み取り専用（Read-Only）: 物事を変えるためのツールが壊れている場合、実際には何も変更せずにアドバイスだけを行う。
• ハンドオフ（Handoff）: 推測するのがリスクが高い場合は、停止して人間に頼む。
• ブロック（Block）: 安全な手段が何もない場合は、単に停止する。

革新的な点は、システムがリスクに基づいて適切なバックアッププランを「選択」することです。クラウドの脳がダウンしたからといって、高リスクの仕事に「ローカルの脳」を使わせることはありません。ルールブックが古すぎる場合、銀行振込に古いルールブックを使わせることもありません。

実験：デジタルの障害物コース

これが機能するかどうかを確認するために、研究者たちは巨大なデジタルの障害物コースを構築しました。彼らは、4つの主要なサービスを持つテスト環境を作成しました：モデル（脳）、リトリーバル・サービス（記憶）、ポリシー・サービス（ルールチェッカー）、およびツール・サービス（物事を行うための手）です。

次に、彼らは Toxiproxy というツールを使用して、災害をシミュレートしました。意図的に「脳」をフリーズさせたり、「ルールチェッカー」を切断したり、「手」の動きを遅延させたりしました。彼らは、単一のコンピュータ構成でこのシミュレーションを 141,000回 実行し、さらに実際のクラウドサーバーと実際のエッジデバイス（Raspberry Pi や小型サーバーなど）を用いた、より現実的な構成で 8,000回 実行しました。

彼らは、DMO-AI を、失敗に対処する5つの一般的な方法と比較しました。

• フェイルオープン（Fail-Open）: ただ進み続ける。
• フェイルクローズ（Fail-Closed）: すべてを停止する。
• リトライ・バジェット（Retry Budget）: 数回再試行してから諦める。
• サーキット・ブレーカー（Circuit Breaker）: 何かが壊れていたら停止し、動作が遅い場合は一度だけ試みる。
• サービス・メッシュ（Service Mesh）: AIのリスクを知らない、標準的なネットワーク・トラフィック管理。

結果：停止サインなしの安全性

結果は明確かつエキサイティングなものでした。大規模なテスト（8,000イベント）において、標準的な サービス・メッシュ（AIのリスクを知らないトラフィック管理）は、タスクを安全に完了できたのはわずか 64.70% でした。それは、安全でないことを許容してしまうか、あるいは有用なものを停止させすぎてしまうかのどちらかでした。

しかし、新しい DMO-AI システムは、93.95% の安全な完了率を達成しました。これは、29パーセントポイント近い劇的な向上です。

詳細な内容は以下の通りです。

• 安全でない結果はゼロ: 主要なテストにおいて、DMO-AI の安全でない結果およびポリシー違反は 0.00% でした。適切なルールなしに高リスクのジョブを実行させることは一度もありませんでした。
• 「フェイルオープン」よりも優れている: 「フェイルオープン」システムは、全体としてより多くのタスクを完了させましたが、その 9.67% は安全ではありませんでした（例：ルールを確認せずに銀行振込を行うなど）。DMO-AI は、安全でないタスクを減らしつつ、有用なタスクを継続させました。
• 「フェイルクローズ」よりも優れている: 「フェイルクローズ」システムは安全でしたが、簡単なタスクも含めて全タスクの 41.57% をブロックしました。DMO-AI がブロックしたのはわずか 1.13% でした。

研究者たちはまた、「リスク認識」をシステムから取り除いた場合に何が起こるかもテストしました。彼らがジョブが高リスクか低リスクかを判定する部分をオフにしたところ、安全スコアが低下し、安全でない結果が出現しました。これにより、「リスクの脳」がシステムの最も重要な部分であることが証明されました。

コストについても確認しました。システムは、実世界のテストにおいて平均してわずかな遅延（約 19ミリ秒）を加えましたが、システムを安全かつ稼働させ続けるための代償としては非常に小さいものでした。

これが意味すること

この論文は、「すべてを止める」か「何でも起こるままにする」かの二択ではないことを示しています。タスクの「リスク」を理解するようにシステムを教えることで、物事が壊れたときでも低リスクのジョブを継続させ、一方で高リスクのジョブに対しては、危険な行動を厳格に阻止することができるのです。

著者たちは、これが世界のあらゆる問題に対する魔法の杖ではないことも慎重に述べています。彼らは、特定の種類の失敗を想定した制御された環境でテストを行いました。しかし、その結果は、AIエージェントの未来にとって、インターネットが不安定なときでも「進んでよい」「待て」「人間に聞け」と正確に判断できる「交通整理のお巡りさん」が必要であることを示唆しています。

要約すると、DMO-AI は、脳やメモリの一部がオフラインになっても、AIエージェントを安全かつ有用に保つための新しい方法です。それは、まるで「進んでよい」「待て」「人間に聞きなさい」と正確に判断できる守護天使のようで、ロボットチームが決してトラブルに巻き込まれないように見守っているのです。