The energetic cost of mitigating AI attacks in cellular networks

インターネットを、データが交通量であり、携帯電話の基地局が信号機である、巨大で賑やかな都市だと想像してみてください。長年、これらの信号機は「愚か」なものでした。ただ決められたスケジュールに従うだけだったのです。しかし最近、エンジニアたちはこれらの信号機に「スマートな脳」（人工知能または機械学習と呼ばれます）を搭載しました。これらの脳は交通パターンから学習し、都市をよりスムーズに動かし、エネルギーを節約し、渋滞を防ぎます。これが現代のセルラーネットワーク、具体的には、ネットワークの異なる部分が互いに通信して即座にスマートな決定を下すことができる、O-RANと呼ばれる新しい柔軟なシステムの約束です。

しかし、スマートな脳が騙されることもあるように、これらのネットワークの脳にも脆弱性があります。もし悪意のある者が忍び込み、脳にいくつかの「偽の」交通レポートを送り込んだら、システム全体が混乱し、ひどい決定を下したり、最悪の場合はクラッシュしたりする可能性があります。これを防ぐために、セキュリティの専門家は、これらのAIの脳のための「ボディガード」――つまり、偽のデータを検知して、脳がそれを学習する前に排除するように設計されたプログラム――を構築しました。しかし、ここに落とし穴があります。ボディガードは懸命に働かなければなりません。彼らはあらゆるデータを確認し、複雑な計算を実行し、安全を保つために追加のモデルを訓練しなければなりません。ここで、これまで誰も真剣に問いかけてこなかった大きな疑問があります。これらのボディガードを勤務させておくために、どれほどのバッテリー電力が必要になるのでしょうか？ もしセキュリティシステムがすべてのエネルギーを使い果たしてしまうとしたら、スマートで効率的なネットワークを持つという目的そのものを台無しにしてしまうのではないでしょうか？

本論文はこのまさにその問いを掘り下げています。著者である研究チームは、特定のセキュリティガード――「緩和技術」と呼ばれるもの――をテストにかけ、それを実行するために実際にどれだけのエネルギーコストがかかるのかを検証することに決めました。彼らは、「データ・ポイズニング（データ汚染）」と呼ばれる攻撃に焦点を当てました。これは、攻撃者がAIの学習データを改ざんしようとするものです。そして、彼らは「ディープ・パーティション・アグリゲーション（DPA）」という防御手法をテストしました。DPAを、データの分割捜査を行う探偵チームに例えてみましょう。一つの事件を一人で解決しようとするのではなく、データを多くの小さなグループに分け、それぞれのグループに対して別の探偵が解決にあたります。そして、最後に全員で投票して最終的な答えを出します。もし数人の探偵が悪党に騙されたとしても、正直な多数派がいれば、正しい結果を得ることができます。

研究者たちは、標準的なコンピュータハードウェアと一般的な画像データセット（CIFAR-10）を使用して、このシナリオをシミュレートする現実的な実験を設定しました。彼らは単に推測したのではなく、実際に使用された電力（ワット）と時間を測定しました。彼らの調査結果は、厄介なトレードオフの関係を明らかにしました。セキュリティガード（DPA）は、不正なデータを阻止することには非常に優れていましたが、その実行コストは、ガードがどのように構成されているかに大きく依存していました。適度な数の「探偵」（15パーティション）を使用した場合、システムは安全に保たれ、エネルギーコストも管理可能な範囲に収まりました。しかし、膨大な数の探偵（500パーティション）を使用してシステムを「超安全」にしようとすると、エネルギー消費量は急増し、小さなセットアップよりも200ワット時以上多く消費されました。

論文では、攻撃者が送る「偽のデータ」の量（ポイズニング率）は、防御に使用されるエネルギー量には実際には影響を与えないことを明確に示しています。つまり、攻撃が小さくても大きくても、システムは同じように働きます。真のエネルギー消費の原因は、防御策自体の複雑さにあります。著者らは、これらのセキュリティ対策は必要であるものの、ネットワーク設計者はその「エネルギー代」を無視することはできないと結論付けています。彼らは、ネットワークが攻撃を防ぐのに十分なほど安全であり、かつ電力を無駄にしないほど効率的であるという「スイートスポット（最適解）」を見つける必要があると示唆しています。この研究は、完璧なセキュリティという問題を解決したと主張しているのではなく、明確に測定された警告を提供しています。すなわち、AIネットワークを安全にしたいのであれば、エネルギーという代償を払わなければならず、計画なしに堅牢性を高めようとすれば、その価格は急速に跳ね上がる、ということです。