Certifying Ghosts: How Cybersecurity AI Agents Break the EU Cyber Resilience Act

以下は、論文「Certifying Ghosts（ゴーストの認証）」の内容を、核心となる議論を明確にするために、シンプルな言葉と比喩を用いて解説したものです。

大きな構図：異なる世界のために作られた法律

想像してみてください。欧州連合（EU）が、**サイバーレジリエンス法（CRA）**という新しい法律を可決したとします。その目的は、私たちが購入するガジェット（スマート冷蔵庫、ロボット、カメラなど）の安全性を確保することです。

この法律は、ある一点において賢明です。それは、**「完璧なソフトウェアは存在しない」という事実を認めている点です。製品にバグが一切ないことを約束させることは不可能です。そのため、法律は「バグ・ゼロ」を要求するのではなく、「プロセス」**を要求します。つまり、「メーカーは、バグをチェックし、見つけたら修正し、誰かがあなたの製品を積極的にハッキングしている場合は、それを報告しなければならない」というルールです。

この論文の著者たちは、この法律が**「もはや存在しない世界」**のために書かれたものであると主張しています。この法律は、コンピュータのバグを見つけることが遅く、コストがかかり、人間の専門家を必要としていた時代に設計されました。しかし今日では、AIエージェント（自律的なハッカーのように振る舞うコンピュータプログラム）がゲームのルールを変えてしまいました。AIは、瞬時に、安価に、そして数百万ものバグを見つけ出すことができるのです。

論文は、法律はバグの「量」には対処できるものの、これらAIハッカーの「速度」と「性質」に直面したとき、完全に破綻すると論じています。

---

法律が依拠していた4つの前提（そしてAIがいかにそれを壊したか）

法律は、世界の仕組みについて4つの前提を想定しています。論文ではこれらを「前提（Premises）」と呼んでいます。AIはこれらすべてを覆しました。

1. 「人間の希少性」のルール（前提 P1）

• 旧世界： バグを見つけることは、干し草の山から針を探すようなものでした。熟練した人間の探偵が一つを見つけるのに、数日あるいは数週間を要しました。そのため、一度に見つかるバグの数は多くありませんでした。
• AIの現実： AIエージェントは、1,000人の超高速な探偵の群れのようなものです。彼らは干し草の山をスキャンし、1秒間に1,000本の針を見つけ出すことができます。
• 結果： 法律はここで**「曲がる（Bends）」**だけです。これは対処可能です。法律は単に、「すべての針を直す必要はない。どの針が危険かを判断するための優れたシステムを示すだけでよい」と言っているからです。プロセスは、このボリュームに対応するために柔軟に機能します。

2. 「スナップショット」のルール（前提 P2）

• 旧世界： 製品を販売するとき、あなたはそれを検査します。もし「今日」クリーンであれば、「安全」の証明書を発行します。そして、しばらくはその状態が維持されると想定します。
• AIの現実： AIは、明日、製品を調べて、今日（あるいは昨日）は存在しなかった（あるいは知られていなかった）新しいバグを見つけることができます。製品自体は変わっていませんが、「安全」の証明書は今や嘘になります。
• 結果： 法律は**「壊れます（Breaks）」**。この証明書は、昨日撮られた人物の写真のようなものです。もしその人が今日髪を切ったとしても、写真は過去については「真実」ですが、現在のその人を特定するには役に立ちません。法律は「ゴースト」、つまり、もはや存在しない安全な製品を認証してしまっているのです。

3. 「離散的イベント」のルール（前提 P3）

• 旧世界： ハッキングは、窓を割って侵入する泥棒のようなものでした。衝撃音を聞けば、何かが起きたことが分かり、警察に通報（インシデント報告）できます。
• AIの現実： AIハッカーは、壁をじわじわと浸食していく穏やかで絶え間ない風のようなものです。彼らは24時間体制で製品を探索しています。単一の「衝突音」はなく、攻撃はインターネットの背景ノイズの一部となっています。
• 結果： 法律は**「壊れます」**。法律は「積極的なハッキングが見られたら報告せよ」と言っています。しかし、ハッキングが絶え間なく目に見えない形で続いている場合、報告のトリガーを引くことができません。火災が突然の爆発ではなく、ゆっくりとした燻り（くもり）である場合、アラームシステムは機能しません。

4. 「修正へのレース」のルール（前提 P4）

• 旧世界： バグが見つかった場合、企業はハッカーがそれを利用する前に、修正を行いアップデートを配信する時間があります。
• AIの現実： AIハッカーは、発見されたバグを数分以内に武器に変えることができます。人間がパッチについて話し合うための会議を終える頃には、AIはすでに何百万台ものデバイスに対してそのバグを悪用しています。
• 結果： 法律は**「壊れます」**。法律は「遅滞なく修正せよ」と言っています。しかし、人間は自転車で弾丸と競争することはできません。タイムラインは崩壊しており、このレースは人間にとって勝ち目のないものです。

---

核心的な問題：ゴーストの認証（Certifying Ghosts）

論文では**「Certifying Ghosts（ゴーストの認証）」**というフレーズが使われています。

保健所の検査員がレストランを訪れ、厨房をチェックして「健康的」というスタンプを押したと想像してください。しかし、検査員が去った瞬間に、魔法のウイルスが食べ物の中に現れたとします。レストランはもはや不衛生ですが、検査員は「プロセス」と「その瞬間」しかチェックしていないため、依然として「健康的」というスタンプを持っています。

CRAはソフトウェアに対してこれを行っています。特定の時点のスナップショットに基づいて、製品を「安全」とスタンプしています。しかし、AIハッカーがセキュリティの状況を一瞬で変えてしまうため、そのスタンプは印刷された瞬間に嘘となります。法律は、すでに消え去ったセキュリティの姿を認証しているのです。

解決策：「ロボット免疫システム」

この論文は、単に法律が壊れていると言うだけでなく、その治療法を提示しています。人間がゆっくりとチェックする手法に戻ることはできないと主張しています。私たちは、ハッカーが使っている武器と同じもの、すなわち**「AIディフェンダー（防御側AI）」**を使わなければなりません。

• 比喩： 1日に一度廊下を巡回する警備員（現在の法律）の代わりに、デバイスの中に住み着く**「デジタル免疫システム」**が必要です。
• 仕組み： このAIディフェンダーは、デバイスを常に監視しています。AIハッカーが侵入を試みると、ディフェンダーがそれを察知し、ハッカーが反応するよりも早く、ミリ秒単位で攻撃をブロックし、穴を塞ぎます。
• 実証： 著者たちはこれを、2つの実在するロボット、ヒューマノイドロボットとロボット芝刈り機でテストしました。
  • AIディフェンダーがない場合： ハッカーは数秒でロボットの制御を奪いました。
  • AIディフェンダーがある場合： ハッカーは実質的な被害を与える前にブロックされました。ロボットは安全に動作を続けました。

結論

論文は、サイバーレジリエンス法は、すでに去ってしまった世界のために作られた、よくできた法律であると結論づけています。

• 修正案： セキュリティを「定期的な健康診断（例年の医者への訪問）」として扱うのではなく、「継続的でライブな防御（免疫システム）」として扱い始める必要があります。
• 警告： もしEUが、この内容を更新せずに2027年に完全施行することを待つならば、AI攻撃に対してすでに脆弱な製品に対して「安全」の証明書を配ることになるでしょう。
• 行動喚起： セキュリティは継続的であり、AIエージェントによって実行されるものでなければなりません。それはもはや選択肢ではなく、現在の脅威環境を生き残るための唯一の方法なのです。

要約すると： 1時間ごとに再構築されている街をナビゲートするために、紙の地図を使うことはできません。法律は、地図を見続けるのではなく、リアルタイムで車を運転するように変わる必要があるのです。