Stochastic Code, Deterministic Defense: Assessing the Security Blind Spots in GenAI-Driven CI/CD Pipelines

ソフトウェアが、人間がキーボードでタイピングして書かれるのではなく、過去に見たものに基づいて次の単語、次の行、そして次の関数を推測する「超スマートなロボット」によって「夢想される」世界を想像してみてください。これは、デジタルツールを構築する方法を急速に変えつつある技術、**生成AI（GenAI）**の世界です。現代のテック界において、これらのツールはしばしば、CI/CDパイプラインと呼ばれる高速な工場で組み立てられます。このパイプラインを、コードが書かれ、テストされ、パッケージ化され、数秒でインターネットへと出荷されるコンベアベルトのようなものだと考えてください。

長年、このコンベアベルトを見守ってきたセキュリティガードたちは、**決定論的なスキャナー（deterministic scanners）でした。これらは、いわば「禁止された動き」のリストを持った厳格な門番のようなものです。彼らが、既知のロックピックや禁止された呪文のような、特定の危険なパターンを見つけると、コードを停止させます。彼らは明らかな悪党を捕まえることには長けています。しかし、ここにひねりがあります。GenAIは単に古い悪の手口をコピー＆ペーストするのではなく、ジャズミュージシャンがメロディを即興演奏するように、毎回新しいバリエーションを生み出すのです。科学者やエンジニアにとっての大きな疑問は、「私たちの古くて厳格な門番たちは、完璧に聞こえるが実は密かに危険な曲を奏でているジャズミュージシャンを捕まえられるのだろうか？」**ということです。本論文はこのまさにその謎に深く切り込み、現在のセキュリティツールが、AIが生み出す独特で予測不可能なミスに対して盲目であるかどうかを問いかけています。

「サイレント・ディケイ（静かなる崩壊）」の物語

この研究において、研究者の Mohammed Bedjaoui、Sidi Mohammed Benslimane、および Mohammed Yassine Kazi Tani は、ローカルAIロボットに現実世界のアプリケーション用のコードを書かせ、それを標準的なセキュリティツールでチェックしようとしたときに何が起こるかを検証するためのデジタル実験を設定しました。彼らは単に推測したのではなく、AIがセキュリティガードの目を盗んで「悪いアイデア」を忍び込ませることができるかどうかを確認するために、まるで研究所の狂った科学者のように、制御されたシミュレーションを50回実行しました。

セットアップ：ロボット執筆者と厳格なガードマン
チームは、現代のソフトウェア工場のミニチュア版を構築しました。彼らはローカルAIモデル（「Code Llama」というロボット）を使用して、2種類のコードを書かせました。

1. ロジックの欠陥 (V1): AIに対し、ウェブサイトのセキュリティチェックを書くよう指示しました。AIは文法ルールに従った完璧に見えるコードを書きましたが、ある重要なステップを忘れていました。それは、ユーザーが本人であることを実際に確認するという工程です。それは、クラブの門番がIDカードはチェックするものの、写真が顔と一致しているかの確認を忘れてしまうようなものです。
2. インフラストラクチャのドリフト (V3): AIに対し、サーバーの指示（Kubernetesマニフェスト）を書くよう指示しました。AIは構文としては正しいものの、あまりにも単純すぎる「ヘルスチェック」を設定する指示を書きました。それは、患者が呼吸しているかはチェックするが、心臓が動いているかどうかは無視する医師のようなものです。そのサーバーは、内部のソフトウェアが完全に壊れていても「生存」し続けてしまいます。

テスト：古いツールは新しいミスを見抜けるか？
AIがコードを書くと同時に、そのコードは3つの有名な「門番」である Semgrep、Trivy、Kube-linter を使用した標準的なセキュリティパイプラインへと送られました。これらのツールは業界標準であり、特定のパターンを探すことで既知のエラーを検知するように設計されています。

結果は驚くべきものでした。50回の実験走行において：

• AIは、ロジックの欠陥シナリオで46回、インフラストラクチャのドリフトシナリオで48回、ビルドプロセスを通過するコードを生成することに成功しました。そのコードは出荷できるほど「有効」でした。
• セキュリティツールがこのコードをスキャンしたところ、脆弱性を検出することに100%失敗しました（あるいは、48回中2回の誤検知があった特定のカウントでは96%でした）。
• 統計分析の結果、これは単なる運が悪かったのではなく、これらのツールがエラーを見逃す確率は0.001未満（p < .001）であり、偶然ではありませんでした。

大発見：「ブラインドスポット（盲点）」
本論文は、現在のセキュリティシステムには巨大な「ブラインドスポット」が存在すると結論付けています。AIは「悪意のある」コードを書いたのではなく、「機能性」に焦して「セキュリティ」を疎かにしたコードを書いたのです。コードはすべての文法ルールに従っていたため、決定論的なスキャナー（クリップボードを持った門番たち）は、「問題なし！」と判断して通してしまったのです。

研究者たちはこれを**「サイレント・ディケイ（Silent Decay / 静かなる崩壊）」**と呼んでいます。これは、ソフトウェア工場がスムーズに稼働し続け、信号は緑であり、セキュリティアラームも決して鳴らないものの、最終製品が根本的に壊れており、安全ではないというシナリオです。本研究は、これらのツールが失敗している理由が、コードが乱雑であったり「ハルシネーション（幻覚）」によるデタラメであったりするためではないことを明確に否定しています。コードはクリーンで有効であり、ただセキュリティの本質を見失っていただけなのです。

これが意味すること
著者らは、もはやコードをチェックする従来の方法には頼れないと主張しています。もしコードが確率的なAI（出力の予測と変化を行うもの）によって生成されているのであれば、決定論的なスキャナー（固定されたパターンを探すもの）は、常に微妙で文脈に依存するミスを見逃してしまうことになります。彼らは、コードの「形」だけでなく、その「意図」を理解する新しい種類の防御が必要であると提案しています。具体的には、他のAIエージェントを使用してコードを監査したり、人間の理解力と数学的論理を組み合わせた「ニューロ・シンボリック（神経記号的）」な手法を使用することを提案しています。

要約すれば、この研究は、AIの時代において、セキュリティスキャナーからの「グリーンライト（青信号）」は、コードが安全であることを意味しないことを証明しています。それは単に、コードが書類上では良く見えるということを意味しているに過ぎません。真の危険は、AIの創造性が私たちのチェック能力を追い越してしまう、行間の隙間に隠れているのです。