From Runnable to Verifiable: An Independent Reproducibility Study of LLM/Agent-Driven Vulnerability Validation Artifacts
この事前登録された再現性研究は、LLM/エージェント駆動による脆弱性アーティファクトの半分以上が公開されている一方で、その多くは安定した実行に失敗するか、あるいは意味的に確認された結果を生成できていないことを明らかにしており、不整合な識別子や信頼性の低い自動オラクルに起因する、実行可能なコードと検証可能なセキュリティエビデンスとの間の決定的な乖離を浮き彫りにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
インターネットを、ソフトウェアプログラムが建物である、巨大で賑やかな都市だと想像してみてください。時として、これらの建物には基礎に隠れた亀裂があることがあります。これらは「脆弱性」や「バグ」と呼ばれます。長い間、セキュリティ研究者（この街の検査官）は、これらの亀裂を見つけ出し、どのように侵入し、どのように修理するかについての詳細なレポートを書いてきました。しかし最近、新しい種類の検査官が登場しました。人工知能、具体的には「大規模言語モデル（LLM）」や「エージェント」です。これらは、コードを読み、亀快を見つけ、さらには独自の「概念実証（PoC）」スクリプト、つまり鍵が壊れていることを証明するための小さなデジタルな鍵さえも書くことができる、非常にスマートなコンピュータプログラムです。
誰もが抱いている大きな疑問があります。私たちは、これらのAI検査官を信頼できるのでしょうか？AIが「亀裂を見つけました、ここに鍵があります」と言ったとき、それは本当に真実なのでしょうか、それともAIはただ推測しているだけなのでしょうか？科学の世界には、あるものが「利用可能（ファイルがダウンロードできる）」であること、「実行可能（実際に起動する）」であること、そして「検証済み（主張通りの動作をする）」であることの違いがあります。この研究は、単なる大規模な事前計画による監査のようなものです。研究者たちは単にAIの言葉を鵜呑みにしたのではなく、ラボに入り、生成されたすべての鍵を自ら実行して、本当にドアが開くかどうかを確認しました。彼らは、AIが熟練の鍵職人なのか、それとも自信満々な偽造屋に過ぎないのかを知りたかったのです。
大いなるAI鍵監査：現実の検証
この研究において、研究者たちは懐疑的な探偵チームとして行動しました。彼らは、著者がAIを使用してソフトウェアの脆弱性を発見し検証したと主張している、2023年から2026年までの104件の膨大な研究論文を集めました。これは、膨大な「AI探偵レポート」のライブラリのようなものです。チームは、これらのレポートのうち、どれが真実の物語であり、どれが作り話であるかを確認しようとしました。
可用性の謎
まず、彼らは「鍵（コードファイル）」がライブラリの中に存在しているかどうかを確認しました。104件の論文のうち、実際に機能するリンクがあったのはわずか59件（約57%）でした。残りは、ページが欠落した本や、行き止まりのリンク、あるいはデジタルなエーテルの中に消えてしまったファイルのようなものでした。論文に「コードはこちら」と書いてあっても、実際には見つけられないことがあるのです。
「実行できるか」テスト
次に、彼らは59個の動作する鍵を、クリーンで新しいコンピュータ上で実行してみました。これは、新品のエンジンで車を始動させるようなものです。驚くべきことに、テストした18件の論文のうち、助けなしでエンジンを始動できたのはわずか10件（56%）でした。動作が止まった際、彼らは「環境修復（足りないツールのインストールや軽微な設定の修正）」を試みましたが、実際の「鍵開け」コード自体を変更することは禁止されていました。この助けがあっても、11件の18件（61%）しか任務を完了できませんでした。失敗のほとんどは、指示書の不足や、実行しているコンピュータと一致しないツールによるものでした。
「誤報」問題
ここからが本当に興味深いところです。研究者たちは、多くのAI生成スクリプトが、実際にはバグを見つけていないにもかかわらず、「バグを発見した！」と叫んでいることを発見しました。彼らはこれを「シグナル生成」の失敗と呼んでいます。
- 不一致: 102件中58件（57%）において、スクリプト内に含まれる秘密のラベルが、フォルダに貼られたラベルと一致していませんでした。それはまるで、探偵が「銀行強盗」についてのレポートを書いているのに、実際には「おもちゃ屋」に侵入しているようなものです。AIは全く別のものをテストしていました。
- 壊れたアラーム: 実際にスクリプトを実行した際、「アラーム（バグが見つかったという信号）」はしばしば信頼できないものでした。研究者は、バグが修正された（パッチが適用された）バージョンのソフトウェアに対してアラームが作動するかどうかを確認することで、これをテストしました。もし修正後もアラームが鳴り続けるなら、それは誤報です。
- 30件中20件（67%）のケースで、バグが修正された後でも依然としてアラームが作動しました。
- 「感度（本物のバグを捉える能力）」はわずか60%であり、「特異度（偽のバグを無視する能力）」はひどいもので、45%でした。これは、AIの内蔵アラームが基本的に推測しており、半分近くで間違えていることを意味します。
「ゴールドスタンダード」のチェック
バグが本当に存在することを真に確認するには、3つの条件が必要です：
- スクリプトが実行されること。
- クレームしている特定のクラッシュやエラーを引き起こすこと。
- 修正されたバージョンのソフトウェアでは、同じエラーを引き起こさないこと。
研究者がこの厳格な「ゴールドスタンダード」（彼らはこれをE1エビデンスと呼んでいます）を適用したとき、結果は明白でした。信号を発した全ケースのうち、これら3つの基準すべてを満たしたのは、わずか2件でした。残りは、動作が壊れているか、間違ったものをテストしているか、あるいは単に理由もなくアラームを鳴らしているかのいずれかでした。
結論
この研究は、魔法の杖を見つけたのではなく、多くの壊れた懐中電灯を見つけました。主な教訓は、AIがスクリプトを生成し、「実行され、恐ろしいメッセージを表示する」からといって、それが実際に現実の脆弱性を見つけたことを意味するわけではない、ということです。
研究者たちは、「実行され、恐ろしく見える」ことと「実際にバグを再現する」ことの間の巨大な溝を発見しました。彼らは以下のことを明らかにしました：
- 半分以上のスクリプトが、全く別の脆弱性をテストしていた。
- ほとんどのスクリプトは、助けなしでは実行できなかった。
- バグを見つけたと言い張るスクリプトの3分の2は、修正されたコンピュータ上でも作動してしまう誤報であった。
著者は、AIがこの仕事を行えないと言っているのではなく、セキュリティコミュニティに対して警告しています。**「AI自身の警報システムを信じてはいけない」**と。もしバグが本物かどうかを知りたいのであれば、ソフトウェアが修正されたときにそのバグが消えるかどうかをテストすることによって、自分自身で作業を確認する必要があります。それまでは、これらの「AIによる発見」の多くは、単なるデジタルの煙幕に過ぎないかもしれません。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。