Beyond the Syntax: Do Security Experts Trust LLMs for NIDS Rule Engineering?
本論文は、ドメインエキスパートを対象とした調査を通じて、ネットワーク侵入検知システム（NIDS）のルールエンジニアリングにおける大規模言語モデルの信頼性を調査し、大規模モデルは構文的に正しいルールを生成するものの、その意味的な不正確さとハルシネーションが、自律的な生成ではなく支援的なドラフト作成の役割への展開を制限していることを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、巨大で賑やかな都市のセキュリティ責任者であると想像してください。あなたの仕事は、セキュリティガード（ネットワーク侵入検知システム、またはNIDS）が何を監視すべきかを正確に伝える「法律（ルール）」を書くことです。もし車が一方通行の道を逆走したら、ガードがそれを止めるための特定の法律が必要です。もし泥棒が鍵を開けようとしたら、警報を鳴らすためのルールが必要です。
長年、これらの法律を書くことは、過酷で手作業による仕事でした。それは、都市がどのように機能しているか、泥棒がどのように活動するか、そして法律書の正確な文法に関する深い知識を必要としました。しかし、犯罪がかつてないほど速いスピードで進化するにつれ、人間の専門家は疲れ、圧倒され、時間が足りなくなっています。
そこに**大規模言語モデル（LLM）が登場します。これらは、図書館にあるすべての本を読み終えた、非常に賢いAI搭載の「法律書記官」だと考えてください。この論文が投げかける大きな問いは、「私たちは、これらのAI書記官にセキュリティガードのための実際の法律を書かせることを信頼できるのか、それとも、彼らは見た目だけ立派なデタラメを書き連ねるだけなのだろうか？」**ということです。
研究者たちは、単にAIにルールを書かせたのではありません。彼らは、何が起こるかを確認するために、10人の実際のセキュリティ専門家（「審判」）による厳格なテストを実施しました。その結果を分かりやすく説明します。
1. 「完璧な文法、間違った意味」というパラドックス
AI書記官は文法に関しては驚くほど優秀です。セキュリティルールを書くよう求められると、AIはほぼ常に、綴り、句読点、構造を完璧に仕上げます。それは、完璧な綴りと句読点で文章を書いているものの、現実世界では意味をなさないことを言っている学生のようなものです。
- 判明したこと： AIは、コンピュータがエラーなしで受け入れられるルール（構文的に正しいルール）を書くことができます。しかし、人間の専門家がそれらを見たとき、ルールがしばしば曖昧すぎたり、論理的に欠陥があったりすることに気づきました。約**12%**の確率で、AIは「幻覚（ハルシネーション）」を起こし、公式なもののように聞こえるものの、実際には犯罪者を捕まえることができないルールを作成していました。
2. サイズが重要（大きな脳 vs 小さな脳）
研究者たちは、異なるサイズのAIモデルをテストしました。
- 小型モデル： これらは、訓練がほとんど受けていないインターンだと考えてください。彼らはほぼ完全に失敗しました。コンピュータが受け入れられるようなルールすら書けませんでした。
- 大型モデル： これらは、シニア教授だと考えてください。彼らははるかに優れており、85〜90%の確率で「文法」を正しくできました。
- 落とし穴： ただし、「教授」たちでさえも、多くの助けを必要としました。彼らはしばしば初稿を間違え、ルールが使用可能になるまで何度も修正を必要としました。
3. 「抽象的すぎる」問題
これが人間の専門家からの最大の不満でした。
- 例え話： 「盗難車があるかもしれない」という理由で、あらゆる車を止めてしまうセキュリティガードを想像してください。それは役に立ちません。交通を妨げ、混乱を引き起こします。
- 現実： AIはルールが広すぎる傾向がありました。「赤いトラックのナンバープレートABC-123を止めろ」と言う代わりに、AIは「あらゆる車両を止めろ」と書いてしまうのです。専門家たちは、これらのルールはあまりに多くの誤報（ノイズ）を生み出し、本当の脅威を見つけることをより困難にすると指摘しました。AIは、正確な交通の種類や手がかりの正確な場所を確認するといった、詳細な部分を特定することに苦戦しました。
4. 人間が依然としてボスである
研究者たちは、AIがボスではなくヘルパーとして機能するシステムを構築しました。彼らは専門家に、AIとチャットし、その仕事をチェックし、間違いを修正するためのツールを提供しました。
- 結果： 専門家たちは、ドラフト作成や説明のためのツールとして、このツールを非常に高く評価しました。使いやすく、複雑なルールをより早く理解するのに役立つと述べました。
- 信頼の問題： しかし、誰もAIが単独で動作することを信頼していませんでした。彼らはAIを「ルールライター」ではなく、「ドラフト作成アシスタント」や「スペルチェッカー」として見なしていました。もしAIがルールを書いたとしても、それを実際のシステムに導入する前に、人間がゼロから書き直すか、大幅に修正する必要がありました。
- 判定： 専門家たちは、「作業をスピードアップさせるためにこれを使うが、AIに最終決定を任せることは決してない」と述べました。
5. 「コンテキスト（文脈）」の手がかり
AIは、「概念実証（PoC）」（ハッカーがどのように攻撃するかを示すサンプル）のような、より多くの背景情報を与えられたときにより優れたパフォーマンスを発揮しました。これは、単なる犯人の記述ではなく、犯人の写真を与えるようなものです。ただし、余計な情報を処理して混乱しないためには、AIが「大きな脳（大規模モデル）」である必要がありました。
まとめ
この論文は、AIはセキュリティ専門家にとって素晴らしいアシスタント（文法のチェック、複雑な概念の説明、大まかなアイデアのドラフト作成に優れている）ではあるものの、セキュリティルールの**設計者（アーキテクト）**になる準備はまだできていない、と結論付けています。
専門家たちは、AIが作業を速める手助けをする未来を描いていますが、同時に「人間がループの中にいる（Human in the loop）」状態を維持しなければならないと考えています。ミスをした際の影響（ハッカーを招き入れる、あるいは正当なユーザーを止めてしまうこと）があまりにも大きいため、機械だけに判断を任せることはできないのであり、ダブルチェックを行うのは人間であるべきだと考えています。
要するに： AIは完璧な文章を書く素晴らしい書記官ですが、その物語が実際に意味をなしているかどうかを確認するためには、依然として人間の編集者が必要です。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。