A Queryable Knowledge Graph of MITRE ATLAS: Cross-Linking Adversarial AI Taxonomies for Grounded Threat Reasoning
本論文は、静的なMITRE ATLASドキュメントを、クエリ実行可能でLLMに基づいたシステムへと変換し、OWASP Top 10 for LLM Applicationsと相互リンクさせたNeo4jベースのナレッジグラフを提示するものであり、これにより実務者が脅威推論を行い、40件の未対策の生成AIテクニックを特定し、ATLASのタクティクスとOWASPのリスクカテゴリの直交性を実証することを可能にしている。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたの手元には、セキュリティの専門家によって書かれた、非常に詳細で膨大な百科事典があります。その名はMITRE ATLAS。この本には、「デジタル上の悪役」が人工知能（AI）システムをハッキングするための既知のあらゆる手法が記されています。そこには、悪役の目的（タクティクス）、彼らが使う具体的な手口（テクニック）、利用可能な防御策（ミティゲーション）、そして実際に起きた攻撃の物語（ケーススタディ）がリストアップされています。
しかし、この論文によれば、問題はその百科事典が**静的（スタティック）**であることです。それはまるで、ガラスの向こう側に本が閉じ込められた図書館のようなものです。あなたは読むことはできますが、司書に「まだ防御策が存在しない手口をすべて示して」とか、「この特定の攻撃と、あの特定の弱点の間のつながりを見せて」と頼むことはできません。あなたは手動でページをめくり、リストを照合し、何かを見落としていないかと祈るしかないのです。
Salwa Makniの論文は、その「鍵のかかった図書館」を、生きて動くインタラクティブな地図へと変えるための取り組みについて書かれています。
以下は、彼らが何を行ったのかを、簡単な比喩を用いて解説したものです。
1. 地図の構築（ナレッジグラフ）
データを単なるリストや文書として保持するのではなく、著者はデジタルなクモの巣（Neo4jを用いた「ナレッジグラフ」と呼ばれるもの）を構築しました。
- ノード（点）： 各点はパズルのピースを表します。特定の攻撃の手口、悪役の目的、防御戦略、あるいは現実世界の攻撃の物語などです。
- ストリング（線）： 点と点を結ぶ線は、それらがどのように関連しているかを示します。例えば、「LLMプロンプト・インジェクション（プロンプト注入）」（手口）から「プロンプト・インジェクション」（目的）へ、そして別の線で「入力バリデーション（入力検証）」（防御策）へと線が引かれます。
- なぜこれが重要なのか： 通常の文書では、関連性を見つけるには読み込む必要があります。しかし、この地図では、手口からその防御策へと「歩いて」行ったり、どの手口に防御策への「糸」が一本も繋がっていないかを瞬時に確認したりすることができます。
2. 二つの異なる言語の融合（クロス・リンキング）
セキュリティチームは二つの異なる言語を話します。
- MITRE ATLASは、「アドバーサリ・タクティクス（敵対者の戦術）」（悪党がどのように考え、どのように動くか）を話します。
- OWOWASP Top 10は、「アプリの脆弱性」（ソフトウェアのどこが弱いか）を話します。
著者は、これら二つの世界の間に手動で橋を架けました。彼らは、OWASPによるLLMのリスクに関する主要な10のカテゴリを取り、それらをMITRE ATLASの特定のテクニックへと接続しました。
- 発見： 彼らは、これら二つのリストは単に重複しているのではなく、直交している（グラフのX軸とY軸のような関係である）ことを見出しました。一方は「悪党が何をしたいか」によって整理され、もう一方は「ソフトウェアのどこが弱いか」によって整理されています。これらを接続することで、平面的な2Dリストではなく、問題の3Dビューを得ることができるのです。
3. 「根拠に基づいた」探偵（推論エンジン）
著者は、AI（LLM）を使って質問に答えるツールを構築しましたが、そこには厳格なルールがあります。**「AIは作り話をしてはならない」**というルールです。
- 仕組み： 「この攻撃を防ぐにはどうすればいいですか？」と尋ねたとき、AIは自身の学習内容に基づいて推測するのではなく、まず地図上の攻撃の特定のID番号を調べ、データベースから正確な事実を掴み取り、それを要約して提示する「司書」のように振る舞います。
- メリット： もし地図に「防御策は存在しない」とあれば、AIは「防御策は存在しません」と答えます。AIが偽の解決策を捏造（ハルシネーション）することはありません。すべての回答には、研究論文の脚注のように、元のソースを指し示す「引用タグ」が付いています。
4. 明らかになったこと（結果）
この地図に対してクエリを実行することで、著者は静的な文書の中に隠されていた厳しい真実を明らかにしました。
- 防御のギャップ： 生成AIを標的とした特定のテクニックのうち、現在文書化された防御策がゼロであるものが40件あることを発見しました。これは、ピッキングツールが存在しない鍵穴に対して、40通りの新しい開け方を見つけたようなものです。
- 最強の防御策： どの防御策が最も広い範囲をカバーしているかを特定しました。例えば、「AIテレメトリ・ロギング（AIが行ったことの詳細なログ記録）」は17種類の手口をカバーしており、優先度の高い防御策であることが分かりました。
- 直交性： 一方のリスト（OWASP）だけで、もう一方（ATLAS）の問題を解決することはできないということを証明しました。全体像を把握するには、両方が必要なのです。
5. これは何であり、何ではないのか
- これは： 動作するプロトタイプであり、データベースであり、セキュリティエンジニアが推測ではなく確かなデータに基づいて複雑な質問をし、答えを得るためのツールです。
- これは（現時点では）： 完成された商業製品ではありません（まだです）。著者は、地図はまだ構築段階であることを認めています。例えば、「なぜその防御策が機能するのか」といった接続関係はまだ十分に詳細ではありませんし、「AI探偵」は、最初の質問が完璧でない場合にテクニックを見逃してしまうこともあります。
- これは： AIセキュリティを魔法のように解決する杖ではありません。人間が状況をより良く理解し、より優れた防御を構築できるようにするための支援ツールです。
要約すると： この論文は、静的で読み取りにくいAIの脅威リストを、動的で検索可能な地図へと変貌させました。それは二つの異なるセキュリティ言語を接続し、嘘をつかずに質問に答えるためのAIを活用し、我々の防御がどこで欠落しているのかを明確に浮き彫りにしています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。