DiagChain: A Diagnostic Benchmark for Evaluating LLM Agents on Evidence-Grounded Attack Chain Reconstruction
本論文は、69の多様なシナリオを備えた診断用ベンチマークであるDiagChainと、証拠に基づいた攻撃チェーンの再構成におけるLLMエージェントを評価するためのECRAGフレームワークを紹介しており、大規模なモデルは証拠の順序付けに苦戦する一方で、小規模なモデルは基本的な証拠の組み込みに失敗することを示し、それによって、総括的な正確さよりも段階的な評価の必要性を浮き彫りにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、あるミステリーを解決しようとしている探偵だと想像してください。ただし、現場は犯罪現場ではなく、デジタルな犯罪現場です。「手がかり」はいたるところに散らばっています：数百万行におよぶコンピュータのログ、セキュリティアラート、そしてシステム記録です。サイバーセキュリティの世界では、専門家は大規模言語モデル（LLM）——膨大な量のテキストを学習した非常に賢いAIチャットボット——を、デジタル探偵として活用しています。これらのAIエージェントは、乱雑な手がかりを読み解き、何が起きたのかを解明し、攻撃のストーリーを正しい順序で書き出すことが期待されています。このプロセスは**アタックチェーン再構成（attack chain reconstruction）**と呼ばれます。これは、数千のランダムなフレームに切り刻まれた映画を観て、そのフレームを正しい順序に戻してストーリーを語るよう誰かに頼むようなものです。
しかし、ここに問題があります。ほとんどのAI探偵のテストは、彼らが書き上げた最終的なストーリーのみを評価しています。もしストーリーが間違っていれば、テストは「失敗」と判定しますが、なぜ間違ったのかは教えてくれません。探偵は手がかりを見逃したのでしょうか？ 手がかりは見つけたけれど、書き写すのを忘れたのでしょうか？ それとも、正しい手がかりは見つけたものの、順番を間違えてしまったのでしょうか？ 私たちには、AI探偵が作業している最中にその脳内を覗き込み、どこで足取りを失ったのかを正確に特定する方法が必要です。ここで、新しい論文であるDiagChainが登場します。これは、単に最終的な答えを採点するのではなく、AI探偵がどこで足取りを見失うのか、その具体的なステップを診断するために設計された特別なテスト場を導入するものです。
この論文の著者である清華大学とCRRCの共同研究者たちは、この盲点を修正するために、DiagChainという新しいベンチマークを構築しました。彼らは、単純なものから非常に複雑なものまで、69種類の異なる「犯罪現場（シナリオ）」で構成されるMAIN-69というデータセットを作成しました。これらのシーンは、Linuxログ、Windowsイベント、クラウドアラートといった現実世界のデータに基づいています。テストをより現実的なものにするため、彼らは異なるレベルの「ノイズ」を加えました。例えば、AIが注意を逸らされないかを確認するために、手がかりの中に無害な背景の雑音を加えるといった手法です。また、攻撃チェーンの長さも、短い活動の連鎖から、長期にわたる侵入まで変化させました。
AIをテストするために、彼らはECRAG（Evidence-Centric Retrieval-Augmented Generation）と呼ばれる特別なワークフローを使用しました。これは、AI探偵に虫眼鏡と、自動更新されるノートを与えるようなものだと考えてください。AIは手がかりを検索し、それらをグループ化し、タイムラインを把握し、そして常に自分の作業をチェックしながらストーリーを書き上げなければなりません。研究者たちは、単一の最終成績ではなく、5つの特定の「健康診断」を用いてAIのパフォーマンスを測定しました。
- 検索（Retrieval）: AIは手がかりを見つけられたか？
- グルーピング（Grouping）: 関連する手がかりを正しいバケツに入れたか？
- 順序付け（Ordering）: イベントを正しい時間経過の順序に並べたか？
- グラウンディング（Grounding）: 見つけた手がかりを、自身のストーリーを裏付けるために実際に使用したか？
- 属性ギャップ（Attribution Gap）: 手がかりを見つけ、それを見たにもかかわらず、最終的な報告書への記載を忘れてしまったのではないか？
結果は目を見張るものでした。最も賢いAI構成であっても、MAIN-69データセットにおける849の参照ステップのうち、以前のミスなしに完全に正解できたのはわずか**39.6%**でした。論文は、AIモデルの種類によって「どこで失敗するか」が大きく変わることを示唆しています。小型のモデルは、基礎的な部分で苦戦することが多いようです。つまり、手がかりは見つけるものの、それを最終的なストーリーに組み込むことに失敗し、実質的に証拠を落としてしまうのです。一方、より強力で大型のモデルは、手がかりを見つけ、保持することには長けていますが、それらを正しい順序に並べる際に躓くことがよくあります。これは、銃は見つけたが書き写すのを忘れる小さな探偵と、銃も指紋も地図も見つけたが、強盗のタイムラインを完全に混乱させてしまう巨大な探偵の違いのようなものです。
研究者たちはまた、AIにより多くの時間や「検索予算（より多くの手がかりを見ることが許される状態）」を与えた場合に何が起こるかもテストしました。その結果、単にAIにリソースを増やしても、問題が自動的に解決されるわけではないことが分かりました。より多くの手がかりを見ることは、AIがより多くの証拠を見つける助けにはなりますが、それが証拠を正しく整理できることや、最終的な組み立てにおけるミスを止めることを保証するものではありません。実際、モデルによっては、より良い戦略なしに多くの手がかりを見すぎることは、タスクをより困難にするだけでした。
結局のところ、この論文は、単に最終スコアを見るのではなく、プロセスを診断する必要があると主張しています。研究結果は、AIモデルを大きくしても「チェーンの組み立て」の問題は解決せず、単にボトルネックが「手がかりを見つけること」から「手がかりを整理すること」へと移動するだけであることを示唆しています。真に信頼できるサイバーセキュリティエージェントを構築するためには、単に大きなモデルが自力で解決してくれることを期待するのではなく、見つけた証拠を取り込み、一貫性があり、順序立てられ、根拠に基づいたストーリーへと編み上げることに特化したシステムを設計する必要があります。著者たちは、他の人々がこれらのデジタル探偵をテストし、改善し続けられるよう、コードとデータを公開しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。