技術概要：GRID – セキュリティテキスト知識グラフ構築のための知能データのグラフ表現

1. 問題定義

本論文は、セキュリティエージェントや大規模言語モデル（LLM）が関連する証拠に基づいて推論を行うために、サイバー脅威インテリジェンス（CTI）を計算可能で追跡可能な知識グラフ（KG）として構造化する必要性に焦点を当てています。構造化されていない CTI 記事（ブログ、レポート）には、攻撃行動やマルウェアの進化に関する豊富な詳細が含まれていますが、既存のアプローチは以下の 4 つの主要な課題に直面しています：

1. ドメイン統合の欠如: 汎用 LLM は、特に小規模なモデルでは特定のセキュリティドメイン知識を欠くことが多く、高価な商用 API への依存を余儀なくされます。
2. データ不足: エンドツーエンドの学習に使用するための、CTI テキストとそれに対応する真の知識グラフが整列した高品質な公開データセットが存在しません。
3. 高コストな報酬信号: ドキュメントからグラフへのエンドツーエンド抽出は、オープンエンドな生成タスクです。強化学習（RL）の報酬を設計するのは困難であり、各学習ステップで LLM をジャッジとして用いて完全なグラフ出力をスコアリングすると、莫大なコストが発生します。
4. 表面的な学習: LLM は、CTI 内のエンティティの別名、階層、関係制約に対する深い意味理解ではなく、表面的な語彙的重なりを頼りにする傾向があります。

2. 手法

著者は、4B パラメータの LLM（Qwen3-4B-Instruct-2507）を用いて長文テキストからセキュリティ知識グラフを構築するためのエンドツーエンドフレームワークである**GRID（知能データのグラフ表現）**を提案します。このフレームワークは、以下の 4 つの中核コンポーネントで構成されます：

A. 記事 - グラフ整合性の自動注釈

大規模な手動ラベリングなしにデータ不足の問題を解決するため、GRID は 2 段階の注記と修正ループを導入します：

1. 追跡可能な抽出: LLM が厳密な「テキスト証明可能」制約の下で、生 CTI 記事から知識グラフを抽出し、逐語的な証拠アンカー（ソーステキストのスパン）を保持します。
2. KG 条件付き修正: 元の記事を LLM によって書き換え、抽出されたグラフに捕捉されていないセキュリティコンテンツを除去しつつ、セキュリティ以外のコンテキストと保護されたアンカーを保持します。
   このプロセスにより、修正された記事 $a'$ がグラフ $G'$ と明示的に整合している高品質な $(a', G')$ ペアが生成されます。

B. RL 学習のためのタスクバンク再定式化

完全なグラフ生成を直接報酬化する代わりに、GRID は学習目的をスクリプト化されたタスクバンクに再定式化し、コストを削減して報酬を安定させます：

• 多肢選択問題: 正解の選択肢のサブセットが真の答えとなる 4 つの選択肢を持つ問題を生成します。誤答（ダストラクター）は、「ニアミス」または「幻覚」ケース（正しいエンティティだが間違った関係など）として設計されます。
• 正規表現ターゲット: 各真のグラフエッジをトリプルレベルの正規表現ターゲットに変換します。
• 報酬メカニズム: 選択タスクでは完全一致に基づき、正規表現タスクでは正規化された一致率に基づいて報酬を計算します。これにより、高価な全体グラフスコアリングが、安価でローカルなタスクレベルのチェックに置き換えられます。

C. 記事の複雑性モデリング

フレームワークは、長さ、エンティティ/関係の数、およびグラフ接続性の統計に基づいて、各記事にスカラーの複雑性スコアを割り当てます。これにより記事複雑性順序付き学習が可能となり、RL エージェントが簡単な例から難しい例へと順次進歩できるようになります。

D. オントロジーガイド推論

GRID は、実用的な抽出のために洗練された STIX に着想を得た CTI 固有のオントロジーを採用し、エンティティタイプ（例：threat-actor、malware、vulnerability）と関係ファミリーを定義します。このオントロジーは LLM に対して以下をガイドします：

• タイプ付けされたカテゴリと階層に基づいて暗黙的な関係を推論する。
• 外部の補完や主語の昇格を禁止することで、テキスト証明可能な真実を強制する。
• 構造的整合性を確保するために別名と関係を正規化する。

E. 評価プロトコル

システムは、自動評価のためのLLM ジャッジ評価器を使用します。ジャッジは「テキスト証明可能」ルールに基づいて精度と再現率をスコアリングし、モデルが予測されたすべてのエッジに対して支持となるテキスト証拠を引用することを要求します。この評価器は 3 人の人間のレビューアに対して較正され、86.0% の一致率を達成しました。

3. 主要な貢献

1. 自動データパイプライン: 大規模な手動注釈なしに追跡可能な記事 - グラフ整合性を生成する新規アルゴリズム。これにより、生 CTI 記事から教師ありデータセットが効果的に作成されます。
2. 低コスト RL 戦略: 「タスクバンク」アプローチにより、オープンエンドなグラフ抽出を多肢選択問題と正規表現マッチングに再定式化し、オンライン LLM ジャッジスコアリングと比較して RL 学習の計算コストを大幅に削減します。
3. オントロジーガイド抽出: セキュリティ固有のオントロジーを統合して LLM をガイドするフレームワーク。閉じられたラベル分類に依存することなく、意味理解を向上させ、幻覚を削減します。
4. 統合ベンチマーク: 5 つの異なるソース（GRID、CASIE、CTINexus、MalKG、SecureNLP）からの 249 件の CTI 記事と、信頼性の高い自動評価プロトコルを含むベンチマークの作成。

4. 実験結果

著者は、4B パラメータモデルを使用して統合ベンチマーク上で GRID を評価しました。

• ベースラインとのパフォーマンス比較: 主要なタスクバンク報酬モデルは以下の結果を達成しました：
  • 84.62% のソース平均精度。
  • 64.91% のソース平均再現率。
  • 68.53% の平均 F1 スコア。
  • 全てのベースラインの中で最高の再現率を達成し、CTINexus などの最強の競合他社と比較してほぼ同率のトップ F1 スコアを達成しました。また、推論トークン数は約**40%**で済みました。
• アブレーション研究（RQ2 & RQ3）:
  • タスクバンク報酬アプローチは、オンライン LLM ジャッジスコアリングで学習されたエンドツーエンド報酬モデルよりも、再現率で 11.06 ポイント、F1 スコアで 10.47 ポイント上回りました。また、トレーニングコスト（60 ドル対 942 ドル）において著しく安価でした。
  • 正規表現ブランチを除去すること（選択のみ）は、再現率を 31 ポイント低下させ、トリプルレベルマッチングの必要性を実証しました。
  • 記事の書き換えと複雑性順序付き学習の両方が最適パフォーマンスに必要であることが示されました。いずれかを除去すると、トレーニング報酬とテストスコアが低下しました。

5. 意義と主張

本論文は、GRID が小規模なオープンソース LLM にセキュリティドメイン知識を付与するための低コストでスケーラブルな解決策を提供すると主張しています。その意義は以下の点にあります：

• コスト効率: 監督構築（オフライン、一回のコスト）をトレーニング（再利用可能なタスクバンク）から分離することで、完全なグラフ判定を伴うオンライン RL の莫大なコストを回避します。
• パフォーマンス: このフレームワークを通じて適切に監督された 4B モデルは、再現率と F1 スコアにおいて、より大規模または複雑なパイプライン（CTINexus など）を上回るか同等のパフォーマンスを発揮し、かつより効率的であることを実証しています。
• 信頼性: フレームワークは「テキスト証明可能」な抽出と評価を重視し、生成された知識グラフが外部知識から幻覚されたものではなく、ソーステキストに基づいていることを保証します。

著者は、このアプローチが構造化されていないセキュリティテキストと構造化された知識グラフの間のギャップを成功裡に埋め、セキュリティエージェントや脅威インテリジェンスシステムのための実用的なパイプラインを提供すると結論付けています。