テクニカル・サマリー：信頼された自律性を備えたセキュリティ・オペレーション・センターにおける人間とAIの協調のための統合フレームワーク

問題提起

セキュリティ・オペレーション・センター（SOC）は、サイバー脅威の高度化と現在の自動化戦略の限界に起因する、極めて深刻な運用上の課題に直面している。SIEM（セキュリティ情報およびイベント管理）、SOAR（セキュリティ・オーケストレーション、自動化およびレスポンス）、EDR（エンドポイント検知およびレスポンス）ツールの統合にもかかわらず、SOCはアラート疲れ、高い誤検知率（研究によっては最大99%）、およびアナリストの燃え尽き症候群に苦しんでいる。既存のフレームワークは、多くの場合、静的またはバイナリな自律性設定（完全手動または完全自動）に依存しており、異なるSOCタスクに関連する複雑性、重要度、およびリスクを考慮できていない。さらに、現在の手法は、Human-in-the-Loop (HITL：人間が介在するループ) による意思決定、信頼のキャリブレーション（校正）、およびスケーラブルな自律性を管理するための体系的な構造を欠いていることが多い。このギャップは、人間がノイズに圧倒される一方で、AIシステムが高リスク、新規、あるいは曖昧なインシデントに対して必要な監視を受けられないという、非効率なワークフローをもたらしている。

メソドロジー

著者らは、自律性、信頼、および Human-in-the-Loop (HITL) の関与という三者関係に基づいた統合的人間–AI協調フレームワークを提案している。そのメソドロジーは、以下の3つのコアコンポーネントで構成される：

1. 自律性と信頼の理論的モデリング：

   • 自律性 ($A$): スカラー値 $A \in [0, 1]$ として定義され、タスクの複雑性 ($C$)、リスク ($R$)、および信頼 ($T$) の関数としてモデル化される：$A = 1 - (\lambda_1 C + \lambda_2 R)(1 - T)$。この方程式は、複雑性とリスクが高まると自律性が低下し、信頼が高まると自律性が向上することを提示している。
   • HITLの関与 ($H$): 自律性の逆数として定義される（$H = 1 - A$）。これは、完全な人間による制御から完全なAIによる自律性までの範囲を持つ。
   • 信頼 ($T$): 説明可能性 ($E$)、パフォーマンス履歴 ($P$)、および不確実性 ($U$) の加重和としてモデル化される：$T = \alpha_1 E + \alpha_2 P + \alpha_3(1 - U)$。

2. 5段階の自律性フレームワーク：
   SAE J3016（車両自動運転の基準）に触発され、著者らはSOC業務を、SOCアナリストのティア（Tier 1–4）およびNISTサイバーセキュリティフレームワークの機能（特定、防御、検知、対応、復旧）に整合させた5つの異なる自律レベル（0–4）にマッピングしている：

   • レベル0 (Manual/手動): 自動化なし。アナリストがすべてのタスクを処理する。
   • レベル1 (AI-Assisted/AI支援): AIが意思決定支援（例：アラートのスコアリング）を提供し、人間が完全な制御を保持する。
   • レベル2 (Semi-Autonomous/半自律): AIが定型的なタスクを実行するが、重要なアクションには明示的な人間の承認を必要とする。
   • レベル3 (Conditionally Autonomous/条件付き自律): AIが定義されたタスクを自律的に実行する。人間は監視（Human-on-the-Loop）を行い、例外的な場合にのみ介入する。
   • レベル4 (Fully Autonomous/完全自律): AIが最小限の人間による監視（Human-out-of-the-Loop）の下で包括的な機能を管理し、ガバナンスと監査に焦点を当てる。

3. 状況認識 (SA) の統合：
   本フレームワークは、SAを中心的な媒介変数として組み込んでおり、それを自己認識（自身の限界の認識）、チームメイト認識（役割と認知状態の理解）、およびワールド認識（脅威ランドスケープの整合したビューの維持）に分解している。これにより、AIの洞察が人間のメンタルモデル内で解釈されることを保証する。

4. 実証的検証（ケーススタディ）：
   本フレームワークは、ファインチューニングされた大規模言語モデル（LLM）エージェントであるCyberAllyを特徴とする模擬サイバーレンジ（ACDC Cyber Range）を用いて検証された。CyberAllyは、検索拡張生成（RAG）と知識グラフを備えており、IT/OT環境（海事港湾システム）におけるレッドチーム対ブルーチームの演習内で動作した。このエージェントは、SIEM (Wazuz)、SOAR、およびアナリストとチャットインターフェースを介して相互作用し、インシデントの複雑さと確立された信頼に基づいて自律レベルを進展させた。

主な貢献

• 三者関係フレームワーク: 本論文は、自律性、信頼、およびHITLの相互作用を形式化し、SOCにおける動的なタスク割り当てのための構造化されたアプローチを提供している。
• 階層化された自律性スケール: バイナリな自動化を超え、タスクのリスクとアナリストの信頼に基づいて適応的な委任を可能にする、粒度の高い5段階の自律性モデルを導入している。
• 役割の整合: フレームワークは、特定のSOCアナリストのティア（Tier 1–4）を、対応する自律レベルおよびHITL構成にマッピングしており、初期のトリアージから戦略的ガバナンスに至るまでの責任を明確にしている。
• 運用のワークフロー設計: アラート管理、脅威管理、および対応と復旧に関する協調的なワークフローを詳述し、AIと人間がいかにして共同で調査および共同で意思決定を行うかを実証している。
• 実証的エビデンス: CyberAllyのケーススタディを通じて、本フレームワークの実現可能性を実証しており、LLMベースのエージェントがいかにして誤検知を減少させ、レスポンス時間を加速させつつ、人間の監視を維持できるかを示している。

結果

ACDCサイバーレンジにおけるCyberAllyエージェントを用いたケーススタディでは、以下の定量的および定性的成果が得られた：

• 誤検知の削減: AIエージェントは誤検知アラートを70%から35%へと減少させ、信号対雑音比（S/N比）を大幅に改善した。
• 調査の効率性: 複雑なインシデント（例：資格情報の悪用、OT操作）の調査時間が3時間から1時間へと短縮された（67%の改善）。
• レスポンスタイム (MTTR): エンドポイントの隔離や脅威の封じ込めを含む特定のシナリオにおいて、平均対応時間が8時間から90分へと短縮された（80%の削減）。
• 自動化の規模: 自動化されたチケット作成が、全インシデントの10%から75%へと増加した。
• 信頼のキャリブレーション: 本研究は、信頼が静的なものではないことを示した。AIが説明可能な根拠を提供し、一貫したパフォーマンスを示すにつれて、信頼は進化し、レベル1（フルHITL）からレベル2/3（Human-on-the-Loop）の自律性への緩やかな移行が可能となった。

重要性と主張

本論文の主な意義は、人間の専門知識を置き換えることなく、AIをSOCに統合するための構造化され、スケーラブルで、理論に基づいたアプローチを提供することにある。AIの「ブラックボックス」的な性質と現在の自動化の硬直性に正面から取り組むことで、本フレームワークは、AIが人間の意思決定を信頼できる形で強化する**コグニティブSOC（認知型SOC）**を実現する。

著者らは、本フレームワークが以下の役割を果たすと主張している：

1. ギャップを埋める: 理論的な自律性と信頼のモデルを、実務的なSOCワークフローへと接続する。
2. リスクを軽減する: 自律性を信頼とリスクに基づいて調整することで、自動化バイアスを防ぎ、重要な決定に対する責任を確保する。
3. レジリエンスを高める: SOCが現代のサイバー脅威のボリュームに対応しつつ、業務をスケールさせ、アナリストの燃え尽き症候群と認知負荷を軽減することを可能にする。
4. 進化を促進する: 本フレームワークは、反応的なルールベースのSOCから、プロアクティブで適応的、かつ学習指向型のセキュリティ・オペレーション・センターへの移行をサポートする。

結論として、モデルのドリフト、説明可能性、および組織的な採用に関する課題は残されているものの、提案されたフレームワークは、信頼された自律性のためにAIを活用した次世代のSOCアーキテクチャを設計するための実行可能な経路を提供するものである。