기술 요약: 자원 제약 환경에서의 XAI 기반 네트워크 침입 탐지를 위한 설명 표면 거버넌스 (Explanation-Surface Governance)

1. 문제 정의

현재의 설명 가능한 AI(XAI)를 활용한 네트워크 침입 탐지 시스템(NIDS) 연구는 주로 모델의 결정 과정을 분석가에게 투명하게 만드는 '의미론적 해석 가능성(semantic interpretability)'에 집중되어 있다. 그러나 이러한 문헌들은 설명을 탐지 출력에 부가되는 수동적인 신뢰 증거로 취급할 뿐, 설명이 갖는 리소스 집약적인 '서비스 출력'으로서의 운영 실태는 간과하고 있다. 자원이 제한된 환경(예: 에지, IoT, 엔터프라이즈 게이트웨이)에서 설명을 생성하는 과정은 CPU, 메모리, 가속기 자원을 소비하며, 큐잉 지연(queueing delays)을 유발하고, '설명 부채(explanation debt, 설명되지 않거나 저충실도 경보의 백로그)'를 발생시킨다.

나아가, 설명 인터페이스 자체도 보안 취약점이 될 수 있다. 공격자는 트래픽을 조작하여 '설명 수요 인플레이션(explanation-demand inflation)'을 유발함으로써, 시스템이 과도한 연산을 수행하게 하거나, 중요한 경보를 지연시키거나, 정보 노출 예산(information-exposure budgets)을 고갈시키도록 강제할 수 있다. 기존 프레임워크에는 유한한 용량, 돌발적인 트래픽, 그리고 적대적 압박에 직면했을 때 언제, 어떻게, 그리고 *어느 정도의 충실도(fidelity)*로 설명을 생성할 것인지를 제어하는 메커니즘이 결여되어 있다. 즉, 패킷 QoS, 운영자 해석 가능성, 설명 부채, 그리고 정보 누출 노출 사이의 균형을 맞추는 제어 계층이 부재하다는 것이 핵심 문제이다.

2. 방법론: XAI-Gate

본 논문은 침입 탐지기와 설명 전달 메커니즘 사이에 위치하는 탐지기 불가지론적(detector-agnostic) 온라인 서비스 거버넌스 프레임워크인 XAI-Gate를 제안한다. 이 프레임워크는 기존의 IDS나 설명기(explainer)를 재학습할 필요 없이, 실시간 시스템 상태에 따라 7가지 설명 액션 중 하나를 동적으로 선택함으로써 '설명 표면(explanation surface)'을 관리한다.

2.1 시스템 모델 및 상태

시스템은 제약 조건이 있는 확률적 제어 문제(마르코프 결정 과정, MDP)로 모델링된다. 시간 슬롯 $t$에서의 상태 $S_t$는 다음을 포함한다:

• 패킷 큐 압박 ($Q_t$): 패킷 서비스 큐의 현재 부하.
• 설명 부채 ($E_t$): 설명이 필요한 경보들의 위험 가중 백로그.
• 노출 예산 ($L_t$): 허용 가능한 잔여 정보 누출량.
• 오프로드 신뢰도 ($b_{rt}$): 포그(fog)/클라우드로 오프로드 시 예상되는 왕복 시간(RTT).
• 의심 상태 ($H_t$): 적대적인 설명 수요 인플레이션 가능성을 나타내는 점수.

2.2 액션 공간 (Action Space)

각 경보에 대해 XAI-Gate는 $\mathcal{A} = \{0, C, D, F, O, A, R\}$ 집합 중 하나의 액션을 선택한다:

1. 억제 (Suppress, 0): 설명을 생성하지 않음; 가치가 낮거나 안전하지 않은 출력을 방지.
2. 조조 (Coarse, C): 상위 특징 그룹(feature groups)만 공개; 중간 수준의 의심 상황에서 상세도를 제한.
3. 지연 (Delay, D): 자원이 회복될 때까지 큐에 설명을 보관.
4. 전체 로컬 (Full Local, F): 최대 상세도를 위해 전체 로컬 속성(예: SHAP/LIME)을 공개.
5. 오프로드 (Offload, O): 정제된 경보 데이터를 관리형 클라우드/포그 설명기로 전송.
6. 감사 전용 (Audit-Only, A): 즉각적인 공개 없이 포렌식을 위한 메타데이터만 기록.
7. 편집 (Redact, R): 높은 의심이나 노출 압박이 있을 때 민감한 속성을 마스킹.

2.3 결정 정책 (Decision Policy)

정책 $\pi$는 시스템 상태와 경보 특징(점수 $s$, 예상 비용 $c$)을 액션으로 매핑한다. 선택은 다음의 균형을 맞추는 액션 점수 $\Psi_t(a; i)$에 의해 구동된다:

• 유용성(Utility): 설명의 보안 가치 및 운영자 유용성.
• 비용(Costs): 로컬 연산 비용, 노출 페널티, 부채 증가량, 오프로드 RTT.
• 제약 조건(Constraints): 누적 노출 예산 및 로컬 연산 용량에 대한 엄격한 상한선.

정책에는 '하드 노출 캡 가드(hard exposure-cap guard)'가 포함되어 있어, 고위험 경보의 전체 세트를 허용할 경우 남은 노출 예산을 초과할 것으로 판단되면 설명을 격하시키거나 지연시킨다. 이 방법은 알려진 전이 법칙(transition law) 없이도 안정성을 보장하기 위해 제약된 MDP 및 드리프트-플러스-페널티(drift-plus-penalty) 제어에서 영감을 얻은 온라인 대리 모델(online surrogate)을 통해 구현된다.

3. 주요 기여

1. 설명 표면 관리 정식화: XAI 기반 방어를 유한한 용량을 가지며, 지연에 민감하고, 적대적으로 트리거될 수 있는 '서비스 관리 문제'로 재정의하였다. 이를 통해 관리된 상태, 액션 공간, 그리고 위협 모델을 정의하였다.
2. XAI-Gate 온라인 제어 정책: 패킷 압박, 부채, 오프로드 불확실성 및 의심 상태에 따라 설명의 충실도와 전달 모드를 동적으로 선택하는 탐지기 불가지론적 정책을 제안하였다. 이는 새로운 IDS 학습 없이도 엄격한 노출 캡을 강제한다.
3. 공식 서비스 경계 분석: 제어 로직을 단순 휴리스틱이 아닌 검사 가능한 형태로 만들기 위해 지배 조건(dominance conditions)과 타당성 명제(예: 언제 전체 로컬 설명이 더 저렴한 액션에 의해 지배되는지, 또는 언제 오프로딩이 선호되는지)를 도출하였다.
4. XAI-SurfaceBench: KDDCup99, UNSW-NB15, TON IoT 데이터셋을 기반으로 한 엄격한 스트레스 테스트 벤치마크를 제공한다. 이는 탐지기를 새로 학습시킬 필요 없이, 서비스 프런티어 동작에 초점을 맞추어 9가지 트래픽/불확실성 레짐(돌발적 트래픽, 비-마르코프적 상황, 적대적 수요 인플레이션 포함)에서 성능을 평가한다.

4. 실험 결과

평가는 다양한 스트레스 레짐에 대해 20개의 랜덤 시드를 사용하여 수행되었다. 주요 결과는 다음과 같다:

• 적대적 수요 인플레이션: 기본 적대적 레짐에서 XAI-Gate는 0.800의 고위험 설명 커버리지를 달 것과 동시에 **노출 예산 위반 제로(0)**를 유지하였다. 반면, 기존의 임계값 정책은 약간 더 높은 커버리지(~0.884)를 달성했으나, 슬롯의 **28%**에서 노출 예산을 위반하였고 39% 더 많은 노출 예산을 소비하였다.
• 부채 감소: 임계값 정책과 비교했을 때, XAI-Gate는 평균 설명 부채를 57.3% 감소시켰다(약 3660에서 1561로 감소).
• 서비스 프런티어: XAI-Gate는 커버리지를 무조건 극대화하지 않는다. 대신, 약 8.4 퍼센트 포인트의 즉각적인 고위험 커버리지를 양보하는 대신, 제한된 노출과 현저히 낮은 부채를 확보하는 방식으로 운영 프런티어를 이동시킨다.
• 강건성: 심각한 수요 인플레이션(공격 배율 2.0) 상황에서 시스템은 커버리지가 떨어지고 패킷 드롭이 발생하는 '설명 거부(Denial-of-Explanation, DoE)' 상태에 진입하며, 이는 유한한 용량이 극복할 수 없는 물리적 한계임을 확인시켜 준다. 그러나 X-Gate는 베이스라인이 실패하는 실행 가능한 레짐에서도 일관되게 노출 위반 제로를 유지하였다.
• 소거 연구(Ablation Studies): 부채 인식, 노출 예산, 또는 충실도 제어 중 특정 메커니즘을 제거했을 때 성능이 저하되었으며, 이는 관찰된 이점이 이러한 변수들의 결합된 관리에 의한 것임을 확인해 준다.
• 실제 데이터 앵커: 결과는 UNSW-NB15(중복 제거된 재실행 포함) 및 TON IoT 데이터셋을 사용하여 보정했을 때도 일관되게 나타났으며, 이는 발견된 사항들이 합성된 점수 분포의 산물이 아님을 뒷받침한다.

5. 의의 및 주장

본 논문은 자신의 기여를 새로운 탐지기, 새로운 설명기, 혹은 보편적인 정확도 향상이 아니라, XAI 기반 네트워크 방어를 위한 서비스 관리 계층으로 겸허히 설정한다.

• 운영적 전환: 주요 의의는 설명을 정적인 해석 도구로 취급하던 것에서, 입구 제어(admission control)와 충실도 선택이 필요한 동적이고 자원이 제한된 '서비스 출력'으로 취급하는 것으로의 전환에 있다.
• 제한된 실행 가능성: 본 연구는 기존 AI 모델을 재학습하지 않고도 정보 누출을 방지하고 서비스 저하를 막기 위해 설명 생성을 제어하는 것이 가능하다는 것을 보여준다.
• 트레이드오프 관리: 연구 결과는 제한된 환경에서의 최적 전략이 "항상 설명하기"나 "정적 임계값 기반 설명"이 아니라, 패킷 QoS, 운영자 컨텍스트, 보안 노출 사이의 균형을 맞추는 상태 인식 정책임을 보여준다.
• 한계점: 저자들은 XAI-Gate가 기본 탐지기의 ROC(정밀도-재현율 곡선)를 개선할 수 없음을 명시적으로 밝힌다. 또한, 평가는 시뮬레이션된 큐잉과 대리 타이밍에 의존하므로, 실제 하드웨어 지연 시간 및 인간 운영자의 신뢰 역학에 대해서는 하드웨어-인-더-루프(hardware-in-the-loop) 및 사용자 연구를 통한 추가 검증이 필요하다. 이 시스템은 제약된 환경을 위해 설계되었으며, 자원이 풍부하거나 노출 우려가 없는 환경에서는 더 단순한 정책이 적합할 수 있다.

요약하자면, XAI-Gate는 설명 표면을 제어하기 위한 재현 가능한 프레임워크를 제공하여, NIDS에서의 XAI 활용이 시스템 안정성, 자원 고갈, 또는 보안 노출을 초래하지 않도록 보장한다.