AMDS: Attack-Aware Multi-Stage Defense System for Network Intrusion Detection with Two-Stage Adaptive Weight Learning

1. 문제 정의 (Problem Statement)

기존의 머신러닝 기반 네트워크 침입 탐지 시스템 (NIDS) 은 다음과 같은 심각한 취약점을 가지고 있습니다.

• 적대적 공격에 대한 취약성: 그라디언트 기반 (FGSM, PGD 등) 및 분포 이동 (Distribution Shift) 기반 공격에 의해 탐지 성능이 급격히 저하됩니다.
• 균일한 방어 전략의 한계: 기존 방어 기법들은 다양한 공격 유형에 대해 동일한 방어 전략을 적용합니다. 그러나 공격 유형마다 탐지 가능한 신호 (Signature) 가 다르기 때문에, 단일 전략은 특정 공격에는 효과적일지라도 다른 공격에는 무력할 수 있습니다.
• 부정확한 Ensemble 해석: 기존 Ensemble 학습에서는 모델 간 의견 불일치 (Disagreement) 를 단순한 노이즈로 간주하여 평균화하지만, 이는 적대적 조작의 중요한 신호일 수 있습니다.
• 탐지와 분류의 분리: 기존 시스템은 보통 '적대적 샘플 탐지' 또는 '정상/악성 분류' 중 하나만 수행하며, 두 가지 정보를 동시에 제공하는 통합 시스템이 부족합니다.

2. 제안 방법론: AMDS (Attack-Aware Multi-Stage Defense System)

논문은 공격 유형을 인식하고 적응적으로 대응하는 다단계 방어 프레임워크인 AMDS를 제안합니다. 주요 구성 요소는 다음과 같습니다.

가. 적대적 인식 Ensemble (Adversarial-Aware Ensemble)

• 6 개의 이질적인 모델 (Decision Tree, Random Forest, XGBoost, LightGBM, Logistic Regression, MLP) 로 구성된 Ensemble 을 사용합니다.
• 각 모델의 예측 불일치 (Disagreement), 엔트로피 (Uncertainty), 그리고 Mahalanobis 거리를 기반으로 한 이상치 (Anomaly) 신호를 추출합니다.

나. 캐스케이드 라우터 (Cascade Router)

• 효율성을 위해 3 단계 처리 파이프라인을 도입합니다.
  • Stage 1 (고속 스크리닝): 높은 확신도와 낮은 불일치를 보이는 샘플은 즉시 분류합니다.
  • Stage 2 (ADS 계산): 의심스러운 샘플에 대해 다중 신호 기반의 '적대적 의심 점수 (ADS)'를 계산합니다.
  • Stage 3 (심층 검증): 고위험 샘플에 대해 2 단계 적응형 탐지와 모델 가중치 조정을 수행합니다.
• 이 방식을 통해 계산 비용이 큰 Mahalanobis 거리 계산을 모든 트래픽에 적용하지 않고, 의심스러운 샘플에만 적용하여 효율성을 높입니다.

다. 2 단계 적응형 탐지 (Two-Stage Adaptive Detection)

• 1 단계 (범용 및 카테고리 분류): 범용 가중치로 초기 의심 점수를 계산하고, 이상치 점수 (Anomaly Score) 를 기반으로 공격을 '그라디언트 기반' 또는 '분포 이동 기반'으로 분류합니다.
• 2 단계 (카테고리별 정제): 분류된 공격 카테고리에 따라 학습된 최적의 가중치 (Weight) 를 적용하여 탐지 정확도를 재조정합니다.
  • 핵심 발견: 그라디언트 기반 공격은 '불일치 (Disagreement)' 신호가 강하고, 분포 이동 공격은 '엔트로피' 또는 '이상치' 신호가 강하게 나타나는 패턴을 보입니다.

라. 공격 적응형 모델 가중치 (Attack-Adaptive Model Weighting)

• 추론된 공격 카테고리에 따라 Ensemble 내 각 모델의 가중치를 동적으로 조정합니다.
• 특정 공격 유형에서 성능이 우수한 모델에 높은 가중치를 부여하여 (예: $Acc^3$ 기반 가중치), 해당 공격에 대한 탐지 능력을 극대화합니다.

마. 이중 출력 아키텍처 (Dual-Output Architecture)

• 적대적 탐지 (Binary): 입력이 조작되었는지 여부 (0 또는 1) 를 판단합니다.
• 공격 분류 (Multiclass): 공격의 구체적인 유형 (정상, Botnet, DDoS 등) 을 식별합니다.
• 이를 통해 시스템은 방어뿐만 아니라 위협 인텔리전스 (Threat Intelligence) 도 제공합니다.

3. 주요 기여 (Key Contributions)

1. 다중 신호 통합의 필요성 증명: 단일 신호 (불일치, 엔트로피, 이상치 중 하나) 는 탐지력이 부족하지만 (AUC 0.138~0.549), 학습된 가중치로 세 가지 신호를 결합하면 AUC 가 97.1% 까지 향상됨을 증명했습니다.
2. 공격 유형별 최적화 가중치 학습: 7 가지 공격 유형 (FGSM, PGD, C&W, SPSA, Injection, Morphing 등) 에 대해 각기 다른 최적의 탐지 가중치를 학습했습니다. 특히 분포 이동 공격 (Injection, Morphing) 은 그라디언트 기반 공격과 완전히 다른 탐지 패턴을 보였습니다.
3. 2 단계 적응형 탐지 메커니즘 도입: 범용 탐지와 카테고리별 정제를 결합하여, 단일 전략 대비 AUC 를 17.2~36.3 포인트 향상시켰습니다.
4. 적응형 모델 가중치 전략: 공격 카테고리에 따라 모델 가중치를 동적으로 조정하여, 분포 이동 공격에 대한 F1 점수를 크게 개선했습니다.
5. 이중 출력 및 위협 인텔리전스: 탐지와 분류를 동시에 수행하여 기존 시스템의 한계를 극복했습니다.

4. 실험 결과 (Results)

• 데이터셋: CSE-CIC-IDS2018 (주요 평가), UNSW-NB15 (교차 검증).
• 성능 비교:
  • 전체 정확도: AMDS 는 84.8% 를 기록하여, 표준 Ensemble 대비 +3.9%p, 적대적 학습 (Adversarial Training, AT) 기반 Ensemble 대비 +4.5%p 향상되었습니다.
  • F1-Score: AT 대비 +9.0%p 향상되었습니다.
  • 적대적 학습의 한계: AT 는 표준 Ensemble 대비 오히려 정확도가 약간 하락 (-0.6%p) 하는 등 분포 이동 공격에 대한 방어 효과가 미미한 것으로 나타났습니다.
  • 분포 이동 공격 방어: Injection 공격에 대해 AT 대비 +30.4%p의 정확도 향상을 보였습니다.
• 적응형 적대자 (Adaptive Adversary) 평가: 시스템 아키텍처를 완전히 아는 White-box 환경에서도 94.4% 정확도를 유지하며 공격 성공률 (ASR) 을 4.2% 로 낮췄습니다.
• 교차 검증 (UNSW-NB15): 고차원 데이터 (190 개 특성) 에서 공격의 효과가 $\sqrt{d}$에 비례하여 증가함에 따라, 베이스라인 모델의 성능이 저하될 경우 AMDS 의 개선 효과도 제한적임을 발견했습니다. 이는 배포 시 특성 차원을 고려해야 함을 시사합니다.

5. 의의 및 결론 (Significance)

• 실용적 방어 전략: 적대적 학습 (Adversarial Training) 만으로는 다양한 공격 유형을 방어하기 어렵다는 점을 지적하고, **공격 유형별 최적화 (Attack-specific Optimization)**와 다중 신호 통합이 더 효과적인 접근법임을 입증했습니다.
• 효율성: 캐스케이드 라우팅을 통해 대부분의 정상 트래픽은 빠르게 처리하고, 의심스러운 트래픽에만 고비용 계산을 적용하여 실시간 배포 가능성을 높였습니다.
• 미래 방향: 학습된 가중치가 정적이라는 한계와 새로운 공격 유형에 대한 일반화 능력은 향후 연구 과제로 남겼으나, NIDS 의 적대적 견고성 (Robustness) 을 높이는 중요한 이정표가 되었습니다.

요약하자면, 이 논문은 단일 방어 전략의 한계를 극복하고, 공격의 특성을 학습하여 동적으로 방어 전략을 조정하는 AMDS를 통해 네트워크 침입 탐지 시스템의 적대적 견고성을 획기적으로 개선한 연구입니다.