Boundary-Seeking GAN-Augmented TabTransformer for Adversarially Robust Intrusion Detection

기술 요약: 적대적 강건성을 갖춘 침입 탐지를 위한 경계 탐색형 GAN 증강 TabTransformer

문제 정의
머신러닝 기반 침입 탐지 시스템(IDS)은 현대적인 네트워크 환경에서 두 가지 핵심적인 과제에 직면해 있습니다: 심각한 클래스 불균형과 적대적 공격에 대한 취약성입니다. CICIDS2017과 같은 데이터셋에서는 정상 트래픽이 공격 트래픽(예: Infiltration 샘플은 극히 적음)을 압도적으로 많이 포함하고 있어, 모델이 다수 클래스에 편향되는 결과를 초래합니다. 또한, 모델이 깨끗한 데이터에서는 높은 정확도를 달al 수 있을지라도, 탐지를 회피하기 위해 정교하게 조작된 입력값이 제시될 경우 성능이 무너지는 경우가 많습니다. 기존 연구들은 일반적으로 이러한 문제들을 별개로 다룹니다. 즉, GAN은 불균형 해소를 위한 데이터 증강에 사용되는 반면, 강건성은 별도의 프레임워크를 통해 평가됩니다. 소수 클래스 증강 엔진과 적대적 샘플 생성기 역할을 동시에 수행하는 단일 생성 모델과 셀프 어텐션 기반 정형 데이터 분류기를 결합한 프레임워크는 기존에 존재하지 않았습니다.

방법론
저자들은 **경계 탐색형 생성적 적대 신경망(Boundary-Seeking Generative Adversarial Network, BGAN)**과 TabTransformer 분류기를 통합한 이중 목적 프레임워크를 제안합니다.

1. 데이터셋 및 전처리: 본 연구는 약 280만 개의 플로우(flow)와 8개의 클래스로 구성된 CICIDS2017 데이터셋을 활용합니다. 데이터는 78개의 흐름 통계적 특징(예: 패킷 수, 지속 시간, TCP 플래그)을 추출하도록 전처리됩니다. 훈련 세트는 층화 분할(80:20)을 거치며, 정상 트래픽은 지배력을 줄이기 위해 200,000개 샘플로 언더샘플링되는 반면, 테스트 세트는 원래의 비율을 유지합니다.
2. BGAN 증강: 전체 분포 전반에서 샘플을 생성하는 일반적인 GAN과 달리, BGAN은 정상 클래스와 악성 클래스 사이의 결정 경계 근처에서 샘플을 생성하도록 학습됩니다. 이는 판별기(discriminator) 출력이 0.5에 근접한 모호한 샘플을 강조하는 중요도 가중치 $w(x) = D(x) / (1 - D(x))$를 사용하여 달성됩니다.
   • 이중 역할: 학습된 BGAN은 소수 클래스(Botnet, Web_Attack, Infiltration)를 증강하기 위한 합성 샘플을 생성하는 동시에, 분류기를 스트레스 테스트하기 위한 적대적 샘플을 생성합니다.
   • 극단적 불균형 처리: 훈련 샘플이 29개뿐이었던 Infiltration 클래스의 경우, BGAN이 수렴하지 못했습니다(Wasserstein 거리 > 8.0). 결과적으로 "Mixed" 시나리오에서는 이 특정 클래스에 대해 가우시안 노이즈 대체 방식을 사용하였으나, Botnet과 Web_Attack은 BGAN 생성 샘플을 통해 각각 최대 6,000개까지 증강되었습니다.
3. TabTransformer 분류기: 분류 모델은 TabTransformer를 채택합니다. 이는 셀프 어텐션 메커니즘을 사용하여 정형 데이터를 독립적으로 처리하는 대신, 특징 간의 관계를 직접 모델링합니다. 모델은 임베딩과 두 개의 트랜스포머 블록을 통해 78개의 연속형 특징을 처리하며, 이후 다층 퍼셉트론 헤드가 최종 분류를 수행합니다.
4. 평가 지표: 성능은 정확도(Accuracy), 정밀도(Precision), 재현율(Recall), 그리고 Macro-F1로 측정됩니다. 적대적 강건성은 다음을 통해 정량화됩니다:
   • 성능 저하율 (Performance Drop Rate, PDR): 깨끗한 테스트 샘플이 BGAN 생성 적대적 샘플로 교체될 때 발생하는 F1-스코어의 상대적 저하.
   • 오탐 발생률 (False Triggered Rate, FTR): 작은 가우시안 섭동(perturbation)이 추가된 후 정상 샘플이 오분류되는 비율.

주요 기여

• 이중 목적 프레임워크: 본 논문은 단일 BGAN 모델이 클래스 불균형(증강을 통해)과 강건성 평가(적대적 샘플 생성을 통해)를 모두 해결하는 통합된 프레임워크를 도입하였으며, 이는 기존의 흐름 기반 IDS에서는 실현되지 않았던 조합입니다.
• 다중 클래스 적대적 조건으로의 확장: 본 연구는 기존의 TabTransformer 기반 IDS 연구를 이진 분류에서 적대적 조건 하의 다중 클래스 시나리오로 확장했습니다.
• 정량화된 강건성: 연구는 PDR과 FTR을 사용하여 강건성을 엄격하게 평가하였으며, 증강이 모델을 완전한 취약 상태(100% 성능 저하)에서 회복 탄력성이 있는 상태로 전환할 수 있음을 입증했습니다.

결과

• 분류 성능: CICIDS2017 데이터셋에서 BGAN으로 증강된 TabTransformer는 Macro-F1 스코어를 베이스라인(82.96%)에서 86.50%로 향상시켰습니다. 가장 유의미한 개선은 Web_Attack 클래스에서 관찰되었는데, 여기서 F1-스코어가 0.29에서 0.61로 상승했습니다. Random Forest와 Decision Tree는 깨끗한 데이터에서 더 높은 전체 Macro-F1(약 96%)을 달성했지만, 증강된 TabTransformer의 강건성에는 미치지 못했습니다.
• 적대적 강건성 (PDR):
  • 베이스라인 모델: 증강되지 않은 모든 모델은 적대적 테스트 하에서 100% 성능 저하율을 보였으며, 이는 경계 인접 공격에 대한 완전한 실패를 의미합니다.
  • 증강된 모델: (Infiltration에 대한 Mixed 시나리오를 제외한) 모든 BGAN 증가 모델은 음(-)의 PDR 값을 달성했습니다. 이는 공격 상황에서도 성능이 유지되거나 오히려 향상되었음을 의미합니다. 예를 들어, TabTransformer는 Botnet에 대해 -24.75%, Infiltration에 대해 -9.80%의 PDR을 기록했습니다.
• 노이즈 탄력성 (FTR): Full BGAN 증강을 적용한 TabTransformer는 다양한 노이즈 수준에서도 안정적이고 낮은 오탐 발생률(1.51%~2.92%)을 유지했습니다. 반면, BGAN으로 증강된 Decision Tree는 정상 데이터 섭동 하에서 FTR이 49.09%까지 치솟았으며, 이는 GAN 데이터가 트리 기반 모델을 불안정하게 만들 수 있음을 나타냅니다.

의의 및 주장
저자들은 제안된 BGAN-TabTransformer 프레임워크가 적대적 네트워크 환경에서 침입 탐지를 위한 효과적이고 적응적인 솔루션을 제공한다고 주장합니다. 연구의 결론은 다음과 같습니다:

1. 강건성은 달성 가능하다: 훈련 과정에서 경계 탐색형 합성 샘플에 노출되는 것은 모델의 행동을 근본적으로 변화시켜, 비증강 모델에서 나타나는 완전한 붕괴를 방지합니다.
2. 아키텍처가 중요하다: TabTransformer의 셀프 어텐션 메커니즘이 경계 영역 훈련 데이터와 결합될 때, 특정 생성기 시그니처나 노이즈에 더 취약한 일반 MLP 또는 트리 기반 모델보다 우수한 일반화 능력과 회복 탄력성을 제공합니다.
3. 이중 효용성: 단일 생성 모델이 희귀 클래스를 위한 데이터 증강 도구와 모델 보안을 위한 엄격한 스트레스 테스트 메커니즘으로서 모두 효과적으로 기능할 수 있습니다.

본 논문은 한계점으로 Infiltration 클래스가 극단적인 희소성으로 인해 여전히 모델링이 어렵다는 점(향후 퓨샷 러닝 필요), 특징 중첩으로 인해 Web_Attack의 정밀도가 낮게 유지된다는 점, 그리고 현재의 평가가 실제 네트워크 배포가 아닌 오프라인의 통제된 환경에서 제한적으로 이루어졌다는 점을 언급하며 마무리합니다.