PLAA: Packet-level Adversarial Attacks in Network Traffic Detection

기술 요약: PLAA: 네트워크 트래픽 탐지에서의 패킷 수준 적대적 공격 (Packet-level Adversarial Attacks in Network Traffic Detection)

문제 정의
심층 신경망(DNN)은 높은 분류 정확도 덕분에 네트워크 기반 침입 탐지 시스템(NIDS)에 점점 더 많이 배치되고 있습니다. 그러나 이러한 시스템은 탐지를 회피하도록 설계된 적대적 공격에 취каязви합니다. 기존의 적대적 공격 방법들은 컴퓨터 비전(CV) 기술을 NIDS 도메인에 적용하려는 경향이 있으나, 이미지 데이터와 네트워크 트래픽 사이의 근본적인 차이점을 간과하고 있습니다. 이러한 적응은 두 가지 결정적인 문제를 야기합니다:

1. 존재성 문제 (Issue of Existence): 네트워크 트래픽 특징(예: 평균 패킷 길이, 총 패킷 수)은 서로 상호 의존적입니다. 흐름 수준(flow-level)의 통계적 특징을 직접 수정하거나 이러한 의존성을 고려하지 않고 섭동(perturbation)을 추가하는 것은, 실제 네트워크 환경에서 통계적으로 유효하지 않거나 생성이 불가능한 트래픽을 초래할 수 있습니다.
2. 공격 의미론 문제 (Issue of Attack Semantics): 전통적인 적대적 수정은 탐지를 성공적으로 회피할 수는 있지만, 원래 공격의 의미론(semantics)을 파괴할 수 있습니다. 예를 들어, 서비스 거부(DoS) 공격은 높은 트래픽 속도에 의존합니다. 만약 탐지를 피하기 위해 적대적 수정을 통해 이 속도를 줄인다면, 해당 트래픽은 더 이상 DoS 공격으로서의 기능을 수행할 수 없게 됩니다.

잠금(locking) 핵심 특징, 사후 생성 프로토콜 조정, 또는 프로토콜 기반 연결 변환과 같은 현재의 완화 전략들은 제한된 공격 성능, 감소된 효과성, 또는 전문가 지식 및 시스템별 맞춤 설정에 대한 높은 의존성이라는 문제를 안고 있습니다.

방법론: PLAA
본 논문은 흐름 수준의 통계에서 패킷 수준의 특징으로 생성 과정을 전환함으로써 존재성과 의미론 문제를 해결하는 새로운 프레임워크인 PLAA(Packet-level Adversarial Attacks)를 제안합니다. 핵심 방법론은 적대적 트래픽을 점진적으로 구축하기 위해 강화 학습(RL) 프레임워크, 구체적으로는 Actor-Critic 아키텍처를 사용합니다.

• 패킷 수준 생성 (Packet-Level Generation): 흐름 수준의 통계적 특징을 직접 생성하는 대신, 에이전트는 패킷을 하나씩 생성합니다. 각 패킷은 네 가지 기본 특징인 헤더 길이($h_i$), 페이로드 길이($p_i$), 패킷 간 간격($t_i$), 그리고 플래그($f_i$)로 정의됩니다. 이들은 인코딩(정규화 또는 원-핫 인코딩)을 거쳐 NIDS에서 사용하는 흐름 수준의 통계적 특징으로 결합됩니다. 이 접근 방식은 생성된 트래픽이 본질적으로 유효하고 실현 가능함을 보장합니다.
• 상태, 행동 및 보상 (State, Action, and Reward):
  • 상태 ($S_i$): 지금까지 생성된 패킷 시퀀스로부터 도출된 현재의 흐름 수준 통계적 특징.
  • 행동 ($A_i$): 다음 패킷을 생성하는 데 필요한 파라미터 ($h_i, p_i, t_i, f_i$). 행동 공간은 유효성을 보장하기 위해 네트워크 프로토콜 지식에 의해 제약됩니다.
  • 보상 함수 ($R_i$): 에이전트를 가이드하는 복합 보상 함수:
    • 회피 보상 ($r^e_i$): 타겟 베니그(benign, 정상) 클래스와 NIDS 출력 사이의 크로스 엔트로피 손실을 최소화함으로써 트래픽이 정상으로 오분류되도록 유도합니다.
    • 의미론 보존 보상 ($r^s_i$): 원래 공격의 의미론으로부터의 이탈에 대해 벌점을 부여합니다. 여기에는 트래픽 속도 유지(DoS/Brute Force에 필수적)와 헤더/페이로드 특성 보존이 포함됩니다.
• 위협 모델 (Threat Model): 본 연구는 공격자가 NIDS 모델의 내부 구조나 입력 특징을 알지 못하지만, 시스템에 접근하여 분류 피드백을 얻을 수 있는 그레이 박스(Gray-Box, GB) 시나리오를 가정합니다.

주요 기여

1. 한계 분석: 저자들은 왜 기존의 CV 적응형 적대적 공격이 NIDS 문맥에서 실패하는지에 대해 심층적인 분석을 제공하며, 특히 "존재성"과 "공격 의미론"의 결핍을 강조합니다.
2. 새로운 패킷 수준 접근 방식: PLAA는 순차적인 패킷 수준 특징 생성 방법을 도입합니다. 패킷 단위로 트래픽을 구축함으로써, 프로토콜 인지 제약을 통해 유효한 트래픽을 생성하는 동시에 원래의 공격 의미론을 보존하여 유효하지 않은 트래픽 생성 문제를 근본적으로 해결합니다.
3. 경험적 검증: 제안된 방법은 여러 데이터셋(CIC-UNSW-NB15, CIC-DDoS2019, CIC-IDS-2017)과 다양한 NIDS 모델(DNN, CNN-LSTM, SVM, LR, KNN, RF)에 대해 평가되었습니다.

실험 결과
제안된 방법은 5가지 특정 공격 유형(Slow DoS, Brute Force, Probe, Generic, Fuzzers)에 대해 6가지 서로 다른 NIDS 모델을 대상으로 테스트되었습니다.

• 회피 성공률: PLAA는 평균 **92.78%**의 회피 성공률(Evasion Rate)을 달성했습니다. 이는 원래 탐지 가능했던 악성 트래픽을 테스트된 모든 모델에서 정상으로 분류되는 적대적 트래픽으로 성공적으로 전환시켰음을 의미합니다.
• 의미론 보존: 생성된 트래픽은 요구되는 공격 의미론을 유지했습니다. 예를 들어, Slow DoS 공격은 낮은 속도의 특성을 유지하였고, Brute Force 공격은 필요한 경우 높은 속도를 유지하였습니다.
• 실제성 (Realism): 길이, 시간, 속도 측면에서 적대적 트래픽이 원래의 악성 트래픽으로부터 얼마나 벗어났는지 측정하기 위해 "이상치 점수(Anomaly Score)"가 정의되었습니다. 결과에 따르면, 일부 편차(특히 패킷 길이를 늘려야 하는 필요성으로 인한 Slow DoS의 속도 측면)가 발생했으나, 전반적인 트래픽은 현실적이며 공격 유형과 일치하는 것으로 나타났습니다.
• 수렴성: RL 에이전트는 약 4,000번의 훈련 에피소드 후에 수렴하였으며, 누적 보상이 안정화되었습니다.

의의 및 주장
본 논문은 PLAA가 기존 NIDS 대상 적대적 공격의 한계에 대한 근본적인 해결책을 제공한다고 주장합니다. 흐름 수준의 직접적인 조작에서 벗어나 패킷 수준의 강화 학습 기반 접근 방식을 채택함으로써, 이 방법은 적대적 트래픽이 실제로 생성 가능하며 원래의 공격 의도와 의미론적으로 일치하도록 보장합니다. 저자들은 본 연구가 이러한 트래픽을 생성하기 위한 이론적 방법론에 집중하고 있으며, 광범-데이터셋 기반 실험을 통해 검증되었음을 강조합니다. 또한, 실제적인 적용 가능성을 더욱 검증하기 위해서는 향후 연구에서 데이터셋 기반 평가에서 실제 악성 네트워크 트래픽 시나리오로 전환이 필요함을 인정합니다.