🤖 machine learning

Multi-Level Distributional Entropy for Explainable Network Intrusion Detection

이 논문은 원시 패킷 데이터나 학습을 요구하지 않으면서도 효과적이고 재현 가능한 네트워크 침입 탐지를 가능하게 하고, 집계된 지표에 의해 숨겨진 결정적인 성능 실패를 드러내는, 플로우 수준의 통계로부터 엔트로피 기반 특징을 직접 도출하는 해석 가능한 프레임워크인 다층 분포 엔트로피(Multi-Level Distributional Entropy, MDE)를 소개한다.

원저자: Mohamed Aly Bouke, Md Shohel Sayeed, Swee-Huay Heng, Azizol Abdullah, Mohamed Othman

게시일 2026-06-30

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Mohamed Aly Bouke, Md Shohel Sayeed, Swee-Huay Heng, Azizol Abdullah, Mohamed Othman

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

핵심 요약: "눈먼" 보안 요원

활기찬 공항에 있는 보안 요원을 상상해 보세요. 이들의 임무는 수천 명의 일반 여행객(정상적인 인터넷 트래픽) 사이에서 테러리스트(해커)를 찾아내는 것입니다.

수년 동안 이 요원은 합계라는 체크리스트를 사용해 왔습니다. "이 사람이 가방을 몇 개나 들고 있는가?", "줄에 얼마나 오래 서 있었는가?", "수하물의 무게는 얼마인가?" 등입니다. 이것들은 컴퓨터 보안에서 사용하는 표준 통계(패킷 수, 데이터 볼륨)와 같습니다.

문제는 이러한 합계 수치들이 패턴을 놓친다는 점입니다. 테러리스트는 관광객과 정확히 같은 개수의 가방을 들고 있을 수 있지만, 관광객은 자연스럽게 움직이는 반면 테러리스트는 매우 경직되고 로봇 같은 방식으로 가방을 옮길 수 있습니다. 기존의 체크리스트는 이러한 미세한 행동 차이를 무시합니다.

이 논문은 **MDE (Multi-Level Distributional Entropy, 다단계 분포 엔트로피)**라는 새로운 도구를 소개합니다. MDE는 단순히 가방의 개수를 세는 대신, 트래픽의 리듬과 다양성을 분석하여 그것이 "인간적인지" 아니-면 "로봇 같은지"를 판별합니다.

파트 1: MDE의 작동 원리 (3가지 단계)

연구진은 모든 개별 데이터를 볼 필요 없이 "엔트로피"(무작위성 또는 혼돈의 척도)를 계산하는 방법을 만들었습니다. 그들은 이를 세 가지 창의적인 방식으로 수행합니다.

1단계: "리듬 체크" (가우시안 미분 엔트로피 - Gaussian Differential Entropy)
- 비유: 드러머의 연주를 듣는다고 상상해 보세요. 인간 드러머는 자연스러운 변화가 있습니다. 때로는 스네어를 조금 더 세게 치기도 하고, 때로는 조금 더 살살 치기도 합니다. 하지만 로봇 드러머는 매번 완벽하게 동일한 힘으로 똑같이 타격합니다.
- 과학적 원리: MDE는 데이터 패킷의 크기를 살펴봅니다. 만약 패킷 크기가 모두 정확히 같다면(로봇처럼), "엔트로피"는 낮습니다. 만약 자연스럽게 변한다면(인간처럼), 엔트로피는 높습니다. MDE는 개별 패킷을 일일이 볼 필요 없이, 크기의 평균과 퍼짐 정도를 수학적으로 계산하여 이를 파악합니다.
2단계: "일방통행" 체크 (젠슨-샤논 발산 - Jensen-Shannon Divergence)
- 비유: 정상적인 대화는 양방향 도로와 같습니다. 내가 말하면 상대방도 대답합니다. 하지만 고함 소리나 메가폰 소리는 일방통행입니다. 내가 소리를 지르면 상대방은 아무 말도 하지 못합니다.
- 과학적 원리: 많은 사이버 공격(DDoS 플러드 등)은 방대한 양의 데이터를 한 방향으로만 보내고 거의 아무것도 받지 않습니다. MDE는 트래픽이 얼마나 "한쪽으로 치우쳐 있는지"를 측정합니다. 트래픽이 균형 잡혀 있다면 인간의 트래픽일 가능성이 높습니다. 만약 일방통행이라면 공격일 가능성이 높습니다.
3단계: "균일성" 체크 (플래그 패턴 엔트로피 - Flag-Pattern Entropy)
- 비유: 교통 신호를 생각해 보세요. 평범한 날에는 빨간불, 노란불, 초록불이 섞여 있습니다. 하지만 결함이 있는 시스템은 몇 시간 동안 계속 "빨간불"이나 "초록불" 하나에만 갇혀 있을 수 있습니다.
- 과학적 원리: 인터넷 트래픽은 연결을 관리하기 위해 "플래그"(작은 제어 신호)를 사용합니다. 정상적인 트래픽은 다양한 종류의 플래그를 사용합니다. 하지만 공격 도구들은 종종 단 한 가지 유형(예: 플러드 공격 시 "SYN" 플래그만 사용)에 갇혀 반복적으로 사용됩니다. MDE는 트래키가 다양한 "언어"를 사용하는지, 아니면 반복적이고 고장 난 언어를 사용하는지 확인합니다.

파트 2: "블랙박스" 문제 (설명 가능성)

과거의 고급 컴퓨터 모델들은 블랙박스와 같았습니다. 모델은 "이것은 공격이다"라고 말했지만, 정작 왜 그런지는 아무도 알 수 없었습니다. 보안 분석가들은 이해할 수 없는 시스템을 신뢰할 수 없었습니다.

이 논문은 SHAP(AI를 위한 "번역기")라는 도구를 사용합니다.

비유: 만약 AI가 "이 사람을 체포하라"고 한다면, SHAP은 어떤 단서들이 그 결정을 내리게 했는지 보여주는 영수증을 출력합니다. "이 사람의 리듬이 로봇 같고(1단계), 대화가 일방적이었기 때문에(2단계) 체포했습니다"라고 알려주는 식입니다.
결과: 연구진은 MDE 특징들이 매우 일관적이라는 것을 발견했습니다. AI는 이러한 "리듬"과 "일방향성" 단서를 사용하여 결정을 내리며, 이는 인간 전문가가 이해할 수 있는 방식으로 매우 안정적으로 작동합니다.

파트 3: 현실 점검 (왜 "평균" 점수가 거짓말을 하는가)

이 논문의 가장 중요한 발견은 단순히 새로운 도구에 관한 것이 아니라, 우리가 보안 시스템을 테스트하는 방법에 관한 것입니다.

연구진은 단일 "평균 점수"(예: F1 스코어)를 보는 것은 개별 시험 결과를 보지 않고 학급 평균 성적만 보는 것과 같다고 주장합니다.

비유: 한 학급에서 99%의 학생이 100점을 받고, 1%의 학생이 0점을 받았다고 상상해 보세요. 학급 평균은 99%입니다. 이는 완벽한 학급처럼 보입니다! 하지만 만약 그 0점을 받은 1%가 아주 중요한 안전 시험에서 낙제한 사람들이라면, "99% 평균"은 거짓말입니다.

논문이 밝혀낸 사실:

한 데이터셋(CICIDS-2018)에서 이 시스템은 0.74라는 좋은 점수를 기록했습니다. 하지만 자세히 들여다보니, 시스템이 실제 공격의 52%를 놓치고 있음을 깨달았습니다. "평균" 점수가 시스템이 절반의 확률로 실패하고 있다는 사실을 숨기고 있었던 것입니다.
또 다른 테스트에서, 월요일부터 목요일까지의 트래픽으로 학습시킨 후 금요일 데이터로 테스트를 진행했습니다. 금요일의 트래픽이 약간 변했을 때(새로운 유형의 공격 발생), 시스템의 "평균" 점수는 괜찮아 보였지만, 실제로는 공격을 전혀 감지하지 못했습니다(탐지율 0%). 수학적으로는 시스템이 여전히 공격의 순위를 잘 매기고 있다고 나왔지만, 임계값(threshold)이 잘못되어 알람이 울리지 않았던 것입니다.

파트 4: 결론

MDE가 실제로 하는 일:
MDE가 반드시 기존 방식보다 공격을 더 "똑똑하게" 찾아내는 것은 아닙니다(점수는 종종 비슷합니다). 대신, MDE는 컴퓨터에게 데이터를 바라보는 더 낫고 논리적인 방식을 제공합니다.

가공되지 않은 복잡한 데이터 없이도 작동합니다(요약된 데이터를 사용함).
왜 그런 결정을 내렸는지 설명해 줍니다.
단일한 숫자에 숨지 않고, 시스템이 실제로 언제 실패하는지를 명확히 드러냅니다.

한계점:
논문은 만약 "로봇"이 완전히 새로운 행동(한 번도 본 적 없는 새로운 유형의 공격)을 보인다면, 다른 모든 보안 시스템과 마찬가지로 이 시스템도 실패할 것임을 인정합니다. 또한, 이 수학적 모델은 트래픽이 어느 정도 종 모양의 곡선(가우시안 분포)을 따른다고 가정하는데, 암호화되거나 복잡한 트래픽의 경우 항상 그렇지는 않을 수 있습니다.

요약하자면: 이 논문은 인터넷 트래픽을 위한 더 나은 "리듬 탐지기"를 구축하였으며, 이는 단 하나의 오해하기 쉬운 숫자 뒤에 숨는 대신, 투명하고 이해하기 쉬우며, 시스템이 실패할 때 정직하게 알려주는 시스템입니다.

기술 요약: 설명 가능한 네트워크 침입 탐지를 위한 다층 분포 엔트로피 (Multi-Level Distributional Entropy)

문제 정의
현재의 머신러닝 기반 네트워크 침입 탐지 시스템(IDS)은 CICFlowMeter와 같은 도구에 의해 추출된 집계 흐름 통계(예: 패킷 수, 바이트 볼륨, 연결 지속 시간)에 크게 의존한다. 이러한 집계된 기술자(descriptor)들은 규모 기반의 탐지에는 효과적이지만, 공격 세션과 정상 세션 간에 체계적으로 다를 수 있는 분포적 및 순차적 구조를 소실한다. 전통적인 정보 이론적 척도(예: Shannon entropy, Approximate Entropy)는 이러한 구조적 차이를 포착하는 것으로 알려져 있으나, 정렬된 원시 패킷 데이터 시퀀스를 필요로 한다. 대부분의 IDS 벤치마크와 운영 파이프라인은 원시 패킷을 사용할 수 없는 사전 집계된 흐름 데이터셋을 활용하기 때문에, 엔트로피 기반 특징을 통합하는 데 실질적인 장벽이 존재한다. 또한, 기존의 고성능 앙상블 분류기들은 종종 불투명하여, 규제 환경에서 컴플라이언스 및 감사 문제를 야기한다. 마지막으로, 일반적인 평가 프로토콜은 단일 데이터셋의 집계된 F1 점수에 의존하는 경우가 많으며, 이는 낮은 탐지율(DR)이나 시간적 변화(temporal shifts) 하에서의 취약한 일반화 성능과 같은 중요한 운영상의 실패 모드를 은폐할 수 있다.

방법론: MDE 프레임워크
저자들은 원시 패킷 접근이나 학습 데이터 없이도 사전 집계된 흐름 요약 통계로부터 해석 가능한 엔트로피 특징을 도출하는 분석 프레임워크인 **다층 분포 엔트로피(Multi-Level Distributional Entropy, MDE)**를 제안한다. MDE는 세 가지 상호 보완적인 수준에서 작동한다:

레벨 1 (흐름 내 가우시안 미분 엔트로피 - ADE): 패킷 크기와 인터-어라이벌 타임(inter-arrival times)이 가우시안 분포를 따른다고 가정한다. 이는 흐름 레코드에서 사용 가능한 평균과 표준 편차를 사용하여 미분 엔트로피( $h(X) = \frac{1}{2}\ln(2\pi e\sigma^2)$ )를 계산한다. 이는 흐름 내 복잡성을 포착하며, 공격 도구들은 종종 변동성이 낮은(규칙적인) 트래픽을 생성하므로 변동성이 큰 정상 트래픽에 비해 낮은 엔트로피를 나타낸다.
레벨 2 (교차 방향 젠슨-샤논 발산 - JSD): 순방향(소스-대상) 및 역방향(대상-소스) 트래픽 간의 분포적 비대칭성을 측정한다. 이는 흐름 통계에 의해 매개변수화된 두 가우시안 분포 사이의 JSD를 근사한다. 이는 공격(예: DDoS 플러드 또는 포트 스캔)에서 흔히 나타나는 방향성 불균형과 정상 세션의 양방향 대칭성을 포착한다.
레벨 3 (TCP 플래그 패턴 샤논 엔트로피): 흐름 내 TCP 제어 플래그(FIN, SYN, RST 등)의 분포에 대한 샤논 엔트로피를 계산한다. 낮은 엔트로피는 특정 플래그 유형(예: SYN 플러드)에 의해 지배되는 흐름을 나타내며, 이는 특정 공격 패턴의 시그니처가 된다.

주요 기여

분석적 특징 구축: MDE는 표준 흐름 통계(평균, 표준 편차, 카운트)로부터 7~12개의 해석 가능한 엔트로피 특징을 분석적으로 구축한다. 이는 원시 패킷 데이터, 특징 추출을 위한 학습 데이터, 그리고 다양한 스키마를 가진 다른 데이터셋에 적용 시 재학습을 요구하지 않는다.
누출 없는 운영 평가 프로토콜: 저자들은 데이터 누수(fold-local 전처리 사용)를 방지하고, F1 외에도 탐지율(DR), 오경보율(FAR), MCC, PR-AUC와 같은 전체 운영 메트릭을 보고하는 엄격한 평가 프레임워크를 도입한다. 이 프로토콜은 집계된 점수가 은폐하는 실패 모드(시간적 변화 및 미지의 공격 패밀리 포함)를 드러내도록 설계되었다.
설명 가능성 및 안정성 분석: 연구는 MDE 증강 분류기에 SHAP(SHapley Additive exPlanations)을 적용한다. 이는 엔트로피 속성의 fold-안정성과 도메인 일관성을 정량화하며, 엔트로피 특징이 이질적인 환경에서도 재현 가능하고 이론적으로 근거 있는 설명을 제공함을 입증한다.

결과

성능: 네 가지 벤치마크(NSL-KDD, CICIDS-2017, CICIDS-2018, UNSW-NB15) 전반에 걸쳐, 엔트로피 전용 특징은 0.708에서 0.989 사이의 가중 F1 점수를 달성했다. 기존 특징과 결합했을 때 MDE는 성능을 저하시키지 않으며, 인-디스트리뷰션(in-distribution) F1 점수는 기존 전용 베이스라인과 통계적으로 구별되지 않는다.
운영 실패 모드: 전체 메트릭 보고를 통해 집계된 F1이 숨겼던 심각한 격차를 발견했다:
- CICIDS-2018에서, 약 0.74의 F1은 0.48에 불과한 탐지율(DR)을 은폐했다. 즉, 공격의 절반 미만이 탐지되었다는 의미이다.
- CICIDS-2017의 시간적 변화(월~목으로 학습, 금요일로 테스트) 조건에서, AUC가 0.87임에도 불구하고 DR은 0.082로 급락했다. 이는 모델이 공격을 정상 트래픽보다 높게 순위 매길 수는 있지만, 고정된 임계값은 완전히 실패했음을 나타낸다.
- 미지의 공격 패밀리(unseen-attack-family) 테스트(Infiltration 및 Bot 패밀리 제외)에서, 모든 모델의 DR은 0.000으로 떨어졌으며, 정상 클래스의 과반수 덕분에 F1은 0.998 이상을 유지했다.
강건성 및 전이: MDE 특징은 가우시안 노이즈 추가 시 완만한 성능 저하를 보였다. 그러나 제로샷 교차 데이터셋 전이(예: CICIDS-2017 학습, CICIDS-2018 테스트) 결과는 상당한 성능 저하(F1 0.955에서 0.591로 감소)를 초래했으며, 이는 엔트로피 시그니처가 공격 패밀리 특화적이며 도메인 적응이 필요함을 확인시켜 준다.
해석 가능성: SHAP 분석은 엔트로피 특징(특히 JSD 및 ADE)이 예측의 주요 기여자 중 하나임을 확인했다. fold-안정성 분석은 모든 특징 속성에 대해 높은 Spearman 순위 상관관계(0.80–0.95)를 보여, 모델이 도메인 일관적인 엔트로피 신호에 의존하고 있음을 입증했다.

의의 및 주장
본 논문은 MDE의 주요 기여가 기존 특징 대비 극적인 집계 분류 정확도의 향상이 아니라, 표현 및 평가 방법론의 전환에 있다고 주장한다.

표현: MDE는 집계 통계가 소실하는 분포적 구조(규칙성, 비대칭성, 프로토콜 다양성)를 포착하는 압축적이고 이론적으로 근거 있는 특징을 제공한다. 이들은 SHAP를 통해 본래적으로 해석 가능하며, 앙상블 분류기의 "블랙박스" 문제를 해결한다.
평가: 본 연구는 표준 집계 F1 점수가 운영 보안 평가에 불충분함을 입증한다. 임계값-순위 괴리(AUC는 높지만 DR이 붕괴하는 현상)와 미지의 공격 패밀리 탐지 실패를 드러냄으로써, 본 논문은 전체 운영 메트릭과 시간적/미지 패밀리 테스트를 우선시하는 평가 프로토콜을 옹호한다.
적용 가능성: MDE는 원시 패킷 데이터가 없는 환경에서 실질적인 솔루션을 제공하며, 딥러닝이나 원시 데이터 저장의 오버헤드 없이 표준 흐름 기반 IDS 파이프라인에 정보 이론적 통찰력을 통합할 수 있게 한다.

저자들은 엔트로피 특징이 재학습 없이 미지의 공격 분류 체계로 일반화하는 근본적인 과제를 해결하지는 못하지만, 기존 통계를 보완하고 표준 메트릭에 의해 은폐될 수 있는 운영 리스크를 드러내는 강력하고 해석 가능하며 계산 효율적인 분석 계층을 제공한다고 결론짓는다.