🤖 AI

Explainable AI-Driven Cyber Risk Analytics and Model Reliability Assessment for Intelligent Governance of U.S. Critical Infrastructure: An XGBoost and SHAP-Based Intrusion Detection Framework

본 논문은 미국 핵심 인프라의 지능형 거버넌스를 위해 침입 탐지, 사이버 리스크 분석 및 모델 신뢰성을 향상시키고자 CICIDS2017 데이터셋에 XGBoost와 SHAP 기술을 활용한 설명 가능한 AI 기반 프레임워크를 제안한다.

원저자: B. M. Taslimul Haque, Md. Arifur Rahman, Md. Serajul Kabir Chowdhury Rubel, Md. Iqbal Hossan

게시일 2026-06-05

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: B. M. Taslimul Haque, Md. Arifur Rahman, Md. Serajul Kabir Chowdhury Rubel, Md. Iqbal Hossan

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

개요: 디지털 도시를 지키는 파수꾼

미국의 핵심 인프라(전력망, 병원, 은행, 수도 시스템 등)를 거대하고 북적이는 하나의 도시라고 상상해 보십시오. 수년 동안 도시의 경비원들은 "알려진 범죄자와 닮았다면 막아라"라는 단순한 규칙 책을 따랐습니다. 범죄자들이 예측 가능한 패턴을 보일 때는 이 방식이 잘 작동했습니다. 하지만 오늘날의 "범죄자"(사이버 공격자)들은 변했습니다. 그들은 단순히 문을 두드리는 것이 아니라, 배달원으로 변장하거나, 군중 속에 섞여들거나, 혹은 진짜 도둑질을 숨기기 위해 수천 명의 가짜 사람들을 한꺼번에 성문으로 몰아넣기도 합니다(DDoS 공격).

기존의 규칙 책은 이들을 잡아내기에 너무 느리고 경직되어 있습니다. 그래서 이 논문의 연구자들은 스마트한 AI 기반 보안 요원을 구축하려고 노력했습니다. 하지만 여기서 중요한 점은, 그들이 단순히 '정확한' 경비원을 원하는 것이 아니라, 자신의 추론 과정을 설명할 수 있는 경비원을 원했다는 것입니다. 만약 AI가 "저 사람을 막으세요!"라고 외친다면, 인간 관리자는 문을 잠그기 전에 왜 그래야 하는지 알아야 합니다.

문제점: "블랙박스"의 딜레마

과려의 많은 AI 보안 시스템은 블랙박스와 같았습니다. 데이터를 넣으면 "위험 점수"가 결과로 나왔습니다.

AI의 말: "공격일 확률이 99%입니다."
인간의 질문: "왜죠?"
AI의 답변: "제가 그렇게 판단했으니까요."

병원이나 전력망의 경우, "그냥 그렇다고 하니까"라는 대답은 충분하지 않습니다. 만약 AI가 틀린다면, 생명을 살리는 기계나 수처리 시설을 중단시킬 수도 있기 때문입니다. 연구자들은 스마트할 뿐만 아니라 투명하고 신뢰할 수 있는 시스템을 만들고자 했습니다.

실험: AI 학습시키기

연구자들은 CICIDS2017이라는 거대한 데이터셋을 사용했습니다. 이 데이터셋을 도시 보안 카메라에서 찍은 거대한 영상 라이브러리라고 생각하면 쉽습니다. 여기에는 수백만 시간의 영상이 담겨 있습니다.

선한 시민들: 정상적인 트래픽 (커피를 사거나 이메일을 보내는 행위).
악한 자들: DDoS(거리를 막아서는 거대한 군중), 브루트 포스(모든 열쇠를 하나씩 다 대보는 행위), 봇넷(감염된 컴퓨터 군단) 등 다양한 공격 유형.

그들은 이 영상을 감시하기 위해 네 가지 유형의 "AI 경비원"(머신러닝 모델)을 훈련시켰습니다:

XGBoost: 결정 트리(decision tree)를 구축하는 매우 날카롭고 빠른 학습자.
Random Forest: 정답에 대해 투표하는 여러 결정 트리의 위원회.
Decision Tree: 따라가기 쉬운 단일 순서도.
Logistic Regression: 단순한 선형 규칙 준수자.

결과: 챔피언 경비원

연구자들은 본 적 없는 새로운 영상으로 이 경비원들을 테스트했습니다.

승자: 특정 모델(SVM, 서포트 벡터 머신)이 거의 완벽하게 수행했습니다. 이 모델은 거의 모든 공격과 거의 모든 정상적인 시민을 정확하게 식별해 냈습니다.
성적: 수천 개의 기록 중 단 11번의 실수만을 범했습니다. 2,571건의 공격과 1,918건의 정상 이벤트를 정확히 찾아냈습니다.
"오보" 문제: 보안에서 "거짓 양성(False Positive)"은 경비원이 우편배달부를 보고 "도둑이다!"라고 소리치는 것과 같습니다. 이는 혼란을 야기하고 시간을 낭비하게 합니다. 이 모델은 오보가 매우 적었으며, 이는 도시를 원활하게 운영하는 데 매우 중요합니다.

핵심 비결: "이유" (설명 가능한 AI)

이 부분이 이 논문에서 가장 중요한 대목입니다. 연구자들은 단순히 "작동한다"에서 멈추지 않았습니다. 그들은 SHAP(SHapley Additive Explanations)이라는 도구를 사용했습니다.

SHAP을 AI가 인간 경비원에게 정확히 무엇을 보았는지 보여주는 돋보기라고 생각하십시오.

SHAP이 없을 때: "저 차는 폭탄인 것 같습니다."
SHAP이 있을 때: "저 차는 다음 이유 때문에 폭탄이라고 판단합니다:
1. 속도가 시속 100마일입니다 (Flow Bytes/s).
2. 거대하고 무거운 상자들을 싣고 있습니다 (Packet Size).
3. 은행 금고 문을 향해 직진하고 있습니다 (Destination Port)."

연구는 AI가 DDoS 공격을 포착하기 위해 특정 단서들을 보고 있다는 것을 발견했습니다:

Flow Duration (흐름 지속 시간): 정상적인 트래픽은 빠릅니다(빠른 악수와 같습니다). 반면 공격 트래픽은 자원을 고갈시키기 위해 연결을 오래 유지하는 경우가 많습니다.
Packet Size (패킷 크기): 공격자들은 파이프를 막기 위해 종종 크고 무거운 패킷을 보냅니다.
Destination Port (목적지 포트): 공격은 종 often 특정 "문"(예: 웹사이트용 포트 80)을 비정상적인 강도로 타격합니다.

거버넌스 측면에서의 중요성

이 논문은 핵심 인프라(전력망 등)의 경우, 정확도만큼이나 신뢰가 중요하다는 점을 강조합니다.

만약 모델이 99% 정확하더라도 왜 그것을 위험하다고 표시했는지 모른다면, 병원을 폐쇄할 만큼 신뢰할 수 없습니다.
SHAP을 사용함으로써 모델은 **감사가 가능(auditable)**해집니다. 인간 관리자는 설명을 보고 "그래, 패킷 크기가 크네, 타당한 이유야"라고 말하며 확신을 가지고 조치를 취할 수 있습니다.

한계점 (주의사항)

저자들은 자신들의 연구가 하지 못한 부분에 대해서도 솔직하게 밝혔습니다:

오래된 데이터: 데이터가 2017년의 것입니다. 공격자들은 진화했으므로, AI는 오늘날의 기술에 맞춰 재학습이 필요할 수 있습니다.
정적 테스트: 연구자들은 실시간으로 트래픽이 변하는 실제 도시가 아니라, 녹화된 영상으로 AI를 테스트했습니다.
한 가지 유형의 공격: 이 연구는 주로 DDoS 공격(군중 공격)에 집중했습니다. 데이터 탈취나 랜섬웨어와 같이 더 미묘하고 은밀한 공격에 대해서는 충분히 테스트하지 않았습니다.

결론

이 논문은 우리가 단순히 "똑똑한" AI 보안 시스템뿐만 아니라, 정직하고 설명 가능한 시스템을 구축할 수 있음을 증명합니다. 강력한 탐지 능력(SVM 모델)과 "돋보기"(SHAP)를 결합함으로써, 우리는 인간 지도자들이 사회를 지탱하는 필수 시스템을 보호하기 위해 신뢰할 수 있는 사이버 보안 시스템을 만들 수 있습니다. 이는 "컴퓨터를 맹목적으로 믿는 것"에서 "컴퓨터의 결정을 이해하고 검증하는 것"으로의 진보를 의미합니다.

기술 요약: 미국 핵심 인프라를 위한 설명 가능한 AI 기반 사이버 리스크 분석

문제 정의
미국의 핵심 인프라 부문(에너지, 의료, 교통, 금융, 통신)은 AI가 제어하는 디지털 기술로 인해 확장되는 사이버 공격 표면에 직면해 있습니다. 전통적인 규칙 기반 사이버 보안 메커니즘은 분산 서비스 거부(DDoS) 공격, 지능형 지속 위협(APT), 봇넷, 랜섬웨어와 같은 정교한 위협에 대해 점점 더 무력해지고 있습니다. 머신러닝(ML)은 침입 탐지 측면에서 유망한 가능성을 제시하지만, 기존 프레임워크는 종종 모델의 신뢰성, 설명 가능성 및 거버넌스 투명성을 희생하면서 분류 정확도만을 우선시합니다. 이러한 "블랙박스" 특성은 운영 조치를 정당화하기 위해 감사 가능하고 해석 가능한 의사결정 지원을 필요로 하는 인프라 운영자와 정책 입안자들 사이에 근본적인 신뢰 결핍을 초래합니다.

연구 방법론
본 연구는 회복 탄력성이 있는 사이버 리스크 분석 및 모델 신뢰성 평가 프레임워크를 개발하기 위해 정량적, 실험적 연구 설계를 채택하였습니다. 방법론은 DDoS, 브루트 포스(Brute Force), 봇넷, 웹 공격 및 침투 트래픽에 대한 레이블이 지정된 네트워크 흐름을 포함하는 현실적인 벤치마크인 CICIDS2017 데이터셋을 사용하여 6단계의 순차적 단계를 거쳐 진행되었습니다.

데이터 전처리: 원시 네트워크 흐름은 클리닝(중복 제거, 누락 또는 무한 값 처리), 인코딩(문자열 레이블 및 프로토콜 유형을 정수로 변환), 정규화(연속형 특징에 대한 Min-Max 스케일링), 그리고 특징 선택 과정을 거쳤습니다. 선택 과정에서는 피어슨 상관 분석(상관계수 $|r| > 0.95$ 인 쌍 제거)과 랜덤 포레스트 기반 중요도 순위(하위 10백분위수 미만의 특징 제거)를 활용하여 초기 79개의 특징을 약 40~45개의 변별력 있는 특징 세트로 축소하였습니다.
모델 학습: 네 가지 지도 학습 분류기인 XGBoost, Random Forest, Decision Tree, Logistic Regression을 학습시키고 비교 평가하였습니다. 또한, 이진 DDoS 대 정상(benign) 분류 작업에 대한 SVM(Support Vector Machine) 분류기의 성능을 강조하였습니다. 실험에는 80/20 층화 추출(stratified) 학습-테스트 분할과 5-겹 층화 교차 검증이 사용되었습니다.
설명 가능한 AI (XAI): ML 모델의 불투명성을 해결하기 위해 SHAP (SHapley Additive Explanations) 분석을 통합하였습니다. TreeSHAP 알고리즘을 사용하여 모델 예측을 해석하기 위해 특징 수준의 설명(beeswarm plot, 평균 절대 SHAP 값의 bar plot, force plot)을 생성하였습니다.
신뢰성 평가: 성능은 정확도뿐만 아니라 정밀도(Precision), 재현율(Recall), F1-score, ROC-AUC, 그리고 특히 운영 환경에서 경보 피로(alert fatigue)를 방지하는 데 중요한 **오탐률(False Positive Rate, FPR)**을 포함한 종합적인 지표 세트를 통해 평가되었습니다.

주요 결과

분류 성능: SVM 분류기는 이진 DDoS 대 정상 분류 작업에서 완벽에 가까운 식별력을 달acia서 ROC-AUC가 1.00에 근접하는 성과를 거두었습니다. 혼동 행렬(Confusion Matrix) 결과, 2,571개의 True Positive와 1,918개의 True Negative를 기록하였으며, 총 오분류는 단 11건(False Positive 7건, False Negative 4건)에 불과했습니다.
특징 변별력: 탐색적 분석을 통해 특정 네트워크 특징들이 상당한 변별 정보를 보유하고 있음을 확인하였습니다:
- 흐름 지속 시간(Flow Duration): 장기 지속 흐름은 지속적인 세션 및 TCP 연결 고갈 공격과 연관되어 있었습니다.
- 패킷 크기(Packet Size): DDoS 트래픽은 정상 트래픽에 비해 현저히 큰 평균 패킷 크기를 보였으며, 이는 용량 기반 플러딩 전략을 반영합니다.
- 목적지 포트(Destination Ports): 표준 포트(80, 443, 53)에서의 비정상적인 볼륨은 다른 특징들과 결합하여 공격 활동의 지표 역할을 했습니다.
- 초당 흐름 바이트(Flow Bytes/s): 고강도 트래픽 이상 징후는 분포의 꼬리 부분에서 명확하게 구별되었습니다.
설명 가능성: SHAP 분석은 모델 예측을 주도하는 가장 영향력 있는 네트워크 특징들을 성공적으로 식별하였으며, 이를 통해 거버넌스 주체들이 정보에 기반한 확신을 가지고 분류 출력을 감사할 수 있도록 하는 특징 수준의 투명성을 제공하였습니다.

의의 및 주장
본 논문은 자신의 주요 기여가 단순히 ML이 공격을 탐지할 수 있다는 점을 입증하는 것(이는 이미 문헌에서 확립된 능력임)이 아니라, 이를 신뢰할 수 있고, 투명하며, 운영적으로 유용한 방식으로 수행하는 방법을 보여주는 데 있다고 주장합니다.

거버넌스 신뢰성: 본 프레임워크는 신뢰할 수 있는 침입 탐지와 투명한 거버넌스 준비형 의사결정 지원을 결합함으로써 "신뢰할 수 있고 설명 가능한 AI"를 발전시킵니다. 이는 높은 정확도와 감사 가능하고 설명 가능한 모델에 대한 필요성 사이의 간극을 해결합니다.
운영적 책임성: SHAP을 통합함으로써, 본 연구는 탐지 정확도를 넘어 해석 가능하고, 감사 가능하며, 운영적으로 책임질 수 있는 시스템으로 나아갑니다. 이를 통해 분석가는 모델이 왜 특정 이벤트를 플래그했는지(예: 특정 패킷 크기 이상이나 흐름 지속 패턴) 이해할 수 있으며, 시스템 격리나 추가 조사와 같은 정보에 기반한 조치를 취할 수 있습니다.
정적 보호를 넘어선 회복 탄력성: 본 연구는 정적 보호에서 회복 탄력성 기반 거버넌스로의 전환에 부합하며, 적응형 보안 관리를 지원하기 위해서는 모델이 설명 가능해야 하고 그 실패 모드가 이해되어야 한다고 주장합니다.

한계 및 범위
저자들은 연구 결과의 일반화 가능성에 대해 신중한 입장을 유지합니다:

본 분석은 이진 분류(DDoS 대 정상)에 집중하였으며, CICIDS2017 데이터셋의 특정 하위 집합 내에서 수행되었습니다. 15가지 공격 범주 전체(브루트 포스나 침투와 같은 미세한 위협 포함)에 대한 성능은 본 연구에서 완전히 평가되지 않았습니다.
실험은 오프라인, 정적 환경에서 수행되었습니다. 실시간 조건, 개념 드리프트(concept drift), 그리고 적대적 회피 기법(adversarial evasion techniques) 하에서의 프레임워크 동작은 추가 검증이 필요합니다.
클래스 불균형 문제는 층화 샘플링을 통해 다루어졌으나, 합성 증강(예: SMOTE)은 수행되지 않았으며, 이는 광범위한 응용 분야에서 소수 공격 클래스에 대한 재현율에 영향을 미칠 수 있습니다.

결론적으로, 본 연구는 미국의 핵심 인프라를 보호하기 위해 필수적인 인간 거버넌스 프로세스를 지원할 수 있도록 탐지, 신뢰성 평가, 그리고 설명 가능성이 함께 작동하는 통합 프레임워크의 신뢰할 수 있는 토대를 구축하였습니다.