📄 other

X-WAF: A Hybrid Machine Learning Framework with SHAP-Driven Explainability and Automated Rule Synthesis for Real-Time Web Application Protection

본 논문은 제로 데이 웹 공격의 고정밀·저지연 탐지를 달성하기 위해 앙상블 분류기와 SHAP 기반 설명 가능성을 결념한 하이브리드 머신러닝 프레임워크인 X-WAF를 제시하며, 이는 통찰력을 기존 보안 인프라에 원활하게 통합될 수 있는 실행 가능한 ModSecurity 규칙으로 자동 변환한다.

원저자: Danish Quarni

게시일 2026-07-27

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Danish Quarni

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인터나넷을 수백만 명의 사람들이 매초 디지털 상점, 은행, 사교 클럽을 방문하는 북적이고 혼란스러운 도시라고 상상해 보십시오. 이 도시를 안전하게 유지하기 위해, 우리는 WAF(웹 애플리케이션 방화벽)라고 불리는 문지기들을 배치했습니다. 오랫동안 이 문지기들은 거대한 '현상 수배 전단' 책에 의존해 왔습니다. 만약 방문객이 전단지에 있는 범죄자와 똑같이 생겼다면—예를 들어 같은 모자를 쓰고, 같은 가방을 들고 있거나, 똑같은 수상한 문구를 말한다면—문지기는 그들을 막아섭니다. 이는 알려진 범죄자들에게는 매우 효과적이지만, 변장을 하거나 목소리를 바꾸거나, 혹은 침입하기 위한 완전히 새로운 방법을 고안해 내는 새로운 도둑들에게는 처참하게 실패합니다. 이러한 새로운 수법들은 '제로 데이(zero-day)' 공격이라 불리며, 도시를 취약하게 만듭니다.

이를 해결하기 위해, 과학자들은 보안 요원들에게 단순히 대조하는 역할이 아닌 탐정이 되는 법을 가르치려 노력하고 있습니다. 단순히 목록을 확인하는 대신, 탐정은 행동을 관찰합니다: "이 사람은 너무 빨리 걷고 있다"라거나 "그들은 앞뒤가 맞지 않는 질문을 던지고 있다"와 같은 식입니다. 여기서 머신러닝이 등장합니다. 머신러닝은 트래픽의 패턴을 학습하여 이상한 점을 포착하는 컴퓨터 프로그램입니다. 하지만 문제가 있습니다. 이 컴퓨터 탐정들은 종종 '블랙박스'와 같습니다. 그들은 누군가를 차단할 수는 있지만, 왜 그렇게 했는지 설명하지 못합니다. 보안 요들은 컴퓨터를 신뢰하기 위해 그 이유를 알아야 하며, 컴퓨터가 배운 내용을 바탕으로 새로운 규칙을 작성할 수 있어야 합니다. 다니시 쿠아니(Danish Quarni)가 작성한 이 논문은 완벽한 탐정이 되고자 하는 새로운 시스템인 X-WAF를 소개합니다. 이 탐정은 매우 똑똑하며, 자신의 추론 과정을 명확하게 설명할 수 있고, 심지어 미래를 위한 자신만의 규칙 책을 쓸 수도 있습니다.

이 논문은 실시간으로 웹사이트를 보호하기 위해 설계된 하이브리드 머신러닝 프레임워크인 X-WAF를 제시합니다. X-WAF를 단 한 명의 경비원이 아니라, 함께 일하는 네 명의 서로 다른 전문가들로 구성된 첨단 보안 팀이라고 생각하십시오. 그들 중 두 명은 '지도 학습(supervised)' 모델로, 수천 개의 나쁜 놈들의 사례를 공부했기에 무엇을 찾아야 하는지 정확히 알고 있습니다. 나머지 두 명은 '비지도 학습(unsupervised)' 모델로, 이전에 본 적 없는 특정 유형의 악당일지라도 무언가 이상하거나 특이하다고 느껴지는 것을 포착하는 전문가들입니다. 이 네 가지 관점을 결렬함으로써, 이 시스템은 알려진 위협과 전통적인 경비원들이 놓치는 새롭고 교활한 공격 모두를 잡아내는 안전망을 구축합니다.

하지만 연구진은 똑똑한 시스템이라도 작동 방식을 이해할 수 없다면 무용지물이라는 것을 알고 있었습니다. 이를 해결하기 위해 X-WAF는 SHAP라는 특별한 도구를 사용합니다. SHAP를 돋보기라고 상상해 보십시오. SHAP는 보안 팀이 내리는 모든 개별적인 결정을 세밀하게 분석합니다. 만약 시스템이 방문객을 차단한다면, SHAP는 정확한 이유를 지목합니다: "우리가 당신을 막은 이유는 비밀번호 필드가 너무 길고, 메시지에 이상한 기호가 포함되어 있으며, 당신의 컴퓨터 이름이 수상하기 때문입니다." 이러한 투명성은 보안 분석가가 즉각적으로 결정을 검증할 수 있도록 하여 신뢰를 구축합니다.

X-WAF의 가장 창의적인 부분은 이러한 복잡한 컴퓨터 생성 설명을 간단한 서술형 규칙으로 바꾸는 능력입니다. 보통 컴퓨터가 나쁜 놈을 막게 하려면, 컴퓨터를 계속 실행시켜서 지나가는 모든 사람을 생각하게 해야 하는데, 이는 느리고 비용이 많이 듭니다. X-WAF는 영리한 방식을 취합니다. 컴퓨터가 배운 교훈(예: "나쁜 놈들은 종종 긴 비밀번호를 가진다")을 가져와서 어떤 보안 요라도 읽을 수 있는 표준 규칙 책에 자동으로 기록합니다. 이는 시스템이 새로운 공격으로부터 학습하고, 새로운 규칙을 작성한 뒤, 무거운 컴퓨터 두뇌를 매번 돌리지 않고도 일반적인 빠른 경비원들이 그 규칙을 집행할 수 있게 함을 의미합니다.

연구진은 가짜 공격과 실제 웹 트래픽을 섞어 이 시스템을 테스트했습니다. 그 결과, X-WAF는 96.5%의 공격을 잡아내는 동시에 실수(선량한 사람을 차단하는 것)는 1.8%에 불과할 정도로 믿기 힘들 만큼 효과적이었습니다. 또한 결정 내리는 데 단 8밀리초밖에 걸리지 않을 정도로 빨라서, 초당 12,000건 이상의 요청을 처리하는 바쁜 웹사이트에서도 충분히 대응 가능했습니다. 이 논문은 이러한 접근 방식이 현대 AI의 유연성과 전통적인 보안의 신뢰성 사이의 간극을 메워주며, 보안 팀을 정보의 부재 속에 방치하지 않으면서도 웹사이트를 진화하는 위협으로부터 보호할 수 있는 방법을 제공한다고 제언합니다.

X-WAF 기술 요약: SHAP 기반 설명 가능성 및 자동 규칙 합성을 갖춘 하이브리드 머신러닝 프레임워크

문제 정의
OWASP 핵심 규칙 세트(CRS)를 활용하는 것과 같은 기존의 웹 애플리케이션 방화벽(WAF)은 시그니처 기반 탐지에 의존한다. 이러한 시스템은 알려진 공격 벡터에는 효과적이지만, 제로 데이 익스플로잇, 적대적 페이로드 및 진화하는 API 기반 위협에 대해서는 일반화하는 데 어려움을 겪는다. 공격자들은 정적 규칙을 우회하기 위해 인코딩, 파편화 및 다형성을 자주 사용한다. 또한, 규칙 세트를 수동으로 구성하고 업데이트하는 작업은 반응적이고 자원 집약적이며, 종종 탐지율과 오탐 사이의 최적의 균형을 맞추는 데 실패한다. 머신러닝(ML)은 명시적인 시그니처를 넘어 일반화할 수 있는 경로를 제시하지만, 이를 실시간 보안 인프라에 배포하는 데는 두 가지 결정적인 장애물이 존재한다. 하나는 앙상블 모델의 "블랙박스" 특성이 분석가의 신뢰를 저해하고 포렌식 분석을 방해한다는 것이며, 다른 하나는 모든 요청에 대해 추론을 실행할 때 발생하는 계산 지연 시간이다.

방법론
본 논문은 통계적 이상 탐지와 운영 보안 인프라 사이의 간극을 메우기 위해 설계된 하이브리드 프레임워크인 X-WAF를 소개한다. 이 시스템은 네 가지 주요 구성 요소로 이루어진 모듈형 파이프라인으로 작동한다:

트래픽 전처리 및 특징 추출: X-WAF는 HTTP 요청을 가로채고 78차원의 특징 벡터를 추출한다. 여기에는 요청 메타데이터(메서드, 경로 길이), 헤더 통계(엔트로피, 크기), 페이로드 특성(n-gram 빈도, SQL 키워드 또는 스크립트 태그 존재 여부), 구조적 특징(JSON 중첩 깊이) 및 시간적 특징(요청 속도)이 포함된다. 특징들은 로버스트 스케일러(robust scalers)를 사용하여 정규화된다.
하이브리드 앙상블 모델: 핵심 탐지 엔진은 가중치 투표 방식을 통해 결합된 네 가지 분류기의 이질적 앙상블을 활용한다. 가중치는 검증 세트에서의 각 모델의 정밀도를 기반으로 학습된다.
- 랜덤 포레스트 (결정 트리 200개): 판별적 패턴 매칭을 위한 지도 학습 분류기.
- RBF 커널을 사용한 서포트 벡터 머신 (SVM): 고차원 및 비선형 관계를 처리하기 위한 보조 지도 학습 모델.
- 아이솔레이션 포레스트 (Isolation Forest): 관측치를 격리하고 이상치를 탐지하기 위한 비지도 학습 모델.
- 로컬 아웃라이어 팩터 (LOF): 국소적 밀도 변화를 포착하기 위한 비지도 학습 모델.
- 가중치 점수가 임계값 $\tau = 0.65$ 를 초과하면 요청은 악성으로 분류된다.
SHAP 설명 가능성 모듈: 모델의 불투명성을 해결하기 위해, X-WAF는 SHAP(SHapley Additive exPlanations)을 통합한다. 악성으로 플래그가 지정된 모든 요청에 대해, 시스템은 각 특징이 결정에 기여하는 정도를 결정하기 위해 특징 기여도를 계산한다. 절대적인 SHAP 값 중 상위 5개 특징이 보고되어, 보안 분석가에게 세밀한 통찰력(예: 높은 쿼리 스트링 엔트로피 또는 특정 SQL 키워드의 존재)을 제공한다.
자동 규칙 합성: 핵심적인 혁신은 SHAP에서 도출된 결정 경계를 ModSecurity 호환 규칙으로 변환하는 것이다. 이 모듈은 오프라인 또는 주기적으로(예: 매 시간) 작동한다. 이는 악성 분류와 자주 연관되는 특징들을 분석하고, 악성 분류와 관련된 값의 범위를 식별하며, ModSecurity 구문의 논리적 결합을 생성한다. 신뢰 점수가 90%를 초과하는 규칙만 배포된다. 이를 통해 ML 기반 지능이 지속적인 모델 추론을 요구하지 않고도 기존의 규칙 기반 인프라 내에서 유지될 수 있도록 한다.

주요 기여
본 논문은 세 가지 주요 기여를 명시한다:

이질적 앙상블 아키텍처: HTTP 트래픽에서 판별적 패턴과 비지도 이상 징후를 모두 포착하기 위해 지도 학습(랜덤 포스트, SVM)과 비지도 학습(아이솔레이션 포레스트, LOF) 모델을 결합한 새로운 방식.
실시간 SHAP 통합: 탐지 결정에 대해 인간이 이해할 수 있는 설명을 제공하기 위해 결정 파이프라인에 SHAP을 직접 내장하여 투명성과 감사 가능성을 높임.
자동 규칙 합성 엔진: 복잡한 ML 결정 경계를 표준 ModSecurity 규칙으로 변환하는 메커니즘. 이를 통해 운영 환경에서 지속적인 모델 추론의 지연 오버헤드 없이 ML 유도 보호 기능을 배포할 수 있음.

실험 결과
X-WAF는 CSIC 2010 HTTP 데이터셋, ECML/PKDD 2007 데이터셋, 그리고 중소 규모 이커머스 기업의 실제 프록시 로그를 포함한 다양한 데이터셋을 통해 평가되었다. 시스템은 ModSecurity (CRS 3.3 포함), 개별 모델(랜덤 포레스트, 아이솔레이션 포레스트, SVM, LOF), 그리고 SHAP이 없는 앙상블을 기준으로 비교되었다.

탐지 성능: X-WAF는 **96.5%**의 탐지 정확도와 **1.8%**의 **오탐율(FPR)**을 달성했다. 이는 최상의 단일 지도 학습 모델(랜덤 포레스트: 정확도 93.1%, FPR 2.1%)과 시그니처 기반 베이스라인(ModSecurity CRS 3.3: 정확도 82.3%, FPR 5.2%)을 능가하는 수치이다.
성능 지표: 시스템은 요청당 평균 지연 시간 8 ms와 **12,000 RPS(초당 요청 수)**를 초과하는 처리량을 유지하여 생산 환경의 요구 사항을 충족했다.
규칙 합성 효능: 24시간 배치 작업 동안 시스템은 47개의 ModSecurity 규칙을 생성했다. 이 합성된 규칙들을 배포했을 때, 전체 ML 모델을 호출하지 않고도 다음 1시간 동안 악성 요청의 **72%**를 차단했다.
적대적 탄력성: 유전 알고리즘으로 생성된 SQLi 페이로드를 사용한 적대적 조건 하에서, X-WAF는 **89.2%**의 탐지율을 유지하며 ModSecurity CRS(54.3%)와 랜덤 포레스트 단독 모델(78.5%)을 크게 앞질렀다.

의의 및 주장
본 논문은 X-WAF가 전통적인 WAF가 새로운 공격에 대응하지 못하는 결정적인 보안 격차를 해결하는 동시에, ML 도입을 저해해 온 운영상의 장벽을 극복한다고 주장한다. SHAP을 통한 투명성과 자동 규칙 합성을 통한 원활한 통합을 제공함으로써, 이 프레임워크는 보안 중심 애플리케이션에 머신러닝을 배포하기 위한 실질적인 경로를 제시한다. 저자들은 X-WAF가 제로 데이 공격에 대한 탐지 범위를 넓힐 뿐만 아니라, 조직이 기존의 규칙 기반 WAF 인프라 내에서 ML 지능을 활용할 수 있도록 하여, 실세계 배포에 필요한 감사 가능성과 저지연 성능을 보장한다고 주장한다.

X-WAF 기술 요약: SHAP 기반 설명 가능성 및 자동 규칙 합성을 갖춘 하이브리드 머신러닝 프레임워크

유사한 논문