기술 요약: 적대적 강건성 및 해석 가능성을 갖춘 Magecart 악성코드 탐지

문제 정의

Magecart 스키밍 공격은 클라이언트 측 보안과 온라인 결제 시스템에 대한 사용자 신뢰를 위협하는 심각한 위협입니다. 이러한 공격은 취약점을 악용하여 이커머스 플랫폼에 악성 JavaScript 스크립트를 삽입하거나 수정함으로써 결제 데이터를 탈취합니다. 위협 환경은 더욱 심화되어, 2022년에서 2023년 사이 미국 내 스키밍 사고가 96% 증가했으며, "Magecart-as-a-Service" 키트의 등장으로 공격의 진입 장벽이 낮아졌습니다.

기존의 탐지 방법들은 다음과 같은 상당한 한계에 직면해 있습니다:

• 정적 분석(Static Analysis): 빠르고 확장성이 높지만, 명확한 정적 패턴이 없는 난독화되거나 동적으로 생성된 스크립트를 처리하는 데 어려움을 겪습니다.
• 동적 분석(Dynamic Analysis): 실행 시점의 동작(예: 폼 데이터 유출)을 식별하는 데 효과적이지만, 리소스 집약적이며 악성코드의 환경 탐지 기법에 취약합니다.
• 머신러닝(ML)의 공백: 머신러닝은 탐지 정밀도를 향상시키지만, 모델이 해석 불가능한 "블랙박스"로 작동하는 경우가 많습니다. 또한, 표준 ML 모델은 난독화 및 코드 파편화를 이용한 적대적 회피 공격에 취ền할 수 있습니다.

핵-해결 과제는 적대적 회피에 대해 **강건(Robust)**하고, 분석가의 신뢰를 지원할 수 있도록 **해석 가능(Interpretable)**하며, 실제 이커머스 환경에서 효과적인 탐지 시스템을 달성하는 것입니다.

방법론

본 연구는 머신러닝 분류와 행동 결정적 유한 오토마타(DFA) 및 설명 가능한 AI(XAI) 기술을 결합한 하이브리드 프레임워크를 제안합니다.

1. 데이터 전처리 및 특징 공학(Feature Engineering)

본 연구는 로그인부터 체크아웃까지의 사용자 여정을 포함하는 실제 이커머스 플랫폼의 JavaScript 실행 로그로 구성된 독자적인 데이터셋을 활용합니다.

• 행동 추상화(Behavioral Abstraction): 시스템은 액션(스크립트가 수행하는 작업)과 행동(DOM 조작, 데이터 전송 등 미치는 영향)을 구분합니다. 행동의 시퀀스가 시간적 순서를 유지하며 추출됩니다.
• 특징 집합(Feature Set): 총 103개의 특징이 설계되었으며, 다음과 같이 분류됩니다:
  • 행동적 특징(Behavioral Features): 시퀀스 길이, 위치 지표(정규화된 시작/종료 위치), 행동 빈도.
  • 문맥적 특징(Contextual Features): 활성화 전 평균 사용자 클릭 수, 동적 삽입 대 임베디드 스크립트 여부를 나타내는 이진 플래그.
• 가중치 기반 행동 DFA(Weighted Behavior DFA): 개선된 가중치 기반 DFA는 실행 패턴을 분석하고 행동에 위험 기반 가중치를 할당합니다. 초기 상태로부터의 일치(match)를 요구하는 전통적인 DFA와 달리, 이 버전은 임의의 부분 시퀀스를 분석하므로 다양한 위치에서 발생하는 패턴에 대한 탐지 능력이 향상되었습니다.

2. 머신러닝 모델 및 학습

9가지 ML 모델(Decision Tree, Random Forest, AdaBoost, Gradient Boosting, Logistic Regression, Support Vector Machine, Gaussian Naive Bayes, K-Nearest Neighbors, K-means)을 평가했습니다.

• 최적화: 모델은 5-겹 교차 검증 그리드 서치(5-fold cross-validation grid search)를 통해 하이퍼파라미터를 튜닝하였으며, 최적화 지표로 F1 스코어를 사용했습니다.
• 특징 선택(Feature Selection): RF를 이용한 특징 중요도 분석을 통해 103개의 특징을 테스트된 서브셋 중 최고의 F1 성능을 보인 상위 60개로 축소했습니다.
• 적대적 학습(Adversarial Training): 강건성을 확보하기 위해, Adversarial Robustness Toolbox(ART)와 Adaptive Perturbation Pattern Method(A2PM)를 통해 생성된 적대적 샘플로 증강된 데이터셋을 사용하여 모델을 학습시켰습니다.

3. 적대적 강건성 평가

본 연구는 블랙박스 및 화이트박스 공격을 모두 사용하여 현실적인 회피 시도를 시뮬레이션했습니다. 사용된 구체적인 공격 방법은 다음과 같습니다:

• HopSkipJump
• Boundary Attack
• Fast Gradient Sign Method (FGSM)
• Projected Gradient Descent (PGD)
• Adaptative Perturbation Pattern Method (A2PM)

모델은 특정 섭동(perturbation)이 가해진 테스트 데이터셋에 대해 탄력성을 평가받았습니다.

4. 해석 가능성 프레임워크

ML의 "블랙박스" 특성을 해결하기 위해 하이브리드 설명 접근 방식이 구현되었습니다:

• SHAP (SHapley Additive exPlanations): 각 입력 특징이 특정 예측에 기여하는 정도를 정량화하여, 악성/정상 분류에 대한 절대적 영향력에 따라 특징의 순위를 매깁니다.
• 기호적 분석(Symbolic Analysis): 행동 DFA는 알려진 악성 패턴과의 일치 비율 및 위험 가중치가 부여된 행동 전이를 포함하여 스크립트의 구조적 분해를 제공합니다.
• 자연어 합성(Natural Language Synthesis): SHAP과 DFA의 통찰력을 통합하고, 이를 대규모 언어 모델(LLM)을 통해 간결한 자연어 요약으로 번역합니다. 이는 어떤 액션이 발생했는지, 그리고 그 액션들이 어떻게 최종 결정에 도달했는지를 설명합니다.

주요 기여

본 논문은 세 가지 주요 기여를 명시합니다:

1. 탐지 능력 강화: Magecart 탐지 정확도를 높이기 위해 ML 분류기와 행동 DFA 특징을 결합한 새로운 방식을 제시했습니다.
2. 적대적 강건성: 적대적 학습과 ART 및 A2PM 방법을 사용한 엄격한 평가를 통해 회피 공격에 대한 모델의 탄력성을 개선했습니다.
3. 설명 가능성: 통계적 특징 속성과 기호적 행동 분석을 결합하여 인간이 읽을 수 있는 설명으로 변환하는 해석 가능한 모델 출력을 제공합니다.

결과 및 주장

실험적 검증 결과, 행동적 특징과 적대적 학습으로 보강된 전통적인 ML 모델이 실제 웹 보안 맥락에서 높은 탐지 성능을 달성할 수 있음을 입증했습니다.

• 시스템은 높은 정확도로 정상 스크립트와 악성 스크립트를 성공적으로 구분했습니다.
• 적대적 학습은 비강건한 베이스라인 모델과 비교하여 회피 시도를 견뎌내는 모델의 능력을 유의미하게 향상시켰습니다.
• 하이브리드 설명 프레임워크는 해석 가능한 추론을 제공하여, 분석가가 악성 분류를 트리거한 구체적인 액션과 행동 패턴을 이해할 수 있도록 했습니다.

의의

본 논문은 자사의 접근 방식이 악성 클라이언트 측 스크립트에 대한 신뢰할 수 있고 투명한 탐지 메커니즘을 구축한다는 점을 주장합니다. 구조적 행동 모델링(DFA)을 통계적 ML 및 적대적 방어와 통합함으로써, 본 연구는 정확성, 강건성, 설명 가능성이라는 핵심 삼각 구도를 해결합니다. 이는 단순한 시그니처 매칭이나 불투명한 ML 예측을 넘어, 명확하고 실행 가능한 설명을 통해 보안 분석가의 신뢰를 유지하면서 적대적인 웹 환경에서 효과적으로 작동할 수 있는 시스템을 제공한다는 점에서 매우 중요합니다. 저자들은 이것이 현대의 웹 보안 과제를 위해 적절히 맥락화되고 강화될 때, 전통적인 ML 모델의 지속적인 생존 가능성과 효과성을 입증한다고 주장합니다.