Explainable Attention-Guided Stacked Graph Neural Networks for Malware Detection

기술 요약: 악성코드 탐지를 위한 설명 가능한 주의 기반 스택 그래프 신경망

문제 제기
현대 컴퓨팅 환경에서의 악성코드 탐지는 회피 기법의 복잡성 증가와 기존 시그니처 기반 방법의 한계로 인해 상당한 도전에 직면해 있습니다. 그래프 신경망 (GNN) 은 제어 흐름 그래프 (CFG) 와 같은 프로그램 표현 내의 구조적 의존성을 모델링하는 데 유망한 성과를 보였으나, 단일 모델 접근법은 제한된 일반화 능력과 해석 가능성 부족으로 종종 고통받습니다. 고위험 보안 응용 분야에서는 모델이 왜 특정 샘플을 악성으로 분류하는지 설명하지 못함으로써 분석가의 신뢰와 실행 가능한 통찰력을 저해합니다. 또한, 기존 앙상블 방법은 메타 러너가 다양한 기본 학습기의 예측을 결합하는 스택 모델의 해석 가능성을 적절히 다루지 못하는 경우가 많습니다.

방법론
본 논문은 그래프 기반 악성코드 탐지 및 설명을 위해 설계된 새로운 스택 앙상블 (SE) 프레임워크를 제안합니다. 방법론은 네 가지 주요 구성 요소로 이루어져 있습니다:

1. 동적 CFG 추출 및 노드 임베딩:

   • 시스템은 angr 프레임워크를 사용하여 포터블 실행 (PE) 파일에서 CFG 를 동적으로 추출합니다. 이는 회피와 간접 점프를 처리하기 위해 심볼릭 실행과 제약 조건 해결을 결합합니다.
   • 이 단계별 특징 임베딩 전략은 기본 블록 (노드) 을 인코딩합니다:
     • 규칙 기반 인코딩: 각 기본 블록 내의 어셈블리 명령어는 7 가지 구성 요소 (접두사, 오퍼코드, ModRM, SIB, 변위, 즉시값, 옵션) 로 분해되어 439 차원 벡터로 인코딩됩니다.
     • 차원 축소: 비지도 오토인코더가 이러한 고차원 벡터를 필수적인 의미론적 및 구조적 정보를 보존하는 컴팩트한 64 차원 잠재 공간으로 압축합니다.

2. 다양한 GNN 기본 학습기:

   • 프레임워크는 상호 보완적인 행동 특징을 포착하기 위해 다양한 GNN 모델 세트를 기본 학습기로 활용합니다. 구체적으로 그래프 합성곱 네트워크 (GCN), 그래프 동형사상 네트워크 (GIN), 그리고 그래프 주의 네트워크 (GAT) 를 사용합니다.
   • 이러한 모델들은 메시지 전달 메커니즘 (스펙트럼 평활화, 위상학적 변별, 주의 기반 가중치 부여) 에서 차이가 있어 표현의 다양성을 보장합니다.
   • 각 기본 학습기는 정상 및 악성 클래스에 대한 확률 분포를 출력합니다.

3. 주의 기반 메타 러너:

   • 메타 러너는 주의 메커니즘이 강화된 다층 퍼셉트론 (MLP) 으로 구현되어 기본 학습기의 예측을 집계합니다.
   • 주의 메커니즘은 각 기본 학습기 출력에 대한 가중치 ($\alpha_i$) 를 계산하여 최종 결정에 대한 상대적 기여도를 정량화합니다. 이를 통해 모델은 특정 인스턴스에 대해 다양한 GNN 아키텍처의 중요도를 적응적으로 가중할 수 있습니다.
   • 메타 러너는 5 교차 검증을 사용하여 훈련되며, 기본 학습기는 데이터의 하위 집합에서 훈련되고 홀드아웃 폴드에서 평가되어 메타 훈련 데이터 세트를 생성합니다.

4. 집합 주도 설명 가능성:

   • 앙상블의 "블랙박스" 성격을 해결하기 위해, 논문은 사후 (post-hoc) 설명 기법을 도입합니다.
   • 최첨단 GNN 설명기 (예: 통합 기울기, 가이드 백프로파게이션) 는 각 기본 학습기에 대한 엣지 수준의 중요도 점수 ($\beta_{i,k}$) 를 생성합니다.
   • 이러한 점수는 정규화된 후 메타 러너가 학습한 주의 가중치 ($\alpha_i$) 를 사용하여 집계됩니다. 최종 엣지 중요도 점수 ($\beta_{a,k}$) 는 개별 설명들의 가중합으로, 최종 분류 결정과 일치하는 앙상블 인식 해석을 생성합니다.

주요 기여

• 새로운 SE 프레임워크: PE 파일에서 추출된 동적 CFG 로부터 상호 보완적인 구조적 및 의미론적 정보를 포착하는 다양한 GNN 기본 학습기를 갖는 그래프 기반 악성코드 탐지를 위한 스택 앙상블 프레임워크.
• 주의 기반 메타 러너: 정확한 분류를 위해 예측을 집계할 뿐만 아니라 최종 결정에 대한 각 모델의 기여도를 해석 가능한 방식으로 귀속시키는 주의 메커니즘이 장착된 메타 러너의 도입.
• 앙상블 인식 설명: 메타 러너의 주의 가중치를 사용하여 개별 기본 모델로부터의 엣지 수준 중요도 점수를 융합하는 새로운 사후 설명 방법으로, 앙상블의 집단적 추론을 반영하는 통합된 설명을 생성합니다.

실험 결과
본 프레임워크는 BODMAS 및 PMML 의 악성 샘플과 DikeDataset 의 정상 샘플로 구성된 데이터셋에서 평가되었습니다.

• 분류 성능: 제안된 SE 모델은 **86.14%**의 정확도를 달성하여 개별 기본 모델 (GCN, GIN, GAT) 과 표준 평균 앙상블 (AE) 을 능가했습니다. 특히 악성 클래스의 경우, SE 모델은 **91.18%**의 재현율과 **89%**의 F1 점수를 달성하여 개별 모델에 비해 위음성을 크게 감소시켰습니다.
• 강건성: 가짜 엣지 주입 (10%~30% 회피) 을 포함하는 적대적 조건 하에서 SE 모델은 우수한 회복 탄력성을 보여주었으며, 기본 학습기 및 AE 에 비해 정확도 저하가 가장 작았습니다 (30% 회피 시 -2.1%).
• 설명 가능성: 충실도 지표 ($Fidelity^+$ 및 $Fidelity^-$) 는 집계 기반 설명 방법이 영향력 있는 서브그래프를 효과적으로 식별했음을 나타냈습니다. 이 방법은 개별 기본 모델의 설명에 비해 더 낮은 $Fidelity^-$ 값을 달성하여 식별된 서브그래프가 중요한 정보를 유지함을 보여주었으며, 동시에 비교 가능한 $Fidelity^+$ 점수를 유지했습니다.

의의 및 주장
본 논문은 제안된 프레임워크가 악성코드 탐지에서 정확성과 해석 가능성이라는 이중적 과제를 해결한다고 주장합니다. 주의 기반 스택 메커니즘을 통해 다양한 GNN 아키텍처의 상호 보완적 강점을 활용함으로써 시스템은 일반화 능력과 회피 기법에 대한 강건성을 향상시킵니다. 특히, 제안된 설명 방법은 복잡한 앙상블 결정과 인간의 이해 사이의 간극을 메워 보안 분석가에게 악성코드 탐지를 주도하는 구체적인 제어 흐름 패턴에 대한 투명하고 모델-중립적인 통찰력을 제공합니다. 저자들은 이 작업을 더 신뢰할 수 있고 효과적인 AI 기반 보안 시스템, 특히 정교하고 회피된 악성코드를 분석하기 위한 시스템으로 나아가는 한 걸음으로 위치시킵니다.