🤖 AI

Automated Malware Family Classification using Weighted Hierarchical Ensembles of Large Language Models

이 논문은 라벨이 없는 환경에서도 오프셋과 패킹 등 복잡한 위협에 대응할 수 있도록, 사전 훈련된 대규모 언어 모델 (LLM) 들의 예측을 계층적 가중 앙상블 방식으로 통합하여 맬웨어 가족을 자동 분류하는 새로운 프레임워크를 제안합니다.

원저자: Samita Bai, Hamed Jelodar, Tochukwu Emmanuel Nwankwo, Parisa Hamedi, Mohammad Meymani, Roozbeh Razavi-Far, Ali A. Ghorbani

게시일 2026-04-06

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Samita Bai, Hamed Jelodar, Tochukwu Emmanuel Nwankwo, Parisa Hamedi, Mohammad Meymani, Roozbeh Razavi-Far, Ali A. Ghorbani

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🕵️‍♂️ 비유: "악성코드 수사관 팀"의 새로운 운영 방식

악성코드는 마치 위장술을 잘 쓰는 범죄자들과 같습니다. 그들은 옷 (파일) 을 갈아입고, 이름을 바꾸고, 심지어는 말을 안 하기도 합니다 (암호화).

1. 기존 방식의 문제점: "단일 수사관"의 한계

기존의 악성코드 분석 프로그램들은 주로 수천 개의 규칙 (지문, 흉기 등) 을 외운 단일 수사관처럼 작동했습니다.

문제: 범죄자가 위장술 (패킹, 암호화) 을 쓰면, 이 수사관은 "이건 내 규칙에 없는데?"라며 당황하거나 틀린 결론을 내립니다. 또한, 새로운 범죄자가 나타나면 다시 규칙을 외우느라 (학습) 시간이 오래 걸립니다.

2. 이 논문의 해결책: "전문가 패널"과 "수사 단계"

이 논문은 **"단 한 명의 천재보다, 여러 전문가의 의견을 모으는 것이 낫다"**는 아이디어를 적용했습니다.

거대 언어 모델 (LLM) 들: 이들은 방대한 양의 코드와 문서를 읽은 수사 전문가들입니다. 이들에게 악성코드의 소스 코드 (범인의 일기장 같은 것) 를 보여주면, "이건 뭘까?"라고 추론하게 합니다.
문제점: 전문가들마다 생각이 다릅니다. A 는 "도둑 (트로이목마) 이야", B 는 "스파이 (스파이웨어) 야"라고 할 수 있습니다.

3. 이 시스템의 핵심 전략 3 가지

이 시스템은 단순히 전문가들의 말을 섞는 것이 아니라, 두 가지 지능적인 전략을 사용합니다.

① '신뢰도 점수'를 매겨 투표하기 (Weighted Ensemble)

모든 전문가의 목소리가 같은 것은 아닙니다. 어떤 전문가는 '랜섬웨어 (데이터 잠금)'를 잘 구별하지만, '웜 (자기 복제)'은 잘 못 구별할 수 있습니다.
이 시스템은 각 전문가가 과거에 얼마나 잘 맞췄는지 (Macro-F1 점수) 를 계산해서, **실력이 좋은 전문가의 의견에 더 높은 점수 (가중치)**를 줍니다.
비유: "이 사건은 보안 전문가인 김 교수의 의견이 70% 반영되고, 일반 수사관 이 경감의 의견은 30% 반영하자."

② '수사 단계'를 나누기 (Hierarchical Decision)

바로 "누가 범인인가?"라고 묻기보다, 단계별로 추리를 합니다.
- 1 단계 (큰 그림): "이 범인은 무언가를 훔치는가? (도둑류), 아니면 시스템을 감염시키는가? (바이러스류)?" → 행동 유형을 먼저 파악합니다.
- 2 단계 (세부 사항): "그럼 도둑류 중에서도 구체적으로 무엇을 훔치는가? (비밀번호? 금융정보?)" → **구체적인 가족 (Malware Family)**을 결정합니다.
비유: 경찰이 범인을 잡을 때, 바로 "범인은 김철수다!"라고 외치는 게 아니라, 먼저 "범인은 남자인가? 여성인가?" (행동 그룹), 그다음 "이 지역 출신인가?" (세부 가족) 로 나누어 추리하는 것과 같습니다. 이렇게 하면 전문가들이 헷갈려도 큰 틀에서는 맞출 수 있어 실수가 줄어듭니다.

4. 실험 결과: "단일 천재 vs 팀워크"

연구진은 실제 악성코드 데이터로 이 시스템을 테스트했습니다.

결과: 가장 똑똑한 단일 AI 모델 하나만 쓰는 것보다, 여러 모델을 조합하고 점수를 매겨 단계별로 추리하는 이 시스템이 훨씬 더 정확하게 악성코드의 종류를 맞췄습니다.
특히, 악성코드가 위장술을 쓰거나 데이터가 부족할 때 (레이블이 없는 상황) 이 시스템의 강점이 두드러졌습니다.

💡 한 줄 요약

"단 한 명의 천재 AI 에게 모든 걸 맡기는 대신, 실력 차이를 고려해 점수를 매기고, '큰 그림 → 세부 사항' 순서로 단계별로 추리하게 하여, 위장술을 쓰는 악성코드도 정확하게 찾아내는 팀워크 시스템을 만들었습니다."

이 방식은 악성코드가 빠르게 변하고, 새로운 위협이 계속 나오는 현실적인 사이버 보안 환경에서 매우 실용적이고 강력한 해결책이 될 수 있습니다.

1. 연구 배경 및 문제 정의 (Problem)

배경: 멀웨어의 급격한 증가와 복잡성 심화 (패킹, 오프스큐레이션, 다형성 등) 로 인해 기존 시그니처 기반 또는 휴리스틱 탐지 방식은 한계에 직면해 있습니다.
기존 방법의 한계:
- 기존의 머신러닝/딥러닝 기반 멀웨어 패밀리 분류는 수동으로 설계된 특징 (handcrafted features), 방대한 라벨링된 데이터, 비용이 많이 드는 동적 분석 (Dynamic Analysis), 또는 모델 재학습 (Fine-tuning) 에 의존합니다.
- 이러한 접근법은 오프닝 월드 (Open-world) 환경에서 알려지지 않거나 진화하는 멀웨어에 대한 일반화 능력이 부족하며, 라벨 데이터가 없거나 실행 환경이 제한된 상황에서는 적용하기 어렵습니다.
LLM 의 잠재력과 한계: 최근 대규모 언어 모델 (LLM) 은 코드 이해와 제로샷 (Zero-shot) 추론 능력을 보여주지만, 개별 LLM 은 멀웨어 패밀리 간 예측이 불안정하고 프롬프트 변형에 민감하며, 단일 모델 추론이나 평면적 (Flat) 앙상블만으로는 신뢰성이 부족합니다.

2. 제안된 방법론 (Methodology)

저자들은 라벨 데이터, 모델 재학습, 동적 실행 없이 사전 학습된 LLM 들의 가중치 계층적 앙상블 (Weighted Hierarchical Ensemble) 을 기반으로 한 제로-라벨 (Zero-label) 멀웨어 패밀리 분류 프레임워크를 제안합니다.

핵심 구성 요소:

의사결정 수준 (Decision-Level) 집계:
- 특징 추출이나 모델 학습 대신, 여러 사전 학습된 LLM 이 입력된 멀웨어 소스 코드를 기반으로 내린 예측 결과 (라벨) 만을 집계합니다.
- 모든 모델은 동일한 제로샷 프롬프트를 사용하여 입력됩니다.
성능 기반 가중치 부여 (Performance-Aware Weighting):
- 소량의 인간 라벨링 '골드 세트 (Gold Set, 200 개 샘플)'를 사용하여 각 모델의 Macro-F1 점수를 계산합니다.
- 이 점수를 기반으로 각 모델의 신뢰도 가중치 ( $w_i$ ) 를 산출하고, 이를 앙상블에 반영하여 불안정한 모델의 영향을 줄입니다.
행동 인식 계층적 의사결정 구조 (Behavior-Aware Hierarchical Decision):
- 단순한 다수결 투표가 아닌, ** coarse-grained(거시적) 행동 분류 $\rightarrow$ $\to$ fine-grained(미시적) 패밀리 할당**의 3 단계 과정을 거칩니다.
  - 1 단계 (가중 패밀리 투표): 신뢰도 가중치를 적용하여 특정 패밀리의 가중 합이 임계값을 넘으면 해당 라벨을 결정합니다.
  - 2 단계 (행동 그룹 통합): 패밀리가 명확하지 않을 경우, 멀웨어의 운영적 유사성에 따라 5 개의 거시적 행동 그룹 (예: Trojan-like, Installer, Self-replicating 등) 으로 그룹화하여 다시 투표합니다.
  - 3 단계 (구체성 기반 동점 해결): 여전히 동점이거나 그룹 내 선택이 필요할 경우, 사전 정의된 구체성 순위 (Specificity Ranking) 를 적용합니다 (예: 'Trojan'보다 행동 정보가 풍부한 'Backdoor'를 우선시).
데이터셋 및 모델:
- 데이터셋: SBAN (Source-Binary-Assembly-Natural Language) 데이터셋의 멀웨어 서브셋 사용.
- 사용 모델: Qwen3, CodeLLaMA, GPT-4.1, GPT-5.1 등 4 개의 LLM 을 앙상블에 포함 (DeepSeekCoder 는 성능이 낮아 제외).

3. 주요 기여 (Key Contributions)

LLM 기반 의사결정 수준 분류: 수동 특징 추출, 감독 학습, 동적 실행 없이 사전 학습된 LLM 들의 예측을 집계하여 멀웨어 패밀리를 분류하는 새로운 패러다임 제시.
성능 인식 가중치 앙상블 전략: Macro-F1 기반 가중치 부여를 통해 모델 간 상호 보완적 강점을 활용하고 개별 모델의 불안정성을 완화.
계층적 의사결정 프레임워크: 거시적 행동 구분 후 미시적 패밀리 할당을 수행하여 패밀리 간 의미적 모호성 (Semantic Ambiguity) 을 줄이고 분석가 수준의 추론 과정과 일치시킴.
현실적 제약 하의 포괄적 평가: 라벨 데이터와 동적 분석이 불가능한 제약 조건에서도 제안된 프레임워크가 개별 LLM 및 무가중치 앙상블보다 우수한 성능을 입증.

4. 실험 결과 (Results)

실험 환경: SBAN 데이터셋의 200 개 인간 라벨링 골드 세트를 사용하여 평가.
성능 비교:
- 개별 LLM: GPT-4.1 이 가장 높은 정확도 (71.0%), GPT-5.1 이 가장 높은 Macro-F1 (42.7%) 을 보였으나, 모든 모델에서 패밀리별 편차가 존재했습니다.
- 균일 다수결 투표 (Uniform Voting): 개별 모델 중 최상위 모델보다 정확도 (74.0%) 가 향상됨.
- 가중치 계층적 앙상블 (제안 방법): 최종 정확도 75.0%, **Macro-F1 48.1%**를 기록하여 모든 베이스라인 (개별 모델, 무가중치 앙상블, 단순 가중치 앙상블) 을 능가했습니다.
분석: 계층적 구조와 가중치 부여의 결합이 모델 간 불일치를 해결하고, 특히 Trojan, Backdoor, Spyware 등 의미적으로 겹치는 패밀리 간의 혼란을 줄이는 데 효과적이었습니다.

5. 의의 및 결론 (Significance)

실용성: 라벨링된 데이터나 고비용의 동적 분석 없이도, 오프닝 월드 환경에서 멀웨어 패밀리를 신속하고 정확하게 분류할 수 있는 실용적인 솔루션을 제공합니다.
강건성 (Robustness): 오프스큐레이션이나 프롬프트 변형에 대한 민감도를 줄이고, 모델의 불안정성을 계층적 구조와 가중치로 보완하여 신뢰성을 높였습니다.
해석 가능성: 단순한 블랙박스 분류가 아닌, 거시적 행동에서 미시적 패밀리로 나아가는 계층적 추론 과정을 통해 분석가들의 사고 방식과 유사한 해석 가능한 결과를 제공합니다.
향후 과제: 더 큰 규모의 코퍼스 평가, 데이터 기반 계층 구조 유도, 경량 동적/하이브리드 신호 통합 등을 통해 일반화 능력을 더욱 확장할 필요가 있습니다.

이 논문은 멀웨어 분석 분야에서 LLM 의 제로샷 추론 능력을 앙상블 기법과 계층적 구조를 통해 극대화함으로써, 기존 머신러닝 접근법의 한계를 극복하고 새로운 표준을 제시했다는 점에서 중요한 의의를 가집니다.