Can Small GenAI Language Models Rival Large Language Models in Understanding Application Behavior?

기술 요약: 소형 생성형 AI 언어 모델이 대규모 언어 모델만큼 애플리케이션 동작을 이해할 수 있는가?

문제 정의
난독화, 다형성, 코드 재사용을 점점 더 많이 활용하는 악성코드의 확산으로 인해 전통적인 시그니처 기반 탐지 방식은 효과를 잃었습니다. 대규모 언어 모델(LLM)은 코드 의미론을 이해하고 악성 동작을 탐지하는 데 상당한 잠재력을 보여주었으나, 높은 계산 요구 사항, 상당한 메모리 사용량 및 에너지 소비로 인해 실제 사이버 보안 환경에 배치하는 데 제약이 있습니다. 이러한 제약은 실시간 분석, 엣지 컴퓨팅 및 자원이 제한된 보안 운영 센터(SOC)에서의 실행 가능성을 제한합니다. 결과적으로, 소형 언어 모델(SLM)—경량화되어 있고 효율적이며 더 빠른 모델—이 대규모 모델과 대등한 악성코드 탐지 성능을 달-성할 수 있는지 평가하여, 탐지 정확도와 운영 효율성 사이의 실행 가능한 균형을 제공할 수 있는지에 대한 비판적 검토가 절실히 필요합니다.

방법론
본 연구는 바이너리 악성코드 분류에서 SLM과 LLM의 역량을 비교하기 위해 체계적인 평가 프레임워크를 채택합니다.

• 데이터셋: 연구진은 오픈 소스 저장소, 보안 벤치마크 및 AI 생성 코드로 구성된 다차원 벤치마크인 SBAN 데이터셋을 활용했습니다. 정확도 인플레이션을 방지하고 균형 잡힌 평가를 보장하기 위해, 10,000개의 샘플(정상 코드 5,000개 및 악성 코드 5,000개)을 무작위로 선택한 하위 집합을 사용했습니다.
• 모델 선택: 파라미터 수와 아키텍처를 기준으로 SLM 및 LLM 범주를 대표하는 5개의 모델을 테스트했습니다.
  • SLM: DeepSeek-1.3B 및 Phi-4-mini.
  • LLM: Llama-3.1-8B, Qwen-2.5-7B, Mistral-7B.
• 평가 전략: 두 가지 별도의 추론 접근 방식을 비교했습니다:
  1. 분류 헤드(Classification Head): 모델의 사전 학습된 가중치를 활용하고 경량 분류 헤드를 추가하여 이진 분류를 수행하며, 기본 임계값 0.5를 사용하는 시그모이드 함수를 적용했습니다.
  2. 프롬프트 기반(Zero-Shot): 추가적인 미세 조정 없이, 코드를 '악성(malware)' 또는 '정상(benign)'으로 분류하도록 특정 사이버 보안 지침을 모델에 직접 프롬프트로 제공하며, 결정론적 출력을 위해 온도를 0으로 설정했습니다.
• 지표: 성능은 정상 및 악성 클래스 모두에 대한 정확도(Accuracy), 정밀도(Precision), 재현율(Recall), F1-스코어(F1-score)와 함께 추론 시간 및 계산 가능성을 사용하여 평가되었습니다. 실험은 단일 NVIDIA H100 GPU가 장착된 워크스테이션에서 수행되었습니다.

주요 기여

• 비교 분석: 본 연구는 분류 헤드와 직접 프롬프팅을 모두 사용하여 악성 코드 진단을 위한 LLM과 SLM의 역량을 상세히 비교합니다.
• 지표의 세분화: 결과는 정상 및 악성 클래스 각각에 대한 특정 지표(정밀도, 재현율, F1-스코어)와 함께 보고되어, 두 클래스를 구분하는 모델의 능력을 강조합니다.
• 강건한 평가: SBAN 데이터셋의 균형 잡힌 10,000개 샘플 하위 집합을 사용하여 신뢰할 수 있고 편향되지 않은 성능 평가를 보장합니다.
• 이중 전략 평가: 본 논문은 모델의 네이티브 분류 헤드와 제로샷 프롬프팅 전략 간의 성능을 독특하게 비교하여, 두 방식의 효과성 차이를 극명하게 드러냅니다.

실험 결과

• 프롬프트 기반 방식의 우월성: 두 전략 사이에서 상당한 성능 격차가 관찰되었습니다. 평가된 거의 모든 모델에서 프롬프트 기반 접근 방식이 분류 헤드 전략보다 일관되게 우수한 성능을 보였습니다. 이는 이러한 모델들에 내재된 지시어 튜닝(instruction-tuning) 목적이 기본 분류 레이어보다 이 작업에 대해 더 강력한 추론 능력을 활성화함을 시사합니다.
• SLM의 경쟁력: 더 적은 파라미터를 가졌음에도 불구하고, SLM은 경쟁력 있는 성능을 보여주었습니다. 특히, Phi-4-mini는 가장 높은 F1-스코어 중 하나를 달성했으며 균형 잡힌 정밀도와 재현율을 유지하여, 모델 크기가 탐지 효과의 유일한 결정 요인이라는 가설에 도전했습니다.
• LLM 성능 대비 비용: 더 큰 모델들(예: Qwen-2.5-7B, Mistral-7B)은 강력한 탐지 능력을 보여주었으나, 실질적으로 훨씬 더 긴 추론 시간과 계산 자원을 요구했습니다.
• 정밀도-재현율 트레이드오프: SLM은 높은 정밀도를 보였으나, 일부 모델은 정상 샘플에 대해 낮은 재현율을 보이기도 했습니다. 그러나 전반적인 결과는 잘 설계된 SLM이 의미 있는 탐지 능력을 제공할 수 있음을 나타냅니다.

의의 및 주장
본 논문은 소형 생성형 AI 모델이 대형 모델을 효과적으로 보완하여 성능과 자원 효율성 사이의 실용적인 균형을 제공할 수 있다고 주장합니다. 연구 결과는 다음과 같습니다:

1. 운영 가능성: SLM은 지연 시간과 자원 소비가 중요한 엣지 디바이스 및 보안 운영 센터와 같이 계산 용량이 제한된 환경에 배포하기에 특히 적합합니다.
2. 계층적 아키텍처: SLM은 악성코드 분석 파이프라인에서 효과적인 1단계 필터링 메커니즘 역할을 할 수 있습니다. SLM에 의해 의심스러운 것으로 식별된 샘플은 더 심층적인 분석을 위해 더 큰 모델로 전달될 수 있으며, 이를 통해 높은 탐지 정확도를 유지하면서 운영 비용을 절감할 수 있습니다.
3. 최소한의 재학습: 프롬프트 기반 방식의 강력한 성능은 광범위한 작업 특화 재학습이 항상 필수적인 것은 아님을 시사합니다. 정교하게 설계된 프롬프트를 가진 사전 학습된 모델은 최소한의 추가 학습 비용으로 악성코드 탐지를 수행할 수 있습니다.

저자들은 더 큰 모델이 일반적으로 더 높은 전체 정확도를 달와하지만, Phi-4-mini와 같은 더 작은 모델이 신뢰할 수 있고 자원 효율적인 솔루션을 제공한다고 결론짓습니다. 본 연구는 모델 크기 자체가 효과를 결정하는 것이 아니라, 학습 품질, 지시어 튜닝 및 도메인 지식이 똑같이 중요한 역할을 한다는 점을 강조합니다. 향후 연구는 다양한 데이터셋에 대한 미세 조정을 통해 SLM 성능을 향고하고, 가지치기(pruning) 및 증류(distillation)와 같은 모델 최적화 기술을 탐구하는 방향으로 진행될 예정입니다.