기술 요약: SEED - 개념 드리프트를 해결하기 위한 예산 기반 준지도 지속적 멀웨어 탐지

1. 문제 정의

기계 학습 기반 멀웨어 탐지기는 개념 드리프트(concept drift)로 인해 시간이 지남에 따라 심각한 구식화 문제에 직면합니다. 이는 benign(합법적) 및 악성 애플리케이션의 통계적 속성이 진화하기 때문입니다. 이러한 현상은 파괴적 망각(catastrophic forgetting)에 대한 안정성을 유지하면서 지속적인 적응 (Open World Learning) 을 요구합니다.

이러한 시스템을 배포하는 데 있어 결정적인 병목 현상은 레이블링 예산입니다. 보안 분야에서는 레이블링 동역학과 검증 지연으로 인해 완전하게 레이블이 지정된 데이터를 얻는 것이 어렵고 비용이 많이 들며 종종 신뢰할 수 없습니다. HCL(Hierarchical Contrastive Learning)과 같은 최근 최첨단 (SOTA) 방법론들은 드리프트를 처리하기 위해 의미론적 구조를 활용하지만, 완전하게 레이블이 지정된 데이터에 크게 의존합니다. 저자들은 HCL 을 준지도 설정 (부분적인 레이블만 사용, **HCL***로 표기) 에 맞게 적용할 때, 특히 내재적 의미론적 구조가 부족한 데이터셋 (예: BODMAS 및 AndroZoo) 에서 성능이 크게 저하된다는 것을 관찰했습니다. 예를 들어, BODMAS 데이터셋에서 HCL*은 완전 감독 방식의 대응책과 비교하여 AUT(Time 곡선 아래 면적) 가 0.795 에서 0.613 으로 하락했습니다.

본 논문은 제한된 감독과 개념 드리프트 하에서 견고한 멀웨어 탐지를 유지하는 과제를 다루며, 특히 강력한 의미론적 구조가 부재하거나 레이블링 예산이 제한된 상황을 대상으로 합니다.

2. 방법론: SEED

제안된 방법인 SEED(Semi-supervised Continual MalwarE Detection for Tackling ConcEpt Drift on a BuDget, 예산 기반 개념 드리프트 해결을 위한 준지도 지속적 멀웨어 탐지) 는 능동 학습과 지연된 버퍼 업데이트 전략을 통합한 준지도 지속적 학습 프레임워크입니다. 이 방법은 "관측된 작업"(부분적으로 레이블이 지정됨) 과 "미관측된 작업"(완전히 레이블이 지정되지 않음) 에 대해 훈련하는 두 가지 명확한 단계로 운영됩니다.

2.1 관측된 작업으로 훈련 (부분적으로 레이블이 지정된 데이터)

레이블이 지정된 ($D^l_t$) 과 레이블이 지정되지 않은 ($D^u_t$) 샘플을 모두 포함하는 작업의 경우, SEED 는 대비 손실 (contrastive loss) 에 의존하지 않고 레이블이 지정되지 않은 데이터를 활용하기 위해 2 단계 프로세스를 사용합니다:

1. SVD 를 통한 표현 공간 구축: 이 방법은 과거 작업의 레이블이 지정된 표본을 사용하여 잠재 표현 공간을 구축합니다. 모든 원시 표현을 저장하는 대신, 인코딩된 잠재 벡터에 **특이값 분해 **(SVD)를 적용하여 직교 정규 기저 벡터를 추출합니다. 이는 저장 비용을 줄이고 데이터의 가장 중요한 특징을 포착합니다.
2. 표본 선택 및 쌍별 학습: 각 레이블이 지정되지 않은 샘플에 대해 SEED 는 이를 SVD 기반 표현 공간으로 투영합니다. 그런 다음 버퍼에서 가장 적합한 레이블이 지정된 표본 (또는 표본 그룹) 을 찾기 위해 코사인 거리를 계산합니다. 적응형 임계값 메커니즘은 현재 레이블이 지정된 데이터 비율에 기반하여 최상의 일치를 선택합니다.
3. 손실 함수: 대비 손실 대신 SEED 는 맞춤형 **이진 교차 엔트로피 **(BCE) 손실을 사용합니다. 이는 잠재 공간에서 레이블이 지정되지 않은 샘플과 선택된 레이블이 지정된 대응 샘플 간의 표현적 유사성을 강제합니다.
4. **기울기 투영 메모리 **(GPM) 파괴적 망각을 완화하기 위해 SEED 는 GPM 을 활용합니다. 현재 작업의 기울기는 이전 작업의 기울기 방향 (특히 멀웨어 클래스에 대해) 에 직교하도록 투영되어, 새로운 특징을 학습하는 것이 이전에 학습된 멀웨어 정의에 간섭하지 않도록 보장합니다.

2.2 미관측된 작업으로 훈련 (완전히 레이블이 지정되지 않은 데이터)

레이블이 전혀 없는 작업을 마주칠 때, SEED 는 해당 작업을 부분적으로 레이블이 지정된 작업으로 변환하기 위해 능동 학습 전략을 사용합니다:

1. 불확실성 정량화: 모델은 버퍼에 저장된 benign 및 멀웨어 그룹까지의 평균 코사인 거리를 측정하여 레이블이 지정되지 않은 샘플의 불확실성을 계산합니다.
2. 균형 잡힌 선택: 다수 클래스 (benign) 로 편향되는 것을 방지하기 위해, 이 방법은 두 클래스 모두에서 대표성을 보장하기 위해 특정 그룹으로부터 멀리 있거나 가까운 샘플을 선택하는 균형 잡힌 순위 전략에 기반하여 분석가의 레이블링을 위한 샘플을 선택합니다.
3. 전환: 보안 분석가에 의해 샘플의 하위 집합이 레이블이 지정되면, 해당 작업은 "관측된 작업"으로 간주되어 2.1 절에 설명된 방법론을 사용하여 처리됩니다.

2.3 지연된 버퍼 업데이트 전략

레이블 노이즈(초기 판정이 부정확하거나 불안정할 수 있는 보안 레이블링에서 흔한 문제) 문제를 해결하기 위해 SEED 는 지연된 버퍼 업데이트를 도입합니다. 새로 레이블이 지정된 샘플은 즉시 재생 버퍼에 추가되지 않습니다. 대신, 레이블이 안정화되도록 (다중 엔진 안티바이러스 판정의 수렴을 모방) 고정된 지연 기간 (예: 1 개월, 3 개월 또는 11 개월) 동안 보유됩니다. 이는 재생 기반 학습 과정에서 노이즈가 있는 레이블이 전파되는 것을 방지합니다.

3. 주요 기여

• 대비 학습의 한계 식별: 이 논문은 강력한 의미론적 구조가 부재할 때 준지도 설정에서 대비 학습 방법론 (HCL 등) 이 심각한 성능 저하를 겪음을 입증하여, 대안적 접근법의 필요성을 강조합니다.
• SEED 프레임워크:
  • 제한된 레이블이 지정된 데이터에서 강력한 표현 공간을 구축하기 위해 SVD 를 활용합니다.
  • 맞춤형 BCE 손실을 사용한 쌍별 유사성 학습 접근법으로 대비 손실을 대체합니다.
  • 완전히 레이블이 지정되지 않은 작업에서 정보성 있는 샘플을 선택하기 위해 능동 학습을 통합합니다.
• 노이즈 완화: 지연된 버퍼 업데이트 전략을 도입하여 레이블 노이즈의 부정적 영향을 완화하며, 높은 노이즈 비율 (최대 80%) 에서도 견고성을 입증합니다.
• 종합적 평가: 다양한 레이블링 예산과 노이즈 수준 하에서 방법론의 효과를 입증하기 위해 Windows(BODMAS) 및 Android(AndroZoo, APIGraph) 데이터셋에 대한 광범위한 실험을 수행했습니다.

4. 실험 결과

저자들은 SEED 를 고전적인 지속적 학습 베이스라인 (EWC, A-GEM, MIR, CBRS) 과 대비 학습 방법론 (CADE, HCL, HCL*) 에 대해 평가했습니다.

• BODMAS(Windows) 성능: SEED 는 다양한 레이블링 예산에 걸쳐 HCL* 대비 평균 40% 향상된 AUT(미관측 멀웨어 탐지) 를 달성했습니다. 이는 HCL*(0.810 대 0.613) 및 CADE 를 크게 능가했습니다.
• AndroZoo(Android) 성능: SEED 는 HCL* 대비 평균 14% 향상(0.855 대 0.780) 을 보였습니다.
• APIGraph(Android) 성능: 강력한 의미론적 구조 (API 호출) 를 가진 이 데이터셋에서 SEED 는 HCL*과 경쟁력을 유지하며, HCL*의 0.948 에 비해 0.930 의 AUT 를 달성했습니다. 이는 SEED 가 의미론적 구조가 존재할 때도 경쟁력 있지만, 특히 그러한 구조가 부재할 때 가장 빛을 발한다는 것을 시사합니다.
• 레이블 노이즈에 대한 견고성: 높은 레이블 노이즈 (최대 80%) 하에서 지연된 버퍼 전략을 적용한 SEED 는 안정적인 성능을 유지했습니다 (예: AndroZoo 에서 unseen-AUT(A) 약 0.85–0.90). 반면, 노이즈가 있는 레이블에 직접 훈련된 모델들은 급격히 성능이 저하되었습니다.
• 민감도 분석: 이 방법은 특히 BODMAS 에서 레이블링 비율이 높을수록 일관된 개선을 보였으며, 95% SVD 임계값과 코사인 거리 지표가 가장 안정적인 성능을 제공함을 입증했습니다.

5. 중요성과 주장

본 논문은 완전하게 레이블이 지정된 데이터를 사용할 수 없는 자원이 제한된 개방형 환경에서 멀웨어 탐지를 위한 실용적인 솔루션을 SEED 가 제공한다고 주장합니다. 그 주요 중요성은 다음과 같습니다:

1. 의미론적 구조와의 분리: 양/음의 쌍을 형성하기 위해 강력한 의미론적 관계를 요구하는 대비 방법론과 달리, SEED 는 기저 벡터 공간으로의 투영에 의존하므로 내재적 구조와 관계없이 다양한 데이터셋에서 효과적입니다.
2. 예산 효율성: 개념 드리프트에 적응하기 위해 소량의 레이블이 지정된 데이터 (예: 20%) 를 효과적으로 활용하여 포괄적인 수동 레이블링에 대한 의존도를 줄입니다.
3. 노이즈에 대한 안정성: 보안 레이블의 역동적 특성을 인정함으로써, 지연된 버퍼 전략은 복잡한 노이즈 모델링 없이 레이블 노이즈를 처리하는 현실적인 메커니즘을 제공합니다.

저자들은 SEED 가 제한된 감독 하에서 견고하며, 강력한 의미론적 구조가 부재할 때 대비 학습보다 우월하고, 그러한 구조가 존재할 때는 경쟁력을 유지함으로써 지속적 멀웨어 탐지를 위한 균형 잡힌 접근법을 제공한다고 결론지었습니다.