MimeLens: Position-Agnostic Content-Type Detection for Binary Fragments

기술 요약: MimeLens

문제 정의

파일 유형 분류는 악성코드 트리아지(triage), 포렌식 카빙에서부터 패킷 검사 및 스토리지 인덱싱에 이르기까지 다양한 도메인에서 기초적인 작업입니다. 현재의 최첨단 솔루션들, 예를 들어 libmagic(규칙 기반) 및 Magika(학습 기반)는 다음과 같은 결정적인 제약 조건 하에서 작동합니다: 이들은 **전체 파일의 시작 부분(head)**과 알려진 오프셋(offset)에 대한 접근을 필요로 합니다.

• libmagic은 고정된 파일 오프셋에 앵커링된 수작업으로 설계된 바이트 패턴 규칙에 의존합니다.
• Magika는 전체 파일로부터 세 개의 고정된 윈도우(헤드, 미들, 테일)를 샘플링합니다.

이러한 시스템은 다음과 같이 실제 워크플로우에서 흔히 발생하는 입력값이 주어졌을 때 실패합니다:

• 단일 패킷 페이로드 (예: UDP 스트림으로부터 추출된 것).
• 포렌식 카빙 과정에서 복구된 헤더가 없는 파편(fragment).
• 알려지지 않은 오프셋에서 읽어 들인 무작위 디스크 블록.
• 전체 파일이 아직 준비되지 않은 청크형 업로드(chunked uploads).
• 악성코드 아티팩트 내의 난독화된 청크.

기존의 학습된 모델이나 규칙 기반 도구들은 파일 경계나 자신이 인식하도록 훈련된 특정 헤더 영역에 대한 문맥(context)이 부족하기 때문에, 이러한 "위치 불가지론적(position-arbitrary)" 입력들을 효과적으로 분류하지 못합니다.

방법론

본 논문은 파일 내의 어떠한 오프셋에서도 추출된 바이트 청크로부터 파일 콘텐츠 유형을 분류하도록 설계된 BERT 스타일의 소형 인코더 제품군인 MimeLens를 소개합니다.

핵심 설계 원칙:

1. 위치 불가지론적 사전 학습(Position-Agnostic Pretraining): Magika가 특정 파일 영역을 샘플링하는 것과 달리, MimeLens는 각 파일 내의 **균등하게 무작위적인 오프셋(uniformly random offset)**에서 샘플링된 파편으로 사전 학습됩니다. 모델은 매직 바이트 영역, 임베디드 페이로드, 미드-아카이브 스트림, 그리고 임의의 데이터 슬라이스에 동일한 확률로 노출됩니다. 여기에는 "파일의 헤드"라는 특권적인 위치가 존재하지 않습니다.
2. 아키텍처: 모델은 RMSNorm, 로터리 위치 임베딩(RoPE), GeGLU 피드포워드 레이어를 사용하는 pre-norm 트랜스포머 아키텍처를 사용합니다.
   • 백본(Backbone): 공유된 37.76M 파라미터 백본 (12개 레이어, 히든 사이즈 512, 8개 헤드).
   • 풀링(Pooling): 고정 길이 임베딩을 생성하기 위해 바디 토큰(CLS/SEP/pad 제외)에 대한 평균 풀링(mean-pooling)을 수행합니다.
   • 분류(Classification): 선형 프로브(로지스틱 회귀)를 통해 임베딩을 libmagic의 125개 MIME 레이블 중 하나로 매핑합니다.
3. 입력 파이프라인 (The "Cube"): 저자들은 크기, 토크나이저, 컨텍스트 길이를 변화시키는 팩토리얼 그리드 형태의 모델들을 훈련시켰습니다. 배포를 위해 강조된 세 가지 주요 "셀(cell)"은 다음과 같습니다:
   • MimeLens-medium/bpe-16k: 깨끗하고 완전한 파일 헤드에 최적화되었습니다. 16k BPE 어휘를 사용합니다.
   • MimeLens-medium/byte: 스트리밍/부분 데이터에 최적화되었습니다. 로우 바이트 토큰화(identity map)를 사용하여 실질적으로 1,022바이트 분류기 역할을 합니다.
   • MimeLens-medium/bpe-64k: 처리량 제한이 있는 인덱싱 및 포렌식 디스크 블록에 최적화되었습니다. 더 많은 바이트를 토큰당 압축하기 위해 64k BPE 어휘를 사용합니다.

훈련 데이터:
모델들은 33GB의 멀티 소스 바이너리 코퍼스를 사용하여 마스크드 언어 모델링(MLM) 방식으로 사전 학습되었습니다. 훈련 레시피는 토크나이저 어휘와 랜덤 시드만 다르게 설정하여, 모든 셀 간의 계산량(compute)을 동일하게 맞추도록 보장합니다.

주요 결과

1. 깨끗한 입력(전체 파일)에 대한 캘리브레이션
magic-files 코퍼스의 홀드아웃 분할(4,096개 파일, 1,024개 테스트 샘플)로 평가했습니다:

• MimeLens-medium/bpe-16k는 모든 엄격도 수준에서 libmagic 레이블 데이터에 대해 Magika v1.1보다 우수한 성능을 보였습니다:
  • Aligned Top-1: 0.829 (MimeLens) vs. 0.722 (Magika) → +10.7 퍼센트 포인트(pp).
  • Strict Top-1: 0.828 vs. 0.653 (+17.5 pp).
  • Top-Level: 0.927 vs. 0.840 (+8.7 pp).
• 클래스별 뉘앙스: 총체적인 이득은 균일하지 않습니다. MimeLens는 소스 코드 및 구조화된 텍스트 클래스(예: text/x-c, application/vnd.ms-excel)에서 2590 pp만큼 압도적인 우위를 점합니다. 반대로, Magika는 미디어, 이미지, 스크립트 언어 클래스(예: image/gif, text/x-perl)에서 7085 pp만큼 우세합니다.

2. 응용 연구: 네트워크 패킷 분류
시뮬레이션된 UDP 스트림 시나리오(500개 파일, 498개 캡처된 스트림)에서, 첫 번째 패킷(1.4 KB)만을 사용하여 분류를 시도했습니다:

• MimeLens-byte는 단일 1.4 KB 패킷으로부터 0.855 Top-1 정확도를 달성했습니다.
• Magika는 0.588로 떨어졌고, libmagic은 0.739를 기록했습니다.
• 바이트 토크나이저는 모델이 입력을 즉시 포화(saturate)할 수 있게 하여, 초기 접두사(early-prefix) 분류에 효과적으로 작용합니다.

3. 응용 연구: 포렌식 디스크 블록 분류
마운트되지 않은 디스크 이미지로부터 무작위 4 KB 읽기를 시뮬레이션한 시나리오(980개 미드-파일 블록)에서:

• MimeLens-medium/bpe-64k는 0.266 Top-1 정확도를 달성했습니다.
• 이는 libmagic(0.093)과 Magika(0.112)의 성능보다 두 배 이상 높은 수치입니다.
• 해석: 미드-파일의 압축/암호화된 블록이 갖는 정보 이론적 불투명성 때문에 절대적인 정확도는 낮지만, MimeLens는 베이스라인을 크게 상회합니다. 논문은 3단계 배포를 제안합니다: "불투명한(opaque)" 블록(높은 엔트로피)을 감지하여 기권(abstain)하고, 확신이 있는 블록만 분류하는 방식입니다.

한계 및 범위

저자들은 다음과 같이 자신들의 주장을 명시적으로 제한했습니다:

• 그라운드 트루스(Ground Truth): 모든 평가는 lib-magic 유래 레이블을 사용합니다. 결과는 MimeLens가 이 특정 코퍼스에서 Magika보다 더 나은 libmagic 스타일의 분류기임을 보여주는 것이지, "객관적인" 파일 유형 진실(예: PRONOM 또는 인간의 판정)에 더 가깝다는 것을 의미하지 않습니다.
• 지연 시간(Latency): MimeLens는 CPU에서 Magika보다 1~2 자릿수 더 느립니다 (샘플당 약 202 ms vs. 1.3 ms). 소비자용 GPU 또는 배치 프로세싱 환경에서만 Magika의 속도와 일치합니다.
• 응용 연구의 범위: 네트워크 연구는 루프백(loopback), 평문 UDP를 사용했습니다. 디스크 연구는 압축/암호화 형식을 과잉 대표하는 "포렌식 스트레스" 분포를 사용했습니다. 실제 TCP 세그멘테이션, 손실, 재정렬 및 암호화된 전송은 테스트되지 않았습니다.
• 프로브 vs. 파인트레이닝: 보고된 수치는 프리징된 인코더와 로지스틱 회귀 프로브를 사용한 것입니다. 프로덕션 환경에서는 엔드 투 엔드 파인트레이닝이 권장되지만, 본 연구에서는 수행되지 않았습니다.

의의 및 기여

이 논문의 주요 기여는 위치 불가지론적 사전 학습이 전통적인 전체 파일 분류기를 무력화하는 다양한 파편화된 입력 체계를 처리할 수 있는 단일 모델을 가능하게 한다는 점을 입증한 데 있습니다.

• 다재다능함: 단일 체크포인트가 깨끗한 파일 헤드, 미드-스트림 패킷, 또는 무작위 디스크 블록을 분류할 수 있습니다.
• 세밀함: 많은 포렌식 파편 분류기가 거친 10~30개 클래스 분류 체계를 사용하는 것과 달리, 정교한 125개 클래스의 libmagic 분류 체계에서 작동합니다.
• 배포 가이드라인: 입력 체제에 따라 어떤 모델 변형을 사용할지에 대한 구체적인 지침을 제공합니다:
  • 깨끗한 파일: medium/bpe-16k (가장 높은 정확도).
  • 스트리밍/패킷: medium/byte (작은 입력에서 즉시 포화).
  • 포렌식/처리량: medium/bpe-64k (무작위 블록 및 높은 처리량에 적합).

MimeLens는 밀리초 단위의 전체 파일 트리아지를 위해 Magika나 libmagic을 대체하는 것을 목표로 하지 않습니다. 대신, 완전한 파일이 아닌 파편으로부터 콘텐츠를 분류해야 하는 워크로드를 타겟팅하며, 지연 시간, 세밀함, 위치 불가지론성의 표면 위에서 독특한 지점을 점유합니다. 훈련된 36개의 모든 체크포인트와 훈련 코드는 Hugging Face와 GitHub에 공개되어 있습니다.