MimeLens: Position-Agnostic Content-Type Detection for Binary Fragments

Riepilogo Tecnico: MimeLens

Problematica

La classificazione del tipo di file è un'operazione fondamentale in domini che vanno dal triage dei malware alla carotaggio forense (forensic carving), fino all'ispezione dei pacchetti e all'indicizzazione dello storage. Le attuali soluzioni allo stato dell'arte, come libmagic (basata su regole) e Magika (appresa), operano sotto un vincolo critico: richiedono l'accesso alla testata di un file completo a un offset noto.

• libmagic si affida a regole di pattern di byte progettate a mano e ancorate a offset fissi del file.
• Magika campiona tre finestre fisse (testata, centro, coda) da un intero file.

Questi sistemi falliscono quando si trovano di fronte agli input comuni nei flussi di lavoro reali, quali:

• Singoli payload di pacchetti (ad esempio, da uno stream UDP).
• Frammenti privi di header recuperati durante il carotaggio forense.
• Blocchi di disco casuali letti ad offset sconosciuti.
• Upload a blocchi (chunked) dove il file completo non è ancora disponibile.
• Chunk offuscati all'interno di artefatti malware.

Gli esistenti modelli appresi e gli strumenti basati su regole non possono classificare efficacemente questi input "arbitrari rispetto alla posizione" perché mancano del contesto del confine del file o delle regioni di header specifiche che sono stati addestrati a riconoscere.

Metodologia

Il paper introduce MimeLens, una famiglia di piccoli encoder in stile BERT progettati per classificare i tipi di contenuto dei file da chunk di byte prelevati a qualsiasi offset all'interno di un file.

Principi di Design Core:

1. Pretraining Agnostico rispetto alla Posizione: A differenza di Magika, che campiona regioni specifiche del file, MimeLens è preaddestrato su frammenti campionati da un offset uniformemente casuale all'interno di ogni file. Il modello è esposto a regioni di magic-byte, payload incorporati, stream di metà archivio, e slice arbitrarie di dati con uguale probabilità. Non esiste una posizione privilegiata "testata del file".
2. Architettura: I modelli utilizzano un'architettura transformer pre-norm con RMSNorm, rotary position embeddings (RoPE) e strati feed-forward GeGLU.
   • Backbone: Un backbone condiviso da 37,76M di parametri (12 strati, dimensione nascosta 512, 8 teste).
   • Pooling: Mean-pooling sui token del corpo (escludendo CLS/SEP/pad) per generare un embedding a lunghezza fissa.
   • Classificazione: Una sonda lineare (regressione logistica) mappa l'embedding in uno dei 125 label MIME di libmagic.
3. Pipeline di Input (Il "Cubo"): Gli autori hanno addestrato una griglia fattoriale di modelli che variano per dimensione, tokenizer e lunghezza del contesto. Tre "celle" primarie sono evidenziate per il deployment:
   • MimeLens-medium/bpe-16k: Ottimizzato per testate di file pulite e complete. Utilizza un vocabolario BPE di 16k.
   • MimeLens-medium/byte: Ottimizzato per dati in streaming/parziali. Utilizza la tokenizzazione dei byte grezzi (mappa di identità), agendo effettivamente come un classificatore da 1.022 byte.
   • MimeLens-medium/bpe-64k: Ottimizzato per l'indicizzazione limitata dal throughput e blocchi di disco forensi. Utilizza un vocabolario BPE di 64k per impacchettare più byte per ogni token.

Dati di Addestramento:
I modelli sono stati preaddestrati utilizzando il Masked Language Modeling (MLM) su un corpus binario multi-fonte di 33 GB. La ricetta di addestramento assicura una computazione corrispondente tra le celle, variando solo il vocabolario del tokenizer e il seed casuale.

Risultati Chiave

1. Calibrazione su Input Puliti (File Interi)
Valutato su una partizione di test del corpus magic-files (4.096 file, 1.024 campioni di test):

• MimeLens-medium/bpe-16k supera Magika v1.1 sui dati etichettati con libmagic in tutti i livelli di stringenza:
  • Aligned Top-1: 0,829 (MimeLens) vs. 0,722 (Magika) → +10,7 punti percentuali (pp).
  • Strict Top-1: 0,828 vs. 0,653 (+17,5 pp).
  • Top-Level: 0,927 vs. 0,840 (+8,7 pp).
• Sfumatura per Classe: Il guadagno aggregato non è uniforme. MimeLens domina nelle classi di codice sorgente e testo strutturato (es. text/x-c, application/vnd.ms-excel) con 25–90 pp. Al contrario, Magika domina nelle classi media, immagine e linguaggi di scripting (es. image/gif, text/x-perl) con 70–85 pp.

2. Studio di Applicazione: Classificazione di Pacchetti di Rete
In uno scenario di stream UDP simulato (500 file, 498 stream catturati), la classificazione è stata tentata utilizzando solo il primo pacchetto (1,4 KB):

• MimeLens-byte ha raggiunto una accuratezza Top-1 di 0,855 da un singolo pacchetto di 1,4 KB.
• Magika è sceso a 0,588, e libmagic a 0,739.
• Il tokenizer a byte permette al modello di saturare immediatamente il proprio input, rendendolo efficace per la classificazione dei prefissi iniziali.

3. Studio di Applicazione: Classificazione di Blocchi di Disco Forense
In uno scenario che simula letture casuali di 4 KB da un'immagine disco non montata (980 blocchi a metà file):

• MimeLens-medium/bpe-64k ha ottenuto un'accuratezza Top-1 di 0,266.
• Questo è più del doppio delle prestazioni di libmagic (0,093) e Magika (0,112).
• Interpretazione: Sebbene l'accuratezza assoluta sia bassa (a causa dell'opacità informatico-teoretica dei blocchi compressi/criptati a metà file), MimeLens supera significativamente i baseline. Il paper suggerisce un deployment in tre fasi: rilevare i blocchi "opachi" (alta entropia) e astenersi, poi classificare solo i blocchi con alta confidenza.

Limitazioni e Ambito

Gli autori delimitano esplicitamente le proprie affermazioni:

• Verità Fondamentale (Ground Truth): Tutte le valutazioni utilizzano label derivate da libmagic. I risultati dimostrano che MimeLens è un classificatore in stile libmagic migliore di Magika su questo specifico corpus, non che sia più vicino a una "verità oggettiva" del tipo di file (es. PRONOM o giudizio umano).
• Latenza: MimeLens è 1–2 ordini di grandezza più lento di Magika su CPU (circa 202 ms vs. 1,3 ms per campione). Pareggia la velocità di Magika solo su GPU consumer o in elaborazione batch.
• Ambito degli Studi di Applicazione: Lo studio di rete ha utilizzato loopback, UDP in chiaro. Lo studio sul disco ha utilizzato una distribuzione di "stress forense" che sovrarappresenta formati compressi/criptati. La segmentazione TCP, la perdita di pacchetti, il riordinamento e il trasporto criptato nel mondo reale non sono stati testati.
• Sonda vs. Fine-tuning: I numeri riportati utilizzano un encoder congelato con una sonda di regressione logistica. Il fine-tuning end-to-end è raccomandato per la produzione, ma non è stato eseguito in questo studio.

Significato e Contributo

Il contributo principale del paper è la dimostrazione che il pretraining agnostico rispetto alla posizione consente a un singolo modello di gestire diversi regimi di input frammentati che mandano in crisi i tradizionali classificatori di file interi.

• Versatilità: Un singolo checkpoint può classificare la testata di un file pulito, un pacchetto a metà stream o un blocco di disco casuale.
• Granularità: Opera sulla tassonomia fine a 125 classi di libmagic, a differenza di molti classificatori di frammenti forensi che usano tassonomie grossolane da 10–30 classi.
• Guida al Deployment: Il paper fornisce indicazioni specifiche su quale variante del modello utilizzare in base al regime di input:
  • File Puliti: medium/bpe-16k (accuratezza più elevata).
  • Streaming/Pacchetti: medium/byte (satura su piccoli input).
  • Forensics/Throughput: medium/bpe-64k (migliore per blocchi casuali e alto throughput).

MimeLens non mira a sostituire Magika o libmagic per il triage di file interi a sub-millisecondo, ma occupa un punto distinto sulla superficie di latenza, granularità e arbitrarietà della posizione, mirando specificamente a carichi di lavoro che devono classificare contenuti da frammenti piuttosto che da file completi. Tutti i 36 checkpoint addestrati e il codice di addestramento sono rilasciati su Hugging Face e GitHub.