MimeLens: Position-Agnostic Content-Type Detection for Binary Fragments

Resumen Técnico: MimeLens

Planteamiento del Problema

La clasificación de tipos de archivos es una operación fundamental en dominios que van desde el triaje de malware y la recuperación forense hasta la inspección de paquetes y la indexación de almacenamiento. Las soluciones actuales de vanguardia, como libmagic (basada en reglas) y Magika (aprendida), operan bajo una restricción crítica: requieren acceso al inicio de un archivo completo en un desplazamiento (offset) conocido.

• libmagic depende de reglas de patrones de bytes diseñadas a mano y ancladas a desplazamientos fijos de archivos.
• Magika toma muestras de tres ventanas fijas (cabecera, medio y cola) de un archivo completo.

Estos sistemas fallan cuando se presentan los tipos de entradas comunes en flujos de trabajo del mundo real, tales como:

• Cargas útiles de un único paquete (por ejemplo, de un flujo UDP).
• Fragmentos sin cabecera recuperados durante la recuperación forense (carving).
• Bloques de disco aleatorios leídos en desplazamientos desconocidos.
• Cargas segmentadas (chunked uploads) donde el archivo completo aún no está disponible.
• Fragmentos ofuscados dentro de artefactos de malware.

Los modelos aprendidos y las herramientas basadas en reglas existentes no pueden clasificar estos inputs de "desplazamiento arbitrario" de manera efectiva porque carecen del contexto del límite del archivo y de las regiones de cabecera específicas que fueron entrenadas para reconocer.

Metodología

El artículo presenta MimeLens, una familia de codificadores pequeños de estilo BERT diseñados para clasificar tipos de contenido de archivos a partir de fragmentos de bytes tomados en cualquier desplazamiento dentro de un archivo.

Principios de Diseño Centrales:

1. Preentrenamiento Independiente de la Posición: A diferencia de Magika, que muestrea regiones de archivos específicos, MimeLens es preentrenado con fragmentos muestreados desde un desplazamiento uniformemente aleatorio dentro de cada archivo. El modelo se expone a regiones de bytes mágicos, cargas útiles incrustadas, flujos de mitad de archivo, segmentos de datos arbitrarios y rebanadas de datos con igual probabilidad. No existe una posición privilegiada de "cabecera de archivo".
2. Arquitectura: Los modelos utilizan una arquitectura de transformador pre-norm con RMSNorm, incrustaciones de posición rotatorias (RoPE) y capas feed-forward GeGLU.
   • Backbone: Un backbone compartido de 37.76 millones de parámetros (12 capas, tamaño oculto de 512, 8 cabezales).
   • Pooling: Mean-pooling sobre los tokens del cuerpo (excluyendo CLS/SEP/pad) para generar un embedding de longitud fija.
   • Clasificación: Una sonda lineal (regresión logística) mapea el embedding a uno de los 125 labels MIME de libmagic.
3. Pipelines de Entrada (El "Cubo"): Los autores entrenaron una cuadrícula factorial de modelos que varían en tamaño, tokenizador y longitud de contexto. Se destacan tres "celdas" principales para el despliegue:
   • MimeLens-medium/bpe-16k: Optimizado para cabeceras de archivos limpias y completas. Utiliza un vocabulario BPE de 16k.
   • MimeLens-medium/byte: Optimizado para datos parciales o de streaming. Utiliza tokenización de bytes crudos (mapa de identidad), actuando efectivamente como un clasificador de 1,022 bytes.
   • MimeLens-medium/bpe-64k: Optimizado para la indexación limitada por throughput y bloques de disco forenses. Utiliza un vocabulario BPE de 64k para empaquetar más bytes por token.

Datos de Entrenamiento:
Los modelos fueron preentrenados utilizando Modelado de Lenguaje Enmascarado (MLM) en un corpus binario de fuentes múltiples de 33 GB. La receta de entrenamiento asegura un cómputo igualado entre las celdas, variando únicamente el vocabulario del tokenizador y la semilla aleatoria.

Resultados Clave

1. Calibración en Entradas Limpias (Archivos Completos)
Evaluado en un split de retención del corpus magic-files (4,096 archivos, 1,024 muestras de prueba):

• MimeLens-medium/bpe-16k supera a Magika v1.1 en datos etiquetados por libmagic en todos los niveles de rigor:
  • Aligned Top-1: 0.829 (MimeLens) vs. 0.722 (Magika) → +10.7 puntos porcentuales (pp).
  • Strict Top-1: 0.828 vs. 0.653 (+17.5 pp).
  • Top-Level: 0.927 vs. 0.840 (+8.7 pp).
• Matiz por Clase: La ganancia agregada no es uniforme. MimeLens domina en clases de código fuente y texto estructurado (ej. text/x-c, application/vnd.ms-excel) por 25–90 pp. Por el contrario, Magika domina en clases de medios, imágenes y lenguajes de scripting (ej. image/gif, text/x-perl) por 70–85 pp.

2. Estudio de Aplicación: Clasificación de Paquetes de Red
En un escenario simulado de flujo UDP (500 archivos, 498 flujos capturados), la clasificación se intentó utilizando solo el primer paquete (1.4 KB):

• MimeLens-byte logró una precisión Top-1 de 0.855 a partir de un solo paquete de 1.4 KB.
• Magika cayó a 0.588, y libmagic a 0.739.
• El tokenizador de bytes permite al modelo saturar su entrada inmediatamente, lo que lo hace efectivo para la clasificación de prefijos tempranos.

3. Estudio de Aplicación: Clasificación de Bloques de Disco Forense
En un escenario que simula lecturas aleatorias de 4 KB desde una imagen de disco no montada (980 bloques de mitad de archivo):

• MimeLens-medium/bpe-64k logró una precisión Top-1 de 0.266.
• Esto es más del doble del rendimiento de libmagic (0.093) y Magika (0.112).
• Interpretación: Aunque la precisión absoluta es baja (debido a la opacidad informacional de los bloques comprimidos/encriptados de mitad de archivo), MimeLens supera significativamente a los baselines. El artículo sugiere un despliegue de tres etapas: detectar bloques "opacos" (alta entropía) y abstenerse, luego clasificar solo los bloques con confianza.

Limitaciones y Alcance

Los autores delimitan explícitamente sus afirmaciones:

• Verdad Fundamental (Ground Truth): Todas las evaluaciones utilizan labels derivados de libmagic. Los resultados demuestran que MimeLens es un clasificador de estilo libmagic mejor que Magika en este corpus específico, no que esté más cerca de una "verdad objetiva" del tipo de archivo (ej. PRONOM o adjudicación humana).
• Latencia: MimeLens es 1–2 órdenes de magnitud más lento que Magika en CPU (aprox. 202 ms vs. 1.3 ms por muestra). Solo iguala la velocidad de Magika en GPUs de consumo o en procesamiento por lotes (batch processing).
• Alcance de los Estudios de Aplicación: El estudio de red utilizó loopback, UDP en texto claro. El estudio de disco utilizó una distribución de "estrés forense" que sobre-representa formatos comprimidos/encriptados. No se probaron la segmentación TCP, pérdida de paquetes, reordenamiento y transporte encriptado del mundo real.
• Sonda vs. Fine-tuning: Los números reportados utilizan un encoder congelado con una sonda de regresión logística. Se recomienda el fine-tuning de extremo a extremo para producción, pero esto no se realizó en este estudio.

Significancia y Contribución

La contribución principal del artículo es la demostración de que el preentrenamiento independiente de la posición permite que un solo modelo maneje diversos regímenes de entrada fragmentados que rompen a los clasificadores tradicionales de archivos completos.

• Versatilidad: Un solo checkpoint puede clasificar la cabecera de un archivo limpio, un paquete de mitad de flujo o un bloque de disco aleatorio.
• Granularidad: Opera en la taxonomía detallada de 125 clases de libmagic, a diferencia de muchos clasificadores de fragmentos forenses que usan taxonomías más gruesas de 10–30 clases.
• Guía de Despliegue: El artículo proporciona guía específica sobre qué variante de modelo usar según el régimen de entrada:
  • Archivos Limpios: medium/bpe-16k (mayor precisión).
    • Streaming/Paquetes: medium/byte (satura en entradas pequeñas).
  • Forense/Throughput: medium/bpe-64k (mejor para bloques aleatorios y alto throughput).

MimeLens no pretende reemplazar a Magika o libmagic para el triaje de archivos completos de sub-milisegundo, sino que ocupa un punto distinto en la superficie de latencia, granularidad y arbitrariedad de posición, apuntando específicamente a cargas de trabajo que deben clasificar contenido a partir de fragmentos en lugar de archivos completos. Los 36 checkpoints entrenados y el código de entrenamiento se han publicado en Hugging Face y GitHub.