LADMIM: Logical Anomaly Detection with Masked Image Modeling in Discrete Latent Space

Resumen Técnico: Detección de Anomalías Lógicas con Modelado de Imágenes Enmascaradas (LADMIM)

1. El Problema

La detección de anomalías (AD) no supervisada es crucial para la inspección visual industrial. Tradicionalmente, los métodos se han centrado en anomalías estructurales (defectos locales como rasguños o manchas en un solo objeto). Sin embargo, un desafío emergente y difícil son las anomalías lógicas, que implican desviaciones en las relaciones globales o lógicas entre múltiples objetos en una imagen (ej. objetos mal alineados, combinaciones incorrectas o elementos faltantes).

• Limitaciones de los métodos actuales:
  • Los enfoques basados en reconstrucción (autoencoders) sufren del problema del "atajo de identidad" (ID-shortcut), donde el modelo reconstruye perfectamente las anomalías en lugar de detectarlas, o requieren cuellos de botella de información demasiado estrictos que degradan el rendimiento en regiones normales.
  • Los métodos basados en memoria (Memorybank) a menudo dependen de modelos de segmentación preentrenados para extraer representaciones centradas en objetos, lo que limita su generalización y requiere supervisión.
  • Los enfoques existentes de Modelado de Imágenes Enmascaradas (MIM) luchan con la incertidumbre posicional: predecir píxeles o características de imagen directas en regiones enmascaradas genera reconstrucciones borrosas y errores de predicción indeseados en regiones normales debido a la variabilidad de baja nivel.

2. Metodología Propuesta: LADMIM

El marco LADMIM (Logical Anomaly Detection with Masked Image Modeling) es un enfoque no supervisado que combina dos mecanismos complementarios para detectar tanto anomalías estructurales como lógicas sin necesidad de modelos de segmentación preentrenados.

Arquitectura Dual:

1. Detección de Anomalías Estructurales (HVQ-Trans):

   • Utiliza un Transformador Vectorial Cuantizado Jerárquico (HVQ-Trans).
   • Funciona como un modelo de reconstrucción que aprende a reconstruir características de imágenes normales.
   • Emplea una cuantización vectorial jerárquica para evitar el atajo de identidad y generar un espacio latente discreto robusto.
   • La puntuación de anomalía se basa en el error de reconstrucción (MSE) entre la imagen original y la reconstruida.

2. Detección de Anomalías Lógicas (ViT con MIM):

   • Utiliza un Vision Transformer (ViT) entrenado con el objetivo de Modelado de Imágenes Enmascaradas (MIM).
   • Innovación Clave: En lugar de predecir píxeles o características de imagen directas (lo cual es sensible a la posición), el modelo predice la distribución de probabilidad de variables latentes discretas (un histograma de códigos) en la región enmascarada.
   • Estas variables latentes discretas son generadas por el HVQ-Trans (que actúa como "tokenizador" o "maestro").
   • Ventaja: Al predecir una distribución de histogramas en lugar de tokens posicionales, el modelo se vuelve invariante a la permutación y a la incertidumbre posicional de los objetos dentro de la región enmascarada. Esto obliga al modelo a aprender dependencias de largo alcance y relaciones lógicas entre características.

Proceso de Entrenamiento e Inferencia:

• Entrenamiento en dos etapas: Primero se entrena HVQ-Trans para reconstrucción. Luego, se congela HVQ-Trans y se entrena el ViT para predecir los histogramas de códigos latentes de HVQ-Trans en regiones enmascaradas.
• Puntuación Final: Se calculan dos puntuaciones: $S_{HVQ}$ (error de reconstrucción estructural) y $S_{MIM}$ (error de predicción de distribución lógica). Estas se normalizan (usando Z-score para robustez ante valores atípicos) y se suman para obtener la puntuación final de anomalía.

3. Contribuciones Clave

• Nuevo Marco Unificado: Propone LADMIM, el primer enfoque que integra exitosamente MIM y aprendizaje de representaciones discretas jerárquicas para abordar simultáneamente anomalías estructurales y lógicas.
• Invarianza Posicional mediante Histogramas: Introduce la predicción de distribuciones de probabilidad de variables latentes discretas (histogramas) en lugar de tokens posicionales. Esto mitiga fundamentalmente el problema de la incertidumbre posicional en regiones enmascaradas, permitiendo al modelo enfocarse en la lógica global de la imagen.
• Rendimiento sin Segmentación: Logra un rendimiento competitivo sin depender de modelos de segmentación preentrenados, lo que mejora la generalización y reduce la complejidad de implementación.
• Escalabilidad: Al evitar cuellos de botella de información estrictos (típicos en métodos de reconstrucción pura), el método es más robusto y escalable a modelos más grandes y configuraciones multiclase.

4. Resultados Experimentales

Los autores evaluaron el método en cinco benchmarks, destacando MVTec LOCO (específico para anomalías lógicas) y MVTec AD (estructural).

• MVTec LOCO (Anomalías Lógicas y Estructurales):
  • LADMIM supera a los métodos convencionales basados en MIM (como SSM, SMAE) y a métodos basados en memoria (como PatchCore, ComAD) en la detección de anomalías lógicas.
  • Logra un rendimiento comparable a los métodos State-of-the-Art (SoTA) como EfficientAD y PUAD (que a menudo requieren segmentación o fine-tuning supervisado), con una diferencia de solo ~1.2% en AUROC en configuraciones multiclase.
  • Muestra una mejora significativa en la detección de anomalías lógicas a medida que aumenta la dimensión del modelo, algo que los métodos basados en cuellos de botella no logran.
• MVTec AD (Anomalías Estructurales):
  • Obtiene el mejor rendimiento entre los métodos basados en MIM, aunque queda ligeramente por detrás de los métodos SoTA puramente estructurales (que no se enfocan en lógica).
• Análisis de Diseño (Ablation Studies):
  • Se demostró que HVQ-Trans es superior para anomalías estructurales y ViT (MIM) para lógicas; su combinación es sinérgica.
  • La predicción de histogramas de códigos superó a la predicción de píxeles, características directas o códigos individuales, confirmando que la invarianza posicional es clave para la lógica.
  • La estrategia de enmascaramiento adaptativo y el uso de múltiples niveles de códigos mejoraron el rendimiento.

5. Significado e Impacto

• Cambio de Paradigma: LADMIM representa un paso away de los enfoques puramente basados en reconstrucción o memoria, estableciendo una nueva línea de investigación que utiliza la predicción de distribuciones discretas para capturar relaciones semánticas globales.
• Robustez Industrial: Al eliminar la dependencia de modelos de segmentación y manejar eficazmente configuraciones con múltiples objetos, el método es más aplicable a escenarios industriales reales complejos donde las relaciones entre objetos son críticas.
• Fundamento para Modelos Base: La capacidad de escalar el modelo sin degradar el rendimiento sugiere que los enfoques basados en MIM con tokenización discreta tienen el potencial de convertirse en modelos base para la detección de anomalías de propósito general.
• Limitaciones y Futuro: El método aún tiene dificultades para localizar anomalías lógicas específicas (solo da una puntuación global) y puede fallar si la máscara es demasiado grande para cubrir regiones lógicas pequeñas. Futuras direcciones incluyen el uso de enmascaramiento semántico y módulos de predicción estocástica (como difusión) para capturar relaciones de orden.

En resumen, LADMIM ofrece una solución elegante y robusta al problema de las anomalías lógicas mediante la transformación del problema de predicción de imágenes en un problema de predicción de distribuciones de tokens discretos, logrando un equilibrio óptimo entre la detección de defectos locales y la comprensión de la lógica global.