LiZAD: A Lightweight Zero-Shot Anomaly Detection Framework for Industrial Manufacturing

Resumen Técnico: LiZAD – Un marco de trabajo ligero de detección de anomalías zero-shot

Planteamiento del problema
En la fabricación industrial moderna de alto rendimiento, las configuraciones de productos y las características visuales cambian con frecuencia. La detección de anomalías supervisada tradicional requiere una extensa recopilación y anotación de datos para cada nuevo escenario, lo cual suele ser costoso e inviable. Si bien la detección de anomalías zero-shot (ZSAD, por sus siglas en inglés) ofrece una solución al detectar defectos en categorías no vistas sin datos de entrenamiento específicos para el objetivo, los enfoques de ZSAD existentes enfrentan un cuello de botella crítico: son computacionalmente intensivos. Basados en grandes modelos de visión y lenguaje, estos modelos demandan alta memoria y potencia de procesamiento, lo que los hace inadecuados para su despliegue en dispositivos de borde (edge) con recursos limitados o en líneas de producción en tiempo real donde la velocidad de inferencia es primordial.

Metodología
Los autores proponen LiZAD, un marco ligero diseñado específicamente para ZSAD en tiempo real en dispositivos de borde. La arquitectura aborda el equilibrio entre la eficiencia computacional y la localización fina mediante tres componentes principales:

1. Columna vertebral visual (DINOv3): En lugar de los codificadores visuales estándar tipo CLIP, que están optimizados para la alineación semántica global, LiZAD utiliza DINOv3 (específicamente la variante compacta ViT-S/16). Esta elección se debe a la capacidad de DINOv3 para proporcionar características visuales densas y espacialmente conscientes, cruciales para una localización de anomalías precisa a nivel de píxel. El modelo utiliza un codificador congelado para extraer tokens globales y embeddings de nivel de parche (patch-level).
2. Codificador de texto (MobileCLIP2): Para la rama de texto, el marco emplea MobileCLIP2, una arquitectura diseñada para una ejecución de baja latencia en hardware de borde. Utiliza un diseño de convolución-transformador altamente optimizado y un entrenamiento reforzado multimodal para extraer embeddings de texto expresivos con una huella de memoria mínima.
3. Espacio latente compartido y proyección: Dado que los codificadores visual y de texto operan en diferentes espacios dimensionales y no están entrenados conjuntamente, LiZAD introduce cabezales de proyección lineales ligeros y entrenables. Estos cabezales mapean los embeddings de los parches visuales, los tokens globales y los embeddings de texto en un espacio latente compartido.
   • Prompting: El sistema utiliza plantillas estándar ("una imagen de un {estado} {objeto}") para generar embeddings de texto normales y anormales.
   • Puntuación (Scoring): Las puntuaciones de anomalía se calculan mediante la similitud de coseno entre los parches visuales proyectados y los embeddings de texto normales y anormales. Una función softmax convierte estas similitudes en probabilidades de anomalía.
   • Regularización: Se añade un regularizador de contexto global basado en el token global proyectado para estabilizar el espacio de embedding y calibrar las direcciones más allá de la supervisión dispersa a nivel de parche.
   • Salida: El mapa de anomalías resultante se aumenta mediante interpolación bilineal para generar un mapa de calor de anomalías denso a nivel de píxel.

Contribuciones clave

• Primer ZSAD ligero para el borde (Edge): LiZAD se presenta como el primer marco de ZSAD rápido, ligero y preciso construido explícitamente para el despliegue en el mundo real en dispositivos con recursos limitados.
• Eficiencia arquitectónica: Al emparejar DINOv3 con MobileCLIP2 y utilizar únicamente cabezales de proyección ligeros para el entrenamiento (manteniendo los codificadores congelados), el marco reduce drásticamente la carga computacional.
• Validación en el mundo real: El marco fue desplegado con éxito en dispositivos de borde NVIDIA Jetson NX y Jetson AGX, y probado en una línea de producción real en el Laboratorio de Ingeniería de Computación Industrial (ICE Lab) de la Universidad de Verona.

Resultados experimentales
Los autores evaluaron LiZers contra seis modelos de ZSAD de última generación (CLIP, WinCLIP, APRILGAN, AnomalyCLIP, AdaCLIP, Bayes-PFL) a través de cuatro conjuntos de datos industriales: VisA, BTAD, MPDD y MVTec-AD.

• Ganancias de eficiencia:
  • Memoria: Reducida en un promedio del 61.5% (bajando a 1.01 GB).
  • Parámetros: Reducidos en un 74.6% (bajando a 97.44 M de parámetros).
  • Latencia: Logró una aceleración de 3.02× (reducción del 69.9% en la latencia de inferencia) en comparación con el promedio de los modelos competidores. En Jetson NX, alcanzó 754.6 ms por muestra; en Jetson AGX, 554.4 ms.
• Compromiso de rendimiento (Performance trade-off): A pesar de las reducciones significativas en la complejidad, LiZAD mantiene un rendimiento de detección competitivo.
  • Alcanzó un AUROC promedio de píxel de 88.05%.
  • Esto representa una caída de solo un 6.4% respecto al mejor modelo de última generación probado en los conjuntos de datos.
  • Específicamente, se mantuvo dentro del 1.3% del mejor resultado en VisA y del 5.2% en MVTec-AD.
• Resultados cualitativos: Las comparaciones visuales demuestran que LiZAD produce respuestas de anomalía nítidas y concentradas a través de diversas texturas y patrones de defectos, confirmando sus capacidades de localización robustas.

Significancia
El artículo afirma que LiZAD logra cerrar la brecha entre la detección de anomalías zero-shot de alta precisión y los estrictos requisitos de tiempo real y recursos limitados de los entornos industriales. Al demostrar que se pueden lograr reducciones sustanciales en memoria y parámetros con solo un compromiso mínimo en la precisión de la localización, el marco permite el despliegue de sistemas avanzados de detección de anomalías en plataformas de borde donde los modelos pesados anteriores eran impracticables. El éxito de las pruebas en una línea de producción real subraya su potencial para la aplicación industrial inmediata.