Resumen Técnico: IDEAL para Detección de Anomalías Discriminativa con Pocos Ejemplos

1. Formulación del Problema

El artículo aborda una extensión práctica de la Detección de Anomalías con Pocos Ejemplos (FSAD, por sus siglas en inglés) denominada FSAD Discriminativa. A diferencia de los entornos convencionales de FSAD que dependen únicamente de un número limitado de muestras normales como referencias durante la inferencia, la FSAD Discriminativa asume la disponibilidad de un número limitado tanto de ejemplos normales como anómalos como referencias en contexto.

El desafío central identificado es que, aunque las referencias anómalas proporcionan pistas discriminativas valiosas, a menudo son escasas y heterogéneas. Utilizarlas ingenuamente como plantillas de coincidencia (por ejemplo, mediante coincidencia directa de similitud) conduce a un sobreajuste a los patrones de anomalías observados y a una generalización deficiente ante anomalías no vistas. Los métodos existentes ignoran por completo las referencias anómalas o no logran manejar la heterogeneidad distribucional de las anomalías con pocos ejemplos, lo que resulta en activaciones de anomalías ruidosas y un rendimiento degradado en nuevos tipos de defectos.

2. Metodología: El Marco IDEAL

Los autores proponen IDEAL (Aprendizaje de Desviación Intrínseca), un marco diseñado para aprender patrones de anormalidad generalizables caracterizándolos como desviaciones de la normalidad. IDEAL descompone el proceso de aprendizaje en dos componentes novedosos para manejar el ruido y la escasez de las referencias con pocos ejemplos:

2.1 Borrador de Variación Normal (NVE)

El componente NVE tiene como objetivo aislar las desviaciones relevantes para la anomalía suprimiendo las variaciones normales molestas (por ejemplo, cambios de iluminación, cambios de textura) que pueden crear desviaciones ruidosas.

• Desviaciones Residuales: Primero calcula residuos de características contrastando las características de referencia anómalas con sus vecinos normales de referencia más cercanos, cancelando el contenido específico de la clase.
• Denoising (Eliminación de Ruido): Estima un subespacio de variación normal local alrededor de cada característica anómala utilizando Análisis de Componentes Principales (PCA) sobre sus $k$ vecinos normales más cercanos. Luego, el NVE proyecta las desviaciones residuales sobre el complemento ortogonal de este subespacio, eliminando efectivamente los componentes alineados con las variaciones normales mientras preserva las señales relevantes para la anomalía.

2.2 Codificador de Desviación Intrínseca (IDE)

El componente IDE aprende un conjunto de vectores de desviación intrínseca que capturan las direcciones de desviación más discriminativas y ortogonales compartidas entre diferentes tipos de anomalías.

• Mecanismo: Emplea un mecanismo de atención cruzada donde vectores de consulta aprendibles atienden a las representaciones de desviación denoised derivadas del NVE.
• Optimización: El aprendizaje está guiado por una función de pérdida de doble objetivo ($L_{Dual}$):
  1. Discriminabilidad: Minimizar la distancia entre las características anómalas denoised y su vector de desviación intrínseca más cercano.
  2. Ortogonalidad: Imponer la ortogonalidad mutua entre los vectores de desviación intrínseca aprendidos para reducir la redundancia y garantizar una cobertura diversa de los patrones de anomalía.

2.3 Puntuación de Anomalía

Durante la inferencia, IDEAL no coincide la consulta directamente con las referencias limitadas. En su lugar:

1. Calcula desviaciones denoised para la imagen de consulta en relación con las referencias normales.
2. Estas desviaciones se proyectan sobre los vectores de desviación intrínseca aprendidos.
3. La puntuación de anomalía se deriva de la preservación de la desviación después de la proyección, combinada con una puntuación de coincidencia de normalidad. Esto permite que el modelo detecte tanto anomalías vistas como no vistas midiendo qué tan bien se alinea la desviación de una consulta con los patrones intrínsecos de anormalidad aprendidos.

3. Contribuciones Clave

• Formulación del Problema: El artículo define formalmente la FSAD Discriminativa, un entorno donde tanto las referencias con pocos ejemplos normales como las anómalas están disponibles durante la inferencia, con el objetivo de aprovechar las pistas discriminativas de las anomalías sin sobreajustarse a tipos específicos observados.
• Marco IDEAL: Introduce un marco novedoso que aprende patrones de desviación intrínseca en lugar de depender de la coincidencia directa de plantillas. Al descomponer el proceso en un Borrador de Variación Normal y un Codificador de Desviación Intrínseca, separa efectivamente las variaciones molestas de las señales reales de anomalía.
• Generalización: El método permite la detección de anomalías vistas y no vistas al aprender direcciones de desviación ortogonales que se generalizan a través de diversos tipos de anomalías, superando las limitaciones de los conjuntos de referencia escasos.
• Análisis Teórico: El artículo proporciona un análisis de límite de generalización (Teorema 4.1), vinculando el error objetivo con el riesgo de fuente empírico, el número de vectores de desviación intrínseca y la discrepancia entre las distribuciones de fuente y objetivo.

4. Resultados Experimentales

Los autores evaluaron IDEAL en ocho conjuntos de datos del mundo real, incluidos cinco conjuntos de datos industriales (MVTecAD, VisA, AITEX, MPDD, BTAD) y tres conjuntos de datos de imágenes médicas (BraTS, Liver, RESC). La evaluación siguió un protocolo de cruzamiento de conjuntos de datos donde el modelo se entrenó en un conjunto de datos de fuente y se probó en otros sin reentrenamiento.

• Rendimiento: IDEAL superó consistentemente a los métodos de FSAD más avanzados (incluyendo métodos especialistas como RegAD y métodos generalistas como InCTRL, ResAD y NAGL) en diversos entornos de pocos ejemplos (por ejemplo, 1-shot normal + 1-shot anómalo).
  • En MVTecAD con un entorno de 1-shot normal y 1-shot anómalo, IDEAL logró un 96.3% a nivel de imagen y un 96.8% a nivel de píxel de AUROC, superando al mejor anterior (NAGL) por un margen significativo.
• Detección de Anomalías No Vistas: En "Entornos Difíciles" donde se excluyeron muestras de prueba pertenecientes al tipo de anomalía del conjunto de referencia, IDEAL mantuvo un rendimiento robusto, mientras que los métodos que dependen de la coincidencia directa (como NAGL) sufrieron una degradación significativa.
• Eficiencia: IDEAL demostró una alta eficiencia, requiriendo solo 0.5 horas para el entrenamiento (45$\times$ más rápido que ResAD) y alcanzando 21.9 FPS durante la inferencia. También tiene un recuento de parámetros menor (~23.8M) en comparación con otros métodos generalistas.
• Estudios de Ablación: Los experimentos confirmaron que tanto los componentes NVE (denoising) como IDE (aprendizaje de vectores intrínsecos) son esenciales. La eliminación de NVE condujo a activaciones ruidosas, mientras que la eliminación de IDE resultó en un rendimiento frágil dependiente de la cobertura de referencia.

5. Significado y Afirmaciones

El artículo afirma que IDEAL representa un paso significativo hacia adelante para hacer que la detección de anomalías con pocos ejemplos sea más práctica y robusta. Al cambiar el paradigma de "coincidir con referencias limitadas" a "aprender patrones de desviación intrínseca", IDEAL utiliza efectivamente la información discriminativa en las referencias anómalas sin sucumbir al sobreajuste.

Los autores enfatizan que su enfoque apoya el desarrollo de detectores generalistas capaces de adaptarse a diversos conjuntos de datos y detectar tanto tipos de anomalías conocidos como desconocidos con datos mínimos. La capacidad del método para generalizar a anomalías no vistas en un entorno de cruzamiento de conjuntos de datos, combinada con su eficiencia computacional, lo posiciona como una solución viable para aplicaciones industriales y médicas del mundo real donde los datos son escasos y los tipos de anomalías son heterogéneos. El artículo concluye que aprovechar tanto las referencias normales como las anómalas a través del aprendizaje de desviación intrínseca es una estrategia superior para la FSAD discriminativa en comparación con los enfoques existentes que solo usan normales o de coincidencia directa.