Resumen Técnico: Multi-AD para la Detección de Anomalías No Supervisada en el Cruzamiento de Dominios

Planteamiento del Problema

La detección de anomalías (AD) es crítica para el diagnóstico temprano de enfermedades en medicina y la detección de defectos en la fabricación industrial. Sin embargo, un cuello de botella principal es la escasez de datos de anomalías etiquetados. Los casos anómalos son inherentemente raros, y la adquisición de datos etiquetados —particularmente en imágenes médicas— es laboriosa, costosa y está sujeta a la variabilidad entre observadores. Si bien el aprendizaje autodidacta (SSL) ha surgido como una solución al entrenar con datos "normales" no etiquetados, su rendimiento suele degradarse en escenarios con datos de entrenamiento limitados o con alta variabilidad intra-clase (por ejemplo, estructuras anatómicas diversas o entornos industriales complejos). Además, los enfoques existentes de Destilación de Conocimiento (KD) están frecuentemente limitados a aplicaciones de un solo dominio y carecen de robustez en la transferencia de cross-modality o cross-domain.

Metodología: Marco de Trabajo Multi-AD

Los autores proponen Multi-AD, un marco de red neuronal convolucional (CNN) diseñado para una detección de anomalías no supervisada y robusta tanto en dominios médicos como industriales. El método integra el aprendizaje de características agnósticas al dominio con la adaptación específica al dominio mediante una arquitectura de Profesor-Estudiante (T-S) mejorada por tres componentes principales:

1. Backbone Mejorado con Squeeze-and-Excitation (SE)

El backbone es una arquitectura WideResNet-50 modificada que incorpora:

• Convoluciones Dilatadas: Aplicadas a través de cuatro etapas residuales con tasas de dilatación progresivamente crecientes ($r=1, 2, 4, 8$) para expandir el campo receptivo preservando la resolución espacial. Esto permite al modelo capturar tanto detalles locales (p. ej., microfisuras) como el contexto global (p. ej., distorsiones estructurales).
• Bloques Squeeze-and-Excitation (SE): Integrados en cada etapa residual para realizar la recalibración de características por canal. Este mecanismo calcula estadísticas por canal mediante el promedio global (global average pooling) y utiliza capas totalmente conectadas para generar factores de escala, permitiendo que la red enfatice las características informativas y suprima las irrelevantes.
• Fusión de Características Multi-escala: Una capa convolucional fusiona características de las capas inferiores y superiores para combinar detalles de grano fino con información semántica de alto nivel.

2. Destilación de Conocimiento (KD) con Alineación de Características

El marco emplea una arquitectura T-S donde un modelo Profesor (T) pre-entrenado (congelado) transfiere conocimiento a un modelo Estudiante (S) entrenable.

• Régimen de Entrenamiento: El modelo se entrena exclusivamente con datos normales (libres de anomalías).
• Alineación de Características: El modelo S es entrenado para imitar las representaciones de características del modelo T. Las características de las capas críticas de ambos modelos se normalizan mediante L2.
• Función de Pérdida: Una pérdida de generador de características ($\mathcal{L}_G$) minimiza la distancia euclidiana (vía similitud de coseno) entre los vectores de activación normalizados de los modelos T y S a través de múltiples capas. Esto asegura que el modelo S aprenda la distribución intrínseca de los datos normales.

3. Red Discriminadora (D) y Entrenamiento Adversario

Para refinar aún más la distinción entre datos normales y anómalos, se introduce una red Discriminadora (D):

• Arquitectura: Una red convolucional que procesa mapas de características para emitir una puntuación de probabilidad que indica si la entrada es "real" (características del modelo T) o "falsa" (características del modelo S).
• Objetivo Adversario: La red D se optimiza para distinguir las características de T de las de S utilizando la pérdida de Entropía Cruzada Binaria (BCE). Por el contrario, el modelo S se entrena con un término adversario ($\mathcal{L}_{adv}$) para engañar a la red D, obligando al modelo S a producir mapas de características indistinguibles de la distribución normal del modelo T.
• Pérdida Total: La pérdida total del modelo S combina la alineación de características y los términos adversarios: $\mathcal{L}_S = \mathcal{L}_G + \lambda \mathcal{L}_{adv}$.

4. Fusión de Características Multi-escala Mejorada por Convolución (MFF)

Durante la inferencia, los mapas de anomalías se generan calculando la disimilitud de coseno píxel a píxel entre las características de T y S a través de múltiples capas ($M_1$ a $M_4$).

• Refinamiento: A diferencia de la simple suma, el MFF propuesto aplica una convolución de 1×1, Normalización por Lote (Batch Normalization) y ReLU a cada mapa de anomalías de escala antes de la fusión. Este paso refina los mapas de características para abordar las variaciones de escala y el desalineamiento espacial.
• Agregación: Los mapas refinados se combinan mediante interpolación bilineal y se suavizan con un filtro Gaussiano para producir el mapa de anomalías final. La puntuación de anomalía a nivel de imagen se deriva de la respuesta máxima de este mapa.

Contribuciones Clave

El artículo describe cuatro contribuciones primarias:

1. Marco de Cruzamiento de Dominios (Cross-Domain): Un marco de AD unificado que desvincula el aprendizaje de características agnósticas al dominio (compartidas) y las específicas del dominio (adaptativas), demostrando generalización a través de conjuntos de datos médicos (MRI, CT, OCT) e industriales.
2. MFF Mejorada por Convolución: Un módulo novedoso que mejora la localización de anomalías tanto pequeñas como grandes mediante el refinamiento de características multi-escala antes de la fusión.
3. Discriminador Adaptativo: La integración de redes D con mecanismos de atención adaptativa para permitir una localización precisa de anomalías a través de diversos tipos de imágenes.
4. Localización Precisa: La provisión de mapas de anomalías precisos para localizar enfermedades y defectos de productos, validada mediante experimentos extensos.

Resultados Experimentales

Multi-AD fue evaluado en tres conjuntos de datos médicos (BraTS2021 para MRI cerebral, RESC para OCT de retina, y BTCV/LiTs para CT de hígado) y el benchmark industrial MVTec AD.

• Desempeño Médico: Multi-AD logró un AUROC promedio de nivel de Imagen de 81.4% y un AUROC de nivel de Píxel de 97.0%, superando a modelos de vanguardia como PaDiM, PatchCore, SimpleNet, STFPM, RD4AD y MKD.
• Desempeño Industrial: En MVTec AD, el modelo alcanzó un AUROC promedio de nivel de Imagen de 99.6% y un AUROC de nivel de Píxel de 98.4%, superando consistentemente a los métodos basados en clustering y basados en reconstrucción.
• Estudios de Ablación:
  • Eliminar el Bloque SE redujo el AUROC de nivel de píxel, confirmando su papel en el enfoque hacia características informativas.
  • Eliminar el Discriminador (D) degradó significativamente el desempeño (p. ej., el AUROC de píxel médico cayó de 97.0% a 93.2%), resaltando la importancia del refinamiento adversario.
  • Eliminar el MFF provocó una disminución notable en la precisión de localización, validando la necesidad del refinamiento convolucional para la fusión multi-escala.

Significado y Reivindicaciones

Los autores afirman que Multi-AD ofrece una solución robusta para aplicaciones del mundo real donde los datos de anomalías etiquetados son escasos. Al aprovechar la destilación de conocimiento (KD) y el entrenamiento adversario, el modelo aprende eficazmente la distribución de los datos normales y detecta desviaciones sutiles sin requerir etiquetas de anomalías durante el entrenamiento.

El artículo enfatiza que la capacidad de Multi-AD para generar mapas de calor de anomalías nítidos y enfocados con mínimos falsos positivos lo hace superior a los métodos basados en clustering (que a menudo producen mapas amplios y desenfocados) y a los métodos basados en reconstrucción (que tienen dificultades con texturas complejas). La generalización demostrada por el marco a través de dominios sugiere que puede implementarse en diversos entornos médicos e industriales sin un reentrenamiento extensivo, abordando una necesidad crítica de sistemas de detección de anomalías escalables y confiables. Sin embargo, los autores señalan modestamente que la integración de MFF y redes adversarias aumenta la complejidad computacional, lo que puede plantear desafíos para la implementación en tiempo real en entornos con recursos limitados.