Resumen Técnico: PRISM para la Detección de OOD Transdominio

Planteamiento del Problema

La detección de datos fuera de la distribución (OOD, por sus siglas en inglés) es un desafío crítico para el despliegue de redes neuronales en sistemas reales de seguridad crítica. Aunque los modelos suelen lograr una alta precisión en datos de la misma distribución (ID, por sus siglas en inglés), pueden producir predicciones erróneas y excesivamente confiadas ante entradas que se desvían de la distribución de entrenamiento. Los métodos de detección de OOD post-hoc existentes dependen típicamente de un único nivel de representación (por ejemplo, logits o características penúltimas) o agregan puntuaciones de múltiples capas mediante la selección de profundidad o el pesaje calibrado para OOD.

Los autores identifican una limitación fundamental en estos enfoques: el nivel de representación más informativo para la detección de OOD varía significativamente entre diferentes tipos de OOD y dominios de aplicación (imágenes naturales, imágenes médicas, inspección industrial). En consecuencia, las elecciones de capa fijas o las estrategias de agregación calibradas en conjuntos de validación OOD específicos son frágiles y no logran generalizarse a través de los dominios. Además, muchos métodos multi-capa existentes requieren calibración dependiente de OOD o datos sintéticos para aprender los pesos de las capas, lo que introduce complejidad y reduce la transferibilidad en escenarios donde no se dispone de datos OOD representativos.

Metodología: PRISM

El artículo propone PRISM (Modelado de Subespacio con Capas Intermedias mediante Proyección), un método de detección de OOD post-hoc y agnóstico al modelo, diseñado para la robustez transdominio. PRISM se adhiere a un principio de "fusionar-luego-modelar", evitando la agregación de puntuaciones por capa en favor de la creación de una representación de características unificada antes del modelado estadístico.

El método consta de tres pasos principales:

1. Construcción de Características Multi-Capa Unificadas:
   En lugar de seleccionar una sola capa, PRISM extrae mapas de características de múltiples capas intermedias (desde las superficiales hasta las profundas) a través de la red. Para Redes Neuronales Convolucionales (CNN), los mapas de características espaciales se agregan mediante el promedio global de la activación (global average pooling); para los Vision Transformers (ViT), se promedian las secuencias de tokens. Cada vector resultante se normaliza mediante $\ell_2$ para evitar que las capas con magnitudes de activación mayores dominen la representación conjunta. Estos vectores normalizados se concatenan para formar un único vector de características multi-capa de alta dimensión $\mathbf{z}(\mathbf{x})$.

2. Modelado de Subespacio de Datos ID:
   PRISM asume que los datos ID residen en un manifold de baja dimensión dentro de este espacio de características fusionadas. Utilizando únicamente datos de entrenamiento ID, aplica el Análisis de Componentes Principales (PCA) para estimar un subespacio principal $\mathbf{W}$ que captura los modos dominantes de la variabilidad de los datos ID. En la inferencia, un vector de características se descompone en:

   • Proyección ($\mathbf{u}$): El componente alineado con el subespacio principal, que captura patrones semánticos consistentes con los datos ID.
   • Residuo ($\mathbf{r}$): El componente ortogonal que representa las características no soportadas por el manifold de ID aprendido.

3. Puntuación OOD:
   PRISM combina dos señales complementarias en una sola puntuación sin pesos aprendidos ni calibración de OOD:

   • Distancia de Mahalanobis Proyectada ($s_{\text{proj}}$): Una distancia de Mahalanobis condicional a la clase computada en el subespacio proyectado. Esto detecta desviaciones de las estructuras condicionales de clase dentro del manifold aprendido.
   • Energía Residual ($s_{\text{res}}$): La norma $\ell_2$ al cuadrado del vector residual. Esto captura la energía en direcciones ortogonales al manifold de ID, detectando direcciones de características novedosas o no soportadas.

   La puntuación final de OOD es el producto negativo de estos dos términos: $s_{\text{PRISM}}(\mathbf{x}) = -s_{\text{proj}}(\mathbf{x}) \cdot s_{\text{res}}(\mathbf{x})$. Esta combinación multiplicativa enfatiza las muestras que se desvían de la estructura ID tanto dentro como fuera del subespacio principal. Todas las estadísticas (medias, covarianza, parámetros de PCA) se estiman exclusivamente a partir de los datos ID.

Contribuciones Clave

• Identificación de la Sensibilidad de Agregación: Los autores demuestran que la agregación por capas y la calibración basada en OOD son altamente sensibles al conjunto de validación OOD elegido, lo que conduce a un comportamiento inestable transdominio. Muestran que los pesos óptimos de las capas varían significamente entre diferentes desplazamientos de imágenes médicas y naturales.
• Modelado de Subespacio Multi-Capa Unificado: PRISM introduce un principio que elimina la necesidad de selección de capas, heurísticas de agregación de puntuaciones y calibración dependiente de OOD. Al fusionar las representaciones antes del modelado, retiene los beneficios de robustez del modelado estadístico de características mientras captura información complementaria desde las capas superficiales hasta las profundas.
• Evaluación Transdominio Exhaustiva: El método se evalúa a través de benchmarks naturales, médicos e industriales (OpenOOD, OpenMIBOOD, ICONIC-444) utilizando una única configuración por defecto. PRISM logra el estado del arte en AUROC media y el mejor rango promedio entre los datasets sin requerir calibración de OOD.
• Eficiencia: El método incurre en un sobrecoste de inferencia mínimo (menos del 1.0% para tamaños de lote $\geq 16$) en comparación con las líneas base, lo que lo hace práctico para el despliegue en el mundo real.

Resultados

Experimentos extensos a través de 22 métodos post-hoc de última generación en diversos benchmarks arrojan los siguientes hallazgos:

• Rendimiento General: PRISM logra la mayor AUROC media (93.92%) en todos los benchmarks, superando al segundo mejor método (MDS++, 89.13%) por 4.79 puntos.
• Robustez de Dominio: A diferencia de los métodos competidores que muestran una pronunciada variabilidad dependiente del dominio (por ejemplo, MDSEns funciona bien en datos médicos pero mal en ImageNet-1k; GRAM destaca en entornos industriales pero se degrada en tareas médicas), PRISM mantiene un alto rendimiento constante a través de los dominios natural, médico e industrial.
• Robustez de Categoría OOD: PRISM mantiene una alta AUROC desde categorías de near-OOD hasta extreme-OOD, indicando robustez ante incrementos en los desplazamientos de la distribución.
• Generalización Arquitectónica: PRISM funciona de manera consistente en diferentes arquitecturas de backbone, incluyendo ResNets, Swin Transformers y ViTs, sin necesidad de ajustes específicos de la arquitectura.
• Estudios de Ablación: El artículo confirma que tanto el término de Mahalanobis proyectado como el término de energía residual son necesarios para un rendimiento óptimo, ya que capturan diferentes tipos de desviaciones geométricas. Se demuestra que la representación multi-capa unificada es más efectiva que las líneas base de una sola capa o la simple agregación de puntuaciones.

Significado y Reivindicaciones

El artículo afirma que PRISM aborda la inestabilidad de los métodos actuales de detección de OOD al priorizar un despliegue transferible basado solo en ID. Al fusionar las representaciones de superficial a profunda y modelar la geometría ID unificada en un subespacio de baja dimensión, PRISM evita las trampas de las preferencias de profundidad dependientes del benchmark y la calibración dependiente de OOD.

Los autores enfatizan que, si bien ningún detector post-hoc es universalmente el mejor en todos los dominios y tipos de OOD, PRISM proporciona una solución robusta y "por defecto" que integra información complementaria a través de las profundidades de representación. Este enfoque reduce la sensibilidad a las definiciones específicas de OOD o a los conjuntos de validación utilizados durante el desarrollo, ofreciendo un mecanismo más fiable para identificar desplazamientos de distribución en diversas aplicaciones del mundo real donde los datos OOD pueden ser escasos o desconocidos. Su capacidad para alcanzar un rendimiento de vanguardia con una configuración fija a través de los dominios natural, médico e industrial subraya el valor del modelado de subespacios multi-capa unificado para la robustez transdominio.