Geometrically Constrained Outlier Synthesis

El artículo presenta GCOS, un marco de regularización que sintetiza outliers virtuales en el espacio de características respetando la estructura del manifold de los datos, mejorando así la detección robusta de datos fuera de distribución y permitiendo inferencia conformal con garantías de error formal.

Lo esencial

Imagina que tienes un guardaespaldas muy inteligente (una red neuronal) cuyo trabajo es reconocer a tus amigos (los datos de entrenamiento) y decirte si alguien es un extraño (datos fuera de distribución o OOD).

El problema es que, a veces, este guardaespaldas es demasiado confiado. Si ve a un extraño que se parece un poco a un amigo (por ejemplo, un lobo que se parece a un perro), el guardaespaldas podría gritar: "¡Es mi amigo! ¡Pasa!", cuando en realidad es un peligro. Esto es lo que los científicos llaman "sobreconfianza en datos fuera de distribución".

Este paper presenta una solución llamada GCOS (Síntesis de Extranjeros Geométricamente Constrained). Aquí te lo explico con una analogía sencilla:

1. El Problema: El Guardaespaldas Ciego

Antes, los métodos para entrenar a estos guardaespaldas eran como enseñarles a reconocer extraños mostrándoles fotos de cosas totalmente locas (como un coche en el cielo o un gato con alas).

• La falla: En la vida real, los "extraños" peligrosos no son cosas locas; son cosas que casi parecen amigos, pero no lo son (como un lobo disfrazado de perro). Si solo entrenas al guardaespaldas con cosas locas, no aprenderá a detectar a los "casi amigos".

2. La Solución: La "Fábrica de Extraños" (GCOS)

Los autores crearon un sistema para fabricar extraños virtuales durante el entrenamiento, pero con una regla de oro: deben parecerse lo suficiente a los amigos para ser difíciles de detectar, pero lo suficiente diferentes para ser peligrosos.

Imagina que tus amigos viven en una casa con forma específica (el "manifold" o la forma de los datos).

• Método antiguo (VOS): Simplemente lanzaban piedras al aire lejos de la casa. Es fácil decir "¡Esa piedra no es mi amigo!".
• Método GCOS: En lugar de lanzar piedras al azar, miran la casa y dicen: "¿Por dónde se escapan los amigos si se equivocan de camino?".
  • Usan una herramienta matemática (como un escáner de rayos X) para encontrar los caminos estrechos y poco usados alrededor de la casa.
  • Generan "extraños" que caminan exactamente por esos caminos estrechos. Son extraños que casi entran en la casa, pero no del todo.

3. La "Cáscara de Nuez" (El Shell Conformal)

¿Cómo saben qué tan lejos deben poner a estos extraños virtuales?

• Si los ponen muy cerca, el guardaespaldas no los distingue de los amigos.
• Si los pone muy lejos, el guardaespaldas los ignora porque son obvios.

Aquí entra la magia de la "Cáscara de Nuez":
Imagina que la casa tiene una zona de seguridad invisible alrededor.

1. El sistema mide qué tan "raro" se siente un punto.
2. Define una cáscara (un anillo) alrededor de la casa.
   • El borde interior es donde los puntos ya son un poco sospechosos.
   • El borde exterior es donde son claramente extraños.
3. El sistema genera a los "extraños virtuales" exactamente en medio de esa cáscara. Son lo suficientemente raros para que el guardaespaldas diga "¡Alto!", pero lo suficientemente parecidos para que el guardaespaldas tenga que pensar un poco.

4. El Entrenamiento: "Entrenamiento de Fricción"

Ahora, el guardaespaldas se entrena con dos tipos de datos:

1. Sus amigos reales.
2. Los extraños virtuales que acaban de fabricar en esa "cáscara".

El objetivo es que el guardaespaldas aprenda a empujar a los amigos hacia el centro de la casa y a los extraños hacia afuera, creando una frontera de decisión muy clara y ajustada. Ya no confía ciegamente; sabe dónde termina la casa y empieza el bosque.

5. El Resultado: Un Guardaespaldas Más Sabio

Cuando ponen a prueba a este nuevo guardaespaldas:

• En casos fáciles: (Distinguir un perro de un gato) funciona genial.
• En casos difíciles: (Distinguir un perro de un lobo, o un tumor leve de uno grave) GCOS es mucho mejor que los métodos anteriores. No se deja engañar por los "casi amigos".

Bonus: La "Garantía Legal" (Conformal Prediction)

El paper también menciona una idea futura: en lugar de solo decir "Creo que es un extraño", el sistema podría decir: "Tengo un 95% de certeza estadística de que esto es un extraño".
Es como si el guardaespaldas no solo gritara "¡Peligro!", sino que mostrara un certificado oficial que garantiza que su alarma no sonará por error más de un 5% de las veces. Esto es vital en medicina o seguridad, donde un error puede costar mucho.

En resumen

GCOS es como un entrenador que, en lugar de mostrarle al guardaespaldas fotos de monstruos de dibujos animados, le hace practicar con actores disfrazados que caminan justo en el borde de la seguridad. Así, cuando llega un verdadero peligro, el guardaespaldas está listo, no confiado, y sabe exactamente cuándo decir "No".

Resumen técnico

Resumen Técnico: Geometrically Constrained Outlier Synthesis (GCOS)

1. El Problema

Las redes neuronales profundas para clasificación de imágenes suelen exhibir un exceso de confianza (overconfidence) cuando se enfrentan a muestras fuera de distribución (OOD, Out-of-Distribution). Esto significa que el modelo asigna una alta probabilidad a una clase de entrenamiento incluso cuando la entrada es completamente ajena o anómala.

El artículo identifica dos limitaciones críticas en los métodos existentes:

1. Limitaciones de la síntesis de outliers (ej. VOS): Métodos previos como Virtual Outlier Synthesis (VOS) generan outliers sintéticos asumiendo distribuciones paramétricas simples (como Gaussianas) fuera del soporte de los datos normales. Esta simplificación falla al capturar la naturaleza compleja y no gaussiana de las anomalías reales, y a menudo genera muestras que son demasiado fáciles de detectar o que se superponen con datos reales.
2. Foco en benchmarks "lejanos" (Far-OOD): La mayoría de la literatura se centra en detectar datos semánticamente muy diferentes (ej. clasificar objetos industriales con un modelo entrenado en animales). Sin embargo, el desafío más crítico para la IA robusta es la detección near-OOD (cerca de la distribución), donde las muestras pertenecen al mismo dominio semántico pero a subclases no vistas durante el entrenamiento (ej. razas de perros similares), lo que genera una alta similitud en el espacio de características.

2. Metodología: GCOS

El authors proponen Geometrically Constrained Outlier Synthesis (GCOS), un marco de regularización que genera outliers virtuales respetando la estructura de la variedad (manifold) aprendida de los datos dentro de la distribución (ID). El proceso consta de dos etapas principales:

A. Síntesis Geométrica en el Espacio de Características

En lugar de muestrear desde distribuciones predefinidas, GCOS explora el espacio de características latente:

1. Análisis de Componentes Principales (PCA): Se extrae un subespacio de varianza dominante de las características de entrenamiento. Las direcciones con baja varianza (componentes principales menores) se identifican como direcciones "fuera de la variedad" (off-manifold). Moverse en estas direcciones genera puntos que son estadísticamente improbables pero cercanos al centroide de los datos.
2. Cáscara Conformal (Conformal Shell): Para controlar la dificultad de los outliers sintetizados, se define un rango de magnitud de desviación ($\alpha$) utilizando un heurístico inspirado en la Predicción Conformal.
   • Se utiliza un conjunto de calibración para calcular cuantiles de una puntuación de "no conformidad" (ej. distancia de Mahalanobis).
   • Se define una "cáscara" entre el percentil 95 y el 99 ($q_{95}, q_{99}$).
   • Los outliers se generan seleccionando $\alpha$ uniformemente dentro de este rango. Esto asegura que los outliers no sean triviales (demasiado fáciles) ni indistinguibles de los datos ID.

B. Función de Pérdida y Regularización

El marco combina la síntesis geométrica con un objetivo de regularización contrastiva:

• Puntuación de No Conformidad: Se utiliza la Energía de Extrañeza (Energy Strangeness Score) o la distancia de Mahalanobis.
• Pérdida Contrastiva ($L_{reg}$): Se minimiza la puntuación de no conformidad de las muestras ID y se maximiza la de las muestras OOD sintetizadas.
  $$L_{reg} = \mathbb{E} \left[ \max(0, S(z_{id}) - \min_k S(z_{ood}) + m) \right]$$
  Donde $m$ es un margen adaptativo. Esto empuja las fronteras de decisión más allá de los clusters de datos, reduciendo la confianza excesiva en regiones ambiguas.

C. Inferencia y Garantías Estadísticas

El artículo explora una extensión hacia la Predicción Conformal en la fase de inferencia. En lugar de usar umbrales heurísticos sobre puntuaciones de energía, el método convierte las puntuaciones en valores p estadísticamente válidos. Esto permite establecer umbrales con garantías formales de error (control de la tasa de falsos positivos/negativos), ofreciendo una detección OOD más predecible y fiable.

3. Contribuciones Clave

1. Síntesis de Outliers Guiada por Geometría: Reemplaza la dependencia de distribuciones paramétricas (Gaussianas) por un enfoque que sondea subespacios de baja varianza del manifold aprendido, capturando mejor la estructura compleja de los datos.
2. Heurística de Cáscara Conformal: Introduce un mecanismo para adaptar dinámicamente la magnitud de los outliers sintetizados, asegurando que sean "dificultades óptimas" para la regularización (ni demasiado fáciles, ni demasiado extremos).
3. Enfoque en Near-OOD: El método demuestra un rendimiento superior en tareas de detección near-OOD (mismas superclases, subclases no vistas), un escenario crítico a menudo ignorado.
4. Marco Híbrido de Garantías: Propone un puente entre la regularización de entrenamiento y la inferencia con garantías estadísticas formales mediante pruebas de hipótesis conformales.

4. Resultados Experimentales

Los experimentos se realizaron en cuatro conjuntos de datos desafiantes: Colored MNIST, MVTec (defectos industriales), Stanford Dogs (razas de perros) y Retinopathy (patologías oculares).

• Rendimiento Superior: GCOS supera a los métodos State-of-the-Art (SOTA) como VOS, Dream-OOD, NCIS y métodos basados en puntuaciones clásicas (MSP, MaxLogit).
  • Logró un AUROC promedio de 93.47%, superando a NCIS (91.97%) y Dream-OOD (85.76%).
  • Mostró reducciones significativas en la FPR95 (Tasa de Falsos Positivos al 95% de Verdaderos Positivos), alcanzando valores cercanos a 0% en algunos casos (ej. 0.00% en Stanford Dogs), lo que indica una capacidad excepcional para no confundir outliers con clases reales.
• Visualización del Espacio de Características: Las proyecciones UMAP muestran que GCOS genera outliers en regiones "off-manifold" desafiantes, cerrando la frontera de decisión alrededor de los clusters de datos de manera más efectiva que VOS (cuyos outliers tienden a quedarse en los bordes de los clusters).
• Robustez: El método es ligero y escalable, evitando el alto costo computacional de los modelos de difusión utilizados en métodos SOTA recientes.

5. Significado e Impacto

El trabajo de GCOS es significativo por varias razones:

• Robustez en Escenarios Críticos: Al enfocarse en problemas near-OOD y utilizar una síntesis geométrica, aborda directamente los fallos catastróficos que ocurren cuando modelos de IA enfrentan variaciones sutiles pero no vistas en entornos reales (como medicina o conducción autónoma).
• Transición hacia la IA Confiable: La integración de la predicción conformal no solo mejora la detección de outliers, sino que ofrece un camino hacia sistemas con garantías estadísticas formales. Esto es crucial para aplicaciones de alto riesgo donde se requiere cuantificación de incertidumbre rigurosa.
• Eficiencia: Demuestra que se pueden lograr resultados SOTA sin depender de modelos generativos masivos (como Diffusion Models), utilizando en su lugar la geometría intrínseca de las representaciones aprendidas por la red.

En conclusión, GCOS representa un avance principista en la detección de anomalías, combinando la comprensión geométrica de los datos con la teoría estadística de la predicción conformal para crear modelos de clasificación más seguros y predecibles.