Robust Conditional Conformal Prediction via Branched Normalizing Flow

Resumen Técnico: Predicción Conformal Condicional Robusta mediante Flujo Normalizante Ramificado

1. Enunciado del Problema

La Predicción Conformal (CP) proporciona conjuntos de predicción con garantías de cobertura marginal bajo el supuesto de que los datos de calibración y prueba son independientes e idénticamente distribuidos (i.i.d.). Sin embargo, en presencia de desplazamientos de distribución (donde la distribución de prueba $Q_{XY}$ difiere de la distribución de calibración $P_{XY}$), los métodos existentes suelen alinear únicamente las distribuciones marginales de la puntuación conformal. Si bien esto preserva la cobertura marginal, no logra controlar el error de cobertura condicional en entradas de prueba individuales. En consecuencia, los conjuntos de CP pueden volverse poco fiables en regiones específicas donde las distribuciones de puntuación condicionales no coinciden, lo que conduce a una cobertura insuficiente o a una cobertura excesiva para entradas específicas. El desafío central es garantizar garantías de cobertura condicional robustas ($Pr(Y \in C(X) | X=x) \ge 1-\alpha$) bajo desplazamientos de distribución conjunta sin requerir conocimiento de las etiquetas reales de prueba durante la inferencia.

2. Metodología

La solución propuesta introduce un marco teórico que vincula el desplazamiento de distribución con la degradación de la cobertura condicional y una arquitectura novedosa para mitigarlo.

Marco Teórico:

• Brecha de Cobertura Condicional (CCG): Los autores definen la CCG para medir la discrepancia entre la cobertura condicional de una entrada de prueba bajo $Q_{XY}$ frente a la garantía bajo $P_{XY}$.
• Brecha de Cobertura Integrada (ICG): Definida como la esperanza de la CCG sobre la distribución de características de prueba $Q_X$, sirviendo como una métrica holística de robustez.
• Límite de Wasserstein: El artículo deriva una cota superior para la ICG utilizando la distancia de Wasserstein ($W$) entre las distribuciones conjuntas de calibración y prueba ($P_{XY}$ y $Q_{XY}$). Específicamente, $ICG(P, Q) \le \sqrt{2\kappa L} (\eta \cdot W(P_{XY}, Q_{XY}) + 1/4)$. Este límite implica que minimizar la distancia de Wasserstein entre las distribuciones puede promover teóricamente una cobertura condicional robusta.

Algoritmo: Flujo Normalizante Ramificado (BNF)
Para operacionalizar el límite de Wasserstein, los autores proponen el Flujo Normalizante Ramificado (BNF), un mapeo invertible $f_\theta(x, y) = (f_{\theta_X}(x), f_{\theta_Y}(y))$ diseñado para transformar la distribución de prueba $Q_{XY}$ para que coincida con la distribución de calibración $P_{XY}$.

• Arquitectura: El BNF utiliza dos ramas independientes. La rama $X$ ($f_{\theta_X}$) normaliza las entradas de prueba, mientras que la rama $Y$ ($f_{\theta_Y}$) transforma las etiquetas. Crucialmente, las ramas no comparten parámetros, asegurando que la transformación de $X$ no dependa de la etiqueta de prueba no observada $Y$.
• Proceso de Inferencia:
  1. Transformar una entrada de prueba $X_{n+1}$ a una entrada normalizada $\bar{X}_{n+1} = f_{\theta_X}(X_{n+1})$.
  2. Construir un conjunto de predicción condicional $CC(\bar{X}_{n+1})$ utilizando la distribución de calibración $P_{XY}$ (por ejemplo, mediante Regresión de Cuantiles Conformalizados).
  3. Transformar inversamente el conjunto de vuelta al espacio de prueba utilizando $f_{\theta_Y}^{-1}$ para obtener el conjunto de predicción robusto final $C_{BNF}(X_{n+1})$.
• BNF Aumentado: Para manejar distribuciones complejas donde las transformaciones monótonas univariadas (requeridas para un mapeo inverso simple) son insuficientes, los autores introducen el BNF Aumentado. Esta variante añade un componente de ruido estocástico $\epsilon \sim \mathcal{N}(0,1)$ a la transformación de la rama $Y$ ($f_{\theta_Y}^{aug}(y; \epsilon)$). Esto aumenta la expresividad pero requiere resolver un problema de búsqueda de raíces (o una búsqueda en cuadrícula) durante la inferencia para construir el conjunto de predicción, ya que la transformación ya no es estrictamente monótona.
• Generalización de Dominio Multi-Fuente (MSDG): En escenarios donde la distribución de prueba es una mezcla de $K$ distribuciones de origen, el método minimiza la distancia promedio de Wasserstein entre el conjunto de calibración y los conjuntos de origen transformados, asumiendo pesos de mezcla uniformes.

3. Contribuciones Clave

1. Cuantificación de la Robustez: La definición de la Brecha de Cobertura Condicional (CCG) y la Brecha de Cobertura Integrada (ICG) proporciona una métrica teórica para evaluar la robustez de la cobertura condicional bajo desplazamiento de distribución.
2. Límite Teórico: La derivación de una cota superior para la ICG en términos de la distancia de Wasserstein entre distribuciones conjuntas, estableciendo un vínculo teórico entre la minimización del transporte y la preservación de la cobertura condicional.
3. Flujo Normalizante Ramificado (BNF): La introducción de una arquitectura invertible de dos ramas que permite la transformación de entradas de prueba a una distribución similar a la de calibración sin requerir etiquetas de prueba, preservando así las garantías condicionales tras la transformación inversa.
4. BNF Aumentado: Una extensión que utiliza la aumentación estocástica para mejorar la capacidad de ajuste para distribuciones complejas, junto con un método para recuperar las garantías condicionales a pesar de la pérdida de monotonía.

4. Resultados Experimentales

El método fue evaluado en nueve conjuntos de datos que cubren desplazamientos sintéticos y desafíos del mundo real (predicción de ventas, pronóstico de tráfico, toma de decisiones médicas y modelado de epidemias) bajo configuraciones de Generalización de Dominio Multi-Fuente (MSDG).

• Métricas: El rendimiento se midió utilizando Cobertura Marginal, Cobertura del Peor Segmento (WSC) y la propuesta Brecha de Cobertura del Peor Segmento (WSCG), que penaliza tanto la cobertura insuficiente como la excesiva.
• Hallazgos:
  • Robustez: El BNF Aumentado combinado con Regresión de Cuantiles Conformalizados (CQR) logró consistentemente la WSCG más baja en todos los conjuntos de datos y niveles de confianza, superando a líneas base que incluyen CP Dividido, CP Ponderado por Importancia, CP del Peor Caso y CP Regularizado por Wasserstein.
  • Cobertura: El método mantuvo la cobertura marginal y la WSC cercanas al nivel de confianza objetivo ($1-\alpha = 0.9$) mientras reducía significativamente la desviación del objetivo en los segmentos condicionales.
  • Eficiencia: Si bien el BNF Aumentado estándar produjo conjuntos de predicción más grandes para tener en cuenta la incertidumbre de la fuente, una variante "Aumentada-Condicional" (que condiciona en la fuente conocida durante la inferencia) redujo significativamente el tamaño del conjunto manteniendo la cobertura.
  • Generalización: El método demostró robustez a través de tamaños de muestra variables, números de dominios de origen ($K$) y diferentes niveles de confianza.

5. Significado y Afirmaciones

El artículo afirma que su principal significado radica en abordar la degradación de la cobertura condicional de la Predicción Conformal bajo desplazamientos de distribución, un problema en gran medida no abordado por los métodos existentes centrados en la marginal. Al acotar la invalidez condicional mediante la distancia de Wasserstein e implementarlo mediante un flujo ramificado invertible, el trabajo proporciona un mecanismo fundamentado teóricamente y empíricamente efectivo para asegurar que la cuantificación de la incertidumbre permanezca fiable para entradas de prueba individuales, incluso cuando las distribuciones de datos cambian. Los autores posicionan esto como un paso hacia aplicaciones de IA más seguras en dominios críticos (por ejemplo, atención médica, tráfico, modelado de epidemias) donde los desplazamientos de distribución son inevitables y la fiabilidad condicional es primordial.

El artículo reconoce limitaciones, incluido el costo computacional de la búsqueda de raíces en el BNF Aumentado, la naturaleza estocástica de los conjuntos de predicción y las restricciones arquitectónicas que requieren entradas multivariadas. También señala que, aunque los datos de calibración se reutilizan para entrenar el flujo (un posible sesgo de ajuste), los estudios de ablación sugieren que este impacto es mínimo en la práctica.