Adaptive Conformal Inference through the Lens of Blackwell Approachability

Resumen Técnico: Inferencia Conformal Adaptativa a través de la Lente del Enfoque de Blackwell

Planteamiento del Problema
La Inferencia Conformal Adaptativa (ACI), introducida por Gibbs y Candès (2021), aborda la limitación de la inferencia conformal estándar, la cual depende del supuesto de intercambiabilidad que suele verse violado en entornos secuenciales o dependientes del tiempo (por ejemplo, el pronóstico de series temporales). La ACI tiene como objetivo construir conjuntos de predicción secuencialmente de tal manera que la cobertura empírica converja a un nivel deseado $1-\alpha$ para secuencias de datos arbitrarias. Si bien las estrategias de ACI existentes garantizan la validez (cobertura empírica $\geq 1-\alpha$), generalmente carecen de garantías teóricas simultáneas sobre la eficiencia (la longitud promedio de los intervalos de predicción). En entornos adversarios, no es posible obtener garantías de eficiencia no triviales sin supuestos adicionales, mientras que en entornos intercambiables, los métodos existentes suelen producir longitudes de intervalo subóptimas. El desafío central consiste en diseñar una estrategia unificada que asegure la validez para secuencias arbitrarias y, al mismo tiempo, adapte la eficiencia al grado de estocasticidad subyacente de los datos.

Metodología
Los autores reformulan la ACI como un juego finito repetido de dos jugadores con pagos vectoriales.

1. Acción del Aprendiz: Selecciona un nivel de error de cobertura $a_t \in A$, donde $A$ es una rejilla finita derivada de los estadísticos de orden del conjunto de calibración. Esto determina el conjunto de predicción $C_{1-a_t}(x_t)$.
   • Acción del Oponente: Selecciona un resultado $y_t$, el cual se mapea a una acción discreta $a_t \in B$ que representa el conjunto conformal "más ajustado" que contiene a $y_t$.
   • Vector de Pago: El aprendiz recibe un vector $m(a_t, b_t) = (1_{b_t \leq a_t}, L(C_{1-a_t}))$, que codifica el indicador de error de cobertura (validez) y la longitud del intervalo (eficiencia).
2. Marco de Aproximabilidad:
   • El objetivo es dirigir el vector de pago promedio $m_T$ hacia un conjunto objetivo $C_{\alpha, Q} \subseteq [0, \alpha] \times [0, 2L]$.
   • El conjunto objetivo depende de una restricción $Q \subseteq \Delta(B)$ sobre el juego del oponente. $Q$ representa el conjunto de distribuciones que las acciones del oponente siguen asintóticamente.
   • Aproximabilidad Oportunista: Los autores emplean la teoría de la aproximabilidad de Blackwell y su extensión por Bernstein et al. (2014), conocida como aproximabilidad oportunista. Este marco permite al aprendiz aproximarse a un conjunto objetivo más pequeño y eficiente si el juego del oponente está restringido a un conjunto $Q$ específico, sin que el aprendiz necesite conocer $Q$ de antemano.
3. Algoritmo (BO-ACI):
   • La estrategia propuesta, Inferencia Conformal Adaptativa de Blackwell Oportunista (BO-ACI), utiliza un pronosticador calibrado auxiliar $F$.
   • En cada ronda, $F$ predice la distribución de la siguiente acción $b_t$ del oponente.
   • El aprendiz selecciona de forma determinista la acción $a_t$ que minimiza la longitud esperada mientras satisface la restricción de validez contra la distribución pronosticada (mediante una función de respuesta $p^*$).

Contribuciones Clave

1. Reformulación Teórico-Ganista: El artículo establece una novedosa formulación de la ACI como un juego finito repetido con pagos vectoriales, vinculando explícitamente la validez y la eficiencia con un problema de aproximabilidad multiobjetivo.
2. Estrategia Unificada (BO-ACI): Los autores introducen una estrategia basada en la aproximabilidad oportunista que garantiza la validez para cualquier secuencia de datos (estocástica o adversaria) al tiempo que proporciona garantías de eficiencia que se adaptan a la estocasticidad desconocida de los datos.
3. Garantías de "Lo Mejor de Muchos Mundos": La estrategia logra un conjunto unificado de garantías:
   • Entorno Intercambiable: Recupera la garantía de eficiencia óptima $L(C_{1-\alpha})$, igualando el rendimiento de la predicción conformal estándar en condiciones ideales.
   • Entorno Adversario: Garantiza la validez pero acepta la cota de eficiencia trivial (longitud de intervalo $2L$), consistente con los resultados de imposibilidad en entornos plenamente adversarios.
   • Entornos Intermedios: Proporciona garantías de eficiencia significativas para escenarios como cambios distributivos únicos o datos "casi-intercambiables" (por ejemplo, series temporales con dependencias débiles), donde la longitud del intervalo se adapta al grado de no-intercambiabilidad.

Resultos

• Convergencia Teórica: El Teorema 19 demuestra que, bajo la estrategia BO-ACI, el vector de pago promedio $m_T$ converge casi seguramente al conjunto objetivo $C_{\alpha, Q}$ para cualquier conjunto convexo $Q$ que restrinja el juego del oponente.
• Escenarios Específicos:
  • Datos Intercambiables: Si el oponente está restringido a la distribución uniforme $q_{unif}$, la longitud promedio del intervalo converge a $L(C_{1-\alpha})$.
  • Cambio Distributivo Único: Si las puntuaciones de prueba siguen una distribución $V$ diferente de la distribución de calibración $S$, la estrategia converge a la longitud $L(C_{1-a_{S,V}})$, donde $a_{S,V}$ es el nivel de error de cobertura óptimo para la distribución desplazada.
  • $\epsilon$-Intercambiabilidad/Series Temporales: Para datos con pequeñas desviaciones de la intercambiabilidad (medidas por la distancia de Variación Total o Kolmogorov), la estrategia logra longitudes cercanas a la longitud óptima intercambiable, degradándose gradualmente a medida que aumenta la desviación.
  • Adversario: En ausencia de restricciones ($Q = \Delta(B)$), la estrategia asegura la validez pero no puede garantizar una eficiencia mejor que el límite trivial, confirmando la necesidad de restricciones $Q$ para obtener una eficiencia no trivial.
• $\epsilon$-Calibración: Los resultados se extienden a estrategias que utilizan pronosticadores $\epsilon$-calibrados (Teorema 34), proporcionando cotas de convergencia dependientes de $\epsilon$.

Significancia y Reivindicaciones
El artículo afirma proporcionar un marco teórico unificado para la inferencia conformal adaptativa que resuelve la tensión entre validez e eficiencia. Al aprovechar la aproximabilidad de Blackwell, los autores demuestran que es posible diseñar un único algoritmo que:

1. Garantiza la validez independientemente del mecanismo generador de datos.
2. Se adapta automáticamente al "grado de estocasticidad" de los datos para maximizar la eficiencia.
3. Recupera los resultados óptimos conocidos en casos extremos (intercambiables y adversarios) mientras ofrece nuevos y significativos resultados en escenarios intermedios y realistas (como el pronóstico de series temporales) donde los métodos anteriores carecían de respaldo teórico.

Los autores posicionan este trabajo como una solución de "lo mejor de muchos mundos", evitando la necesidad de ajustar hiperparámetros basados en la distribución asumida de los datos, ya que la estrategia es "ajena" a la restricción específica de $Q$ pero la explota si esta existe. El trabajo también destaca las limitaciones del entorno plenamente adversario, reforzando que las garantías de eficiencia requieren de un supuesto estructural sobre los datos.