Conformal e-prediction in the presence of confounding

Este artículo extiende la predicción e-conformal para abordar casos de confusión observada entre la variable aleatoria y su etiqueta, considerando tanto escenarios de datos independientes e idénticamente distribuidos como aquellos que permiten cierta dependencia entre las observaciones.

Lo esencial

🕵️‍♂️ El Gran Misterio: ¿Qué pasaría si...? (Predicción Causal)

Imagina que eres un médico. Tienes una base de datos de miles de pacientes (tu muestra). En esos datos, ves que los pacientes que tomaron un medicamento específico (X) a menudo se recuperaron (Y).

Pero hay un problema: esos pacientes también tenían una dieta muy saludable (Z). ¿Se recuperaron por la medicina o por la dieta? En el mundo real, la dieta influyó en qué pacientes tomaron la medicina. Esto se llama confusión.

El artículo de Vovk y Wang trata sobre cómo hacer una pregunta difícil:

"Si yo obligo a un paciente nuevo a tomar la medicina (ignorando su dieta), ¿cuál es la probabilidad de que se recupere?"

En términos técnicos, esto es inferencia causal. El problema es que los métodos estadísticos normales (como los que usamos para predecir el clima) fallan aquí porque asumen que los datos son "independientes y aleatorios" (como lanzar monedas). Pero en la vida real, las decisiones (como tomar medicina) no son aleatorias; dependen de factores previos.

🛡️ El Escudo Mágico: "Conformal e-prediction"

Los autores proponen una herramienta llamada predicción conformal e. Imagina que esta herramienta es un escudo de seguridad para tus predicciones.

En lugar de decir: "El 95% de las veces acertaré", este escudo dice: "Si dices que algo va a pasar, y estás muy equivocado, mi escudo te avisará con una señal de alerta (un número llamado 'e-valor') que será muy grande. Si el escudo está en silencio, puedes confiar en tu predicción".

La gran novedad de este papel es que este escudo ahora funciona incluso cuando hay "confusión" (cuando la dieta o el historial médico influyen en quién toma la medicina).

🎲 Dos Escenarios: El Mundo Perfecto vs. El Mundo Real

El artículo explora dos situaciones:

1. El Mundo Perfecto (Sección 2: Datos IID)

Imagina que tienes un grupo de pacientes que fueron seleccionados al azar por un robot. No hay sesgos.

• La solución: Los autores crean una fórmula matemática (una especie de "calculadora de probabilidad ajustada") que toma en cuenta cuántos pacientes tenían la misma dieta y si tomaron la medicina.
• El resultado: Esta calculadora te da una estimación muy precisa de lo que pasaría si obligaras a alguien a tomar la medicina. Funciona como un "oráculo" que te dice la verdad sobre el futuro.

2. El Mundo Real (Sección 3: Sin mecanismo estable)

Aquí es donde se pone interesante. En la vida real, los pacientes no son seleccionados al azar. Quizás los médicos eligieron a los pacientes más graves para darles la medicina, o quizás los pacientes más ricos tomaron la medicina.

• El problema: La forma en que se elige la medicina (X) no es aleatoria; depende del pasado.
• La solución: Los autores proponen una nueva forma de mirar los datos. Imagina que los datos llegan en una línea de tiempo. Ellos dicen: "No importa cómo se eligió la medicina hoy, siempre y cuando tengamos en cuenta todo lo que pasó antes (la historia completa de los pacientes anteriores), podemos seguir usando nuestro escudo de seguridad".
• La analogía: Es como jugar al ajedrez. Si tu oponente hace un movimiento extraño (no aleatorio), no te asustas. Solo miras el tablero completo (el pasado) y calculas tu siguiente jugada basándote en toda la historia, no solo en la última ficha.

🍎 La Analogía de la Manzana y el Oráculo

Para entender la parte matemática sin dolor de cabeza:

1. El Oráculo (La Verdad): Imagina un dios que sabe exactamente qué pasaría si obligaras a todos a tomar la medicina. Él tiene una lista de probabilidades reales.
2. El Estudiante (Tú): Tú no eres el dios. Solo tienes un cuaderno con datos de pacientes pasados.
3. La Calculadora (Fórmula 2): Los autores te dan una calculadora especial. Si la usas, el resultado que obtienes nunca será "demasiado optimista". Es decir, tu estimación será siempre un poco conservadora o justa.
4. La Prueba de Fuego: Si usas tu calculadora para predecir algo y te equivocas mucho, la calculadora te gritará (el número será grande). Si la calculadora está tranquila, significa que tu predicción es segura.

💡 ¿Por qué es importante esto?

En la vida real, queremos saber cosas como:

• "Si obligamos a todos los fumadores a dejar de fumar, ¿cuántos menos tendrán cáncer?"
• "Si el gobierno sube los impuestos, ¿cuánto bajará el consumo?"

Antes, hacer estas predicciones con garantías matemáticas estrictas era muy difícil si los datos estaban "sucios" (confundidos). Este papel nos dice: "No te preocupes por la suciedad. Tenemos una nueva herramienta que limpia el ruido y te da una garantía de que tu predicción no te va a mentir, incluso en muestras pequeñas".

🚀 En Resumen

• El Problema: Queremos predecir qué pasa si intervenimos en un sistema (como dar una medicina), pero los datos que tenemos están "contaminados" por factores ocultos (como la dieta).
• La Solución: Una nueva versión de "predicción conformal" que actúa como un escudo de seguridad.
• La Magia: Funciona incluso si las decisiones no son aleatorias, siempre que tengamos en cuenta la historia completa de los eventos anteriores.
• El Beneficio: Nos permite tomar decisiones importantes (en medicina, economía, política) con la tranquilidad de saber que, estadísticamente, no estamos apostando ciegamente.

Es como tener un GPS para el futuro causal: no solo te dice dónde estás, sino que te asegura que, si tomas una ruta específica (una intervención), llegarás a tu destino sin chocar contra muros invisibles de incertidumbre.

Resumen técnico

Resumen Técnico: Predicción e-Conforme en Presencia de Confusión

1. Planteamiento del Problema

El artículo aborda un desafío fundamental en la inferencia causal y la predicción estadística: cómo realizar predicciones válidas sobre el resultado de una intervención (causal) cuando los datos observacionales disponibles están afectados por variables de confusión.

• Contexto: En la inferencia causal estándar (utilizando el cálculo do de Pearl), se observa una secuencia de datos independientes e idénticamente distribuidos (IID) $(X, Y, Z)$, donde $Z$ es un confusor que afecta tanto a la variable de tratamiento $X$ como a la variable de resultado $Y$.
• El Objetivo: Dado un valor fijo $x$ para la variable $X$ (simulando una intervención $X := x$), se desea predecir la distribución de $Y$. Específicamente, se busca generar regiones de predicción con garantías de validez en muestras finitas.
• La Dificultad: La predicción conformal clásica asume que los datos son IID y que la distribución subyacente es estable. Sin embargo, en escenarios causales, la distribución de $X$ puede no ser generada por un mecanismo estocástico estable (puede ser elegida estratégicamente o depender del pasado), lo que rompe los supuestos estándar de la predicción conformal.

2. Metodología

Los autores extienden el marco de la predicción e-conforme (conformal e-prediction) para manejar la confusión observada. La metodología se divide en dos escenarios principales:

A. Escenario IID Estándar (Sección 2)

• Supuesto: Se asume que la muestra observacional $(X_n, Y_n, Z_n)$ para $n \in [N]$ es IID generada por una medida de probabilidad $P$.
• Definición del Objetivo Causal: Se define la probabilidad causal $p_y$ como la probabilidad de que $Y=y$ bajo la intervención $X:=x$, marginalizada sobre $Z$:
  $$p_y = \sum_{z \in Z} P(Z=z)P(Y=y | X=x, Z=z)$$
  Esto corresponde al modelo causal "mutilado" donde se elimina la flecha de $Z$ a $X$.
• Estimador: Se propone un estimador $F_y$ para $p_y$ basado en la frecuencia empírica con regularización de Laplace (suavizado):
  $$F_y := \sum_{z \in Z} \frac{|\{n : Z_n=z\}| + 1}{N + 1} \times \frac{|\{n : (X_n, Y_n, Z_n) = (x, y, z)\}| + 1}{|\{n : (X_n, Z_n) = (x, z)\}| + 1}$$
• Variable e (e-variable): Se demuestra que la relación $p_y / F_y$ tiene una esperanza $\leq 1$. Utilizando esto, se construye una variable aleatoria $E$ que actúa como una variable e (e-variable) para probar hipótesis sobre la distribución futura $Y_{N+1}$.

B. Escenario sin Mecanismo Estocástico Estable para X (Sección 3)

• Supuesto Relajado: Se elimina la suposición de que $X_n$ es generado por un mecanismo estocástico estable. En su lugar, $X_n$ puede ser elegido por una estrategia no trivial que depende del pasado (variables $X_i, Z_i$ anteriores), pero $Y_n$ y $Z_n$ siguen siendo generados por mecanismos estables condicionados al pasado.
• Interpretación "Y-olvidad" (Y-oblivious): Se introduce una interpretación gráfica donde las variables $X_{n+1}$ dependen de todo el historial de $X$ y $Z$, pero no de los valores pasados de $Y$. Bajo esta interpretación, se demuestra que los resultados del escenario IID (Lema 1) se mantienen válidos.

3. Contribuciones Clave

1. Extensión de la Predicción Conformal: El trabajo extiende la predicción e-conforme más allá de la secuencia IID pura, integrando explícitamente la estructura de confusión causal (gráficos dirigidos acíclicos simples).
2. Garantías de Validez en Muestras Finitas: Proporciona garantías rigurosas de validez para regiones de predicción causal sin depender de asintóticas (grandes muestras).
3. Robustez ante Estrategias de Selección: Demuestra que el método es válido incluso cuando la variable de tratamiento $X$ no sigue una distribución estocástica fija, sino que puede ser seleccionada dinámicamente basándose en el historial de confusores (bajo la interpretación Y-oblivious).
4. Conexión con Criterio de Puerta Trasera: Mencionan que su enfoque se puede generalizar fácilmente a cualquier gráfico causal que cumpla con el criterio de puerta trasera (back-door criterion) de Pearl, donde $Z$ se convierte en un conjunto de ajuste.

4. Resultados Principales

• Lema 1: Para cada etiqueta $y$, la esperanza de la razón entre la probabilidad causal verdadera y el estimador es acotada: $E[p_y / F_y] \leq 1$.
• Corolario 2 (Variable e): Para cualquier medida de probabilidad alternativa $Q$ sobre $Y$, la variable $E = Q(\{Y_{N+1}\}) / F_{Y_{N+1}}$ es una variable e (no negativa con esperanza $\leq 1$).
• Regiones de Predicción: Se definen regiones de predicción $\Gamma_\alpha$ basadas en un nivel de significancia $\alpha$:
  $$\Gamma_\alpha := \left\{ y \in Y : \frac{Q(\{y\})}{F_y} < \alpha \right\}$$
• Propiedad de Validez: La probabilidad de error satisface una condición fuerte:
  $$\int_0^\infty P(Y \notin \Gamma_\alpha) d\alpha \leq 1$$
  Esto implica, mediante la desigualdad de Markov, que la probabilidad de error en un nivel $\alpha$ no excede $1/\alpha$.
• Optimalidad Asintótica: Para $N$ grande y $|Z|$ pequeño, las regiones de predicción estimadas se aproximan a las regiones óptimas "oráculo" que usarían la verdadera probabilidad $p_y$ en lugar del estimador $F_y$.

5. Significado e Impacto

• Validación Causal Rigurosa: El artículo ofrece una herramienta matemática para realizar inferencia causal con garantías de validez finitas, un área donde a menudo se dependen de supuestos asintóticos o de modelos paramétricos incorrectos.
• Aplicabilidad en Riesgo Crítico: La metodología es particularmente útil para casos donde se desea excluir con alta confianza un resultado adverso específico (ej. "muerte del paciente"). Si el estimador $F_{y^*}$ es suficientemente pequeño, se puede afirmar con alta confianza que el resultado no será $y^*$.
• Puente entre Teoría de Predicción y Causalidad: El trabajo conecta la teoría de "predicción de aleatoriedad" (randomness prediction) y las variables e con el cálculo do de Pearl, proporcionando un marco unificado para la predicción bajo intervención.
• Limitaciones y Futuro: Los autores señalan que el método actual asume variables discretas y finitas. Futuras investigaciones podrían abordar la regresión (variables continuas) y optimizar las constantes de regularización (el "+1" en la fórmula) para mejorar la eficiencia de las regiones de predicción.

En resumen, este trabajo establece un nuevo estándar para la predicción causal en entornos con confusión, ofreciendo regiones de predicción que son válidas incluso cuando los datos no provienen de un proceso estocástico completamente estable, siempre que se cumplan ciertas condiciones de independencia condicional respecto al resultado pasado.