Deconfounding Scores and Representation Learning for Causal Effect Estimation with Weak Overlap

1. El Problema: La Superposición Débil en Alta Dimensión

En la inferencia causal observacional, la estimación de efectos de tratamiento (como el Efecto Promedio en el Tratado, ATT) depende críticamente de dos supuestos: ignorabilidad (no hay confusores no observados) y superposición (o positividad), que exige que las distribuciones de las características (covariables) en los grupos de tratamiento y control tengan soporte común.

• Desafío: En entornos modernos con alta dimensionalidad (muchas características), el "maldición de la dimensionalidad" hace que la superposición sea implausible. Incluso cuando teóricamente existe, las diferencias sustanciales entre los grupos degradan el rendimiento de estimadores populares (como ponderación por probabilidad inversa - IPW, o estimadores doblemente robustos - AIPW), resultando en una varianza extremadamente alta y estimaciones inestables.
• Limitación actual: Los métodos existentes a menudo intentan recortar datos o cambiar el estimando, pero no ofrecen una estrategia general para aprender representaciones de características que preserven la identificación causal mientras mejoran la superposición.

2. Metodología: Puntajes de Desconfusión (Deconfounding Scores)

Los autores proponen una nueva clase de representaciones llamadas Puntajes de Desconfusión.

Definición y Propiedades

Un puntaje de desconfusión $\phi(X)$ es una representación de las covariables $X$ tal que el efecto causal $\tau$ puede identificarse ajustando únicamente por $\phi(X)$ (es decir, $\tau = \tau_{\phi(X)}$).

• Condición de Cero Sesgo: Matemáticamente, esto se logra si la covarianza condicional entre el modelo de resultado $m_0(X)$ y la razón de densidades (o puntaje de propensión) $dP^1_X/dP^0_X(X)$ dado $\phi(X)$ es cero.
• Generalización: Esta clase incluye como casos especiales:
  • Puntajes de Propensión (Balancing Scores): Capturan toda la información predictiva de la asignación al tratamiento.
  • Puntajes Pronósticos (Prognostic Scores): Capturan toda la información predictiva del resultado.
• Continuo: Los puntajes de desconfusión forman un continuo entre estos dos extremos, permitiendo encontrar representaciones intermedias.

Divergencia de Superposición (Overlap Divergence)

Para cuantificar la falta de superposición, los autores introducen la Divergencia de Superposición, definida como el momento cuadrático de la razón de densidades:
$$O(Z) = \mathbb{E}_{P^0} \left[ \left( \frac{dP^1_Z}{dP^0_Z}(Z) \right)^2 \right] = \chi^2(P^1_Z || P^0_Z) + 1$$

• Vínculo Teórico: Demuestran que esta divergencia controla directamente el límite de eficiencia semiparamétrica (la varianza asintótica mínima posible) de los estimadores. Minimizar $O(\phi(X))$ es necesario (y a menudo suficiente) para reducir la varianza del estimador.

Optimización en Diseño Gaussiano

Bajo supuestos de covariables Gaussianas y modelos lineales generalizados (GLM) para el tratamiento y el resultado, los autores derivan expresiones cerradas para la familia de puntajes de desconfusión.

• Geometría: Los coeficientes de estas representaciones lineales se encuentran sobre una hipérbola en el espacio generado por los vectores de coeficientes del puntaje pronóstico ($\alpha$) y el puntaje de propensión ($\beta$).
• Resultado Clave: Dentro de esta familia, los puntajes pronósticos (que dependen solo de $\alpha$) minimizan la divergencia de superposición, mientras que los puntajes de balanceo (dependientes de $\beta$) la maximizan. Esto confirma teóricamente que excluir información puramente predictiva del tratamiento mejora la superposición sin sacrificar la identificación.

3. Contribuciones Clave

1. Caracterización Teórica: Definen formalmente la clase completa de puntajes de desconfusión y establecen las condiciones necesarias para su cálculo, mostrando que existen en un continuo entre puntajes de balanceo y pronósticos.
2. Nueva Métrica de Superposición: Introducen la "Divergencia de Superposición" y prueban que está intrínsecamente ligada al límite de eficiencia semiparamétrica, proporcionando un objetivo claro para el aprendizaje de representaciones.
3. Optimalidad de los Puntajes Pronósticos: Demuestran analíticamente (en el caso Gaussiano/GLM) que los puntajes pronósticos son óptimos para la superposición dentro de la clase de puntajes de desconfusión.
4. Mejora Garantizada: Proban que cualquier representación (puntaje de desconfusión) mejora la superposición en comparación con las covariables originales, siempre que no introduzca sesgo de confusión.

4. Resultados Experimentales

Los autores evaluaron sus métodos en datos simulados y conjuntos de datos semisintéticos (IHDP, ACIC 2016, HC-MNIST).

• Datos Simulados:
  • Se compararon estimadores (Regresión, IPW, AIPW) usando covariables originales vs. puntajes de desconfusión (balanceo, pronóstico y equiangulares).
  • Hallazgo: Cuando el modelo de resultado está bien especificado, los estimadores basados en puntajes pronósticos superan consistentemente a los métodos basados en covariables crudas y a otros puntajes, especialmente en escenarios de baja superposición.
  • Cuando el modelo de propensión está bien especificado pero el de resultado no, los métodos basados en puntajes de balanceo dominan.
  • El puntaje equiangular (una combinación intermedia) demostró ser un compromiso robusto, evitando el sobreajuste a un modelo mal especificado.
• Datos Semisintéticos:
  • En todos los conjuntos de datos, siempre hubo al menos un puntaje de desconfusión que mejoró la estimación del ATT en comparación con las covariables originales.
  • Los puntajes pronósticos tendieron a ofrecer la mayor frecuencia de mejoras, validando la intuición teórica.

5. Significado e Impacto

• Puente entre Teoría y Práctica: El trabajo conecta directamente la métrica de superposición con la eficiencia estadística, proporcionando una justificación teórica sólida para el uso de puntajes pronósticos y el aprendizaje de representaciones.
• Flexibilidad: Los puntajes de desconfusión pueden utilizarse como reemplazos directos ("drop-in") de las covariables en cualquier método de estimación de efectos de tratamiento existente (AIPW, TMLE, Aprendizaje de Máquina Desviado), sin requerir cambios en los algoritmos subyacentes.
• Solución a la Alta Dimensión: Ofrece una estrategia viable para manejar la falta de superposición en datos de alta dimensión, un problema crítico en aplicaciones modernas de inferencia causal con grandes conjuntos de datos.
• Limitaciones y Futuro: Los resultados analíticos dependen de supuestos de normalidad y linealidad. El trabajo futuro se dirige a generalizar estos métodos a configuraciones no paramétricas y a optimizar la eficiencia completa (no solo la divergencia) en muestras finitas.

En resumen, el artículo establece que aprender representaciones que preserven la información de confusión pero eliminen la información puramente predictiva del tratamiento (como los puntajes pronósticos) es una estrategia óptima para mitigar los problemas de varianza causados por la superposición débil en la inferencia causal.