Combining T-learning and DR-learning: a framework for oracle-efficient estimation of causal contrasts

Aquí presento un resumen técnico detallado del artículo "Combining T-learner and DR-learning: a framework for oracle-efficient estimation of causal contrasts" (Combinando T-learner y DR-learning: un marco para la estimación oráculo-eficiente de contrastes causales), escrito por Lars van der Laan, Marco Carone y Alex Luedtke.

---

1. Planteamiento del Problema

El objetivo central del trabajo es la estimación de contrastes causales heterogéneos, como el Efecto Promedio del Tratamiento Condicional (CATE) o el Riesgo Relativo Condicional (CRR), utilizando técnicas de aprendizaje automático flexibles.

Existen dos enfoques principales en la literatura que presentan limitaciones significativas:

1. T-learners (Estimación "Plug-in"): Estiman las regresiones de resultados y las sustituyen directamente en la fórmula del contraste causal.
   • Ventaja: Estabilidad y convexidad de la función de pérdida.
   • Desventaja: Son sensibles a la calidad de los estimadores de las funciones de nuisance (regresión de resultados y puntuación de propensión). Si estas son complejas, el contraste estimado puede ser ineficiente.
2. DR-learners y R-learners (Aprendizaje Ortogonal): Utilizan funciones de pérdida basadas en la ortogonalidad de Neyman (estimadores de un paso debiased).
   • Ventaja: Logran eficiencia oráculo y tasas de convergencia rápidas, siendo robustos a errores en las funciones de nuisance.
   • Desventajas:
     • Las funciones de pérdida pueden ser no convexas, lo que dificulta la optimización con algoritmos estándar (bosques aleatorios, gradient boosting).
     • Utilizan pseudo-resultados que involucran pesos de probabilidad inversa (IPW). Cuando la puntuación de propensión es cercana a 0 o 1, estos pseudo-resultados pueden tomar valores extremos, causando inestabilidad numérica y estimaciones que violan los límites teóricos conocidos (ej. estimar un efecto de tratamiento fuera de $[-1, 1]$ para resultados binarios).

El problema es, por tanto, desarrollar un método que combine la estabilidad y convexidad del enfoque T-learner con la eficiencia y robustez del enfoque DR-learner.

2. Metodología Propuesta: EP-Learning (Efficient Plug-in)

Los autores introducen el marco EP-learning (Efficient Plug-in), que se basa en un estimador de riesgo plug-in eficiente.

Concepto Central

En lugar de minimizar directamente una pérdida ortogonalizada (como en DR-learning) o una pérdida plug-in ingenua (como en T-learning), el EP-learner construye un estimador de regresión de resultados refinado, denotado como $\mu^*_n$, que incorpora una ajuste basado en sieves (cribas).

El algoritmo sigue estos pasos:

1. Estimación Inicial: Se obtienen estimadores iniciales de la puntuación de propensión ($\pi_n$) y la regresión de resultados ($\mu_n$) utilizando técnicas de aprendizaje automático (cross-fitting).
2. Ajuste de Debiasing (Paso Clave): Se construye un estimador refinado $\mu^*_n$ a partir de $\mu_n$. Este ajuste se realiza resolviendo ecuaciones de puntuación en un espacio de funciones lineales (sieve) de dimensión creciente $k(n)$.
   • El objetivo es que el término de corrección de sesgo (que normalmente aparece en los estimadores de un paso) sea despreciable (de orden $o_p(n^{-1/2})$) para cualquier función candidata $\theta$ en el espacio de acción $F$.
   • Matemáticamente, se asegura que:
     $$\frac{1}{n} \sum_{i=1}^n \Delta_{\pi_n, \mu^*_n}(O_i; \theta) \approx 0$$
     donde $\Delta$ es el término de influencia eficiente.
3. Minimización de Riesgo Plug-in: Una vez obtenido $\mu^*_n$, se estima el contraste causal minimizando la función de riesgo plug-in estándar:
   $$\hat{\theta}_n = \arg\min_{\theta \in F} \frac{1}{n} \sum_{i=1}^n L_{\mu^*_n}(\theta, W_i)$$
   Dado que $\mu^*_n$ ya ha absorbido la corrección de sesgo, la función de pérdida $L_{\mu^*_n}$ mantiene su convexidad y estabilidad, evitando los problemas de los pseudo-resultados extremos.

Características Técnicas

• Doble Robustez: El estimador de riesgo resultante es doblemente robusto; es consistente si la regresión de resultados o la puntuación de propensión se estiman consistentemente.
• Uso de Sieves: Se utiliza una secuencia de espacios lineales (sieves) que crece con el tamaño de la muestra para aproximar el espacio de funciones. Esto permite que el ajuste de debiasing sea preciso sin requerir que el modelo inicial $\mu_n$ sea perfecto.
• Implementación: Se proporciona un algoritmo meta (Algoritmo 1) y procedimientos específicos para CATE y CRR (Algoritmos 2, 3 y 4), incluyendo validación cruzada para seleccionar la dimensión del sieve.

3. Contribuciones Clave

1. Introducción del EP-learner: Un nuevo marco que utiliza un estimador de riesgo plug-in eficiente, logrando la eficiencia oráculo sin sacrificar la convexidad de la función de pérdida.
2. Eficiencia Oráculo: Bajo condiciones razonables (tasa de convergencia de los nuisance estimators y propiedades de aproximación del sieve), se demuestra que el EP-learner es asintóticamente equivalente al minimizador de un estimador de riesgo de un paso eficiente (oráculo).
3. Solución a la No Convexidad y Extremos: El método resuelve el problema de las funciones de pérdida no convexas y los pseudo-resultados extremos inherentes a los métodos DR/R-learner, permitiendo el uso de software estándar de regresión (como regresión logística ponderada o árboles de decisión) sin restricciones de estabilidad.
4. Generalidad: El marco se aplica a una amplia clase de contrastes causales, incluyendo CATE y CRR (Riesgo Relativo Condicional), y se demuestra que los estimadores para CRR son doblemente robustos y corresponden a una pérdida convexa (a diferencia de los métodos ortogonales existentes para CRR).

4. Resultados y Evidencia Empírica

Los autores validan el método mediante simulaciones extensas y comparaciones con el estado del arte (T-learner, R-learner, DR-learner, Bosques Causales).

• Estabilidad en Árboles de Decisión: En experimentos con Bosques Aleatorios (Random Forests), el DR-learner mostró inestabilidad severa a profundidades de árbol bajas debido a los pseudo-resultados extremos, lo que llevó a una selección de hiperparámetros subóptima por validación cruzada. El EP-learner, en cambio, mantuvo una estructura de árbol estable y capturó la forma verdadera del CATE con un error cuadrático medio (MSE) 6 veces menor que el DR-learner en un escenario de prueba.
• Rendimiento General: En la mayoría de los escenarios (diferentes dimensiones de covariables, niveles de solapamiento de propensión y complejidad funcional), el EP-learner igualó o superó a los competidores, especialmente cuando se utilizaron algoritmos basados en árboles (XGBoost, Random Forests).
• Caso CRR: Para la estimación del log-Riesgo Relativo Condicional, el EP-learner permitió el uso de regresión logística estándar (pérdida convexa), mientras que el método ortogonal requería pesos negativos o resultados fuera de $[0,1]$, lo que hace que el software estándar no sea aplicable.
• Robustez a Hiperparámetros: Se demostró teóricamente y empíricamente que el EP-learner es más robusto a la elección de hiperparámetros (como el número de vecinos en K-NN o la profundidad del árbol) en comparación con el DR-learner.

5. Significado e Impacto

El trabajo de van der Laan et al. representa un avance significativo en la inferencia causal no paramétrica:

• Puente Teórico-Práctico: Cierra la brecha entre la teoría de eficiencia asintótica (que favorece métodos ortogonales) y la práctica computacional (que requiere convexidad y estabilidad).
• Viabilidad Computacional: Hace que los métodos de alta eficiencia sean accesibles para una gama más amplia de algoritmos de aprendizaje automático, eliminando la necesidad de implementaciones personalizadas para manejar pérdidas no convexas o pesos extremos.
• Herramienta Disponible: Los autores han implementado los métodos en el paquete de R de código abierto hte3, facilitando su adopción por la comunidad de investigación y práctica.
• Fundamento para Futuras Investigaciones: Establece un marco general que puede extenderse a tratamientos continuos, longitudinales y otros contrastes causales, sugiriendo que la combinación de "plug-in" con ajustes de "sieve" es una ruta prometedora para la estimación causal robusta.

En resumen, el EP-learner ofrece una solución elegante que hereda la estabilidad del T-learner y la eficiencia del DR-learner, superando las principales barreras prácticas que han limitado la aplicación de métodos eficientes en entornos de datos reales complejos.