Doubly Robust Estimation of Causal Effect on CVR with Targeted Regularization

Resumen Técnico: Estimación Doblemente Robusta del Efecto Causal en la CVR con Regularización Dirigida

1. Formulación del Problema

El artículo aborda el desafío de estimar el efecto causal de un tratamiento $A$ (por ejemplo, la asignación de cupones) sobre la Tasa de Conversión Post-clic (CVR). La CVR se define como la probabilidad condicional $P(Y_2=1 | Y_1=1)$, donde $Y_1$ indica un clic y $Y_2$ indica una conversión. El estimando objetivo es la CVR potencial promedio bajo una estrategia de tratamiento específica:
$$\psi_a = E[P(Y_2(a)=1 | Y_1(a)=1, X)]$$
donde $X$ representa las covariables.

Desafíos Clave:

• Sesgo de Selección de Muestra: Los métodos estándar de inferencia causal aplicados únicamente a las muestras con clic ($Y_1=1$) introducen sesgo porque el evento de clic no es aleatorio y depende del tratamiento.
• Limitaciones de la Predicción de CVR Existente: Trabajos previos sobre la predicción de la CVR utilizan una "pérdida ideal" para corregir el sesgo de selección mediante la optimización de una pérdida insesgada sobre la muestra completa. Sin embargo, el artículo argumenta que una pérdida insesgada no garantiza teóricamente un estimador final insesgado para el efecto causal.
• Limitaciones de los Estimadores Causales Estándar: La aplicación directa de estimadores plug-in (estimando los parámetros de molestia y tomando su razón) sufre de tasas de convergencia lentas y sensibilidad a la especificación errónea del modelo, particularmente cuando se utilizan estimadores no paramétricos flexibles como las redes neuronales.

2. Metodología

Los autores abordan el problema desde la perspectiva de la teoría semiparamétrica, derivando un nuevo estimador adaptado a la naturaleza de estructura en cadena de los resultados de la CVR.

A. Construcción del Estimador Doblemente Robusto (DR)
El artículo deriva la función de influencia y la expansión de von Mises para el estimando objetivo. Basándose en esto, construyen un nuevo estimador Doblemente Robusto:
$$\hat{\psi}_{a}^{dr} = \hat{\psi}_{plug-in} + \mathbb{P}_n(\phi_a(\hat{P}))$$
donde $\phi_a(P)$ es la función de influencia que involucra los parámetros de molestia:

• $\mu_1(x, a) = E(Y_1 | X, A=a)$ (Probabilidad de clic)
• $\mu_2(x, a) = E(Y_2 | X, A=a)$ (Probabilidad de conversión)
• $\pi(a|x)$ (Puntuación de propensión o propensity score)

El estimador incluye un término de corrección que elimina el sesgo de primer orden del estimador plug-in. Teóricamente, este estimador logra la consistencia $\sqrt{n}$ y normalidad asintótica incluso si los parámetros de molestia se estiman a tasas más lentas (por ejemplo, $o_P(n^{-1/4})$), siempre que el producto de sus errores converja lo suficientemente rápido. Esta propiedad se mantiene incluso si uno de los estimadores de molestia es inconsistente (Robustez Doble).

B. Marco de Regularización Dirigida (Targeted Regularization)
Para abordar la inestabilidad numérica de la corrección directa de un solo paso (que puede producir estimaciones fuera del espacio de parámetros o ser inestable debido a bajas tasas de clic), los autores proponen un marco de Regularización Dirigida.

• En lugar de un paso de corrección rígido, introducen un parámetro de perturbación aprendible $\epsilon(a)$ (aproximado mediante splines para tratamientos continuos).
• Se añade un término de regularización $R$ a la función de pérdida para forzar que la media empírica de la función de influencia sea cero:
  $$R = \frac{1}{n} \sum_{i=1}^n \left( \frac{y_{2i} - \hat{\mu}_{2i}}{\hat{\mu}_{1i}} - \frac{(y_{1i} - \hat{\mu}_{1i})\hat{\mu}_{2i}}{\hat{\mu}_{1i}^2} - \frac{\hat{\epsilon}(a_i)}{\hat{\pi}_i} \right)^2$$
• Aprendizaje Multitarea: El marco estima conjuntamente los efectos causales de CTR y CVR. Para imponer la restricción lógica de que la conversión implica un clic ($Y_2 \le Y_1$), el modelo predice $\hat{\mu}_2 = \hat{\mu}_1 \times \tilde{\mu}_2$.
• Bloqueo de Gradientes: Los gradientes de los términos de regularización dirigida se bloquean para que no se propaguen al estimador de la puntuación de propensión $\hat{\pi}$, asegurando una estimación precisa de la propensión.

3. Principales Contribuciones

1. Formulación Teórica: El artículo revisita la estimación causal de la CVR desde una perspectiva semiparamétrica, derivando la función de influencia y estableciendo un nuevo estimador Doblemente Robusto diseñado específicamente para resultados con estructura en cadena. Demuestra que este estimador logra la consistencia $\sqrt{n}$ bajo supuestos moderados.
2. Marco Práctico: Propone un marco de Regularización Dirigida que extiende el concepto de Robustez Doble a un procedimiento de entrenamiento estable de extremo a extremo sin requerir división de muestras (sample splitting o cross-fitting), lo que lo hace adecuado para modelos complejos como las redes neuronales.
3. Validación Empírica: Experimentos extensos con datos sintéticos, semi-sintéticos y de mundo real demuestran que el método propuesto supera a las líneas base estándar (DragonNet, VCNet, Causal Forest) y a los métodos existentes específicos para CVR.
4. Necesidad Teórica de Nuevos Estimadores: El artículo demuestra que combinar la "debiasing de pérdida" (de la literatura de predicción de CVR) con estimadores causales estándar produce resultados inferiores, resaltando la necesidad de derivar estimadores que apunten directamente al estimando final.

4. Resultados Experimentales

• Conjuntos de Datos: Los experimentos se realizaron con datos sintéticos y semi-sintéticos (basados en el conjunto de datos News). Además, se realizaron experimentos con un conjunto de datos de gran escala del mundo real (CRITEO-UPLIFTv2), el cual los autores señalan explícitamente que sirve solo como referencia suplementaria debido a las limitaciones en los datos públicos (por ejemplo, tratamiento binario frente a tratamiento continuo, falta de verdad fundamental para el estimando objetivo).
• Métricas: Se utilizó el Error Cuadrático Medio Promedio (AMSE) para los datos sintéticos/semi-sintéticos; se utilizaron AUUC y QINI para el conjunto de datos del mundo real.
• Rendimiento:
  • El método propuesto superó significativamente a todas las líneas base, incluyendo el Estimador DR estándar y la ablación "Ours (w/o. t-reg)", en los principales conjuntos de datos sintéticos y semi-sintéticos.
  • El estudio de ablación confirmó que la Regularización Dirigida es crítica; eliminarla causó una caída significativa en el rendimiento, reduciendo el método a un estimador plug-in menos estable.
  • El método mostró robustez a través de diferentes configuraciones de hiperparámetros para los pesos de regularización.
  • La comparación con un enfoque alternativo que combinaba la debiasing de pérdida con estimadores causales estándar mostró que el método propuesto es superior, confirmando que una pérdida insesgada no garantiza una estimación causal insesgada.
  • Los resultados en el conjunto de datos CRITEO-UPLIFTv2 validaron aún más la utilidad práctica del método, aunque los autores advierten que el rendimiento puede estar subestimado debido a las limitaciones del conjunto de datos.

5. Significado y Reivindicaciones

El artículo afirma proporcionar un marco general para estimar efectos causales en resultados con estructura en cadena como la CVR. Su importancia radica en cerrar la breancia entre la eficiencia semiparamétrica teórica y las aplicaciones prácticas de aprendizaje profundo.

• Sostiene que los métodos existentes que dependen de la "pérdida ideal" para la predicción de CVR son insuficientes para la estimación del efecto causal porque no garantizan la insesgadez del estimador final.
• Demuestra que un estimador Doblemente Robusto diseñado a medida, estabilizado por la regularización dirigida, ofrece tanto garantías teóricas (consistencia, normalidad asintótica) como estabilidad práctica (robustez ante la especificación errónea del modelo y bajas tasas de clic).
• El trabajo se posiciona como una solución para la toma de decisiones empresariales en comercio electrónico y publicidad, donde comprender la eficiencia por etapas (específicamente la conversión post-clic) de las estrategias es crucial.