Doubly Robust Estimation of Causal Effect on CVR with Targeted Regularization

Resumo Técnico: Estimativa Duplamente Robusta de Efeito Causal em CVR com Regularização Direcionada

1. Formulação do Problema

O artigo aborda o desafio de estimar o efeito causal de um tratamento $A$ (ex: alocação de cupons) sobre a Taxa de Conversão Pós-clique (CVR). A CVR é definida como a probabilidade condicional $P(Y_2=1 | Y_1=1)$, onde $Y_1$ indica um clique e $Y_2$ indica uma conversão. O estimando alvo é a CVR potencial média sob uma estratégia de tratamento específica:
$$\psi_a = E[P(Y_2(a)=1 | Y_1(a)=1, X)]$$
onde $X$ representa as covariáveis.

Desafios Principais:

• Viés de Seleção de Amostra: Métodos padrão de inferência causal aplicados apenas às amostras clicadas ($Y_1=1$) introduzem viés porque o evento de clique não é aleatório e depende do tratamento.
• Limitações da Predição de CVR Existente: Trabalhos anteriores sobre predição de CVR utilizam o "ideal loss" para corrigir o viés de seleção ao otimizar uma perda imparcial sobre a amostra completa. No entanto, o artigo argumenta que uma perda imparcial não garante teoricamente um estimador final imparcial para o efeito causal.
• Limitações de Estimadores Causais Padrão: A aplicação direta de estimadores plug-in (estimando parâmetros de incômodo e tomando sua razão) sofre de taxas de convergência lentas e sensibilidade à especificação incorreta do modelo, particularmente ao usar estimadores não paramétricos flexíveis, como redes neurais.

2. Metodologia

Os autores abordam o problema a partir de uma perspectiva de teoria semiparamétrica, derivando um novo estimador adaptado à natureza estruturada em cadeia dos resultados de CVR.

A. Construção do Estimador Duplamente Robusto (DR)
O artigo deriva a função de influência e a expansão de von Mises para o estimando alvo. Com base nisso, constroem um novo estimador Duplamente Robusto:
$$\hat{\psi}_{a}^{dr} = \hat{\psi}_{plug-in} + \mathbb{P}_n(\phi_a(\hat{P}))$$
onde $\phi_a(P)$ é a função de influência envolvendo os parâmetros de incômodo:

• $\mu_1(x, a) = E(Y_1 | X, A=a)$ (Probabilidade de clique)
• $\mu_2(x, a) = E(Y_2 | X, A=a)$ (Probabilidade de conversão)
• $\pi(a|x)$ (Escore de propensão)

O estimador inclui um termo de correção que elimina o viés de primeira ordem do estimador plug-in. Teoricamente, este estimador alcança $\sqrt{n}$-consistência e normalidade assintótica mesmo se os parâmetros de incômodo forem estimados em taxas mais lentas (ex: $o_P(n^{-1/4})$), desde que o produto de seus erros convirja suficientemente rápido. Esta propriedade mantém-se mesmo se um dos estimadores de incômodo for inconsistente (Robustez Dupla).

B. Estrutura de Regularização Direcionada (Targeted Regularization)
Para lidar com a instabilidade numérica da correção direta de um passo (que pode produzir estimativas fora do espaço de parâmetros ou ser instável devido a baixas taxas de clique), os autores propõem uma estrutura de Regularização Direcionada:

• Em vez de um passo de correção rígido, eles introduzem um parâmetro de perturbação aprendível $\epsilon(a)$ (aproximado via splines para tratamentos contínuos).
• Um termo de regularização $R$ é adicionado à função de perda para forçar a média empírica da função de influência a zero:
  $$R = \frac{1}{n} \sum_{i=1}^n \left( \frac{y_{2i} - \hat{\mu}_{2i}}{\hat{\mu}_{1i}} - \frac{(y_{1i} - \hat{\mu}_{1i})\hat{\mu}_{2i}}{\hat{\mu}_{1i}^2} - \frac{\hat{\epsilon}(a_i)}{\hat{\pi}_i} \right)^2$$
• Aprendizado Multitarefa (Multi-Task Learning): A estrutura estima conjuntamente os efeitos causais de CTR e CVR. Para impor a restrição lógica de que a conversão implica um clique ($Y_2 \le Y_1$), o modelo prevê $\hat{\mu}_2 = \hat{\mu}_1 \times \tilde{\mu}_2$.
• Bloqueio de Gradiente (Gradient Blocking): Os gradientes dos termos de regularização direcionada são bloqueados de se propagarem para o estimador do escore de propensão $\hat{\pi}$ para garantir uma estimativa de propensão precisa.

3. Principais Contribuições

1. Formulação Teórica: O artigo revisita a estimativa causal de CVR sob uma perspectiva semiparamétrica, derivando a função de influência e estabelecendo um novo estimador Duplamente Robusto especificamente para resultados estruturados em cadeia. Eles provam que este estimador alcança $\sqrt{n}$-consistência sob suposições leves.
2. Estrutura Prática: Propõe uma estrutura de Regularização Direcionada que estende o conceito de Robustez Dupla para um procedimento de treinamento estável de ponta a ponta, sem exigir divisão de amostra (cross-fitting), tornando-o adequado para modelos complexos como redes neurais.
3. Validação Empírica: Experimentos extensos em dados sintéticos, semi-sintéticos e de mundo real demonstram que o método proposto supera os baselines padrão (DragonNet, VCNet, Causal Forest) e métodos existentes específicos para CVR.
4. Necessidade Teórica de Novos Estimadores: O artigo demonstra que combinar "debiasing de perda" (da literatura de predição de CVR) com estimadores causais padrão produz resultados inferiores, destacando a necessidade de derivar estimadores que visem diretamente o estimando final.

4. Resultados Experimentais

• Datasets: Experimentos foram conduzidos em dados sintéticos e dados semi-sintéticos (baseados no dataset News). Adicionalmente, experimentos foram realizados em um dataset de larga escala do mundo real (CRITEO-UPLIFTv2), o qual os autores explicitamente observam servir apenas como referência suplementar devido a limitações nos dados públicos (ex: tratamento binário vs. tratamento contínuo, falta de verdade fundamental para o estimando alvo).
• Métricas: O Erro Quadrático Médio Médio (AMSE) foi usado para dados sintéticos/semi-sintéticos; AUUC e QINI foram usados para o dataset do mundo real.
• Desempenho:
  • O método proposto superou significativamente todos os baselines, incluindo o Estimador DR padrão e o estudo de ablação "Ours (w/o. t-reg)", nos principais datasets sintéticos e semi-sintéticos.
  • O estudo de ablação confirmou que a Regularização Direcionada é crítica; removê-la causou uma queda significativa no desempenho, reduzindo o método a um estimador plug-in menos estável.
  • O método mostrou robustez através de diferentes configurações de hiperparâmetros para os pesos de regularização.
  • A comparação com uma abordagem alternativa que combinava debiasing de perda com estimadores causais padrão mostrou que o método proposto é superior, confirmando que a perda imparcial não garante a estimativa causal imparcial.
  • Resultados no dataset CRITEO-UPLIFTv2 validaram ainda mais a utilidade prática do método, embora os autores alertem que o desempenho pode estar subestimado devido às limitações do dataset.

5. Significância e Alegações

O artigo afirma fornecer um framework geral para estimar efeitos causais em resultados estruturados em cadeia, como a CVR. Sua significância reside em preencher a lacuna entre a eficiência semiparamétrica teórica e as aplicações práticas de deep learning.

• Ele afirma que os métodos existentes que dependem de "ideal loss" para predição de CVR são insuficientes para a estimativa de efeito causal porque não garantem a imparcialidade do estimador final.
• Demonstra que um estimador Duplamente Robusto customizado, estabilizado por regularização direcionada, oferece tanto garantias teóricas (consistência, normalidade assintótica) quanto estabilidade prática (robustez à especificação incorreta do modelo e baixas taxas de clique).
• O trabalho posiciona-se como uma solução para a tomada de decisão empresarial em e-commerce e publicidade, onde compreender a eficiência por etapas (especificamente a conversão pós-clique) das estratégias é crucial.