Doubly Robust Estimation of Causal Effect on CVR with Targeted Regularization

Sintesi Tecnica: Stima Doppia Robusta dell'Effetto Causale sul CVR con Regolarizzazione Mirata

1. Formulazione del Problema

Il documento affronta la sfida di stimare l'effetto causale di un trattamento $A$ (ad esempio, l'allocazione di un coupon) sul Tasso di Conversione Post-click (CVR). Il CVR è definito come la probabilità condizionata $P(Y_2=1 | Y_1=1)$, dove $Y_1$ indica un click e $Y_2$ indica una conversione. L'estimando target è il CVR potenziale medio sotto una specifica strategia di trattamento:
$$\psi_a = E[P(Y_2(a)=1 | Y_1(a)=1, X)]$$
dove $X$ rappresenta le covariate.

Sfide Chiave:

• Bias di Selezione del Campione: I metodi standard di inferenza causale applicati solo ai campioni cliccati ($Y_1=1$) introducono un bias perché l'evento di click non è casuale e dipende dal trattamento.
• Limitazioni della Previsione CVR Esistente: I lavori precedenti sulla previsione del CVR utilizzano una "perdita ideale" (ideal loss) per correggere il bias di selezione ottimizzando una perdita non viesata sull'intero campione. Tuttavia, il documento sostiene che una perdita non viesata non garantisce teoricamente un estimatore finale non viesato per l'effetto causale.
• Limitazioni dei Standard Estimatori Causali: L'applicazione diretta di stimatori plug-in (stima dei parametri di disturbo e calcolo del loro rapporto) soffre di tassi di convergenza lenti e sensibilità alla misspecificazione del modello, particolarmente quando si utilizzano stimatori non parametrici flessibili come le reti neurali.

2. Metodologia

Gli autori approcciano il problema da una prospettiva di teoria semiparametrica, derivando un nuovo stimatore su misura per la natura strutturata a catena degli esiti del CVR.

A. Costruzione dello Stimatore Doppia Robusto (DR)
Il documento deriva la funzione di influenza e l'espansione di von Mises per l'estimando target. Sulla base di ciò, costruiscono un nuovo stimatore Doppia Robusto:
$$\hat{\psi}_{a}^{dr} = \hat{\psi}_{plug-in} + \mathbb{P}_n(\phi_a(\hat{P}))$$
dove $\phi_a(P)$ è la funzione di influenza che coinvolge i parametri di disturbo:

• $\mu_1(x, a) = E(Y_1 | X, A=a)$ (Probabilità di click)
• $\mu_2(x, a) = E(Y_2 | X, A=a)$ (Probabilità di conversione)
• $\pi(a|x)$ (Propensity score)

Lo stimatore include un termine di correzione che elimina il bias del primo ordine dello stimatore plug-in. Teoricamente, questo stimatore raggiunge la $\sqrt{n}$-consistenza e la normalità asintotica anche se i parametri di disturbo sono stimati con velocità più lente (es. $o_P(n^{-1/4})$), a condizione che il prodotto dei loro errori converga sufficientemente velocemente. Questa proprietà è valida anche se uno degli stimatori di disturbo è inconsistente (Doppia Robustezza).

B. Framework di Regolarizzazione Mirata (Targeted Regularization)
Per affrontare l'instabilità numerica della correzione diretta a uno stadio (che può produrre stime al di fuori dello spazio dei parametri o essere instabile a causa dei bassi tassi di click-through), gli autori propongono un framework di Regolarizzazione Mirata:

• Invece di un passaggio di correzione rigido, introducono un parametro di perturbazione apprendibile $\epsilon(a)$ (approssimato tramite spline per trattamenti continui).
• Un termine di regolarizzazione $R$ viene aggiunto alla funzione di perdita per forzare la media empirica della funzione di influenza a zero:
  $$R = \frac{1}{n} \sum_{i=1}^n \left( \frac{y_{2i} - \hat{\mu}_{2i}}{\hat{\mu}_{1i}} - \frac{(y_{1i} - \hat{\mu}_{1i})\hat{\mu}_{2i}}{\hat{\mu}_{1i}^2} - \frac{\hat{\epsilon}(a_i)}{\hat{\pi}_i} \right)^2$$
• Apprendimento Multi-Task: Il framework stima congiuntamente gli effetti causali di CTR e CVR. Per imporre il vincolo logico che la conversione implica un click ($Y_2 \le Y_1$), il modello predice $\hat{\mu}_2 = \hat{\mu}_1 \times \tilde{\mu}_2$.
• Blocco del Gradiente (Gradient Blocking): I gradienti dai termini di regolarizzazione mirata sono bloccati per evitare la propagazione allo stimatore del propensity score $\hat{\pi}$, garantendo una stima accurata del propensity.

3. Contributi Chiave

1. Formulazione Teorica: Il documento rivisita la stima causale del CVR da una prospettiva semiparametrica, derivando la funzione di influenza e stabilendo un nuovo stimatore Doppia Robusto specificamente per esiti strutturati a catena. Dimostra che questo stimatore raggiunge la $\sqrt{n}$-consistenza sotto ipotesi deboli.
2. Framework Pratico: Propone un framework di Regolarizzazione Mirata che estende il concetto di Doppia Robustezza a una procedura di addestramento end-to-end stabile, senza richiedere la divisione del campione (cross-fitting), rendendolo adatto a modelli complessi come le reti neurali.
3. Validazione Empirica: Esperimenti estesi su dati sintetici, semi-sintetici e reali dimostrano che il metodo proposto supera i baseline standard (DragonNet, VCNet, Causal Forest) e i metodi esistenti specifici per il CVR.
4. Necessità Teorica di Nuovi Estimatori: Il documento dimostra che combinare la "debiasing della perdita" (dalla letteratura sulla previsione del CVR) con gli stimatori causali standard produce risultati inferiori, evidenziando la necessità di derivare stimatori che targettizzano direttamente l'estimando finale.

4. Risultati Sperimentali

• Dataset: Gli esperimenti sono stati condotti su dati sintetici e dati semi-sintetici (basati sul dataset News). Inoltre, sono stati eseguiti esperimenti su un dataset reale su larga scala (CRITEO-UPLIFTv2), che gli autori indicano esplicitamente come solo un riferimento supplementare a causa delle limitazioni nei dati pubblici disponibili (es. trattamento binario vs. continuo, mancanza di ground truth per l'estimando target).
• Metriche: L'errore quadratico medio medio (AMSE) è stato utilizzato per i dati sintetici/semi-sintetici; AUUC e QINI sono stati utilizzati per il dataset reale.
• Performance:
  • Il metodo proposto ha superato significativamente tutti i baseline, inclusi lo standard DR Estimator e l'ablation "Ours (w/o. t-reg)", sui dataset primari sintetici e semi-sintetici.
  • Lo studio di ablazione ha confermato che la Regolarizzazione Mirata è critica; la sua rimozione ha causato un calo significativo delle prestazioni, riducendo il metodo a uno stimatore plug-in meno stabile.
  • Il metodo ha mostrato robustezza attraverso diverse impostazioni di iperparametri per i pesi di regolarizzazione.
  • Il confronto con un approccio alternativo che combinava la debiasing della perdita con stimatori causali standard ha mostrato la superiorità del metodo proposto, confermando che una perdita non viesata non garantisce una stima causale non viesata.
  • I risultati sul dataset CRITEO-UPLIFTv2 hanno ulteriormente validato l'utilità pratica del metodo, sebbene gli autori avvertano che le prestazioni potrebbero essere sottostimate a causa delle limitazioni del dataset.

5. Significato e Rivendicazioni

Il documento rivendica di fornire un framework generale per stimare gli effetti causali su esiti strutturati a catena come il CVR. La sua importanza risiede nel colmare il divario tra l'efficienza semiparametrica teorica e le applicazioni pratiche di deep learning.

• Afferma che i metodi esistenti basati sulla "perdita ideale" per la previsione del CVR sono insufficienti per la stima dell'effetto causale perché non garantiscono l'assenza di bias dello stimatore finale.
• Dimostra che un estimatore Doppia Robusto su misura, stabilizzato dalla regolarizzazione mirata, offre sia garanzie teoriche (consistenza, normalità asintotica) che stabilità pratica (robustezza alla misspecificazione del modello e ai bassi tassi di click-through).
• Il lavoro si posiziona come una soluzione per il decision-making aziendale nell'e-commerce e nella pubblicità, dove comprendere l'efficienza per fasi (specificamente la conversione post-click) delle strategie è cruciale.