Hybrid Meta-learners for Estimating Heterogeneous Treatment Effects

Sintesi Tecnica: Meta-apprendimenti Ibridi per la Stima degli Effetti del Trattamento Eterogenei

Definizione del Problema
Il documento affronta la sfida di stimare l'Effetto Medio Condizionale del Trattamento (Conditional Average Treatment Effect, CATE), denotato come $\tau(x) = \mathbb{E}[Y(1) - Y(0) | X=x]$, partendo da dati osservazionali. A differenza dell'apprendimento supervisionato standard, la stima del CATE comporta bias induttivi unici dovuti allo shift dei covariate e all'obiettivo specifico di modellare la differenza tra due funzioni di esito potenziale (potential outcome, PO), $\mu_1(x)$ e $\mu_0(x)$, piuttosto che le funzioni stesse.

Gli approcci esistenti basati sui "meta-learner" si dividono in due paradigmi distinti con bias induttivi contrastanti:

1. Meta-apprendimenti Indiretti (es. T-learner, S-learner): Questi adattano modelli separati per $\mu_0$ e $\mu_1$ e stimano il CATE calcolandone la differenza. Funzionano bene quando le funzioni PO sono complesse ma il CATE è semplice. Tuttavia, soffrono di "confondimento indotto dalla regolarizzazione", in cui la regolarizzazione indipendente delle PO introduce eterogeneità spurie nella stima del CATE.
2. Meta-apprendimenti Diretti (es. X-learner, IPW, DR): Questi costruiscono pseudo-esiti $Y_\phi$ per modellare direttamente $\tau(x)$. Eccellono quando la funzione CATE è complessa quanto le PO. Tuttavia, possono performare meno efficacemente quando la costruzione dello pseudo-esito è rumorosa (es. a causa di uno sbilanciamento del propensity score) o quando il CATE è significativamente più semplice delle PO, poiché non riescono a sfruttare la semplicità strutturale dell'effetto.

Il problema centrale è che nessuno dei due approcci domina costantemente su tutti i Processi Generatori di Dati (DGP), e la complessità relativa delle PO rispetto al CATE è spesso ignota nella pratica.

Metodologia: L'H-learner
Gli autori propongono l'H-learner (Hybrid Learner), una nuova strategia di regolarizzazione che interpola tra l'apprendimento indiretto e quello diretto. L'H-learner addestra due funzioni intermedie, $f_0$ e $f_1$, che approssimano gli esiti potenziali ma non sono necessariamente stimatori ottimali delle PO individualmente. Inve la, sono ottimizzate congiuntamente per garantire che la loro differenza, $f_1(x) - f_0(x)$, approssimi accuratamente il CATE.

Il metodo opera in due fasi:

1. Fase 1 (Costruzione dello Pseudo-esito): Uno pseudo-esito $Y_\phi$ viene costruito utilizzando trasformazioni standard (es. X-learner, DR-learner) basate su stime iniziali dei parametri di disturbo (nuisance parameters).
2. Fase 2 (Ottimizzazione Congiunta): Il modello minimizza una funzione di perdita composita che bilancia due obiettivi:
   • Componente Indiretta ($\ell_I$): Adattamento di $f_0$ e $f_1$ agli esiti fattuali osservati $Y_i$.
   • Componente Diretta ($\ell_D$): Assicurare che la differenza $(f_1(X_i) - f_0(X_i))$ sia allineata con lo pseudo-esito $Y_{\phi, i}$.

La funzione di perdita è definita come:
$$\min_{f_0, f_1} \sum_{i=1}^n (1-\lambda) \ell(Y_i, f_{T_i}(X_i)) + \lambda \left( (f_1(X_i) - f_0(X_i)) - Y_{\phi, i} \right)^2$$
dove $\lambda \in [0, 1]$ è un iperparametro.

• $\lambda = 0$ recupera il learner indiretto.
• $\lambda = 1$ recupera il learner diretto.
• $0 < \lambda < 1$ crea un estimatore ibrido che permette adattamenti "sub-ottimali" alle singole PO se ciò migliora la stima complessiva del CATE, ottimizzando così il trade-off bias-varianza.

Contributi Chiave

1. Caratterizzazione dei Bias Induttivi: Il documento collega esplicitamente le prestazioni dei meta-learner al sottostante DGP, specificamente alla complessità relativa delle PO rispetto al CATE e al grado di sovrapposizione dei covariate.
2. Strategia di Regolarizzazione Unificata: L'H-learner viene introdotto come un framework model-agnostic che colma teoricamente ed empiricamente il divario tra i learner diretti e indiretti.
3. Analisi Teorica: In un contesto lineare, gli autori derivano una soluzione in forma chiusa mostrando l'H-learner come una combinazione pesata tramite matrici di stimatori indiretti e diretti. Dimostrano che, sotto specifiche condizioni (es. quando i bias dei learner indiretti e diretti puntano in direzioni opposte, o quando il learner indiretto ha un alto bias e il learner diretto ha un'alta varianza), l'H-learner raggiunge un rischio di predizione strettamente inferiore rispetto a entrambi i baseline.
4. Robustezza Empirica: Esperimenti estesi su benchmark semi-sintetici e reali dimostrano che l'H-learner opera costantemente sulla frontiera di Pareto, superando gli stati dell'arte (SOTA) in termini di prestazioni attraverso diversi livelli di confondimento, sbilanciamento del trattamento e complessità funzionale.

Risultati

• Esperimenti Semi-Sintetici: Utilizzando dati derivati da IHDP con DGP controllati, l'H-learner ha costantemente superato sia TARNet (indiretto) che X-learner (diretto).
  • In scenari con alta condivisione di feature (CATE semplice), l'H-learner si è adattato favorendo la regolarizzazione diretta.
  • In scenari con alto sbilanciamento o forte confondimento, si è adattato per mitigare le debolezze degli approcci puramente indiretti o diretti.
  • Il $\lambda$ ottimale è stato costantemente trovato strettamente tra 0 e 1, confermando il beneficio dell'interpolazione.
• Valutazione Benchmark: Sui dataset IHDP e ACIC 2016, l'H-learner (specificamente utilizzando gli pseudo-esiti dell'X-learner) ha ottenuto i punteggi PEHE (Precision in Estimation of Heterogeneous Effect) più bassi tra tutti i baseline, inclusi T-learner, TARNet, IPW, DR, X-learner e altri metodi di regolarizzazione specializzati come Weight Regularization (TARNet-WR), OffsetNet e FlexTENet.
• Confronto con Altre Regolarizzazioni: Il documento nota che le strategie di regolarizzazione esistenti (penalizzazione dei pesi, riparametrizzazione, condivisione strutturale) spesso assumono piccoli effetti del trattamento o strutture specifiche. Quando tali assunzioni vengono violate, questi metodi degradano le prestazioni, mentre l'H-learner rimane robusto senza tali assunzioni strutturali.

Significatività e Rivendicazioni
Il documento sostiene che l'H-learner fornisce una soluzione robusta al problema del "no free lunch" nella stima del CATE. Interpolando adattivamente i bias induttivi dei learner diretti e indiretti, l'H-learner elimina la necessità di conoscere in anticipo la struttura del DGP. Gli autori affermano che permettere intenzionalmente adattamenti sub-ottimali ai singoli esiti potenziali può migliorare il trade-off bias-varianza per l'effetto del trattamento, un'intuizione controintuitiva che porta a prestazioni di stato dell'arte in diverse condizioni di dati. Il metodo è presentato come una strategia generale, model-agnostic e compatibile con varie architetture di machine learning.