Causal Gaussian Processes for Robust Treatment Effect Evaluation with Unobserved Confounding

Sintesi Tecnica: Processi Gaussiani Causali per la Valutazione Robusta degli Effetti del Trattamento con Confondimento Non Osservato

Definizione del Problema

La sfida centrale affrontata in questo articolo è la valutazione degli effetti causali dei trattamenti da dati osservazionali contaminati da confondimento non osservato. In molti scenari pratici, gli effetti causali target (ad esempio, $E_x[Y]$) sono non identificabili dai soli dati osservazionali perché i confonditori non misurati introducono correlazioni spurie tra i trattamenti ($X$) e gli esiti ($Y$).

Sebbene la regressione standard tramite Processi Gaussiani (GP) eccella nel modellare mappature funzionali complesse in domini continui, essa è vulnerabile all'apprendimento e all'amplificazione dei bias presenti nei dati osservazionali. Di conseguenza, i GP standard spesso falliscono nel generalizzare alle distribuzioni interventistiche (cosa accadrebbe se $X$ fosse impostato su un valore specifico $x$), portando a valutazioni di policy errate. Le strategie robuste esistenti spesso si affidano a forti assunzioni parametriche, una conoscenza dettagliata del prior dell'ambiente, o sono limitate a spazi di trattamento e esito discreti, limitando la loro applicabilità a domini continui complessi.

Metodologia

Gli autori propongono un nuovo framework che colma il divario tra l'inferenza causale non parametrica e la modellazione tramite Processi Gaussiani attraverso tre fasi metodologiche principali:

1. Discretizzazione Universale dei Domini Esogeni
Il documento introduce una procedura di discretizzazione universale per le variabili esogene ($U$) in qualsiasi Modello Causale Strutturale (SCM) con domini di trattamento e esito continui.

• Gli autori definiscono un Modello Canonico Causale (CCM) in cui le funzioni strutturali che determinano le covariate ($Z$), le azioni ($X$) e le ricompense ($Y$) sono funzioni semplici (combinazioni lineari di funzioni indicatrici su sottoinsiemi disgiunti del dominio esogeno).
• Il Teorema 3.3 stabilisce che l'insieme di questi Modelli Canonici Causali è denso nello spazio di tutti gli SCM rispetto alla norma $L_1$. Ciò significa che per qualsiasi modello causale arbitrario e per qualsiasi accuratezza desiderata $\epsilon$, esiste un CCM che approssima sia la distribuzione osservazionale $P(X, Y, Z)$ che gli effetti del trattamento interventistici $E_x[Y|z]$ entro $\epsilon$.

2. Riproparametrizzazione in Modelli Generativi Causali (CGM)
Per facilitare l'apprendimento, le funzioni semplici discrete del CCM vengono riparametrizzate in Modelli Generativi Causali (CGM) utilizzando funzioni continue.

• In un CGM, la popolazione è stratificata in un numero finito di stati latenti (strati) $u \in \{1, \dots, d\}$.
• All'interno di ogni strato, la funzione di ricompensa $h_u(x, z)$ è una funzione continua che mappa il trattamento e le covariate verso l'esito.
• Il Teorema 4.2 conferma che questa famiglia di CGM mantiene la proprietà di approssimazione causale, rappresentando efficacemente qualsiasi distribuzione osservazionale e interventistica di un SCM.

3. Processi Gaussiani Causali (CGP) e Inferenza Variazionale
Gli autori istanziano la famiglia di CGM utilizzando i Processi Gaussiani per gestire la natura continua delle funzioni di ricompensa $h_u$.

• Struttura del Modello: La distribuzione esogena $P(u)$ è modellata tramite un processo di stick-breaking (processo di rottura del bastoncino) di tipo Dirichlet troncato. Per ogni strato latente $u$, le covariate $Z$ e il trattamento $X$ sono estratti da distribuzioni multivariate normali condizionate. L'esito $Y$ è generato da una funzione $h_u(x, z)$ estratta da un Processo Gaussiano con un kernel specifico (ad esempio, RBF - Funzione di Base Radiale).
• Apprendimento: Poiché l'inferenza posteriore esatta è intrattabile, gli autori impiegano l'Inferenza Variazionale (VI) con approssimazione mean-field. Il modello apprende una distribuzione posteriore sugli assegnamenti degli strati latenti e sui parametri dei processi gaussiani.
• Inferenza: L'effetto del trattamento target $E_x[Y|z]$ viene calcolato mediando le funzioni di ricompensa apprese $h_u(x, z)$ pesate dalla probabilità posteriore dello strato latente $P(u|z)$. Ciò consente al modello di "cercare" tra le potenziali partizioni del dominio esogeno per trovare una spiegazione robusta dei dati che tenga conto del confondimento non osservato.

Contributi Chiave

1. Discretizzazione Universale: Il documento fornisce una prova formale che i domini esogeni nei modelli causali continui possono essere discretizzati senza perdita di generalità per approssimare qualsiasi modello causale e le sue distribuzioni osservazionali e interventistiche con un'accuratezza arbitraria.
2. Famiglia di Processi Gaussiani Causali (CGP): Gli autori sviluppano una nuova famiglia di modelli generativi che riparametrizza la discretizzazione canonica in una forma compatibile con l'inferenza bayesiana standard e i framework di deep learning.
3. Identificazione Parziale Robusta: Il framework consente la derivazione di distribuzioni posteriori robuste sugli effetti causali da dati osservazionali confusi, eseguendo efficacemente l'identificazione parziale in domini continui senza richiedere forti assunzioni parametriche sulle funzioni strutturali sottostanti.

Risultati Sperimentali

Gli autori hanno valutato il proposto CGP rispetto alla regressione standard dei Processi Gaussiani su dataset sintetici con varie funzioni di ricompensa (Polinomiale, Logistica, Fase, Lineare) e un dataset del mondo reale proveniente dall'International Stroke Trial (IST).

• Metrica: Le prestazioni sono state misurate utilizzando la Log-Likelihood Negativa Predittiva (NLPL) su dati interventistici (dati da trial randomizzati o interventi simulati).
• Risultati:
  • I GP standard soffrono costantemente di overfitting sui dati osservazionali confusi, risultando in punteggi NLPL elevati e fallendo nella generalizzazione alle distribuzioni interventistiche.
  • I Causal GP hanno costantemente ottenuto punteggi NLPL significativamente più bassi in tutti gli esperimenti sintetici e reali.
  • Le distribuzioni posteriori apprese dal CGP hanno catturato con successo i veri effetti del trattamento, mentre i GP standard deviavano significativamente a causa del confondimento non osservato.

Significato e Rivendicazioni

L'articolo sostiene che questo lavoro generalizza la partizione canonica dei modelli causali strutturali (precedentemente stabilita per domini discreti) ai domini continui. Introducendo una proprietà di discretizzazione universale, gli autori dimostrano che è possibile approssimare meccanismi causali complessi e sconosciuti con un numero finito di stati latenti.

La significatività risiede nel fornire un approccio robusto e guidato dai dati all'inferenza causale in contesti in cui:

• È presente un confondimento non osservato.
• Le variabili sono continue.
• Non è disponibile una conoscenza parametrica dettagliata del processo generativo.

Gli autori affermano che il loro metodo consente l' "identificazione parziale robusta" degli effetti causali, permettendo agli apprendisti di inferire effetti del trattamento che si generalizzano agli scenari interventistici anche quando i dati osservazionali sono distorti. Il lavoro posiziona i CGP come uno strumento che automatizza la discretizzazione degli spazi latenti, rendendo l'inferenza causale robusta fattibile in ambienti continui complessi e reali.