Deconfounding Scores and Representation Learning for Causal Effect Estimation with Weak Overlap

1. Il Problema: Sovrapposizione Debole e Dimensionalità

Nell'inferenza causale osservazionale, la stima dell'effetto medio del trattamento (ATT) richiede due assunzioni fondamentali: l'ignorabilità (nessun confondimento non osservato) e la sovrapposizione (o positività), ovvero la condizione per cui le distribuzioni delle caratteristiche (covariate) nei gruppi di trattamento e controllo devono avere un supporto comune.

Il problema principale affrontato dal paper è la sovrapposizione debole (weak overlap), che diventa critica in contesti ad alta dimensionalità (la "maledizione della dimensionalità"). Quando le caratteristiche differiscono fortemente tra i gruppi, gli stimatori classici (come la ponderazione per propensione o gli stimatori doppiamente robusti) soffrono di:

• Alta varianza: A causa di pesi di propensione estremi.
• Instabilità: I risultati diventano "fragili" e poco affidabili.
• Limiti teorici: Anche se l'assunzione di sovrapposizione è tecnicamente soddisfatta, la densità di probabilità può variare drasticamente, rendendo l'intervallo di confidenza non valido.

L'obiettivo è trovare una rappresentazione delle covariate che preservi l'identificazione causale (rimuovendo il bias di confondimento) ma migliori la sovrapposizione tra i gruppi, riducendo così la varianza asintotica degli stimatori.

2. Metodologia: Punteggi di Disconfondimento (Deconfounding Scores)

Gli autori introducono una nuova classe di rappresentazioni chiamate Punteggi di Disconfondimento (Deconfounding Scores).

Definizione e Proprietà

Un punteggio di disconfondimento $\phi(X)$ è una rappresentazione delle covariate originali $X$ tale che l'effetto causale $\tau$ rimane identificabile condizionando solo su $\phi(X)$. Formalmente, questo richiede che il "bias di confondimento" condizionato sia nullo.

• Condizione di Bias Zero: Il bias è espresso come una covarianza condizionale osservabile tra il modello di esito $m_0(X)$ e il rapporto di densità (o punteggio di propensione) $dP^1_X/dP^0_X(X)$ dato $\phi(X)$.
• Generalizzazione: I punteggi di propensione (balancing scores) e i punteggi prognostici (prognostic scores) sono casi speciali di questa classe. I punteggi di disconfondimento formano un continuum tra questi due estremi.

Divergenza di Sovrapposizione (Overlap Divergence)

Per quantificare la qualità della sovrapposizione di una rappresentazione, gli autori definiscono la Divergenza di Sovrapposizione $O(Z)$, basata sulla divergenza $\chi^2$ tra le distribuzioni del trattamento e del controllo sulla rappresentazione $Z$:
$$O(Z) = E_{P^0} \left[ \left( \frac{dP^1_Z}{dP^0_Z}(Z) \right)^2 \right]$$
Questa metrica è direttamente collegata al limite di efficienza semiparametrica ($V_{eff}$). Gli autori dimostrano teoricamente che ridurre la divergenza di sovrapposizione è necessario (e spesso sufficiente) per ridurre la varianza asintotica degli stimatori.

Ottimizzazione nel Caso Gaussiano

In un setting analitico con covariate gaussiane e modelli lineari generalizzati (GLM) per l'esito e l'assegnazione del trattamento:

1. Caratterizzazione Chiusa: Gli autori derivano una famiglia di punteggi di disconfondimento che giacciono su un'iperbole nello spazio generato dai vettori dei coefficienti del punteggio prognostico ($\alpha$) e del punteggio di propensione ($\beta$).
2. Ottimalità del Punteggio Prognostico: Il risultato teorico chiave è che, all'interno di questa famiglia, il punteggio prognostico (che predice l'esito ma non l'assegnazione al trattamento) minimizza la divergenza di sovrapposizione.
3. Trade-off: I punteggi di propensione (balancing scores) massimizzano la divergenza, mentre i punteggi prognostici la minimizzano. I punteggi "equiangolari" offrono un compromesso.

3. Contributi Chiave

1. Definizione Teorica: Introduzione dei Deconfounding Scores come classe completa di rappresentazioni che preservano l'identificazione causale senza bias, generalizzando i concetti esistenti.
2. Metrica di Efficienza: Dimostrazione che la divergenza di sovrapposizione controlla il limite di efficienza semiparametrica, fornendo un fondamento teorico per l'ottimizzazione della sovrapposizione.
3. Risultati Analitici: Prova che, in condizioni gaussiane, i punteggi prognostici sono ottimali per la sovrapposizione, confermando l'intuizione che le variabili predittive solo del trattamento (e non dell'esito) dovrebbero essere escluse per ridurre la varianza.
4. Validazione Empirica: Dimostrazione che le rappresentazioni di disconfondimento migliorano sempre la sovrapposizione rispetto alle covariate originali e che i punteggi prognostici offrono le migliori prestazioni in scenari di sovrapposizione debole.

4. Risultati Sperimentali

Gli autori hanno valutato i loro metodi su dataset simulati e semi-sintetici (IHDP, ACIC 2016, HC-MNIST) utilizzando stimatori ATT standard (Regressione, IPW, AIPW) adattati alle nuove rappresentazioni.

• Dataset Simulati:
  • Quando il modello di esito è ben specificato, gli stimatori basati sul punteggio prognostico superano costantemente quelli basati sulle covariate grezze e sugli altri punteggi di disconfondimento, specialmente in scenari di bassa sovrapposizione.
  • Quando il modello di propensione è corretto ma quello di esito è errato, i metodi basati sul punteggio di bilanciamento (propensione) tendono a dominare.
  • In scenari di errata specificazione di entrambi i modelli, i punteggi di disconfondimento (specialmente quelli equiangolari) tendono a performare meglio delle covariate grezze, offrendo un compromesso robusto.
• Dataset Semi-Sintetici:
  • In tutti i dataset reali (IHDP, ACIC, HC-MNIST), è stato sempre possibile trovare almeno un punteggio di disconfondimento che migliorava la stima rispetto alle covariate originali.
  • Il punteggio prognostico ha mostrato la frequenza più alta di miglioramenti, confermando la teoria, ma il punteggio equiangolare si è rivelato un'alternativa attraente e robusta.

5. Significato e Implicazioni

Questo lavoro è significativo perché:

• Colma un divario teorico: Fornisce una giustificazione matematica rigorosa per l'uso di punteggi prognostici per migliorare la sovrapposizione, un'idea spesso intuitiva ma non formalizzata in questo modo.
• Strumento Pratico: Offre un approccio "plug-in" che può essere integrato in qualsiasi metodo di stima dell'effetto causale (inclusi TMLE, Double ML, ecc.) sostituendo le covariate grezze con rappresentazioni ottimizzate.
• Gestione dell'Alta Dimensionalità: Propone una soluzione strutturata al problema della sovrapposizione debole in spazi ad alta dimensionalità, riducendo la varianza senza sacrificare l'identificazione causale.
• Futuro della Ricerca: Apre la strada all'estensione di questi concetti a modelli non lineari (reti neurali) e all'ottimizzazione congiunta del limite di efficienza completa, superando le attuali limitazioni dei metodi di apprendimento rappresentazionale causale che spesso non garantiscono l'assenza di bias di confondimento.

In sintesi, il paper dimostra che la scelta della rappresentazione delle covariate è cruciale per l'efficienza degli stimatori causali e che i punteggi prognostici, spesso trascurati a favore dei punteggi di propensione, sono teoricamente ottimali per massimizzare la sovrapposizione e minimizzare la varianza in condizioni di sovrapposizione debole.