The Honest Truth About Causal Trees: Accuracy Limits for Heterogeneous Treatment Effect Estimation

1. Il Problema

Le alberi decisionali ricorsivi (in particolare le varianti basate sull'algoritmo CART adattato all'inferenza causale, come proposto da Athey e Imbens, 2016) sono ampiamente utilizzati per stimare effetti causali eterogenei del trattamento (CATE). Questi metodi sono apprezzati per la loro semplicità, interpretabilità e capacità di scoprire sottogruppi rilevanti nei dati, adattandosi a contesti ad alta dimensionalità.

Tuttavia, le proprietà statistiche fondamentali di questi stimatori, in particolare la loro accuratezza di stima uniforme (convergenza in norma uniforme su tutto lo spazio delle covariate), rimangono scarsamente comprese. La letteratura esistente spesso si basa su ipotesi forti (come la regolarità $\alpha$ o partizioni quasi-uniformi) che sono incompatibili con le implementazioni canoniche degli algoritmi CART "greedy" (avidi). Il paper si pone l'obiettivo di indagare se gli stimatori basati su alberi causali possano effettivamente garantire tassi di convergenza polinomiali in $n$ (dove $n$ è la dimensione del campione) sotto condizioni di base.

2. Metodologia

Gli autori analizzano una classe di stimatori per alberi causali costruiti combinando tre componenti:

1. Stimatori del CATE all'interno dei nodi: Differenza delle medie (DIM) e Ponderazione per Inverso della Probabilità (IPW).
2. Criteri di costruzione dell'albero: Massimizzazione della varianza degli effetti del trattamento o minimizzazione dell'errore quadratico medio (SSE).
3. Schemi di utilizzo dei dati:
   • Nessuna divisione del campione (NSS): Stessi dati per costruzione e stima.
   • Onestà (Honesty): Divisione del campione in due parti indipendenti (una per costruire l'albero, una per stimare l'effetto).
   • Adattività X (X-Adaptive): Condivisione delle covariate ma uso di outcome indipendenti in diverse fasi.

L'analisi si concentra su un modello di effetto causale costante (dove il vero effetto del trattamento $\tau(x)$ è costante su tutto lo spazio delle covariate). Questo caso è scelto perché rappresenta il "caso peggiore" per la varianza: se un metodo fallisce anche quando il segnale è costante e semplice, fallirà sicuramente in scenari più complessi. Le assunzioni includono covariate indipendenti e distribuite continuamente, e errori sub-esponenziali.

La metodologia teorica si basa su nuovi strumenti probabilistici per studiare la partizione adattiva ricorsiva, tra cui:

• Approssimazioni non asintotiche per i supremi di somme parziali e processi gaussiani.
• Teoremi del limite centrale in alta dimensione.
• Disuguaglianze di correlazione gaussiana.
• Teoremi di Darling-Erdős per processi di Ornstein-Uhlenbeck.

3. Contributi Chiave

Il paper offre tre principali contributi teorici:

1. Limiti Inferiori di Convergenza: Dimostra che gli stimatori degli alberi causali costruiti tramite regole di divisione greedy standard (CART) non possono raggiungere tassi di convergenza polinomiali in $n$ nella norma uniforme, nemmeno nel caso più semplice di effetto costante.
2. Ruolo dell'Onestà (Honesty): Analizza l'impatto della divisione del campione (onestà). Sebbene l'onestà migliori leggermente il tasso di convergenza rimuovendo un fattore logaritmico ($\sqrt{\log \log n}$), non risolve il problema fondamentale. Gli stimatori rimangono inconsistenti uniformemente e convergono più lentamente di qualsiasi tasso polinomiale.
3. Implicazioni per le Foreste Causali: Chiarisce che le garanzie teoriche esistenti per le foreste casuali causali (Causal Forests), che dipendono dall'assunzione di regolarità $\alpha$ (ogni split deve allocare una frazione non trascurabile di osservazioni a ciascun figlio), non si applicano direttamente alle implementazioni standard basate su CART. Le implementazioni standard possono generare split altamente sbilanciati con probabilità non nulla, violando le condizioni necessarie per le prove di consistenza esistenti.

4. Risultati Principali

I risultati sono sintetizzati nei Teoremi 1, 2 e 3 del paper:

• Inconsistenza Uniforme (Teorema 1): Per qualsiasi tasso di convergenza polinomiale $n^{-b/2}$ (con $b \in (0,1)$), la probabilità che l'errore di stima uniforme superi tale tasso non tende a zero. In particolare, gli stimatori possono convergere arbitrariamente lentamente.
  • Meccanismo: La partizione ricorsiva greedy tende a selezionare split altamente sbilanciati (vicino ai bordi dei nodi genitore) con probabilità non nulla. Questo genera nodi terminali con pochissime osservazioni (small cells). Poiché l'effetto del trattamento viene stimato tramite media locale in questi nodi, la varianza di stima diventa enorme in quelle regioni dello spazio delle covariate, impedendo la convergenza uniforme.
• Errore Quadratico Medio Integrato (Teorema 2): In contrasto con i risultati uniformi, gli stimatori possono ottenere tassi di convergenza favorevoli (quasi ottimali, fino a fattori logaritmici) quando l'errore è misurato in media sullo spazio delle covariate (norma $L^2$). Questo evidenzia la tensione tra inferenza causale puntuale/uniforme e previsione media.
• Inconsistenza X-Adattiva (Teorema 3): Anche con disegni di campionamento intermedi (X-adaptive), se la profondità dell'albero cresce sufficientemente (anche solo come $\log \log n$), l'inconsistenza uniforme persiste.

5. Significato e Implicazioni

• Limiti Fondamentali del CART: Il paper rivela una limitazione intrinseca degli alberi decisionali adattivi per la stima uniforme degli effetti causali. La capacità di "scoprire" sottogruppi attraverso split greedy porta inevitabilmente a regioni con pochi dati, distruggendo la consistenza uniforme.
• Critica alle Assumzioni Teoriche: Mette in discussione la validità delle garanzie teoriche per le foreste causali che assumono partizioni bilanciate ($\alpha$-regularity). Poiché le implementazioni pratiche standard non rispettano queste assunzioni, le garanzie di consistenza potrebbero non essere valide nella pratica.
• Inferenza Statistica: I risultati suggeriscono che le procedure di inferenza standard (intervalli di confidenza basati su approssimazioni gaussiane) potrebbero essere invalidi in regioni dello spazio delle covariate dove i nodi terminali contengono poche osservazioni, poiché la dimensione del campione effettiva non aumenta con $n$ in quelle zone.
• Regolarizzazione: L'uso di vincoli di dimensione minima dei nodi (regularizzazione) potrebbe mitigare la varianza ma introduce un bias di approssimazione significativo, specialmente se l'effetto del trattamento non è localmente costante, e riduce l'adattabilità che rende gli alberi attraenti.

In sintesi, il paper fornisce una "verità onesta" (Honest Truth) che mette in guardia contro l'uso acritico degli alberi causali per la stima uniforme degli effetti del trattamento, dimostrando che senza condizioni di bilanciamento forzato (che alterano la natura adattiva del metodo), la convergenza uniforme è teoricamente impossibile.