Data-Driven Influence Functions for Optimization-Based Causal Inference

1. Il Problema

Nell'inferenza causale e nell'apprendimento automatico, molti obiettivi inferenziali (come l'effetto medio del trattamento o il valore di una politica in reinforcement learning) sono funzionali statistici della distribuzione dei dati. La stima di questi funzionali è spesso vulnerabile ai bias introdotti nella prima fase dall'uso di stime di funzioni di disturbo (nuisance functions), come le regressioni dei risultati o le probabilità di transizione.

Per mitigare questo problema, esistono framework analitici (es. stime a doppia robustezza, ortogonalità di Neyman) che richiedono la derivazione esplicita delle funzioni di influenza (o derivate di Gateaux). Tuttavia, derivare analiticamente queste funzioni per funzionali complessi, varianti personalizzate o problemi basati su ottimizzazione (come i processi decisionali di Markov con vincoli), richiede uno sforzo analitico significativo e spesso non è automatizzabile.

Il paper si pone la domanda: È possibile costruire algoritmi che approssimino le funzioni di influenza tramite differenze finite numeriche, partendo direttamente dalle stime empiriche delle distribuzioni, senza bisogno di derivazioni analitiche complesse?

2. Metodologia

Gli autori propongono un approccio costruttivo basato su differenze finite per approssimare le derivate di Gateaux di funzionali statistici. La metodologia si articola in tre fasi principali:

• Differenze Finite Empiriche: Invece di calcolare la derivata analitica rispetto a una distribuzione teorica $P$, l'algoritmo perturba la distribuzione empirica stimata $\tilde{P}$ aggiungendo un piccolo peso $\epsilon$ a un'osservazione $O_i$, utilizzando una perturbazione smussata (smoothed perturbation) $\tilde{\delta}_\lambda$ per garantire l'assoluta continuità necessaria nell'inferenza semiparametrica.
  La derivata empirica di Gateaux è definita come:
  $$\tilde{\phi}(O_i) = \frac{1}{\epsilon} \left( \Psi(\tilde{P}^\epsilon_i) - \Psi(\tilde{P}) \right)$$
  dove $\tilde{P}^\epsilon_i = (1-\epsilon)\tilde{P} + \epsilon\tilde{\delta}_\lambda^{O_i}$.

• Calcolo delle Derivate tramite Regole del Calcolo: Il cuore teorico del lavoro è l'uso di regole di calcolo (prodotto, quoziente e, per l'ottimizzazione, inversa di matrice) per propagare l'errore di approssimazione attraverso composizioni di funzionali. Questo permette di dimostrare che l'errore di approssimazione numerica può essere controllato e che l'approssimazione numerica converge alla funzione di influenza analitica sotto condizioni specifiche.

• Estensione all'Ottimizzazione Stocastica: Il framework viene esteso a funzionali definiti come soluzioni di problemi di ottimizzazione stocastica (es. programmazione lineare). Gli autori dimostrano che, sotto condizioni di regolarità (come la stabilità della base ottima nel caso di programmazione lineare), le differenze finite possono approssimare la derivata totale del valore ottimo rispetto alla distribuzione dei dati.

3. Contributi Chiave

1. Caratterizzazione Esatta delle Derivate Empiriche: Gli autori forniscono una caratterizzazione esatta di come le derivate di Gateaux empiriche (basate su stime di densità) approssimino le derivate analitiche. Questo fornisce un "test unitario statistico analitico" per verificare la validità di stime basate su differenze finite.
2. Condizioni di Velocità per la Doppia Robustezza: Viene derivato che, per preservare le proprietà statistiche desiderate (come la doppia robustezza e la convergenza al tasso $n^{-1/2}$), le velocità di approssimazione numerica ($\epsilon$ e $\lambda$) devono soddisfare condizioni specifiche. Ad esempio, per il funzionale della media potenziale (AIPW), l'errore di approssimazione deve essere di ordine inferiore rispetto all'errore di stima delle funzioni di disturbo.
3. Generalizzazione a Funzionali Complessi: Il metodo viene applicato con successo a:
   • Regimi di Trattamento Dinamici (DTR): Funzionali composti da prodotti e quozienti di densità condizionali.
   • Ottimizzazione di Politiche in MDP a Orizzonte Infinito: Formulated come problemi di programmazione lineare.
   • Analisi di Sensibilità: Funzionali basati su ottimizzazione vincolata (es. modello di sensibilità marginale) per quantificare l'impatto di confondimento non misurato.
4. Indipendenza dall'Oracolo Analitico: Il metodo richiede solo l'accesso a un "oracolo di valutazione" (black-box) del funzionale, rendendolo applicabile a varianti di stimatori per le quali non esiste ancora una funzione di influenza nota in forma chiusa.

4. Risultati

• Analisi Teorica:

  • Per il caso canonico dell'AIPW (Augmented Inverse Propensity Weighting), viene dimostrato che l'approssimazione a differenze finite è equivalente all'estimatore AIPW con un regressore di Nadaraya-Watson, fino a un bias additivo controllato dalla larghezza di banda $\lambda$.
  • Viene stabilito che, sfruttando la struttura della doppia robustezza, è possibile rilassare i requisiti sulle velocità di $\epsilon$ rispetto alle analisi generali precedenti (es. Carone et al., 2018), permettendo implementazioni più semplici (differenze a due punti) senza perdere efficienza statistica.
  • Per i problemi di ottimizzazione (es. MDP), viene dimostrato che la stabilità della base ottima garantisce che l'errore di approssimazione sia lineare in $\epsilon$, preservando l'asintotica lineare dello stimatore.

• Validazione Empirica:

  • Sono stati condotti esperimenti su dati sintetici per l'AIPW e per l'analisi di sensibilità.
  • I risultati mostrano che l'approccio basato su differenze finite riduce il bias e l'errore quadratico medio (RMSE) rispetto agli stimatori "plug-in" standard.
  • In particolare, per l'analisi di sensibilità, il metodo basato su perturbazione mantiene la fattibilità dei vincoli di programmazione lineare in campioni finiti, a differenza di alcune stime analitiche che possono violare i vincoli a causa di errori di approssimazione.

5. Significato e Implicazioni

Questo lavoro rappresenta un passo significativo verso l'automazione dell'inferenza causale.

• Democratizzazione degli Stimatori Avanzati: Permette ai ricercatori e ai praticanti di utilizzare stimatori a doppia robustezza o corretti per il bias per funzionali complessi o personalizzati senza dover derivare manualmente (e spesso in modo errato) le funzioni di influenza.
• Flessibilità nell'Ottimizzazione: Offre un ponte tra l'inferenza causale e l'ottimizzazione stocastica, permettendo di derivare correzioni di bias per problemi di ottimizzazione sotto vincoli (come i MDP vincolati) che sono difficili da trattare analiticamente.
• Complementarità: L'approccio non sostituisce l'analisi analitica ma la completa, offrendo uno strumento numerico robusto per casi in cui l'analisi analitica è troppo complessa o non disponibile.

In sintesi, il paper dimostra che le differenze finite, se applicate con la corretta teoria delle perturbazioni e smussamento, possono generare stimatori statisticamente validi ed efficienti, aprendo la strada a nuove metodologie per l'inferenza causale automatizzata.