Sintesi Tecnica: Delimitare l'Impatto Causale del Processo Decisionale Assistito da ML tramite la Correttezza Controfattuale

Definizione del Problema

I modelli di apprendimento automatico (ML) predittivo sono sempre più impiegati in domini ad alto rischio (ad es., sanità, giustizia penale) per assistere i decisori umani. Sebbene i Trial Controllati Randomizzati (RCT) forniscano prove di alta qualità sull'impatto causale di specifici interventi di ML, esiste una lacuna critica: spesso è impraticabile condurre nuovi RCT per ogni aggiornamento o iterazione di riaddestramento del modello. Di conseguenza, se viene sviluppato un nuovo modello con una maggiore accuratezza predittiva dopo un RCT iniziale, non esiste una prova causale diretta riguardo al suo impatto a valle sugli esiti (ad es., sopravvivenza del paziente, recidiva).

Il lavoro precedente ha tentato di affrontare questo problema tramite framework di identificazione parziale. Ad esempio, Nercessian et al. [2025] assumono che gli esiti non differiscano tra modelli con predizioni concordanti, mentre Chen e Oberst [2025] rilassano questa condizione permettendo differenze di esito a livello individuale basate su metriche di performance globali (ad es., precisione), motivate dalla fiducia dell'utente. Tuttavia, questi framework non riescono a incorporare la correttezza della predizione a livello individuale. In molti scenari, è ragionevole aspettarsi che una predizione corretta conduca a esiti non inferiori rispetto a una predizione errata, una nozione che gli autori definiscono "correttezza controfattuale".

Metodologia

Gli autori propongono un approccio di identificazione parziale per costruire i limiti (bounds) dell'effetto causale di un nuovo modello non testato ($\pi_e$) utilizzando i dati di un precedente RCT che coinvolge un set di modelli testati ($T$).

Framework Causale

Il processo generatore dei dati è modellato come un Modello Causale Strutturale (SCM) rappresentato da un Grafo Aciclico Diretto (DAG). Le variabili chiave includono:

• $D$: Braccio dell'RCT (controllo vs. trattamento).
• $\Pi$: Il modello utilizzato per la predizione.
• $X$: Covariate/caratteristiche.
• $Z$: La "etichetta reale" (ground truth), osservata per tutti gli individui nell'RCT.
• $\hat{Z}$: L'etichetta predetta.
• $M$: Una metrica di performance (ad es, precisione) condizionata a $X$ e $\Pi$.
• $A$: Azione del decisore (non osservata/latente).
• $Y$: Esito a valle.

L'obiettivo è stimare $E[Y(\pi_e)]$, l'esito atteso qualora il nuovo modello $\pi_e$ fosse stato implementato.

Assunzioni Strutturali

Per derivare i limiti, gli autori introducono quattro assunzioni chiave:

1. Correttezza Controfattuale (Assunzione 3.1): Le predizioni corrette non causano danni. Formalmente, per una data etichetta reale $z$, se un modello predice $z$ (correttamente), l'esito è almeno buono quanto se un modello predicesse $z' \neq z$ (erroneamente), a parità di altri fattori.

   • Falsificazione: Può essere testata confrontando gli esiti di due modelli testati sul sottoinsieme di dati in cui uno è corretto e l'altro è errato.

2. Monotonicità della Performance Condizionata (Assunzione 3.2): Gli esiti potenziali sono monotoni rispetto alla performance del modello, condizionatamente alla correttezza.

   • Se la predizione è corretta ($\hat{z}=z$), una maggiore performance porta a esiti migliori (o uguali).
   • Se la predizione è errata ($\hat{z} \neq z$), una maggiore performance porta a esiti peggiori (o uguali) (riflettendo una maggiore fiducia in un modello erroneamente sicuro).
   • Falsificazione: Testata confrontando modelli con diversi livelli di performance ma predizioni identiche sul sottoinsieme in cui la predizione è corretta.

3. Predizione Neutra (Assunzione 3.3): Esiste una predizione "neutra" (ad es., rinunciare alla decisione lasciandola all'umano) in cui la performance del modello non influenza l'esito. Questo collega il braccio di controllo alla valutazione dei nuovi modelli.

4. Esiti Limitati (Assunzione 3.4): La variabile di esito $Y$ è limitata entro un intervallo noto $[Y_{min}, Y_{max}]$.

Limiti di Identificazione Parziale

Gli autori definiscono partizioni dello spazio del modello e delle covariate basate sul fatto che i modelli testati concordino o meno con il modello non testato $\pi_e$ e sulla loro relativa performance. Introducono un selettore di ramo ($b_L, b_U$) che assegna ogni coppia $(x, z)$ a uno di quattro rami logici:

• Neutro: $\pi_e$ effettua la predizione neutra.
• Monotono: $\pi_e$ concorda con i modelli testati, e l'ordinamento della performance permette la delimitazione tramite monotonicità.
• Corretto: $\pi_e$ effettua la predizione corretta, ma nessun modello testato concorda con essa (o sono tutti "migliori" in un modo che non aiuta il limite inferiore). In questo caso, il limite si basa sull'assunzione che la predizione corretta non sia peggiore di qualsiasi predizione errata.
• Default: Fallback conservativo a $Y_{min}$ (limite inferiore) o $Y_{max}$ (limite superiore).

I limiti risultanti $L(\pi_e)$ e $U(\pi_e)$ sono costruiti prendendo l'aspettativa dei limiti puntuali sulla distribuzione di $X$ e $Z$.

Stima

Il documento fornisce stimatori consistenti e asintoticamente normali per questi limiti. La strategia di stima affronta tre sfide:

1. Stimare le aspettative condizionate $E[Y|X, Z, \Pi]$ tramite modelli di disturbo (nuisance models).
2. Gestire operatori max/min non regolari (ad es., selezionare il modello con la peggiore o migliore performance in un set).
3. Stimare le metriche di performance ($M$) da dati finiti anziché assumere una conoscenza "oracolare".

Gli autori propongono uno stimatore Augmented Inverse Propensity Weighted (AIPW). Sotto specifiche condizioni di margine (che garantiscono una sufficiente separazione tra le performance dei modelli e gli esiti) e tassi di convergenza per le funzioni di disturbo, gli stimatori sono provati come consistenti e asintoticamente normali, permettendo la costruzione di intervalli di confidenza validi.

Contributi Chiave

1. Estensione dei Framework Causali: Il lavoro estende il framework di Chen e Oberst [2025] incorporando la correttezza della predizione a livello individuale. Assume che se un nuovo modello predice correttamente, l'esito non sarà peggiore di una predizione errata.
2. Integrazione della Performance dei Sottogruppi: A differenza del lavoro precedente che si affida a metriche di performance globali, questo framework incorpora la performance predittiva condizionata ai sottogruppi, riflettendo l'intuizione che i decisori sviluppano euristiche su dove i modelli performano bene o male.
3. Stima Basata sui Dati: Gli autori forniscono stimatori consistenti per i limiti che non richiedono una conoscenza a priori delle misure di performance del modello; queste sono stimate dai dati.
4. Limiti Più Stretti (Tighter Bounds): I risultati teorici ed empirici dimostrano che l'incorporazione della correttezza controfattuale porta a limiti significativamente più stretti (più informativi) rispetto ai precedenti metodi di identificazione parziale.

Risultati Sperimentali

Gli autori valutano il loro metodo utilizzando una simulazione semi-sintetica basata sul dataset di Imai et al. [2023] relativo alla cauzione (bail sentencing).

• Setup: Simulano il comportamento dei giudici e gli esiti dei detenuti (mancata presentazione in tribunale) sotto varie modalità di allerta.
• Confronto: Confrontano i loro limiti con quelli derivati da Chen e Oberst [2025].
• Risultati:
  • In tutti gli esperimenti (cambio delle soglie di allerta, riaddestramento dei modelli e assenza di RCT), il metodo proposto ha prodotto limiti costantemente più stretti (ad es., una larghezza di 0.12 vs 0.36 in un esperimento).
  • I limiti hanno contenuto costantemente l'esito atteso reale.
  • Gli studi di ablazione suggeriscono che il miglioramento è guidato principalmente dall'assunzione di correttezza controfattuale piuttosto che dal semplice stratificare la performance per covariate.
  • Il metodo rimane robusto (sebbene con limiti più ampi) anche quando le etichette reali ($Z$) sono parzialmente mancanti, a patezza che specifiche assunzioni sul meccanismo di mancanza dei dati siano rispettate.

Significato e Dichiarazioni

Il documento sostiene di offrire una soluzione pratica per valutare l'impatto causale di modelli ML aggiornati quando rieseguire gli RCT è impraticabile. Sfruttando l'esistenza di etichette reali nei trial precedenti, il metodo utilizza l'informazione "direzionale" fornita dalla correttezza della predizione per restringere i limiti causali.

Gli autori sono modesti nelle loro affermazioni, riconoscendo i limiti:

• Test di Falsificazione: Sono basati sull'aspettativa; violazioni a livello individuale delle assunzioni potrebbero passare inosservate.
• Dati Mancanti: Il metodo presenta limitazioni quando le etichette reali ($Z$) sono mancanti, sebbene discutano meccanismi per gestirle.
• Output Continui: L'attuale framework assume predizioni discrete; output continui richiedono discretizzazione o applicazioni semplificate.
• Dati Osservazionali: L'attuale framework si basa su dati RCT; l'integrazione di dati osservazionali è indicata come una direzione futura.

In definitiva, il lavoro fornisce un framework rigoroso, basato su assunzioni, per andare oltre l'accuratezza predittiva e ragionare sull'impatto causale a valle degli sistemi di IA in ambienti decisionali ad alto rischio.