Sintesi Tecnica: Predizione Conforme per Effetti Causali di Trattamenti Continui

1. Formulazione del Problema

Il documento affronta la critica necessità di Quantificazione dell'Incertezza (UQ) nel machine learning causale, specificamente per i trattamenti continui. Sebbene il causal ML sia ampiamente utilizzato in domini critici per la sicurezza come la medicina personalizzata (ad es. dosaggio della chemioterapia), i metodi esistenti forniscono tipicamente solo stime puntuali, trascurando l'incertezza della predizione.

Gli autori identificano tre sfide specifiche nell'applicare la Predizione Conforme (CP) agli effetti causali continui:

1. Spostamento della Distribuzione (Sfida a): Intervenire su una variabile di trattamento sposta la distribuzione delle covariate (specificamente lo score di propensione). Ciò viola l'assunzione di scambiabilità inerente alla CP standard, rendendo gli intervalli standard non validi tra le distribuzioni osservazionali e interventive.
2. Score di Propensione Sconosciuti (Sfida b): Nei dati osservazionali, lo score di propensione è sconosciuto e deve essere stimato. Questa stima introduce un'ulteriore incertezza che i metodi CP standard non tengono conto, portando potenzialmente a una sottocopertura (under-coverage).
3. Scarsità di Dati per Valori Continui (Sfida c): A differenza dei trattamenti binari, specifici valori di trattamento continui sono raramente osservati nei dati, rendendo impossibile l'applicazione diretta dei metodi CP discreti.

L'obiettivo è derivare intervalli di predizione validi per campioni finiti $C(X_{n+1}, \diamond)$ per i potenziali esiti $Y_{n+1}(\diamond)$ sotto interventi rigidi ($a^*$) o morbidi ($A^*(X_{n+1})$), anche quando lo score di propensione è sconosciuto e stimato.

2. Metodologia

Il metodo proposto estende la Split Conformal Prediction per gestire gli spostamenti di distribuzione indotti dagli interventi e l'incertezza derivante dalla stima della propensione.

Framework Core

Il metodo utilizza uno score di non-conformità, tipicamente il residuo $S_i = |Y_i - \phi(X_i, A_i)|$, dove $\phi$ è un modello di machine learning arbitrario. L'obiettivo è costruire un intervallo tale che $P(Y_{n+1}(\diamond) \in C) \geq 1 - \alpha$.

Gli autori distinguono due scenari in base alla disponibilità dello score di propensione $\pi(a|x)$:

Scenario 1: Score di Propensione Conosciuto

Quando la policy osservazionale è nota (ad es. in un trial randomizzato o in un contesto di policy nota), lo spostamento è modellato come un cambiamento da $\pi(a|x)$ a $\pi(a+\Delta A|x)$.

• Approccio: Gli autori riformulano il problema come una regressione quantilica aumentata. Definiscono una classe di funzioni $\mathcal{F}$ che rappresenta lo spostamento di propensione.
• Ottimizzazione: Derivano un problema di ottimizzazione duale (Teorema 4.2) per trovare il quantile $(1-\alpha)$ degli score di non-conformità sotto la distribuzione spostata. Questo evita l'infeasibilità di risolvere per tutti i possibili score imputati sfruttando le proprietà di forte dualità.
• Risultato: Il Teorema 4.2 fornisce garanzie di copertura per campioni finiti per i potenziali esiti sotto spostamenti di propensione noti.

Scenario 2: Score di Propensione Sconosciuto

Quando la policy è sconosciuta, il metodo deve gestire interventi rigidi ($a^*$) dove la propensione diventa una funzione delta di Dirac, e lo score $\pi$ deve essere stimato ($\hat{\pi}$).

• Assunzione: L'errore di stima è limitato in modo che il rapporto $c_a = \hat{\pi}/\pi$ giaccia nell'intervallo $[1/M, M]$ per una costante $M$.
• Smoothing: Per gestire la discontinuità della funzione delta di Dirac, gli autori la approssimano utilizzando un kernel Gaussiano con varianza $\sigma^2 \to 0$.
• Ottimizzazione: Il problema è formulato come un'ottimizzazione non convessa (Eq. 18) che coinvolge il parametro di smoothing $\sigma$ e il limite di errore $c_a$.
• Garanzia Teorica: Gli autori dimostrano (Lemma 4.4) che il problema è Type-I invex e soddisfa la Linear Independence Constraint Qualification (LICQ). Ciò consente l'uso delle condizioni di Karush-Kuhn-Tucker (KKT) per derivare l'ottimalità globale.
• Risultato: Il Teorema 4.5 stabilisce garanzie di copertura per campioni finiti per score di propensione sconosciuti ottimizzando sui limiti di incertezza e sui parametri di smoothing.

3. Contributi Chiave

1. Nuovo Metodo per Trattamenti Continui: La prima proposta di intervalli di predizione conforme per potenziali esiti di trattamenti continui, colmando il vuoto lasciato dai metodi esistenti limitati a trattamenti binari/discreti.
2. Garanzie per Campioni Finiti con Propensione Sconosciuta: Derivazione di intervalli di predizione validi che tengono conto dell'incertezza introdotta dalla stima degli score di propensione, senza richiedere assunzioni asintotiche.
3. Implementazione Algoritmica: Un algoritmo efficiente (Alg. 1) per il calcolo di questi intervalli utilizzando formulazioni duali e condizioni KKT, evitando la ricerca brute-force su score imputati.
4. Validazione Empirica: Dimostrazione dell'efficacia su dataset sintetici e reali.

4. Risultati Sperimentali

Gli autori hanno valutato il loro metodo rispetto ai baseline inclusi MC Dropout, Deep Ensembles e regressione Gaussian Process (GP).

• Dataset Sintetici:

  • Fedeltà (Faithfulness): Gli intervalli CP proposti hanno raggiunto una copertura empirica coerente con il livello di significatività target ($1-\alpha$) attraverso vari interventi morbidi e rigidi.
  • Baseline: MC Dropout e Deep Ensembles hanno mostrato una copertura significativamente inferiore (intervalli non fedeli), spesso fallendo nel catturare il vero esito. La regressione GP ha fornito una copertura valida solo per spostamenti di distribuzione molto piccoli, ma è fallita sotto spostamenti maggiori a causa di intervalli troppo stretti.
  • Stabilità: Il metodo proposto ha mostrato una bassa variabilità nella copertura empirica rispetto all'alta varianza osservata in MC Dropout.

• Dataset Reale (MIMIC-III):

  • Task: Predizione degli esiti della pressione sanguigna sotto diverse durate della ventilazione meccanica.
  • Osservazione: Gli intervalli CP hanno correttamente riflesso una maggiore incertezza nelle regioni di trattamento con dati di addestramento scarsi (durate di ventilazione elevate). Al contrario, gli intervalli di MC Dropout erano più stretti, suggerendo una sottocopertura in queste regioni critiche.

5. Significato e Rivendicazioni

Il documento afferma di essere il primo a proporre la predizione conforme per trattamenti continui in cui lo score di propensione è sconosciuto e deve essere stimato dai dati.

• Applicabilità in Ambiti Critici per la Sicurezza: Il metodo fornisce garanzie di validità per campioni finiti, rendendolo adatto ad applicazioni critiche per la sicurezza come la medicina personalizzata, dove le garanzie asintotiche (che possono fallire in piccoli campioni) sono insufficienti.
• Agnosticismo del Modello: L'approccio funziona con qualsiasi modello di machine learning $\phi$ per la predizione dell'esito.
• Robustezza allo Spostamento della Distribuzione: A differenza della CP standard, il metodo tiene esplicitamente conto dello spostamento della distribuzione causato dall'intervento, garantendo la validità anche quando la distribuzione di test differisce dalla distribuzione di addestramento.
• Utilità Pratica: Gli autori notano che, sebbene il metodo sia conservativo (potenzialmente intervalli più ampi) quando la stima della propensione è scarsa o i dati sono scarsi, questa conservatività assicura l'affidabilità, prevenendo la pericolosa sottocopertura osservata in altri metodi di UQ.

Il lavoro colma una lacuna critica nel causal ML, abilitando un decision-making affidabile sotto incertezza per variabili di trattamento continue sia in contesti sperimentali che osservazionali.