Conformal e-prediction in the presence of confounding

Questo articolo estende la previsione e-conforme per gestire la presenza di confondimento osservato tra l'oggetto casuale e l'etichetta, considerando sia scenari con dati indipendenti e identicamente distribuiti (IID) sia casi che ammettono dipendenze tra le osservazioni.

L'essenziale

🎩 Il Mago della Previsione e il "Fattore Disturbante"

Immagina di essere un mago della previsione. Il tuo compito è dire cosa succederà domani (ad esempio, se un paziente guarirà o meno) basandoti su ciò che hai visto in passato.

Di solito, i magi funzionano bene quando guardano un mondo ordinato e ripetitivo: "Ogni volta che ho visto una nuvola grigia, ha piovuto". Ma la vita reale è più complicata. Spesso c'è un fattore disturbante (in termini tecnici: confondente) che inganna il mago.

1. Il Problema: La Trappola del "Fattore Disturbante"

Immagina di osservare i dati in un ospedale:

• X = Il tipo di medicina somministrata.
• Y = Se il paziente sta meglio o peggio.
• Z = La gravità della malattia all'ingresso.

Il problema è che i dottori non danno la medicina a caso. Se un paziente è molto malato (Z alto), gli danno una medicina forte (X alto). Se è sano, gli danno una medicina leggera.
Se guardi solo i dati storici, potresti pensare: "Wow, chi prende la medicina forte muore di più!". Ma non è la medicina a uccidere, è la malattia grave (Z) che ha portato a dare la medicina forte.

In termini scientifici, Z è un "confondente". Se vuoi prevedere cosa succederà se decidi tu di dare una medicina specifica (un'intervento), non puoi semplicemente guardare i dati vecchi, perché quelli sono "sporchi" da come i dottori hanno scelto le cure in passato.

2. La Soluzione: Il "Mago che Taglia i Fili"

Gli autori di questo paper propongono un nuovo tipo di magia chiamato Conformal e-prediction.

Immagina che i dati storici siano un grande burattinaio dove i fili sono intrecciati. Il mago ha un paio di forbici speciali.

1. Prende i dati storici.
2. Taglia il filo che collega la gravità della malattia (Z) alla scelta della medicina (X).
3. Ora immagina un mondo parallelo (chiamato "modello mutilato") dove tu, il mago, puoi decidere liberamente di dare la medicina X a chiunque, indipendentemente da quanto è malato.

In questo mondo parallelo, calcola le probabilità di guarigione (Y). Il risultato è una previsione che non è ingannata dal passato, ma riflette cosa succederebbe se tu avessi il controllo totale.

3. La "Moneta Magica" (Le E-variabili)

Come fa il mago a essere sicuro che la sua previsione non sia una fuffa? Usa una moneta magica (in termini tecnici: e-variabile).

• Immagina di scommettere contro il tuo modello.
• Se il modello è sbagliato, la moneta magica diventa enorme (esplode di valore).
• Se il modello è corretto, la moneta rimane piccola.

La regola d'oro di questo paper è: "La moneta magica non può crescere all'infinito in media".
Se la moneta rimane sotto una certa soglia, puoi dire con certezza matematica: "La mia previsione è valida". È come avere un'assicurazione matematica che ti dice: "Non preoccuparti, anche se i dati sono confusi, la mia stima ha un margine di errore controllato".

4. Due Scenari: Il Mercato e il Mercante

Il paper affronta due situazioni diverse:

• Scenario A (Il Mercato Ordinario - Dati IID): Immagina di osservare un mercato dove le persone arrivano a caso. I dati sono indipendenti e identici. Qui la magia funziona molto bene e le formule sono semplici. È come se ogni cliente fosse una nuova, indipendente scommessa.
• Scenario B (Il Mercante Astuto - Strategia Non Stabile): Immagina che qualcuno (un mercante) scelga chi far entrare nel mercato basandosi su tutto ciò che è successo prima. Forse il mercante sceglie solo i clienti che sembrano ricchi.
  • In questo caso, la scelta della medicina (X) non è più casuale, ma è una strategia intelligente basata sul passato.
  • Gli autori dicono: "Non importa quanto sia astuto il mercante o quanto complessa sia la sua strategia, se guardiamo solo le variabili passate (e ignoriamo il futuro), la nostra moneta magica funziona comunque!".
  • È come dire: "Anche se il giocatore di poker cambia strategia ad ogni mano, finché non guarda le carte del futuro, il mio sistema di previsione rimane solido".

5. Perché è utile? (La "Soglia di Allarme")

Il metodo produce delle zone di previsione.

• Se vuoi essere sicuro al 90%, il mago ti dirà: "La risposta è in questo gruppo di 5 opzioni".
• Se vuoi essere sicuro al 99%, ti dirà: "La risposta è in questo gruppo di 10 opzioni".

La cosa fantastica è che il paper ti dà una garanzia matematica precisa: se la tua previsione è sbagliata, la probabilità che accada è così bassa che, se continuassi a fare previsioni per tutta la vita, non perderesti quasi mai.

In Sintesi

Questo paper è come un manuale di istruzioni per un navigatore GPS che deve guidarti in una città piena di ingorghi e segnali falsi (i dati confusi).

1. Riconosce che i segnali vecchi sono ingannevoli a causa del traffico (il confondente).
2. Simula un percorso ideale dove tu decidi la strada (l'intervento).
3. Usa una "bussola matematica" (e-prediction) che ti assicura: "Anche se non conosco il futuro, posso dirti con certezza matematica che la mia rotta è sicura entro questi limiti".

È un modo per trasformare dati caotici e pieni di pregiudizi storici in previsioni affidabili per il futuro, anche quando le cose non sono semplici come sembrano.

Sommario tecnico

Ecco una sintesi tecnica dettagliata del documento "Conformal e-prediction in the presence of confounding" di Vladimir Vovk e Ruodu Wang, redatta in italiano.

Titolo e Contesto

Il documento estende la conformal e-prediction (predizione conforme basata su variabili-e) per gestire scenari in cui esiste un confondimento osservato tra un oggetto casuale $X$ e il suo etichetta $Y$. L'obiettivo è fornire garanzie di validità a campione finito (finite-sample guarantees) in contesti di inferenza causale, andando oltre la classica assunzione di sequenze IID (indipendenti e identicamente distribuite) tipica della predizione conforme standard.

1. Il Problema

Nell'inferenza causale, spesso si dispone di dati osservativi IID, ma l'obiettivo è prevedere i risultati di un'intervento (es. fissare $X := x$) su un meccanismo stocastico stabile.

• Scenario: Si considera l'effetto causale di una variabile $X$ su una variabile $Y$, in presenza di un confonditore $Z$ (rappresentato graficamente come $Z \to X$ e $Z \to Y$).
• Obiettivo: Dopo aver fissato $X$ a un valore $x$, si desidera costruire regioni di predizione per $Y$ che siano valide sotto l'intervento, utilizzando solo dati osservativi.
• Sfida: La predizione conforme standard richiede che i dati di addestramento e test siano scambiabili (IID). Tuttavia, in contesti causali, la distribuzione di $X$ potrebbe non essere generata da un meccanismo stocastico stabile (potrebbe essere scelta da una strategia non banale), rendendo l'assunzione IID inappropriata per $X$.

2. Metodologia

Il lavoro analizza due scenari principali:

A. Impostazione IID (Sezione 2)

Si assume che i dati osservati $(X_n, Y_n, Z_n)$ provengano da una misura di probabilità $P$ su $\mathcal{X} \times \mathcal{Y} \times \mathcal{Z}$.

• Definizione della probabilità causale: Per un $x$ fissato, la probabilità causale di $Y=y$ è definita come:
  $$p_y = \sum_{z \in \mathcal{Z}} P(Z = z)P(Y = y \mid X = x, Z = z)$$
  Questa rappresenta la probabilità nel modello causale "mutilato" dove l'arco $Z \to X$ è rimosso e $X$ è fissato a $x$.
• Stimatore: Viene costruito uno stimatore $F_y$ per $p_y$ utilizzando i dati campionari, applicando una regolarizzazione di tipo Laplace (aggiungendo +1 al numeratore e denominatore) per evitare divisioni per zero:
  $$F_y := \sum_{z \in \mathcal{Z}} \frac{|\{n : Z_n = z\}| + 1}{N + 1} \times \frac{|\{n : (X_n, Y_n, Z_n) = (x, y, z)\}| + 1}{|\{n : (X_n, Z_n) = (x, z)\}| + 1}$$
• Variabile-e (e-variable): Viene dimostrato che il rapporto $p_y / F_y$ ha un valore atteso $\leq 1$. Di conseguenza, per qualsiasi misura di probabilità $Q$ su $\mathcal{Y}$, la variabile casuale:
  $$E := \frac{Q(\{Y_{N+1}\})}{F_{Y_{N+1}}}$$
  è una variabile-e (non negativa con valore atteso $\leq 1$).
• Regioni di predizione: Si definiscono regioni di predizione $\Gamma_\alpha$ basate su un livello di significatività $\alpha$:
  $$\Gamma_\alpha := \left\{ y \in \mathcal{Y} : \frac{Q(\{y\})}{F_y} < \alpha \right\}$$
  Queste regioni soddisfano la proprietà di validità forte: $\int_0^\infty P(Y \notin \Gamma_\alpha) d\alpha \leq 1$.

B. Assenza di Meccanismo Stocastico Stabile per $X$ (Sezione 3)

In questo scenario, $Z_n$ e $Y_n$ sono generati da meccanismi stabili, ma $X_n$ può essere scelto da una strategia arbitraria (non stocastica), come in alcuni contesti di inferenza causale avanzata.

• Interpretazione "Y-oblivious": Si assume che la scelta di $X_{n+1}$ possa dipendere da tutte le variabili passate $X_i, Z_i$ (per $i \leq n$), ma non dalle $Y_i$ passate.
• Risultato: Sotto questa interpretazione (rappresentata graficamente in Fig. 2), il Lemma 1 e il Corollario 2 rimangono validi. Ciò significa che le regioni di predizione e le garanzie di validità si mantengono anche quando $X$ non è IID, purché la strategia di scelta di $X$ non "veda" i risultati passati $Y$.

3. Contributi Chiave

1. Estensione alla Causalità: L'integrazione della predizione conforme con l'inferenza causale per gestire il confondimento osservato, fornendo garanzie a campione finito senza assumere la conoscenza della distribuzione congiunta sottostante.
2. Robustezza alla Strategia di $X$: Dimostrazione che le garanzie di validità (tramite variabili-e) sopravvivono anche quando la variabile di trattamento $X$ non è generata da un processo stocastico, ma da una strategia che dipende dal passato di $X$ e $Z$ ma non di $Y$.
3. Semplicità Computazionale: L'uso di stimatori basati su frequenze relative regolarizzate (Laplace smoothing) che sono computazionalmente efficienti e facili da implementare.
4. Generalizzazione: L'approccio è estendibile a grafi causali più complessi che soddisfano il criterio del back-door di Pearl, trattando $Z$ come un insieme di variabili di aggiustamento.

4. Risultati Principali

• Validità delle Variabili-e: È stato provato che $E[ p_y / F_y ] \leq 1$. Questo garantisce che il rapporto tra la probabilità causale vera e la sua stima sia una variabile-e.
• Garanzie di Errore: Per le regioni di predizione $\Gamma_\alpha$, la probabilità di errore integrata rispetto a $\alpha$ è limitata da 1. In termini pratici, la probabilità di errore a un livello $\alpha$ specifico non supera $1/\alpha$ (per disuguaglianza di Markov).
• Ottimalità Asintotica: Per $N$ grande e $|Z|$ piccolo, le regioni di predizione derivate da $F_y$ approssimano le regioni "oracle" ottimali basate sulla vera probabilità $p_y$.
• Casi d'Uso Specifici: La metodologia permette di escludere con alta confidenza etichette critiche (es. "morte del paziente") se lo stimatore $F_{y^*}$ è sufficientemente piccolo rispetto a $\alpha$.

5. Significato e Implicazioni

Questo lavoro è significativo perché colma un divario tra la teoria della predizione conforme (che offre garanzie rigorose ma spesso limitate a scenari IID) e l'inferenza causale (dove le assunzioni di stabilità stocastica per i trattamenti sono spesso irrealistiche).

• Affidabilità: Fornisce un metodo per quantificare l'incertezza nelle previsioni causali con garanzie matematiche rigorose, anche in presenza di confondimento.
• Flessibilità: La capacità di gestire strategie non stocastiche per $X$ rende il metodo applicabile a scenari reali dove i trattamenti possono essere assegnati dinamicamente basandosi su covariate storiche.
• Futuri Sviluppi: Gli autori indicano che l'approccio può essere esteso alla regressione (variabili continue) e che la regolarizzazione utilizzata ("+1") potrebbe essere ottimizzata (es. usando $c < 1$) per migliorare le prestazioni, sebbene ciò richieda ulteriori studi teorici.

In sintesi, il documento propone un framework robusto per la predizione causale che combina la potenza delle variabili-e con i principi dell'inferenza causale, offrendo strumenti pratici per la validazione di modelli predittivi in scenari complessi e realistici.