Riepilogo Tecnico: Giochi di Previsione-Intervento e Insiemi Invarianti

Formulazione del Problema

Il documento introduce i giochi di previsione-intervento, una specifica classe di giochi di Stackelberg a due giocatori che coinvolgono un leader e un follower.

• Il Leader: Si impegna in una funzione di previsione $f: \mathcal{X} \to \mathcal{A}$ basata su dati di addestramento osservazionali generati da un Modello Causale Strutturale (SCM) $\mathcal{C}_0$. L'obiettivo del leader è minimizzare il rischio (ad esempio, errore quadratico medio o perdita di classificazione) sotto la distribuzione indotta dalla reazione del follower.
• Il Follower: Osserva la funzione distribuita $f$ e interviene strategicamente su specifiche covariate (figli di un nodo di intervento $E$ nel grafo causale) per massimizzare la propria utilità $V^{foll}$. L'intervento del follower può alterare le assegnazioni strutturali dell'SCM, potenzialmente aggiungendo nuovi archi al grafo causale, spostando così la distribuzione di test.
• La Sfida: Il leader affronta un problema di ottimizzazione a due livelli: $\min_f \sup_{e \in E^*(f)} R^{lead}_e(f)$, dove $E^*(f)$ è l'insieme degli ambienti che massimizzano l'utilità del follower. Questo è generalmente difficile da risolvere, specialmente quando l'obiettivo del follower è sconosciuto o quando il leader non possiede una conoscenza completa del grafo causale.

Metodologia

Gli autori propongono strategie basate su sottoinsiemi invarianti di covariate per raggiungere la robustezza contro gli interventi del follower.

1. Insiemi Invarianti e la Copertura Stabile

L'insight teorico fondamentale è che i predittori basati su sottoinsiemi invarianti (insiemi $S$ dove $Y \perp\!\!\perp E \mid X_S$) sono robusti agli spostamenti delle covariate indotti da interventi che non influenzano la distribuzione condizionata $Y \mid X_S$.

• Genitori Causali ($PA(Y)$): Una scelta comune nella previsione strategica causale. Sebbene robusti agli interventi sui discendenti di $Y$, possono essere subottimali se i figli non intervenuti di $Y$ trasportano informazioni stabili.
• Copertura Stabile ($SB(Y)$): Gli autori utilizzano la copertura stabile, definita come $SB(Y) := PA(Y) \cup (CH(Y) \setminus DE(Y)_{forb}) \cup PA(CH(Y) \setminus DE(Y)_{forb})$, dove $DE(Y)_{forb}$ rappresenta i figli intervenuti di $Y$ e i loro discendenti.
  • Proprietà Chiave: $SB(Y)$ è un sottoinsieme invariante che cattura più informazioni su $Y$ rispetto a $PA(Y)$ da solo, escludendo al contempo le variabili manipolabili.
  • Indipendenza dal Grafo: Sotto ipotesi lievi sugli insiemi di azione del follower, la copertura stabile calcolata sul DAG di addestramento ($G_0$) è identica a quella sul DAG di distribuzione ($G$), permettendo al leader di calcolarla senza conoscere gli archi specifici aggiunti dal follower.

2. Garanzie Teoriche

Il documento stabilisce due risultati teorici primari:

• Dominio sui Genitori: Per due classi comuni di obiettivi del follower (massimizzazione del rischio avversario e massimizzazione della previsione penalizzata dal costo), i predittori basati sulla copertura stabile ($f_{SB(Y)}$) sono garantiti essere almeno buoni quanto, e spesso migliori di, quelli basati sui genitori causali ($f_{PA(Y)}$). Nello specifico, $\sup_{e \in E^*(f_{SB(Y)})} R_e(f_{SB(Y)}) \leq \sup_{e \in E^*(f_{PA(Y)})} R_e(f_{PA(Y)})$.
• Ottimalità nel Caso Peggiore: Il rischio post-intervento del leader è limitato superiormente dal rischio nel caso peggiore su tutti gli interventi consentiti. Gli autori dimostrano che, sotto condizioni specifiche (Assunzioni A1 o A2 riguardanti "interventi forti"), il predittore a copertura stabile è ottimale nel caso peggiore tra tutti i predittori misurabili. Forniscono inoltre controesempi che mostrano come queste condizioni non possano essere omesse in generale.

3. Metodi di Apprendimento per Grafi Sconosciuti

Quando il grafo causale è sconosciuto, gli autori propongono metodi guidati dai dati per identificare sottoinsiemi invarianti:

• Invariante Più Predittivo (IMP): Seleziona il sottoinsieme invariante con il punteggio predittivo più alto.
• Classificazione Stabilizzata (SC): Un metodo di ensemble che estende la "Regressione Stabilizzata" alla classificazione. Aggrega predittori su tutti i sottoinsiemi che superano un test di invarianza e una soglia di predittività, ponderati uniformemente. Questo approccio non richiede conoscenze preliminari del grafo causale.

Risultati Chiave

La metodologia è stata validata attraverso esperimenti sintetici e su dati reali:

1. Esperimenti Sintetici:

   • Sia negli SCM lineari-Gaussiani che non lineari, i predittori basati sulla copertura stabile ($SB(Y)$) hanno costantemente superato quelli basati sui genitori causali ($PA(Y)$) e i predittori su tutte le variabili.
   • I predittori a copertura stabile hanno mantenuto un Errore Quadratico Medio (MSE) costante (o quasi costante) attraverso limiti di intervento variabili, mentre i predittori su tutte le variabili sono diventati altamente instabili all'aumentare della forza dell'intervento.
   • Nel setting non lineare, errori di regressione su campioni finiti hanno causato una leggera instabilità nei predittori invarianti, ma questa è diminuita all'aumentare della dimensione del campione di addestramento, confermando le aspettative teoriche.

2. Dati Reali (Camere Causali):

   • Utilizzando un dispositivo fisico a tunnel di luce, gli autori hanno simulato un gioco di previsione-intervento in cui un follower poteva manipolare le letture dei sensori.
   • Quando il grafo causale era assunto noto (ma potenzialmente errato a causa di confondimento nascosto), un predittore basato sulla copertura stabile "imprecisa" ha performato peggio di un sottoinsieme più ampio.
   • Crucialmente, il metodo di Classificazione Stabilizzata (SC), che si basa puramente sui dati senza assunzioni sul grafo, ha identificato con successo il sottoinsieme invariante corretto (incluso le variabili perse dall'assunzione di grafo errata) e ha ottenuto il MSE più basso sotto l'intervento scelto dal follower. Ciò dimostra la robustezza del metodo rispetto a ipotesi causali errate.

Significato e Affermazioni

Il documento afferma di apportare i seguenti contributi:

• Formalizzazione: Introduce formalmente i giochi di previsione-intervento, collegando la classificazione strategica alla generalizzazione della distribuzione causale e all'analisi nel caso peggiore.
• Ottimalità delle Coperture Stabili: Dimostra che per ampie classi di obiettivi del follower, l'uso della copertura stabile è una strategia strettamente superiore o uguale all'uso dei soli genitori causali, fornendo una giustificazione teorica per includere i figli non intervenuti della variabile di risposta.
• Robustezza senza Conoscenza del Grafo: Dimostra che i metodi di ensemble guidati dai dati (come la Classificazione Stabilizzata) possono raggiungere le prestazioni delle strategie ottimali basate sul grafo anche quando il grafo causale è sconosciuto o specificato erroneamente.
• Applicabilità Pratica: Il lavoro colma il divario tra l'invarianza causale teorica e i contesti strategici pratici, offrendo algoritmi concreti per leader che affrontano agenti auto-ottimizzanti.

Gli autori notano che i loro risultati si basano su assunzioni di "interventi forti" e che risolvere il gioco generale di previsione-intervento rimane un problema difficile. Suggeriscono che il lavoro futuro potrebbe esplorare condizioni di intervento più deboli, follower eterogenei e analisi su campioni finiti.