cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context

Il paper propone cc-Shapley, un metodo che integra la conoscenza causale nei valori di Shapley per correggere le distorsioni indotte da bias di collisore e soppressione, garantendo così attribuzioni di importanza delle feature più affidabili e prive di associazioni spurie.

L'essenziale

Immagina di essere un detective che deve capire perché un sospettato (un modello di intelligenza artificiale) ha commesso un crimine (ha fatto una previsione sbagliata). Il tuo obiettivo è capire quali "indizi" (i dati o le caratteristiche) sono stati i più importanti per il sospettato.

Fino a oggi, i detective usavano un metodo chiamato Shapley Values (un modo matematico per dare un punteggio di importanza a ogni indizio). Il problema è che questo metodo guarda solo ai dati così come sono stati raccolti, senza chiedersi come sono stati generati. È come guardare una scena del crimine senza capire la storia dietro di essa.

Questa carta scientifica, intitolata "cc-Shapley", ci dice che questo approccio è pericoloso perché può portarci a conclusioni assurde a causa di un trucco statistico chiamato "bias del collimatore" (o collider bias).

Ecco una spiegazione semplice con delle metafore:

1. Il Problema: L'Inganno del "Colpevole Inocente"

Immagina questa scena:

• Il Sospettato: Un paziente ha il diabete (o no).
• L'Indizio A: La glicemia nel sangue (alta se ha il diabete).
• L'Indizio B: Quanti carboidrati ha mangiato a colazione.

La realtà (Causa):

1. Se hai il diabete, la glicemia sale.
2. Se mangi carboidrati, la glicemia sale.
3. Il diabete e i carboidrati non hanno nulla a che fare l'uno con l'altro (sono indipendenti).

L'Inganno (Il Bias):
Immagina che il paziente abbia una glicemia altissima.
Il detective (il vecchio metodo Shapley) guarda i dati e pensa: "Ok, la glicemia è alta. Se il paziente avesse mangiato molti carboidrati, la glicemia sarebbe alta anche senza il diabete. Quindi, se la glicemia è alta, è più probabile che il paziente NON abbia il diabete, perché altrimenti la glicemia sarebbe stata ancora più alta!"

Risultato? Il vecchio metodo dice: "I carboidrati sono importanti e riducono il rischio di diabete!".
Assurdo, vero? Mangiare carboidrati non cura il diabete! Il metodo ha creato una falsa correlazione perché ha guardato i dati "bloccando" la glicemia (il collimatore) senza capire la storia causale. Ha scambiato un effetto collaterale per una causa.

2. La Soluzione: cc-Shapley (Il Detective che Capisce la Storia)

Gli autori propongono un nuovo metodo chiamato cc-Shapley (Causal Context Shapley).
Invece di guardare solo i dati statici, questo metodo chiede: "Cosa succederebbe se intervenissimo sulla storia?".

Torniamo all'esempio:
Invece di dire "Vediamo cosa succede se guardiamo i pazienti che hanno mangiato carboidrati", il nuovo metodo dice: "Facciamo un esperimento mentale: prendiamo un gruppo di pazienti e forziamo tutti a mangiare la stessa quantità di carboidrati, ignorando cosa hanno scelto di mangiare da soli. Ora, guardiamo la glicemia."

• Vecchio metodo (Osservazionale): Guarda chi ha mangiato carboidrati e chi no nella vita reale. Trova che chi mangia carboidrati ha meno probabilità di avere il diabete (perché la glicemia alta è "spiegata" dai carboidrati, non dal diabete). Errore.
• Nuovo metodo (Interventale/cc-Shapley): Interviene artificialmente. Se forziamo tutti a mangiare carboidrati, la glicemia sale per tutti. Ma il diabete? Il diabete rimane quello che è. Il metodo capisce che i carboidrati non hanno nessuna influenza reale sul fatto di avere il diabete. Corretto.

3. L'Analogia della "Festa di Compleanno"

Immagina di voler capire cosa rende una festa di compleanno un successo (Y).

• X1: La musica è alta.
• X2: C'è molta gente.
• Y: La festa è divertente.

Supponiamo che la musica alta e la gente non siano correlate tra loro. Ma se la festa è divertente (Y), allora probabilmente c'è musica alta E c'è gente.

Se guardi solo i dati (vecchio metodo) e vedi che in una festa con musica alta c'è poca gente, potresti pensare: "Ah, la musica alta fa scappare la gente!".
Ma in realtà, la "divertenza" (Y) è il collimatore che collega le due cose. Se la festa è noiosa, non c'è musica e non c'è gente. Se è divertente, c'è tutto.

Il metodo cc-Shapley ti dice: "Non guardare solo chi c'era alla festa. Immagina di organizzare una festa con musica alta, ma senza decidere chi viene. Vedrai che la gente viene comunque se la musica è buona. La musica non 'sopprime' la gente, è solo un fattore indipendente."

Perché è importante?

1. Evita bugie: I modelli di intelligenza artificiale possono imparare schemi falsi nei dati. Se usiamo il vecchio metodo per spiegare il modello, potremmo dire al medico: "Non preoccuparti, i carboidrati sono buoni per il diabete!". Il nuovo metodo ci salva da queste conclusioni pericolose.
2. Scoperta scientifica: Se vogliamo usare l'AI per fare scoperte scientifiche (es. trovare nuovi farmaci), dobbiamo essere sicuri che le correlazioni che troviamo siano vere cause e non trucchi statistici.
3. Serve la "Causa": Il punto fondamentale della carta è che non puoi capire l'importanza di un dato solo guardando i numeri. Devi conoscere la storia causale (chi causa chi). Senza questa mappa, l'AI è come un navigatore GPS che ti dice di girare a destra perché c'è un muro, senza sapere che il muro è lì solo perché qualcuno lo ha costruito.

In sintesi

Il vecchio metodo (Shapley) è come guardare un film al contrario: vedi gli effetti e indovini le cause, ma spesso ti sbagli.
Il nuovo metodo (cc-Shapley) ti dà il copione originale del film (la causalità). Ti permette di dire: "Se cambiassi questo attore (il dato), cosa succederebbe davvero alla trama?", eliminando le coincidenze ingannevoli e dandoci una spiegazione vera e affidabile.

È un passo avanti fondamentale per rendere l'Intelligenza Artificiale non solo potente, ma anche saggia e sicura.

Sommario tecnico

Ecco una sintesi tecnica dettagliata del paper "cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context" in italiano.

1. Il Problema: Limiti degli Approcci Osservazionali nell'XAI

Il lavoro identifica una falla fondamentale nelle attuali tecniche di Intelligenza Artificiale Spiegabile (XAI), in particolare nell'uso dei valori di Shapley per la valutazione dell'importanza delle caratteristiche (feature importance) in contesti multivariati.

• Il Dilemma: I metodi standard di XAI si basano su dati puramente osservazionali. Calcolano l'importanza di una feature $X_j$ condizionando sugli altri valori osservati delle feature ($S$).
• Il Fenomeno Critico: Questa approccio è suscettibile al bias del collisore (collider bias) e al fenomeno della soppressione (suppression). Quando si condiziona su una variabile che è un "collisore" (un nodo con due frecce in entrata, es. $X \to Z \leftarrow Y$), si apre un percorso spurio tra le variabili genitore, creando associazioni statistiche che non esistono causalmente.
• Conseguenze: Questo porta a:
  • Attribuzioni errate: Feature irrilevanti (o "soppressori") vengono attribuite un'importanza significativa.
  • Inversione di segno: Una feature che ha una relazione positiva con il target può apparire negativa (o viceversa) quando condizionata su altre variabili.
  • Esempio chiave: Nel caso di studio "Colazione e Diabete", l'assunzione di carboidrati ($C$) appare come un fattore protettivo (negativo) per il diabete quando si condiziona sulla glicemia ($G$), a causa del bias del collisore su $G$. In realtà, $C$ non ha alcun effetto causale diretto sul diabete; l'effetto osservato è un artefatto statistico.

2. Metodologia: cc-Shapley (Causal Context Shapley)

Gli autori propongono cc-Shapley, una modifica interventistica dei valori di Shapley convenzionali che integra la conoscenza della struttura causale dei dati.

• Definizione Formale:
  Il valore di Shapley causale $\phi_{cc}(X_j)$ è definito come la somma pesata delle differenze di aspettativa condizionata, ma utilizzando l'operatore di intervento $do(\cdot)$ invece della semplice condizionamento osservazionale:
  $$\phi_{cc}(X_j) = \sum_{S \subseteq F \setminus \{X_j\}} \gamma(S) \left( E[Y | X_j, do(S)] - E[Y | do(S)] \right)$$
  Dove:

  • $S$ rappresenta il "contesto" (le altre feature).
  • $do(S)$ simula un intervento che rompe i legami causali in entrata verso $S$, impedendo che $S$ agisca come collisore o confondente per il percorso tra $X_j$ e $Y$.
  • $\gamma(S)$ sono i coefficienti combinatori classici di Shapley.

• Meccanismo di Correzione:

  • In un approccio osservazionale, condizionare su $S$ può "sbloccare" percorsi di collisore, creando correlazioni spurie.
  • Nell'approccio cc-Shapley, l'intervento $do(S)$ rimuove le frecce in entrata verso $S$ nel grafo causale. Questo impedisce che $S$ agisca da collisore, mantenendo i percorsi bloccati se non dovrebbero essere aperti causalmente.
  • Asimmetria: A differenza dei valori di Shapley classici che trattano tutte le feature simmetricamente, cc-Shapley tratta la feature di interesse ($X_j$) in modo diverso dal contesto ($S$). $X_j$ viene osservato (mantenendo la sua associazione causale con $Y$), mentre $S$ viene intervistato per isolare il suo effetto di contesto.

• Implementazione Pratica:
  Poiché i dati reali non forniscono sempre il grafo causale, il metodo richiede:

  1. La conoscenza (o la stima) del grafo causale (SCM - Structural Causal Model).
  2. L'uso di algoritmi di scoperta causale (es. LiNGAM) o conoscenza esperta.
  3. La simulazione di interventi tramite campionamento dal modello SCM modificato o l'uso di aggiustamenti per la via di retroazione (backdoor adjustment).

3. Contributi Chiave

1. Identificazione del Bias: Dimostrazione teorica ed empirica che i metodi XAI puramente osservazionali falliscono nel distinguere tra associazioni causali e spurie dovute al bias del collisore, portando a interpretazioni scientifiche errate.
2. Proposta di cc-Shapley: Introduzione del primo approccio che modifica i valori di Shapley per incorporare la conoscenza causale, eliminando specificamente il bias del collisore senza limitarsi all'importanza univariata.
3. Proprietà Teoriche: Dimostrazione che cc-Shapley soddisfa la Statistical Association Property (SAP): se una feature è causalmente indipendente dal target, il suo valore cc-Shapley è zero, anche in presenza di variabili soppressori.
4. Validazione Sperimentale: Confronto esteso su dati sintetici e reali che mostra come cc-Shapley corregga le attribuzioni errate (nullificando o invertendo i segni) rispetto ai valori di Shapley standard.

4. Risultati Sperimentali

Gli autori hanno testato il metodo su diversi scenari:

• Esempio Lineare Semplificato (Colazione/Diabete):
  • Shapley Standard: Attribuisce un'importanza negativa ai carboidrati ($C$), suggerendo erroneamente che riducano il rischio di diabete.
  • cc-Shapley: Assegna un'importanza nulla a $C$ (corretto, poiché non è una causa diretta) e mantiene l'importanza positiva per la glicemia ($G$).
• SCM Lineari Randomizzati:
  • Su 3.000 modelli lineari, i coefficienti di regressione basati su cc-Shapley ($b_{X_1|do(X_2)}$) coincidono con l'importanza univariata reale quando $X_2$ agisce come collisore, mentre i valori osservazionali ($b_{X_1|X_2}$) mostrano deviazioni significative e fuorvianti.
• Caso Non Lineare (BMI e Diabete):
  • In un scenario più complesso con BMI, glicemia e zucchero medio, lo Shapley standard attribuisce un'importanza negativa al BMI (errata). cc-Shapley corregge questo, restituendo un'importanza positiva coerente con la conoscenza medica, eliminando l'effetto di soppressione indotto dal condizionamento su $G$ e $H$.
• Dati Reali (Proteine Sachs et al., 2005):
  • Su un dataset di segnalazione proteica, le feature che agiscono come soppressori (es. PKC, P38) mostrano attribuzioni negative o miste con lo Shapley standard. cc-Shapley allinea le attribuzioni con l'analisi univariata e la struttura causale nota, preservando la rilevanza positiva corretta.

5. Significato e Implicazioni

Questo lavoro è fondamentale per il futuro dell'XAI e della scoperta scientifica:

• Affidabilità Scientifica: Senza la correzione causale, l'XAI rischia di generare "scoperte" false, portando i ricercatori a conclusioni errate su quali fattori guidino un fenomeno (es. credere che mangiare carboidrati prevenga il diabete).
• Oltre l'Osservazione: Il paper sottolinea che l'XAI non può basarsi solo su dati e modelli statistici; deve integrare la conoscenza del mondo reale (causalità) per essere interpretabile in modo univoco.
• Limiti e Sfide: L'approccio richiede la conoscenza del grafo causale, che non è sempre disponibile. Tuttavia, il lavoro dimostra che l'uso di tecniche di scoperta causale o l'integrazione di conoscenza esperta è un prerequisito necessario per un'analisi delle feature robusta in contesti multivariati complessi.

In sintesi, cc-Shapley rappresenta un passo cruciale verso un'XAI "causalmente corretta", trasformando l'attribuzione delle feature da una mera analisi statistica a uno strumento di indagine causale affidabile.