Axiomatic On-Manifold Shapley via Optimal Generative Flows

Questo lavoro propone un nuovo metodo di attribuzione Shapley basato su flussi generativi ottimali che, minimizzando l'energia cinetica lungo geodetiche di Wasserstein-2, garantisce attribuzioni coerenti con la varietà dei dati, risolvendo i problemi di deriva geometrica e offrendo stabilità teorica rispetto agli approcci esistenti.

L'essenziale

Immagina di avere un'intelligenza artificiale (AI) molto intelligente che ti dice, ad esempio, se una foto ritrae un cane o un gatto. Ma c'è un problema: non sai perché ha preso quella decisione. È come se un amico ti dicesse "Ho scelto questo vestito" senza dirti se lo hai scelto per il colore, per la taglia o perché ti sta bene.

In questo campo, chiamato XAI (Intelligenza Artificiale Spiegabile), gli scienziati usano un metodo matematico chiamato Valore di Shapley per capire quanto ogni "pezzo" dell'immagine (come un pixel o una macchia di colore) ha contribuito alla decisione finale.

Tuttavia, il metodo classico ha un difetto enorme: è come se per capire perché ti piace un'auto rossa, provassi a togliere il colore rosso e a sostituirlo con il nero assoluto o con una nebbia grigia. Questi colori non esistono nella realtà delle auto (non sono "sulla strada" o on-manifold). L'AI, vedendo queste cose assurde, va in confusione e ti dà spiegazioni sbagliate o allucinate.

Ecco come la nuova ricerca di Cenwei Zhang e colleghi risolve il problema, usando un'analogia semplice:

1. Il Problema: La Strada Finta

Immagina di dover spiegare come si passa da una casa bianca (il punto di partenza, o "baseline") a una casa rossa (l'immagine finale che l'AI ha analizzato).

• I metodi vecchi (come Integrated Gradients) costruiscono una linea dritta attraverso il cielo, passando per nuvole inesistenti, rocce fluttuanti e colori che non esistono. L'AI, vedendo queste cose strane, si spaventa e ti dice: "Oh, la nuvola ha fatto decidere che è una casa!". È una spiegazione falsa.
• Il nuovo metodo dice: "No! Dobbiamo camminare solo su strade vere". Dobbiamo passare solo attraverso città, campi e strade che esistono davvero nel mondo reale.

2. La Soluzione: Il Fiume Perfetto

Gli autori usano una teoria matematica chiamata Trasporto Ottimale (Optimal Transport).
Immagina che le immagini siano come acqua.

• Hai un secchio d'acqua bianca (la casa di partenza) e vuoi trasformarlo in un secchio d'acqua rossa (la casa finale).
• I metodi vecchi versano l'acqua in modo casuale, facendola schizzare ovunque.
• Il nuovo metodo usa un flusso generativo (una sorta di fiume artificiale) che è stato progettato per essere il percorso più efficiente e naturale possibile. È come se l'acqua scorresse lungo un letto di fiume naturale, senza saltare fuori dalle sponde.

3. La "Mappa del Tesoro" (Il Valore di Shapley)

Una volta che hanno trovato questo "fiume perfetto" che collega la casa bianca a quella rossa senza mai uscire dal mondo reale, calcolano il Valore di Shapley lungo questo percorso.

• Invece di guardare cosa succede quando togli pezzi a caso, guardano come l'immagine cambia piano piano mentre cammini lungo questo fiume naturale.
• Se il fiume passa attraverso un "colore rosso" che è tipico delle auto vere, l'AI capisce: "Ah, questo pixel rosso è importante perché è sulla strada reale!".

4. Perché è Geniale? (L'Analogia del Viaggiatore)

Pensa a un viaggiatore che deve andare da Milano a Roma.

• Metodo vecchio: Il viaggiatore prende un aereo che vola in linea retta, ma attraversa zone dove non ci sono né terra né cielo (il vuoto), e atterra in un posto che non esiste. Quando chiede "Perché siamo arrivati qui?", la risposta è confusa.
• Metodo nuovo: Il viaggiatore sceglie il treno più veloce e diretto che passa solo per città reali (Milano, Bologna, Firenze, Roma). Il viaggio è fluido, non ci sono salti improvvisi.
  • Se il treno rallenta a Firenze, capiamo che Firenze era importante per il viaggio.
  • Se il treno accelera a Roma, capiamo che Roma è la destinazione.
  • Non ci sono "fantasmi" o "strade fantasma" che confondono il viaggiatore.

In Sintesi

Questa ricerca ha creato un modo per spiegare le decisioni delle AI che:

1. Non inventa cose: Non usa colori o forme che non esistono nella realtà.
2. È matematicamente perfetto: Usa la via più breve e naturale (geodetica) per collegare due immagini.
3. È stabile: Se cambi leggermente il punto di partenza, la spiegazione non cambia in modo folle, perché il "fiume" è solido.

Il risultato? Le spiegazioni che otteniamo sono come una mappa fedele del territorio reale, invece di essere un disegno astratto su un foglio bianco. Questo aiuta i medici, gli ingegneri e chiunque usi l'AI a fidarsi davvero di ciò che la macchina sta dicendo.

Sommario tecnico

1. Il Problema: Limiti delle Attribuzioni Shapley Tradizionali

L'articolo affronta le sfide fondamentali nell'Interpretabilità dell'Intelligenza Artificiale (XAI), in particolare nell'uso dei valori di Shapley per l'attribuzione delle caratteristiche (feature attribution) nei modelli post-hoc.

• Sensibilità alla Baseline e Artefatti "Off-Manifold": I metodi basati su Shapley richiedono una distribuzione di riferimento (baseline) per simulare l'assenza di una caratteristica. La scelta di baseline arbitrarie (es. immagini nere, sfocate o valori medi) spesso porta a percorsi di interpolazione che escono dal "manifold" dei dati reali (off-manifold). Questo introduce artefatti geometrici che i modelli possono interpretare erroneamente, generando spiegazioni instabili o fuorvianti.
• Complessità Combinatoria e Ambiguità del Percorso: Il calcolo esatto dei valori di Shapley è intrattabile per input ad alta dimensionalità. Metodi approssimati come Integrated Gradients (IG) utilizzano percorsi lineari, ma questi rimangono euristici e arbitrari. Non esiste una teoria che definisca quale traiettoria sia "canonica" o geometricamente ottimale per integrare i gradienti del modello.

2. Metodologia: Flussi Generativi Ottimali e Trasporto di Massa

Gli autori propongono un quadro teorico formale che sostituisce la selezione euristica della baseline con un problema variazionale basato sulla teoria del trasporto ottimo.

• Attribuzioni Aumann-Shapley su Manifold: Invece di considerare sottoinsiemi discreti di caratteristiche, il metodo definisce l'attribuzione lungo un percorso liscio $\gamma$ che connette una distribuzione di riferimento $p_0$ (prior) alla distribuzione dei dati $p_1$. L'attribuzione è definita come l'integrale di linea del gradiente del modello lungo questo percorso:
  $$\Psi_i(f, x) = \int_0^1 \frac{\partial f}{\partial x_i}(\gamma(t)) \dot{\gamma}_i(t) dt$$
• Flussi Generativi Ottimali (Wasserstein-2): Per risolvere l'ambiguità nella scelta del percorso, gli autori formulano la selezione del percorso come un problema di minimizzazione dell'energia cinetica. Utilizzano la formulazione dinamica di Benamou-Brenier per la distanza di Wasserstein-2 ($W_2$).
  • Si cerca il campo vettoriale $v_t$ che minimizza l'azione cinetica: $\int_0^1 \int \|v_t(x)\|^2 \rho_t(x) dx dt$.
  • Il minimizzatore di questa azione definisce una geodetica di Wasserstein-2, che rappresenta il percorso più "dritto" ed efficiente nello spazio delle distribuzioni di probabilità.
• Implementazione con Rectified Flows (RF): Per rendere il metodo computazionalmente fattibile, utilizzano i Rectified Flows (flussi rettificati) come approssimazione pratica delle geodetiche ottimali. I RF sono addestrati per allineare le traiettorie a linee rette nello spazio euclideo, minimizzando efficacemente l'azione cinetica e garantendo che il percorso rimanga sul manifold dei dati.

3. Contributi Chiave

Il paper apporta contributi teorici, algoritmici ed empirici significativi:

1. Teorema di Rappresentazione e Unicità: Gli autori dimostrano un teorema di rappresentazione che stabilisce che l'integrale di linea del gradiente è l'unico funzionale che soddisfa gli assiomi classici di Shapley (efficienza, simmetria, dummy, additività) estesi al contesto continuo, includendo l'invarianza alla riparametrizzazione temporale.
2. Canonicità Geometrica: Viene provato che, tra tutti i flussi possibili che trasportano $p_0$ a $p_1$, solo quello che minimizza l'energia cinetica (la geodetica di Wasserstein-2) genera un'attribuzione "canonica". Questo rimuove la soggettività nella scelta della baseline.
3. Garanzie di Stabilità: Vengono forniti limiti di stabilità teorici. Se il campo vettoriale appreso $\hat{v}$ approssima quello ottimo $v^*$ con un errore $\epsilon$, l'errore nell'attribuzione è limitato da $O(\epsilon + \epsilon^2)$. Ciò garantisce che migliorando il modello generativo, la spiegazione converge in modo prevedibile al valore vero.
4. Recupero dei Valori Classici: Per modelli additivi, il metodo proposto si riduce esattamente ai valori di Shapley classici, dimostrando di essere una generalizzazione rigorosa della teoria discreta.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dataset di visione artificiale (CUB-200, CIFAR-10, CelebA-HQ) confrontando il metodo proposto (Geodesic Flow) con baseline come Integrated Gradients (IG), DDIM, GradientSHAP e SmoothGrad.

• Verifica Assiomatica e Stabilità Geometrica:
  • L'uso di flussi ottimizzati (Reflowed Shapley) riduce drasticamente la varianza delle attribuzioni rispetto a flussi casuali o one-step.
  • Esiste una forte correlazione tra la minimizzazione dell'azione cinetica (energia del trasporto) e la stabilità strutturale delle mappe di attribuzione (misurata tramite SSIM e correlazione di rango).
• Fidelità Geometrica e Adesione al Manifold:
  • Errore di Coerenza del Flusso (FCE): Il metodo proposto riduce l'FCE di cinque ordini di grandezza rispetto alle basi di diffusione (DDIM), dimostrando una stretta adesione al manifold dei dati. Al contrario, IG, pur avendo un percorso lineare perfetto (GPS=1), ha un FCE enorme perché attraversa regioni "off-manifold" dove il gradiente è instabile.
  • Allineamento Strutturale (SATV): Il metodo produce mappe di salienza con meno rumore ad alta frequenza e una migliore allineamento ai bordi semantici degli oggetti rispetto a IG e DDIM.
• Scalabilità: Il metodo mantiene prestazioni elevate anche su immagini ad alta risoluzione (256x256), catturando dettagli fini (es. barba, occhi) senza gli artefatti di sfocatura tipici dei metodi di diffusione.

5. Significato e Impatto

Questo lavoro rappresenta un passo fondamentale verso una XAI teoricamente fondata e praticamente robusta:

• Risoluzione del Problema della Baseline: Trasforma la selezione della baseline da un'euristica arbitraria a un problema di ottimizzazione geometrica ben definito.
• Ponte tra Teoria e Pratica: Collega la teoria dei giochi (Shapley), la geometria differenziale (flussi su manifold) e l'apprendimento automatico generativo (flussi di trasporto ottimo).
• Affidabilità in Ambiti Critici: Fornendo garanzie di stabilità e riducendo gli artefatti "hallucinated" (spiegazioni generate da regioni non reali dei dati), il metodo è particolarmente rilevante per applicazioni ad alto rischio come la diagnostica medica, dove la fiducia nelle spiegazioni è cruciale.

In sintesi, gli autori dimostrano che rispettare la geometria intrinseca dei dati attraverso flussi generativi ottimali non è solo un vincolo, ma un prerequisito per ottenere spiegazioni semanticamente fedeli e matematicamente valide.