Riepilogo Tecnico: FRInGe – Gradienti Integrati nello Spazio delle Distribuzioni con Geometria Fisher–Rao

1. Enunciato del Problema

I metodi di attribuzione basati sui gradienti, come i Gradienti Integrati (IG), sono ampiamente utilizzati per spiegare le previsioni delle reti neurali profonde grazie alla loro fedeltà al modello e alla loro scalabilità. Tuttavia, l'IG standard soffre di diverse limitazioni pratiche che influenzano la stabilità e l'interpretabilità delle spiegazioni:

• Sensibilità alla Linea di Base: La scelta della linea di base nello spazio degli input (ad esempio, immagini a zero o rumore) è euristica e può portare a spiegazioni qualitativamente diverse.
• Artefatti del Percorso: L'interpolazione a linea retta standard nello spazio degli input spesso attraversa regioni in cui i gradienti sono mal condizionati, dominati da artefatti o saturi.
• Saturazione: Lungo i percorsi standard, le uscite del modello possono cambiare rapidamente nelle fasi iniziali e poi stabilizzarsi, concentrando i gradienti informativi in un segmento ristretto mentre i passaggi successivi contribuiscono rumore.
• Errore di Discretizzazione: L'approssimazione dell'integrale di percorso con somme di Riemann finite può introdurre errori sostanziali quando i gradienti variano bruscamente.

I tentativi esistenti per affrontare questi problemi spesso implicano la progettazione di traiettorie direttamente nello spazio degli input o il ricorso a modelli generativi espliciti per definire le varietà dei dati, il che può confondere la qualità dell'attribuzione con la qualità del modello generativo.

2. Metodologia: FRInGe

Gli autori propongono FRInGe (Fisher–Rao Integrated Gradients), un metodo che ridefinisce il punto di riferimento e la tabella di interpolazione all'interno dello spazio delle distribuzioni predittive piuttosto che nello spazio degli input. Il metodo consta di tre componenti fondamentali:

A. Riferimento nella Distribuzione Predittiva

Invece di selezionare una linea di base euristica nello spazio degli input, FRInGe definisce il riferimento nello spazio delle distribuzioni predittive. Adotta un riferimento a massima entropia ($q^\star = \frac{1}{C}\mathbf{1}$), che rappresenta una distribuzione uniforme sulle classi. Questo opera il concetto di "nessuna informazione" direttamente a livello dell'output del modello, eliminando la dipendenza da progetti di linea di base specifici per il tipo di dati.

B. Tabella Geodetica Fisher–Rao

L'interpolazione tra la distribuzione predittiva del modello $p(x)$ e il riferimento a massima entropia $q^\star$ è definita come una geodetica Fisher–Rao sul semplice delle probabilità.

• Utilizzando l'incorporamento radice quadrata $\psi(p) = \sqrt{p}$, il semplice è mappato sul primo ortante di una sfera unitaria.
• La geodetica è calcolata tramite interpolazione lineare sferica (slerp) in questo spazio incorporato, garantendo che il percorso segua la geometria intrinseca delle distribuzioni predittive.

C. Traiettoria nello Spazio degli Input tramite Metrica di Pullback

Per realizzare questa traiettoria nello spazio delle distribuzioni nello spazio degli input, FRInGe utilizza la metrica Fisher di pullback.

• Passi Consapevoli della Geometria: Il metodo minimizza una perdita di allineamento sferico tra la previsione corrente e il prossimo punto di passaggio sulla geodetica. La direzione di discesa è calcolata utilizzando la metrica Fisher di pullback $G(x) = J_F(x)^\top S(x) J_F(x)$, dove $J_F$ è lo Jacobiano dei logit e $S(x)$ è la matrice di informazione di Fisher della distribuzione softmax.
• Stabilizzazione tramite Regione di Fiducia: Per garantire la stabilità numerica e prevenire grandi spostamenti negli input non percettivi, il metodo impiega una regola duale di regione di fiducia:
  1. Controllo KL: Limita la dimensione del passo basandosi sulla divergenza KL locale (approssimata dalla norma Fisher), garantendo un progresso costante nello spazio predittivo.
  2. Limite Euclideo: Impone una dimensione massima del passo euclideo per prevenire instabilità in regioni dove la geometria predittiva è piatta.
• Regolarizzazione Spaziale: Per scoraggiare perturbazioni avversarie ad alta frequenza, un operatore di smoothing spaziale (ad esempio, Laplaciano discreto) viene aggiunto al sistema lineare che risolve per la direzione di aggiornamento.

D. Calcolo dell'Attribuzione

Le attribuzioni delle caratteristiche sono ottenute integrando i gradienti degli input lungo la traiettoria realizzata nello spazio degli input. Poiché la traiettoria si muove dall'input verso il riferimento, l'integrale accumulato è negato per ripristinare l'orientamento standard dalla linea di base all'input. Il metodo soddisfa la completezza rispetto all'endpoint realizzato della traiettoria.

3. Contributi Chiave

1. Definizione nello Spazio delle Distribuzioni: FRInGe è il primo metodo di attribuzione a definire sia il riferimento IG sia la tabella di interpolazione interamente all'interno dello spazio delle distribuzioni predittive, utilizzando un riferimento a massima entropia.
2. Geometria Intrinseca: Costruisce la tabella di integrazione come una geodetica Fisher–Rao, evitando linee rette euclidee arbitrarie nello spazio degli input.
3. Realizzazione tramite Pullback: Induce la corrispondente traiettoria nello spazio degli input tramite la metrica Fisher di pullback, creando un campo direzionale consapevole del modello senza richiedere un modello generativo esplicito della varietà dei dati.
4. Meccanismo di Stabilizzazione: L'integrazione di regioni di fiducia basate sul KL e limiti euclidei garantisce una realizzazione numerica stabile del percorso, affrontando problemi di saturazione ed errore di discretizzazione.

4. Risultati Sperimentali

Gli autori hanno valutato FRInGe su 1.000 immagini di validazione ImageNet attraverso sei architetture (Inception-v3, ResNet-18/50/101/152, VGG-19).

• Metriche di Calibrazione (MAS): FRInGe dimostra il miglioramento più significativo sulle metriche Magnitude Aligned Scoring (MAS) (sia Inserimento che Cancellazione). Ciò indica che le attribuzioni di FRInGe sono meglio calibrate rispetto alle dinamiche di confidenza del modello; la massa di attribuzione accumulata traccia da vicino il reale cambiamento nella confidenza del modello.
• Metriche di Perturbazione: FRInGe rimane competitivo sulle metriche AUC basate sulla perturbazione standard (Inserimento/Cancellazione) e sull'Infedeltà, sebbene non domini uniformemente tutte le linee di base (ad esempio, SmoothGrad a volte performa meglio sull'AUC di Cancellazione).
• Confronto con le Linee di Base Geometriche: FRInGe supera altri metodi consapevoli della geometria come GGIG e GeoIG su MAS e Infedeltà, suggerendo che i suoi guadagni derivano dalla combinazione di pianificazione nello spazio predittivo e geometria di pullback piuttosto che dal solo design del percorso.
• Studi di Ablazione: La rimozione della geometria di pullback (tracciamento euclideo) o della regolarizzazione spaziale porta a traiettorie più rumorose e ad alta frequenza e a punteggi di calibrazione inferiori, confermando che tutti e tre i componenti (riferimento predittivo, geometria Fisher e regolarizzazione) sono necessari per le prestazioni ottimali.
• Costo Computazionale: FRInGe è computazionalmente più costoso dell'IG standard (richiede risoluzioni del gradiente coniugato ad ogni passaggio), con tempi di esecuzione che variano da 4x a 22x più lenti a seconda dell'architettura. Tuttavia, gli autori notano che ciò è accettabile per analisi e audit offline.

5. Significato e Affermazioni

Il documento afferma che FRInGe offre un'alternativa principiale ai Gradienti Integrati Euclidei spostando la definizione di "progresso" dalla distanza nello spazio dei pixel ai cambiamenti nello stato predittivo del modello.

• Allineamento con le Dinamiche del Modello: Il beneficio principale è l'allineamento della magnitudine dell'attribuzione con le dinamiche di confidenza interna del modello. Seguendo la geodetica Fisher–Rao, il metodo evita la saturazione e gli artefatti comuni nei percorsi a linea retta, producendo spiegazioni più fedeli a come il modello elabora effettivamente le informazioni.
• Indipendenza dalla Modalità: Definendo il riferimento nello spazio delle distribuzioni (massima entropia), il metodo riduce la necessità di linee di base progettate a mano e specifiche per la modalità dei dati.
• Limitazioni: Gli autori riconoscono il sovraccarico computazionale come la principale limitazione pratica. Suggeriscono che il lavoro futuro potrebbe concentrarsi su approssimazioni strutturali più economiche della metrica di pullback inversa o su predittori ammortizzati per accelerare il metodo.

Il documento conclude che FRInGe dimostra con successo che le spiegazioni che seguono le proprie dinamiche predittive del modello (tramite la geometria Fisher–Rao) producono attribuzioni di qualità superiore e meglio calibrate rispetto a quelle che seguono percorsi euclidei arbitrari.