Riepilogo Tecnico: FAME – Spiegazione della Mappa di Attivazione delle Caratteristiche

Enunciato del Problema

I modelli di deep learning, in particolare nella classificazione di immagini (IC) e nel riconoscimento facciale (FR), raggiungono elevate accuratezze ma operano come "scatole nere", oscurando il ragionamento alla base delle loro previsioni. I metodi esistenti di Intelligenza Artificiale Spiegabile (XAI) rientrano in due categorie principali, ciascuna con limitazioni significative:

1. Mappatura dell'Attivazione della Classe basata su Gradienti (CAM): Metodi come Grad-CAM calcolano le attribuzioni basandosi sulle attivazioni delle mappe di caratteristiche e le ricampionano alla risoluzione dell'immagine. Questo approccio si basa sull'assunzione che gli elementi della mappa di caratteristiche siano influenzati solo dalle regioni sottostanti dei pixel (campi recettivi locali). Gli autori sostengono che tale assunzione fallisce nelle reti più profonde, dove i campi recettivi sono ampi, sovrapposti e non locali, portando a mappe di attribuzione fuorvianti.
2. Metodi basati su Perturbazione: Tecniche come CorrRISE perturbano le immagini di input con patch fisse (ad esempio, quadrati neri o rumore) per osservare i cambiamenti nell'output. Questi metodi introducono spesso bordi artificiali o non riescono a rimuovere efficacemente le informazioni (poiché le reti moderne gestiscono bene gli input sfocati). Inoltre, si basano su mascheramento stocastico casuale e parametri definiti manualmente, mancando di un approccio principiato alla perturbazione.

Metodologia: Spiegazione della Mappa di Attivazione delle Caratteristiche (FAME)

Gli autori propongono FAME, un framework unificato che colma il divario tra i paradigmi basati su gradienti e quelli basati su perturbazione. FAME si fonda sulla Sintesi dell'Origine a Livello di Strato (LOTS), una tecnica di attacco avversariale originariamente progettata per modificare le immagini e forzare una rete verso un output specifico a un certo livello.

Meccanismo Principale

Invece di utilizzare patch fisse o un semplice ricampionamento dei gradienti, FAME tratta la generazione di una mappa di attribuzione come un problema di ottimizzazione:

1. Perturbazione Iterativa: Partendo da un'immagine di input $x$, FAME aggiorna iterativamente l'immagine in $\bar{x}$ utilizzando gradienti normalizzati per minimizzare una specifica funzione di perdita $\mathcal{L}$ rispetto a un target $t$ a un livello di rete scelto.
   $$\bar{x} \leftarrow \bar{x} - \eta \frac{\nabla_{\bar{x}}}{\max |\nabla_{\bar{x}|}}$$
   dove $\nabla_{\bar{x}} = \frac{\partial \mathcal{L}(f^l(\bar{x}) \mid t^l)}{\partial \bar{x}}$.
2. Derivazione dell'Attribuzione: La mappa di attribuzione è derivata dalla differenza assoluta tra l'immagine originale e l'immagine perturbata: $\Delta x = |\bar{x} - x|$.
3. Lisciatura: La risultante mappa di perturbazione a livello di pixel viene lisciata utilizzando un kernel gaussiano e normalizzata al massimo per produrre la mappa di attribuzione finale $e \in [0, 1]^{H \times W}$.

Adattamenti Specifici per Attività

FAME adatta la funzione di perdita e il target in base all'attività:

• Analisi delle Mappe di Caratteristiche: Per testare la validità delle assunzioni CAM, il target è impostato a zero per specifici elementi della mappa di caratteristiche $a[k]$. La perdita $\mathcal{L}_a = \|a[k] - 0\|_1$ identifica quali pixel di input devono essere rimossi per annullare una specifica attivazione di caratteristica.
• Classificazione di Immagini: La perdita è definita direttamente sul logit di una classe target ($L_{cls} = z_o$), retropropagando verso l'input per evidenziare i pixel critici per quella previsione di classe.
• Riconoscimento Facciale: Il metodo minimizza o massimizza il punteggio di similarità $s$ tra un'immagine di galleria ($x_g$) e un'immagine di sonda ($x_p$).
  • Simile ($e^+$): Minimizzare la similarità ($L_+ = s$) per trovare le regioni che supportano la corrispondenza.
  • Dissimile ($e^-$): Massimizzare la similarità ($L_- = 1-s$) per trovare le regioni che causano la discrepanza.
  • A differenza di metodi correlati (ad esempio FGGB), FAME non richiede una sogliatura arbitraria per separare le regioni simili e dissimili.

Contributi Chiave

1. Confutazione delle Assunzioni CAM: Il documento fornisce prove empiriche che l'assunzione dei campi recettivi locali nei metodi basati su CAM non vale per le reti più profonde. Utilizzando FAME, gli autori dimostrano che gli elementi delle mappe di caratteristiche nelle reti profonde (ad esempio IResNet101) aggregano informazioni da grandi regioni spostate e sovrapposte dell'input, rendendo il semplice ricampionamento inaffidabile.
2. Framework Unificato: FAME offre un unico approccio basato sull'ottimizzazione applicabile sia alle attività IC che FR, senza richiedere modifiche architetturali specifiche per l'attività o selezione manuale delle soglie.
3. Perturbazione Principiata: Utilizzando perturbazioni guidate dai gradienti invece di patch fisse, FAME evita di introdurre artefatti artificiali (come bordi netti da quadrati neri) e fornisce un'interpretazione più naturale di come le variazioni dell'input influenzino gli output della rete.

Risultati Sperimentali

Gli autori hanno valutato FAME su ImageNet (IC) e tre dataset di Riconoscimento Facciale (AR Face, SCface, CFP) utilizzando varie architetture (ResNet, VGG, ConvNeXt, IResNet).

Classificazione di Immagini

• Qualitativo: FAME produce mappe di attribuzione più compatte e semanticamente rilevanti rispetto a Grad-CAM e Grad-CAM-EW, che spesso evidenziano regioni di sfondo diffuse o si concentrano solo su parti specifiche (ad esempio, solo la testa di un uccello).
• Quantitativo: Su ImageNet, FAME ottiene punteggi competitivi di Intersezione su Unione (IoU), leggermente inferiori a FullGradCAM ma superiori alle varianti standard di Grad-CAM. Crucialmente, nelle valutazioni ROAD-Delete (che misurano il degrado delle prestazioni man mano che i pixel salienti vengono rimossi), FAME ottiene i punteggi più alti a bassi rapporti di rimozione (10% e 30%), indicando che identifica i pixel più critici per la decisione del modello in modo più efficace rispetto ai concorrenti.

Riconoscimento Facciale

• Qualitativo: FAME genera mappe spazialmente coerenti che si allineano con l'intuizione umana. Per volti occlusi (ad esempio, sciarpe, occhiali da sole), FAME si concentra correttamente sui segnali di identità visibili (occhi, fronte) ignorando le aree occluse. Al contrario, metodi come CorrRISE e FGGB spesso producono mappe rumorose o evidenziano regioni di sfondo irrilevanti.
• Quantitativo: Attraverso molteplici protocolli FR e profondità di rete, FAME supera costantemente Grad-CAM, CorrRISE e FGGB sia nelle metriche Delete (calo di accuratezza) che Insert (recupero di accuratezza). Notevolmente, FAME ottiene i punteggi Insert più alti (fino al 96,7% su CFP), dimostrando la sua capacità di identificare le regioni che, quando ripristinate, recuperano rapidamente l'accuratezza di verifica.

Significato e Affermazioni

Il documento afferma che FAME fornisce un framework basato sull'ottimizzazione e adattivo all'attività che produce spiegazioni stabili e rilevanti per il modello. Il suo significato principale risiede nel:

• Correggere Errori Concettuali: Mette in discussione la dipendenza dal ricampionamento spaziale ingenuo nelle reti profonde, mostrando che le architetture più profonde codificano pattern integrati globalmente piuttosto che caratteristiche localizzate.
• Robustezza: FAME dimostra una robustezza superiore alle variazioni di posa, occlusione e risoluzione rispetto ai metodi XAI all'avanguardia.
• Generalità: Elimina la necessità di soglie arbitrarie (un limite di FGGB) e parametri di perturbazione fissi (un limite di CorrRISE), offrendo un approccio più principiato all'attribuzione.

Gli autori riconoscono che FAME è computazionalmente più lento dei metodi basati su gradienti a causa della sua natura iterativa, ma suggeriscono che la velocità può essere migliorata tramite arresto anticipato o dimensioni di passo più grandi con un impatto minimo sulla qualità. È proposto un lavoro futuro per estendere FAME alle architetture transformer e alle attività di rilevamento degli oggetti.