Riepilogo Tecnico: ProDG – Prototipi per Spiegabilità Post-Hoc Generativa Senza Dati

Enunciato del Problema

Le reti neurali profonde hanno ottenuto prestazioni straordinarie nella visione artificiale, ma rimangono "scatole nere", sollevando questioni critiche di fiducia e sicurezza. Sebbene i metodi di spiegabilità post-hoc (ad esempio, Grad-CAM, LRP) offrano spiegazioni efficienti per singole immagini senza riaddestramento, tipicamente producono mappe di calore a livello di pixel prive di un chiaro significato semantico, costringendo gli utenti a inferire il ragionamento del modello. Al contrario, i metodi ante-hoc basati su prototipi (ad esempio, ProtoPNet) forniscono un ragionamento comprensibile all'uomo del tipo "questo assomiglia a quello", ma richiedono architetture specializzate e un esteso riaddestramento.

I recenti approcci ibridi, come EPIC, tentano di colmare questo divario estraendo spiegazioni simili a prototipi da classificatori congelati senza riaddestramento. Tuttavia, questi metodi affrontano una limitazione fondamentale: richiedono l'accesso a un sottoinsieme di dati reali (ad esempio, un set di validazione o di test) per cercare, ritagliare ed estrarre prototipi visivi. Questa dipendenza li rende inutilizzabili in domini sensibili alla privacy (ad esempio, sanità, finanza) dove i dataset originali sono strettamente limitati o inaccessibili.

Metodologia: Framework ProDG

ProDG (Prototipi Generativi per Spiegabilità Post-Hoc Senza Dati) affronta il problema della dipendenza dai dati sintetizzando prototipi visivi puri e ad alta fedeltà direttamente dai pesi di un classificatore congelato, eliminando la necessità di qualsiasi dato esterno. Il framework è composto da tre componenti principali:

1. Modulo di Disentanglement delle Caratteristiche Ortogonali

Nelle reti standard, le caratteristiche visive sono spesso intrecciate attraverso più canali. ProDG introduce una matrice di cambiamento di base ortogonale $U \in \mathbb{R}^{C \times C}$ per mappare le attivazioni intrecciate originali $\Phi(x)$ in un nuovo spazio $Z = U \Phi(x)$.

• Obiettivo: Allineare le nuove rappresentazioni dei canali con concetti visivi distinti e semanticamente significativi, in modo che ogni canale si attivi fortemente per esattamente una specifica caratteristica.
• Garanzia di Fedeltà: Poiché $U$ è vincolato a essere ortogonale, il suo inverso è semplicemente la sua trasposta ($U^{-1} = U^T$). Modificando il livello di classificazione lineare per incorporare questa mappatura inversa (moltiplicando i pesi del classificatore per $U^T$), il cambiamento di base viene matematicamente annullato durante il passaggio in avanti. Ciò garantisce che la rete modificata mantenga l'esatta accuratezza predittiva e le previsioni dei logit del modello base originale.

2. Banca di Prompt di Concetto

Per generare prototipi senza dati reali, ProDG sfrutta un modello generativo congelato (specificamente FLUX.1-schnell) condizionato su embedding testuali.

• Parametrizzazione: Viene definita una "Banca di Prompt di Concetto" $\mathcal{P} = \{P_c\}_{c=1}^C$ per ogni canale. Ogni $P_c$ include anchor embedding congelati (derivati dai nomi delle classi durante una fase iniziale di scoperta) e parametri distribuzionali apprendibili.
• Ottimizzazione: I parametri apprendibili includono offset e varianze per gli embedding testuali. Per embedding T5 ad alta dimensionalità, viene utilizzata l'Adattamento a Basso Rango (LoRA); per embedding CLIP, vengono appresi offset diretti.
• Diversità: Gli embedding sono formulati come distribuzioni probabilistiche. Utilizzando il trucco di riparametrizzazione, il sistema campiona da queste distribuzioni per generare immagini prototipo diverse anziché una singola immagine statica per concetto.

3. Schema di Ottimizzazione Alternata

Il framework ottimizza congiuntamente la matrice di trasformazione $U$ e i parametri della banca di prompt $\Theta_c$ utilizzando una strategia alternata:

• Fase 1 (Aggiornamento $U$): Congelare i parametri dei prompt, campionare immagini per i canali target e aggiornare $U$ per massimizzare la metrica di purezza (il rapporto tra l'attivazione massima in un canale specifico e la norma del vettore delle caratteristiche in quella posizione spaziale).
• Fase 2 (Aggiornamento Prompt): Congelare $U$, generare immagini e aggiornare gli embedding per massimizzare la purezza applicando due funzioni di perdita di regolarizzazione:
  • Perdita di Regolarizzazione ($L_{reg}$): Penalizza grandi deviazioni degli embedding appresi da ancoraggi di linguaggio naturale significativi per mantenere l'allineamento semantico.
  • Perdita di Diversità ($L_{div}$): Incoraggia la generazione di immagini diverse per lo stesso canale per prevenire il collasso delle modalità, calcolata tramite la similarità del coseno a coppie dei vettori delle caratteristiche.

Generazione delle Spiegazioni

Durante l'inferenza, il sistema identifica i canali top-$k$ più influenti per una classe prevista. Successivamente, campiona dalla banca di prompt ottimizzata per generare le immagini corrispondenti. Le spiegazioni visive sono derivate calcolando mappe di calore di attivazione basate sul prodotto di Purezza Spaziale (dominanza del canale) e Magnitudine Relativa (attivazione normalizzata), risultando in riquadri di delimitazione localizzati che evidenziano regioni prototipiche.

Contributi Chiave

1. Framework Senza Dati: ProDG è il primo metodo basato su prototipi che sintetizza spiegazioni prototipo senza richiedere l'accesso a dataset originali o di validazione.
2. Condizionamento Ottimizzato per la Purezza: L'introduzione di un meccanismo che utilizza modelli generativi per creare concetti visivi ad alta fedeltà e interpretabili direttamente dai pesi di un classificatore congelato.
3. Interpretabilità che Preserva la Privacy: Il metodo offre un'alternativa sicura all'estrazione dipendente dai dati tradizionale, fornendo rappresentazioni concettuali più pulite, libere da rumore di fondo irrilevante, adatte ad ambienti ristretti.

Risultati e Valutazione

Gli autori hanno valutato ProDG su quattro benchmark (CUB-200-2011, Stanford Cars, Stanford Dogs e ImageNet) utilizzando vari backbones (ResNet, DenseNet, ConvNeXt, SwinTransformer).

• Fedeltà Predittiva: Come garantito teoricamente, ProDG mantiene esattamente l'accuratezza del modello di base (differenza dello 0%) su tutti i dataset e architetture, eguagliando le prestazioni di EPIC e InfoDisent.
• Prestazioni Qualitative: I confronti visivi mostrano che ProDG produce indizi semanticamente ricchi (ad esempio, struttura dell'oggetto, texture) comparabili ai metodi dipendenti dai dati come EPIC, catturando efficacemente le regioni discriminative.
• Diversità Intra-Concetto: Utilizzando la metrica Learned Perceptual Image Patch Similarity (LPIPS), ProDG ha dimostrato punteggi elevati ($\geq 0.61$), indicando che il framework evita con successo il collasso delle modalità e genera variazioni visive diverse per lo stesso concetto.
• Studio con Utenti: In uno studio su ImageNet, i partecipanti hanno ottenuto un'accuratezza significativamente superiore al caso (73% contro la selezione casuale) quando identificavano le classi basandosi sulle spiegazioni di ProDG. In un confronto a tre vie (ProDG vs InfoDisent vs EPIC), ProDG ha ottenuto il rango medio più alto (1.85), con differenze statisticamente significative riscontrate rispetto a InfoDisent.

Significato e Limitazioni

L'articolo afferma che ProDG stabilisce una nuova frontiera nell'XAI Senza Dati, sbloccando un'interpretabilità visiva robusta per ambienti altamente vincolati dove l'accesso ai dati è impossibile. Disaccoppiando la scoperta dei prototipi dalla disponibilità dei dati, abilita la trasparenza in domini sensibili alla privacy.

Gli autori riconoscono modestamente le limitazioni intrinseche all'approccio generativo:

• Bias del Prior Generativo: Se i concetti target sono completamente fuori distribuzione per il modello generativo sottostante (ad esempio, FLUX), l'ottimizzazione del prompt potrebbe faticare a sintetizzare prototipi validi.
• Adattamento al Dominio: L'applicazione del framework a domini specializzati potrebbe richiedere la sostituzione del prior generativo con un modello specifico del dominio.
• Inizializzazione: Sebbene l'inizializzazione con anchor testuali aiuti la convergenza, strategie di inizializzazione più avanzate potrebbero potenzialmente migliorare la cattura di caratteristiche visive altamente astratte.