TTE-CAM: Built-in Class Activation Maps for Test-Time Explainability in Pretrained Black-Box CNNs

1. Il Problema

Le Reti Neurali Convoluzionali (CNN) hanno raggiunto prestazioni all'avanguardia nell'analisi di immagini mediche, ma la loro natura di "scatola nera" (black-box) ne limita l'adozione in contesti clinici ad alto rischio a causa della mancanza di trasparenza decisionale.
Esiste un compromesso fondamentale (trade-off) nelle attuali soluzioni di interpretabilità:

• Metodi post-hoc: Generano mappe di salienza basate sul modello ma non guidano direttamente l'output, risultando intrinsecamente infedeli (unfaithful) poiché non spiegano realmente come il modello ha preso la decisione.
• Architetture intrinsecamente interpretabili: Sono fedeli (le previsioni derivano direttamente dalla spiegazione), ma spesso richiedono addestramenti complessi o sacrificano le prestazioni predittive.

L'obiettivo è colmare questo divario convertendo CNN black-box ad alte prestazioni in modelli auto-spiegabili senza re-addestramento e senza perdita di accuratezza.

2. Metodologia: TTE-CAM

Gli autori propongono TTE-CAM (Test-Time Explainability - Class Activation Maps), un framework che riformula l'architettura di CNN pre-addestrate per renderle auto-spiegabili al momento dell'inferenza.

• Riformulazione dell'Head di Classificazione:
  • Viene rimossa la classica Global Average Pooling (GAP) seguita da un Fully Connected Layer (FCL).
  • L'FCL viene sostituito da un layer convoluzionale 1x1 con $C$ filtri (dove $C$ è il numero di classi).
  • Poiché un FCL è matematicamente equivalente a una convoluzione 1x1, i pesi pre-addestrati vengono trasferiti direttamente senza necessità di re-addestramento.
• Meccanismo di Funzionamento:
  • Questa riformulazione rende le Class Activation Maps (CAM) un componente "built-in" (integrato) dell'architettura.
  • Le mappe di attivazione vengono generate pesando le feature map finali con i pesi della classe (ora parte della convoluzione 1x1).
  • Le CAM risultanti vengono mediate spazialmente per calcolare i punteggi di classe e passate attraverso un softmax per ottenere la previsione finale.
• Vantaggi Operativi:
  • Le spiegazioni sono generate in un singolo passaggio in avanti (forward pass).
  • A differenza di metodi post-hoc come GradCAM (che richiede un passaggio per classe) o ScoreCAM (che richiede più passaggi), TTE-CAM è computazionalmente efficiente.

3. Contributi Chiave

1. Ponte tra Fedeltà e Prestazioni: Dimostra che è possibile ottenere spiegazioni "built-in" e fedeli mantenendo esattamente le stesse prestazioni predittive del modello black-box originale.
2. Efficienza Computazionale: Elimina il sovraccarico computazionale dei metodi post-hoc generando spiegazioni durante il normale processo di inferenza.
3. Validazione Clinica: Il metodo è stato testato e validato su due compiti critici di imaging medico, dimostrando che le spiegazioni integrate sono competitive con quelle dei migliori metodi post-hoc.

4. Risultati Sperimentali

Il metodo è stato valutato su due dataset pubblici:

• Fundus (Diabetic Retinopathy - DR): Classificazione binaria (No DR vs DR).
• Chest X-Ray (CXR): Rilevamento della polmonite.

Prestazioni Predittive:
La sostituzione dell'FCL con la convoluzione 1x1 ha preservato esattamente le prestazioni originali:

• DR: Accuratezza = 0.899, AUC = 0.923.
• Pneumonia (CXR): Accuratezza = 0.953, AUC = 0.988.

Qualità delle Spiegazioni:
TTE-CAM è stato confrontato con cinque metodi post-hoc (CAM, ScoreCAM, GradCAM, LayerCAM, Integrated Gradients) utilizzando metriche quantitative (Precisione Top-k, Sensibilità Top-k, Precisione di Attivazione) e qualitative.

• Confronto: Le spiegazioni generate da TTE-CAM sono identiche a quelle del classico CAM e competitive con gli altri metodi post-hoc sia qualitativamente (visualizzazione delle aree di interesse) che quantitativamente.
• Osservazioni: Le annotazioni sparse del dataset DR sono state meglio valutate tramite la localizzazione Top-k, mentre le bounding box più dense del dataset CXR hanno favorito la metrica di precisione di attivazione.

5. Significato e Conclusioni

Il lavoro di TTE-CAM è significativo perché risolve il dilemma etico e pratico dell'interpretabilità nell'IA medica:

• Affidabilità: Offre spiegazioni "fedeli" perché la previsione è calcolata direttamente dalla mappa di attivazione, a differenza dei metodi post-hoc che approssimano il comportamento del modello.
• Adozione Clinica: Permette di utilizzare modelli black-box ad alte prestazioni già esistenti (es. ResNet-50) in contesti clinici senza doverli ri-addestrare o sacrificare l'accuratezza, fornendo al contempo trasparenza immediata.
• Limiti e Futuro: Il metodo eredita i limiti delle mappe CAM tradizionali (risoluzione bassa che porta a spiegazioni grossolane) e richiede che i canali della feature map finale corrispondano all'input del classificatore (limitando l'uso su architetture come VGG, ma funzionando bene su ResNet e DenseNet). Il lavoro futuro punta ad estendere questo meccanismo ai Vision Transformers.

In sintesi, TTE-CAM trasforma le CNN pre-addestrate in modelli auto-spiegabili "al volo", offrendo un compromesso ideale tra accuratezza predittiva e trasparenza decisionale.