When Explanations Mislead: A Systematic Audit of Saliency Map Localization Failures in Chest X-Ray AI Despite Correct Predictions

Sintesi Tecnica: Quando le Spiegazioni Traggono in Inganno

Definizione del Problema
Il documento affronta una lacuna critica di sicurezza nella radiologia clinica basata sull'IA: l'assunzione incauta che le predizioni corrette dei modelli di deep learning siano intrinsecamente accompagnate da spiegazioni spaziali accurate. Le mappe di salienza (es. GradCAM, Integrated Gradients) sono ampiamente utilizzate come lo strato di spiegazione de facto per costruire la fiducia del clinico. Tuttavia, la convinzione implicita che un modello che identifica una patologia (es. consolidamento) stia necessariamente prestando attenzione alla corretta regione anatomica rimane non verificata su larga scala. Gli autori identificano un modo di "fallimento pericoloso" specifico: casi in cui un modello produce una predizione corretta con alta confidenza, ma la mappa di salienza generata non localizza la patologia, potenzialmente tracciando in errore i clinici che si affidano alla spiegazione visiva per validare l'output dell'IA.

Metodologia
Lo studio conduce un audit sistematico utilizzando il dataset VinDr-CXR, che presenta bounding box concordanti tra più radiologi per 28 reperti patologici.

• Dataset e Campionamento: Da 18.000 immagini, gli autori hanno selezionato un campione stratificato di 416 immagini suddivise in sei patologie (Atelettasia, Cardiomegalia, Consolidamento, Nodulo/Massa, Versamento Pleurico, Pneumotorace). La verità fondamentale (ground truth) è stata definita come la media delle annotazioni di tre radiologi.
• Modello: È stato utilizzato un modello DenseNet-121 pre-addestrato (da TorchXrayVision) come baseline. Il modello non è stato sottoposto a fine-tuning su VinDr-CXR per evitare il data leakage. Le predizioni sono state considerate positive se la confidenza superava lo 0,5.
• Metodi XAI: Quattro metodi di spiegabilità post-hoc sono stati applicati alle 336 immagini che hanno ricevuto predizioni positive corrette:
  1. GradCAM e GradCAM++: Mappe di attivazione di classe basate sul gradiente.
  2. Integrated Gradients: Attribuzione assiomatica lungo un percorso da una baseline.
  3. LIME: Modellazione surrogata locale tramite perturbazioni di superpixel.
• Metriche di Valutazione:
  • Intersezione su Unione (IoU): Misura la sovrapposizione tra la mappa di salienza binarizzata (top 50% di attivazione) e la ground truth del radiologo.
  • Accuratezza del Pointing Game: Una metrica binaria che assegna 1 se il pixel di massima attivazione cade all'interno della bounding box della ground truth.
  • Tasso di Fallimento Pericoloso (Dangerous Failure Rate): La proporzione di predizioni corrette in cui l'IoU è inferiore a 0,1. Questa soglia è stata selezionata per rappresentare una sovrapposizione clinicamente insignificante che potrebbe attivamente sviare l'attenzione.

Risultati Chiave
L'audit rivela un grave disaccoppiamento tra accuratezza della predizione e fedeltà della spiegazione:

• Alto Tasso di Fallimento: In tutti e quattro i metodi XAI, l'83,0% delle immagini classificate correttamente ha costituito un "fallimento pericoloso" (IoU < 0,1).
• Bassa Performance di Localizzazione:
  • IoU Medio: È variato da 0,044 (LIME) a 0,062 (Integrated Gradients).
  • Accuratezza del Pointing Game: È variata dall'1,2% (LIME) al 27,4% (Integrated Gradients).
• Confronto tra Metodi: Integrated Gradients ha ottenuto le prestazioni migliori, ma ha fallito comunque nel 76,2% dei casi. LIME è stato il peggiore, con un tasso di fallimento del 92,0%.
• Variazione della Patologia: Le condizioni che occupano ampie regioni anatomiche (Cardiomegalia, Versamento Pleurico) hanno mostrato valori di IoU leggermente superiori, mentre le condizioni focali (Nodulo/Massa, Pneumotorace) hanno mostrato la più bassa accuratezza di localizzazione.
• Evidenza Qualitativa: Casi rappresentativi (es. Atelettasia) hanno mostrato modelli che predicevano correttamente la condizione con alta confidenza (es. 63%) mentre la mappa di salienza si concentrava su regioni irrilevanti (es. basi polmonari/diaframma) anziché sulla patologia annotata.

Contributi Chiave

1. Quantificazione del Disaccoppiamento: Lo studio fornisce prove empiriche che nell'attuale IA per la radiografia del torace (specificamente DenseNet-121), un'alta accuratezza di predizione non garantisce spiegazioni spazialmente fedeli.
2. Definizione di "Fallimento Pericoloso": Gli autori formalizzano una modalità di fallimento distinta dalla semplice classificazione errata: una predizione corretta accoppiata a una spiegazione fuorviante, che pone un rischio unico per la sicurezza clinica sfruttando la fiducia del clinico.
3. Benchmarking dei Metodi XAI: Il documento stabilisce una baseline comparativa per GradCAM, GradCAM++, Integrated Gradients e LIME sul dataset VinDr-CXR, dimostrando che anche il metodo con le migliori prestazioni (Integrated Gradients) non soddisfa gli standard clinici di localizzazione.

Significatività e Rivendicazioni
Il documento sostiene che l'attuale pratica di implementare sistemi aumentati da XAI basandosi esclusivamente sull'accuratezza della predizione sia fondamentalmente errata. Gli autori affermano che:

• La Plausibilità Visiva è Insufficiente: Le mappe di calore che appaiono anatomicamente plausibili possono essere sistematicamente errate nella loro localizzazione.
• Gate di Validazione Obbligatori: L'accuratezza della predizione da sola è insufficiente per l'impiego clinico. Gli autori raccomandano che la validazione della localizzazione rispetto alla ground truth del radiologo diventi un passaggio obbligatorio prima che gli strumenti XAI vengano integrati nei flussi di lavoro radiologici.
• Raccomandazioni Specifiche:
  • Dovrebbe essere stabilito un pointing game accuracy minimo del 60% come soglia di implementazione.
  • Integrated Gradients è preferibile rispetto alle varianti di GradCAM e LIME per i compiti di radiografia del torace, sebbene nessuno soddisfi attualmente i parametri di sicurezza proposti.
  • LIME non dovrebbe essere utilizzato per la localizzazione in questo contesto a causa della sua accuratezza di pointing vicina allo zero.

Lo studio conclude che l'assunto "predizione corretta implica spiegazione affidabile" non è supportato dai dati e che, senza una rigorosa validazione della localizzazione, le mappe di salienza possono attivamente degradare il processo decisionale clinico anziché supportarlo.