Leveraging Causal Reasoning Method for Explaining Medical Image Segmentation Models

Questo articolo presenta un nuovo metodo di spiegazione per i modelli di segmentazione delle immagini mediche basato sul ragionamento causale e sull'effetto medio di trattamento (ATE), che supera le tecniche esistenti fornendo spiegazioni più fedeli e rivelando significative eterogeneità nelle strategie percettive dei diversi modelli.

L'essenziale

Immagina che le intelligenze artificiali usate per analizzare le immagini mediche (come le risonanze magnetiche o le radiografie) siano come cucine stellate misteriose.

Il Problema: La Cucina "Scatola Nera"

Fino a poco tempo fa, queste "cucine" (i modelli di deep learning) erano delle scatole nere. Mettevamo dentro un'immagine di un paziente e loro ci davano fuori un risultato perfetto: "Ecco dove c'è la lesione".
Il problema? Nessuno sapeva come avevano cucinato quel piatto.

• Hanno guardato davvero la lesione?
• O hanno guardato un'ombra sullo sfondo?
• O forse hanno seguito una ricetta sbagliata che funziona solo per caso?

Gli esperti volevano sapere: "Cosa hai guardato esattamente per prendere questa decisione?". Le vecchie tecniche di spiegazione funzionavano bene per le foto semplici (come dire "è un gatto" o "è un cane"), ma fallivano miseramente quando dovevano spiegare immagini mediche complesse, dove ogni pixel conta e le relazioni sono intricate.

La Soluzione: PdCR (Il "Giocattolo" del Causa-Effetto)

Gli autori di questo studio hanno inventato un nuovo metodo chiamato PdCR (Reasoning Causale Guidato dalle Perturbazioni).

Immagina di avere un'immagine medica e di voler capire perché l'AI ha segnato una certa zona. Invece di guardare passivamente l'immagine, il PdCR fa un esperimento mentale molto intelligente: il gioco del "Cosa succederebbe se...".

Ecco come funziona, passo dopo passo, con un'analogia:

1. Scegli il bersaglio: L'AI seleziona una piccola zona dell'immagine (la "lesione" o l'area di interesse).
2. Il "Trucco" (Perturbazione): Invece di guardare l'immagine così com'è, il PdCR prende dei "pezzi" dell'immagine circostante e li sostituisce con altri pezzi presi da altre immagini (come se cambiassi gli ingredienti intorno al piatto principale).
3. Osserva la reazione:
   • Se cambi un pezzo di sfondo e l'AI smette di riconoscere la lesione, allora quel pezzo di sfondo era fondamentale (ha un effetto positivo).
   • Se cambi un pezzo e l'AI migliora la sua previsione, allora quel pezzo stava confondendo l'AI (ha un effetto negativo, come un ingrediente che rovinava il gusto).
   • Se cambi un pezzo e all'AI non importa nulla, allora quel pezzo era irrilevante.

Perché è diverso dagli altri?

Le vecchie tecniche erano come guardare una foto e dire: "Qui c'è molto colore rosso, quindi è importante". Ma il colore rosso potrebbe essere solo un riflesso inutile.
Il PdCR, invece, è come un detective che fa esperimenti. Non si fida delle apparenze (correlazioni), ma cerca la causa reale.

• Analogia: Se vuoi sapere se il sole fa crescere le piante, non basta dire "quando c'è il sole le piante sono verdi". Devi togliere il sole e vedere se la pianta muore. Il PdCR "toglie il sole" (o lo cambia) in modo controllato per vedere cosa succede davvero.

Le Scoperte Sorprendenti

Usando questo metodo, gli autori hanno scoperto cose affascinanti sui modelli medici:

1. Non tutti pensano allo stesso modo: Modelli diversi (alcuni basati su vecchie reti neurali, altri su tecnologie nuove come Mamba o KAN) "guardano" l'immagine in modi completamente diversi. Alcuni guardano i dettagli vicini, altri guardano l'intera immagine. È come se un cuoco guardasse solo il sale e un altro guardasse l'intero forno.
2. L'AI può essere ingannata: Hanno scoperto che alcune parti dell'immagine che pensavamo fossero utili, in realtà confondono l'AI. A volte, togliere una parte dell'immagine aiuta il modello a fare un errore meno grave!
3. Adattabilità: Lo stesso modello può comportarsi in modo diverso a seconda del tipo di malattia. Se deve cercare una macchia grande sulla pelle, guarda l'insieme; se deve cercare un vaso sanguigno sottile, si concentra sui dettagli locali.

Perché è importante?

Questo metodo è come dare agli scienziati una radiografia del cervello dell'AI.

• Aiuta a capire se l'AI sta imparando la medicina giusta o se sta solo "barando" guardando dettagli inutili.
• Permette di migliorare i modelli rendendoli più sicuri e affidabili per i medici.
• Trasforma l'AI da una "scatola nera" misteriosa in un collega trasparente con cui si può discutere.

In sintesi: Il PdCR è il metodo che ci permette di dire all'intelligenza artificiale: "Fermati, spiegami perché hai scelto proprio quella zona, e dimmi se stavi guardando la cosa giusta o se ti stavi distraendo con lo sfondo". È un passo fondamentale per rendere l'AI medica più sicura e comprensibile per tutti noi.

Sommario tecnico

1. Il Problema

La segmentazione delle immagini mediche è fondamentale per il supporto alle decisioni cliniche, ma la natura "scatola nera" dei modelli di deep learning solleva preoccupazioni sulla loro affidabilità in contesti ad alto rischio.

• Limiti delle tecniche attuali: Le metodologie di spiegabilità (XAI) esistenti sono state sviluppate principalmente per compiti di classificazione. Nel contesto della segmentazione (un compito di previsione densa), questi metodi falliscono perché non riescono a gestire la complessità delle interazioni input-output e le strutture latenti interdipendenti.
• Correlazione vs. Causalità: Le tecniche attuali (basate su gradienti o permutazioni) si basano spesso sull'analisi di correlazione, assumendo implicitamente che le regioni più rilevanti siano anche le cause dirette del risultato. Tuttavia, la correlazione non implica causalità, portando a spiegazioni inaccurate o inefficienti a causa di falsi collegamenti.
• Mancanza di strumenti sistematici: Non esistono strumenti adeguati per analizzare i meccanismi causali che collegano gli input (regioni dell'immagine) agli output (maschere di segmentazione) nei modelli moderni.

2. Metodologia: PdCR (Perturbation-driven Causal Reasoning)

Gli autori propongono PdCR, un framework agnostico rispetto al modello che utilizza l'inferenza causale per quantificare l'influenza causale delle regioni di input sulle previsioni di segmentazione.

Il processo si articola in quattro fasi principali (illustrate nella Figura 1 del paper):

1. Selezione dell'RoI e Stato Iniziale: Viene selezionata una Regione di Interesse (RoI) e viene calcolato lo stato iniziale della performance del modello su di essa (misurato tramite una metrica come il coefficiente di similarità Dice - DSC).
2. Interventi e Perturbazioni: Invece di perturbare l'intera immagine (che distruggerebbe la struttura contestuale), l'immagine viene suddivisa in patch. Su ciascuna patch circostante l'RoI viene applicata un'intervento causale $do(\cdot)$.
   • Strategia di Perturbazione: Per evitare artefatti, le perturbazioni non sono semplici rumore o sfocature, ma sostituzioni di patch con blocchi estratti casualmente dalla distribuzione naturale del dataset (esclusa l'immagine target). Questo garantisce che l'immagine perturbata rimanga "plausibile" (in-distribution).
3. Stima dell'Effetto Causale (ATE): Il framework calcola l'Effetto Medio del Trattamento (Average Treatment Effect - ATE). Misura quanto la perturbazione di una specifica patch altera la performance di segmentazione dell'RoI target.
   • L'ATE è definito come la differenza attesa tra il risultato con la perturbazione ($R_1$) e il risultato senza ($R_0$): $ATE = E[R_1 - R_0]$.
   • Un ATE positivo indica che la patch contribuisce positivamente alla segmentazione; un ATE negativo indica che la patch inibisce o danneggia la previsione.
4. Strategia di Potatura (Pruning) Coarse-to-Fine: Per ridurre il costo computazionale (che crescerebbe esponenzialmente con la riduzione della dimensione delle patch), viene adottato un approccio a due stadi:
   • Fase Grossolana: Si testano le patch con un numero ridotto di iterazioni. Se l'effetto è inferiore a una soglia ($\tau$), la patch viene scartata come irrilevante.
   • Fase Fine: Solo le patch rilevanti subiscono un calcolo completo dell'ATE con un numero maggiore di iterazioni ($N=50$) per ottenere una mappa di salienza causale precisa.

3. Contributi Chiave

• Framework Causale per la Segmentazione: Introduzione di PdCR, il primo metodo che applica rigorosamente l'inferenza causale (tramite il framework degli esiti potenziali) specificamente per i modelli di segmentazione medica.
• Attribuzione Bidirezionale: A differenza dei metodi esistenti che mostrano solo le regioni "importanti", PdCR identifica sia le aree che contribuiscono positivamente (migliorano la segmentazione) sia quelle che contribuiscono negativamente (la loro rimozione o alterazione migliora la performance, indicando pattern ingannevoli o dipendenze spurie).
• Analisi Sistematica: Il metodo permette di analizzare le strategie percettive di diverse architetture (CNN, ViT, Mamba, KAN) e di rivelare eterogeneità significative non solo tra modelli diversi, ma anche all'interno dello stesso modello su dataset diversi.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su due dataset medici rappresentativi:

• HAM10000: Segmentazione di lesioni cutanee (lesioni grandi, irregolari).
• FIVES: Segmentazione di vasi retinici (strutture sottili, frammentate).

Confronto Quantitativo:

• PdCR è stato confrontato con due metodi di baseline: SEG-GRAD (basato su gradienti) e MiSuRe (basato su ottimizzazione di permutazione).
• Su entrambi i dataset, PdCR ha ottenuto punteggi di attribuzione significativamente superiori (es. media di 0.3734 su HAM10000 contro 0.0859 di SEG-GRAD e 0.1532 di MiSuRe).
• PdCR ha dimostrato una convergenza più rapida e stabile nelle curve di attribuzione rispetto ai metodi concorrenti.

Analisi Qualitativa e Scoperte:

• Eterogeneità delle Architetture: I modelli CNN si basano su contesti locali, mentre i modelli basati su Transformer (ViT) e Mamba mostrano dipendenze globali o sequenziali.
• Pattern Ingannevoli: Una scoperta cruciale è che una porzione significativa delle patch ha un'influenza negativa. Questo suggerisce che molti modelli sfruttano pattern ingannevoli (es. sfondi o artefatti) che, se perturbati, migliorano la segmentazione.
• Adattabilità al Dataset: Lo stesso modello (es. MCU-RE) adotta strategie diverse a seconda del dataset: usa un contesto globale per lesioni cutanee (HAM10000) ma si sposta su cue locali per i vasi retinici (FIVES), dimostrando una plasticità percettiva non rilevabile con metodi tradizionali.

5. Significato e Impatto

• Trasparenza e Fiducia: PdCR offre una comprensione più profonda e fedele del comportamento dei modelli, andando oltre le semplici correlazioni spaziali.
• Ottimizzazione dei Modelli: Identificando le regioni che influenzano negativamente le previsioni, i ricercatori possono riaddestrare i modelli per eliminare dipendenze spurie e migliorare la robustezza.
• Nuova Direzione per la Ricerca: Il lavoro stabilisce una base solida per l'uso del ragionamento causale nell'XAI medico, suggerendo che l'integrazione tra analisi causale e analisi delle feature globali è la strada per sviluppare sistemi di intelligenza artificiale più affidabili e trasparenti per la clinica.

In sintesi, il paper dimostra che l'approccio causale non solo spiega dove il modello guarda, ma perché e come quelle regioni influenzano causalmente la decisione, rivelando complessità e debolezze nascoste nei modelli di segmentazione attuali.