Unsupervised Causal Prototypical Networks for De-biased Interpretable Dermoscopy Diagnosis

Each language version is independently generated for its own context, not a direct translation.

Immagina di dover spiegare a un amico come funziona un nuovo "medico robot" capace di diagnosticare la pelle guardando le foto delle nei (nei dermoscopici). Questo è il cuore del paper che hai condiviso, intitolato "CausalProto".

Ecco la spiegazione semplice, con qualche metafora per renderla chiara a tutti.

1. Il Problema: Il "Medico" che si frega dalle apparenze

Oggi, l'intelligenza artificiale (AI) è bravissima a guardare le foto delle nei e dire se sono pericolose o no. Ma c'è un grosso problema: queste AI sono come scatole nere. Non sai perché hanno preso una decisione.

Peggio ancora, queste AI sono spesso "pigre" e fanno truffe visive (chiamate shortcut learning).

L'analogia: Immagina un medico che deve riconoscere un leone. Se guarda solo le foto, potrebbe imparare che "tutti i leoni hanno l'erba verde sotto le zampe" (perché nelle foto di addestramento i leoni erano tutti in un prato). Se poi vede un leone nel deserto (senza erba), pensa: "Non è un leone!".
Nel caso della pelle, l'AI potrebbe imparare che "tutte le nei pericolose hanno un cerchio nero intorno" (perché i dottori usano un cerchio nero per misurarle nelle foto). Quindi, se vede una nebbia pericolosa senza cerchio, la ignora, o peggio, scambia una nebbia innocua con un cerchio per una malattia grave.

2. La Soluzione: CausalProto (Il Medico che usa la logica)

Gli autori hanno creato un nuovo sistema chiamato CausalProto. È come se avessero dato al medico robot un "filtro magico" per separare la verità dalle distrazioni.

Ecco come funziona, passo dopo passo:

A. Due Occhi, Due Menti (Scomposizione)

Il sistema ha due "cervelli" separati che lavorano insieme ma non si mescolano:

Il Cervello Medico (Causale): Guarda solo la nebbia, la forma e i colori della lesione. È l'unico che conta per la diagnosi.
Il Cervello Distrazione (Spurio): Guarda tutto il resto: il cerchio nero, la pelle sana intorno, la luce della stanza, le ombre.

La regola d'oro: Il sistema è programmato per assicurarsi che il "Cervello Medico" e il "Cervello Distrazione" non parlino mai tra loro. Se il cervello medico inizia a pensare al cerchio nero, il sistema lo punisce. Questo si chiama disentanglement (slegamento).

B. L'Archivio dei "Casi Perfetti" (Prototipi)

Invece di dire "scommetto che è male", il sistema dice: "Questa nebbia assomiglia moltissimo a questa foto specifica di un caso reale che ho già visto".

Crea due librerie di "casi modello":
- Una libreria di veri casi medici (solo la malattia).
- Una libreria di distrazioni (solo i cerchi neri, le ombre, ecc.).

C. Il "Filtro Magico" (Intervento Causale)

Quando arriva una nuova foto, il sistema fa un trucco geniale chiamato aggiustamento "do-calculus" (un termine matematico complesso, ma pensalo come un esperimento mentale).

Si chiede: "Se avessi questa nebbia, ma avessi tolto magicamente tutte le distrazioni (il cerchio, la luce, l'ombra), cosa direbbe il mio cervello medico?"
In pratica, il sistema "cancella" mentalmente tutte le distrazioni dall'immagine prima di prendere la decisione finale.

3. Perché è così speciale?

Fino a ora, c'era un compromesso: o avevi un medico AI molto preciso ma incomprensibile (scatola nera), o uno spiegabile ma meno preciso.

CausalProto rompe questo compromesso:

È preciso: Perché non si lascia ingannare dalle distrazioni.
È trasparente: Quando dice "È pericoloso", ti mostra esattamente quale parte della nebbia ha guardato e ti mostra le foto dei casi simili che ha usato come riferimento. È come se il medico ti dicesse: "Guarda, questa nebbia è uguale a questa qui, che sapevamo essere pericolosa. Non guardo il cerchio nero, guardo solo la nebbia".

In sintesi

Immagina di avere un detective che, invece di fermarsi all'aspetto esteriore di un sospetto (i vestiti, l'ambiente), usa un filtro speciale per vedere solo il comportamento reale della persona, ignorando tutto il resto.

CausalProto fa lo stesso per la pelle: pulisce l'immagine dalle "bugie" visive (come i cerchi neri o la luce sbagliata) e si concentra solo sulla verità medica, rendendo la diagnosi sia più sicura che più facile da capire per i dottori umani.

Each language version is independently generated for its own context, not a direct translation.

1. Il Problema: Bias di Selezione e Apprendimento "Shortcut"

Nonostante il successo del deep learning nell'analisi delle immagini dermoscopiche, la natura "black-box" dei modelli ostacola la fiducia clinica. Per colmare questo divario, sono stati proposti i Prototypical Networks (reti prototipiche), che offrono trasparenza basata sul ragionamento per casi simili. Tuttavia, questi modelli soffrono di un problema critico nei dati clinici reali: il bias di selezione.

Apprendimento Shortcut (Shortcut Learning): I modelli tendono a imparare correlazioni spurie (es. artefatti ambientali, macchie di inchiostro, bordi della pelle) invece delle vere caratteristiche patologiche.
Conseguenza: Le reti codificano questi confondenti ambientali nei prototipi, creando evidenze visive fuorvianti che compromettono l'affidabilità della diagnosi.
Limitazione attuale: I metodi tradizionali di minimizzazione del rischio empirico (ERM) si adattano alle probabilità condizionali osservazionali $P(Y|X)$ , sfruttando involontariamente i percorsi "backdoor" creati dai confondenti.

2. Metodologia: CausalProto

Gli autori propongono CausalProto, una rete prototipica causale non supervisionata progettata per purificare la catena di evidenze visive. Il framework si basa su un Modello Causale Strutturale (SCM) e si articola in tre fasi principali:

A. Scomposizione tramite Information Bottleneck (Disentanglement)

Il sistema utilizza un encoder a due rami paralleli per separare le caratteristiche causali da quelle spurie senza bisogno di annotazioni ambientali:

Encoder Causale ( $f_c$ ): Estrae la variabile latente causale $Z_C$ (caratteristiche patologiche genuine).
Encoder Spurio ( $f_s$ ): Estrae la variabile latente spuria $Z_S$ (artefatti ambientali).
Vincolo di Bottleneck: Per garantire l'ortogonalità stretta tra $Z_C$ e $Z_S$ , viene minimizzata l'informazione mutua (MI) tra le due rappresentazioni. Poiché il calcolo esatto della MI è intrattabile, viene utilizzata l'approssimazione vCLUB (Variational Contrastive Log-Ratio Upper Bound).

B. Spazi Prototipici Indipendenti

Vengono creati due spazi di prototipi distinti:

Libreria Causale ( $P_C$ ): Cattura i veri pattern patologici.
Libreria Spuria ( $P_S$ ): Modella gli artefatti ambientali (funge da "dizionario" dei confondenti).
I prototipi causali sono vincolati a proiettarsi sulle rappresentazioni latenti delle immagini reali di training per garantire interpretabilità clinica verificabile.

C. Intervento Causale tramite Do-Calculus

Durante l'inferenza, invece di prevedere direttamente $P(Y|X)$ , il modello esegue un aggiustamento backdoor per isolare l'effetto causale vero $P(Y|do(X))$:

Viene marginalizzato lo spazio dei confondenti $S$ utilizzando la libreria spuria appresa $P_S$ .
L'integrazione continua su $S$ è approssimata tramite Pooling della Media Geometrica Normalizzata Pesata (NWGM) su $P_S$ .
Questo processo matematicamente "media" l'influenza degli artefatti ambientali, producendo una previsione de-biasata basata solo sulle evidenze patologiche pure.

3. Contributi Chiave

Definizione Rigorosa: Identificazione del meccanismo di generazione di evidenze spurie nelle task di visione medica e della vulnerabilità delle reti prototipiche ai fattori di confusione.
Disentanglement Non Supervisionato: Raggiungimento di una separazione ortogonale stretta tra caratteristiche patologiche e ambientali tramite approssimazione del limite superiore dell'informazione mutua, senza richiedere annotazioni specifiche per l'ambiente.
Intervento Causale Efficiente: Introduzione di un dizionario di prototipi spurii non supervisionati e utilizzo del do-calculus per trasformare complesse intervalli causali in un efficiente pooling di aspettazione, eliminando il rumore ambientale.
Superamento del Trade-off: Dimostrazione che è possibile ottenere sia interpretabilità visiva trasparente che accuratezza diagnostica superiore, rompendo il tradizionale compromesso tra accuratezza e spiegabilità.

4. Risultati Sperimentali

Il modello è stato valutato su tre dataset dermoscopici pubblici: HAM10000, ISIC 2019 e PAD-UFES-20.

Performance Quantitativa: CausalProto ha ottenuto risultati state-of-the-art, superando i modelli black-box (es. ResNet-50, EfficientNet) e le reti prototipiche esistenti (es. ProtoPNet, PIP-Net).
- Su HAM10000, ha migliorato l'accuratezza bilanciata (Balanced Accuracy) del 4.1% rispetto al miglior baseline causale (CausalVAE).
- Ha mostrato una consistenza superiore su tutti i dataset, mantenendo alte prestazioni anche in scenari sbilanciati.
Qualità dei Prototipi e Disentanglement:
- Purezza: I prototipi causali generati mostrano una purezza di classe significativamente più alta (fino all'85% su ISIC 2019) rispetto ai metodi baselines, indicando che si focalizzano su regioni patologiche reali e non su artefatti.
- NMI (Normalized Mutual Information): Il valore di NMI tra $Z_C$ e $Z_S$ è stato drasticamente ridotto (0.07), confermando la separazione efficace delle feature.
Studi di Ablazione:
- Rimuovere il vincolo di MI o unire gli spazi prototipici ha causato un crollo delle prestazioni e un aumento del bias.
- Rimuovere l'aggiustamento do-calculus ha mantenuto la separazione delle feature ma ha ridotto l'accuratezza, provando che la marginalizzazione esplicita dei confondenti è essenziale per la diagnosi finale.
Visualizzazione: Le mappe di calore (heatmaps) e i casi simili recuperati dimostrano che il modello ignora gli artefatti ambientali (es. linee di riferimento, peli) e si concentra esclusivamente sulle lesioni cutanee.

5. Significato e Impatto

CausalProto rappresenta un passo avanti fondamentale verso l'IA affidabile in ambito medico.

Fiducia Clinica: Fornendo spiegazioni visive "pure" e non distorte dal bias di selezione, il modello allinea il ragionamento dell'AI con quello degli esperti dermatologi.
Robustezza: La capacità di marginalizzare i confondenti ambientali rende il sistema più robusto in scenari reali dove le condizioni di acquisizione delle immagini variano.
Direzione Futura: Sebbene il metodo sia efficace per i confondenti visivi, gli autori notano che l'integrazione di prior clinici multimodali (es. anamnesi del paziente) nei futuri modelli causali strutturati sarà necessaria per catturare confondenti non visivi complessi.

In sintesi, il lavoro dimostra che l'inferenza causale può risolvere il dilemma storico tra accuratezza e interpretabilità, trasformando la diagnosi dermoscopica automatizzata da un processo di "adattamento ai dati" a un ragionamento causale intervenzionale.