Adaptation of Weakly Supervised Localization in Histopathology by Debiasing Predictions

1. Il Problema: Bias nelle Localizzazioni Deboli Supervisionate (WSOL)

Il lavoro affronta una sfida critica nell'uso dell'intelligenza artificiale per la patologia digitale: l'adattamento di modelli Weakly Supervised Object Localization (WSOL) a nuovi domini (ad esempio, diversi organi o centri ospedalieri con protocolli di colorazione differenti).

• Contesto: I modelli WSOL apprendono a localizzare regioni di interesse (ROI) utilizzando solo etichette a livello di immagine, evitando la costosa annotazione pixel-per-pixel.
• La Sfida del Domain Shift: Quando un modello addestrato su un dataset sorgente (es. colon) viene applicato a un target diverso (es. linfonodo o un altro centro), si verifica un forte domain shift.
• Il Fenomeno del Bias: In condizioni di shift severo, i modelli WSOL tendono a sviluppare un bias predittivo verso le classi dominanti. Invece di distribuire le previsioni in modo equilibrato, il modello sovrastima una classe (es. "tumore") e sottostima le altre.
• Fallimento dell'Adattamento SFDA Tradizionale: I metodi di Source-Free Domain Adaptation (SFDA), che adattano il modello usando solo dati target non etichettati tramite auto-training, falliscono in questo scenario. Poiché si basano sulle previsioni iniziali del modello sorgente, rinforzano il bias esistente ad ogni iterazione. Questo porta a una distribuzione delle pseudo-etichette estremamente sbilanciata, degradando sia la classificazione che la localizzazione.

2. Metodologia: SFDA-DeP (Debiasing Predictions)

Gli autori propongono SFDA-DeP, un metodo ispirato al concetto di Machine Unlearning (dimenticare l'apprendimento). L'obiettivo non è cancellare intere classi, ma correggere iterativamente le previsioni distorte sul dominio target.

Il metodo si articola in tre componenti principali:

A. Identificazione e Correzione del Bias (Loss di Dimenticanza e Mantenimento)

Il processo è iterativo e divide i campioni target in due insiemi basati sull'incertezza (entropia normalizzata) e sulla classe predominante:

1. Set di Dimenticanza ($B_f$): Contiene i campioni più incerti appartenenti alle classi sovrastimate (dominanti).
   • Obiettivo: Il modello deve "dimenticare" l'etichetta corrente per questi campioni.
   • Implementazione: Si massimizza l'entropia (o si minimizza la cross-entropia negativa) per questi campioni, spingendo il modello a non prevedere più la classe dominante per loro.
2. Set di Mantenimento ($B_r$): Contiene i campioni certi (bassa entropia) e quelli delle classi sottorappresentate.
   • Obiettivo: Rafforzare le previsioni corrette e stabili.
   • Implementazione: Si minimizza la standard cross-entropia per mantenere queste previsioni.

Questi set vengono ricalcolati dinamicamente ogni $m$ epoche per evitare l'overfitting su pseudo-etichette errate e permettere la correzione dei confini decisionali.

B. Supervisione a Livello di Pixel (Localization Head)

Poiché lo shift di dominio altera l'aspetto visivo delle regioni tumorali, la sola classificazione non basta per una buona localizzazione.

• Viene introdotto un classificatore a livello di pixel leggero che opera sugli embedding delle feature.
• Questo classificatore è addestrato per distinguere foreground (tessuto tumorale) da background, utilizzando mappe di attivazione (CAM) generate dal modello sorgente come pseudo-etichette parziali.
• Questo aiuta a mantenere la capacità discriminativa spaziale durante l'adattamento.

C. Funzione di Perdita Totale

La perdita totale ($L$) combina tre termini ottimizzati congiuntamente:
$$L = \lambda_{retain}L_{retain} + \lambda_{forget}L_{forget} + \lambda_{loc}L_{loc}$$
Dove $L_{retain}$ e $L_{forget}$ gestiscono il bilanciamento delle classi, e $L_{loc}$ garantisce la coerenza spaziale.

3. Contributi Chiave

1. Identificazione del Bias come Ostacolo Primario: Il paper evidenzia che l'amplificazione del bias predittivo è il principale motivo di fallimento dell'SFDA nei modelli WSOL in istopatologia, un problema spesso trascurato.
2. Approccio Ispirato al Machine Unlearning: Invece di un semplice auto-training, il metodo introduce un meccanismo attivo di "dimenticanza" selettiva per le classi dominanti incerte, rompendo il ciclo di rinforzo del bias.
3. Adattamento Dinamico: La capacità di ricalcolare periodicamente i set di dimenticanza e mantenimento permette al modello di adattarsi man mano che i confini decisionali si spostano.
4. Ripristino delle Feature Spaziali: L'integrazione di un head di localizzazione pixel-level ottimizzato congiuntamente ripristina la capacità di localizzazione che altrimenti verrebbe persa sotto shift di distribuzione.

4. Risultati Sperimentali

Il metodo è stato valutato su benchmark pubblici di istopatologia con shift tra organi e centri:

• Dataset: GlaS (colon), CAMELYON16 e CAMELYON17 (linfonodi mammari).
• Architetture Testate: ResNet-50 (CNN) e DeiT-Tiny (Transformer) con modelli WSOL come PixelCAM, DeepMIL e SAT.
• Performance:
  • SFDA-DeP supera costantemente i metodi state-of-the-art (come SFDA-DE, CDCL, ERL, RGV).
  • Miglioramenti Significativi: Su PixelCAM, si ottiene un aumento medio di +16.1 punti PxAP (localizzazione) e +12.5 punti CL (classificazione) rispetto a SFDA-DE.
  • Robustezza: Il metodo mostra miglioramenti particolarmente evidenti nei centri CAMELYON17 dove i baselines tradizionali collassano verso il 50% di accuratezza a causa del bias, mentre SFDA-DeP raggiunge fino all'86.2% di accuratezza in alcuni casi.
  • Qualità Visiva: Le mappe di attivazione (CAM) generate da SFDA-DeP sono più coerenti, focalizzate sul tessuto tumorale e meno rumorose rispetto ai baselines che spesso evidenziano aree spurie.

5. Significato e Impatto

Questo lavoro è significativo perché:

• Affidabilità Clinica: Migliora l'affidabilità dei sistemi di diagnosi assistita da computer quando vengono implementati in nuovi ospedali o su nuovi tipi di tessuti, riducendo il rischio di falsi positivi/negativi dovuti a bias di dominio.
• Efficienza delle Risorse: Permette di riutilizzare modelli addestrati su grandi dataset senza bisogno di nuove annotazioni costose (SFDA), risolvendo il problema specifico della distribuzione sbilanciata che affligge l'adattamento non supervisionato.
• Nuova Prospettiva: Introduce il concetto di "dimenticare attivamente" le previsioni errate come strategia di adattamento, offrendo un nuovo paradigma per la ricerca sull'adattamento di dominio in ambito medico.

In sintesi, SFDA-DeP risolve il problema del collasso modale nei modelli WSOL sotto forte shift di dominio, garantendo che l'adattamento porti a un bilanciamento delle classi e a una localizzazione accurata, essenziale per l'uso clinico reale.