Label Dropout: Improved Deep Learning Echocardiography Segmentation Using Multiple Datasets With Domain Shift and Partial Labelling

1. Il Problema

La segmentazione automatica delle strutture cardiache nelle immagini ecocardiografiche (echo) è fondamentale per la diagnosi e la gestione terapeutica. Sebbene i modelli di deep learning abbiano mostrato promettenti risultati, la loro traduzione clinica richiede una robustezza significativa di fronte alla variabilità delle immagini reali (diversi scanner, livelli di competenza degli operatori, ecc.).

Per ottenere tale robustezza, è necessario addestrare i modelli su dataset multipli e diversificati. Tuttavia, un ostacolo maggiore sorge quando si combinano questi dataset: l'etichettatura parziale. Spesso, i dataset pubblici contengono etichette per strutture diverse (es. ventricolo sinistro, atrio sinistro, miocardio) che non sono tutte presenti in ogni singolo campione.

• La sfida: L'addestramento "naif" su dati parzialmente etichettati crea conflitti di supervisione.
• La soluzione esistente: Sono state proposte funzioni di perdita adattive (es. Adaptive Loss) che ignorano le classi mancanti nel calcolo della perdita.
• Il fallimento osservato: Gli autori dimostrano che, quando si addestra su dataset multipli con spostamento di dominio (domain shift), anche le funzioni di perdita adattive falliscono. Il modello impara una forma di "shortcut learning" (apprendimento scorciatoia): associa le caratteristiche specifiche del dominio (es. il tipo di scanner o il contrasto dell'immagine) alla presenza o assenza delle etichette. Di conseguenza, il modello smette di prevedere le strutture che mancano nei dataset di origine, degradando drasticamente le prestazioni su quelle strutture.

2. Metodologia

Gli autori hanno utilizzato tre dataset pubblici di ecocardiografia 2D (CAMUS, Unity Imaging, EchoNet Dynamic) con diverse combinazioni di etichette (Ventricolo Sinistro - LV, Miocardio del Ventricolo Sinistro - LVM, Atrio Sinistro - LA).

Architetture e Baseline

• Modello: U-Net come modello di base.
• Funzioni di Perdita:
  1. Standard CCE (Categorical Cross Entropy): Calcolata su tutte le classi.
  2. Adaptive Loss: Rimuove i termini di perdita per le etichette mancanti nel ground truth.
• Preprocessing: Rimozione del rumore esterno al cono ultrasonoro, ridimensionamento a 256x256.

La Proposta: Label Dropout

Per rompere il legame scorciatoia tra le caratteristiche del dominio e la presenza delle etichette, gli autori propongono una nuova strategia chiamata Label Dropout.

• Meccanismo: Durante l'addestramento, per ogni campione, viene applicata una probabilità $p$ di rimuovere (impostare a sfondo) un'etichetta parziale presente nel ground truth.
• Logica: Se un'etichetta è presente in un dataset ma manca in un altro, il Label Dropout simula artificialmente la sua assenza anche nei dataset dove è presente. Questo forza il modello a imparare a segmentare la struttura basandosi sulle caratteristiche visive dell'immagine e non sulla "presenza/assenza" dell'etichetta correlata al dominio.
• Implementazione: Se più classi sono parzialmente etichettate, ne viene rimossa casualmente una sola per campione.

3. Esperimenti e Risultati Chiave

Gli autori hanno condotto quattro esperimenti per validare la loro ipotesi:

1. Necessità di dataset multipli: Dimostrato che i modelli addestrati su un singolo dataset falliscono quando testati su altri (bassa generalizzazione).
2. Fallimento delle loss adattive con Domain Shift: Combinando i tre dataset, il modello con Adaptive Loss ha fallito nel prevedere LVM e LA nel dataset EchoNet Dynamic, confermando l'ipotesi dello shortcut learning. L'augmentation dei dati ha aiutato ma non risolto il problema.
3. Validazione in ambiente controllato: Rimuovendo artificialmente il 50% delle etichette LVM solo dal dataset CAMUS (senza spostamento di dominio), la Adaptive Loss ha funzionato bene, confermando che il problema nasce dall'interazione tra perdita parziale e spostamento di dominio.
4. Efficacia del Label Dropout:
   • Addestrando su CAMUS e Unity Imaging (con etichetta LA rimossa artificialmente da Unity), l'uso del Label Dropout ha migliorato significativamente le prestazioni.
   • Anche con una probabilità di dropout bassa (10%), le prestazioni sono migliorate, rompendo il legame scorciatoia.
   • Risultati quantitativi (sull'insieme di test EchoNet Dynamic addestrato su tutti e tre i dataset):
     • LVM (Miocardio): Il punteggio Dice è passato da 0.319 (senza dropout) a 0.518 (con dropout), un aumento del 62%.
     • LA (Atrio): Il punteggio Dice è passato da 0.553 a 0.689, un aumento del 25%.
     • I risultati sono stati statisticamente significativi (p-value < 0.05/0.01).

4. Contributi Principali

1. Identificazione del problema: È la prima volta che viene evidenziato come gli approcci state-of-the-art per dati parzialmente etichettati (come la Adaptive Loss) possano fallire catastroficamente in presenza di spostamento di dominio a causa di un meccanismo di shortcut learning.
2. Nuova tecnica (Label Dropout): Proposta di un metodo semplice ma efficace per mitigare questo problema, forzando il modello a generalizzare le caratteristiche delle strutture indipendentemente dal dominio di provenienza.
3. Validazione empirica: Dimostrazione che il metodo migliora drasticamente la segmentazione su strutture non etichettate in alcuni dataset di addestramento, rendendo i modelli più robusti per l'uso clinico reale.

5. Significato e Implicazioni

Questo lavoro è cruciale per lo sviluppo di modelli di segmentazione cardiaca clinicamente traslabili. Poiché la creazione di dataset completi e perfettamente etichettati su tutte le strutture è costosa e difficile, i ricercatori tendono a combinare dataset pubblici esistenti. Questo paper dimostra che tale combinazione, senza un'adeguata gestione delle etichette parziali in presenza di domain shift, porta a modelli inaffidabili.

La tecnica Label Dropout offre una soluzione pratica per addestrare modelli più generalizzabili su dati eterogenei, permettendo di sfruttare al meglio le risorse di dati disponibili senza richiedere una ricompletazione manuale delle etichette. I futuri lavori esploreranno l'applicazione di questa tecnica su architetture diverse (es. Transformer) e su altre modalità di imaging.