Handling Supervision Scarcity in Chest X-ray Classification: Long-Tailed and Zero-Shot Learning

Questo paper presenta soluzioni specifiche per la classificazione delle radiografie toraciche che affrontano la scarsità di supervisione dovuta a distribuzioni di malattie sbilanciate e annotazioni mancanti, ottenendo il primo posto nella sfida CXR-LT 2026 grazie a strategie di apprendimento multi-etichetta e zero-shot.

L'essenziale

Immagina di essere un medico radiologo che deve guardare migliaia di radiografie del torace ogni giorno. Il suo compito è individuare malattie come polmoniti, tumori o fratture. Tuttavia, c'è un grosso problema: alcune malattie sono comunissime (come un semplice raffreddore), mentre altre sono rarissime (come una malattia genetica specifica). Inoltre, a volte le annotazioni sui dati sono incomplete o mancanti.

Questo articolo descrive come un team di ricercatori ha vinto una gara internazionale (la sfida CXR-LT 2026) creando un'intelligenza artificiale capace di risolvere proprio questi problemi. Ecco come funziona, spiegato con parole semplici e metafore.

1. Il Problema: La "Lista della Spesa" Sbilanciata

Immagina di insegnare a un bambino a riconoscere gli animali guardando un album fotografico.

• Il problema: L'album ha 1.000 foto di gatti, 500 di cani, ma solo 2 di giraffe e 1 di un animale estinto che nessuno ha mai visto.
• La conseguenza: Se insegni al bambino solo con questo album, diventerà un esperto di gatti e cani, ma quando vedrà una giraffa dirà "è un cane" e quando vedrà l'animale estinto non saprà proprio cosa dire.
• Nella medicina: Le malattie comuni dominano i dati, mentre quelle rare (la "coda lunga" della distribuzione) vengono ignorate dall'IA. Inoltre, ci sono malattie così rare che non abbiamo nemmeno foto per insegnarle all'IA (queste sono le "Out-of-Distribution" o OOD).

2. La Soluzione: Due Strategie per Due Problemi

Il team ha creato due "cervelli" diversi per affrontare due sfide diverse.

Sfida 1: Riconoscere le Malattie Rare (Task 1)

L'Analogia: Immagina di essere un giudice in un concorso di bellezza dove ci sono 1.000 candidate bionde e solo 2 rosse. Se il giudice premia solo le bionde perché sono la maggioranza, le rosse non vincono mai.
La Soluzione dell'IA:

• Dare più peso alle rare: L'IA è stata addestrata con una "regola speciale". Quando vede una malattia rara, le dice: "Ascolta, questa è importante! Non ignorarla solo perché ne hai viste poche!". È come se il giudice fosse obbligato a dare un voto extra alle candidate rare per bilanciare la lista.
• Vedere da più angolazioni: L'IA guarda la stessa radiografia più volte, ruotandola leggermente o ingrandendola (come se guardassi un quadro da diverse distanze per cogliere ogni dettaglio). Poi, unisce tutte queste "opinioni" per prendere la decisione finale.
• Il filtro "Normale": Se l'IA è molto sicura che un paziente sia perfettamente sano, riduce automaticamente il punteggio di tutte le altre malattie possibili. È come dire: "Se il motore è perfetto, non può esserci una perdita d'olio".

Risultato: L'IA è diventata bravissima a trovare sia le malattie comuni che quelle rare, arrivando prima nella classifica mondiale.

Sfida 2: Riconoscere Malattie Mai Viste (Task 2)

L'Analogia: Immagina di dover riconoscere un animale che non hai mai visto, ma ti viene data una descrizione scritta: "Ha un collo lungo, è verde e vive nella giungla". Anche se non hai mai visto un'iguana, puoi indovinare di cosa si tratta leggendo la descrizione.
La Soluzione dell'IA:

• Leggere e Capire: Invece di mostrare all'IA foto di malattie sconosciute (che non esistono nel suo addestramento), gli hanno dato le descrizioni mediche scritte (es. "Scoliosi", "Osteopenia").
• Il Ponte tra Immagine e Testo: L'IA usa un modello speciale (chiamato WhyXrayCLIP) che è come un traduttore universale. Confronta la radiografia con il testo della malattia. Se la forma della colonna vertebrale nella foto assomiglia alla descrizione della "Scoliosi", l'IA dice: "Sembra proprio questa!".
• Nessun esempio visivo: L'IA non ha mai visto una foto di "Gozzo" o "Adenopatia" durante l'addestramento, ma ha capito il concetto leggendo le parole.

Risultato: L'IA è riuscita a diagnosticare malattie che non aveva mai "visto" prima, arrivando di nuovo prima nella classifica.

3. Perché è Importante?

In medicina, non possiamo permetterci di ignorare le malattie rare solo perché sono poche. Se un'IA è brava solo con le malattie comuni, potrebbe salvare molti pazienti, ma fallirebbe tragicamente con quelli affetti da condizioni rare.

Questo lavoro dimostra che possiamo creare intelligenze artificiali che:

1. Non si lasciano ingannare dalla quantità (sono brave anche con i casi rari).
2. Possono imparare concetti nuovi leggendo libri (testi medici) senza bisogno di vedere milioni di foto.

In Sintesi

Il team ha vinto la gara creando un "medico digitale" che sa ascoltare le voci delle malattie rare (non solo quelle urlate dalla maggioranza) e che può capire nuove malattie semplicemente leggendo la loro descrizione, proprio come un detective che risolve un caso basandosi sugli indizi scritti invece che su foto del colpevole.

Il codice e i modelli creati sono stati resi pubblici, così altri ricercatori possono usarli per salvare ancora più vite.

Sommario tecnico

Titolo: Gestione della Scarsità di Supervisione nella Classificazione delle Radiografie Toraciche: Apprendimento a Coda Lunga e Zero-Shot

1. Il Problema

La classificazione delle radiografie toraciche (CXR) nella pratica clinica è spesso ostacolata da una supervisione imperfetta, derivante da due fattori critici:

1. Distribuzione a coda lunga (Long-tailed): Le annotazioni delle malattie seguono una distribuzione estremamente sbilanciata, dove poche condizioni comuni (testa della distribuzione) dominano i dati, mentre molte anomalie clinicamente importanti (coda della distribuzione) sono rare. Gli approcci standard tendono a favorire le classi frequenti, fallendo nel riconoscere quelle rare.
2. Mancanza di annotazioni per casi rari o inediti: Spesso mancano etichette per condizioni rare o per malattie mai viste prima (Out-of-Distribution, OOD), rendendo impossibile l'addestramento supervisionato tradizionale per questi casi.

Il paper affronta queste sfide attraverso la sfida CXR-LT 2026, basata sul dataset PadChest, che include 36 classi di malattie: 30 classi "in-distribution" (ID) per la classificazione a coda lunga e 6 classi "out-of-distribution" (OOD) per la valutazione zero-shot.

2. Metodologia

Gli autori propongono soluzioni specifiche per due task distinti, progettate per essere robuste allo sbilanciamento delle etichette e alla supervisione incompleta.

Task 1: Classificazione Multi-Etichetta a Coda Lunga (30 classi ID)
L'obiettivo è migliorare il riconoscimento delle classi rare mantenendo prestazioni stabili su quelle frequenti.

• Architettura: Utilizzo di ConvNeXtV2-Base come backbone, inizializzato con pesi pre-addestrati su MIMIC-CXR. Vengono addestrate due varianti con testine di classificazione diverse: una MLP standard e una CSRA (Class-Specific Spatial Attention).
• Obiettivo di Apprendimento (Loss Function): Adozione della Distribution-Balanced (DB) Loss. Questa combina:
  • Ripesatura basata sulla statistica del numero effettivo di campioni per dare più peso alle classi di coda.
  • Regolazione del margine per le etichette positive.
• Campionamento (Class-Aware Sampling - CAS): Utilizzo di un campionatore di stile "repeat-factor" che sovracampiona le immagini contenenti etichette positive rare, aumentando l'esposizione alle classi di coda senza distorcere eccessivamente la distribuzione dei dati.
• Inferenza e Post-Processing:
  • Ensemble con TTA: Media pesata delle previsioni di due checkpoint addestrati, applicando Test-Time Augmentation (rotazioni, flip, zoom).
  • Normal Gating: Un passo di raffinamento che soppresse le probabilità delle classi anomale se il modello è altamente confidente che l'immagine sia "Normale" ($p_{abnormal} \leftarrow p_{abnormal} \cdot (1 - p_{normal})^{\alpha}$).

Task 2: Riconoscimento Zero-Shot OOD (6 classi inedite)
L'obiettivo è prevedere 6 malattie (es. Scoliosi, Gozzo) senza utilizzare alcuna etichetta o esempio di addestramento per queste classi.

• Approccio: Formulazione del problema come matching visione-linguaggio.
• Modello: Utilizzo di WhyXrayCLIP, un modello visione-linguaggio specializzato per CXR basato su OpenCLIP ViT-L/14, ulteriormente fine-tunato su coppie immagine-rapporto di MIMIC-CXR. Questo permette un allineamento semantico specifico per il dominio radiologico.
• Inferenza:
  • Prompt Ensembling: Per ogni classe OOD, vengono definiti diversi prompt testuali radiologici generici.
  • Scoring: Si calcola la similarità coseno tra l'embedding dell'immagine e gli embedding dei prompt testuali.
  • Mappatura: I punteggi di similarità vengono mappati in probabilità tramite una funzione sigmoide scalata per accentuare la separazione tra casi simili e non simili.

3. Contributi Chiave

• Strategia di Apprendimento Bilanciato: Sviluppo di una pipeline che integra loss function bilanciate (DB Loss) e campionamento intelligente (CAS) per gestire efficacemente la distribuzione a coda lunga nelle CXR.
• Inferenza Zero-Shot Robusta: Dimostrazione che un modello visione-linguaggio specializzato (WhyXrayCLIP) può essere utilizzato per il riconoscimento di malattie inedite senza alcun addestramento supervisionato su quelle specifiche classi, sfruttando solo prompt testuali.
• Raffinamento Post-Processing: Introduzione di una logica di "Normal Gating" per ridurre i falsi positivi quando l'immagine è chiaramente normale, migliorando la calibrazione delle probabilità.
• Prestazioni di Stato dell'Arte: La metodologia proposta ha ottenuto il primo posto nella classifica pubblica di entrambe le task durante la fase di sviluppo della sfida CXR-LT 2026.

4. Risultati

I risultati sono riportati sulla classifica pubblica di sviluppo (Development Phase) utilizzando la metrica principale mAP macro-averaged (che dà uguale peso a tutte le classi, enfatizzando le prestazioni sulle classi rare).

• Task 1 (Classificazione a Coda Lunga):

  • mAP: 0.583 (1° posto, con un vantaggio significativo di +0.048 sul secondo classificato).
  • mAUC: 0.919.
  • mF1: 0.376 (il migliore tra i partecipanti).
  • Nota: Il mECE (Error di Calibrazione) è alto (0.928), indicando che le probabilità non sono perfettamente calibrate, sebbene l'ordinamento delle classi sia eccellente.

• Task 2 (Riconoscimento Zero-Shot OOD):

  • mAP: 0.467 (1° posto, con un vantaggio di +0.102 sul secondo classificato).
  • mAUC: 0.779 (il migliore).
  • mECE: 0.516 (il secondo migliore tra i top 10).

5. Significato e Impatto

Questo lavoro è significativo perché affronta direttamente le limitazioni reali della diagnostica AI in ambito clinico: la scarsità di dati per le malattie rare e l'impossibilità di addestrare modelli su condizioni mai viste.

• Generalizzazione: Dimostra che è possibile costruire sistemi di diagnosi robusti che non dipendono esclusivamente da grandi quantità di dati etichettati per ogni singola malattia.
• Approccio Ibrido: L'integrazione di tecniche di apprendimento profondo tradizionali (per le classi note) con modelli visione-linguaggio (per le classi inedite) offre un quadro metodologico promettente per futuri sistemi di supporto decisionale clinico.
• Riproducibilità: Il codice e i modelli pre-addestrati sono stati resi pubblici, facilitando la ricerca futura su dataset sbilanciati e scenari zero-shot in radiologia.

Le limitazioni principali riguardano la valutazione solo sul set di sviluppo pubblico (il set di test nascosto non era disponibile al momento della sottomissione) e la necessità di migliorare la calibrazione delle probabilità. Il lavoro futuro si concentrerà su una maggiore robustezza tra diversi siti clinici e sull'estensione del framework ad altre task come la generazione di referti e il VQA medico.