MARVEL: Margin-Aware Robust von Mises-Fischer Expert Learning for Long-Tailed Out-of-Distribution Detection

Sintesi Tecnica: MARVEL – Apprendimento di Esperti Robusto con Margine e von Mises-Fischer per la Rilevazione di Out-of-Distribution a Coda Lunga

Definizione del Problema
Le reti neurali profonde (DNN) hanno raggiunto prestazioni elevate nell'imaging medico, ma affrontano sfide significative di affidabilità nella distribuzione nel mondo reale. Due problemi primari esacerbano ciò:

1. Fallimento della Rilevazione Out-of-Distribution (OOD): Le DNN spesso producono previsioni eccessivamente sicure ed erronee su input OOD (ad esempio, diverse regioni anatomiche, modalità o immagini non radiografiche), ponendo rischi per la sicurezza.
2. Squilibrio di Classe a Coda Lunga (Long-Tailed): I dataset medici seguono frequentemente una distribuzione a coda lunga in cui poche classi "testa" dominano e numerose classi "coda" sono rare. Questo bias causa l'overfitting sulle classi di testa, risultando in un apprendimento di rappresentazione scadente per le classi di coda. Di conseguenza, i campioni di coda vengono spesso classificati erroneamente come OOD, oppure veri campili OOD vengono confusi con le classi di coda a causa della sovrapposizione dei cluster di caratteristiche vicino ai confini decisionali.

La letteratura esistente spesso assume dataset bilanciati, valuta la rilevazione OOD su benchmark di immagini naturali grossolani o non affronta l'interazione tra squilibrio delle classi e incertezza distributiva.

Metodologia: Framework MARVEL
Gli autori propongono MARVEL (Margin-Aware Robust von Mises-Fisher Expert Learning), un framework progettato per la classificazione ID in ambito medical imaging con rilevazione OOD sotto distribuzioni a coda lunga. L'architettura consiste in un estrattore di caratteristiche condiviso e un ensemble di esperti specializzati.

1. Classificatore Nonlinear von Mises-Fisher (NvMF):

   • Motivazione: I classificatori convenzionali basati su vMF si riducono a similitudini del coseno scalate, producendo confini decisionali lineari nello spazio iper-sferico. Ciò limita la flessibilità nel modellare geometrie di classe complesse ed eterogenee tipiche dei dati sbilanciati.
   • Innovazione: Gli autori reinterpretano la distribuzione vMF attraverso la sua struttura di famiglia esponenziale. Invece di trattarla esclusivamente come un modello di verosimiglianza, definiscono i logit tramite variazioni nella funzione di partizione logaritmica ($\ell_c = -\Delta A(x)$).
   • Garanzia Teorica: Il documento dimostra (Teorema 1) che quando il parametro di concentrazione $\kappa \to \infty$, i logit NvMF proposti convergono alla standard similitudine del coseno, stabilendo il modello come una generalizzazione fondata dei classificatori iper-sferici esistenti. Per $\kappa$ finito, induce confini decisionali non lineari, permettendo una migliore separazione di cluster complessi.

2. Ensemble Multi-Esperto Sensibile al Margine (Margin-Aware):

   • Per affrontare lo squilibrio a coda lunga, il framework impiega tre esperti NvMF, ciascuno addestrato con un distinto parametro di forza del margine $\tau \in \{0, 1, 2\}$:
     • Bias verso la testa ($\tau=0$): Classificatore standard per le classi maggioritarie.
     • Bilanciato ($\tau=1$): Re-bilanciamento moderato.
     • Bias verso la coda ($\tau=2$): Protezione aggressiva per le classi minoritarie.
   • Meccanismo: Il termine di margine $\Delta_{yc} = \tau \log(\pi_c / \pi_y)$ è introdotto nella funzione di perdita, dove $\pi$ rappresenta i priori empirici delle classi. Questo sposta asimmetricamente i confini decisionali lontano dalle classi di coda, impedendo loro di essere sopraffatte dalle classi di testa.

3. Esperto Dedicato agli Outlier:

   • Un separato e semplice strato completamente connesso ($g_{out}$) è addestrato esplicitamente per la classificazione binaria (ID vs. OOD).
   • Utilizza un dataset OOD ausiliario (ImageNet-100) durante l'addestramento. A differenza degli esperti NvMF che modellano le classi ID fini, questo esperto si concentra esclusivamente sulla separazione di inlier da outlier, fornendo un segnale di supervisione diretto per la rilevazione OOD.

4. Strategia di Inferenza:

   • Classificazione ID: Aggrega le previsioni dei tre esperti NvMF (mediando le probabilità softmax sulle $K$ classi ID).
   • Rilevazione OOD: Combina due segnali: (i) la probabilità della $(K+1)$-esima classe (OOD) dagli esperti NvMF, e (ii) la probabilità esplicita OOD dell'esperto outlier. Il punteggio finale è la media di questi due segnali.

Protocollo di Valutazione
Gli autori criticano i benchmark esistenti per l'affidarsi a immagini naturali (es. SVHN, LSUN) o semplici esclusioni di classi. Propongono un framework di valutazione OOD clinicamente realistico che spazia tra:

• Nuove Classi: Classi semantiche non viste durante l'addestramento (Open-Set).
• Corruzioni: Degradazioni sintetiche (rumore, sfocatura, artefatti).
• NearOOD: Spostamenti di dominio all'interno dell'imaging medico (es. diversi dispositivi di acquisizione, tecniche di colorazione o regioni anatomiche).
• FarOOD: Immagini naturali (MS-COCO) visivamente distanti dai dati medici.
• Dataset: Gli esperimenti sono condotti su RFMiD (imaging retinico), ISIC2019 (dermatologia) e NCTCRC (istopatologia), tutti rimodellati per seguire una distribuzione a coda lunga 50:1.

Risultati Chiave

• Rilevazione OOD: MARVEL supera costantemente i metodi allo stato dell'arte (PASCL, COCL, EAT, PATT, OE) in tutti i dataset e gli scenari OOD.
  • Ottiene riduzioni medie del FPR95 dell'8.45% (RFMiD), 13.02% (ISIC2019) e 36.90% (NCTCRC) rispetto ai baseline.
  • Raggiunge un AUROC quasi saturo (>99%) negli scenari FarOOD e NearOOD2, grazie all'esperto outlier dedicato.
  • Mantiene la migliore performance nello scenario Open-Set più impegnativo, sebbene l'AUROC rimanga sotto l'85% in questo specifico setting, evidenziando la difficoltà intrinseca nel distinguere le nuove classi dalle classi di coda.
• Classificazione ID: MARVEL raggiunge la massima Accuratezza e Balanced Accuracy. A differenza dei baseline che mostrano un ampio divario tra le prestazioni di testa e di coda, MARVEL migliora significativamente il riconoscimento delle classi di coda (ad esempio, l'accuratezza della coda si avvicina al 95% su NCTCRC) mantenendo al contempo le prestazioni delle classi di testa.
• Studi di Ablazione:
  • Scelta del Classificatore: NvMF supera significativamente vMF lineare, cosine e i classificatori FC, validando il beneficio dei confini non lineari.
  • Conteggio degli Esperti: Un ensemble di tre esperti fornisce il trade-off ottimale; aggiungere un quarto esperto non apporta miglioramenti e spesso degrada le prestazioni.
  • Calibrazione: MARVEL dimostra una calibrazione della fiducia superiore rispetto ai baseline, che tendono a essere o eccessivamente sicuri (PASCL, PATT) o poco sicuri (OE, EAT).
  • Scoring OOD: Lo scoring basato sui logit (MSP) all'interno del framework supera i metodi basati sulla distanza (KNN, Mahalanobis), che faticano con la natura sparsa e anisotropa delle rappresentazioni delle classi di coda.

Significato e Rivendicazioni
Il paper sostiene che MARVEL affronti una lacuna critica nell'IA medica unificando il riconoscimento a coda lunga e la rilevazione OOD. La sua importanza risiede in:

1. Novità Metodologica: Introduzione di un classificatore Nonlinear vMF teoricamente fondato che generalizza i classificatori del coseno e una strategia multi-esperto sensibile al margine per gestire lo squilibrio estremo delle classi.
2. Modellazione Esplicita OOD: Decoupling (disaccoppiamento) della rilevazione OOD dalla discriminazione multi-classe ID tramite un esperto outlier dedicato, prevenendo la confusione tra classi di coda rare e veri outlier.
3. Rilevanza Clinica: Andare oltre i benchmark artificiali per valutare i modelli su uno spettro di spostamenti di distribuzione clinicamente riflessivi (cambiamenti di modalità, variazioni di acquisizione e immagini naturali).
4. Sicurezza: Abilitare l'identificazione affidabile di casi sconosciuti per il rinvio ai clinici, supportando così una diagnia assistita dall'IA più sicura nei workflow reali dove i dati sono intrinsecamente sbilanciati e gli spostamenti di distribuzione sono comuni.

Gli autori riconoscono i limiti, incluso il ricorso a dati OOD ausiliari per l'addestramento e l'assunzione di uno spazio di etichette fisso, notando che il lavoro futuro potrebbe esplorare l'apprendimento continuo e i compiti di predizione densa.