MSA-DCNN: A Data-Efficient Multi-Scale Deformable CNN for Medical Image Classification

Sintesi Tecnica: MSA-DCNN

Problematica
I metodi esistenti di deep learning per la classificazione di immagini mediche affrontano due sfide primarie: l'incapacità di gestire efficacemente la variabilità morfologica multi-scala dovuta a meccanismi di campionamento fissi, e le scarse prestazioni in condizioni di dati annotati limitati. Le standard Reti Neurali Convoluzionali (CNN) ereditano campi recettivi fissi e un campionamento uniforme, che spesso non riescono ad allinearsi con le texture eterogenee e la variabilità strutturale intrinseche nelle immagini mediche (ad esempio, radiografie, istopatologia e microscopia). Sebbene esistano rimedi precedenti come i moduli di attenzione e i design multi-scala, essi spesso si affidano ad aggregazioni globali che oscurano i segnali sottili, mantengono kernel fissi che non adattano il campionamento tra le scale e mancano di una supervisione interna per rafforzare gli strati superficiali in regimi con dati limitati. Inoltre, gli approcci esistenti tipicamente affrontano il campionamento adattivo, l'attenzione e la fusione in modo isolato piuttosto che congiuntamente.

Metodologia
Gli autori propongono MSA-DCNN (Multi-Scale Attention Deformable Convolutional Neural Network), un framework unificato progettato per l'apprendimento della coerenza di scala sotto eterogeneità strutturale e scarsità di etichette. L'architettura si basa su tre principi stabiliti integrati in un unico schema di ottimizzazione:

1. Ottimizzazione del Campo Recettivo Adattivo: Il modello impiega convoluzioni deformabili all'interno di stadi Inception compatti. Invece di griglie fisse, gli offset apprendibili ($\Delta p_k$) permettono alla griglia di campionamento di spostarsi adattivamente ad ogni scala, allineandosi meglio con i pattern strutturalmente eterogenei.
2. Raffinamento della Salienza Specifico per Scala: All'interno di ogni ramo deformabile, viene applicato un Modulo di Attenzione a Multi-Canale (MCBAM) con pooling a sotto-blocchi. Questo modulo esegue la ricalibrazione dei canali e dello spazio per preservare i dettagli morfologici fini. Utilizza il pooling a sotto-blocchi per migliorare l'efficienza computazionale e regolarizzare le distribuzioni delle feature sotto una supervisione limitata.
3. Integrazione Cross-Scala Sensibile al Contenuto: Le feature provenienti da diverse scale vengono proiettate a una risoluzione comune e fuse tramite un meccanismo di attenzione multi-scala appreso. Questo operatore calcola pesi dipendenti dal contenuto attraverso le scale per produrre una rappresentazione unificata.
4. Auto-Distillazione Ausiliaria: Per affrontare la scarsità di etichette, una testa ausiliaria collegata al primo stadio impone l'allineamento semantico cross-scala. Minimizzando la divergenza KL tra le rappresentazioni superficiali e profonde (tramite una soft-max scalata per temperatura), il modello allinea i manifold semantici attraverso i livelli di risoluzione, agendo come un vincolo geometrico che regolarizza gli offset deformabili precoci.

L'obiettivo totale di addestramento combina la cross-entropy pesata per classe, la focal loss (per lo sbilanciamento delle classi) e la perdita di auto-distillazione.

Contributi Chiave
Il documento introduce un framework CNN compatto che apprende congiuntamente dove campionare, cosa enfatizzare e come combinare le feature. I contributi specifici includono:

• Un framework di apprendimento della coerenza di scala che integra il campionamento adattivo, il raffinamento della salienza intra-scala e la fusione appresa cross-scala.
• Il modulo MCBAM, che affina le feature all'interno di ogni ramo deformabile utilizzando il pooling a sotto-blocchi per mantenere efficienza e dettaglio.
• Un operatore di attenzione multi-scala appreso che esegue una selezione adattiva al contenuto tra gli embedding proiettati, un meccanismo non esplicitamente studiato nelle precedenti CNN basate su deformazione o attenzione.
• L'integrazione dell'auto-distillazione per imporre l'allineamento semantico tra le scale, promuovendo una geometria di rappresentazione coerente e migliorando le prestazioni in regimi con poche etichette.

Risultati
Gli autori hanno valutato MSA-DCNN su tre benchmark pubblici (C-NMC per cellule leucemiche, PBC per cellule del sangue periferico e ISIC-2020 per immagini dermoscopiche) e un dataset esterno di hold-out per la leucemia. Le scoperte chiave includono:

• Performance: MSA-DCNN ha dimostrato performance competitive e spesso superiori rispetto ai baseline Vision Transformer (es. DeiT-S, DINOv2-S), CNN compatte (Inception-v3, EfficientNet-B3), baseline di convoluzione deformabile (DGConv) e metodi semi-supervisionati (TS-MS).
• Metriche: Il modello ha raggiunto un'accuratezza, F1-score e AUC (per i compiti binari) più elevati in tutti i dataset. Ad esempio, sul dataset C-NMC, ha raggiunto un'AUC di 0,96 (rispetto a 0,94 di DGConv) e su ISIC-2020 un'AUC di 0,97.
• Efficienza: Nonostante la complessità aggiunta di attenzione e meccanismi deformabili, MSA-DCNN ha utilizzato significativamente meno parametri (5,25M) rispetto alla maggior parte dei baseline (che vanno da 7,98M a 23,9M).
• Robustezza: Il modello ha mantenuto le prestazioni sotto spostamenti di distribuzione (testati sul set di hold-out esterno) e ha mostrato una migliore efficienza delle etichette, superando i baseline quando addestrato con frazioni ridotte di dati etichettati (20%–50%).
• Studi di Ablazione: Gli esperimenti hanno confermato che ogni componente (Convoluzione Deformabile, Attenzione specifica per scala, Attenzione multi-scala e Auto-distillazione) contribuisce in modo additivo alle performance finali, con la configurazione completa che produce i risultati migliori.

Significatività
Il paper sostiene che MSA-DCNN serva come fondamento pratico per la classificazione di immagini mediche con efficienza di dati. Unificando campionamento adattivo, attenzione e fusione sotto un unico obiettivo, il framework affronta i limiti del campionamento fisso e dell'addestramento che richiede grandi quantità di dati. Gli autori postulano che l'approccio della coerenza di scala permetta al modello di generalizzare efficacemente all'anatomia eterogenea anche con annotazioni limitate. I risultati suggeriscono che il metodo proposto offra un'alternativa robusta sia alle standard CNN che ai grandi Transformer per compiti medici in cui la scarsità di dati e la variabilità morfologica sono vincoli critici. Il lavoro futuro si concentrerà sull'inferenza consapevole dell'incertezza e sulla maggiore interpretabilità per il supporto alle decisioni cliniche.