Improving Imbalanced Multi-Label Chest X-Ray Diagnosis via CBAM-Enhanced CNN Backbones

Résumé Technique : Amélioration du Diagnostic Multi-Étiquettes de Radiographies Thoraciques Déséquilibrées via des Éléments de Base CNN Renforcés par CBAM

Énoncé du Problème
La radiographie thoracique est une modalité primaire pour le diagnostic des maladies thoraciques, mais son interprétation manuelle reste chronophage et dépendante de l'expertise médicale. Bien que l'Apprentissage Profond (DL) ait automatisé l'extraction de caractéristiques, deux défis critiques persistent dans ce domaine :

1. Complexité Multi-Étiquettes : Une seule radiographie contient souvent plusieurs pathologies coexistantes, nécessitant des modèles capables de gérer des classifications complexes et simultanées.
2. Déséquilibre de Classes Sévère : Les grands ensembles de données comme ChestXray14, MIMIC-CXR et CheXpert sont dominés par des conditions fréquentes et l'étiquette « Aucun Trouble ». Ce déséquilibre biaise le comportement d'apprentissage, entraînant une dégradation des performances sur des maladies rares mais cliniquement significatives.
   De plus, les Réseaux de Neurones Convolutifs (CNN) standards souffrent de champs récepteurs limités, entravant la capture des dépendances à longue portée cruciales pour identifier des anomalies spatialement distantes mais sémantiquement corrélées. Bien que les architectures basées sur les Transformers offrent des solutions, leurs exigences élevées en calcul et en données limitent souvent leur faisabilité dans des scénarios cliniques réels.

Méthodologie
Les auteurs proposent une stratégie d'intégration pratique qui améliore les éléments de base CNN standards avec le Module d'Attention par Bloc Convolutif (CBAM) pour améliorer la classification multi-étiquettes sans nécessiter d'annotations au niveau des pixels. La méthodologie se concentre sur trois composantes principales :

1. Architecture Renforcée par CBAM :

   • Le cadre intègre CBAM dans des éléments de base largement adoptés, spécifiquement DenseNet121 et VGG16.
   • CBAM est appliqué séquentiellement le long des dimensions de canal et d'espace pour générer des cartes d'attention qui agissent comme des masques de caractéristiques souples. Cela amplifie les régions pertinentes pour la tâche tout en supprimant les informations de fond non pertinentes.
   • Placement Stratégique : L'article introduit un schéma de placement de modules fondé sur des principes. Pour DenseNet121, CBAM est inséré après les 3e et 4e blocs denses. Pour VGG16, il est inséré après les blocs 3, 4 et 5. Cette stratégie cible les couches sémantiques plus profondes où se forment les abstractions de haut niveau, équilibrant l'extraction de caractéristiques de bas niveau avec le raffinement sémantique de haut niveau.

2. Paradigme d'Entraînement :

   • L'étude adopte un paradigme d'apprentissage en deux étapes (inspiré de travaux antérieurs [7]).
   • Étape 1 : Le modèle est entraîné exclusivement sur des échantillons anormaux pour capturer des motifs discriminatifs spécifiques aux classes, atténuant la dominance de la classe « Aucun Trouble ».
   • Étape 2 : Le modèle est affiné sur l'ensemble du jeu de données pour renforcer l'apprentissage de la représentation globale.
   • Les auteurs examinent diverses fonctions de perte, notamment la perte d'entropie croisée binaire (BCE) et la perte focalisée (Focal Loss), en comparant l'entraînement en une seule étape versus l'entraînement en deux étapes.

3. Ablation et Évaluation :

   • L'étude mène des études d'ablation pour déterminer le placement optimal des modules CBAM et l'efficacité de différentes configurations d'entraînement.
   • L'évaluation est effectuée sur l'ensemble de données ChestXray14 (112 120 images, 14 catégories de maladies) en utilisant une division par patient pour prévenir les fuites d'information.

Contributions Clés
L'article expose quatre contributions principales :

• Intégration du Cadre : Un cadre CNN renforcé par CBAM qui intègre des mécanismes d'attention dans des éléments de base standards (DenseNet121, VGG16) pour affiner les représentations de caractéristiques pour la classification multi-étiquettes.
• Stratégie de Placement : Un schéma fondé sur des principes pour identifier les points d'insertion optimaux pour CBAM, démontrant que l'intégration de l'attention dans les couches sémantiques plus profondes produit des résultats supérieurs par rapport à un placement complet ou minimal.
• Analyse de l'Entraînement : Une étude d'ablation examinant les effets de la perte focalisée, de l'entraînement en une seule étape et d'une stratégie en deux étapes inspirée par le curriculum. L'analyse met en évidence comment les configurations d'entraînement affectent les performances dans un contexte de déséquilibre de classes sévère.
• Étalonnage des Performances : Évaluation sur ChestXray14 montrant une détection améliorée des conditions sous-représentées par rapport aux références de l'état de l'art.

Résultats
La méthode proposée atteint les résultats suivants sur l'ensemble de données ChestXray14 :

• Performance Globale : Le modèle VGG16 renforcé par CBAM a atteint une AUC moyenne de 0,8695, et le DenseNet121 renforcé par CBAM a atteint 0,8681. Ces scores surpassent les références précédentes, notamment Wang et al. (0,7451), CheXNet (0,841) et SynthEnsemble (0,854).
• Détection de Pathologies Rares : Les modèles ont démontré une résilience au déséquilibre de classes dans les catégories rares :
  • Hernie : DenseNet121-CBAM a atteint une AUC de 0,9660 (contre 0,9172 dans les travaux antérieurs).
  • Emphysème : Des AUC de 0,9426 (DenseNet) et 0,9422 (VGG16) ont été atteintes.
  • Pneumonie : VGG16-CBAM a atteint une AUC de 0,7915.
• Constats d'Ablation :
  • Placement : L'insertion de CBAM après les 3e et 4e blocs dans DenseNet121 et les blocs 3, 4 et 5 dans VGG16 a produit les performances les plus élevées. Restreindre l'attention au seul dernier bloc a causé une baisse significative des performances.
  • Stratégie d'Entraînement : L'approche d'entraînement en deux étapes a constamment surpassé l'entraînement en une seule étape, même lorsque les modèles en une seule étape utilisaient la perte focalisée. Par exemple, le DenseNet121 en deux étapes (Perte BCE) a atteint 0,8681, nettement supérieur au meilleur résultat en une seule étape de 0,8400 (Perte Focalisée). Cela suggère que l'isolement des données anormales dans la phase initiale est crucial pour apprendre les sémantiques inter-classes dans les ensembles de données déséquilibrés.

Signification et Revendications
L'article revendique que l'architecture proposée offre un compromis pratique entre capacité de modélisation et efficacité. En renforçant les CNN standards avec des mécanismes d'attention, la méthode améliore la détection de pathologies subtiles et de faible prévalence sans la surcharge de calcul des modèles basés sur les Transformers ni le besoin d'annotations coûteuses au niveau des pixels. Les auteurs soulignent que le curriculum d'entraînement en deux étapes est un facteur critique pour surmonter le déséquilibre de classes, permettant au modèle d'apprendre efficacement des motifs discriminatifs avant de se généraliser à l'ensemble du jeu de données. L'ouvrage conclut que le déploiement ciblé des mécanismes d'attention, combiné à des curriculums d'entraînement adaptés, est essentiel pour un diagnostic multi-étiquettes robuste en imagerie médicale. Des travaux futurs sont suggérés pour se concentrer sur l'amélioration de l'interprétabilité clinique et la modélisation des dépendances inter-pathologies.