CBAM-Enhanced DenseNet121 for Multi-Class Chest X-Ray Classification with Grad-CAM Explainability

Probleemstelling

Pneumonie is een van de belangrijkste doodsoorzaken bij kinderen wereldwijd, met name in landen met beperkte middelen zoals Bangladesh, waar een tekort aan radiologen bestaat. Bestaande diep-leringsbenaderingen voor pneumonie-detectie behandelen het probleem vaak als een binair classificatieprobleem (normaal vs. pneumonie). Dit negeert echter een cruciaal klinisch onderscheid: het verschil tussen bacteriële en virale pneumonie.

• Klinische relevantie: Bacteriële pneumonie wordt behandeld met antibiotica, terwijl virale pneumonie ondersteunende zorg vereist. Het niet kunnen onderscheiden hiervan leidt tot onnodige antibioticumvoorschriften en draagt bij aan antimicrobiële resistentie.
• Uitdaging: Er is behoefte aan een model dat drie klassen kan onderscheiden (Normaal, Bacterieel, Viraal) en dat transparant is (interpreteerbaar) voor medisch personeel.

Methodologie

De auteurs stellen CBAM-DenseNet121 voor, een transfer-learning framework dat de volgende componenten combineert:

1. Dataset: Gebruik van het openbare "Chest X-Ray Images (Pneumonia)" dataset (Kermany dataset).

   • De originele validatieverdeling (16 afbeeldingen) werd verworpen als statistisch ontoereikend.
   • Er werd een nieuwe verdeling gemaakt via stratified random sampling (80/20) op de trainingsset, resulterend in een validatieset van 1.043 afbeeldingen en een testset van 624 afbeeldingen.
   • De drie klassen zijn: Normaal (1.341), Bacteriële Pneumonie (2.530) en Virale Pneumonie (1.345).
   • Om de onbalans in de dataset aan te pakken, werden balanced class weights toegepast tijdens het trainen.

2. Architectuur (CBAM-DenseNet121):

   • Backbone: DenseNet121, vooraf getraind op ImageNet.
   • CBAM (Convolutional Block Attention Module): Geïntegreerd na het laatste convolutieblok van DenseNet121.
     • Kanaal-attentie (Channel Attention): Identificeert welke feature maps belangrijk zijn.
     • Ruimtelijke attentie (Spatial Attention): Bepaalt waar binnen die maps gefocust moet worden.
   • Classifier Head: Bestaat uit GlobalAveragePooling, BatchNormalization, twee Dense-lagen met ReLU en Dropout, en een Softmax-uitvoer voor de 3 klassen.

3. Trainingsstrategie (Twee fasen):

   • Fase 1: De DenseNet121 basis is bevroren; alleen CBAM en de classifier worden getraind (15 epochs).
   • Fase 2: De laatste 30 lagen van DenseNet worden ontgrendeld voor selectief fine-tunen (20 epochs).
   • Er werd gebruikgemaakt van vroege stopzetting (early stopping) en een leerplan met afnemende leerfactor.

4. Statistische Robuustheid:

   • Alle experimenten werden drie keer herhaald met onafhankelijke random seeds (42, 7, 123) om te garanderen dat de resultaten niet afhankelijk zijn van een specifieke initialisatie.
   • Resultaten worden gerapporteerd als gemiddelde ± standaarddeviatie.

5. Interpreteerbaarheid:

   • Grad-CAM wordt gebruikt om visuele warmtekaarten te genereren die aangeven welke delen van de X-ray het model belangrijk vond voor de voorspelling.

Belangrijkste Bijdragen

1. Drie-klassen Framework: Een systeem dat in staat is om Normaal, Bacterieel en Viraal te onderscheiden, wat actievere diagnostische output biedt dan binaire systemen.
2. Integratie van CBAM: Verbetering van DenseNet121 door dual-axis attentie (kanaal en ruimte) voor betere feature selectie.
3. Systematische Baseline Vergelijking: Een studie die laat zien dat EfficientNetB3 (73,88%) onderpresteert ten opzichte van een aangepast CNN-baseline (78,53%) op deze specifieke grijstinten-medische taak. Dit is een waardevolle "negatieve bevinding" voor de selectie van modellen in de medische beeldvorming.
4. Statistische Validatie: Rigoureuze validatie via drie onafhankelijke runs met lage standaarddeviatie, wat reproduceerbaarheid garandeert.
5. Klinische Interpretatie: Grad-CAM visualisaties bevestigen dat het model anatomisch plausibele longgebieden selecteert.

Resultaten

1. Drie-klassen Prestaties (CBAM-DenseNet121):

• Totale nauwkeurigheid: 84,29% ± 1,14%.
• Macro-AUC: 0,9454 ± 0,0013.
• Per-klass AUC:
  • Bacteriële Pneumonie: 0,9565 ± 0,0010 (Uitstekend).
  • Normaal: 0,9610 ± 0,0014 (Uitstekend).
  • Virale Pneumonie: 0,9187 ± 0,0037 (Goed).
• De lage standaarddeviatie bevestigt de stabiliteit van het trainingsproces.
• Confusiematrix: De grootste fouten treden op bij het onderscheiden van virale pneumonie van normale gevallen (wat radiologisch logisch is vanwege subtiele infiltraties).

2. Baseline Vergelijking (Binair: Normaal vs. Pneumonie):

• DenseNet121: Beste prestatie met 91,03% nauwkeurigheid en AUC 0,9706.
• ResNet50: Hoogste recall voor pneumonie (0,95), goed voor screening.
• EfficientNetB3: Presteerde slecht (73,88%), zelfs onder de custom CNN. Dit wordt toegeschreven aan het feit dat EfficientNet is geoptimaliseerd voor RGB-natuurlijke beelden en niet goed generaliseert naar lage-contrast grijstinten medische beelden zonder domeinspecifieke pre-training.

3. Visualisatie (Grad-CAM):

• Het model richt zich op de juiste anatomische gebieden:
  • Bacterieel: Focust op consolidatie in de onderste longkwabben.
  • Normaal: Geen focale pathologische concentratie.
  • Viraal: Verspreide perifere gebieden, consistent met interstitiële patronen.

Betekenis en Conclusie

Dit onderzoek biedt een robuust en interpreteerbaar AI-framework voor de diagnose van pneumonie, specifiek gericht op het onderscheid tussen bacteriële en virale oorzaken. Dit onderscheid is essentieel voor het voorkomen van overmatige antibioticagebruik.

• Klinische Toepasbaarheid: Het model werkt op standaard JPEG-bestanden en is geschikt voor omgevingen met beperkte middelen (zoals Bangladesh), waar radiologen schaars zijn.
• Vertrouwen: De integratie van Grad-CAM biedt artsen een visueel audittrail, wat cruciaal is voor de acceptatie van AI in de klinische praktijk.
• Inzicht in Modelkeuze: De studie waarschuwt dat "grotere" of nieuwere architecturen (zoals EfficientNet) niet automatisch beter presteren in medische beeldvorming dan bewezen, eenvoudigere baselines of aangepaste modellen.

Beperkingen: De dataset komt van één kinderziekenhuis (beperkte demografische generalisatie) en de labels voor bacterieel/viraal zijn afgeleid van bestandsnamen in plaats van onafhankelijke klinische bevestiging. Toekomstig werk richt zich op validatie op grotere datasets (zoals CheXpert) en prospectieve klinische tests.