Improving Imbalanced Multi-Label Chest X-Ray Diagnosis via CBAM-Enhanced CNN Backbones

Technische Zusammenfassung: Verbesserung der unausgewogenen Multi-Label-Diagnose von Thorax-Röntgenbildern mittels CBAM-verbesserter CNN-Rückgrate

Problemstellung
Die Thoraxradiographie ist eine primäre Modalität zur Diagnose thorakaler Erkrankungen, doch die manuelle Interpretation bleibt zeitaufwendig und ist auf Expertenwissen angewiesen. Obwohl Deep Learning (DL) die Merkmalsextraktion automatisiert hat, bestehen in diesem Bereich zwei kritische Herausforderungen weiter:

1. Multi-Label-Komplexität: Ein einzelnes Röntgenbild enthält oft mehrere koexistierende Pathologien, was erfordert, dass Modelle komplexe, gleichzeitige Klassifikationen bewältigen.
2. Schwere Klassenungleichgewichte: Große Datensätze wie ChestXray14, MIMIC-CXR und CheXpert werden von häufigen Erkrankungen und dem Label „No-Finding" (Kein Befund) dominiert. Dieses Ungleichgewicht verzerrt das Lernverhalten und führt zu einer verschlechterten Leistung bei seltenen, aber klinisch bedeutsamen Krankheiten.
   Darüber hinaus leiden Standard-Convolutional Neural Networks (CNNs) unter begrenzten rezeptiven Feldern, was die Erfassung langreichweitiger Abhängigkeiten behindert, die für die Identifizierung räumlich entfernter, aber semantisch korrelierter Anomalien entscheidend sind. Zwar bieten Transformer-basierte Architekturen Lösungen, doch ihre hohen rechnerischen und datenbezogenen Anforderungen begrenzen oft die Machbarkeit in realen klinischen Szenarien.

Methodik
Die Autoren schlagen eine praktische Integrationsstrategie vor, die Standard-CNN-Rückgrate durch das Convolutional Block Attention Module (CBAM) verbessert, um die Multi-Label-Klassifikation zu optimieren, ohne pixelgenaue Annotationen zu benötigen. Die Methodik konzentriert sich auf drei Kernkomponenten:

1. CBAM-verbesserte Architektur:

   • Das Framework integriert CBAM in weit verbreitete Rückgrate, speziell DenseNet121 und VGG16.
   • CBAM wird sequenziell entlang der Kanal- und Raumdimensionen angewendet, um Aufmerksamkeitskarten zu generieren, die als weiche Merkmalsmasken fungieren. Dies verstärkt aufgabenrelevante Regionen und unterdrückt gleichzeitig irrelevante Hintergrundinformationen.
   • Strategische Platzierung: Die Arbeit führt ein prinzipielles Schema zur Modulplatzierung ein. Für DenseNet121 wird CBAM nach dem 3. und 4. dichten Block eingefügt. Für VGG16 erfolgt die Einfügung nach den Blöcken 3, 4 und 5. Diese Strategie zielt auf tiefere semantische Schichten ab, in denen hochrangige Abstraktionen gebildet werden, und balanciert die Extraktion niedrigstufiger Merkmale mit der semantischen Verfeinerung auf hohem Niveau.

2. Trainingsparadigma:

   • Die Studie übernimmt ein zweistufiges Lernparadigma (inspiriert von früheren Arbeiten [7]).
   • Stufe 1: Das Modell wird ausschließlich auf abnormalen Proben trainiert, um klassenspezifische diskriminative Muster zu erfassen und die Dominanz der „No-Finding"-Klasse zu mildern.
   • Stufe 2: Das Modell wird auf dem gesamten Datensatz feinabgestimmt, um das Lernen globaler Repräsentationen zu stärken.
   • Die Autoren untersuchen verschiedene Verlustfunktionen, einschließlich Binary Cross Entropy (BCE) und Focal Loss, und vergleichen das Training in einer Stufe mit dem Training in zwei Stufen.

3. Ablation und Evaluation:

   • Die Studie führt Ablationsstudien durch, um die optimale Platzierung der CBAM-Module und die Wirksamkeit verschiedener Trainingskonfigurationen zu bestimmen.
   • Die Evaluation erfolgt auf dem ChestXray14-Datensatz (112.120 Bilder, 14 Krankheitskategorien) unter Verwendung einer patientenweisen Aufteilung, um Informationsleckagen zu verhindern.

Hauptbeiträge
Die Arbeit skizziert vier primäre Beiträge:

• Framework-Integration: Ein CBAM-verbessertes CNN-Framework, das Aufmerksamkeitsmechanismen in Standard-Rückgrate (DenseNet121, VGG16) integriert, um Merkmalsrepräsentationen für die Multi-Label-Klassifikation zu verfeinern.
• Platzierungsstrategie: Ein prinzipielles Schema zur Identifizierung optimaler Einfügepunkte für CBAM, das zeigt, dass die Integration von Aufmerksamkeit in tieferen semantischen Schichten zu überlegenen Ergebnissen führt im Vergleich zu vollständiger oder minimaler Platzierung.
• Trainingsanalyse: Eine Ablationsstudie, die die Auswirkungen von Focal Loss, Training in einer Stufe und einer curriculumsinspirierten zweistufigen Strategie untersucht. Die Analyse hebt hervor, wie Trainingskonfigurationen die Leistung unter schweren Klassenungleichgewichten beeinflussen.
• Leistungsbenchmarking: Evaluation auf ChestXray14, die eine verbesserte Erkennung unterrepräsentierter Erkrankungen im Vergleich zu State-of-the-Art-Baselines zeigt.

Ergebnisse
Die vorgeschlagene Methode erzielt auf dem ChestXray14-Datensatz folgende Ergebnisse:

• Gesamtleistung: Das CBAM-verbesserte VGG16-Modell erreichte eine mittlere AUC von 0,8695, und das CBAM-verbesserte DenseNet121 erreichte 0,8681. Diese Werte übertreffen frühere Benchmarks, einschließlich Wang et al. (0,7451), CheXNet (0,841) und SynthEnsemble (0,854).
• Erkennung seltener Pathologien: Die Modelle zeigten Resilienz gegenüber Klassenungleichgewichten in seltenen Kategorien:
  • Hernie: CBAM-DenseNet121 erreichte eine AUC von 0,9660 (vs. 0,9172 in früheren Arbeiten).
  • Emphysem: Erreichte AUCs von 0,9426 (DenseNet) und 0,9422 (VGG16).
  • Pneumonie: CBAM-VGG16 erreichte eine AUC von 0,7915.
• Ablationsbefunde:
  • Platzierung: Das Einfügen von CBAM nach dem 3. und 4. Block in DenseNet121 sowie nach den Blöcken 3, 4 und 5 in VGG16 erzielte die höchste Leistung. Die Beschränkung der Aufmerksamkeit auf nur den letzten Block führte zu einem signifikanten Leistungsabfall.
  • Trainingsstrategie: Der zweistufige Trainingsansatz übertraf das Training in einer Stufe konsistent, selbst wenn Ein-Stufen-Modelle Focal Loss nutzten. Beispielsweise erreichte das zweistufige DenseNet121 (BCE-Loss) 0,8681, was signifikant höher ist als das beste Ein-Stufen-Ergebnis von 0,8400 (Focal Loss). Dies legt nahe, dass die Isolierung abnormaler Daten in der ersten Phase entscheidend für das Lernen interklassischer Semantik in unausgewogenen Datensätzen ist.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass die vorgeschlagene Architektur einen praktischen Kompromiss zwischen Modellierungskapazität und Effizienz bietet. Durch die Verbesserung von Standard-CNNs mit Aufmerksamkeitsmechanismen verbessert die Methode die Erkennung subtiler und selten vorkommender Pathologien ohne den rechnerischen Overhead von Transformer-basierten Modellen oder die Notwendigkeit teurer pixelgenauer Annotationen. Die Autoren betonen, dass das zweistufige Trainingscurriculum ein kritischer Faktor zur Überwindung von Klassenungleichgewichten ist, da es dem Modell ermöglicht, effektiv diskriminative Muster zu lernen, bevor es auf den gesamten Datensatz generalisiert wird. Die Arbeit schließt, dass der gezielte Einsatz von Aufmerksamkeitsmechanismen in Kombination mit maßgeschneiderten Trainingscurricula für eine robuste Multi-Label-Diagnose in der medizinischen Bildgebung unerlässlich ist. Als zukünftige Arbeit wird vorgeschlagen, sich auf die Verbesserung der klinischen Interpretierbarkeit und die Modellierung von Inter-Pathologie-Abhängigkeiten zu konzentrieren.