Robust Multi-Source Covid-19 Detection in CT Images

Probleemstelling

Bestaande deep learning-modellen voor de detectie van COVID-19 op basis van thorax-CT-scans presteren doorgaans goed wanneer trainings- en testdata uit dezelfde instelling komen. Echter, deze modellen kampen met een aanzienlijke prestatiedaling in multi-institutionele settings (data uit verschillende ziekenhuizen). Dit fenomeen wordt veroorzaakt door domain shift: verschillen in scanners, beeldvormingsprotocollen, slice-diktes en patiëntpopulaties tussen ziekenhuizen.

Een cruciaal, maar vaak genegeerd probleem is de ongelijke verdeling van data. In dit specifieke dataset zijn drie van de vier bronnen goed vertegenwoordigd (ca. 330 scans), terwijl de vierde bron aanzienlijk minder data levert (234 scans). Standaard trainingsmethoden negeren deze bronidentiteit, waardoor het model onbewust bias ontwikkelt ten gunste van de bronnen met de meeste data. Hierdoor worden de geleerde representaties niet robuust genoeg om over alle bronnen heen te generaliseren.

Methodologie

De auteurs stellen een multi-task learning-framework voor dat bestaat uit drie hoofdbestanddelen:

1. Preprocessing (SSFL + KDS):

   • Om heterogeniteit in de ruwe data te verminderen, wordt een pipeline gebruikt gebaseerd op het SSFL-framework met Kernel-Density-based Slice Sampling (KDS).
   • Eerst wordt het longgebied geïsoleerd en worden ruis en artefacten onderdrukt.
   • Vervolgens worden per scan precies acht representatieve slices geselecteerd. In plaats van uniforme subsampling (wat korte scans zou onderschatten), past KDS een Gaussische dichtheidsschatting toe op het longoppervlak. Hierdoor worden slices waar de longanatomie snel verandert (bijv. bij de hilus) vaker geselecteerd dan uniforme apicale gebieden.

2. Multi-Task Architectuur:

   • Het model gebruikt een gedeelde EfficientNet-B7 backbone (vooraf getraind op ImageNet).
   • De acht geselecteerde slices worden onafhankelijk door de backbone gevoerd en de resulterende feature vectors worden gemiddeld (mean pooling) tot één scan-level representatie.
   • Er zijn twee classificatiekoppen (heads):
     • Hoofdtaken: COVID-19 detectie (binair: positief/negatief) met een standaard cross-entropy loss.
     • Hulptaak (Auxiliary): Bronidentificatie (welk van de 4 ziekenhuizen kwam de scan vandaan?).
   • Het doel van de hulptaak is om de backbone te dwingen om features te leren die invariant zijn voor de bron, zodat de ziekte-signalen gescheiden blijven van acquisitie-artefacten.

3. Logit-Adjusted Loss voor Ongelijke Verdeling:

   • Omdat de bronnen ongelijk groot zijn, zou een standaard cross-entropy loss voor de bron-identificatie leiden tot bias ten gunste van de grote bronnen.
   • De auteurs passen een logit-adjusted cross-entropy loss toe op de bron-kop. Hierbij wordt een correctieterm toegevoegd op basis van de log-frequentie van elke bron ($\log(p(d))$).
   • Dit mechanisme verlaagt de drempel voor het voorspellen van zeldzame bronnen, waardoor het model niet kan "afkoelen" door alleen de meerderheidsklasse te voorspellen. Dit zorgt voor een evenwichtigere gradiëntstroom naar de gedeelde backbone.

De totale loss functie is een gewogen som: $\mathcal{L} = \mathcal{L}_{CE} + \gamma \cdot \mathcal{L}_{LA}$, waarbij $\gamma$ de invloed van de bron-taak reguleert.

Belangrijkste Bijdragen

1. Multi-task Formulering: Het probleem van multi-bron COVID-19 detectie wordt omgezet in een multi-task probleem door bronidentificatie te koppelen aan de diagnose. Dit dwingt het model om features te leren die over instellingsgrenzen heen generaliseren.
2. Logit-Adjusted Supervisie: Het toepassen van logit-adjusted loss op de bron-kop lost het probleem van ongelijke data-distributie op. Dit resulteert in een significante verbetering ten opzichte van een standaard multi-task baseline.
3. Empirisch Bewijs: De auteurs tonen aan dat een onbewerkte multi-task aanpak (zonder logit-adjustment) zelfs slechter presteert dan een single-task baseline, omdat de onbalans de features verstoort. De voorgestelde methode lost dit op.

Resultaten

De methode werd getest op een validatieset van 308 scans afkomstig van vier verschillende medische centra.

• Prestaties: Het beste model (met $\gamma = 0.5$) bereikte een F1-score van 0,9098 en een AUC-ROC van 0,9647.
• Vergelijking:
  • T.o.v. de single-task baseline (F1 0,8915) is er een verbetering van 1,86 procentpunten in de finale score.
  • T.o.v. de beste standaard multi-task variant (met standaard cross-entropy) is er een verbetering van 1,98 procentpunten.
• Per-bron Analyse: De verbeteringen zijn het grootst bij de bronnen waar de baseline het slechtst presteerde (bron 0 en 2). Hoewel bron 3 (met geen COVID-positieve gevallen in de validatie) een lage score heeft, presteert het model daar goed op de beschikbare negatieve gevallen.
• Sensitiviteit: De parameter $\gamma$ bleek kritiek; een waarde van 0,5 gaf de beste balans. Een te lage waarde had weinig effect, terwijl een te hoge waarde (1,0) de bron-identiteit te sterk liet domineren ten koste van de ziekte-detectie.

Betekenis en Conclusie

Dit onderzoek benadrukt dat multi-task learning alleen effectief is voor domain generalisatie als de auxiliary loss specifiek is ontworpen om de data-distributie te compenseren. Het toont aan dat het simpelweg toevoegen van een bron-classificatiekop zonder correctie voor onbalans schadelijk kan zijn.

De voorgestelde logit-adjusted cross-entropy is een krachtige, maar eenvoudige techniek om bias in multi-bron medische datasets te elimineren zonder dat er expliciete domain-adaptatie of pseudo-labeling nodig is. Dit biedt een robuustere oplossing voor de implementatie van AI in de kliniek, waar data vaak uit diverse en ongelijke bronnen komt. De code is open source beschikbaar gesteld.