Ranking-Guided Semi-Supervised Domain Adaptation for Severity Classification

1. Het Probleem

In de medische beeldanalyse leiden verschillen in opnameapparatuur, condities en protocollen tussen ziekenhuizen vaak tot een domeinverschuiving (domain shift). Een model getraind op gelabelde data van het ene ziekenhuis (bron-domein) presteert vaak slecht op data van een ander ziekenhuis (doel-domein).

Hoewel semi-supervised domain adaptation (SSDA) veelbelovend is door gebruik te maken van een kleine hoeveelheid gelabelde en een grote hoeveelheid ongelabelde doel-samples, stuiten bestaande methoden op een specifiek probleem bij ernst-classificatie (severity classification):

• Onduidelijke klassengrenzen: Ernst-niveaus (bijv. van mild tot ernstig) vormen een continuüm met natuurlijke ordening, in plaats van discrete, scherp afgebakende klassen.
• Foutieve aannames: Traditionele SSDA-methoden gaan ervan uit dat klassen duidelijke clusters in de feature-ruimte vormen. Bij ernst-classificatie zijn deze grenzen echter vaag, waardoor het aligneren van discrete clusters vaak leidt tot suboptimale resultaten en een verlies van de ordinale structuur van de ziekteernst.

2. Methodologie

De auteurs stellen een nieuwe methode voor die gebruikmaakt van Learning to Rank om de continuïteit van ernst-niveaus te benutten. In plaats van alleen klassen te classificeren, leert het model een rangscore (rank score) die de voortgang van de ernst weergeeft. De architectuur bestaat uit een feature-extractor ($F_e$) die uitmondt in een classifier ($F_c$) en een rangfunctie ($F_r$).

De methode bestaat uit twee kerncomponenten:

A. Cross-Domain Ranking (CDR)

• Doel: Het waarborgen van consistente rangscores tussen het bron- en doel-domein.
• Werking: In plaats van alleen binnen één domein te rangschikken, worden paren van samples gecreëerd die over de domeinen heen worden getrokken (bron + doel).
• Mechanisme: Het model leert paren te rangschikken op basis van relatieve ernstlabels. Als een sample uit het bron-domein ernstiger is dan een sample uit het doel-domein, moet de rangscore van het bron-sample hoger zijn. Dit dwingt de model om een gemeenschappelijke schaal voor ernst te ontwikkelen, waardoor de feature-distributies van beide domeinen beter op elkaar worden afgestemd.

B. Continuous Distribution Alignment (CDA)

• Doel: Het aligneren van de rangscore-distributies tussen de domeinen, rekening houdend met de onzekerheid bij ongelabelde data.
• Werking: CDA maakt gebruik van rang-gebaseerde soft labels.
  • Voor ongelabelde doel-samples wordt een Gaussische Mixture Model (GMM) gebruikt om de waarschijnlijkheid te schatten dat een sample tot een bepaalde rang (of cluster) behoort.
  • In plaats van harde pseudo-labels (die een sample tot één specifieke klasse forceren), worden deze samples probabilistisch gekoppeld aan de distributie van het bron-domein.
• Verliesfunctie: Het model minimaliseert de afstand tussen de geschatte rangscore van een sample en het gemiddelde rangscore van de corresponderende klasse in het bron-domein (de "prototype"). Dit zorgt ervoor dat de continuïteit van de ernst behouden blijft tijdens de adaptatie.

De totale loss-functie combineert classificatie-verlies, rangschikking-verlies (binnen en tussen domeinen) en het CDA-verlies.

3. Belangrijkste Bijdragen

1. Nieuw SSDA-framework: Een kader voor ernst-classificatie dat domeinen aligneert via geordende klasselabels in plaats van discrete clusters, waardoor het probleem van vage klassengrenzen wordt aangepakt.
2. Cross-Domain Ranking (CDR): Een innovatieve aanpak die rangschikking leert uit paren van samples die over domeinen heen worden gekozen, wat zorgt voor een consistente interpretatie van ernst tussen verschillende ziekenhuizen.
3. Continuous Distribution Alignment (CDA): Een eenvoudige maar effectieve loss-functie die rang-gebaseerde soft labels gebruikt om de distributie van ongelabelde doel-samples probabilistisch op het bron-domein te aligneren, zonder de continuïteit van de ziekteernst te verliezen.

4. Experimentele Resultaten

De methode werd getest op twee medische taken:

• Colitis Ulcerosa (UC): Endoscopische beelden (LIMUC en een privédataset).
• Diabetische Retinopathie (DR): Fundusbeelden (FGADR en DDR).

Resultaten:

• De voorgestelde methode presteerde overtuigend beter dan bestaande SSDA-methoden (zoals MME, CDAC, SLA) en een gespecialiseerde ordinale UDA-methode (ORUDA).
• Metingen: De methode behaalde de beste resultaten in macro Precision (mP) en macro F1-score (mF1), wat cruciaal is bij onbalans in de datasets.
• Ablatiestudie: Het gebruik van zowel CDR als CDA samen leverde de beste prestaties op. CDR bleek vooral bij te dragen aan de precisie (mP), terwijl CDA de recall (mR) verbeterde door de algehele distributie beter te aligneren.
• Visualisatie: De rangscore-distributies van het doel-domein kwamen na adaptatie sterk overeen met die van het bron-domein, wat aantoont dat de ordinale structuur succesvol is overgebracht.

5. Betekenis en Conclusie

Dit onderzoek is significant omdat het een oplossing biedt voor een veelvoorkomend maar onderbelicht probleem in de medische AI: het toepassen van domain adaptation op ordinaire (geordende) problemen waar klassen niet scherp gescheiden zijn.

Door de continuïteit van ziekteernst te modelleren via rangschikking in plaats van discrete classificatie, kan het model beter generaliseren naar nieuwe ziekenhuizen met verschillende opnameprotocollen. Dit maakt de techniek zeer waardevol voor de ontwikkeling van robuuste diagnostische ondersteuningssystemen die betrouwbaar werken in diverse klinische omgevingen. De methode bewijst dat het respecteren van de onderliggende orde van data essentieel is voor succesvolle semi-supervised domain adaptation in de medische beeldanalyse.