Gradient based Severity Labeling for Biomarker Classification in OCT

Deze paper introduceert een nieuwe strategie voor contrastief leren in de medische beeldvorming waarbij ongelabelde OCT-scans worden gekenmerkt op basis van ziekteernst via gradiëntresponsen, wat leidt tot een tot 6% hogere nauwkeurigheid bij de classificatie van biomarkers voor diabetische retinopathie vergeleken met zelftoezicht-baselines.

De kern

🩺 De Grote Uitdaging: Het Zoeken naar Naalden in Hooibergen

Stel je voor dat je een enorm magazijn hebt vol met foto's van oogscans (OCT-scans). De meeste foto's zijn van gezonde ogen, maar er zitten ook duizenden foto's bij van ogen met een ziekte, zoals Diabetische Retinopathie (een oogziekte bij diabetes).

Het probleem is dat voor de meeste van deze foto's geen etiket is. We weten niet precies welke foto een ziekte toont en welke niet, of hoe ernstig die ziekte is. Om een computer slim te maken om deze ziekte te zien, hebben we normaal gesproken duizenden foto's nodig waar een menselijke expert handmatig op heeft gezet: "Hier is een vlekje," of "Hier is vocht." Maar dat is duur en tijdrovend.

💡 De Slimme Oplossing: "Ziekte-Intensiteit" in plaats van "Ja/Nee"

De onderzoekers van dit papier (uit Georgia Tech en Texas) bedachten een nieuwe manier om die computer slim te maken, zonder dat ze duizenden experts nodig hebben.

Stel je voor dat je een klaslokaal hebt met leerlingen.

• De oude manier: De leraar zegt: "Leerling A en Leerling B zijn vrienden omdat ze allebei een rood T-shirt aan hebben." (Dit is wat de computer normaal doet: hij vergelijkt twee foto's die er qua kleur of vorm op lijken).
• Het probleem: In de medische wereld kan een "rood T-shirt" (een willekeurige aanpassing van de foto) de belangrijke details verpesten. Als je een oogfoto een beetje vervormt, kan een klein ziekte-tekenje verdwijnen.

De nieuwe manier van de onderzoekers:
Ze zeggen: "Laten we leerlingen niet groeperen op hun kleding, maar op hoe ziek ze zijn."

• Leerling A en Leerling B zijn vrienden omdat ze allebei een lichte verkoudheid hebben.
• Leerling C en D zijn vrienden omdat ze allebei een ernstige griep hebben.

Zelfs als ze er anders uitzien, hebben ze een gemeenschappelijke structuur: de ernst van hun ziekte.

🧪 Hoe werkt de "Ziekte-Intensiteit"? (De Gradiënt-methode)

Hoe weten we nu hoe ziek een oog is, als er geen dokter bij staat? De onderzoekers gebruiken een slimme truc met wiskundige "trillingen" (gradiënten).

1. De Gezonde Basis: Eerst laten ze de computer alleen maar foto's van gezonde ogen zien. De computer leert hoe een "perfect gezond oog" eruitziet.
2. De Test: Vervolgens laten ze ze duizenden onbekende foto's zien.
3. De Reactie: Als de computer een gezonde foto ziet, denkt hij: "Ah, dit ken ik, ik hoef niets te veranderen." Maar als hij een zieke foto ziet, moet hij hard nadenken: "Wacht, dit klopt niet! Ik moet mijn kennis flink aanpassen om dit te begrijpen."
4. De Score: Hoe harder de computer moet "nadenken" (hoe groter de wiskundige aanpassing), hoe ernstiger de ziekte. Dit noemen ze een Ziekte-Intensiteit Score.

🏷️ Het Labelen: Van Score naar Groepjes

Nu hebben ze voor elke foto een score. Maar een getal is nog geen etiket. Dus doen ze het volgende:

• Ze nemen alle scores en verdelen ze in bakjes (bijvoorbeeld 5.000 bakjes).
• Alle foto's in bakje 1 zijn heel gezond.
• Alle foto's in bakje 5.000 zijn heel ziek.
• Foto's in bakje 2.500 zijn gemiddeld ziek.

Nu hebben ze voor elke foto een tijdelijk etiket (een "pseudo-label") op basis van hoe ziek het oog lijkt te zijn.

🚀 Het Leren: Groeperen op Ziekte

Nu gebruiken ze deze tijdelijke etiketten om de computer te trainen met een techniek die Contrastive Learning heet.

• De computer leert: "Alle foto's in bakje 2.500 horen bij elkaar. Ze moeten op elkaar lijken in mijn hoofd."
• "Foto's in bakje 1 en bakje 5.000 horen niet bij elkaar. Die moeten ver uit elkaar liggen."

Door dit te doen, leert de computer de structuur van de ziekte veel beter te begrijpen dan wanneer hij alleen maar willekeurige foto's vergelijkt.

🎯 Het Eindresultaat: Beter Ziekenhuiswerk

Uiteindelijk gebruiken ze deze slimme computer om de echte ziektes te detecteren (zoals vocht in het oog of vlekjes).

• Resultaat: De computer werd tot 6% beter in het vinden van deze ziektes dan eerdere methoden.
• Waarom? Omdat hij niet alleen naar de "kleur" van de foto keek, maar naar de "ernst" van de ziekte, wat een veel logischer manier is om medische beelden te begrijpen.

📝 Samenvatting in één zin

In plaats van te raden welke oogfoto's op elkaar lijken, hebben de onderzoekers een slimme manier bedacht om te meten hoe ziek een oog is, en gebruiken ze die "ziektescore" om de computer te leren de echte ziektes sneller en nauwkeuriger te herkennen.

Technische samenvatting

Probleemstelling

Diabetische Retinopathie (DR) is een leidende oorzaak van blindheid, waarbij de detectie van specifieke biomarkers in optische coherentie tomografie (OCT)-scans cruciaal is voor diagnose en behandeling. Een groot obstakel bij het automatiseren van deze detectie met diepe leermethoden is de afhankelijkheid van grote hoeveelheden gelabelde data. Het labelen van medische beelden vereist echter experts, wat kostbaar en tijdrovend is.

Bestaande zelftoezichtende (self-supervised) contrastieve leerbenaderingen (zoals SimCLR) genereren positieve paarbeelden door willekeurige augmentaties (zoals Gaussische vervaging) toe te passen op één afbeelding. In de medische domain is dit problematisch: deze augmentaties kunnen kleine, gelokaliseerde gebieden vervormen die de cruciale biomarkers bevatten. Er is behoefte aan een strategie die medisch zinvolle positieve paren selecteert, gebaseerd op de ernst van de ziekte, aangezien beelden met vergelijkbare ernst waarschijnlijk vergelijkbare structurele kenmerken delen.

Methodologie

De auteurs stellen een nieuwe aanpak voor die pseudo-ernstlabels (severity labels) genereert voor ongelabelde OCT-scans op basis van gradiëntresponsen van een anomaly detection-model. Het proces verloopt in drie hoofdfasen:

1. Leren van de gezonde verdeling:

   • Een auto-encoder wordt getraind op een dataset van gezonde OCT-scans (Kermany dataset) met behulp van de GradCON-methode.
   • Hierbij wordt een gradiëntbeperking toegepast tijdens het trainen zodat gradiënten van gezonde beelden dichter bij elkaar liggen. Beelden die afwijken van deze gezonde verdeling genereren dus meer onderscheidbare gradiënten.

2. Generatie van Ernstlabels (Severity Labeling):

   • Voor elke ongelabelde scan in de biomarker-dataset wordt een Ernstscore (Severity Score - SS) berekend. Deze score is een combinatie van de reconstructiefout ($L_{recon}$) en de cosine-相似iteit van de gradiënten ($L_{grad}$) ten opzichte van de geleerde gezonde verdeling:
     $$SS = -L_{recon} + \alpha L_{grad}$$
   • Een lagere score duidt op een gezonder beeld (hoge gradiënt-uitlijning met gezonde data), terwijl een hogere score aangeeft dat het beeld abnormaler is.
   • De ongelabelde scans worden op basis van deze scores gerangschikt en verdeeld in $N$ "bins" (intervallen). Beelden in dezelfde bin krijgen hetzelfde pseudo-ernstlabel.

3. Supervised Contrastive Learning & Fine-tuning:

   • Fase 1: Een encoder (ResNet-18) wordt getraind met een supervised contrastive loss op basis van de gegenereerde pseudo-ernstlabels. Beelden met hetzelfde label worden in de embeddingruimte dichter bij elkaar gebracht, terwijl beelden met verschillende labels verder uit elkaar worden geduwd.
   • Fase 2: De gewichten van de encoder worden bevroren en een lineaire laag wordt toegevoegd. Dit model wordt vervolgens gefine-tuned op een klein, gelabeld dataset met echte biomarker-annotaties om de specifieke biomarkers te detecteren.

Belangrijkste Bijdragen

1. Nieuwe Strategie voor Positieve Paren: In plaats van willekeurige augmentaties, selecteert de methode positieve paren op basis van vergelijkbare ziekte-ernst, wat medisch consistenter is voor OCT-data.
2. Gradiënt-gebaseerde Pseudo-labeling: Introductie van een methode om semi-supervised labels te genereren voor ongelabelde data door gebruik te maken van gradiëntresponsen van een anomaly detection-model (GradCON) als maatstaf voor afwijking van de gezondheid.
3. Verbeterde Representatieruimte: Het aantonen dat het trainen van een encoder met deze zwakke ernstlabels leidt tot een betere representatieruimte voor biomarker-classificatie dan bestaande zelftoezichtende baselines.

Resultaten

De methode werd getest op de Prime + TREX DME dataset, met focus op vijf biomarkers: Intraretinale Hyperreflective Foci (IRHRF), Intraretinale Vloeistof (IRF), Diabetische Maculaire Oedeem (DME), Deels Losgekoppeld Vitreus (PAVF) en Volledig Losgekoppeld Vitreus (FAVF).

• Prestatieverbetering: De voorgestelde aanpak (Severity Labeling met Supervised Contrastive Loss) overtrof state-of-the-art zelftoezichtende methoden zoals SimCLR, PCL en MoCo v2.
• Specifieke cijfers: Voor de multi-label classificatie (gemiddelde AUC) behaalde de beste variant (SL5000) een score van 0.774, vergeleken met 0.754 voor SimCLR en 0.769 voor MoCo v2.
• Individuele biomarkers: Er waren significante verbeteringen, met name bij IRHRF (66.83% nauwkeurigheid vs 59.03% bij SimCLR) en DME (84.52% vs 80.61%).
• Hyperparameter $N$: Het aantal bins ($N$) had een grote invloed. Een moderate keuze (bijv. 5000 of 10.000 bins) gaf over het algemeen de beste resultaten voor multi-classificatie, terwijl specifieke biomarkers (zoals DME en IRF) baat hadden bij een groter aantal bins (15.000 - 20.000).
• Vergelijking met andere anomaly detection: De gradiëntgebaseerde methode (SL) presteerde beter dan andere methoden voor het genereren van anomalie-scores (zoals MSP, ODIN, Mahalanobis) wanneer deze werden gebruikt voor pseudo-labeling.

Betekenis en Conclusie

Dit paper toont aan dat het integreren van een grote pool ongelabelde medische data in het trainingsproces mogelijk is door slimme, medisch onderbouwde selectie van positieve paren. Door de "ernst" van een ziekte te definiëren als de mate waarin een sample afwijkt van een geleerde gezonde verdeling (gemeten via gradiënten), kunnen semantisch interpreteerbare clusters worden gevormd.

Deze aanpak lost het probleem op van het vervormen van kritieke biomarkers door willekeurige augmentaties en levert een robuustere representatieruimte op. Dit resulteert in een significante verbetering van de classificatieprestaties voor DR-biomarkers, zelfs met een beperkte hoeveelheid gelabelde data, wat een belangrijke stap is richting bruikbare AI-systemen in de klinische praktijk.