TopoCL: Topological Contrastive Learning for Medical Imaging

Each language version is independently generated for its own context, not a direct translation.

Stel je voor dat je een arts bent die duizenden foto's van huidlaesies, tumoren of organen moet analyseren. Vaak zijn er maar heel weinig foto's met een juiste diagnose (een "label"), omdat het vinden van experts duur en tijdrovend is. Om dit op te lossen, gebruiken computers "contrastief leren". Dit is als een spelletje "vind het verschil": de computer krijgt twee versies van dezelfde foto (bijvoorbeeld één met een andere kleur of een beetje geknipt) en leert dat ze hetzelfde zijn, terwijl hij leert dat ze verschillen van andere foto's.

Het probleem is dat de huidige computers vooral kijken naar kleur, textuur en helderheid. Ze zien een tumor als een vlekje met een bepaalde kleur. Maar voor een arts is de vorm en structuur vaak belangrijker: Is de rand glad of onregelmatig? Is er een gat in het weefsel? Hoe zijn de cellen met elkaar verbonden?

Deze auteurs hebben TopoCL bedacht. Laten we dit uitleggen met een paar creatieve analogies:

1. De "Topologische" Brillen

Stel je voor dat de computer nu een speciale bril opzet die niet alleen naar de kleur van de foto kijkt, maar ook naar de topologie.

Topologie is in de wiskunde het studeren van vormen die niet veranderen als je ze uitrekt of verwrongen (zoals een koffiekopje dat hetzelfde is als een donut, omdat ze allebei één gat hebben).
In medische beelden betekent dit: de computer leert niet alleen dat een tumor "rood" is, maar ook dat hij een specifiek patroon van gaten en verbindingen heeft.

2. De "Topologie-bewuste" Augmentaties (Het Knetterende Deeg)

Normaal gesproken maken computers van een foto een nieuwe versie door hem te draaien, te knippen of de kleuren te veranderen. Soms verandert dit echter per ongeluk de vorm van de tumor (bijvoorbeeld: een gesloten ring wordt een open lijn). Dat is slecht voor de diagnose.

TopoCL gebruikt een topologie-bewuste "deegknijper".

Stel je voor dat je deeg kneedt. Je mag het deeg uitrekken en draaien, maar je mag er geen gaten in maken die er niet waren, en je mag geen gaten dichtknijpen die er wel waren.
De auteurs gebruiken een wiskundige maatstaf (een "afstandsmeter") om te controleren of de vorm van de tumor nog steeds hetzelfde blijft, zelfs als ze de foto een beetje vervormen. Zo leert de computer: "De kleur mag veranderen, maar de vorm van het gat moet hetzelfde blijven."

3. De "Hoofd- en Neven-Expert" (De Hiërarchische Encoder)

De computer heeft nu twee soorten informatie: de kleur/afbeelding en de vorm/structuur. Hoe combineer je die?

De auteurs bouwen een Hiërarchische Topologie-Encoder. Dit is als een team van twee specialisten die samenwerken.
- Specialist A kijkt naar de losse stukjes (bijvoorbeeld: "dit is een losse celgroep").
- Specialist B kijkt naar de gaten en lussen (bijvoorbeeld: "dit is een holte in het weefsel").
Ze praten met elkaar via een cross-attention mechanisme. Specialist A zegt tegen B: "Kijk, die holte zit precies in die groep." Zo begrijpen ze de complexe relatie tussen de verschillende delen van de ziekte.

4. De "Slimme Mix" (Mixture-of-Experts)

Soms is de kleur het belangrijkst (bijvoorbeeld bij een huidvlek), en soms is de vorm het belangrijkst (bijvoorbeeld bij een tumor in een orgaan). Een vaste formule werkt niet voor elke foto.

Daarom gebruiken ze een Mixture-of-Experts (MoE) module.

Stel je voor dat je een slimme chef-kok bent met vijf verschillende koks in zijn keuken:
1. De Kleurexpert (kijkt alleen naar de foto).
2. De Vormexpert (kijkt alleen naar de structuur).
3. De Samensteller (plakt ze gewoon naast elkaar).
4. De Mixmeester (mixt ze op een slimme manier).
5. De Gespreksleider (laat ze met elkaar praten).
Voor elke foto die binnenkomt, kijkt de chef-kok: "Welke kok is vandaag het beste voor dit gerecht?"
- Bij een huidfoto kiest hij misschien de Vormexpert, omdat de rand van de laesie cruciaal is.
- Bij een andere foto kiest hij de Kleurexpert.
Dit zorgt ervoor dat de computer zich aanpast aan elk specifiek geval, in plaats van één vaste regel te volgen.

Wat is het resultaat?

De auteurs hebben dit systeem getest op vijf verschillende medische datasets (van darmweefsel tot huidkanker) en vijf verschillende bestaande AI-methoden.

Het resultaat: De AI werd gemiddeld 3,26% beter in het herkennen van ziektes.
Waarom? Omdat de AI nu niet alleen kijkt naar "hoe het eruitziet", maar ook naar "hoe het eruitziet als een structuur". Het ziet de verborgen patronen die voor het blote oog (of een simpele AI) onzichtbaar zijn.

Kortom: TopoCL geeft de medische AI een nieuwe "topologische bril" en een slim team van experts, zodat ze ziektes niet alleen zien als vlekken, maar als complexe, verbonden structuren. Dit maakt de diagnose nauwkeuriger en betrouwbaarder.

Each language version is independently generated for its own context, not a direct translation.

Hieronder volgt een gedetailleerde technische samenvatting van het paper "TopoCL: Topological Contrastive Learning for Medical Imaging" in het Nederlands.

1. Het Probleem

Contrastief leren (Contrastive Learning - CL) is een krachtige methode om representaties te leren uit ongelabelde beelden, wat essentieel is in de medische beeldvorming waar gelabelde data schaars en duur is. Bestaande CL-methoden (zoals SimCLR, MoCo-v3, BYOL) focussen echter bijna uitsluitend op visuele verschijningskenmerken (textuur, intensiteit, kleur) op pixel-niveau.

De kernbeperking is dat deze methoden topologische kenmerken negeren, zoals:

Connectiviteitspatronen (hoe structuren met elkaar verbonden zijn).
Randconfiguraties (de vorm van laesies).
Holte-vormingen (bijv. klierholtes).

In de medische beeldanalyse zijn deze structurele eigenschappen vaak diagnostisch cruciaal. Bestaande augmentatiestrategieën (zoals willekeurige croppen of kleurstoringen) kunnen onbedoeld deze medisch relevante topologische structuren verstoren, wat leidt tot misclassificaties van laesies die visueel vergelijkbaar zijn maar topologisch verschillend (bijvoorbeeld een dermatofibroma verward met een melanocytische naevus).

2. Methodologie: TopoCL Framework

TopoCL is een nieuw raamwerk dat standaard contrastief leren uitbreidt met expliciete topologische behoud. Het bestaat uit drie hoofdblokken:

A. Topologie-bewuste Augmentaties (Topology-Aware Augmentations)

Om te voorkomen dat augmentaties medisch relevante structuren vernietigen, introduceert de auteurs een methode om topologische verstoringen kwantitatief te controleren.

Relative Bottleneck Distance: Ze gebruiken persistentie-diagrammen (PD) uit persistente homologie om de topologie te kwantificeren. De verandering wordt gemeten via de relative bottleneck distance ( $d_B^{rel}$ ) tussen het PD van het originele beeld en het versterkte beeld.
ROI-focus: In plaats van het hele beeld, worden PD's berekend op Regions of Interest (ROI's) die automatisch worden geëxtraheerd met het Segment Anything Model (SAM). Dit filtert achtergrondruis.
Augmentatiestrategie: Er worden twee types augmentaties gedefinieerd op basis van de $d_B^{rel}$ $d_{B}^{r e l}$ :
- Topo-weak: Lage verstoring (5-15% $d_B^{rel}$ ) om structuur te behouden.
- Topo-strong: Hogere verstoring (15-25% $d_B^{rel}$ ) voor voldoende diversiteit.
- Operaties zoals ruis, blur, en morfologische operaties worden gekozen binnen deze bereikken.

B. Hiërarchische Topologie Encoder (H-Topo. Encoder)

Om de persistente homologie (PH) data (ongesorteerde verzamelingen van geboorte- en sterftijden van componenten en lussen) effectief te coderen, wordt een speciale encoder ontworpen:

Invoer: De top-48 meest persistente componenten ( $H_0$ ) en top-96 lussen ( $H_1$ ).
Architectuur:
1. PH Encoder: Een PointNet-achtige structuur die de punten verwerkt.
2. Zelf-attention (Self-Attention): Binnen elke homologie-dimensie ( $H_0$ en $H_1$ apart) om het belang van specifieke topologische features te leren.
3. Kruis-attention (Cross-Attention): Bidirectioneel tussen $H_0$ en $H_1$ om geometrische afhankelijkheden te modelleren (bijv. hoe lussen binnen componenten zitten).
Output: Een samengevoegde representatie via max- en mean-pooling.

C. Adaptieve Mixture-of-Experts (MoE) Fusie

Omdat medische beelden heterogeen zijn (sommige diagnoses vereisen visuele textuur, andere topologische structuur), wordt geen vaste fusiestrategie gebruikt.

Experts: Er zijn vijf experts die verschillende fusiestrategieën toepassen:
1. Visueel alleen.
2. Topologie alleen.
3. Concatenatie.
4. Gated blending (gewichtsbepaling per sample).
5. Cross-attention tussen visuele en topologische features.
Gating Mechanisme: Een multi-gating netwerk leert per sample de optimale gewichten voor deze experts, waardoor het model dynamisch kan schakelen tussen visuele en topologische informatie afhankelijk van de invoer.

3. Belangrijkste Bijdragen

Topologie-bewuste Augmentatie: Een systematische methode om augmentaties te ontwerpen die topologische verstoringen kwantificeren en controleren via persistente homologie, specifiek gericht op medische ROI's.
TopoCL Framework: Een nieuw raamwerk dat een Hiërarchische Topologie Encoder en een adaptieve MoE-fusiemodule combineert om topologische priors naadloos in contrastief leren te integreren.
Uitgebreide Validatie: Het framework is getest op vijf verschillende CL-methoden en vijf diverse medische datasets, wat bewijst dat het een universele verbetering biedt.

4. Resultaten

De auteurs hebben TopoCL geëvalueerd op vijf medische datasets (PathMNIST, OCTMNIST, OrganSMNIST, ISIC2019, Kvasir) en vijf basismethoden (SimCLR, MoCo-v3, BYOL, DINO, Barlow Twins).

Prestatieverbetering: TopoCL leverde consistent verbeteringen op. De gemiddelde stijging in linear probe classificatie-accuraatheid was +3,26% met een sterke statistische significantie (86% van de vergelijkingen had $p < 0,05$ ).
Robuustheid: Alle vijf de basismethoden profiteerden van de toevoeging van TopoCL. De grootste winst werd geboekt met DINO (+4,60% ACC).
Ablatie-studies:
- Zonder pre-training van zowel visuele als topologische encoders daalde de prestatie drastisch.
- De hiërarchische encoder (met cross-attention) was cruciaal; het verwijderen hiervan leidde tot een daling van 6,70%.
- De adaptieve MoE-fusie bleek superieur aan vaste fusiestrategieën, omdat het model leert wanneer het moet vertrouwen op visuele versus topologische features.
Berekeningskosten: De overhead is beperkt (trainingsduur +6-18%, parameters +17%), wat acceptabel is voor medische toepassingen waar training een eenmalige gebeurtenis is.

5. Betekenis en Conclusie

TopoCL adresseert een fundamentele beperking in bestaande self-supervised learning methoden voor de medische beeldanalyse: het negeren van structurele en topologische informatie. Door expliciet topologische kenmerken (connectiviteit, holtes, randen) te integreren via een gecontroleerde augmentatiestrategie en een adaptieve fusie, biedt TopoCL een robuustere representatie die beter generaliseert naar complexe medische scenario's.

De studie toont aan dat topologische cues complementair zijn aan visuele cues en dat hun adaptieve integratie leidt tot statistisch significante verbeteringen in diagnose-accuraatheid. Dit opent nieuwe wegen voor het verbeteren van AI-systemen in klinische toepassingen waar structurele integriteit van weefsels en laesies van levensbelang is. De code is openbaar beschikbaar gemaakt.