Adaptation of Weakly Supervised Localization in Histopathology by Debiasing Predictions

Titel: Adaptatie van zwak gesuperviseerde lokalisatie in histopathologie door voorspellingen te debiasen (SFDA-DeP)

Auteurs: Alexis Guichemerre et al. (ÉTS Montréal, Sorbonne Université, etc.)
Kerngebieden: Zwak Gesuperviseerde Objectlokalisatie (WSOL), Bronvrije Domeinadaptatie (SFDA), Machine Unlearning, Histopathologie.

---

1. Het Probleem

In de digitale pathologie worden diepe leermodellen steeds vaker gebruikt voor kankerdiagnose. Zwak Gesuperviseerde Objectlokalisatie (WSOL) modellen zijn waardevol omdat ze zowel een diagnose (klassificatie) als de locatie van het tumorweefsel (lokalisatie) kunnen voorspellen met slechts beeldniveau-labels, in plaats van tijdrovende pixel-accurate annotaties.

Echter, wanneer deze modellen worden ingezet in een nieuw domein (bijvoorbeeld een ander ziekenhuis, een ander orgaan, of met andere kleuringprotocollen), treedt er een domeinshift op. Dit leidt tot een sterke prestatiedegradatie.

• De Specifieke Uitdaging: Bestaande Bronvrije (Unsupervised) Domeinadaptatie (SFDA) methoden, die werken zonder toegang tot de brondata, vertrouwen vaak op zelf-training (pseudo-labeling).
• Het Bias-Probleem: Onder sterke domeinshifts (zoals tussen verschillende organen) worden de voorspellingen van het bronmodel vaak sterk bevooroordeeld (biased) naar de dominante klasse. SFDA-methoden versterken deze bias tijdens de iteratieve training in plaats van deze te corrigeren. Dit resulteert in een "self-fulfilling prophecy" waarbij het model steeds meer naar één klasse neigt, wat zowel de classificatie- als de lokalisatiekwaliteit (het vinden van de juiste tumorgebieden) ernstig aantast.

2. Methodologie: SFDA-DeP

De auteurs introduceren SFDA-DeP (Source-Free Domain Adaptation with Debiasing Predictions), een methode die is geïnspireerd op Machine Unlearning. Het doel is om de voorspellingsbias in het doeldomein actief te verminderen.

De methode bestaat uit drie kerncomponenten:

A. Iteratief Debiasen via "Vergeet" en "Behoud" Sets

In plaats van alle ongelabelde doeldata gelijk te behandelen, splitst SFDA-DeP de data dynamisch op:

1. Identificatie van Bias: Het model identificeert welke klassen oververtegenwoordigd zijn (dominante klassen) en welke samples onzeker zijn (hoge entropie) binnen die dominante klassen.
2. Forget Set ($B_f$): De onzekerste samples van de dominante klassen worden geselecteerd. Voor deze set wordt een "vergeet-verlies" (forget loss) toegepast. In plaats van het model te trainen om deze samples correct te labelen, wordt het model gestraft als het de oorspronkelijke (vooringenomen) voorspelling blijft doen. Dit dwingt het model om de besluitgrenzen te verschuiven en de bias te doorbreken.
3. Retain Set ($B_r$): De zekere samples worden behouden. Voor deze set wordt een standaard cross-entropy loss gebruikt om betrouwbare voorspellingen te consolideren.
4. Iteratief Proces: Deze sets worden niet één keer vastgesteld, maar periodiek herbouwd (elke $m$ epochs) om te voorkomen dat het model vastloopt in foutieve pseudo-labels en om de besluitgrenzen dynamisch aan te passen.

B. Lokalisatie Supervisie (Pixel-level Classifier)

Om te voorkomen dat de ruimtelijke lokalisatie (het vinden van de tumor) verloren gaat tijdens de adaptatie, wordt een extra pixel-level classifier toegevoegd.

• Deze classifier wordt getraind op basis van Class Activation Maps (CAMs) gegenereerd door het bronmodel.
• Een lokalisatieverlies ($L_{loc}$) zorgt ervoor dat het model discriminatieve kenmerken behoudt voor voorgrond (tumor) versus achtergrond, zelfs onder domeinshift.

C. Totale Loss Functie

De totale loss is een gewogen som van drie termen:
$$L = \lambda_{retain}L_{retain} + \lambda_{forget}L_{forget} + \lambda_{loc}L_{loc}$$
Dit zorgt voor een evenwicht tussen het behouden van betrouwbare kennis, het actief doorbreken van bias, en het handhaven van nauwkeurige lokalisatie.

3. Belangrijkste Bijdragen

• Identificatie van Bias als Hoofdobstakel: De auteurs tonen aan dat de versterking van voorspellingsbias de primaire oorzaak is van het falen van SFDA in WSOL-taken bij histopathologie.
• SFDA-DeP Framework: Een nieuwe adaptatiestrategie die Machine Unlearning-principes toepast om onzekerheid in dominante klassen te "vergeten" en zo de besluitgrenzen te herdefiniëren.
• Gezamenlijke Optimalisatie: De integratie van een pixel-level classifier om de lokalisatiekwaliteit te herstellen, wat vaak wordt verwaarloosd in bestaande SFDA-methoden.
• Uitgebreide Validatie: Experimenten op meerdere benchmarks (GlaS, CAMELYON16, CAMELYON17) met verschillende WSOL-architecturen (CNNs en Transformers).

4. Resultaten

De methode is getest op cross-organ (GlaS $\to$ CAMELYON16) en cross-center (CAMELYON17) scenario's.

• Prestatieverbetering: SFDA-DeP overtreft consistent state-of-the-art SFDA-baselines (zoals SFDA-DE, CDCL, ERL, RGV) op zowel classificatie (CL) als lokalisatie (PxAP).
  • Bijvoorbeeld, voor het PixelCAM-model steeg de gemiddelde classificatie-accuraatheid van 49.3% (Source Only) naar 67.1% met SFDA-DeP, terwijl SFDA-DE slechts 54.6% haalde.
  • De verbetering in lokalisatie (PxAP) was nog opvallender: van 36.9% naar 44.1% voor PixelCAM.
• Stabiliteit: De methode is vooral effectief in scenario's waar andere methoden vastlopen in een dominante klasse (vaak rond de 50% nauwkeurigheid). SFDA-DeP herstelt de balans en bereikt soms tot 86.2% nauwkeurigheid op specifieke doelen.
• Ablatie-studies: De studies bevestigen dat zowel de dynamische herschikking van de "retain/forget" sets als de pixel-level supervisie essentieel zijn voor het succes van de methode.

5. Betekenis en Conclusie

Dit paper biedt een cruciale oplossing voor het probleem van domeinshift in de klinische praktijk van digitale pathologie. Omdat het vaak onmogelijk is om nieuwe data te labelen voor elk nieuw ziekenhuis of orgaan, is SFDA essentieel. SFDA-DeP lost het fundamentele probleem op dat bestaande SFDA-methoden de bias van het bronmodel versterken in plaats van corrigeren.

Door het concept van "vergeten" (machine unlearning) te combineren met lokale supervisie, maakt SFDA-DeP het mogelijk om WSOL-modellen robuust en betrouwbaar in te zetten in nieuwe, onbekende omgevingen. Dit verbetert niet alleen de diagnose-accuraatheid, maar ook de interpretatie (waar zit de tumor?), wat direct bijdraagt aan de klinische betrouwbaarheid van AI-gestuurde diagnostiek.