Unsupervised Causal Prototypical Networks for De-biased Interpretable Dermoscopy Diagnosis

Deze paper introduceert CausalProto, een onbewaakte causale prototypische netwerk dat door het ontrafelen van pathologische kenmerken van omgevingsverstorende factoren en het toepassen van causale interventies, zowel de diagnoseprestaties als de transparante interpretatie van dermoscopie verbetert zonder de nauwkeurigheid te verlagen.

De kern

🩺 De "Slimme Huisarts" die niet voor de gek wordt gehouden

Stel je voor dat je een zeer slimme computer wilt bouwen die huidkanker kan herkennen op foto's van moedervlekken (dermoscopie). Dit is een levensreddende taak. Helaas zijn de huidige slimme computers (diep leren) vaak als zwarte dozen: ze geven een antwoord, maar niemand weet waarom. Als ze een fout maken, is dat gevaarlijk.

Om dit op te lossen, hebben onderzoekers een nieuw systeem bedacht, genaamd CausalProto. Laten we uitleggen hoe dit werkt met een paar simpele vergelijkingen.

1. Het Probleem: De "Valse Vrienden"

Stel je voor dat je een student wilt leren om een echte diamant te herkennen.

• De echte leerling kijkt naar de glans en de structuur van de steen (de ziekte).
• De slome student kijkt echter naar de achtergrond. Hij denkt: "Als de steen op een blauwe fluwelen doek ligt, is het zeker een diamant!"

In de echte wereld (medische data) gebeurt dit vaak. De computer leert dat bepaalde moedervlekken vaak op een specifieke manier gefotografeerd zijn (bijvoorbeeld met een bepaald type camera of op een bepaalde huidskleur). De computer denkt dan: "Ah, dit is kanker, omdat de foto er zo uitziet!" in plaats van naar de vlek zelf te kijken. Dit noemen we shortcut learning (afkortingen nemen). De computer wordt dus "voor de gek gehouden" door de omgeving, niet door de ziekte.

2. De Oplossing: Twee Gescheiden Hersenen

De onderzoekers hebben CausalProto gebouwd met een slimme truc: ze geven de computer twee verschillende hersenen (of kanalen) die strikt gescheiden moeten blijven.

• Hersenen A (De Ziekte-detector): Kijkt alleen naar de echte medische signalen (de vorm van de vlek, de kleurpatronen).
• Hersenen B (De Omgevings-detector): Kijkt alleen naar de "ruis" (de camera, de achtergrond, de belichting).

Deze twee hersenen mogen nooit met elkaar praten. Ze worden gescheiden door een "muur" (in het paper een Information Bottleneck genoemd). Als Hersenen A iets ziet, moet het zeker weten dat Hersenen B daar niets mee te maken heeft. Dit zorgt ervoor dat de computer de echte ziekte leert herkennen, ongeacht hoe de foto eruitziet.

3. De "Voorbeeldboeken" (Prototypes)

In plaats van abstracte getallen te gebruiken, werkt CausalProto met voorbeeldboeken.

• Het systeem heeft een boek met echte voorbeelden van kanker (Causale Prototypes).
• En een apart boek met voorbeelden van "verkeerde hints" (Spurious Prototypes), zoals rare schaduwen of camera-artefacten.

Wanneer de computer een nieuwe foto ziet, zoekt hij in zijn Ziekte-boek naar de beste match. Maar hij kijkt ook in zijn Ruis-boek.

4. De "Tijdmachine" (Do-calculus)

Dit is het meest magische deel. Stel je voor dat je een detective bent die een misdaad wil oplossen, maar er zijn veel valse getuigenissen.

• Normaal gesproken kijkt de detective naar de foto en zegt: "Dit lijkt op kanker."
• CausalProto doet iets anders: het doet alsof het een tijdmachine heeft. Het vraagt zich af: "Wat zou de diagnose zijn als we ALLEEN naar de ziekte zouden kijken, en de valse hints (de achtergrond, de camera) volledig zouden negeren?"

In de wiskunde noemen ze dit do-calculus. Het systeem "doet alsof" het de valse hints heeft verwijderd. Het middelt alle mogelijke verkeerde hints uit elkaar, zodat alleen de pure, echte ziekte overblijft.

5. Waarom is dit zo belangrijk?

Tot nu toe moesten artsen kiezen tussen twee dingen:

1. Een computer die heel goed is in voorspellen, maar je niet kunt uitleggen waarom (de zwarte doos).
2. Een computer die je kunt uitleggen, maar minder goed presteert omdat hij "verward" raakt door de valse hints.

CausalProto breekt deze regel.

• Het is transparant: Je kunt zien welke vlekken de computer als voorbeeld gebruikt (de "bewijzen").
• Het is betrouwbaar: Omdat het de valse hints heeft verwijderd, maakt het minder fouten.
• Het is sneller: Het hoeft geen menselijke labels te hebben om te weten wat "ruis" is; het leert dit vanzelf door de twee hersenen te scheiden.

Samenvattend

Het paper beschrijft een nieuwe manier om AI te trainen voor huidkanker. In plaats van dat de AI leert op basis van "wat er vaak samen voorkomt" (wat vaak fout is), leert het oorzaak en gevolg te scheiden.

Het is alsof je een detective opleidt die niet meer kijkt naar de kleding van de verdachte (de achtergrond), maar alleen naar de daadwerkelijke vingerafdrukken (de ziekte). Hierdoor krijgt de arts een diagnose die niet alleen nauwkeurig is, maar ook eerlijk en begrijpelijk verklaard kan worden.

Technische samenvatting

Probleemstelling

Hoewel diep leren (deep learning) succesvol is in de analyse van dermoscopie-afbeeldingen voor huidkanker, lijdt het onder twee fundamentele beperkingen die de klinische toepassing belemmeren:

1. Black-box aard: De modellen zijn niet interpreteerbaar, wat vertrouwen bij artsen ondermijnt.
2. Shortcut learning en bias: Bestaande prototypische netwerken (die proberen transparantie te bieden door vergelijkbare gevallen te tonen) zijn kwetsbaar voor selectiebias in klinische data. In plaats van de echte pathologische kenmerken te leren, coderen deze modellen vaak omgevingsartefacten (zoals haren, inktmarkeringen of camera-randjes) als voorspellende prototypes. Dit creëert "spurious evidence" (schijnbewijzen) die leiden tot onbetrouwbare diagnoses via een zogenaamde "backdoor path" in de causale structuur.

Methodologie: CausalProto

Het paper introduceert CausalProto, een onbewaakte (unsupervised) causale prototypische netwerkarchitectuur die is ontworpen om causale relaties te isoleren van verstorende factoren. De methode is gebaseerd op een Structural Causal Model (SCM) en bestaat uit de volgende kerncomponenten:

1. Dual-branch Encoder met Informatie Bottleneck:

   • Het model gebruikt twee parallelle encoders om de invoerafbeelding $X$ te ontleden in twee orthogonale latenterepresentaties:
     • $Z_C$: Causale variabelen (echte pathologische kenmerken).
     • $Z_S$: Spurious variabelen (omgevingsartefacten/verstorende factoren).
   • Om te garanderen dat deze twee ruimtes strikt onafhankelijk zijn zonder handmatige annotaties van de omgeving, wordt een Information Bottleneck (IB) constraint toegepast. Dit minimaliseert de wederzijdse informatie (Mutual Information - MI) tussen $Z_C$ en $Z_S$ via een variational upper bound (vCLUB).

2. Onafhankelijke Prototypische Ruimtes:

   • Het model leert twee aparte bibliotheken van prototypes:
     • Een Causale Prototype Library ($P_C$) die de echte pathologische patronen vastlegt.
     • Een Spurious Prototype Library ($P_S$) die de omgevingsartefacten modelleert.
   • De causale prototypes worden strikt geprojecteerd op de dichtstbijzijnde reële trainingsafbeeldingen om interpretatie te waarborgen.

3. Backdoor Adjustment via do-calculus:

   • Tijdens de inferentie wordt de traditionele conditionele kans $P(Y|X)$ vervangen door de interventiële kans $P(Y|do(X))$.
   • Dit wordt bereikt door de invloed van de verstorende factoren te marginaliseren. Het model gebruikt de geleerde spurious dictionary ($P_S$) en past Normalized Weighted Geometric Mean (NWGM) pooling toe. Hierdoor wordt de voorspelling gemiddeld over alle mogelijke omgevingscontexten, waardoor de "shortcut learning" effectief wordt geblokkeerd en alleen de causale signalen overblijven.

4. Doelstelling (Loss Function):

   • De totale loss functie combineert cross-entropy voor de causale voorspelling, een clusterverlies voor de diversiteit van de spurious prototypes, een prototypisch verlies voor de alignering met causale klassen, en de MI-penalty voor de ontvlechting.

Belangrijkste Bijdragen

• Definitie van Spurious Evidence: Het paper formaliseert hoe prototypische netwerken kwetsbaar zijn voor confounding factoren in medische visie-taken.
• Onbewaakte Ontvlechting: Het realiseert strikte orthogonale ontvlechting tussen pathologische en omgevingskenmerken zonder dat er annotaties voor de omgeving nodig zijn, gebruikmakend van variational mutual information bounds.
• Causale Interventie: Het introduceert een onbewaakte "confounding prototype library" die fungeert als een causale interventie-dictionary, waardoor complexe causale ingrepen efficiënt kunnen worden gemarginaliseerd via expectation pooling.
• Doorbreken van de Trade-off: Het bewijst dat het mogelijk is om zowel hoge diagnostische nauwkeurigheid als transparante, zuivere visuele interpretatie te bereiken zonder de traditionele afweging tussen nauwkeurigheid en interpreteerbaarheid.

Resultaten

Het model is geëvalueerd op drie grote datasets: HAM10000, ISIC 2019 en PAD-UFES-20.

• Prestatie: CausalProto behaalde state-of-the-art resultaten en presteerde significant beter dan zowel "black-box" modellen (zoals ResNet-50, EfficientNet) als bestaande prototypische modellen (zoals ProtoPNet) en robuuste causale representatiemodellen.
  • Bijvoorbeeld op HAM10000: Een verbetering van 4,1% in Balanced Accuracy ten opzichte van de sterkste baseline (CausalVAE).
• Ablatie-studies:
  • Het verwijderen van de Mutual Information penalty leidde tot een sterke daling in de zuiverheid van de prototypes en de nauwkeurigheid, wat aantoont dat ontvlechting essentieel is.
  • Het weglaten van de causale interventie (do-calculus) resulteerde in een significante daling van de diagnosekwaliteit, wat bewijst dat het marginaliseren van de spurious dictionary noodzakelijk is voor de uiteindelijke voorspelling.
• Interpretatie: Visuele visualisaties (warmtekaarten) tonen aan dat het model zich strikt richt op intrinsieke pathologische gebieden en omgevingsartefacten (zoals haren of inkt) negeert. De retrieved prototypes zijn zuivere voorbeelden van de ziekte, wat vertrouwen wekt bij medische experts.

Significantie

CausalProto biedt een fundamentele oplossing voor het probleem van "shortcut learning" in medische AI. Door de diagnose te verschuiven van het aanpassen aan observationele biases naar interventieel redeneren, creëert het een transparante en de-biasende basis voor het inzetten van AI in kritieke klinische omgevingen. Het bewijst dat causale inferentie de barrière tussen hoge nauwkeurigheid en menselijk begrip kan doorbreken, wat essentieel is voor de adoptie van betrouwbare AI in de dermatologie.