Weakly Supervised Concept Learning with Class-Level Priors for Interpretable Medical Diagnosis

Probleemstelling

Diepe leermodellen (Deep Learning) presteren uitstekend in medische beeldvorming, maar functioneren vaak als "black boxes", wat het vertrouwen en de adoptie in de klinische praktijk beperkt. Om dit op te lossen, zijn Interpretable-by-Design (IBD) modellen ontwikkeld, zoals Concept Bottleneck Models (CBM) en Variational Information Pursuit (V-IP). Deze modellen voorspellen eerst menselijk begrijpelijke concepten (bijv. "irreguliere strepen" of "blauw-witte sluier") voordat ze een diagnose stellen.

Het centrale probleem is echter dat het trainen van deze modellen expliciete conceptannotaties vereist. Het verzamelen van deze annotaties op grote schaal is in medische contexten extreem kostbaar, tijdrovend en vaak onpraktisch, zelfs voor experts (vanwege subjectiviteit en beperkte tijd). Bestaande alternatieven, zoals zero-shot Vision-Language Models (VLM) of frameworks die afhankelijk zijn van Large Language Models (LLM), missen vaak de specifieke medische nuances en leveren onbetrouwbare resultaten.

De kernvraag: Kan medische conceptvoorspelling worden bereikt zonder expliciete conceptannotaties of afhankelijkheid van VLM-geleiding?

Methodologie: Prior-guided Concept Predictor (PCP)

De auteurs stellen PCP voor, een zwak toezicht (weakly supervised) framework dat concepten leert op basis van klassespecifieke concept-priors in plaats van per-voorbeeld annotaties.

1. Kerkelijke Priors:
In plaats van te weten welke concepten in elk beeld voorkomen, gebruikt het model statistische prior-kennis: $P(c_m | y)$. Dit is de waarschijnlijkheid dat een concept $c_m$ voorkomt in een beeld van klasse $y$. Deze priors kunnen worden afgeleid van experts, datasetstatistieken of geautomatiseerde kennisbronnen en zijn veel makkelijker te verkrijgen dan volledige annotaties.

2. Architectuur:

• Backbone: Een ResNet (vooraf getraind op ImageNet) extrahere visuele kenmerken uit het invoerbeeld.
• Projectie: De kenmerken worden gemapt naar een conceptruimte via twee bias-vrije lineaire lagen.
• Surrogaat Vectoren: Voor training worden surrogaat conceptvectoren gegenereerd door bemonstering uit de klassespecifieke priors (Bernoulli-sampling). Dit simuleert de aanwezigheid van concepten zonder echte labels.
• Refinement Mechanism: De projectie wordt gecombineerd met de gesamplede vectoren via een residual refinement mechanisme. Dit zorgt ervoor dat belangrijke concepten worden versterkt, maar zwakkere (maar mogelijk informatieve) concepten niet volledig worden onderdrukt.

3. Trainingsdoel (Loss Function):
Het model wordt getraind met een samengestelde loss-functie die vier componenten combineert:

• Triplet Loss: Zorgt ervoor dat embeddings van dezelfde klasse dichter bij elkaar komen en die van verschillende klasse verder uit elkaar.
• Class Matching Loss: Vergelijkt de voorspelde conceptvectoren met de prior-kenmerken van de klasse om de classificatie te sturen.
• KL-Divergentie Regularisatie: Dwingt de voorspelde conceptverdeling om te aligneren met de verwachte klassespecifieke priors. Dit zorgt voor klinische consistentie.
• Entropy Loss: Straft "wazige" aandachtspunten af en moedigt een scherpe selectie van relevante concepten aan (vermindert ruis).

4. Inference:
Tijdens het gebruik (inference) heeft het model geen priors nodig. Het neemt alleen een beeld als input en geeft direct de voorspelde concepten en de diagnose.

Belangrijkste Bijdragen

1. Novel Framework: Introductie van PCP, een framework dat medische conceptvoorspelling mogelijk maakt zonder concept-level annotaties of Vision-Language Models.
2. Weak Supervision Strategie: Het gebruik van klassespecifieke priors als zwak toezicht, wat een praktische oplossing biedt voor de schaarste aan medische data-annotaties.
3. Reguleringstechniek: Effectief gebruik van KL-divergentie en entropy regularisatie om voorspellingen te aligneren met klinische redenering en ruis te minimaliseren.
4. Generalisatie: Het framework werkt over verschillende beeldvormingsmodaliteiten (dermoscopie, hematologie, röntgen) en is compatibel met bestaande IBD-architecturen (CBM en V-IP).

Resultaten

De auteurs hebben PCP getest op vier medische datasets: PH2 (dermoscopie), WBCatt (hematologie), HAM10000 (dermoscopie) en CXR4 (borst-röntgen).

• Conceptvoorspelling:

  • PCP overtreft zero-shot VLM-baselines (zoals CLIP, SigLIP, BioMedCLIP) aanzienlijk.
  • Er is een verbetering van meer dan 33% in de F1-score voor conceptvoorspelling vergeleken met zero-shot baselines.
  • Op de WBCatt-dataset bereikte PCP een concept-accuracy van 90.24% en een F1-score van 79.00% (met beide regularizers), wat dicht in de buurt komt van volledig toezicht (Baseline: 95.29% / 88.77%).

• Classificatieprestaties:

  • PCP-V-IP bereikt classificatieprestaties die vergelijkbaar zijn met volledig toezicht modellen (Vanilla-V-IP) op PH2 en WBCatt.
  • PCP-CBM presteert goed op grotere datasets (HAM10000, CXR4), maar kampt op de kleine PH2-dataset met wat lagere prestaties. Dit komt doordat CBM afhankelijk is van alle concepten; als een cruciaal concept (zoals "atypisch pigmentnetwerk") slecht wordt voorspeld door de priors, zakt de totale prestatie. V-IP is robuuster omdat het adaptief de meest betrouwbare concepten selecteert.

• Ablatie Studie:

  • Het verwijderen van de KL-regularisatie leidt tot afwijkingen van de verwachte conceptverdeling.
  • Het verwijderen van de Entropy-regularisatie resulteert in minder scherpe conceptselectie (hogere entropie).
  • De combinatie van beide regularizers levert de beste resultaten op.

Betekenis en Conclusie

Dit werk toont aan dat betrouwbare en interpreteerbare medische diagnoses mogelijk zijn zonder de prohibitieve kosten van volledige conceptannotaties. Door te vertrouwen op klassespecifieke priors (die makkelijker te verkrijgen zijn, bijvoorbeeld via één expertconsultatie of datasetstatistieken), kan PCP klinisch zinvolle concepten voorspellen die consistent zijn met expertkennis.

Beperkingen en Toekomst:
De kwaliteit van de priors is cruciaal. In zeldzame ziektegevallen of bij datasets met weinig data kunnen de priors "ruizig" zijn, wat de prestaties beïnvloedt. De auteurs identificeren adaptieve prior-verfijning en zelf-distillatie als belangrijke richtingen voor toekomstig onderzoek om de robuustheid verder te verbeteren.

Kortom, PCP biedt een schaalbare en praktische route naar interpreteerbare AI in de geneeskunde, waarbij de afhankelijkheid van dure handmatige annotaties wordt doorbroken.