🤖 AI

Efficient KernelSHAP Explanations for Patch-based 3D Medical Image Segmentation

Dit artikel introduceert een efficiënt KernelSHAP-framework voor 3D medische beeldsegmentatie dat door middel van logit-caching en beperking tot een regio van belang de rekentijd vermindert en vergelijkt hoe verschillende anatomische feature-abstraheringen de afweging tussen betrouwbaarheid en klinische interpretatie beïnvloeden.

Oorspronkelijke auteurs: Ricardo Coimbra Brioso, Giulio Sichili, Damiano Dei, Nicola Lambri, Pietro Mancosu, Marta Scorsetti, Daniele Loiacono

Gepubliceerd 2026-04-14

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ricardo Coimbra Brioso, Giulio Sichili, Damiano Dei, Nicola Lambri, Pietro Mancosu, Marta Scorsetti, Daniele Loiacono

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, maar mysterieuze robotarts hebt. Deze robot kan op CT-scanfoto's van mensen precies zien waar organen zitten en waar ziektes (zoals lymfeklieren) zich bevinden. Hij doet dit met een 99% nauwkeurigheid. Maar er is een probleem: niemand weet waarom hij dat doet. Hij geeft alleen een antwoord, zonder uitleg.

In de medische wereld is dat gevaarlijk. Als de robot een fout maakt, moeten artsen weten of het kwam door een echte ziekte, een rare schaduw op de foto, of een vooroordeel van de robot.

Dit artikel beschrijft een nieuwe manier om deze robotarts "op zijn schouder te tikken" en te vragen: "Waarom heb jij dit gedeelte als ziekte gemarkeerd?"

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Gigantische Puzzel"

De robot kijkt naar een 3D-foto van een heel lichaam. Dit is als een gigantische puzzel met miljoenen stukjes (pixels). Om te begrijpen waarom de robot een bepaald stukje als "ziek" ziet, moeten we kijken naar de invloed van elk stukje.

De oude methode om dit te doen (KernelSHAP) is als het proberen te begrijpen van een puzzel door elk mogelijk stukje apart te verwijderen en te kijken wat er gebeurt.

Het probleem: Omdat de foto zo groot is en de robot in kleine stukjes (patches) kijkt, zou dit duizenden keren dezelfde foto opnieuw moeten scannen. Dat duurt eeuwen en is te duur. Het is alsof je een hele bibliotheek moet herbouwen, boek per boek, om te zien welk boek het verhaal het beste vertelt.

2. De Oplossing: De "Slimme Kijker"

De auteurs van dit artikel hebben een slimme truc bedacht om dit sneller te maken. Ze gebruiken twee hoofdideeën:

Ideaal 1: Kijk alleen waar het belangrijk is.
In plaats van de hele bibliotheek te bekijken, vragen we de arts: "Waar zit de fout?" Stel, het is in de lever. Dan kijken we alleen naar de lever en de directe omgeving. We negeren de rest van het lichaam. Dit noemen ze een ROI (Region of Interest).
- Vergelijking: Het is alsof je in plaats van de hele stad te inspecteren, alleen de straat bekijkt waar het ongeluk heeft plaatsgevonden.
Ideaal 2: Gebruik de "Gedachten" van de robot.
De robot kijkt naar de foto in kleine plakjes (zoals een raam dat langs een muur schuift). Als we een stukje van de foto "wegmaken" (bijvoorbeeld door het zwart te maken) om te testen, verandert dat vaak alleen het plakje waar dat stukje in zit. De andere plakjes blijven precies hetzelfde.
- De truc: De robot onthoudt (cacheert) wat hij al heeft berekend voor die andere plakjes. Als we een nieuw testje doen dat die plakjes niet raakt, hoeft hij ze niet opnieuw te berekenen. Hij pakt gewoon het oude antwoord.
- Vergelijking: Stel je voor dat je een recept kookt. Als je alleen de peper aanpast, hoef je niet opnieuw te koken dat je rijst al klaar is. Je gebruikt de rijst die al in de pan ligt. Dit bespaart enorm veel tijd (tot wel 30% sneller!).

3. De "Vertaalbureaus": Hoe vertalen we pixels naar betekenis?

De robot ziet alleen pixels. Maar artsen denken in organen (lever, nieren) of in logische groepen. De auteurs proberen drie manieren om de pixels te groeperen, zodat de uitleg voor mensen begrijpelijk is:

De "Organ-Indeling" (Full Organs):
Alles wat bij de lever hoort, is één groot blok.
- Voordeel: Zeer duidelijk voor artsen. "De lever is de oorzaak."
- Nadeel: Te grof. Misschien is alleen het randje van de lever het probleem, maar de hele lever wordt dan als "verdacht" gemarkeerd.
De "Blokjes-Indeling" (Regular Supervoxels):
De foto wordt opgedeeld in perfecte, kubusvormige blokjes, alsof je een Lego-muur bouwt. Het maakt niet uit of het blokje door de lever of de long gaat.
- Voordeel: Wiskundig heel precies en snel.
- Nadeel: Medisch onzin. Een blokje dat deels in de lever en deels in de long zit, is verwarrend. "Waarom is dit blokje schuldig?"
De "Hybride Indeling" (Organ-Aware):
Dit is de winnaar. Ze beginnen met de Lego-blokjes, maar als een blokje door twee organen gaat, wordt het opgesplitst.
- Voordeel: Het is wiskundig netjes (de blokjes) maar medisch logisch (het respecteert de organen).
- Resultaat: De robot kan nu zeggen: "Het is niet de hele lever, maar specifiek dit stukje in de lever dat de fout veroorzaakt."

4. Wat hebben ze ontdekt?

Ze hebben getest welke methode het beste werkt:

Snelheid: Door de "herinnering" (caching) van de robot gaat het veel sneller. Het is nu haalbaar om dit te doen op echte patiëntdata.
Betrouwbaarheid vs. Begrijpelijkheid:
- De "Lego-blokjes" (Regular) lijken wiskundig het meest betrouwbaar (ze vinden snel de fout), maar de uitleg is voor een arts vaak onbegrijpelijk ("Waarom is dit willekeurige blokje belangrijk?").
- De "Hybride" methode is de beste balans. Hij is net zo betrouwbaar, maar de uitleg is voor een arts logisch en bruikbaar. Hij kan precies aangeven welk deel van welk orgaan de robot in de war brengt.

Conclusie

Dit artikel laat zien dat we AI in de geneeskunde niet alleen "slimmer" moeten maken, maar ook "verstaanbaarder". Door slimme trucs (alleen kijken waar het nodig is en oude berekeningen hergebruiken) en door de uitleg te koppelen aan echte organen, kunnen artsen nu vertrouwen op de robot. Ze kunnen zien waarom de robot een diagnose stelt, en zo sneller fouten opsporen en betere behandelingen geven.

Het is alsof we van een robot die alleen "Ja/Nee" zegt, een robot hebben gemaakt die zegt: "Ik denk dat dit een tumor is, omdat dit specifieke stukje van de lever een rare vorm heeft, en niet omdat de hele foto er raar uitziet."

Probleemstelling

Dieplerningmodellen zijn de facto standaard geworden voor medische beeldsegmentatie (bijv. voor radiotherapieplanning), maar hun "black-box" aard maakt het moeilijk om fouten te auditeren of te begrijpen waarom een model een specifieke masker heeft gegenereerd.

Uitdaging bij 3D-segmentatie: Bestaande XAI-methoden (Explainable AI) kampen met specifieke problemen in 3D-volumetrische data. Gradient-based methoden (zoals Grad-CAM) zijn computatie-efficiënt maar vaak laag-afhankelijk en moeilijk te interpreteren in multi-structuur settings.
Kosten van Perturbatie-methoden: Perturbatie-gebaseerde methoden, zoals KernelSHAP, bieden model-onafhankelijke attributies die klinisch betekenisvol kunnen zijn. Echter, voor patch-gebaseerde 3D-segmentatie (zoals nnU-Net) zijn deze methoden onpraktisch vanwege de enorme rekenkosten. Het vereist het evalueren van duizenden coalities (combinaties van features), wat leidt tot duizenden forward-passes over overlappende patches via een sliding-window mechanisme.

Methodologie

De auteurs presenteren een efficiënt framework dat KernelSHAP aanpast voor volumetriske CT-data, gebaseerd op twee kernprincipes:

Lokalisatie van Berekening (ROI & Receptive Field):
- In plaats van het hele volume te analyseren, wordt de berekening beperkt tot een door de gebruiker gedefinieerd Gebied van Interesse (ROI) en het bijbehorende Receptive Field (RF) support.
- Dit betekent dat perturbaties en forward-passes alleen plaatsvinden binnen een vergroot doosje ( $B_{RF}$ ) dat de ROI omringt, terwijl voxels daarbuiten vast blijven. Dit vermindert de rekenlast aanzienlijk zonder de betrouwbaarheid binnen de ROI te schaden.
Efficiënte Coalitie-evaluatie via Caching:
- Om de hoge kosten van het herhalen van sliding-window inferentie te omzeilen, wordt een patch logit caching-mechanisme geïmplementeerd.
- Werking: De basisvoorspellingen (logits) voor alle patches in het ROI-gebied worden één keer berekend en in het CPU-geheugen opgeslagen.
- Bij het evalueren van een nieuwe coalitie (waarbij bepaalde features worden gemaskeerd), wordt gecontroleerd of een specifieke patch door de perturbatie wordt beïnvloed.
  - Als de patch niet wordt beïnvloed, worden de gecacheerde logits opnieuw gebruikt (cache hit).
  - Als de patch wel wordt beïnvloed, wordt alleen die specifieke patch opnieuw berekend (cache miss).
- Dit behoudt de fusieschema's van nnU-Net (Gaussian-weighted accumulation) maar elimineert redundante berekeningen.
Interpreteerbare Eenheden en Aggregatie:
- Het framework verdeelt het volume in interpreteerbare eenheden ( $M$ $M$ features) voor KernelSHAP. Drie varianten worden vergeleken:
  - Full Organs: Anatomische structuren (uit TotalSegmentator) als één eenheid.
  - Regular: Geometrisch regelmatige supervoxels (Face-Centred Cubic lattice), onafhankelijk van anatomie.
  - Hybrid: Een combinatie waarbij FCC-supervoxels worden opgesplitst volgens organen (organ-aware).
- Aggregatie-functies: Verschillende waardenfuncties worden getest om de bijdrage te scoren:
  - True Positive (TP) en False Positive (FP) scores.
  - Dice en Soft Dice scores om overeenstemming met de basissegmentatie te meten.

Belangrijkste Bijdragen

Efficiëntie: Een nieuw framework dat KernelSHAP toepasbaar maakt voor 3D patch-based segmentatie door ROI-restrictie en patch-caching, wat de rekenkosten drastisch verlaagt.
Vergelijking van Eenheden: Een systematische studie naar de impact van de definitie van interpreteerbare eenheden (anatomisch vs. geometrisch vs. hybride) op de kwaliteit en klinische bruikbaarheid van de uitleg.
Trade-off Analyse: Inzicht in de afweging tussen "faithfulness" (hoe goed de uitleg het modelgedrag weergeeft) en "interpretability" (hoe klinisch begrijpelijk de uitleg is).

Resultaten

De experimenten zijn uitgevoerd op een dataset van 40 patiënten (8 voor validatie) met CT-scans voor lymfeklieren en milt-segmentatie.

Rekenprestaties:
- Caching leidt tot aanzienlijke besparingen in redundantie. De cache-hit-ratio varieerde van 15% tot 30% afhankelijk van de eenheidsdefinitie.
- Dit resulteerde in een totale reductie van de runtime, hoewel de absolute tijden nog steeds hoog zijn (uren voor 2000 coalities), maar nu haalbaar binnen een onderzoekstijdframe.
Kwaliteit van Uitleg (Faithfulness vs. Interpretability):
- Regular (FCC) Supervoxels: Bereikten de hoogste scores op perturbation-curve metrics (zoals ABPC en AOPC), wat betekent dat ze het modelgedrag het beste "voorspellen". Echter, deze eenheden ontbreken anatomische coherentie en zijn minder klinisch actiegericht. Ze straffen vaak het doelwit zelf af in plaats van de context.
- Full Organs: Bieden de meest stabiele en interpreteerbare uitleg op hoog niveau, maar missen fijnmazigheid (granulariteit).
- Hybrid (Organ-Aware): Bieden de beste balans. Ze behouden de anatomische betekenis maar bieden fijnere details binnen organen. Ze waren vooral effectief in het identificeren van False Positives onder genormaliseerde metrics.
Aggregatie: De keuze van de scorefunctie (TP/Dice vs. FP) beïnvloedt sterk wat er wordt benadrukt: ofwel stabiliserende bewijzen of juist de oorzaken van fouten.

Betekenis en Conclusie

Dit paper toont aan dat KernelSHAP voor 3D medische beeldsegmentatie haalbaar kan worden gemaakt door slimme optimalisaties (ROI en caching). De belangrijkste inzichten zijn:

Er is een duidelijke trade-off tussen puur numerieke "faithfulness" (vaak bereikt door geometrische eenheden) en klinische bruikbaarheid (bereikt door anatomisch gebaseerde eenheden).
Hybride, organ-bewuste eenheden bieden de meest waardevolle uitleg voor clinicians, omdat ze fouten kunnen lokaliseren binnen specifieke anatomische structuren zonder de interpretatie te verliezen.
De methode maakt het mogelijk om niet alleen te kijken naar waar het model goed is, maar ook specifiek naar waarom het fouten maakt (bijv. spurious activations), wat essentieel is voor het vertrouwen in AI in de radiotherapie.

De auteurs erkennen beperkingen, zoals de beperkte datasetgrootte door de hoge rekentijd en het gebruik van harde masking (wat artefacten kan introduceren), maar schetsen een pad naar verdere verbetering via data-gedreven supervoxels en realistischere perturbaties.