Dissecting Model Failures in Abdominal Aortic Aneurysm Segmentation through Explainability-Driven Analysis

Titel: Dissecting Model Failures in Abdominal Aortic Aneurysm Segmentation through Explainability-Driven Analysis

Auteurs: Abu Noman Md Sakib, Merjulah Roby, Zijie Zhang, et al. (UTSA, Drexel, Northwestern)

---

1. Het Probleem

De automatische segmentatie van complexe abdominale aorta-aneurysma's (AAA) op CT-beelden is cruciaal voor risicobeoordeling en chirurgische planning. Hoewel moderne deep learning-modellen (zoals U-Net varianten en de Segment Anything Model - SAM) goede prestaties leveren op schone, eenvoudige beelden, falen ze vaak in klinisch kritieke, complexe scenario's.

Specifieke uitdagingen:

• Verkeerde focus: Modellen wijzen waarschijnlijkheidsmassa toe aan irrelevante structuren (bijv. nabijgelegen bloedvaten of kalkafzettingen) in plaats van de dunne, laag-contrast aortawand.
• Lekken: Segmentaties "lekken" naar gebieden die niet tot het aneurysma behoren.
• Inconsistentie: Abrupte, anatomisch onwaarschijnlijke veranderingen tussen opeenvolgende slices.
• Beperking van huidige methoden: Traditionele trainingsdoelen (zoals Dice-loss) behandelen fouten impliciet via pixel-fouten, maar optimaliseren niet expliciet waar de encoder intern naar kijkt. Dit leidt tot representaties die niet goed afgestemd zijn op klinisch relevante structuren, zelfs als de mask-loss geminimaliseerd is.

---

2. Methodologie: XAI-SAM Framework

De auteurs stellen een Explainable AI (XAI)-geleide encoder-shaping framework voor. In plaats van XAI alleen te gebruiken voor post-hoc analyse, wordt de attributie (waar het model naar kijkt) gebruikt als een expliciet trainings-signaal om de encoder te vormen.

Het framework bestaat uit drie kerncomponenten:

A. De XAI-veld (Attributie Field)

• Er wordt een dichte, attributie-gebaseerde kaart (het "XAI-veld") berekend vanuit de laatste encoder-blok van het model (gebaseerd op gradient-weighted attribution, vergelijkbaar met Grad-CAM).
• Dit veld ($\tilde{\phi}$) geeft weer waar de encoder zijn aandacht concentreert tijdens het trainingsproces.

B. Focus Alignment Loss (Uitlijning van Focus)

Om ervoor te zorgen dat het model kijkt waar het voorspelt, worden twee termen geïntroduceerd:

1. Mass-overlap: Vergelijkt de voorspelde waarschijnlijkheidsdichtheid met het ruwe XAI-veld.
2. Divergentie-straf: Straft discrepanties tussen de genormaliseerde voorspelde verdeling en het genormaliseerde XAI-veld (gebaseerd op KL-divergentie).

• Doel: De encoder wordt gedwongen om zijn interne focus te aligneren met de uiteindelijke segmentatie-output, waardoor afleidingen worden onderdrukt.

C. Verfijning en Anatomische Regularisatie

• Vertrouwens-prior (Confidence Prior): Een lichte auxiliaire decoder genereert een betrouwbaarheidskaart die de logits tijdens de inferentie moduleert. Dit onderdrukt onzekerheden en versterkt sterke voorspellingen.
• Anatomie-bewuste Loss: Gebruikt differentiatie-operatoren en een differentieerbare skeletisatie (medial axis) om de dikte en topologie van de wand en het lumen te respecteren.
• Paarsgewijze Consistentie Classifier: Een kleine CNN-classificator wordt getraind op paren van opeenvolgende grondwaarheids-maskers. Deze fungeert als een "gelernde prior" die tijdens de training straft als voorspelde maskers over opeenvolgende slices anatomisch onwaarschijnlijke sprongen maken (bijv. plotseling verdwijnen of verschijnen).

D. Trainingsstrategie (Curriculum Learning)

De training verloopt in fasen:

1. Vroege fase: Focus op slice-consistentie en betrouwbaarheid om volumetrische coherentie te stabiliseren.
2. Late fase: Verschuiving naar focus-alignment, anatomische trouw en XAI-guidance om de precisie te maximaliseren.

---

3. Belangrijkste Bijdragen

1. XAI als Eerste-Klass Trainings-signaal: Voor het eerst wordt de attributiekaart van de encoder niet alleen gevisualiseerd, maar gebruikt als een primaire loss-functie om de representatieleer te sturen.
2. Focus Alignment Loss: Een nieuwe loss-functie die de overeenkomst tussen de voorspelde waarschijnlijkheidsmassa en het XAI-veld afdwingt, gecombineerd met een verfijningspad.
3. Gestudeerde Consistentie: In plaats van handmatige penalties, wordt een classifier getraind op grondwaarheidsparen om anatomisch plausibele overgangen tussen slices te leren en te regulariseren.
4. Uitgebreide Empirische Studie: Een gedetailleerde analyse op een klinisch gevalideerde dataset met een specifieke subset van "moeilijke" gevallen, waarbij zowel kwantitatieve metrics als kwalitatieve XAI-analyses worden gepresenteerd.

---

4. Resultaten

Het model (XAI-SAM) werd getest op een dataset van 147 patiënten (9.037 slices) en vergeleken met U-Net, U-Net++, MedSAM en een SAM-baseline.

Algemene Testset:

• Uitstekende prestaties: XAI-SAM behaalde een IoU van ~96% en Dice van ~98% voor de buitenwand, vergeleken met ~82% IoU voor de SAM-baseline.
• Randnauwkeurigheid: De HD95 (95e percentiel Hausdorff-afstand) daalde drastisch van 4.09 mm (SAM) naar 0.19 mm (XAI-SAM), wat wijst op extreem nauwkeurige randdetectie.

Complexe Testset (Foutgevoelige gevallen):

• Hier was het verschil het grootst. Baselines (zoals U-Net en MedSAM) vertoonden grote prestatiedalingen en hoge variabiliteit.
• XAI-SAM behaalde:
  • Buitenwand: IoU ~95%, Dice ~97%, HD95 ~0.31 mm.
  • Lumen: IoU ~94.5%, Dice ~97%, HD95 ~0.49 mm.
• Kwalitatieve analyse: XAI-SAM vermijdt het "lekken" naar nabijgelegen vaten en houdt dunne wanden intact, terwijl andere modellen vaak diffuus zijn of de verkeerde structuren segmenteren. De XAI-kaarten tonen aan dat het model nu correct focust op de aneurysma-wand in plaats van op ruis.

Ablatie-studie:
De studie bevestigde dat alle componenten (XAI-guidance, anatomische loss, en consistentie) noodzakelijk zijn voor de piekprestaties. Het verwijderen van de XAI-guidance leidde tot een merkbare daling in robuustheid tegen afleidingen.

---

5. Betekenis en Conclusie

Dit paper demonstreert dat het expliciet optimaliseren van de interne focus van een model via XAI-gidsing een praktische en effectieve methode is voor betrouwbare segmentatie in complexe medische scenario's.

• Paradigmaverschuiving: Het paper beweert dat explainability niet alleen een diagnostisch hulpmiddel moet zijn, maar een leidende principe voor training. Door te analyseren waar modellen falen (verkeerde focus) en dit in de loss-functie te coderen, worden systemen ontwikkeld die beter overeenkomen met klinische intuïtie.
• Klinische Impact: De methode lost specifieke problemen op die traditionele loss-functen niet aanpakken, zoals het onderscheiden van dunne wanden van nabijgelegen weefsels en het waarborgen van anatomische consistentie over slices.
• Generalisatie: Hoewel getest op AAA, is het framework generiek en toepasbaar op andere vasculaire of orgaansegmentatietaken waar modelfouten gerelateerd zijn aan verkeerd toegewezen aandacht.

Samenvattend biedt XAI-SAM een nieuwe weg naar robuuste medische beeldanalyse door de "black box" van de encoder te openen en de interne aandachtmechanismen direct te sturen tijdens het leerproces.