An interpretable prototype parts-based neural network for medical tabular data

Deze paper introduceert een inherent interpreteerbaar, prototype-gebaseerd neuronaal netwerk voor medische tabulaire data dat door het leren van menselijk leesbare, gediscretiseerde kenmerken transparante voorspellingen mogelijk maakt zonder in te leveren op prestaties.

De kern

Stel je voor dat je naar een zeer slimme, maar mysterieuze dokter gaat. Deze dokter kan ziektes met een enorme nauwkeurigheid voorspellen, maar als je vraagt: "Waarom denkt u dat ik ziek ben?", antwoordt hij alleen maar met een onleesbare code of een ingewikkelde formule. Voor een patiënt is dat eng; je wilt weten waarom een diagnose wordt gesteld.

Dit artikel introduceert een nieuw soort "AI-dokter" genaamd MEDIC. In plaats van een zwarte doos te zijn, werkt MEDIC als een detective die werkt met bewijsstukken en vergelijkingsmappen.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het probleem: De "Zwarte Doos"

Tot nu toe waren de slimste computerprogramma's voor medische data (zoals bloedwaarden en leeftijd) als een recept in een onbekende taal. Ze wisten het antwoord, maar je kon niet zien hoe ze erbij kwamen. Artsen vertrouwen dit niet, omdat ze hun eigen oordeel moeten kunnen controleren.

2. De oplossing: MEDIC werkt met "Bewijsstukken"

MEDIC is anders. Het denkt niet in complexe wiskunde, maar in herkenbare patronen, net zoals een arts. Het doet dit in drie stappen:

Stap A: Vertalen naar "Dagelijkse taal" (Discretisatie)

Stel, je bloedwaarde is 3,72 g/dL. Voor een computer is dat een willekeurig getal. Voor een arts is dat "iets te laag".
MEDIC vertaalt al die getallen naar duidelijke bakjes:

• Te laag
• Normaal
• Te hoog

Het is alsof je een reeks willekeurige temperaturen omzet in: "Koud", "Lauw" en "Heet". Dit maakt het voor de dokter direct begrijpelijk.

Stap B: Het zoeken naar "Deel-gebeurtenissen" (Prototype Parts)

In plaats van naar de hele patiënt te kijken als één groot geheel, kijkt MEDIC naar kleine, logische stukjes.

• Voorbeeld: In plaats van te zeggen "De patiënt is ziek", zegt MEDIC: "Deze patiënt heeft een combinatie van hoge koorts én lage bloeddruk."
• Het model leert deze combinaties zelf te vinden. Het is alsof het model een verzameling stempelkaarten maakt, waarbij elke kaart een specifieke, herkenbare symptoomcombinatie voorstelt (bijvoorbeeld: "Ouder dan 60 + hoge suiker + weinig beweging").

Stap C: De "Vergelijkingsmappen" (Prototypes)

Dit is het meest interessante deel. MEDIC heeft in zijn geheugen mappen met echte voorbeelden uit het verleden.
Wanneer een nieuwe patiënt binnenkomt, zoekt MEDIC niet naar een wiskundige formule, maar kijkt hij: "Welke van mijn mappen met echte patiënten lijkt het meest op deze nieuwe persoon?"

• De Analogie: Stel je voor dat je een verdachte hebt. De politie (MEDIC) kijkt niet naar een wiskundig algoritme, maar vergelijkt de verdachte met bestaande dossiers in hun archief.
  • "Deze verdachte lijkt heel erg op dossier #4: ook hij had een blauwe jas en een horloge van dat merk."
  • "Deze verdachte lijkt op dossier #12: ook hij had een vliegticket naar Parijs."

MEDIC doet precies hetzelfde. Het zegt: "Deze patiënt lijkt het meest op de groep patiënten in dossier #5, die allemaal een leveraandoening hadden."

3. Waarom is dit zo geweldig?

• Transparantie: Omdat MEDIC zegt: "Ik heb je ziek verklaard omdat je lijkt op deze specifieke groep patiënten met deze specifieke symptomen", kan een arts dat direct controleren. Het is geen magie, het is vergelijkend redeneren.
• Betrouwbaarheid: In de tests bleek MEDIC net zo goed (of zelfs beter) te presteren dan de beste bestaande methoden, maar dan zonder de "zwarte doos".
• Zelflerend: Het model leert zelf welke "bakjes" (bijv. wat is nu precies 'te hoog' voor suiker?) het beste werken, en past die aan op basis van de medische data.

Samenvattend

Stel je voor dat je een receptboek hebt vol met verhalen over hoe mensen ziek werden.

• De oude AI's waren als een rekenmachine die het antwoord gaf, maar je niet vertelde welke ingrediënten ze hadden gebruikt.
• MEDIC is als een ervaren kok die zegt: "Ik denk dat je ziek bent, omdat je situatie precies lijkt op die van meneer Jansen vorige maand. Hij had ook die specifieke combinatie van symptomen, en toen bleek hij ziek te zijn."

Dit maakt de AI niet alleen slimmer, maar vooral ook vertrouwenswaardig voor artsen en patiënten. Het sluit de kloof tussen de kracht van computers en het menselijke inzicht.

Technische samenvatting

Probleemstelling

In de gezondheidszorg is het vertrouwen in modelvoorspellingen even belangrijk als de nauwkeurigheid. Hoewel diepe neurale netwerken (DNN) uitstekend presteren op complexe data zoals afbeeldingen en tekst, worden ze in de medische sector, waar tabulaire data (bijv. laboratoriumwaarden, vitale tekens) overheerst, vaak gemeden vanwege hun "black-box" aard. Bestaande uitlegbare AI-methoden (XAI), zoals SHAP en LIME, genereren vaak abstracte verklaringen die moeilijk te interpreteren zijn voor artsen. Bovendien missen bestaande prototype-gebaseerde modellen (die inspiratie halen uit computer vision, zoals ProtoPNet) een specifieke architectuur voor tabulaire data, omdat deze geen ruimtelijke structuur hebben om "patches" uit te trekken. Er is een dringende behoefte aan modellen die zowel hoog presteren als intrinsiek interpreteerbaar zijn, met voorspellingen die gebaseerd zijn op klinisch logische redenering (case-based reasoning).

Methodologie: MEDIC

De auteurs stellen MEDIC (Model for Explainable Diagnosis using Interpretable Concepts) voor, een neurale netwerkarchitectuur die specifiek is ontworpen voor medische tabulaire data. Het model imiteert de menselijke redeneerwijze door voorspellingen te baseren op vergelijkingen met leerbare prototypes (representatieve gevallen).

De architectuur bestaat uit vier hoofdstadia:

1. Interpreteerbare Discretisatie (Fuzzy naar Hard Binning):

   • Medische continue variabelen (zoals leeftijd of glucose) worden omgezet in symbolische categorieën (bijv. "laag", "normaal", "hoog").
   • Tijdens het trainen wordt een fuzzy binning-laag gebruikt met Gaussische kernen. Dit maakt het proces differentieerbaar, zodat gradiënten kunnen stromen en de bin-grenzen (centra $\mu_k$) kunnen worden geoptimaliseerd.
   • Na training wordt dit omgeschakeld naar hard binning (one-hot encoding) voor de uiteindelijke interpretatie, waarbij waarden deterministisch worden toegewezen aan de dichtstbijzijnde bin.

2. Extractie van Onderdelen (Part Extraction):

   • In plaats van het hele patiëntprofiel te gebruiken, leert het model trainbare patching masks. Deze masks selecteren en combineren een schaars subset van de binaire features.
   • Elk "onderdeel" (part) vertegenwoordigt een betekenisvolle combinatie van klinische indicatoren (bijv. "hoge bloeddruk bij ouderen" of "verhoogde CRP en koorts").
   • Deze onderdelen worden verwerkt door een gedeelde feature-extractor (MLP) om dichte embeddings te genereren.

3. Prototype Vergelijking:

   • Het model onderhoudt een set van $n$ leerbare prototype-vectoren in de latent space. Conceptueel vertegenwoordigt elk prototype een samenvatting van een typisch klinisch geval.
   • Voor een nieuwe patiënt wordt de $L_2$-afstand berekend tussen de embeddings van de geëxtraheerde onderdelen en de prototypes.
   • Via max-pooling wordt voor elk prototype het meest vergelijkbare onderdeel van de patiënt geselecteerd.

4. Classificatie:

   • De resulterende vector met minimale afstanden wordt door een classificatielaag gevoerd om de waarschijnlijkheid per klasse te bepalen. De beslissing is dus direct traceerbaar naar de gelijkenis met specifieke, interpreteerbare prototypes.

Trainingsprocedure (3-fasen):

1. Initialisatie: End-to-end training met fuzzy binning en willekeurig geïnitialiseerde prototypes.
2. Hard Binning: Overschakelen naar hard binning en binarisatie van de masks om symbolische interpretatie te forceren.
3. Prototype Vervanging: De geleerde prototypes worden vervangen door embeddings van daadwerkelijke patiëntrecords uit de trainingsdata. Dit "verankert" het model in echte klinische gevallen.

Regularisatie:
Om de interpretatie te verbeteren, worden twee regularisatietermen toegevoegd aan de loss-functie:

• Sparsiteit ($\ell_1$): Moedigt de masks aan om zo min mogelijk features te gebruiken (slechts de meest relevante).
• Diversiteit: Straft redundantie tussen prototypes af om ervoor te zorgen dat ze verschillende gebieden in de latent space bestrijken.

Belangrijkste Bijdragen

• Eerste prototype-gebaseerde NN voor tabulaire data: MEDIC is een van de eerste modellen dat het succes van prototype-gebaseerde netwerken (zoals ProtoPNet voor beelden) succesvol adapteert naar medische tabulaire data zonder ruimtelijke structuur.
• Learnable Discretization: Het introduceert een methode om continue medische waarden automatisch te discretiseren in klinisch betekenisvolle intervallen die tijdens het trainen worden geoptimaliseerd en later als harde grenzen worden gepresenteerd.
• Intrinsieke Interpretatie: In tegenstelling tot post-hoc methoden (die een zwart doos verklaren na de feiten), is MEDIC van nature interpreteerbaar. Het biedt voorspellingen gebaseerd op "dit geval lijkt op dat prototype, omdat deze specifieke factoren overeenkomen".
• Klinische Alignering: De modeloutput (bin-grenzen en prototype-combinaties) wordt direct vertaald naar taal die artsen begrijpen (bijv. referentiewaarden en risicocategorieën).

Resultaten

De auteurs hebben MEDIC getest op drie publieke medische datasets: Cirrose, Chronic Kidney Disease (CKD) en Diabetes.

• Voorspellende Prestaties: MEDIC behaalde concurrerende resultaten vergeleken met gevestigde baselines zoals Random Forest (RF), XGBoost (XGB) en Multi-Layer Perceptrons (MLP).
  • Op de Cirrose-dataset behaalde MEDIC de beste g-mean (0.6889).
  • Op de CKD-dataset behaalde MEDIC een perfecte g-mean (1.0000), gelijk aan RF en MLP.
  • Op de Diabetes-dataset presteerde MEDIC zeer dicht bij de beste model (XGB), met een verschil van minder dan 1%.
• Interpretatiekwaliteit:
  • Het model leerde automatisch discretisatiegrenzen die sterk overeenkwamen met klinische richtlijnen (bijv. albumine-grenzen van 3.70 g/dL vs. de klinische 3.5 g/dL).
  • De ontdekte prototype-onderdelen bestonden uit schaarse, klinisch logische combinaties (bijv. "Bilirubine in bereik X EN geen hepatomegalie").
  • Het model toonde aan dat het zichzelf kan regulariseren: hoewel er ruimte was voor veel prototypes, gebruikte het er minder unieke, betekenisvolle exemplaren, wat wijst op het vermijden van overfitting.

Betekenis en Conclusie

Dit werk overbrugt de kloof tussen hoge voorspellende nauwkeurigheid en transparantie in de gezondheidszorg. MEDIC biedt een paradigma-verschuiving van "zwarte dozen" naar modellen die redeneren zoals artsen: door het vergelijken van een patiënt met bekende, representatieve gevallen en het identificeren van specifieke, betekenisvolle symptoomcombinaties.

De belangrijkste implicaties zijn:

1. Vertrouwen: Artsen kunnen de redenering van het model verifiëren en controleren op klinische plausibiliteit.
2. Adoptie: Door de interpretatie te integreren in het model zelf (in plaats van als een naslagwerk), wordt de drempel voor de adoptie van AI in klinische besluitvorming verlaagd.
3. Toekomst: Het werk opent de weg voor verdere integratie van domeinkennis in prototype-learning en dynamische aanpassing aan veranderende ziektepatronen.

Kortom, MEDIC bewijst dat het mogelijk is om een diep neurale netwerk te bouwen dat niet alleen nauwkeurig is, maar ook volledig transparant en in lijn met de klinische redeneerwijze.