An interpretable prototype parts-based neural network for medical tabular data

Die Autoren stellen ein neuartiges, inhärent interpretierbares neuronales Netzwerk für medizinische Tabellendaten vor, das durch das Lernen von diskretisierten Prototypen-Teilen klinisch verständliche Vorhersagen trifft und dabei eine mit etablierten Basismodellen vergleichbare Genauigkeit erreicht.

Das Wesentliche

Stellen Sie sich vor, Sie gehen zum Arzt, und dieser Computer sagt Ihnen: „Sie haben eine Krankheit." Aber als Sie fragen: „Warum?", antwortet der Computer nur: „Weil die Mathematik es so will." Das ist für Patienten und Ärzte beängstigend. Man vertraut einer Maschine nicht, wenn man nicht versteht, wie sie zu ihrem Urteil kommt.

Genau hier kommt die neue Forschung von Jacek Karolczak und Jerzy Stefanowski ins Spiel. Sie haben ein neues KI-Modell namens MEDIC entwickelt. Lassen Sie uns erklären, wie das funktioniert, ohne komplizierte Formeln zu verwenden.

1. Das Problem: Der undurchsichtige „Black Box"-Arzt

Bisherige KI-Modelle in der Medizin sind wie ein genialer, aber verschlossener Koch. Er kann ein perfektes Gericht (eine Diagnose) zaubern, aber wenn Sie fragen, welche Zutaten er genau verwendet hat, schweigt er. Er sagt nur: „Es ist einfach gut." Ärzte wollen aber wissen: „Warum ist der Blutzucker zu hoch? Ist es wegen des Essens oder wegen einer Krankheit?"

2. Die Lösung: MEDIC – Der Arzt mit dem „Bausteinsystem"

Stellen Sie sich MEDIC nicht als einen undurchdringlichen Block vor, sondern als einen großen Baukasten aus medizinischen Bausteinen.

Das Besondere an MEDIC ist, dass es nicht einfach rohe Zahlen (wie „Blutzucker: 123,45") verarbeitet. Stattdessen wandelt es diese Zahlen in klare Kategorien um, genau wie ein Arzt es im Alltag tut:

• Statt einer exakten Zahl sagt MEDIC: „Der Blutzucker ist hoch" oder „Der Blutzucker ist normal".
• Das ist wie das Umwandeln von rohem Mehl in fertige Brotlaibe, die man sofort erkennen und benennen kann.

3. Wie MEDIC lernt: Die „Lernenden Flecken"

Stellen Sie sich vor, MEDIC schaut sich tausende Patientenakten an. Anstatt alles auf einmal zu speichern, sucht es nach kleinen, wiederkehrenden Mustern – nennen wir sie „Flecken" oder „Teile".

• Das Analogie-Beispiel: Ein Arzt denkt vielleicht: „Aha, bei diesem Patienten ist das Problem eine Kombination aus hohem Cholesterin UND geringen Blutplättchen."
• MEDIC lernt genau diese Kombinationen. Es sagt: „Ich habe einen 'Baustein' gelernt, der genau diese Kombination repräsentiert."

Diese „Bausteine" sind wie Referenzkarten im Gedächtnis des Arztes. Wenn ein neuer Patient hereinkommt, vergleicht MEDIC nicht den ganzen Patienten mit allen anderen, sondern sucht: „Welche meiner gelernten 'Bausteine' passen am besten zu diesem Patienten?"

4. Der Vergleich: „Das sieht aus wie..."

Wenn MEDIC eine Diagnose stellt, funktioniert es wie ein Detektiv, der ein Puzzle löst:

1. Er schaut sich den neuen Patienten an.
2. Er sagt: „Dieser Patient hat einen 'Baustein' (z. B. hohes Bilirubin und keine Lebervergrößerung), der sehr ähnlich aussieht wie ein 'Baustein' aus meinem Archiv, der bei anderen Patienten zu einer bestimmten Diagnose führte."
3. Die Diagnose basiert also auf dem Vergleich: „Dieser Fall sieht aus wie jener bekannte Fall."

Das ist genial, weil es nachvollziehbar ist. Der Arzt kann sagen: „Der Computer sagt, Sie haben X, weil Ihre Werte genau wie bei Patientin Müller aussehen, die auch X hatte."

5. Der dreistufige Lernprozess (Wie MEDIC schlau wird)

MEDIC lernt in drei Schritten, wie ein Student, der erst lernt, dann übt und dann lernt, die besten Beispiele zu finden:

1. Das weiche Lernen: Zuerst darf MEDIC noch ein bisschen „fummeln". Es versucht verschiedene Grenzen für seine Kategorien (z. B. wo genau hört „normaler" Blutzucker auf und beginnt „hoher"?). Es ist noch nicht festgelegt.
2. Das harte Festlegen: Sobald es die Muster erkannt hat, macht es die Grenzen scharf und klar. „Ab 3,7 g/dL ist Albumin niedrig." Jetzt sind die Regeln fest.
3. Die echte Referenz: Am Ende ersetzt MEDIC seine theoretischen Bausteine durch echte Patientenfälle aus der Datenbank. Wenn es sagt: „Dieser Fall ähnelt dem Muster", zeigt es Ihnen tatsächlich: „Schauen Sie mal, hier ist der echte Patient aus dem Jahr 2020, der genau so aussah."

Warum ist das so wichtig?

• Vertrauen: Ärzte können die Entscheidung des Computers überprüfen. Sie sehen die „Bausteine" und können sagen: „Ja, das ergibt Sinn" oder „Moment, hier stimmt etwas nicht."
• Keine Magie: Es ist keine Black Box mehr. Es ist ein transparentes System, das mit der Sprache der Ärzte spricht (Kategorien, Schwellenwerte, Fallvergleiche).
• Gute Ergebnisse: Das Paper zeigt, dass MEDIC genauso gut (oder sogar besser) vorhersagt wie die besten anderen KI-Modelle, aber eben mit einer Erklärung, die man versteht.

Zusammenfassend:
MEDIC ist wie ein junger Assistenzarzt, der nicht nur Zahlen auswendig gelernt hat, sondern ein Logbuch mit typischen Krankheitsbildern führt. Wenn er einen neuen Patienten sieht, schlägt er in seinem Logbuch nach: „Welches bekannte Muster passt hier am besten?" Und er zeigt Ihnen genau die Seite im Logbuch, auf der das Muster steht. So wird KI in der Medizin nicht nur klug, sondern auch vertrauenswürdig.

Technische Zusammenfassung

1. Problemstellung

Im Gesundheitswesen ist das Vertrauen in KI-Modelle ebenso wichtig wie deren Genauigkeit. Während Deep-Learning-Modelle (z. B. CNNs) bei Bilddaten erfolgreich interpretierbare „Teile" (Patches) nutzen können, sind sie bei tabellarischen medizinischen Daten oft als „Blackbox" wahrgenommen.

• Herausforderung: Herkömmliche tabellarische Modelle (wie Random Forests oder Gradient Boosting) bieten zwar gute Vorhersagen, sind aber schwer zu interpretieren. Post-hoc-Erklärungsmethoden (wie SHAP oder LIME) liefern oft abstrakte, für Ärzte schwer verständliche Erklärungen.
• Spezifisches Problem: Medizinische Daten basieren oft auf diskreten klinischen Schwellenwerten (z. B. „erhöhter Blutzucker" statt eines rohen Zahlenwerts). Bestehende neuronale Netze nutzen diese diskrete Logik nicht nativ, was die Nachvollziehbarkeit erschwert. Es fehlt an Architekturen, die das Prinzip der „prototypischen Teile" (wie bei Bildern) direkt auf strukturierte Tabellendaten übertragen.

2. Methodik: MEDIC-Modell

Die Autoren stellen MEDIC (Model for Explainable Diagnosis using Interpretable Concepts) vor, ein neuronales Netz, das inhärent interpretierbar ist und auf dem Paradigma der prototypischen Teile basiert. Die Architektur durchläuft vier Hauptphasen:

A. Interpretierbare Diskretisierung (Interpretable Discretization)

Um kontinuierliche medizinische Merkmale (z. B. Alter, Laborwerte) in symbolische Kategorien zu überführen, wird ein fuzzy binning-Ansatz verwendet:

• Fuzzy Binning (Training): Eine differenzierbare Schicht weist Eingabewerte weichen (probabilistisch) mehreren Bins zu, basierend auf lernbaren Zentren ($\mu_k$) und einer Bandbreite ($\sigma$). Dies ermöglicht den Gradientenfluss während des Trainings.
• Hard Binning (Inferenz): Nach dem Training wird die Zuordnung deterministisch (One-Hot-Encoding) auf den nächsten Bin umgeschaltet, um symbolische Interpretierbarkeit zu gewährleisten.

B. Extraktion von Teilen (Part Extraction)

Anstatt das gesamte Patientenprofil als Ganzes zu betrachten, werden sparse patching masks (lernbare Masken) verwendet.

• Diese Masken selektieren und kombinieren sparse Teilmengen der diskretisierten Merkmale.
• Jede „Teil"-Darstellung entspricht einer klinisch sinnvollen Kombination von Indikatoren (z. B. „hoher Blutdruck" + „Alter > 60").
• Ein Regularisierungsterm ($L_1$-Strafe) erzwingt Sparsamkeit, sodass nur wenige, relevante Merkmale pro Teil ausgewählt werden.

C. Prototypen-Lernen und Vergleich

• Das Netz lernt Prototyp-Vektoren im latenten Raum, die repräsentative klinische Fälle (Clusterzentren) abbilden.
• Für einen neuen Patienten werden die extrahierten „Teile" in Embeddings transformiert und mittels $L_2$-Distanz mit den gelernten Prototypen verglichen.
• Ein Max-Pooling über die Teile selektiert für jeden Prototyp das am besten passende Teil des Patienten.
• Die Vorhersage basiert direkt auf der Ähnlichkeit zu diesen Prototypen.

D. Drei-Stufen-Trainingsverfahren

Um Stabilität und Interpretierbarkeit zu sichern, wird in drei Phasen trainiert:

1. Initialisierung: End-to-End-Training mit fuzzy binning und zufälligen Prototypen.
2. Verfestigung: Umschaltung auf hard binning und Binarisierung der Masken; Feinabstimmung des Netzes.
3. Realitätsbezug: Die synthetischen Prototypen werden durch Embeddings tatsächlicher Patientendaten aus dem Trainingsset ersetzt. Dies verankert die Entscheidungen in realen klinischen Fällen.

Regularisierung

Das Gesamtziel-Funktion besteht aus:

• Kreuzentropie-Verlust (Klassifikation).
• $L_1$-Sparsamkeitsstrafe (für die Masken, um irrelevante Merkmale auszuschalten).
• Diversitätsstrafe (um zu verhindern, dass Prototypen redundante Informationen speichern).

3. Wichtige Beiträge

• Neue Architektur für Tabellendaten: Erste Anwendung des „ProtoPNet"-Konzepts (prototypische Teile) speziell für medizinische Tabellendaten, ohne räumliche Struktur.
• Inhärente Interpretierbarkeit: Das Modell ist kein Blackbox-Modell mit nachträglicher Erklärung, sondern liefert von Natur aus Erklärungen in Form von diskretisierten Merkmalskombinationen und ähnlichen realen Patientenfällen.
• Lernbare Diskretisierung: Das Netz lernt automatisch klinisch sinnvolle Schwellenwerte (Bins), die oft mit medizinischen Referenzbereichen übereinstimmen.
• Fallbasiertes Schlussfolgern (Case-Based Reasoning): Die Entscheidungen werden durch den direkten Vergleich mit realen Prototypen begründet, was dem klinischen Denken von Ärzten entspricht.

4. Ergebnisse

Die Evaluation erfolgte auf drei öffentlichen medizinischen Datensätzen (Leberzirrhose, Chronische Nierenerkrankung, Diabetes):

• Vorhersageleistung: MEDIC erzielt Ergebnisse, die mit etablierten Baselines (Random Forest, XGBoost, MLP) konkurrieren oder diese sogar übertreffen (gemessen am geometrischen Mittel von Sensitivität und Spezifität, g-mean).
  • Leberzirrhose: MEDIC (0.6889) > XGBoost (0.6840).
  • Nierenerkrankung: MEDIC (1.0000) = RF/MLP (1.0000).
  • Diabetes: MEDIC (0.7367) knapp hinter XGBoost (0.7453), aber deutlich besser als DT.
• Selbstregulierung: Das Modell nutzt weniger Prototypen als maximal erlaubt, was auf eine Vermeidung von Overfitting hindeutet.
• Interpretierbarkeit (Fallstudie Zirrhose):
  • Die gelernten Diskretisierungsgrenzen (z. B. für Albumin bei 3.70 g/dL) stimmten stark mit klinischen Referenzwerten überein.
  • Die identifizierten „Prototyp-Teile" (z. B. Kombinationen von Bilirubin, Lebergröße und Medikamenten) bildeten klinisch plausible Muster ab.
  • Die Erklärungen für einzelne Patientenvorhersagen konnten direkt auf spezifische, verständliche Merkmalskombinationen zurückgeführt werden.

5. Bedeutung und Ausblick

MEDIC schließt die Lücke zwischen hoher Vorhersagegenauigkeit und klinischer Interpretierbarkeit.

• Vertrauen: Da die Entscheidungen auf realen Patientenfällen und nachvollziehbaren klinischen Schwellenwerten basieren, steigt das Vertrauen von Ärzten in KI-Systeme.
• Regulatorische Akzeptanz: Die Transparenz des Modells erleichtert die Validierung und Zulassung von KI-Tools im Gesundheitswesen.
• Zukunft: Die Autoren sehen Potenzial darin, domänenspezifisches Vorwissen in das Prototypen-Lernen zu integrieren und dynamische Anpassungen an sich ändernde Krankheitsverläufe vorzunehmen.

Zusammenfassend bietet MEDIC einen Paradigmenwechsel weg von Blackbox-Modellen hin zu Systemen, die nicht nur vorhersagen, sondern ihre Entscheidungen in der Sprache der klinischen Medizin begründen.