EHR2Path: Scalable Modeling of Longitudinal Patient Pathways from Multimodal Electronic Health Records

Each language version is independently generated for its own context, not a direct translation.

Stell dir vor, ein Krankenhaus ist wie ein riesiges, chaotisches Bibliothekssystem. Jeder Patient ist ein Buch, das sich ständig weiter schreibt. Aber diese Bücher sind nicht aus Papier, sondern bestehen aus tausenden von Zetteln: Laborwerte, Arztberichte, Vitalzeichen, Medikamente und handschriftliche Notizen.

Das Problem bisher war: Die Computer, die diese Bücher lesen sollten, waren wie Schüler, die nur die letzte Seite lesen durften. Sie konnten nicht sehen, was vor einer Woche passiert ist, oder sie verstanden die verschiedenen Schriftarten (Zahlen, Texte, Codes) nicht gut genug. Das führte zu ungenauen Vorhersagen darüber, wie es einem Patienten weitergehen wird.

EHR2Path ist wie ein neuer, super-intelligenter Bibliothekar, der endlich das ganze Buch versteht und sogar die nächsten Kapitel vorhersagen kann.

Hier ist die einfache Erklärung, wie das funktioniert:

1. Das große Chaos ordnen (Die einheitliche Sprache)

Früher mussten Computer für jeden Datentyp einen anderen Übersetzer haben: einer für Zahlen, einer für Texte, einer für Diagnosen. Das war ineffizient.
EHR2Path macht etwas Einfaches: Es verwandelt alles in eine einzige, verständliche Sprache (Text). Ob es nun ein Herzfrequenz-Wert ist ("Herzfrequenz: 80") oder ein Arztbericht ("Patient wirkt verwirrt"), alles wird in einen langen, zusammenhängenden Text umgewandelt. So kann das KI-Modell (ein großes Sprachmodell) den Patienten wie eine Geschichte lesen, statt wie eine Excel-Tabelle.

2. Das Problem mit dem zu langen Gedächtnis (Die "Zusammenfassungs-Flasche")

Das größte Problem bei Patientendaten ist die Länge. Ein Krankenhausaufenthalt kann Hunderte von Stunden umfassen. Wenn man einem Computer alles auf einmal zeigt, "vergisst" er den Anfang oder der Rechner wird zu langsam (wie ein Computer, der versucht, ein ganzes Jahr an Nachrichten auf einmal zu lesen).

Hier kommt die geniale Erfindung des Papiers ins Spiel: Die "Masked Summarization Bottleneck".
Stell dir das wie einen Fassungsvermögen-Filter vor:

Der aktuelle Moment: Die letzten 24 Stunden werden im Detail gelesen (wie die letzten Seiten eines Buches).
Die ferne Vergangenheit: Alles, was davor passiert ist, wird nicht Wort für Wort gelesen. Stattdessen wird es in ein paar wenige, hochkomprimierte "Zusammenfassungs-Token" gepresst.
Die Metapher: Stell dir vor, du musst einem Freund einen ganzen Roman erzählen. Du liest ihm die letzten Kapitel vor, aber für die ersten 500 Seiten sagst du nur: "Der Held hatte eine schwere Kindheit, lernte kämpfen und wurde zum König." Diese kurze Zusammenfassung reicht aus, um den Kontext zu verstehen, ohne das ganze Buch vorzulesen. Das spart enorm viel Zeit und Speicherplatz, behält aber die wichtigen Informationen.

3. Die Vorhersage der Zukunft (Das Simulieren)

Das Ziel von EHR2Path ist nicht nur, zu sagen "Der Patient stirbt morgen" (eine einfache Vorhersage), sondern die ganze Geschichte zu simulieren.

Das Modell schaut auf den aktuellen Zustand.
Es sagt voraus, was in der nächsten Stunde passiert (z. B. "Herzfrequenz steigt", "Medikament X wird gegeben").
Dann nimmt es diese neue Information, fügt sie zum Buch hinzu und sagt voraus, was in der nächsten Stunde passiert.
Es kann so Schritt für Schritt durch die nächsten Tage "simulieren", wie sich der Patient entwickelt.

Warum ist das so wichtig?

Bisherige Modelle waren wie ein Wetterbericht für nur eine Stunde. EHR2Path ist wie ein Wettermodell, das eine ganze Woche voraussehen kann, inklusive Stürmen und Aufklaren.

Für Ärzte: Es hilft, Probleme zu erkennen, bevor sie passieren (z. B. "Oh, basierend auf dem Verlauf der letzten Tage, wird der Patient wahrscheinlich in 2 Tagen entlassen werden können" oder "Achtung, die Vitalzeichen deuten auf eine Verschlechterung in 6 Stunden hin").
Für die Forschung: Es erlaubt, tausende Szenarien durchzuspielen, um zu verstehen, welche Behandlungen am besten funktionieren.

Zusammenfassung in einem Satz

EHR2Path ist ein KI-System, das die chaotische Geschichte eines Patienten in einer einzigen Sprache liest, die ferne Vergangenheit clever zusammenfasst, um Platz zu sparen, und dann wie ein erfahrener Arzt die nächsten Kapitel der Patientengeschichte vorhersagt, um die Behandlung proaktiver und persönlicher zu gestalten.

Each language version is independently generated for its own context, not a direct translation.

1. Problemstellung

Die Vorhersage der Entwicklung eines Patienten während eines Krankenhausaufenthalts ist eine zentrale Herausforderung für datengestützte klinische Entscheidungsfindung. Elektronische Gesundheitsakten (EHRs) enthalten zwar detaillierte Daten (Strukturierte Codes, Vitalzeichen, Medikation, Laborwerte, Freitext-Notizen), sind jedoch hochgradig heterogen, longitudinal (über lange Zeiträume verteilt) und unvollständig.

Bestehende Ansätze leiden unter folgenden Einschränkungen:

Fokus auf isolierte Aufgaben: Die meisten Modelle sagen nur ein spezifisches Ergebnis voraus (z. B. Sterblichkeit, Verweildauer) anstatt den gesamten Patientenverlauf zu modellieren.
Eingeschränkter Feature-Raum: Viele Modelle nutzen nur strukturierte Daten oder ignorieren Freitext und dichte Zeitreihendaten (z. B. ICU-Charting).
Kurze Kontextfenster: Aufgrund der begrenzten Kontextlänge von Transformer-Modellen können lange Krankengeschichten nicht vollständig berücksichtigt werden, was die Modellierung des gesamten stationären Pfads (Pathway) verhindert.

2. Methodik: EHR2Path

EHR2Path ist ein multimodales Framework, das darauf abzielt, vollständige stationäre Patientenpfade aus routinemäßigen EHR-Daten vorherzusagen und zu simulieren.

A. Datenrepräsentation

Das Modell transformiert heterogene EHR-Daten in eine einheitliche, strukturierte Textrepräsentation.

Hierarchische Organisation: Die Daten werden in klinische Einheiten (Notaufnahme ED, Station, Intensivstation ICU), Kategorien (Vitalzeichen, Medikation, Diagnosen, etc.) und Features unterteilt.
Natürliche Sprache: Anstatt medizinischer Codes werden Feature-Namen und Werte in natürlicher Sprache dargestellt, um semantisches Verständnis durch Large Language Models (LLMs) zu ermöglichen.
Zeitliche Modellierung: Temporale Daten werden als spärliche Sequenzen modelliert (z. B. "Herzfrequenz: 1h vor: 80").

B. Architektur und Kernkomponenten

Das Herzstück ist ein Pathway Model (ein auf Transformer basierendes LLM), das den nächsten Zustand ( $t+1$ ) basierend auf der Historie ( $t$ ) vorhersagt. Um lange Historien effizient zu verarbeiten, führt das Paper zwei entscheidende Innovationen ein:

Masked Summarization Bottleneck (MSB):
- Ziel: Komprimierung der gesamten Patientenhistorie in kompakte, aufgabenoptimierte Zusammenfassungs-Token, während der jüngste Kontext (z. B. die letzten 24 Stunden) als unkomprimierter Text erhalten bleibt.
- Funktionsweise: Für jeden Abschnitt der Patientenhistorie werden $m$ spezielle Summary-Token ( $S$ ) eingefügt. Ein benutzerdefinierter Attention-Mask sorgt dafür, dass die Ausgabe-Token nur auf diese Summary-Token und vorherige Ausgaben zugreifen können (nicht auf den gesamten Rohdaten-Input).
- Prinzip: Dies erzwingt eine Informationskompression, die die gegenseitige Information zwischen der Zusammenfassung und dem nächsten Zustand maximiert, während redundante Details verworfen werden. Dies ermöglicht die Verarbeitung von Historien, die 20-mal länger sind als bei reinen Textmodellen, bei gleichbleibender Token-Effizienz.
Length-of-Stay (LOS) Indikator:
- Um das Problem zu lösen, dass Modelle Patienten oft künstlich lange im System halten (da Entlassungen seltene Ereignisse sind), wird ein Countdown der verbleibenden Stunden pro klinischer Einheit als Eingabe hinzugefügt.
- Augmentierung: Während des Trainings wird der LOS-Token teilweise entfernt oder mit Rauschen versehen, damit das Modell lernt, den verbleibenden Aufenthalt dynamisch neu zu schätzen, statt nur den Token abzuzählen.
Fine-Tuning-Strategien:
- Das Modell kann für spezifische Vorhersageaufgaben (z. B. Entlassungsdiagnose) durch Fine-Tuning spezialisiert werden, entweder auf Pfaddaten (Erhalt von Zwischenereignissen) oder rein auf das Endziel (Outcome-Oriented).

C. Inferenz und Simulation

Das Modell kann iterativ angewendet werden: Die Vorhersage für $t+1$ wird in die Patientenakte integriert, um als Eingabe für $t+2$ zu dienen. Dies ermöglicht die Simulation kompletter zukünftiger Trajektorien bis zu einem Abbruchkriterium (z. B. Entlassung oder Tod).

3. Schlüsselergebnisse

Die Evaluation erfolgte auf dem MIMIC-IV-Datensatz (ca. 300.000 Patienten) über neun verschiedene klinische Aufgaben (Notaufnahme, Station, ICU).

Leistung bei nächsten Schritten (Next-Timestep Prediction):
- EHR2Path (insbesondere die Variante E2P-S+T, die Text und Zusammenfassung kombiniert) übertrifft starke Baselines wie ETHOS, MEME und REMed signifikant.
- ETHOS scheiterte oft daran, viele EHR-Ereignistypen vorherzusagen (niedriger F1-Score), während EHR2Path ein breiteres Spektrum an Variablen abdeckt.
- Die Masked Summarization Bottleneck-Variante (E2P-S) erreicht die besten Ergebnisse bei der Nutzung des gesamten historischen Kontexts, da sie Informationen aus der gesamten Historie effizient extrahiert.
Longitudinale Simulation:
- Das Modell zeigt robuste Leistung bei der Simulation über längere Zeiträume (bis zu 24 Stunden Vorhersagehorizont), wobei der Leistungsabfall graduell und nicht katastrophal ist.
- Die Kombination aus Text (für Details) und Summary (für Kontext) bietet den besten Kompromiss für diverse Simulationsaufgaben.
Effizienz:
- Durch die MSB können Modelle bis zu 20-mal mehr historischen Kontext verarbeiten als reine Textmodelle, ohne dass die Eingabelänge proportional wächst (Reduktion der Token-Anzahl bei gleichzeitiger Beibehaltung relevanter Information).
Fine-Tuning:
- Als Foundation Model für Outcome-Vorhersagen (z. B. Sterblichkeit, Entlassung) übertrifft EHR2Path nach Fine-Tuning spezialisierte Baseline-Modelle in 3 von 4 getesteten Aufgaben.

4. Bedeutung und Beitrag

Paradigmenwechsel: Der Ansatz verschiebt den Fokus von isolierten Vorhersageaufgaben hin zur ganzheitlichen Modellierung und Simulation des gesamten Patientenverlaufs.
Skalierbarkeit: Die Einführung des Masked Summarization Bottleneck löst das Problem der langen Kontextfenster in klinischen Daten und ermöglicht die Nutzung von LLMs für vollständige Krankenhausaufenthalte.
Multimodalität: EHR2Path integriert erstmals strukturierte Daten, kontinuierliche Messwerte und Freitext-Notizen in einem einzigen Modellrahmen für die Pfadvorhersage.
Klinische Relevanz: Die Fähigkeit, den zukünftigen Zustand eines Patienten (Verschlechterung, Behandlungsbedarf, Übergänge) proaktiv zu simulieren, bietet das Potenzial für eine personalisierte und vorausschauende medizinische Versorgung.

Zusammenfassend etabliert EHR2Path einen skalierbaren Rahmen für die Modellierung heterogener stationärer Daten und legt den Grundstein für zukünftige Fortschritte in der prädiktiven und personalisierten Medizin. Der Code ist öffentlich verfügbar.