Early Risk Prediction with Temporally and Contextually Grounded Clinical Language Processing

Technische Zusammenfassung: Frühe Risikovorhersage mit zeitlich und kontextuell fundierter klinischer Sprachverarbeitung

Problemstellung
Der Beitrag adressiert die Herausforderung, das Risiko chronischer Erkrankungen, insbesondere Typ-2-Diabetes (T2D), unter Verwendung longitudinaler Elektronischer Gesundheitsakten (EHRs) vorherzusagen. Während klinische Notizen reichhaltige zeitliche Informationen über Ereignisse enthalten, fehlen oft strukturierte Daten zu ärztlichen Schlussfolgerungen und Lebensstilfaktoren; zudem stellen sie erhebliche Hürden für die Verarbeitung natürlicher Sprache (NLP) dar. Dazu gehören lange Textlängen, unregelmäßige Ereignisverteilungen, komplexe zeitliche Abhängigkeiten, Datenschutzbeschränkungen und Ressourcenbegrenzungen in realen klinischen Umgebungen. Bestehende Ansätze verlassen sich häufig auf strukturierte Daten (die verrauscht und unvollständig sein können) oder behandeln klinische Notizen als statische Momentaufnahmen, wodurch sie es versäumen, die feinabgestimmten zeitlichen Beziehungen innerhalb einer einzelnen Notiz und die Dynamik über mehrere Patientenbesuche hinweg zu modellieren. Darüber hinaus bieten zwar Large Language Models (LLMs) ein starkes semantisches Verständnis, haben jedoch Schwierigkeiten mit der Integration von Langzeitkontexten und strukturiertem Schlussfolgern und sind für den Einsatz in ressourcenbeschränkten klinischen Umgebungen oft zu rechenintensiv oder datenschutzrechtlich zu restriktiv.

Methodik
Die Autoren schlagen zwei komplementäre Methoden vor, um diese Herausforderungen zu bewältigen:

1. HITGNN (Hierarchical Temporal Graph Neural Network):

   • Konzept: Ein dynamisches Modell, das darauf ausgelegt ist, die Entwicklung des Patientenstatus mit feinabgestimmter zeitlicher Granularität und einer Anreicherung durch medizinisches Wissen zu erfassen.
   • Pipeline:
     • Extraktion zeitlicher Relationen (TREX): Nutzt state-of-the-art-Modelle (SPANTREX), um klinische Entitäten (Probleme, Behandlungen, Tests) und Zeitangaben aus einzelnen Notizen zu extrahieren und zeitliche Relationen (Vorher, Nachher, Überlappung) zu identifizieren.
     • Graphkonstruktion: Erstellt intranotiz-interne zeitliche Graphen, wobei Knoten Entitäten und Kanten zeitliche Relationen darstellen. Diese werden um einen klinischen Wissensgraphen (UMLS) erweitert, um Entitäten mit semantischen Typen und Konzepten zu verknüpfen.
     • Normalisierung: Wendet Entity Linking (via MetaMap zu UMLS) und Rauschreduktion im zeitlichen Graphen (via TimeGraph-Algorithmus) an, um Konsistenz sicherzustellen.
     • Modellierung: Verwendet einen GraphSAGE-Encoder zur Verarbeitung von besuchsinternen Graphen, gefolgt von einem Bidirectional LSTM (BiLSTM), um intervisituelle Abhängigkeiten über die Patientenzeitachse hinweg zu modellieren. Knotenrepräsentationen kombinieren kontextuelle Embeddings (BioMedBERT) mit Wissensgraph-Embeddings (KG-embeddings).
   • Ziel: Die Modellierung von Patientenverläufen durch die Integration von intradokumentaren zeitlichen Strukturen, intervisituellen Dynamiken und medizinischem Wissen.

2. REVEAL (Reasoning with Verifier-Aided Labeling):

   • Konzept: Ein leichtgewichtiges Framework zur Laufzeit, das die Schlussfolgerungsfähigkeiten großer LLMs in kleinere, effizientere Modelle destilliert, die für ressourcenbeschränkte Umgebungen geeignet sind.
   • Pipeline:
     • Reasoner: Ein größeres LLM (z. B. Llama3.1-8B) generiert mehrere stochastische Schlussfolgerungspfade (Vorhersagen und Erklärungen) für das Risiko eines Patienten.
     • Verifier: Ein kleineres, feinabgestimmtes LLM (z. B. Llama3.2-1B mit LoRA) bewertet die Glaubwürdigkeit dieser Pfade und weist einen Konfidenzwert zu.
     • Aggregation: Die endgültige Vorhersage wird durch Aggregation der Top-k-Vorhersagen mit dem höchsten Konfidenzwert (via Mehrheitsentscheid) bestimmt.
   • Ziel: Die Interpretierbarkeit und die Qualität des Schlussfolgerns großer Modelle zu bewahren, während die Leistung skaliert wird, ohne die vollen Rechenkosten für das Training oder den Einsatz massiver Modelle in Kauf nehmen zu müssen.

Hauptbeiträge

1. Neuartige Frameworks: Einführung von HITGNN, der ersten Anwendung der klinischen Extraktion zeitlicher Relationen (TREX) zur Risikovorhersage, die intradokumentare Relationen, intervisituelle Dynamiken und medizinisches Wissen integriert; sowie REVEAL, ein Framework zur Skalierung zur Laufzeit für interpretierbare LLM-Inferenz.
2. Anwendung in der realen Welt: Demonstration dieser Methoden bei der opportunistischen T2D-Screening, mit spezifischem Fokus auf unmittelbare Risikohorizonte, in denen Interventionen am wirkungsvollsten sind.
3. Rigorose Datenerstellung: Erstellung von Datensätzen aus privaten (PH) und öffentlichen (MIMIC-IV) Quellen mit striktem Ausschluss von Daten nach der Diagnose, um Label-Leckage zu verhindern, sowie demografisches Matching für eine faire Evaluation.
4. Umfassende Ablationsstudien: Ausführliche Analyse zur Entflechtung der Auswirkungen zeitlicher Relationen, der Anreicherung durch Wissensgraphen und der Pipeline-Komponenten, die korpusabhängige Trade-offs aufzeigt.
5. Fairness-Analyse: Eine Evaluierung des Modellverhaltens über demografische Untergruppen hinweg, die Instabilität in LLM-basierten Systemen im Vergleich zur gerechteren Leistung von HITGNN hervorhebt.

Ergebnisse

• Vorhersageleistung: HITGNN erzielte die höchste Vorhersagegenauigkeit, insbesondere für kurzfristige Risiken (≤1,5 Jahre), und übertraf sowohl LLM-basierte Baselines (einschließlich Zero-Shot- und feinabgestimmter Llama-Varianten) als auch strukturierte Baselines (CLSTM). Auf dem PH-Korpus erreichte HITGNN eine AUC von 72,24 % und übertraf damit signifikant das zweitbeste Modell (CLSTM mit 68,24 %).
• LLM-Leistung: Obwohl feinabgestimmte LLMs (Llama3.2-1B-ft) eine starke Klassifikationsleistung zeigten, fehlten ihnen Schlussfolgerungsfähigkeiten. REVEAL verbesserte im Vergleich zu Zero-Shot-LLMs die Recall-Rate für T2D, übertraf den feinabgestimmten Klassifikator jedoch nicht signifikant, behielt aber das erklärende Schlussfolgern bei.
• Effizienz: HITGNN und CLSTM zeigten eine überlegene Recheneffizienz mit Trainingszeiten von ca. 1,5 bzw. ca. 12 Minuten und Inferenzzeiten von ca. 0,01 bzw. ca. 0,02 Sekunden pro Patient. Im Gegensatz dazu benötigten LLM-basierte Ansätze deutlich mehr Zeit und Speicher (z. B. dauerte die REVEAL-Inferenz ca. 62 Sekunden pro Patient).
• Fairness: HITGNN zeigte im Allgemeinen eine gerechtere Leistung über Untergruppen hinweg (Geschlecht, Rasse, Ethnizität), ohne demografische Attribute explizit zu kodieren. Im Gegensatz dazu wiesen LLM-basierte Modelle Instabilität und Inkonsistenz auf, wobei die Leistung stark von der demografischen Konditionierung abhing und manchmal auf zufälligen demografischen Abkürzungen beruhte.
• Ablationsstudien: Die Studie ergab, dass die Kombination aus Text- und Wissensgraph-Embeddings auf dem privaten Korpus die besten Ergebnisse lieferte, während zeitliche Kanten die T2D-Recall-Rate auf den privaten Daten verbesserten, jedoch gemischte Effekte auf dem öffentlichen MIMIC-IV-Datensatz zeigten.

Bedeutung und Behauptungen
Der Beitrag behauptet, ein klinisch fundiertes Framework etabliert zu haben, das Konzeptabstraktion, zeitliche Struktur und semantische Anreicherung integriert, um kostengünstige und datenschutzbewusste KI-Systeme für die klinische Entscheidungsunterstützung in der realen Welt zu unterstützen. Die Autoren betonen, dass ihre Arbeit über statische Momentaufnahmen hinausgeht und dynamische Patientenrepräsentationen schafft, um die spezifischen Bedürfnisse des opportunistischen Screenings zu adressieren, bei dem Patienten die Routineversorgung verpassen könnten. Sie behaupten, dass HITGNN eine robuste, effiziente und faire Alternative zu großen proprietären Modellen bietet, während REVEAL einen Weg aufzeigt, LLM-Schlussfolgerungen ohne prohibitiv hohe Ressourcenkosten zu nutzen. Die Arbeit unterstreicht die Bedeutung zeitlicher Struktur im diagnostischen Schlussfolgern und warnt vor dem unkritischen Einsatz demografischer Konditionierung in LLMs aufgrund einer potenziellen Abhängigkeit von instabilen populationsbezogenen Abkürzungen anstelle individueller klinischer Evidenz. Die Autoren positionieren ihre Modelle als Werkzeuge für das „Clinician-in-the-Loop"-Prinzip zur Risikostratifizierung, nicht als eigenständige Diagnosegeräte.