🤖 AI

Towards end-to-end LLM-based censoring-aware survival analysis

Das Papier stellt LLMSurvival vor, ein Framework, das unveränderten großen Sprachmodellen ermöglicht, eine End-to-End-Überlebensanalyse mit Berücksichtigung von Zensur auf tabellarischen klinischen Daten durchzuführen, indem die Vorhersage von Zeit- bis zum Ereignis in eine paarweise Rangordnungs-Aufgabe umformuliert wird, und das eine überlegene Leistung gegenüber traditionellen Cox-Modellen und Deep-Learning-Baselines bei der Vorhersage von ICU-Sterblichkeit und Frakturrisiko erzielt.

Ursprüngliche Autoren: Yishu Wei, Hexin Dong, Yi Lin, Jiahe Qian, Yi Liu, Yifan Peng

Veröffentlicht 2026-05-26

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yishu Wei, Hexin Dong, Yi Lin, Jiahe Qian, Yi Liu, Yifan Peng

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Das Rätsel der „fehlenden Zeit"

Stellen Sie sich vor, Sie versuchen vorherzusagen, wer einen Marathon als Erster beendet. Bei einem normalen Rennen beobachten Sie, wie alle die Ziellinie überqueren, und notieren ihre Zeiten.

Bei medizinischen Studien (sogenannte Überlebenszeitanalysen) ist die Sache jedoch komplizierter. Manchmal steigt ein Läufer (Patient) frühzeitig aus dem Rennen aus, weil er krank wird, oder das Rennen endet, bevor er fertig ist. Wir wissen nicht, wann er fertig geworden wäre, wenn er im Rennen geblieben wäre. In der Statistik nennt man dies Zensierung.

Lange Zeit konnten leistungsstarke KI-Tools namens Large Language Models (LLMs) – dieselbe Technologie hinter Chatbots – dieses Rätsel nicht lösen. Sie sind hervorragend darin, Texte zu lesen und Fragen zu beantworten, aber sie haben Schwierigkeiten, wenn der „Lösungsschlüssel" fehlt oder unvollständig ist. Die meisten Forscher mussten die KI nur dazu verwenden, die Notizen zu lesen, und die Daten dann an ein anderes, älteres mathematisches Modell weitergeben, um die eigentliche Vorhersage zu treffen.

Die Lösung: LLMSurvival

Die Autoren entwickelten ein neues Framework namens LLMSurvival. Anstatt die KI zu fragen: „Wie viele Tage vergehen, bis dieser Patient krank wird?", stellten sie die Frage komplett um.

Die Analogie: Das Spiel „Wer ist in schlechterer Verfassung?"
Stellen Sie sich vor, Sie sind ein Arzt, der zwei Patienten betrachtet, Patient A und Patient B.

Der alte Weg: Versuchen Sie, das genaue Datum zu erraten, an dem Patient A krank wird. (Schwierig, wenn Sie nicht über alle Daten verfügen).
Der LLMSurvival-Weg: Fragen Sie die KI: „Wer von Patient A und Patient B wird mit höherer Wahrscheinlichkeit früher krank?"

Dies ist ein Pairwise-Ranking-Spiel. Selbst wenn wir nicht genau wissen, wann Patient A krank wird, wissen wir vielleicht, dass Patient A krank wurde, bevor Patient B aus der Studie ausschied. Das ist für die KI ausreichend Information, um zu lernen.

Wie es funktioniert (Schritt für Schritt)

Übersetzung von Zahlen in Geschichten:
Medizinische Daten liegen normalerweise in Tabellen mit Zahlen wie „Alter: 65" oder „Blutdruck: 120" vor. Die KI kann Tabellen nicht gut lesen. Das System verwandelt diese Zeilen also in eine Geschichte: „Dieser Patient ist 65 Jahre alt, hat hohen Blutdruck und raucht." Jetzt kann die KI es wie ein Buch lesen.
Das Trainingslager (Pairwise-Vergleich):
Die KI wird trainiert, indem ihr Tausende von Patientpaaren gezeigt werden. Sie muss entscheiden: „Wer hat ein höheres Risiko?"
- Wenn die KI richtig liegt, lernt sie.
- Wenn sie falsch liegt, passt sie ihr „Gehirn" an.
- Entscheidend ist, dass sie nur Patienten vergleicht, bei denen das Ergebnis klar ist (z. B. Patient A wurde definitiv krank, bevor Patient B aus der Nachbeobachtung verloren ging). Dies umgeht das Problem der „fehlenden Zeit".
Die Abschlussprüfung (Die Anker-Methode):
Wenn ein neuer Patient hereinkommt, errät die KI keine Zahl. Stattdessen vergleicht sie diesen neuen Patienten mit einer festen Gruppe von 50 „Anker"-Patienten aus den Trainingsdaten.
- Frage: „Ist der neue Patient riskanter als Anker #1?" (Ja/Nein)
- Frage: „Ist der neue Patient riskanter als Anker #2?" (Ja/Nein)
- ...und so weiter für 50 Anker.
- Die Punktzahl: Wenn die KI bei 40 von 50 Ankern „Ja" sagt, erhält der Patient eine hohe Risikopunktzahl (80 %). Wenn sie nur bei 5 Ankern „Ja" sagt, ist die Punktzahl niedrig.

Hat es funktioniert?

Die Forscher testeten dies in zwei sehr unterschiedlichen medizinischen Szenarien:

ICU-Sterblichkeit: Vorhersage, ob ein Patient auf der Intensivstation bald versterben wird.
Frakturrisiko: Vorhersage, ob ein älterer Erwachsener in den nächsten Jahren einen Knochenbruch erleiden wird.

Die Ergebnisse:

Besser als die Experten: In beiden Fällen schnitt LLMSurvival besser ab als die Standard-mathematischen Modelle, die Ärzte derzeit verwenden (wie das Cox-Modell), und besser als die spezialisierten „Experten-Scores" (wie SAPS-II für die Intensivstation und FRAX für Knochen).
Besser als andere KI: Es schlug auch andere Deep-Learning-Modelle, die speziell für Überlebenszeitanalysen entwickelt wurden.
Das „Warum": Als die Forscher die KI baten, ihre Entscheidungen zu erklären, gab sie logische Gründe an, wie „Patient B hat niedrigere Sauerstoffwerte und ein höheres Fieber", was zeigte, dass sie den medizinischen Kontext tatsächlich verstand und nicht nur riet.

Warum das wichtig ist

Keine „Feature-Extraktoren" mehr: Früher war die KI nur ein Helfer, der Informationen aus Notizen extrahierte. Jetzt ist die KI der Arzt, der die Vorhersage trifft.
Lokal und privat: Die verwendeten Modelle sind klein genug, um auf einem einzelnen Computer zu laufen (wie einem Standardserver in einem Krankenhaus), ohne dass sensible Patientendaten in die Cloud gesendet werden müssen.
Flexibel: Dasselbe „Spiel" (Vergleich zweier Patienten) funktionierte perfekt sowohl für einen schnelllebigen Notfall auf der Intensivstation als auch für ein langsam fortschreitendes Frakturrisiko, was beweist, dass die Methode sehr anpassungsfähig ist.

Auf den Punkt gebracht

Das Papier beweist, dass man, wenn man die KI aufhört zu bitten, ein spezifisches Datum vorherzusagen (was bei fehlenden Daten schwierig ist), und stattdessen bittet, zwei Personen zu vergleichen (was für eine KI leicht zu verstehen ist), ein hochpräzises medizinisches Vorhersagewerkzeug entwickeln kann, das fehlende Daten auf natürliche Weise handhabt und aktuelle Standardmethoden übertrifft.

Technischer Zusammenfassung: LLMSurvival

Problemstellung
Die Überlebensanalyse ist ein Eckpfeiler der medizinischen Vorhersage und zielt darauf ab, sowohl das Eintreten eines Ereignisses als auch die Zeit bis zu seinem Eintreten zu modellieren. Die Anwendung von Large Language Models (LLMs) als durchgängige Überlebensmodelle wurde jedoch durch die Herausforderung der Zensierung behindert. Bei zensierten Daten ist der genaue Zeitpunkt eines Ereignisses unbekannt, da ein Subjekt die Studie verlassen kann oder der Beobachtungszeitraum vor dem Eintritt des Ereignisses endet. Das Fehlen expliziter Ground-Truth-Labels verhindert die direkte Verwendung standardmäßiger überwachter Feinabstimmung (SFT) und Reinforcement-Learning-Rahmenwerke, die auf definitive Ziele angewiesen sind. Folglich haben frühere Forschungen LLMs weitgehend auf die Rolle von Merkmalsextraktoren beschränkt oder erhebliche architektonische Modifikationen erfordert (z. B. das Hinzufügen neuronaler Netze auf LLMs), anstatt das LLM als primäre Vorhersagemaschine zu nutzen.

Methodik: LLMSurvival
Die Autoren schlagen LLMSurvival vor, ein Rahmenwerk, das zensierungsbewusste Überlebensanalysen mit unveränderten LLMs ermöglicht, die direkt auf tabellarischen klinischen Daten operieren. Die Kerninnovation besteht in der Umformulierung der Vorhersage der Zeit bis zum Ereignis als Pairwise-Ranking-Problem, wodurch die Notwendigkeit absoluter Zeitlabels umgangen wird.

Datenkonvertierung: Strukturierte tabellarische Variablen (z. B. Alter, Vitalzeichen, Laborergebnisse) werden mithilfe einer Vorlage in natürliche Sprachaussagen umgewandelt (z. B. „Alter ist 79; Geschlecht ist WEIBLICH").
Pairwise-Formulierung: Anstatt eine spezifische Überlebenszeit vorherzusagen, wird das Modell trainiert, zu bestimmen, welches von zwei vergleichbaren Subjekten das Ereignis zuerst erlebt.
- Trainingspaare: Ein gültiges Trainingspaar $(i, j)$ wird konstruiert, wobei Subjekt $i$ das Ereignis erlebt hat ( $e_i=1$ ) und dies vor dem Nachbeobachtungszeitpunkt von Subjekt $j$ tat ( $t_i < t_j$ ). Dies umfasst zensierte Subjekte, solange sie länger beobachtet wurden als der Ereigniszeitpunkt des anderen Subjekts.
- Zielsetzung: Das Modell wird durch überwachten Lernprozess zur Vorhersage der relativen Reihenfolge feinabgestimmt. Die Verlustfunktion ist ein binärer Kreuzentropie-Zielwert über gültige vergleichbare Paare, der die Wahrscheinlichkeit optimiert, dass das Modell dem Subjekt, das das Ereignis früher erlebt, einen höheren Risikoscore zuweist.
- Sampling: Um die Rechenkosten der Generierung aller möglichen Paare zu bewältigen, wird eine Nested-Case-Control-Sampling-Strategie eingesetzt, die eine feste Anzahl von Kontrollen (Subjekte mit längerer Nachbeobachtung) für jeden Ereignisfall auswählt.
Inferenz durch Anker-Vergleich: Während des Tests wird der Risikoscore eines Subjekts nicht direkt vorhergesagt. Stattdessen wird das Testsubjekt mit einer festen Menge von $K$ $K$ „Anker"-Individuen verglichen, die aus der Trainingskohorte stichprobenartig ausgewählt wurden.
- Das Modell sagt voraus, ob das Testsubjekt ein höheres Risiko als jeder Anker hat.
- Der endgültige Risikoscore ist der Anteil der Anker, gegen die das Testsubjekt als höheres Risiko eingestuft wird.
Modelle: Das Rahmenwerk wurde mit zwei instruktionsfeinabgestimmten, lokal einsetzbaren LLMs evaluiert: Llama 3.1-8B-Instruct und Qwen 2.5-7B-Instruct.

Hauptbeiträge

Durchgängige LLM-Überlebensmodellierung: Der Artikel präsentiert einen Proof of Concept für das direkte Trainieren von LLMs als Überlebensmodelle ohne architektonische Modifikationen und geht damit über ihre traditionelle Rolle als Merkmalsextraktoren hinaus.
Zensierungsauflösung: Durch die Umformulierung des Problems als Ranking-Aufgabe integriert die Methode zensierte Beobachtungen auf natürliche Weise in den Trainingsprozess und adressiert so die grundlegende Hürde fehlender Ereigniszeiten.
Portabilität: Es wird gezeigt, dass das Rahmenwerk über verschiedene klinische Kontexte hinweg portabel ist (akute ICU-Mortalität und chronisches Frakturrisiko), ohne aufgabenspezifische architektonische Änderungen.
Lokale Bereitstellung: Die Verwendung kompakter, öffentlich verfügbarer Basismodelle (7B/8B Parameter) ermöglicht eine lokale Bereitstellung und mindert Datenschutzbedenken im Zusammenhang mit externen API-Aufrufen.

Ergebnisse
Das Rahmenwerk wurde an zwei unterschiedlichen klinischen Aufgaben evaluiert:

ICU-Mortalitätsvorhersage (MIMIC-IV):
- LLMSurvival erreichte einen overall C-Index von 0,776 (Llama) und 0,784 (Qwen).
- Dies stellt eine 3,1%ige Verbesserung gegenüber dem Cox-Proportional-Hazards-Modell (0,753) und eine 3,0%ige Verbesserung gegenüber dem etablierten klinischen Score SAPS-II (0,746) dar.
- Es schnitt im Durchschnitt besser ab als drei Deep-Learning-Baselines (Cox-nnet, DeepHit, DeepSurv).
Fragilitätsfraktur-Vorhersage (NYP/WCM-Kohorte):
- LLMSurvival erreichte einen overall C-Index von 0,742 (Llama) und 0,741 (Qwen).
- Dies zeigte eine 0,5%ige Verbesserung gegenüber dem Cox-Modell und eine signifikante 8,2%ige Verbesserung gegenüber dem klinischen FRAX-Score (0,660).
- Die Leistung war über verschiedene Zeithorizonte (2, 3 und 5 Jahre) hinweg mit Deep-Learning-Baselines vergleichbar oder übertraf diese.

Bei beiden Aufgaben bestätigten Kaplan-Meier-Analysen, dass LLMSurvival Patienten effektiv in Hoch- und Niedrigrisikogruppen mit unterschiedlichen Überlebensverläufen stratifizierte (Hazard Ratios von 4,80 für ICU und 4,02 für Frakturen). Die qualitative Analyse der Modellausgaben zeigte, dass die LLMs klinisch kohärente Begründungen für ihre Pairwise-Vergleiche generierten und dabei relevante Risikofaktoren wie Schweregrad der Aufnahme, Sauerstoffversorgung und Komorbiditätslast zitierten.

Bedeutung und Behauptungen
Die Autoren behaupten, dass LLMSurvival zeigt, dass Überlebensmodellierung mit Zensierung durch eine vergleichsbasierte Umformulierung mit der Feinabstimmung von LLMs kompatibel gemacht werden kann. Die Studie dient als Proof of Concept, dass LLMs ihre Fähigkeiten erweitern können, um komplexe statistische Probleme unabhängig zu lösen, anstatt sich auf hybride Architekturen zu verlassen. Die Fähigkeit des Rahmenwerks, von Experten erstellte klinische Scores (SAPS-II und FRAX) zu übertreffen, legt nahe, dass LLMs sinnvolle Risikostratifizierung direkt aus Daten lernen können. Darüber hinaus veranschaulicht die Arbeit ein breiteres Prinzip: Die Umformulierung statistisch herausfordernder Probleme in Aufgaben, die mit den Fähigkeiten von LLMs übereinstimmen (wie vergleichendes Schlussfolgern), kann die Anwendbarkeit von Sprachmodellen im biomedizinischen maschinellen Lernen erweitern.

Einschränkungen
Die Autoren erkennen mehrere Einschränkungen an:

Das Training zeigte einige Variabilität über Sampling-Konfigurationen hinweg, was Raum für Verbesserungen der Optimierungsstabilität lässt.
Die Paarauswahl beruhte auf zufälliger Stichprobenziehung von Kontrollen; strukturierte Strategien könnten die Effizienz verbessern.
Die Inferenz erfordert mehrere Pairwise-Vergleiche gegen Anker, was einen rechnerischen Overhead einführt.
Die aktuelle Implementierung verwendet nur strukturierte tabellarische Eingaben; zukünftige Arbeiten sind erforderlich, um multimodale Signale wie klinische Notizen und medizinische Bildgebung zu integrieren.