🤖 AI

Towards end-to-end LLM-based censoring-aware survival analysis

Het artikel introduceert LLMSurvival, een raamwerk dat ongewijzigde grote taalmodellen in staat stelt om eind-tot-eind censureringsbewuste overlevingsanalyse uit te voeren op tabulaire klinische gegevens door voorspelling van tijd tot gebeurtenis te herformuleren als een paarsgewijze rangschikkingstaak, waarbij superieure prestaties worden behaald ten opzichte van traditionele Cox-modellen en deep learning-baselines bij voorspelling van ICU-mortaliteit en fractuurrisico.

Oorspronkelijke auteurs: Yishu Wei, Hexin Dong, Yi Lin, Jiahe Qian, Yi Liu, Yifan Peng

Gepubliceerd 2026-05-26

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yishu Wei, Hexin Dong, Yi Lin, Jiahe Qian, Yi Liu, Yifan Peng

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "Ontbrekende Tijd"-Puzzel

Stel je voor dat je probeert te voorspellen wie er als eerste een marathon zal finishen. In een normale wedstrijd bekijk je hoe iedereen de finishlijn passeert en noteer je hun tijden.

Maar in medische studies (zogenaamde survival analysis of overlevingsanalyse) is het lastiger. Soms stapt een loper (patiënt) vroeg uit de wedstrijd omdat hij ziek wordt, of eindigt de wedstrijd voordat hij heeft gefinisht. We weten niet wanneer ze zouden hebben gefinisht als ze in de wedstrijd waren gebleven. In de statistiek noemen we dit censering.

Lange tijd konden krachtige AI-tools, genaamd Large Language Models (LLM's) – dezelfde technologie achter chatbots – deze puzzel niet oplossen. Ze zijn uitstekend in het lezen van tekst en het beantwoorden van vragen, maar ze worstelen wanneer het "antwoordenboekje" ontbreekt of onvolledig is. De meeste onderzoekers moesten de AI alleen gebruiken om de notities te lezen en de gegevens vervolgens aan een ander, ouder wiskundig model overhandigen om de daadwerkelijke voorspelling te doen.

De Oplossing: LLMSurvival

De auteurs hebben een nieuw raamwerk ontwikkeld genaamd LLMSurvival. In plaats van de AI te vragen: "Hoeveel dagen tot deze patiënt ziek wordt?", veranderden ze de vraag volledig.

De Analogie: Het "Wie zit er in slechtere vorm?"-Spel
Stel je voor dat je een arts bent die twee patiënten bekijkt, Patiënt A en Patiënt B.

Oude manier: Probeer de exacte datum te raden waarop Patiënt A ziek wordt. (Moeilijk als je niet alle gegevens hebt).
LLMSurvival-methode: Vraag de AI: "Wie van Patiënt A en Patiënt B is waarschijnlijker om eerder ziek te worden?"

Dit is een pairwise ranking-spel. Zelfs als we niet precies weten wanneer Patiënt A ziek wordt, weten we misschien dat Patiënt A ziek werd voordat Patiënt B uit de studie stapte. Dat is voldoende informatie voor de AI om te leren.

Hoe Het Werkt (Stap voor Stap)

Het Vertalen van Getallen naar Verhalen:
Medische data komt meestal in spreadsheets (tabellen) voor met getallen zoals "Leeftijd: 65" of "Bloeddruk: 120". De AI kan spreadsheets niet goed lezen. Het systeem zet deze rijen daarom om in een verhaal: "Deze patiënt is 65 jaar, heeft hoge bloeddruk en rookt." Nu kan de AI het lezen als een boek.
Het Trainingskamp (Pairwise Vergelijking):
De AI wordt getraind door duizenden paren patiënten aan haar te tonen. Ze moet beslissen: "Wie loopt een hoger risico?"
- Als de AI het goed heeft, leert ze.
- Als ze het fout heeft, past ze haar "brein" aan.
- Cruciaal is dat ze alleen patiënten vergelijkt waarbij de uitkomst duidelijk is (bijvoorbeeld: Patiënt A werd zeker ziek voordat Patiënt B uit het oog verloren werd). Dit omzeilt het probleem van de "ontbrekende tijd".
Het Eindexamen (De Anker-methode):
Wanneer een nieuwe patiënt binnenkomt, gokt de AI geen getal. In plaats daarvan vergelijkt ze deze nieuwe patiënt met een vaste groep van 50 "Anker"-patiënten uit de trainingsdata.
- Vraag: "Is de nieuwe patiënt risicovoller dan Anker #1?" (Ja/Nee)
- Vraag: "Is de nieuwe patiënt risicovoller dan Anker #2?" (Ja/Nee)
- ...enzovoort voor 50 ankers.
- De Score: Als de AI "Ja" zegt tegen 40 van de 50 ankers, krijgt de patiënt een hoog-risicoscore (80%). Als ze "Ja" zegt tegen slechts 5, is de score laag.

Heeft Het Gewerkt?

De onderzoekers testten dit op twee zeer verschillende medische scenario's:

ICU-Mortaliteit: Voorspellen of een patiënt op de Intensive Care spoedig zal overlijden.
Fracturerisico: Voorspellen of een ouder volwassene binnen een paar jaar een bot zal breken.

De Resultaten:

Beter dan de Experts: In beide gevallen presteerde LLMSurvival beter dan de standaard wiskundige modellen die artsen momenteel gebruiken (zoals het Cox-model) en beter dan de gespecialiseerde "expert-scores" (zoals SAPS-II voor ICU en FRAX voor botten).
Beter dan andere AI: Het sloeg ook andere deep learning-modellen die specifiek zijn ontworpen voor survival analysis.
De "Waarom": Toen de onderzoekers de AI vroegen haar keuzes uit te leggen, gaf ze logische redenen, zoals "Patiënt B heeft lagere zuurstofniveaus en een hogere koorts", wat aantoont dat ze de medische context daadwerkelijk begreep en niet alleen maar gokte.

Waarom Dit Belangrijk Is

Geen "Feature Extractors" Meer: Vroeger was AI slechts een helper die informatie uit notities haalde. Nu is de AI de arts die de voorspelling doet.
Lokaal & Privé: De gebruikte modellen zijn klein genoeg om op één computer te draaien (zoals een standaardserver in een ziekenhuis) zonder dat gevoelige patiëntgegevens naar de cloud hoeven te worden gestuurd.
Flexibel: Dezelfde "game" (twee patiënten vergelijken) werkte perfect voor zowel een snelle ICN-noodhulp als een langzaam bewegend botbreukrisico, wat bewijst dat de methode zeer aanpasbaar is.

In het Korte Bestek

Het artikel bewijst dat als je een AI stopt met het vragen om een specifieke datum te voorspellen (wat moeilijk is met ontbrekende data) en haar in plaats daarvan vraagt twee mensen te vergelijken (wat voor een AI makkelijk te begrijpen is), je een zeer nauwkeurig medisch voorspellingsinstrument kunt bouwen dat op natuurlijke wijze omgaat met ontbrekende data en de huidige standaardmethoden overtreft.

Technische Samenvatting: LLMSurvival

Probleemstelling
Overlevingsanalyse is een hoeksteen van medische voorspelling, met als doel zowel het optreden van een gebeurtenis als de tijd tot het optreden ervan te modelleren. De toepassing van Large Language Models (LLM's) als end-to-end overlevingsmodellen is echter gehinderd door de uitdaging van censuur. Bij gecensureerde data is het exacte tijdstip van een gebeurtenis onbekend, omdat een onderwerp zich kan terugtrekken of de observatieperiode eindigt voordat de gebeurtenis optreedt. Dit gebrek aan expliciete ground-truth-labels verhindert het directe gebruik van standaard supervised fine-tuning (SFT) en versterkingsleerframeworks, die vertrouwen op definitieve doelen. Bijgevolg hebben eerdere onderzoeken LLM's grotendeels beperkt tot de rol van kenmerkextractoren of aanzienlijke architecturale aanpassingen vereist (bijvoorbeeld het toevoegen van neurale netwerken bovenop LLM's), in plaats van de LLM als primaire voorspellende motor te gebruiken.

Methodologie: LLMSurvival
De auteurs stellen LLMSurvival voor, een framework dat censuur-bewuste overlevingsanalyse mogelijk maakt met behulp van ongewijzigde LLM's die direct werken op tabulaire klinische data. De kerninnovatie is de herformulering van voorspelling van tijd tot gebeurtenis als een paarsgewijze rangschikkingsprobleem, waardoor de behoefte aan absolute tijdslabels wordt omzeild.

Dataconversie: Gestructureerde tabulaire variabelen (bijvoorbeeld leeftijd, vitale functies, laboratoriumresultaten) worden omgezet in natuurlijke taalverklaringen met behulp van een sjabloon (bijvoorbeeld "Leeftijd is 79; Geslacht is VROUW").
Paarsgewijze Formulering: In plaats van een specifieke overlevingstijd te voorspellen, wordt het model getraind om te bepalen welk van twee vergelijkbare onderwerpen de gebeurtenis het eerst zal ondergaan.
- Trainingsparen: Een geldig trainingspaar $(i, j)$ wordt geconstrueerd waarbij onderwerp $i$ de gebeurtenis heeft ondergaan ( $e_i=1$ ) en dit deed voordat de follow-uptijd van onderwerp $j$ was verstreken ( $t_i < t_j$ ). Dit omvat gecensureerde onderwerpen zolang ze langer zijn geobserveerd dan de gebeurtenistijd van het andere onderwerp.
- Doel: Het model wordt via supervised learning fine-ge-tuned om de relatieve volgorde te voorspellen. De verliesfunctie is een binaire cross-entropy-doelstelling over geldige vergelijkbare paren, waarbij de waarschijnlijkheid wordt geoptimaliseerd dat het model een hogere risicoscore toekent aan het onderwerp dat de gebeurtenis eerder ondergaat.
- Sampling: Om de rekentijd voor het genereren van alle mogelijke paren te beheersen, wordt een geneste case-control samplingstrategie toegepast, waarbij een vast aantal controles (onderwerpen met langere follow-up) wordt geselecteerd voor elke geval van een gebeurtenis.
Inferentie via Ankervergelijking: Tijdens het testen wordt de risicoscore van een onderwerp niet direct voorspeld. In plaats daarvan wordt het testonderwerp vergeleken met een vaste set van $K$ $K$ "anker"-individuen die zijn geselecteerd uit de trainingscohort.
- Het model voorspelt of het testonderwerp een hoger risico heeft dan elk anker.
- De uiteindelijke risicoscore is het aandeel ankers waarbij het testonderwerp als hoger risico wordt gerangschikt.
Modellen: Het framework is geëvalueerd met twee instructie-getuned, lokaal inzetbare LLM's: Llama 3.1-8B-Instruct en Qwen 2.5-7B-Instruct.

Belangrijkste Bijdragen

End-to-End LLM Overlevingsmodellering: Het artikel presenteert een proof of concept voor het direct trainen van LLM's als overlevingsmodellen zonder architecturale aanpassingen, waardoor ze verder gaan dan hun traditionele rol als kenmerkextractoren.
Oplossing voor Censuur: Door het probleem te herformuleren als een rangschikkingstaak, worden gecensureerde observaties op natuurlijke wijze opgenomen in het trainingsproces, waardoor de fundamentele hindernis van ontbrekende gebeurtenistijden wordt aangepakt.
Portabiliteit: Het framework wordt aangetoond portabel te zijn over diverse klinische contexten (acute ICU-mortaliteit en chronisch fractuurrisico) zonder taakspecifieke architecturale wijzigingen.
Lokale Implementatie: Het gebruik van compacte, publiek beschikbare basismodellen (7B/8B parameters) maakt lokale implementatie mogelijk, waardoor privacyproblemen die gepaard gaan met externe API-aanroepen worden verminderd.

Resultaten
Het framework is geëvalueerd op twee verschillende klinische taken:

ICU-mortaliteitsvoorspelling (MIMIC-IV):
- LLMSurvival behaalde een algehele C-index van 0,776 (Llama) en 0,784 (Qwen).
- Dit vertegenwoordigt een 3,1% verbetering ten opzichte van het Cox proportionele hazards-model (0,753) en een 3,0% verbetering ten opzichte van de gevestigde klinische score SAPS-II (0,746).
- Het presteerde gemiddeld beter dan drie deep learning-baselines (Cox-nnet, DeepHit, DeepSurv).
Fragiliteitsfractuurvoorspelling (NYP/WCM Cohort):
- LLMSurvival behaalde een algehele C-index van 0,742 (Llama) en 0,741 (Qwen).
- Dit toonde een 0,5% verbetering ten opzichte van het Cox-model en een aanzienlijke 8,2% verbetering ten opzichte van de FRAX klinische score (0,660).
- De prestaties waren concurrerend met of superieur aan deep learning-baselines over verschillende tijdsintervallen (2, 3 en 5 jaar).

Bij beide taken bevestigden Kaplan-Meier-analyses dat LLMSurvival patiënten effectief stratificeerde in hoog- en laagrisicogroepen met onderscheidende overlevingstrajecten (Hazard Ratio's van 4,80 voor ICU en 4,02 voor fracturen). Kwalitatieve analyse van modeloutput gaf aan dat de LLM's klinisch coherente redeneringen genereerden voor hun paarsgewijze vergelijkingen, waarbij relevante risicofactoren werden aangehaald zoals opnamediepte, zuurstofniveaus en comorbiditeitslast.

Betekenis en Claims
De auteurs beweren dat LLMSurvival aantoont dat overlevingsmodellering met censuur compatibel kan worden gemaakt met LLM fine-tuning door middel van een op vergelijking gebaseerde herformulering. De studie dient als een proof of concept dat LLM's hun capaciteiten kunnen uitbreiden om complexe statistische problemen onafhankelijk op te lossen, in plaats van te vertrouwen op hybride architecturen. Het vermogen van het framework om door experts samengestelde klinische scores (SAPS-II en FRAX) te overtreffen, suggereert dat LLM's zinvolle risicofracturatie direct uit data kunnen leren. Bovendien illustreert het werk een breder principe: het herformuleren van statistisch uitdagende problemen naar taken die aansluiten bij LLM-capaciteiten (zoals vergelijkend redeneren) kan de toepasbaarheid van taalmodellen in biomedisch machine learning uitbreiden.

Beperkingen
De auteurs erkennen enkele beperkingen:

Training vertoonde enige variabiliteit over samplingconfiguraties heen, wat ruimte suggereert voor verbetering van de optimalisatiestabiliteit.
De selectie van paren berustte op willekeurige sampling van controles; gestructureerde strategieën zouden de efficiëntie kunnen verbeteren.
Inferentie vereist meerdere paarsgewijze vergelijkingen met ankers, wat rekenkundige overhead introduceert.
De huidige implementatie gebruikt alleen gestructureerde tabulaire input; toekomstig werk is nodig om multimodale signalen zoals klinische notities en medische beeldvorming te integreren.