A Systematic Literature Review of Large Language Models in Clinical Triage from Risk Stratification to Human Escalation
Deze systematische en bibliometrische review synthetiseert 89 studies gepubliceerd tussen 2022 en 2026 om de toepassing van Large Language Models in klinische triage te analyseren, waarbij de adaptatiestrategieën, veiligheidsmechanismen en prestatie-indicatoren worden geëvalueerd, terwijl een nieuw vijfdimensionaal kader wordt voorgesteld om hun veilige vertaling naar spoedeisende zorginstellingen te begeleiden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Elke dag worden spoedeisende hulpafdelingen geconfronteerd met een onophoudelijke stroom mensen die zorg zoeken. Sommigen komen met kleine schrammetjes, terwijl anderen vechten voor hun leven. De cruciale taak van het sorteren van deze patiënten, bekend als triage, valt toe aan verpleegkundigen en artsen die onmiddellijk moeten beslissen wie directe aandacht nodig heeft en wie kan wachten. Dit proces steunt op gestandaardiseerde schalen die een urgentieniveau toekennen, van de meest kritieke gevallen die reanimatie vereisen tot de niet-urgente gevallen. Echter, naarmate ziekenhuizen drukker worden en het volume van digitale digitale gezondheidsintake groeit, intensiveert de druk op deze menselijke poortwachters. In de afgelopen jaren is er een nieuw type kunstmatige intelligentie opgekomen dat menselijke taal met opmerkelijke vloeiendheid kan lezen en begrijpen. Deze systemen, bekend als grote taalmodellen, kunnen complexe verhalen over symptomen interpreteren en medisch advies suggereren. Maar hoewel ze een potentieel hulpmiddel bieden om de stroom patiënten te beheren, brengen ze ook aanzienlijke risico's met zich mee. Als een dergelijke machine een situatie verkeerd inschat, kunnen de gevolgen ernstig zijn, variërend van onnodige vertragingen voor kritieke patiënten tot het overbelasten van spoedeisende middelen met mensen die ze niet nodig hebben.
Een team van onderzoekers van instellingen uit de Verenigde Staten, India en Europa zette zich het doel om precies te begrijpen hoe deze systemen van kunstmatige intelligentie worden getest voor deze hoogwaardige rol. Zij voerden een omvangrijke review uit van negentig wetenschappelijke studies gepubliceerd tussen 2022 en 2026. Hun doel was niet alleen om te zien of de technologie werkt, maar om te onderzoeken hoe het wordt gebouwd, hoe het wordt getest en of het veilig genoeg is om ooit in een echt ziekenhuis te worden gebruikt. De onderzoekers ontdekten dat hoewel deze computerprogramma's steeds gebruikelijker worden in onderzoek, ze nog niet klaar zijn om zelfstandig beslissingen over leven en dood te nemen. De studies die zij analyseerden, toonden een landschap waarin de technologie snel verbetert, maar die nog steeds worstelt met de meest gevaarlijke fouten: het missen van een patiënt die in een kritieke toestand verkeert.
De review begon met het verzamlen van elke beschikbare studie die naar het gebruik van deze taalgebaseerde systemen voor patiëntsortering keek. De onderzoekers zochten door honderden dossiers en selecteerden uiteindelijk negentig primaire studies die aan strikte criteria voldeden. Ze ontdekten dat bijna de helft van deze studies gericht was op spoedeisende hulpafdelingen, waar de behoefte aan snelheid het grootst is. Een ander aanzienlijk deel keek naar poliklinieken en de pre-hospitale spoedzorg. De onderzoekers merkten een duidelijke trend op in de manier waarop deze systemen werden ontwikkeld. In de vroegste studies vroegen wetenschappers de computer simpelweg om vragen te beantwoorden zonder speciale training, een methode die bekend staat als zero-shot prompting. Echter, naarmate de tijd verstreek, begonnen onderzoekers meer geavanceerde technieken te gebruiken. Ze begonnen de systemen specifieke medische richtlijnen te voeden of ze te koppelen aan databases met ziekenhuisregels om hen te helpen betere beslissingen te nemen. Sommige teams bouwden zelfs systemen waarbij meerdere computeragenten samenwerkten, waarbij één agent een diagnose voorstelde en een andere optrad als criticus om op fouten te controleren.
Ondanks deze technische vooruitgang vertelden de prestatiegegevens een complex verhaal. Wanneer ze werden getest tegen standaard medische schalen, behaalden de systemen van kunstmatige intelligentie vaak een hoge algemene nauwkeurigheid, waarbij ze patiënten in ongeveer tachtig procent van de gevallen correct categoriseerden. De onderzoekers benadrukten echter dat een hoge gemiddelde score een gevaarlijk gebrek verbergt. In de wereld van de spoedeisende geneeskunde zijn niet alle fouten gelijk. Een systeem dat de ernst van een klein letsel overschat, stuurt simpelweg een patiënt naar de voorste rij, wat een vertraging veroorzaakt voor anderen maar zelden schade berokkent. In contrast hiermee: een systeem dat de ernst van een kritieke conditie onderschat, stuurt een stervende patiënt naar de achterste rij, wat potentieel tot de dood leidt. De review vond dat hoewel de systemen over het algemeen goed waren in het identificeren van minder ernstige problemen, ze vaak faalden bij het herkennen van de meest urgente gevallen. In sommige studies was het percentage gemiste kritieke patiënten even hoog als vijfentwintig procent. Eén specifieke studie benadrukte dat de systemen een aanzienlijk aantal gevallen miste waarbij kinderen met voorwerpen in hun luchtwegen vastzaten, een levensbedreigende noodsituatie die onmiddellijke actie vereist.
De onderzoekers onderzochten ook hoe deze systemen omgaan met onzekerheid. Een menselijke arts weet wanneer hij het niet zeker weet en zal om hulp vragen of meer tests uitvoeren. De computerprogramma's weten echter vaak niet wanneer ze aan het gokken zijn. De review vond dat in bijna zeventig procent van de studies de onderzoekers geen mechanisme hadden opgenomen om te meten hoe zeker het systeem was van zijn antwoord. Zonder deze veiligheidscontrole kan een computer een foutief antwoord geven met absolute zekerheid, wat veel gevaarlijker is dan een aarzelend antwoord. Bovendien vertrouwden veel studies op gegevens die al in ziekenhuisarchieven waren vastgelegd of door wetenschappers in een laboratoriumsetting waren gecreëerd. Deze statische records vangen de chaotische realiteit van een drukke spoedeisende hulp niet op, waar de toestand van een patiënt per minuut kan veranderen, of waar een familielid symptomen op een verwarde of emotionele manier kan beschrijven.
Om deze gevaren aan te pakken, stelden de auteurs een nieuw kader voor hoe deze systemen gebouwd en getest moeten worden voordat ze ooit op echte mensen worden toegepast. Zij stelden dat een computer nooit de eerste verdedigingslinie mag zijn voor de meest kritieke noodgevallen. In plaats daarvan stelden zij een gelaagde aanpak voor. De eerste laag zou een eenvoudige, onveranderlijke set regels moeten zijn die direct specifieke trefwoorden zoals "pijn op de borst" of "moeilijkheden bij het ademhalen" signaleert en deze patiënten rechtstreeks naar een menselijke arts stuurt, waarbij het complexe taalmodel volledig wordt omzeild. De tweede laag zou het taalmodel zelf zijn, maar dan alleen als het constant wordt gecontroleerd tegen medische richtlijnen en als het geprogrammeerd is om toe te geven wanneer het onzeker is. Als het systeem niet zeker is, moet het stoppen en om hulp vragen aan een mens. De laatste laag is de menselijke arts, die altijd het laatste woord moet hebben. De review concludeerde dat hoewel deze instrumenten belofte inhouden voor het helpen van artsen bij het beheren van hun werklast, ze nog niet klaar zijn om het menselijk oordeel te vervangen. De technologie beweegt snel, maar de veiligheidsmaatregelen die nodig zijn om het vertrouwen in de menselijke levens te schenken, worden nog steeds ontwikkeld. Totdat die waarborgen aanwezig zijn, moet de rol van deze systemen die van een ondersteunende assistent blijven, en nooit die van een autonome besluitvormer.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.