Evidence-Grounded Large Language Model Reasoning for Patient Safety Using Knowledge Graphs and Retrieval-Augmented Generation: Development and Evaluation Study

Ziekenhuizen genereren een constante, overweldigende stroom aan informatie. Elke dag schrijven artsen en verpleegkundigen aantekeningen, ordenen ze tests, registreren ze medicatie en leggen ze vitale functies vast. Veel van deze cruciale gegevens bestaan uit ongestructureerde tekst, verborgen in paragrafen van narratief die moeilijk te lezen en te verbinden zijn door computers. Jarenlang hebben onderzoekers geprobeerd kunstmatige intelligentie te bouwen die door deze dossiers kan spitten om veiligheidsproblemen bij patiënten op te sporen, zoals gevaarlijke interacties tussen medicijnen of tekenen van een verslechterende conditie. De hoop is dat machines als een tweede paar ogen kunnen fungeren, om fouten te vangen die drukke mensen over het hoofd zouden kunnen zien. Het simpelweg leren van een computer om tekst te lezen is echter niet genoeg. Als de machine een probleem raadt zonder een duidelijke reden, of als de machine een verband verzint dat niet bestaat, zou dit meer schade kunnen aanrichten dan goed doen. De uitdaging is niet alleen het vinden van de informatie, maar het bewijzen dat de conclusie wordt ondersteund door echt medisch bewijs en dat de redenering kan worden teruggevoerd naar een bron die een arts kan vertrouwen.

In een nieuwe studie stelden onderzoekers een systeem op dat dit probleem probeert op te lossen door drie verschillende instrumenten te combineren: een groot taalmodel, een gestructureerde kaart van medische kennis en een methode om verse bewijslast uit externe bronnen te halen. Ze wilden zien of ze een redeneermachine konden creëren die niet simpelweg raadt, maar zijn denken uitlegt met een solide basis van feiten. Het team nam gegevens van duizenden volwassen patiënten in intensive care-afdelingen, inclusief hun medische aantekeningen en testresultaten, en voerde deze in hun systeem. Het doel was om te zien of de machine veiligheidsconcepten kon identificeren, deze logisch met elkaar kon verbinden en zijn bevindingen kon ondersteunen met relevante medische literatuur, terwijl er tegelijkertijd een duidelijk verslag werd bijgehouden van waar elk stukje informatie vandaan kwam.

De onderzoekers bouwden hun systeem in lagen. Eerst namen ze de rommelige, ongestructureerde aantekeningen uit de patiëntendossiers en werden deze opgeschoond, waarbij ze verschillende manieren van het opschrijven van hetzelfde ding omzetten in één enkele, standaardterm. Vervolgens organiseerden ze deze termen in een gestructureerde kaart, een zogenaamde kennisgrafiek. Denk aan deze kaart als een gedetailleerde stamboom voor medische concepten, waarbij expliciet wordt getoond hoe een specifiek medicijn verbonden is met een specifieke bijwerking, of hoe een laboratoriumuitslag relateert aan de conditie van een patiënt. Deze kaart fungeert als een rigide skelet, dat ervoor zorgt dat de computer de relaties tussen verschillende medische feiten begrijpt voordat hij iets probeert te schrijven. Vervolgens werd het systeem uitgerust met een ophaalinstrument. In plaats van alleen te vertrouwen op wat de computer al wist uit zijn training, reikte dit instrument uit naar een enorme bibliotheek van medische tijdschriften en veiligheidsrapporten. Wanneer het systeem een patiëntengeval tegenkwam, haalde het de meest relevante artikelen en richtlijnen op om als ondersteunend bewijs te dienen. Ten slotte gebruikte een groot taalmodel — een type kunstmatige intelligentie dat getraind is op enorme hoeveelheden tekst — al deze informatie (de gestructureerde kaart, de patiëntgegevens en de opgehaalde artikelen) om een onderbouwde verklaring van eventuele veiligheidsproblemen te genereren.

Om te testen of deze aanpak daadwerkelijk werkte, voerden de onderzoekers een reeks experimenten uit waarbij ze steeds één onderdeel van het systeem verwijderden om te zien hoeveel elk deel ertoe deed. Ze ontdekten dat het systeem zeer effectief was bij het identificeren van veiligheidsconcepten en een hoog niveau van nauwkeurigheid bereikte. De belangrijkste ontdekking kwam echter toen ze keken naar wat er gebeurde toen ze de gestructureerde kaart weghaalden. Zonder de kennisgrafiek daalde de prestatie van het systeem aanzienlijk. De nauwkeurigheid nam af en het vermogen om onderscheid te maken tussen echte veiligheidssignalen en valse alarmen verzwakte. Dit bewees dat de rigide, gestructureerde kaart van medische relaties het meest kritieke onderdeel was, en een noodzakelijke fundering bood die de andere instrumenten niet uit zichzelf konden vervangen.

De rol van het ophaalinstrument was subtieler. Toen de onderzoekers het deel verwijderden dat externe medische artikelen ophaalde, daalde de prestatie van het systeem licht, maar niet genoeg om statistisch zeker te zijn dat de daling echt was. Dit suggereert dat hoewel het hebben van verse, externe bewijslast nuttig is en de redenering van het systeem meer geworteld maakt, het niet de primaire drijfveer was van het succes van het systeem in deze specifieke test. De studie keek ook naar hoe goed het systeem zich aanpaste aan het medische veld. Ze gebruikten een techniek om het grote taalmodel te verfijnen, waardoor het gespecialiseerder werd voor patiëntveiligheid. Toen ze deze verfijning verwijderden, veranderde de prestatie van het systeem nauwelijks, wat erop wijst dat in deze opstelling de gestructureerde kennis en het ophalen van bewijslast het zware werk deden, in plaats van de specifieke aanpassingen aan het taalmodel zelf.

Menselijke experts beoordeelden de output van het systeem om te zien of het zin gaf in een realistische context. Ze vonden dat de documenten die het systeem ophaalde inderdaad relevant waren voor de vragen die aan het systeem werden gesteld. Belangrijker nog, de verklaringen die het systeem genereerde, werden beoordeeld als klinisch bruikbaar en plausibel. De experts hadden het gevoel dat het systeem niet zomaar een willekeurige gok uitspuwde; het bood een redeneerpad dat een arts kon volgen, ondersteund door de specifieke artikelen en datapunten die het systeem had verzameld. Een voorlopige controle van de gebruikersinterface toonde aan dat clinici de resultaten zonder problemen konden navigeren, hoewel zij suggereerden dat de weergave vereenvoudigd zou kunnen worden om de belangrijkste informatie eerst te benadrukken.

De studie concludeert dat het combineren van een gestructureerde kaart van medische kennis met een taalmodel en externe bewijslastverzameling een krachtig hulpmiddel creëert voor patiëntveiligheid. De resultaten laten zien dat de gestructureerde kaart het meest vitale onderdeel is, die de logische ruggengraat vormt waardoor het systeem correct kan redeneren. Het vermogen om externe bewijslast op te halen voegt een laag van transparantie toe, waardoor het systeem zijn werk kan laten zien en zijn bronnen kan citeren. Hoewel het systeem nog niet klaar is om menselijke artsen te vervangen of autonome beslissingen te nemen, toont het een duidelijke weg vooruit voor het bouwen van kunstmatige intelligentie die betrouwbaar, uitlegbaar en geworteld is in echte medische feiten. De onderzoekers benadrukken dat voordat een dergelijk systeem in de reguliere ziekenhuiszorg kan worden gebruikt, het in veel verschillende ziekenhuizen moet worden getest en in real-time workflows moet worden geëvalueerd om te garanderen dat het veilig werkt in diverse patiëntenpopulaties. Voor nu bewijst de studie dat het mogelijk is om een machine te bouwen die niet alleen medische aantekeningen leest, maar ze begrijpt op een manier die zowel accuraat als verantwoording biedend is.