Validation of Large Language Models in Healthcare: a Scoping Review
Deze scoping review brengt bestaande validatiemethoden voor Large Language Models in de gezondheidszorg in kaart, waarbij deze worden gecategoriseerd naar taak en evaluatietype om belanghebbenden een gestructureerd kader te bieden voor het selecteren van context-gepaste strategieën voorafgaand aan klinische implementatie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne medische wereld is een nieuw soort instrument opgekomen dat enorme bibliotheken aan medische dossiers kan lezen, complexe vragen over symptomen kan beantwoorden en patiëntenbrieven kan opstellen met een snelheid die geen mens kan evenaren. Deze instrumenten, bekend als large language models (grote taalmodellen), zijn een vorm van kunstmatige intelligentie die getraind is op enorme hoeveelheden tekst. Ze halen niet simpelweg feiten op uit een database; ze genereren nieuwe zinnen en weven informatie samen om reacties te creëren die natuurlijk en menselijk klinken. Hoewel deze technologie belooft artsen te ontlasten van administratieve lasten en patiënten te helpen hun zorg te begrijpen, brengt het aanzienlijke risico's met zich mee. Omdat deze modellen tekst creëren in plaats van het enkel op te roepen, kunnen ze soms feiten verzinnen die plausibel klinken maar volledig onjuist zijn, een fenomeen dat vaak hallucinatie wordt genoemd. Ze kunnen ook vooroordelen reflecteren die aanwezig zijn in de data waarop ze zijn getraind, wat potentieel kan leiden tot onrechtvaardig of schadelijk advies. Voordat een dergelijk krachtig instrument vertrouwd kan worden in een ziekenhuis of een kliniek, moet het rigoureus worden getest om te garanderen dat het veilig, accuraat en eerlijk is.
Een team van onderzoekers van het UMC Utrecht in Nederland heeft zich gericht op het in kaart brengen van het huidige landschap van hoe deze modellen worden getest. Zij voerden een uitgebreid overzicht uit van de wetenschappelijke literatuur om elke methode te vinden die wordt gebruikt om large language models in de gezondheidszorg te valideren. Het team onderzocht studies die gepubliceerd zijn van 2005 tot eind 2024, waarbij gezocht werd naar artikelen die beschrijven hoe de kwaliteit van deze AI-systemen te controleren. Zij richtten zich op vijf specifieke taken waarbij deze modellen het meest waarschijnlijk worden ingezet: algemene tekstgeneratie, het samenvatten van lange documenten, het beantwoorden van vragen, het extraheren van specifieke medische details uit tekst, en het fungeren als conversationele agenten zoals chatbots. Na het screenen van duizenden potentiële studies identificeerden zij 266 relevante artikelen die concrete methoden voor evaluatie boden.
De onderzoekers organiseerden deze validatiemethoden in drie hoofdbenaderingen. De eerste is menselijke evaluatie, waarbij mensen de output van de AI lezen en de kwaliteit beoordelen op basis van criteria zoals juistheid, relevantie of toon. Dit wordt vaak beschouwd als de gouden standaard omdat mensen nuance en context beter begrijpen dan machines. De tweede benadering is automatische evaluatie met een menselijke referentie, waarbij een computerprogramma het antwoord van de AI vergelijkt met een perfect antwoord dat door een mens is geschreven, om te meten hoe nauw ze overeenkomen. De derde is volledige automatische evaluatie, waarbij de computer de output zelfstandig beoordeelt, zonder een door een mens geschreven voorbeeld om mee te vergelijken. De review toonde aan dat hoewel er veel methoden bestaan, deze vaak verspreid zijn en specifiek zijn voor bepaalde taken. Zo vereist het controleren of een samenvatting goed is andere instrumenten dan het controleren of een chatbot beleefd is.
Een van de belangrijkste bevindingen is dat eenvoudige, oppervlakkige controles niet voldoende zijn. De review benadrukt dat methoden die louter tellen hoeveel woorden er overlappen tussen het antwoord van de AI en een referentietekst, vaak misleidend zijn. Deze traditionele metrieken slagen er niet in te vatten of de betekenis correct is of dat de informatie veilig is voor een patiënt. In plaats daarvan vonden de onderzoekers een groeiende verschuiving naar meer geavanceerde technieken. Dit omvat methoden die controleren of de beweringen van de AI feitelijk consistent zijn met het bronmateriaal, om te waarborgen dat de AI geen medische feiten verzint. Er zijn ook instrumenten ontworpen om te testen of de AI consistent handelt wanneer dezelfde vraag op een licht verschillende manier wordt gesteld, of of de AI mensen met verschillende achtergronden eerlijk behandelt. De review benadrukt dat voor sectoren met een hoog risico, zoals de gezondheidszorg, een enkele score zelden voldoende is. Een robuuste validatiestrategie vereist meestal een combinatie van methoden, waarbij tegelijkertijd wordt gecontroleerd op nauwkeurigheid, veiligheid, eerlijkheid en helderheid.
De auteurs wijzen ook op een aanzienlijk gat in de huidige praktijken. Hoewel veel studies nieuwe manieren voorstellen om deze modellen te testen, is er een gebrek aan gestandaardiseerde richtlijnen specifiek voor de gezondheidszorg. Veel bestaande methoden zijn ontwikkeld voor algemene taakstellingen en mogelijk niet in staat om de specifieke gevaren van medische fouten te detecteren. De review suggereert dat het uitsluitend vertrouwen op geautomatiseerde tools riskant is, omdat deze soms subtiele fouten kunnen missen die een mens zou opmerken. Omgekeerd is het vertrouwen op enkel menselijke beoordelaars traag en duur. De meest veelbelovende weg vooruit lijkt een hybride benadering te zijn, waarbij geautomatiseerde tools het grootste deel van de controle afhandelen, maar menselijke experts bijspringen om de resultaten te verifiëren en ervoor te zorgen dat het model aansluit bij medische standaarden.
Uiteindelijk dient deze review als een routekaart voor iedereen die deze krachtige instrumenten in de geneeskunde wil gebruiken. Het beweert niet het probleem van validatie te hebben opgelost, maar biedt eerder een duidelijk inventaris van de instrumenten die momenteel beschikbaar zijn. De onderzoekers concluderen dat naarmate deze modellen gebruikelijker worden, de medische gemeenschap moet overgaan van generieke tests naar gestructureerde, taakspecifieke validatiekaders. Door de sterke en zwakke punten van elke evaluatiemethode te begrijpen, kunnen ontwikkelaars en clinici beter waarborgen dat deze systemen van kunstmatige intelligentie betrouwbare partners zijn in de patiëntenzorg, in plaats van onvoorspelbare bronnen van fouten. Het werk onderstreept dat validatie geen eenmalige gebeurtenis is, maar een voortdurend proces dat essentieel is voor de veilige integratie van technologie in het delicate ecosysteem van de gezondheidszorg.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.