Position: Medical AI Neglects Real Treatment Outcomes
Dit position paper betoogt dat de afhankelijkheid van medische AI van menselijke meningen en tekstuele synthese, in plaats van werkelijke behandelingsuitkomstgegevens uit observationele en experimentele bronnen, het potentieel ernstig beperkt, wat een verschuiving noodzakelijk maakt naar het integreren van real-world uitkomstgegevens in zowel de training als de evaluatie om het uiteindelijke doel van het verbeteren van de patiëntgezondheid beter te bereiken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De geneeskunde is altijd een vakgebied geweest waar het verschil tussen een goede gok en een levensreddende beslissing een kwestie kan zijn van data. Decennialang zijn artsen weg bewogen van het uitsluitend vertrouwen op de intuïtie van individuele experts, en zijn ze in plaats daarvan verschoven naar een systeem dat gebouwd is op de collectieve ervaring van duizenden patiënten. Deze benadering, bekend als evidence-based medicine (evidence-based geneeskunde), streeft ernaar elke beslissing te funderen in de werkelijke resultaten van behandelingen in plaats van alleen in de theorieën die erachter liggen. Het is een systeem dat niet alleen vraagt wat een medicijn zou moeten doen, maar wat het daadwerkelijk deed voor de mensen die het innamen. In de afgelopen jaren is er een nieuw instrument in dit landschap binnengekomen: kunstmatige intelligentie. Deze computersystemen, vaak large language models genoemd, hebben een opmerkelijk vermogen getoond om medische teksten te lezen, aandoeningen te diagnosticeren en toekomstige gezondheidsrisico's te voorspellen. Ze zijn getraind op enorme bibliotheken van medische tijdschriften, tekstboeken en klinische richtlijnen, waarbij ze hebben geleerd de taal en de redenering van menselijke experts na te bootsen.
Er is echter een kritieke kloof ontstaan in de manier waarop deze intelligente systemen worden gebouwd en getest. Hoewel ze beter worden in het identificeren van ziekten of het voorspellen van wie ziek zou kunnen worden, worden ze niet geleerd de werkelijke consequenties van de behandelingen die ze aanbevelen te begrijpen. De kernvraag waar onderzoekers vandaag de dag voor staan, is of deze machines leren van de verhalen die in medische boeken geschreven staan, of van de harde, vaak rommelige realiteit van patiëntuitkomsten. Als een AI alleen wordt getraind op de meningen van experts en de regels die in richtlijnen zijn opgeschreven, kan het leren klinken als een arts zonder ooit echt te begrijpen wat er gebeurt wanneer een behandeling op een echt mens wordt toegepast. Dit onderscheid is niet slechts een academisch detail; het is het verschil tussen een systeem dat regels reciteert en een systeem dat de gezondheid daadwerkelijk kan verbeteren.
Een nieuw position paper betoogt dat de huidige generatie medische kunstmatige intelligentie faalt in het leren van werkelijke behandeluitkomsten. De auteurs, onderzoekers van het Harvard Pilgrim Health Care Institute en Harvard Medical School, stellen dat hoewel deze modellen worden gevoed met enorme hoeveelheden medische tekst, ze grotendeels de belangrijkste data missen: de verslagen van wat er daadwerkelijk met patiënten is gebeurd nadat zij zorg hebben ontvangen. Het artikel suggereert dat het veld te veel gefocust is geraakt op tussenstappen, zoals het diagnosticeren van een aandoening of het voorspellen van een risico, terwijl het ultieme doel van de geneeskunde wordt verwaarloosd: het verbeteren van de gezondheid van de patiënt door middel van behandeling. De onderzoekers wijzen erop dat de meeste medische AI-modellen worden getraind op statische documenten zoals klinische richtlijnen, bijsluiters van medicijnen en gepubliceerde casusrapporten. Deze bronnen vertegenwoordigen de consensus van de medische gemeenschap op een specifiek moment in de tijd, maar ze leggen de dynamische, longitudinale realiteit niet vast van hoe behandelingen zich in de loop van de tijd afspelen in diverse populaties.
Om het gevaar van het vertrouwen op deze statische bronnen te illustreren, onderzochten de onderzoekers hoe huidige AI-modellen complexe medische scenario's afhandelen. Ze bekeken een specifieke casus betreffende een patiënt met een zeldzame vorm van pancreatitis die succesvol werd behandeld met een medicijn genaamd ivacaftor. In de echte wereld werkte deze behandeling, maar het officiële label voor het medicijn, een door de overheid goedgekeurd document dat wordt gebruikt om veel AI-systemen te trainen, vermeldde dit specifieke gebruik niet. Wanneer de onderzoekers een AI-model vroegen de bruikbaarheid van dit medicijn voor de patiënt te evalueren, concludeerde het model, uitgaande van het officiële label, onjuist dat het medicijn ineffectief zou zijn. Het model volgde in essentie de regels in het boek in plaats van de realiteit van het herstel van de patiënt. Deze fout trad op, zelfs toen de AI toegang had tot het casusrapport dat de succesvolle behandeling beschreef; de training van het model op het rigide medicijnlabel overschreef het bewijs van de werkelijke uitkomst. De onderzoekers ontdekten dat dit probleem wijdverspreid is. Wanneer zij andere modellen testten tegen soortgelijke scenario's waarbij klinische richtlijnen betrokken waren, faalden de systemen vaak in het herkennen van complexe situaties waarin een arts mogelijk moet afwijken van de standaardregels om een specifieke patiënt te helpen.
Het artikel benadrukt verder dat de manier waarop deze AI-systemen worden geëvalueerd, deel uitmaakt van het probleem. Veel benchmarks, of tests die worden gebruikt om te meten hoe goed een AI presteert, vertrouwen op menselijke experts om de antwoorden te beoordelen. De onderzoekers betogen dat het vragen aan een groep artsen om het eens te worden over een antwoord niet hetzelfde is als het kennen van de waarheid. In één analyse ontdekten zij dat een aanzienlijk deel van de criteria die werden gebruikt om AI-antwoorden te beoordelen, simpelweg directe citaten uit richtlijnen waren, in plaats van reflecties van daadwerkelijk klinisch succes. Dit creëert een circulaire logica waarbij de AI wordt getraind op richtlijnen, wordt getest tegen richtlijnen, en vervolgens wordt geprezen omdat het de richtlijnen volgt, zelfs als die richtlijnen verouderd zijn of niet van toepassing zijn op elk individu. De onderzoekers suggereren dat deze benadering het potentieel van kunstmatige intelligentie beperkt om een echte partner in de geneeskunde te worden, in staat om nieuwe inzichten te ontdekken in plaats van slechts te herhalen wat al geschreven is.
De auteurs stellen een fundamentele verschuiving voor in de manier waarop medische AI wordt ontwikkeld. In plaats van deze systemen primair te trainen op tekst, bevelen zij het gebruik van longitudinale patiëntgegevens aan, zoals elektronische patiëntendossiers en verzekeringsclaims, die bijhouden welke behandelingen zijn gegeven en wat er daarna met de patiënten is gebeurd. Deze dossiers bevatten het grondmateriaal van real-world evidence (bewijs uit de praktijk), die de oorzaak-gevolgrelaties laten zien tussen een therapie en het herstel of de achteruitgang van een patiënt. De onderzoekers suggereren ook dat de test van deze modellen moet verschuiven van het vragen om richtlijnen te reciteren naar het vragen om de uitkomsten van real-world experimenten te voorspellen of om de resultaten van klinische trials te emuleren. Door de training en evaluatie van deze systemen te verankeren in werkelijke patiëntuitkomsten, kan het veld bewegen naar een toekomst waarin kunstmatige intelligentie artsen helpt beslissingen te nemen die niet alleen theoretisch juist zijn, maar ook praktisch effectief voor de mensen die voor hen zitten.
Het paper suggereert niet dat de huidige medische AI nutteloos is of dat de bestaande benchmarks geheel zonder waarde zijn. De onderzoekers erkennen dat deze instrumenten snelle vooruitgang hebben geboekt en waardevolle capaciteiten hebben aangetoond op gebieden zoals diagnose en informatieverwerking. Ze betogen echter dat het veld een punt heeft bereikt waarop het voortdurend vertrouwen op dezelfde methoden van training en evaluatie de volgende sprong voorwaarts zal verhinderen. Het doel is niet om de kennis die in de medische literatuur besloten ligt weg te gooien, maar om ervoor te zorgen dat de kunstmatige intelligentiesystemen die deze kennis moeten gebruiken, ook verankerd zijn in de realiteit van de patiëntenzorg. Door patiëntuitkomsten in de kern van hun ontwikkeling op te nemen, geloven de onderzoekers dat medische AI kan evolueren van een systeem dat de regels leest naar een systeem dat de consequenties begrijpt, wat uiteindelijk helpt om betere richtlijnen te schrijven en de gezondheid van patiënten overal te verbeteren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.