Systematic evidence mapping shows artificial intelligence dependence claims outnumber corresponding assessments in health professions education
Deze systematische evidence mapping onthult dat in het onderwijs van gezondheidsprofessionals beweringen over afhankelijkheid van kunstmatige intelligentie de overeenkomstige beoordelingen die dergelijke afhankelijkheid in staat zijn te verifiëren aanzienlijk overtreffen, waardoor de frequentie, causale effecten en patiëntgevolgen van AI-afhankelijkheid onvastgesteld blijven.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de klaslokalen en trainingscentra waar toekomstige artsen, verpleegkundigen en apothekers hun vak leren, is een nieuw hulpmiddel gearriveerd met de belofte de educatie te transformeren. Dit hulpmiddel is kunstmatige intelligentie, een technologie die in staat is tot het ophalen van enorme hoeveelheden informatie, het aanbieden van casusgestuurde oefening en het bieden van directe feedback op complexe beslissingen. Voor leerders kan deze ondersteuning moeilijke taken gemakkelijker en sneller maken. Er is echter een fundamentele vraag ontstaan die verder gaat dan simpel gemak: als een student een digitale assistent gebruikt om een probleem op te lossen, leert deze persoon dan daadwerkelijk hoe hij het probleem zelfstandig kan oplossen? De zorg is niet dat het hulpmiddel faalt, maar dat de lerende zo gewend kan raken aan de ondersteuning dat hun eigen onafhankelijke vermogen vervaagt. Dit is de kern van de "afhankelijkheidsvraag". Het vraagt zich af of de vaardigheden en het redeneren die een student vertoont tijdens het gebruik van AI, werkelijk van hemzelf zijn, of dat ze slechts het resultaat zijn van een partnerschap dat instort op het moment dat de machine wordt uitgeschakeld. Het begrijpen van dit onderscheid is essentieel voor de patiëntveiligheid, omdat een medisch professional in staat moet zijn om informatie te verifiëren en weloverwogen oordelen te vellen, zelfs wanneer technologie niet beschikbaar is of, erger nog, wanneer deze onjuist advies geeft.
Om dit te onderzoeken, heeft een team van onderzoekers aan de Sichuan Universiteit een systematische zoektocht uitgevoerd door de bestaande wetenschappelijke literatuur om te zien welke bewijslast er daadwerkelijk bestaat met betrekking tot dit vraagstuk. Ze vroegen niet simpelweg of AI studenten helpt leren; ze zochten specifiek naar studies die beweerden dat AI afhankelijkheid zou kunnen veroorzaken en controleerden vervolgens of diezelfde studies die afhankelijkheid ook daadwerkelijk hadden gemeten. De onderzoekers richtten zich op zes specifieke manieren waarop afhankelijkheid zich zou kunnen manifesteren: overmatige afhankelijkheid van de machine, het delegeren van mentale arbeid aan de machine, te veel vertrouwen in de machine zelfs wanneer deze fouten maakt, het overdragen van de beslissingsautoriteit, een verzwakking van de redeneervaardigheden en een degradatie van praktische vaardigheden. Ze verzamelden bijna 14.000 records uit vier grote wetenschappelijke databases en, na een rigoureus selectieproces om duplicaten en irrelevante artikelen te verwijderen, vernauwden ze hun focus tot 150 hoogwaardige rapporten die menselijke participanten in de opleiding van gezondheidszorg betrokken. Deze rapporten vormden de kern van hun analyse.
De onderzoekers voerden vervolgens een zorgvuldige matching-oefening uit. Ze bekeken elk van de 150 rapporten om te zien of de auteurs een expliciete bewering maakten over een van de zes verschijnselen van afhankelijkheid. Als een rapport bijvoorbeeld beweerde dat studenten overmatig afhankelijk werden van AI, controleerden de onderzoekers of datzelfde rapport een specifieke test bevatte die ontworpen was om overmatige afhankelijkheid te meten. Ze vonden een opvallende kloof tussen wat werd beweerd en wat werd getest. Van de 150 rapporten maakten er 82 ten minste één expliciete bewering over afhankelijkheid. Echter, slechts 13 van die rapporten bevatten een beoordeling die voldeed aan de strikte ontwerpcriteria die nodig zijn om dat specifieke fenomeen daadwerkelijk te testen. Nogzegender was dat slechts negen rapporten erin slaagden een bewering te koppelen aan een deugdelijke beoordeling van hetzelfde fenomeen. Dit betekent dat voor de overgrote meerderheid van de studies die de risico's van AI-afhankelijkheid bespreken, de auteurs niet het specifieke bewijs hebben geleverd dat vereist is om te bewijzen dat het risico daadwerkelijk plaatsvindt.
De situatie was bijzonder duidelijk bij het kijken naar specifieke soorten afhankelijkheid. De onderzoekers vonden dat claims over "overmatige afhankelijkheid" voorkwamen in 75 rapporten, maar slechts vijf van die rapporten gebruikten een ontwerp dat in staat was dit te testen. Claims over "verzwakte redeneervaardigheid" verschenen in 57 rapporten, terwijl slechts twee een passende test bevatten. Voor "vaardigheidsdegradatie" werd in 18 rapporten beweerd dat dit plaatsvond, maar geen van hen koppelde de claim aan een studieontwerp dat daadwerkelijk een afname in vaardigheid kon meten nadat de AI was verwijderd. De weinige studies die probeerden deze effecten te meten, misten vaak een cruciaal element: een duidelijke bevestiging dat de AI niet beschikbaar was tijdens de uiteindelijke test. Zonder zekerheid te hebben dat de student alleen werkte, is het onmogelijk om te zeggen of hun prestatie onafhankelijk was of nog steeds beïnvloed werd door het hulpmiddel. Sommige studies keken wel naar prestaties na een vertraging, maar in de meeste gevallen konden de onderzoekers niet verifiëren of de studenten nog steeds de AI gebruikten of dat de testcondities de lerende werkelijk van de machine isoleerden.
De bevindingen suggereren dat hoewel de wetenschappelijke gemeenschap actief discussieert over de potentiële gevaren van AI-afhankelijkheid, de bewijslast nog niet klaar is om te bevestigen hoe vaak deze gevaren voorkomen of wat de werkelijke impact ervan is. De onderzoekers merkten op dat sommige studies lieten zien dat studenten beter presteerden wanneer AI aanwezig was, maar deze verbeterde prestatie maskeerde vaak een andere realiteit: wanneer de AI onjuist advies gaf, nam het vermogen van de studenten om de fout te ontdekken aanzienlijk af. Dit benadrukt dat het succes van een lerende met een hulpmiddel niet hetzelfde is als hun onafhankelijke capaciteit. De studie vond ook dat er zeer weinig onderzoek is gedaan naar hoe deze educatieve dynamieken echte patiënten beïnvloeden, waarbij slechts een handvol rapporten werkelijke patiëntgegevens of uitkomsten betrof. De auteurs concludeerden dat de huidige verzameling onderzoek niet in staat is om de frequentie van AI-afhankelijkheid, de causale effecten of de gevolgen voor de patiëntenzorg in te schatten.
Dit betekent niet dat AI geen plaats heeft in de gezondheidsopleiding, noch bewijst het dat afhankelijkheid onvermijdelijk is. Het betekent simpelweg dat de huidige wetenschappelijke literatuur nog niet de specifieke, hoogwaardige bewijslast heeft geleverd die nodig is om de vraag te beantwoorden. De onderzoekers benadrukken dat verschillende soorten afhankelijkheid verschillende soorten bewijs vereisen. Om bijvoorbeeld te bewijzen dat een student het vermogen heeft verloren om zonder hulp te redeneren, is een test nodig waarbij de student alleen werkt na een periode van gebruik van het hulpmiddel, met een duidelijke baseline om mee te vergelijken. Totdat meer studies worden ontworpen met deze specifieke vereisten in gedachten, blijft de discussie over AI-afhankelijkheid grotendeels theoretisch. De weg vooruit houdt in dat er studies worden gebouwd die de prestaties van de lerende duidelijk kunnen scheiden van de prestaties van de lerende-plus-hulpmiddel, om ervoor te zorgen dat wanneer de digitale ondersteuning wordt ingetrokken, de menselijke professional volledig in staat blijft.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.