Generative artificial intelligence in medical postgraduates: a qualitative study of perceived risks, benefits, and responsible use

Stel je de wereld van de geneeskunde voor als een enorme, eeuwenoude bibliotheek waar elk boek een geheim bevat voor genezing. Eeuwenlang hebben artsen en studenten elke pagina met de hand moeten lezen om het juiste antwoord te vinden. Maar onlangs is er een nieuw soort magische assistent gearriveerd: Generatieve Artificiële Intelligentie, of GenAI. Denk aan een supersnelle, superslimme robotbibliothecaris die miljoenen boeken in een seconde kan lezen, ze kan samenvatten en zelfs een verhaal voor je kan schrijven. Het klinkt als een droom die uitkomt, toch? Maar hier zit de adder onder het gras: deze robotbibliothecaris verzint soms dingen, vergeet feiten te controleren, en als je de robot het werk laat doen om jouw verhaal te schrijven, vergeet je misschien hoe je zelf moet schrijven.

Dit artikel duikt in een zeer specifieke groep mensen die net beginnen met het gebruik van deze magische robot: medische masterstudenten in China. Dit zijn de jonge artsen in opleiding die leren om experts te worden. De onderzoekers wilden weten: houden deze studenten van de robot? Zijn ze bang voor de robot? En het belangrijkste: hoe beslissen zij wanneer ze de robot hulp laten bieden en wanneer ze het werk zelf doen? Ze vroegen niet alleen om een "ja" of "nee" antwoord; ze gingen diepgaande gesprekken aan om de werkelijke gedachten, angsten en hoop van de studenten over deze nieuwe technologie te begrijpen.

De Studie: Luisteren naar de Toekomstige Dokters

De onderzoekers interviewden 18 eerstejaars masterstudenten uit vijf verschillende medische specialismen, zoals neurologie (hersendokters), psychiatrie (geestdokters) en radiologie (beeldend dokters). Al deze studenten hadden al geprobeerd AI-tools zoals ChatGPT of DeepSeek te gebruiken voor hun studiewerk. Het team luisterde aandachtig naar wat zij zeiden en zocht naar patronen in hun verhalen. Ze ontdekten dat de studenten een zeer duidelijk, gebalanceerd beeld hebben: ze zien GenAI als een "tweesnijdend zwaard", wat betekent dat het een scherpe kant heeft die problemen snel kan doorsnijden, maar ook een gevaarlijke kant die schade kan berokkenen als je niet voorzichtig bent.

Het Goede: De Superkrachtige Sidekick

De studenten waren enthousiast over hoeveel tijd de robot hen bespaart. Ze beschreven het als een turbocharger voor hun brein.

• Het Snelen van de Grind: Eén student zei dat de AI hen helpt om "snel de benodigde literatuur te lokaliseren", terwijl een ander opmerkte dat het "snel reviewartikelen kan analyseren". Het is alsof je een vriend hebt die de beste boeken in de bibliotheek binnen seconden kan vinden in plaats van uren.
• Het Onzichtbare Zien: De studenten waren verbaasd dat de AI kleine details kon opmerken die mensen missen. Eén student legde uit dat voor "kleine stenoses [vernauwingen] die moeilijk met het blote oog te zien zijn, AI direct de stenosegraad kan berekenen." Een ander vermeldde dat het enorme stapels proteïnedata kan analyseren om ziekte markers te vinden. Het is alsof je de studenten röntgenvisie geeft voor data.
• Brainstorm-Buddy: De AI helpt hen ook om verbanden te leggen die ze zelf nog niet hadden gezien. Eén student zei dat het "4.000 medische artikelen kan analyseren... in 10 minuten", wat hen helpt om sneller nieuwe ideeën te bedenken dan ze alleen zouden kunnen.

Het Engelse: De Slechte Gewoontes van de Robot

De studenten vertrouwden de robot echter niet blindelings. Sterker nog, hun grootste zorg was dat ze lui zouden worden.

• De Angst voor "Breinroest": Dit was de meest voorkomende zorg, genoemd door 16 van de 18 studenten. Ze vreesden dat als ze de AI al het denken laten doen, hun eigen hersenen minder hard zouden gaan werken. Eén student zei het heel direct: "Direct AI gebruiken leidt tot een gebrek aan eigen denken." Een ander maakte zich zorgen dat "langdurig gebruik van AI kan leiden tot mentale luiheid." Ze vergeleken het met het zo vaak gebruiken van een rekenmachine dat je vergeet hoe je basiswiskunde doet.
• Het "Fake News" Probleen: De studenten vertrouwden de AI er niet op dat deze 100% waarheidsgetrouw zou zijn. Ze merkten op dat de AI de neiging heeft om "dingen te verzinnen" of te "hallucineren". Eén student klaagde dat "de meeste literatuurbronnen die door AI worden getoond, nep zijn." Het is als een bibliothecaris die vol vertrouwen naar een boek wijst dat eigenlijk niet bestaat.
• Privacy en Verantwoordelijkheid: Ze maakten zich ook zorgen over patiengeheimen. Als ze patiëntgegevens in de AI typen, vrezen ze dat de gegevens kunnen lekken, wat kan leiden tot discriminatie of schendingen van de privacy. Bovendien waren ze in de war over wie verantwoordelijk is als de AI een foutief antwoord geeft. Zoals één student zei: "AI kan geen verantwoordelijkheid dragen – de ontwikkelaar of de instelling van de gebruiker moet dit bekrachtigen." Als de robotarts een fout maakt, wie krijgt dan de schuld? De mens? De machine? Het antwoord is momenteel onduidelijk.

De Regels: Hoe Je Eerlijk Speelt

Ondanks de angsten wilden de studenten de robot niet verbieden. Ze gebruikten een Chinees spreekwoord om hun standpunt uit te leggen: "We zouden niet moeten stoppen met eten uit angst om te stikken." In plaats daarvan trokken ze een zeer duidelijke lijn in het zand over wat wel en niet oké is.

• Groen Licht (Oké om te gebruiken): Ze zijn blij met het gebruik van AI voor het polijsten van hun Engels, het controleren van hun computercode of het genereren van een eerste concept van een paper. Ze zien dit als het gebruik van een hulpmiddel om sneller te werken.
• Rood Licht (Nooit gebruiken): Ze zijn resoluut in het feit dat AI nooit een diagnose van een patiënt mag genereren, geen privé patiëntgegevens mag afhandelen of het oorspronkelijke idee voor een onderzoeksstudie mag creëren. Eén student stelde: "Ik zal AI gebruiken om een eerste concept te genereren, maar ik zal het zeker handmatig herzien en verifiëren." Ze willen de kapiteins van het schip zijn, met de AI als navigator, niet als kapitein.

Wat Ze Willen: De Perfecte AI-Assistent

Ten slotte vertelden de studenten de onderzoekers precies wat ze nodig zouden hebben om zich veilig te voelen bij het gebruik van deze tools. Ze willen geen "magische zwarte doos" die antwoorden geeft zonder uitleg. In plaats daarvan willen ze een AI die:

1. De Regels Kent: Het moet zijn antwoorden baseren op echte, hoogwaardige medische bewijzen en richtlijnen, en niet op willekeurige gissingen.
2. Geheimen Beschermt: Het moet zo veilig zijn als een bankkluis, waarbij strikte privacywetten (zoals HIPAA of GDPR) worden gevolgd om patiëntgegevens veilig te houden.
3. Zijn Werk Uitlegt: Het moet niet alleen een antwoord geven; het moet uitleggen waarom het dat antwoord gaf, zodat de student de logica kan begrijpen.
4. Bescheiden Blijft: Het moet zichzelf duidelijk positioneren als een "assistent" van de arts, en nooit als een vervanging.

De Kern van het Verhaal

De studie suggereert dat deze toekomstige artsen niet slechts passieve gebruikers van technologie zijn; ze denken kritisch na over hoe ze deze kunnen gebruiken. Ze zien de enorme voordelen van AI voor efficiëntie en ontdekking, maar ze maken zich diep zorgen over het verliezen van hun eigen vermogen om creatief en kritisch te denken. Ze vragen niet om de robot weg te gooien; ze vragen om een robot die eerlijk, veilig en duidelijk gedefinieerd is als een helper, niet als een baas. Hun stemmen suggereren dat om AI echt te laten helpen in de geneeskunde, we tools moeten bouwen die het menselijk oordeel respecteren en de mens aan het stuur houden.