Trust in, acceptance of, and responsibility for, artificial intelligence in healthcare: patient and healthcare practitioner considerations

Deze kwalitatieve studie vergelijkt de perspectieven van zorgverleners en patiënten op kunstmatige intelligentie in de gezondheidszorg en concludeert dat, hoewel beide groepen zorgen delen over verantwoordelijkheid, hun specifieke focus verschilt tussen klinische integratie en menselijke aandacht, wat een gebalanceerde aanpak vereist voor succesvolle adoptie.

De kern

🤖 De AI in de Ziekenhuiskeuken: Vertrouwen, Verantwoordelijkheid en de Menselijke Factor

Stel je voor dat een ziekenhuis een nieuwe, super-slimme robot-assistent (AI) introduceert in de keuken. Deze robot kan duizenden recepten (medische dossiers) in een seconde doorzoeken en de chef-kok (de arts) vertellen of het eten klaar is om de klant (de patiënt) naar huis te sturen.

De onderzoekers van dit paper hebben gekeken wat de chefs (artsen en verpleegkundigen) en de klanten (patiënten) daarvan vinden. Ze hebben 30 mensen geïnterviewd in het Erasmus MC in Rotterdam. Hier is wat er uitkwam, vertaald naar alledaagse taal:

1. Wat weten ze eigenlijk? (De "Blauwe Oog" vs. de "Chef")

• De Patiënten: Voor de meeste patiënten is AI net als een magische toverstaf. Ze zien het op social media en in films, maar weten niet precies hoe het werkt. Ze denken: "Het is er, het is populair, maar ik snap de techniek niet."
• De Artsen: Zij weten meer, maar ook zij zijn soms sceptisch. Sommige artsen zeggen: "Alles heet nu AI, maar soms is het gewoon een simpele rekenmachine." Ze maken zich zorgen dat de robot niet 100% foutloos is.
• De les: Je hoeft geen ingenieur te zijn om AI te vertrouwen, maar je moet wel weten dat de robot soms fouten maakt. Het is alsof je een navigatiesysteem gebruikt: je vertrouwt het, maar je kijkt ook zelf uit of je niet in een sloot rijdt.

2. Wie is de Baas? (De Verantwoordelijkheid)

Stel, de robot zegt: "Deze patiënt mag naar huis." Maar de arts voelt in zijn maag dat het nog niet goed is. Wat gebeurt er?

• De Artsen: Zij zeggen unaniem: "Uiteindelijk ben ik de baas." Als de robot een fout maakt, is de arts verantwoordelijk, niet de software. Ze zien de robot als een hulpmiddel, niet als een vervanger.
• De Patiënten: Zij vertrouwen vooral op de mens. "Ik luister naar de dokter. Als de dokter zegt dat ik mag gaan, ga ik." Ze vinden het belangrijk dat de dokter niet blindelings naar de robot luistert.
• Het spanningsveld: Soms voelen artsen zich in de knel. Als een jonge verpleegkundige denkt dat de robot een fout maakt, durft ze dat soms niet te zeggen tegen de "grote" arts. Dat is als een stagiair die ziet dat de chef een verkeerd ingrediënt gebruikt, maar bang is om het te zeggen.

3. Kan de Robot "Voelen"? (De Menselijke Connectie)

Dit is misschien wel het belangrijkste punt.

• De Patiënten: Zij zijn bang dat de robot hun gevoelens niet ziet. "De robot ziet mijn hartslag, maar voelt niet of ik me angstig voel of dat ik pijn heb." Ze willen niet dat ze als een nummer worden behandeld. Ze willen gehoord worden.
• De Artsen: Sommige artsen denken: "Patiënten geven er niet om hoe de robot werkt, ze willen gewoon genezen." Maar de patiënten zeggen: "Jullie denken dat we er niet om geven, maar wij willen wel weten wat er gebeurt!"
• De les: De robot kan data analyseren, maar hij kan geen knuffel geven. Als de arts alleen naar de robot kijkt, voelt de patiënt zich misschien niet gezien.

4. De Werkplek: Handig of Gedoe?

• De Droom: Artsen hopen dat de robot hen helpt met het saaie werk (zoals dossiers invullen), zodat ze meer tijd hebben voor de patiënt. "Als de computer het werk doet, kan ik weer naar de patiënt kijken in plaats van naar het scherm."
• De Realiteit: Er is angst dat de robot juist meer werk oplevert. "Als ik voor elke patiënt 100 vakjes moet aanvinken om de robot te gebruiken, dan ben ik er sneller klaar mee."
• De eis: De robot moet naadloos in het systeem passen, zoals een nieuwe koelkast die perfect in de keuken past. Als je er een aparte ladder voor nodig hebt, wordt het niet gebruikt.

5. Vertrouwen: De "Gok"

• Voor de Arts: Vertrouwen is niet blind. Het is gebaseerd op bewijs. "Ik vertrouw de robot pas als hij bewezen heeft dat hij werkt in mijn ziekenhuis, met mijn patiënten."
• Voor de Patiënt: Vertrouwen zit bij de dokter. "Ik vertrouw de robot alleen maar omdat ik de dokter vertrouw." Als de dokter zegt dat de robot goed is, dan is het goed.

🎯 Het Grote Verhaal in Eén Zin

Deze studie laat zien dat AI in de zorg niet alleen een technisch probleem is (werkt de software?), maar vooral een menselijk probleem.

Om AI succesvol te maken, moeten we niet alleen kijken naar de code, maar ook naar de relatie tussen dokter en patiënt. De robot moet een hulpje zijn dat de dokter helpt betere beslissingen te nemen, zonder dat de patiënt het gevoel krijgt dat hij wordt afgerekend op een algoritme.

Kortom: De robot is een slimme assistent, maar de arts blijft de chef-kok en de patiënt blijft de gast die gevoeld moet worden. Als we dat niet in de gaten houden, blijft de robot in de kast staan.

Technische samenvatting

Titel: Vertrouwen in, acceptatie van en verantwoordelijkheid voor kunstmatige intelligentie in de gezondheidszorg – Overwegingen van patiënten en zorgverleners

Auteurs: Emma-Jane Spencer et al. (Erasmus MC & TU Delft)
Context: Een kwalitatieve studie uitgevoerd in het Erasmus MC in Rotterdam, Nederland.

---

1. Het Probleem

Ondanks de enorme investeringen en de "hype" rondom kunstmatige intelligentie (AI) in de gezondheidszorg, bestaat er een aanzienlijke implementatiekloof. Studies tonen aan dat slechts een zeer klein percentage (bijvoorbeeld 2%) van de ontwikkelde AI-modellen daadwerkelijk de klinische praktijk bereikt.
De kern van het probleem ligt niet alleen in de technische prestaties, maar in de menselijke en ethische dimensies:

• Er is onvoldoend empirisch onderzoek naar hoe zorgverleners én patiënten AI ervaren.
• Het patiëntenperspectief is vaak ondervertegenwoordigd in het debat over AI-implementatie.
• Er bestaat onduidelijkheid over vertrouwen, verantwoordelijkheid, autonomie en de impact op de arts-patiëntrelatie bij de integratie van AI.

2. Methodologie

De studie hanteert een verkennend kwalitatief onderzoeksontwerp met semi-gestructureerde interviews.

• Deelnemers: Totaal 30 deelnemers via doelgerichte steekproef (purposive sampling):
  • 18 zorgverleners (HCP's): 10 chirurgen en 8 verpleegkundigen uit de afdeling Chirurgische Oncologie en Gastro-intestinale Chirurgie.
  • 12 patiënten: Personen die binnen de afgelopen 12 maanden een gastro-intestinale operatie hadden ondergaan.
• Datacollectie: Interviews duurden gemiddeld 30-45 minuten. Zorgverleners werden face-to-face geïnterviewd, patiënten voornamelijk online (Microsoft Teams).
• Analyse: De data werden verbatim getranscribeerd en geanalyseerd met ATLAS.ti. Er werd gebruikgemaakt van zowel deductieve (vooraf gedefinieerde codes) als inductieve (ontdekkende) codering, gevolgd door thematische analyse.
• Focus: De interviews richtten zich specifiek op de integratie van een bestaand, gevalideerd AI-model (het DESIRE-model) voor het bepalen van de ontslagdatum na een operatie.

3. Belangrijkste Bijdragen

De studie levert drie unieke bijdragen aan het veld:

1. Vergelijkend perspectief: Het is een van de weinige studies die zorgverleners en patiënten binnen één kwalitatief ontwerp direct met elkaar vergelijkt, waardoor convergentie en divergentie in meningen zichtbaar worden.
2. Praktische relevantie: In plaats van abstracte AI, werd gekeken naar een specifiek, gevalideerd klinisch model, wat de bevindingen direct toepasbaar maakt.
3. Ethisch en epistemologisch kader: De studie benadrukt dat implementatie niet alleen een technisch probleem is, maar afhangt van epistemische (kennisgerelateerde) en ethische dynamieken, zoals wie verantwoordelijk is en hoe vertrouwen wordt opgebouwd.

4. Resultaten

De analyse resulteerde in drie hoofdthema's met tien subthema's:

A. Kennis over AI (AI Knowledge)

• Zorgverleners: Variëren van oppervlakkige kennis tot diepgaand technisch inzicht. Veel artsen benadrukken het belang van het begrijpen van de beperkingen, validatie en dataherkomst, eerder dan de technische werking. Er is een zorg over "automatiseringsbias" (blind vertrouwen).
• Patiënten: Hebben vaak een "oppervlakkige" kennis, vaak beïnvloed door media. Kennis wordt echter gezien als een voorwaarde voor vertrouwen. Patiënten willen geïnformeerd worden over het gebruik van AI in hun zorg, maar de gewenste detailgraad verschilt per persoon.

B. Ethiek

• Autonomie: Zorgverleners zien AI als een hulpmiddel om hun professionele oordeel te ondersteunen, maar benadrukken dat de mens "in de loop" moet blijven. Patiënten maken zich zorgen dat AI hun stem kan dempen of dat hun subjectieve gevoelens (pijn, welzijn) niet door het algoritme worden gevangen.
• Verantwoordelijkheid: Zorgverleners stellen dat de arts uiteindelijk verantwoordelijk blijft voor beslissingen, zelfs als AI advies geeft. Er is echter spanning tussen deze formele verantwoordelijkheid en het gebrek aan vertrouwen in de betrouwbareheid van het systeem. Patiënten zien verantwoordelijkheid meer als een gedeelde taak tussen arts, instelling en ontwikkelaars.
• Uitlegbaarheid (Explainability): Zorgverleners willen weten waarom een model een bepaalde output geeft om risico's te managen. Patiënten willen vooral weten hoe AI in hun zorg wordt gebruikt en zien dit als een vorm van transparantie, hoewel artsen vaak denken dat patiënten hier niet om geven.
• Bias en Fairness: Zorgverleners zijn zich bewust van bias in trainingsdata (bijv. ras, geslacht). Patiënten zijn zich hier minder van bewust, tenzij het direct hun eigen achtergrond betreft.

C. Operationele en Klinische Implicaties

• Klinische Impact: AI wordt gezien als ondersteunend (decision support), niet als vervanging. Het kan helpen bij het identificeren van patiënten die veilig kunnen worden ontslagen en biedt "extra zekerheid" in twijfelgevallen.
• Workflow: Succes hangt af van naadloze integratie in het elektronisch patiëntendossier (EPD). Als AI extra administratieve taken oplegt, wordt het afgewezen.
• Technische Bezwaren: Datakwaliteit, validatie in de lokale populatie en de continuïteit van monitoring worden als cruciaal gezien. Zorgverleners vrezen dat veranderingen in EPD-systemen de modelprestaties kunnen beïnvloeden.

D. Vertrouwen

• Zorgverleners: Vertrouwen is gebaseerd op empirische validatie en continue monitoring. Ze vertrouwen het systeem niet op zichzelf, maar zien het als een hulpmiddel dat hun eigen besluitvorming kan versterken.
• Patiënten: Vertrouwen ligt primair bij de behandelend arts, niet bij de technologie. AI wordt gezien als een instrument van de arts; als de arts het gebruikt, vertrouwen ze het.

5. Betekenis en Conclusie

De studie concludeert dat de succesvolle implementatie van AI in de gezondheidszorg niet alleen afhangt van technische nauwkeurigheid, maar van het creëren van de juiste epistemische en ethische voorwaarden:

1. Twee werelden: Er is een discrepantie tussen wat zorgverleners denken dat patiënten willen (vaak weinig interesse in technische details) en wat patiënten daadwerkelijk zeggen (wens naar transparantie en betrokkenheid).
2. Risico van stilzwijgen: Er is een risico op "epistemische onrechtvaardigheid" waarbij patiënten worden stilgehouden omdat AI de arts lijkt te steunen.
3. Integratie is key: AI moet naadloos in de workflow passen en de arts-patiëntrelatie niet verstoren.
4. Verantwoordelijkheid: Hoewel de arts formeel verantwoordelijk blijft, vereist de praktijk een gedistribueerd verantwoordelijkheidsmodel dat ontwikkelaars en instellingen omvat.

De auteurs pleiten voor gestructureerde educatie over AI voor zowel professionals als patiënten en voor een implementatiestrategie die rekening houdt met de menselijke dimensies van zorg, waarbij de arts-patiëntrelatie centraal blijft staan.