Public perceptions of AI-driven decision-making in healthcare: A structural equation modeling approach

Stel je de gezondheidszorg voor als een enorme, drukke bibliotheek waar artsen de hoofdbibliothecarissen zijn. Jarenlang waren zij de enigen die boeken mochten ophalen, planken mochten ordenen en verhalen mochten aanbevelen om je beter te laten voelen. Maar onlangs is er een nieuw soort helper gearriveerd: een supersnelle, superslimme robotbibliothecaris, aangedreven door Kunstmatige Intelligentie (AI). Deze robot kan in een seconde miljoenen boeken scannen, patronen ontdekken die mensen misschien missen, en zelfs het perfecte verhaal suggereren voor jouw specifieke stemming. Klinkt geweldig, toch? Maar hier komt de adder onder het gras: alleen omdat de robot snel is, betekent dat niet dat iedereen hem vertrouwt. Sommige mensen maken zich zorgen dat de robot het verhaal verkeerd krijgt, hun geheimen steelt of zelfs de menselijke bibliothecaris volledig vervangt.

Deze studie duikt in de gedachten van gewone mensen om een grote vraag te beantwoorden: vertrouwen we deze nieuwe robotbibliothecaris, of zijn we bang dat het onze gezondheid in de war stuurt? Om de antwoorden te begrijpen, moeten we een paar dingen weten. Ten eerste is er "AI-geletterdheid", wat gewoon een chique manier is om te zeggen: "Weet jij hoe dit robotbrein werkt?" Dan is er "vertrouwdheid", wat simpelweg betekent hoe vaak je deze robots in je dagelijks leven hebt gezien of gebruikt. Ten slotte is er het idee van "menselijk toezicht", wat het geloof is dat de menselijke bibliothecaris nog steeds de baas is en het werk van de robot in de gaten houdt om te controleren of hij het juiste doet. De onderzoekers wilden zien of weten dat je meer over de robot weet, het zelf gebruiken, of het vertrouwen in de menselijke bibliothecaris, verandert hoe nuttig, riskant of eerlijk we de robot vinden.

De onderzoekers, een team van de Universiteit van Amsterdam, besloten een enorme momentopname van de Nederlandse samenleving te maken om te zien wat zij echt vinden. Ze vroegen bijna 4.000 mensen — ongeveer de helft mannen en de helft vrouwen, met een gemiddelde leeftijd van 52 — om een enquête in te vullen. Ze vroegen niet alleen: "Houd je van AI?" Ze deelden het op in drie specifieke gevoelens: Is geautomatiseerde besluitvorming (ADM) in de gezondheidszorg nuttig? Is het riskant? En is het eerlijk?

Om de antwoorden te vinden, gebruikten ze een speciaal wiskundig hulpmiddel genaamd Structurele Vergelijking Modellering. Denk aan dit als een enorme, complexe kaart die verschillende stippen met elkaar verbindt. De onderzoekers trokken lijnen tussen zaken als "Hoeveel weet je over AI?" en "Vind je het riskant?" om te zien welke stippen de sterkste draden trekken. Ze keken of mensen die chatbots gebruikten voor gezondheidsadvies anders dachten dan mensen die alleen Google gebruikten. Ze controleerden ook of mensen die vertrouwden op hun artsen om het verschil te zien tussen een door een mens geschreven notitie en een door AI geschreven notitie, zich veiliger voelden over het hele systeem.

Dus, wat onthulde de kaart? De bevindingen zijn een beetje als een ritje in een achtbaan met een paar verrassende wendingen.

Ten eerste: hoe meer mensen wisten over verschillende soorten AI (zoals chatbots, deepfakes of generatieve AI), hoe meer ze dachten dat het nuttig kon zijn. Het is alsof weten hoe een goocheltruc werkt, je de vaardigheid van de goochelaar meer laat waarderen. Maar hier is de wending: diezelfde vertrouwde kennis maakte hen ook van mening dat het riskant was. Het lijkt erop dat wanneer je een beetje meer over de robot weet, je beseft dat het niet alleen een perfect hulpmiddel is; het is een krachtig hulpmiddel dat fout kan gaan. Dus meer weten maakte mensen niet alleen lief voor de robot; het maakte hen ook meer bewust van de gevaren.

Ten tweede vond de studie iets heel interessants over de menselijke bibliothecaris. De belangrijkste factor die mensen lieten denken dat AI eerlijk en nuttig was, was hun vertrouwen in het vermogen van de arts om het verschil te zien tussen AI- en menselijke inhoud. Als een persoon geloofde: "Mijn arts kan zien of een computer dit heeft geschreven," dan was diegene veel eerder geneigd om het hele systeem als eerlijk te beschouwen. Het blijkt dat we minder geven om het vertrouwen in de robot zelf en meer om het vertrouwen in de mens die de robot aan de leiband houdt. Als we denken dat de mens de controle heeft en fouten kan opsporen, voelen we ons veilig.

Derde: de mensen die daadwerkelijk conversatie-agenten (zoals chatbots of virtuele assistenten) gebruikten om gezondheidsinformatie te verkrijgen, voelden anders dan de rest. Deze gebruikers vonden het systeem minder riskant en eerlijker. Het is als fietsen leren: de eerste keer dat je opstapt, voelt het wiebelig en eng. Maar zodra je een paar keer hebt gereden, voelt het normaal en veilig. Het gebruik van deze tools leek de enge robot te veranderen in een vriendelijke helper. De studie merkte echter op dat de meeste mensen in de enquête deze chatbots nog niet vaak gebruiken, dus dit "fietsrit-effect" was nog niet voor iedereen ingezet.

Interessant genoeg keek de studie ook naar of mensen die traditionele gezondheidswebsites (zoals officiële ziekenhuispagina's) gebruikten, anders voelden. Het bleek dat het vertrouwen op deze ouderwetse digitale bronnen mensen lieten denken dat AI riskanter was, maar het veranderde hun mening over of het nuttig of eerlijk was niet echt. Het is alsof het vasthouden aan de "oude wegen" de nieuwe robot nog verdachter maakte.

Eén ding dat de studie niet vond, was een sterke link tussen "AI-geletterdheid" (hoe goed je de technologie begrijpt) en het gevoel dat AI riskant is. Je zou kunnen denken dat als je begrijpt hoe een automotor werkt, je er minder bang voor bent. Maar voor AI betekende weten hoe het werkte niet noodzakelijkerwijs dat mensen zich veiliger voelden over de risico's. De onderzoekers suggereren dat dit kan komen doordat het begrijpen van de technologie sommigen de gevaren duidelijk laat zien, terwijl anderen juist overmoedig worden, waardoor deze effecten elkaar opheffen.

De onderzoekers waren voorzichtig om te zeggen dat deze studie een momentopname is, geen film van de toekomst. Ze kunnen niet met zekerheid zeggen dat het gebruiken van chatbots ervoor zorgt dat mensen minder bang zijn; ze weten alleen dat de twee dingen samen voorkomen. Ze merkten ook op dat hun enquête eenvoudige vragen gebruikte, dus er kunnen meer nuances in deze gevoelens zitten die ze niet hebben gevangen.

Uiteindelijk is het verhaal dat dit artikel vertelt een verhaal over vertrouwen. Het suggereert dat voor AI om echt een nuttig onderdeel van de gezondheidszorg te worden, we niet alleen betere robots nodig hebben. We moeten ervoor zorgen dat mensen vertrouwen hebben in de menselijke artsen die hen gebruiken. Als mensen geloven dat hun artsen een oogje in het zeil kunnen houden bij de AI en eventuele fouten kunnen ontdekken, is het publiek veel eerder geneigd de technologie als eerlijk en nuttig te zien. Maar als we de mens in de loop vergeten, kan de robot voor ons allemaal slechts een eng, riskant apparaat lijken.