When Do Physicians Trust AI? The Role of Clinical Context in Decision Support: SMART vignette study
Deze studie onder 420 Amerikaanse artsen onthult dat eerdere blootstelling aan AI, in plaats van de specifieke klinische context of de hoeveelheid verstrekte informatie, de primaire factor is die het vertrouwen van artsen in en het vertrouwen bij door AI ondersteunde klinische beslissingshulpmiddelen positief beïnvloedt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne geneeskunde beginnen artsen een nieuw soort assistent te gebruiken: kunstmatige intelligentie. Deze computerprogramma's, vaak klinische beslissingsondersteunende systemen genoemd, kunnen patiëntendossiers scannen en suggesties doen voor de volgende stappen, zoals of er een medicijn moet worden voorgeschreven of dat een patiënt naar een specialist moet worden doorverwezen. De belofte is dat deze hulpmiddelen artsen zullen helpen om betere, snellere keuzes te maken. Een hulpmiddel is echter alleen nuttig als de persoon die het gebruikt het genoeg vertrouwt om ernaar te luisteren. Als een arts het advies van de computer negeert omdat hij het niet begrijpt of niet gelooft dat het juist is, dan faalt de technologie. De grote vraag voor ziekenhuizen en onderzoekers is niet alleen of de software werkt op een computer, maar wat een menselijke arts het vertrouwen geeft om het in de echte wereld te gebruiken. Is het het type medische probleem? Is het hoeveel informatie de arts krijgt over hoe de computer denkt? Of is het simpelweg of de arts eerder met dit soort technologie heeft gewerkt?
Een team van onderzoekers aan Stanford University ging aan deze vragen te pas om door vierhonderdtwintig huisartsen en internisten in de Verenigde Staten te vragen zich zichzelf voor te stellen in specifieke medische situaties. Ze vroegen de artsen niet om een echt computerprogramma op echte patiënten te gebruiken. In plaats daarvan gebruikten ze een zorgvuldig ontworpen enquête methode waarbij artsen korte verhalen, of casussen, lazen over een drieëndertigjarige vrouw genaamd Jess die symptomen vertoonde van een gezondheidsprobleem. In sommige verhalen had Jess een recept voor depressie nodig, terwijl ze in andere een verwijzing naar een specialist voor aandachtsproblemen nodig had. De onderzoekers veranderden de details van het verhaal om drie verschillende dingen te testen. Ten eerste veranderden ze het type medische beslissing, waarbij ze een recept vergelijken met een verwijzing. Ten tweede veranderden ze hoeveel informatie de arts over het hulpmiddel voor kunstmatige intelligentie zelf kreeg; sommige artsen kregen een korte beschrijving, terwijl anderen een veel langere kregen die details bevatte over waar het hulpmiddel was gebouwd en hoe het was getraind. Ten derde keken ze naar hun eigen geschiedenis, waarbij ze noteerden welke artsen eerder kunstmatige intelligentie in hun onderzoek of praktijk hadden gebruikt.
De onderzoekers wilden zien of deze veranderingen de artsen meer of minder vertrouwen zouden geven in hun uiteindelijke beslissing. Ze hypotheseerden dat artsen meer vertrouwen zouden hebben als ze meer wisten over hoe het hulpmiddel werkte, en dat ze sceptischer zouden zijn over het hulpmiddel wanneer de beslissing gepaard ging met hogere risico's, zoals het voorschrijven van een nieuw medicijn. Ze vroegen zich ook af of artsen die al bekend waren met kunstmatige intelligentie anders zouden reageren op de hoeveelheid verstrekte informatie. De studie toonde aan dat de hoeveelheid informatie niet zo belangrijk was als verwacht. Of een arts nu vijf zinnen of tien zinnen over het hulpmiddel las, hun vertrouwen in de beslissing bleef hetzelfde. Het type medische beslissing veranderde ook niet hoe groot het vertrouwen van de artsen in de beslissing was, maar het veranderde wel hoe zij het hulpmiddel zelf zagen. Wanneer het scenario het voorschrijven van medicatie betrof, waren artsen minder geneigd te vertrouwen op de consistentie van het hulpmiddel bij elke patiënt en waren ze eerder geneigd te vertrouwen op hun eigen oordeel in plaats van op de suggestie van de computer. In contrast hiermee, wanneer het scenario een verwijzing betrof, waren ze eerder bereid het hulpmiddel te vertrouwen wat betreft consistentie.
De meest significante bevinding kwam echter voort uit het kijken naar de eerdere ervaringen van de artsen. De studie toonde aan dat artsen die al kunstmatige intelligentie in hun onderzoek of klinische praktijk hadden gebruikt, aanzienlijk meer vertrouwen voelden in hun uiteindelijke beslissingen bij het gebruik van het hulpmiddel. Deze ervaren artsen waren ook eerder geneigd om te zeggen dat het hulpmiddel de zorg die zij konden bieden verbeterde en dat het resultaat van de computer bijdroeg aan hun uiteindelijke keuze. Dit suggereert dat vertrouwdheid met vertrouwen wordt geboren. Interessant genoeg vonden de onderzoekers dat de eerdere ervaring de artsen niet maakte om het hulpmiddel blinder te vertrouwen; in plaats daarvan maakte het hen eerder zeker van hun eigen vermogen om het hulpmiddel effectief te gebruiken. De studie weerlegde ook het idee dat het simpelweg dumpen van meer technische details over de software op een arts hen meer vertrouwen zou geven. Sterker nog, de extra informatie had geen meetbare impact op hun vertrouwen of hun perceptie van de effectiviteit van het hulpmiddel.
Deze resultaten suggereren dat de weg naar de integratie van kunstmatige intelligentie in de geneeskunde minder gaat over het perfectioneren van de gebruikershandleiding en meer over het voorbereiden van de mensen die het zullen gebruiken. De onderzoekers concluderen dat de training van toekomstige artsen zich moet richten op hoe ze computervoorstellen kunnen afwegen naast hun eigen klinische oordeel, in plaats van hen alleen te leren hoe ze de software moeten bedienen. Als artsen deze hulpmiddelen moeten vertrouwen, moeten ze begrijpen hoe ze ze in context kunnen gebruiken, en hun vertrouwen groeit schijnbaar natuurlijk met ervaring. De studie benadrukt dat hoewel de technologie zich snel ontwikkelt, het menselijke element de cruciale factor blijft. Voor kunstmatige intelligentie om echt patiënten te helpen, moet de medische gemeenschap ervoor zorgen dat artsen zich klaar en bereid voelen om ermee samen te werken, een gereedheid die blijkbaar voortkomt uit blootstelling en praktijk in plaats van alleen maar meer data.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.