Healthcare AI Ethics in Real-World Implementation: Implementation Findings as Ethical Evidence and Cross-Dimensional Alignment
Deze studie toont aan dat bevindingen uit de implementatie van AI in de praktijk van de gezondheidszorg kritisch ethisch bewijs vormen, waarbij wordt onthuld dat verantwoord bestuur een "cross-dimensionale afstemming" vereist waarbij ethische inkadering, verantwoording en respons in de praktijk de sociaal-technische condities aanpakken die risico's en lasten voortbrengen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Kunstmatige intelligentie dringt snel de wereld van ziekenhuizen en klinieken binnen, met de belofte arts te helpen bij het sneller diagnosticeren van ziekten, het efficiënter beheren van patiëntendossiers en het herkennen van patronen die het menselijk oog zouden kunnen missen. Maar naarmate deze instrumenten de stap maken van computerlaboratoria naar de rommelige, complexe realiteit van de dagelijkse medische praktijk, rijst een nieuwe reeks vragen. Het is niet voldoende om te weten of de software werkt in een testomgeving; we moeten begrijpen hoe het de relatie tussen een arts en een patiënt verandert, wie verantwoordelijk is wanneer er iets misgaat, en of de technologie daadwerkelijk iedereen helpt of slechts enkelen. Jarenlang hebben experts gedebatteerd over de ethiek van kunstmatige intelligentie aan de hand van hoogdravende regels over rechtvaardigheid, privacy en veiligheid. Deze abstracte principes worstelen echter vaak met de uitleg van wat er gebeurt wanneer een arts moe is, een computersysteem traag is, of een patiënt geen smartphone heeft. De echte ethische uitdagingen verschuilen zich vaak in de alledaagse details van hoe een systeem wordt gebruikt, in plaats van in de code zelf.
Een team van onderzoekers van universiteiten in Zweden en Denemarken probeerde deze verborgen uitdagingen te vinden. Ze zochten niet naar studies die expliciet als "ethisch onderzoek" waren gelabeld. In plaats daarvan verzamelden ze bijna driehonderd rapporten van echte projecten waar kunstmatige intelligentie al in de praktijk was gebracht in zorginstellingen. Ze lazen de bevindingen van deze studies door en zochten naar elke vermelding van vertrouwen, veiligheid, werkdruk of rechtvaardigheid, zelfs als de auteurs van die oorspronkelijke studies het woord "ethiek" nooit gebruikten. Door deze verspreide observaties samen te voegen, bouwden de onderzoekers een beeld op van hoe kunstmatige intelligentie zich daadwerkelijk gedraagt wanneer het de echte wereld ontmoet. Ze ontdekten dat de meest significante ethische kwesties vaak vermomd waren als eenvoudige technische storingen of workflowproblemen.
De onderzoekers ontdekten dat vertrouwen in deze systemen geen simpele schakelaar is die van "wantrouwen" naar "vertrouwen" omklapt. In plaats daarvan is het een zorgvuldige, voortdurende kalibratie. Artsen en verpleegkundigen accepteren wat de computer zegt niet blindelings, maar wijzen het ook niet direct af. Ze leren erop te vertrouwen voor specifieke taken, terwijl ze voor andere taken sceptisch blijven. Ze vertrouwen een systeem misschien om een mogelijk hartprobleem te signaleren, maar negeren het wanneer het een behandelplan voorstelt dat niet past bij de unieke levensomstandigheden van de patiënt. Dit vertrouwen wordt vaak bemiddeld door anderen; een arts kan een hulpmiddel vertrouwen omdat een gerespecteerde collega of een ziekenhuisbestuurder het heeft aanbevolen, in plaats van omdat de arts de technologie zelf begrijpt. Wanneer het vertrouwen wegvalt, komt dat zelden door een enkele fout. Het komt meestal doordat het systeem de complexiteit van de menselijke cultuur, de nuances van een moeilijk gesprek of de specificiteit van het leven van een patiënt niet begrijpt.
Een belangrijke bevinding van de studie is dat de introductie van kunstmatige intelligentie de aard van het werk van een arts verandert op manieren die niet altijd direct zichtbaar zijn. Hoewel de technologie vaak wordt verkocht als een hulpmiddel om artsen te ondersteunen, vonden de onderzoekers dat het de machtsbalans stilletjes kan verschuiven. Artsen vrezen dat het vertrouwen op de machine, na verloop van tijd, hen minder vaardig kan maken in de zaken die de machine niet kan doen, zoals het gebruiken van intuïtie of het lezen van de emotionele staat van een patiënt. Er is een angst dat als een arts deze vaardigheden minder gaat oefenen omdat de computer deze taken overneemt, zij het vermogen kunnen verliezen om in te grijpen wanneer de computer faalt. Dit creëert een gevaarlijke situatie waarin de arts nog steeds juridisch verantwoordelijk is voor de zorg van de patiënt, maar niet langer de praktische bekwaamheid heeft om de beslissingen van de machine te controleren of te corrigeren.
De studie benadrukte ook een verontrustend patroon met betrekking tot wie de last draagt om deze systemen te laten werken. Wanneer een systeem moeilijk te gebruiken is, traag is of verwarrende meldingen geeft, valt het extra werk vaak op de artsen en verpleegkundigen aan de frontlinie. Zij moeten dan mogelijk gegevens handmatig tussen systemen overzetten, irritante pop-upwaarschuwingen negeren of extra tijd besteden aan het dubbelchecken van het werk van de computer. De onderzoekers noemen dit "compensatoir werk". Het probleem begint vaak stroomopwaarts, bij slecht ontwerp of een gebrek aan middelen, maar de oplossing wordt stroomafwaarts afgeschoven op het personeel dat al druk bezet is. Als een systeem bijvoorbeeld niet goed is geïntegreerd met de medische dossiers van het ziekenhuis, moet een verpleegkundige gegevens handmatig opnieuw invoeren. Dit is niet alleen een irritatie; het is een veiligheidsrisico dat de kans op menselijke fouten vergroot.
Gelijkheid, of rechtvaardigheid, kwam naar voren als een ander cruciaal thema. De onderzoekers ontdekten dat systemen voor kunstmatige intelligentie vaak goed werken voor sommige groepen patiënten, maar falen voor anderen. Een systeem kan accuraat zijn voor mensen die de dominante taal spreken of toegang hebben tot smartphones, maar kan nutteloos of zelfs schadelijk zijn voor patiënten met een beperking, mensen die een andere taal spreken, of mensen met complexe medische geschiedenissen die de computer niet heeft leren herkennen. De studie toonde aan dat rechtvaardigheid niet alleen gaat over de data die voor het systeem worden gebruikt, maar ook over de ervaring van het gebruik ervan. Als een patiënt zich geïntimideerd voelt door een digitale interface of niet in staat is om een digitaal afspreeksysteem te navigeren, wordt hij effectief uitgesloten van zorg, zelfs als de technologie technisch gezien wel beschikbaar voor hem is.
Misschien wel het belangrijkste inzicht uit dit onderzoek is het concept van "cross-dimensionale uitlijning". De onderzoekers observeerden dat ethische problemen vaak ontstaan wanneer de manier waarop een probleem wordt beschreven niet overeenkomt met waar het probleem zich werkelijk bevindt, of waar de oplossing wordt toegepast. Bijvoorbeeld: een ziekenhuis kan een gebrek aan vertrouwen in een systeem omschrijven als een "trainingsprobleem", in de veronderstelling dat het probleem verdwijnt als ze artsen meer over de technologie leren. Maar als het werkelijke probleem is dat het systeem fundamenteel gebrekkig of slecht ontworpen is, zal meer training het probleem niet oplossen. De oplossing moet overeenkomen met de bron van het probleem. Als het probleem een gebrekkige workflow is, moet de oplossing een betere workflow zijn, en niet een meer waakzame verpleegkundige. Als het probleem een gebrek aan middelen is, moet de oplossing meer middelen zijn, en niet alleen beter toezicht.
De studie suggereert dat voor kunstmatige intelligentie om werkelijk ethisch te zijn in de gezondheidszorg, we verder moeten kijken dan de code en de principes. We moeten het hele systeem onderzoeken: hoe de technologie in de dagelijkse routine past, wie het extra werk doet als er iets misgaat, en of de mensen die verantwoordelijk zijn voor de beslissingen ook daadwerkelijk de macht hebben om ze te veranderen. De onderzoekers stellen dat het louter hebben van een mens "in de loop" niet genoeg is als die mens slechts een figuur is zonder echt vermogen om een slechte beslissing te stoppen. Echte veiligheid en rechtvaardigheid vereisen dat de mensen die de technologie gebruiken de autoriteit, tijd en ondersteuning hebben om het werkend te krijgen, en dat de technologie zelf zo is ontworpen dat deze past bij de rommelige realiteit van menselijke zorg, en niet andersom.
Uiteindelijk laat dit onderzoek zien dat de ethiek van kunstmatige intelligentie in de gezondheidszorg geen aparte laag is die achteraf aan de technologie kan worden toegevoegd. Het is verweven in het weefsel van de implementatie van de technologie. Het vertrouwen van een arts, de werkdruk van een verpleegkundige en de ervaring van een patiënt zijn allemaal onderdeel van de ethische vergelijking. Als we willen dat kunstmatige intelligentie de gezondheidszorg verbetert, moeten we ervoor zorgen dat de voordelen en de lasten eerlijk worden verdeeld, en dat de oplossingen die we kiezen daadwerkelijk de kernoorzaken van de problemen aanpakken. De technologie is slechts zo goed als het systeem dat haar ondersteunt, en zonder een zorgvuldige afstemming van mensen, processen en hulpmiddelen, kan zelfs de meest geavanceerde kunstmatige intelligentie er niet in slagen haar belofte waar te maken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.