Understanding Stigmatizing Language in Clinical Documentation: A Paired Comparison of Ambient AI Drafts and Clinician Finalized Notes
Deze studie onthult dat hoewel ambient AI-tools stigmatiserende taal genereren in klinische concepten, de redactie door clinici het probleem vaak verergert door meer stigmatiserende termen toe te voegen dan zij verwijderen, wat resulteert in een netto toename van bevooroordeelde taal in de definitieve elektronische patiëntendossiers.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een drukke dokterspraktijk voor waar een nieuwe, hoogtechnologische robotassistent is aangenomen om artsen te helpen bij het schrijven van hun patiëntendossiers. Deze robot luistert naar het gesprek tussen de arts en de patiënt en typt direct een conceptversie uit. Het idee is om de artsen tijd te besparen, zodat zij zich kunnen concentrenen op het genezen in plaats van op het typen.
Echter, deze studie stelde een cruciale vraag: Schrijft de robot dingen die gemeen of oordelend zijn over patiënten, en wat gebeurt er wanneer de arts dat concept leest en bewerkt voordat hij het opslaat?
Hier is het verhaal van wat de onderzoekers vonden, eenvoudig uitgelegd:
De Opzet: Het Robotconcept versus de Menselijke Bewerking
De onderzoekers bekeken meer dan 6 than 66.000 paren notities. Voor elk paar vergeleken ze:
- Het Robotconcept: De ruwe tekst die de AI genereerde direct na het bezoek.
- De Definitieve Notitie: De tekst nadat de arts deze had gelezen, gecorrigeerd en ondertekend.
Ze gebruikten een "woordenboek van gemene woorden" (een lijst van 251 termen) om taal te detecteren die een patiënt zou kunnen stigmatiseren of beschamen—woorden zoals "dronken", "onplezierig", "niet-therapietrouw" of "uitdagend".
De Grote Verrassing: De "Nettowinst" aan Gemene Woorden
Je zou denken dat wanneer een arts een concept van een robot bewerkt, hij optreedt als een strikte redacteur, die eventuele onbeleefde of bevooroordeelde woorden die de robot per ongeluk schreef, wegstreept.
Dat is niet wat er gebeurde.
- De Fouten van de Robot: Ongeveer 21% van de concepten van de robot bevatte ten minte minstens één stigmatiserend woord.
- De Wijzigingen van de Arts: Nadat de artsen de notities bewerkten, steeg dit aantal naar 24%.
Denk er zo over na: Stel je voor dat de robot een verhaal schrijft met 100 typefouten. Je verwacht dat de redacteur (de arts) de typefouten herstelt. Maar in dit geval liet de redacteur niet alleen sommige typefouten ongemoeid, maar schreef ook nieuwe typefouten in het verhaal.
De studie vond dat artsen waarschijnlijker stigmatiserende woorden aan de notitie toevoegden dan dat ze ze verwijderden. Sterker nog, voor elk woord dat een arts verwijderde, voegde hij meer dan één nieuw woord toe. Het bewerkingsproces verhoogde de hoeveelheid oordelende taal in het definitieve medische dossier zelfs.
Waar Vonden de Wijzigingen Plaats?
De onderzoekers merkten op dat de "Anamnese" (wat de patiënt aangeeft dat er mis is) en de "Beoordeling & Beleid" (de diagnose van de arts en de volgende stappen) de plekken waren waar deze woorden het vaakst voorkwamen. Dit zijn de secties waar artsen de geschiedenis van de patiënt interpreteren en oordelen.
- Wat werd verwijderd? Artsen verwijderden soms botte woorden zoals "dronken" of "onplezierig".
- Wat werd toegevoegd? Artsen vervingen die botte woorden vaak door iets subtielere, maar nog steeds stigmatiserende zinnen zoals "onbetrouwbare informant" (wat suggereert dat de patiënt niet de waarheid spreekt), "onbetrouwbaar" of "niet-therapietrouw" (wat suggereert dat de patiënt de instructies niet zal opvolgen).
Het is alsof de arts een bot, hard label nam en dit verving door een "beleefd" label dat nog steeds hetzelfde negatieve gewicht draagt.
De Kern van het Verhaal
Deze studie vond niet dat de robot de enige schurk is. In plaats daarvan stelden ze vast dat de combinatie van de robot en de menselijke redacteur een probleem creëert.
- De robot schrijft soms bevooroordeelde dingen.
- De arts herstelt een deel ervan, maar introduceert nieuwe bevooroordeelde dingen van zichzelf.
- Het resultaat is dat de definitieve notitie die in het computersysteem wordt opgeslagen, meer stigmatiserende taal bevat dan het oorspronkelijke concept van de robot.
De onderzoekers concluderen dat het simpelweg gebruiken van AI om notities te ontwerpen de bias niet automatisch oplost; in feite kan het menselijke bewerkingsproces de bias soms erger maken door nieuwe, oordelende beschrijvingen toe te voegen die uiteindelijk in het permanente medische dossier van de patiënt terechtkomen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.