Understanding Stigmatizing Language in Clinical Documentation: A Paired Comparison of Ambient AI Drafts and Clinician Finalized Notes
Diese Studie zeigt auf, dass, während Ambient-KI-Tools stigmatisierende Sprache in klinischen Entwürfen erzeugen, die editorische Überarbeitung durch Kliniker das Problem oft dadurch verschärft, dass mehr stigmatisierende Begriffe eingeführt als entfernt werden, was zu einer Nettozunahme von voreingenommener Sprache in den finalisierten elektronischen Gesundheitsakten führt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine geschäftige Arztpraxis vor, in der ein neuer, hochmoderner Roboter-Assistent eingestellt wurde, um Ärzten beim Schreiben ihrer Patientenakten zu helfen. Dieser Roboter hört dem Gespräch zwischen dem Arzt und dem Patienten zu und tippt sofort einen Entwurf ab. Die Idee ist, den Ärzten Zeit zu sparen, damit sie sich auf das Heilen konzentrieren können, anstatt zu tippen.
Diese Studie stellte jedoch eine kritische Frage: Schreibt der Roboter Dinge, die gemein oder wertend über Patienten sind, und was passiert, wenn der Arzt diesen Entwurf liest und bearbeitet, bevor er ihn speichert?
Hier ist die Geschichte dessen, was die Forscher herausgefunden haben, einfach erklärt:
Der Aufbau: Der Roboter-Entwurf vs. die menschliche Bearbeitung
Die Forscher untersuchten über 66.000 Paare von Notizen. Für jedes Paar verglichen sie:
- Den Roboter-Entwurf: Den Rohtext, den die KI unmittelbar nach dem Besuch generierte.
- Die fertige Notiz: Den Text, nachdem der Arzt ihn gelesen, korrigiert und freigegeben hatte.
Sie verwendeten ein „Wörterbuch für gemeine Wörter“ (eine Liste von 251 Begriffen), um eine Sprache aufzuspüren, die Patienten stigmatisieren oder beschämen könnte – Wörter wie „betrunken“, „unangenehm“, „nicht konform“ oder „herausfordernd“.
Die große Überraschung: Der „Nettozuwachs“ an gemeinen Wörtern
Man könnte meinen, dass ein Arzt, wenn er einen Entwurf eines Roboters bearbeitet, wie ein strenger Lektor handeln würde, der alle unhöflichen oder voreingenommenen Wörter streicht, die der Roboter versehentlich geschrieben hat.
Das ist nicht passiert.
- Die Fehler des Roboters: Etwa 21 % der Roboter-Entwürfe enthielten mindestens ein stigmatisierendes Wort.
- Die Änderungen der Ärzte: Nachdem die Ärzte die Notizen bearbeitet hatten, stieg die Zahl auf 24 %.
Stellen Sie sich das so vor: Stellen Sie sich vor, der Roboter schreibt eine Geschichte mit 100 Tippfehlern. Sie erwarten, dass der Lektor (der Arzt) die Tippfehler korrigiert. Aber in diesem Fall hat der Lektor nicht nur einige der Tippfehler ignoriert, sondern auch neue Tippfehler in die Geschichte eingebaut.
Die Studie ergab, dass Ärzte eher dazu neigten, stigmatisierende Wörter in die Notiz einzufügen, als sie zu entfernen. Tatsächlich fügten sie für jedes Wort, das ein Arzt löschte, mehr als ein neues hinzu. Der Bearbeitungsprozess erhöhte tatsächlich die Menge der wertenden Sprache im endgültigen Krankenblatt.
Wo fanden die Änderungen statt?
Die Forscher bemerkten, dass die „Anamnese“ (was der Patient über seine Beschwerden sagt) und die „Beurteilung und Planung“ (die Diagnose des Arztes und die nächsten Schritte) die Bereiche waren, in denen diese Wörter am häufigsten auftauchen. Dies sind die Abschnitte, in denen Ärzte die Geschichte des Patienten interpretieren und Urteile fällen.
- Was wurde entfernt? Ärzte löschten manchmal drastische Wörter wie „betrunken“ oder „unangenehm“.
- Was wurde hinzugefügt? Ärzte ersetzten diese drastischen Wörter oft durch etwas subtilere, aber dennoch stigmatisierende Formulierungen wie „unzuverlässiger Anamnesesteller“ (was impliziert, dass der Patient nicht die Wahrheit sagen kann), „unzuverlässig“ oder „nicht therapietreu“ (was impliziert, dass der Patient Anweisungen nicht befolgen wird).
Es ist, als ob der Arzt ein plumpes, hartes Etikett genommen und es durch ein „höfliches“ Etikett ersetzt hätte, das jedoch die gleiche negative Wirkung trägt.
Das Fazit
Diese Studie fand nicht heraus, dass der Roboter der einzige Bösewicht ist. Stattdessen stellte sie fest, dass die Kombination aus dem Roboter und dem menschlichen Bearbeiter ein Problem schafft.
- Der Roboter schreibt manchmal voreingenommene Dinge.
- Der Arzt korrigiert zwar einige davon, führt aber eigene neue Voreingenommenheiten ein.
- Das Ergebnis ist, dass die endgültige, im Computersystem gespeicherte Notiz mehr stigmatisierende Sprache enthält als der ursprüngliche Entwurf des Roboters.
Die Forscher kommen zu dem Schluss, dass die bloße Verwendung von KI zur Erstellung von Notizen das Problem der Voreingenommenheit nicht automatisch löst; tatsächlich kann der menschliche Bearbeitungsprozess die Voreingenommenheit sogar verschlimmern, indem er neue, wertende Beschreibungen hinzufügt, die dann in der dauerhaften Krankenakte des Patienten landen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.