Understanding Stigmatizing Language in Clinical Documentation: A Paired Comparison of Ambient AI Drafts and Clinician Finalized Notes
这项研究表明，尽管环境人工智能工具在临床草稿中生成了带有污名化的语言，但临床医生的编辑过程往往会通过引入比删除更多的污名化术语来加剧这一问题，从而导致最终生成的电子健康记录中偏见语言的净增。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个繁忙的医生诊室，这里新聘请了一位高科技机器人助手来帮助医生书写病历。这个机器人会倾听医生与患者之间的对话，并立即生成一份草稿。其初衷是为医生节省时间，让他们能专注于治病救人，而不是忙于打字。
然而，这项研究提出了一个关键问题：机器人是否会写出对患者带有恶意或评判性的内容？当医生阅读并修改这份草稿后再进行保存时，会发生什么？
以下是研究人员发现的过程，用通俗易懂的方式进行了解释：
背景设定：机器人草稿 vs. 人类编辑
研究人员查看了超过 66,000 对病历。对于每一对病历，他们对比了：
- 机器人草稿： AI 在诊疗结束后立即生成的原始文本。
- 最终病历： 医生阅读、修改并签字确认后的文本。
他们使用了一个“负面词汇字典”（包含 251 个术语的列表）来识别可能对患者产生污名化或羞辱性的语言——例如“醉酒的”、“令人不悦的”、“不配合的”或“具有挑战性的”等词汇。
大大的惊喜：“负面词汇净增”
你可能会认为，当医生编辑机器人的草稿时，他们会像一名严格的编辑一样，删掉机器人无意中写下的任何粗鲁或带有偏见的词汇。
但事实并非如此。
- 机器人的错误： 约 21% 的机器人草稿包含至少一个污名化词汇。
- 医生的修改： 在医生编辑病历后，这个比例上升到了 24%。
你可以这样理解：想象机器人写了一个带有 100 个错别字的句子。你预期编辑（医生）会修正这些错别字。但在这种情况下，这位编辑不仅没有修正错别字，反而在故事中写进了新的错别字。
研究发现，医生更有可能向病历中添加带有污名化的词汇，而不是删除它们。事实上，医生每删除一个词，添加的新词数量就超过了一个。编辑过程实际上增加了最终医疗记录中评判性语言的数量。
变化发生在何处？
研究人员注意到，在“现病史”（患者描述哪里不适）和“评估与计划”（医生的诊断及后续步骤）这两个部分，这些词汇出现得最为频繁。这些部分正是医生对患者叙述进行解读并做出判断的地方。
- 哪些被删除了？ 医生有时会删除像“醉酒的”或“令人不悦的”这类直白的词汇。
- 哪些被添加了？ 医生经常用一些稍微委婉、但仍带有污名色彩的短语来替换这些直白词汇，例如“病史提供者不可靠”（暗示患者无法说实话）、“不可靠”或“不依从”（暗示患者不会听从医嘱）。
这就像是医生将一个生硬、粗鲁的标签，换成了一个看似“礼貌”但同样带有负面含义的标签。
总结
这项研究并没有发现机器人是唯一的“罪魁祸首”。相反，它发现机器人与人类编辑的结合产生了一个问题。
- 机器人有时会写出带有偏见的内容。
- 医生虽然会修正其中一些内容，但也会引入自己新的偏见。
- 结果是，保存在计算机系统中的最终病历，其污名化语言比机器人的原始草稿更多。
研究人员得出结论：仅仅使用 AI 来起草病历并不能自动解决偏见问题；事实上，人类的编辑过程有时会让偏见变得更严重，因为它会添加新的、带有评判性的描述，而这些描述最终会留在患者永久性的医疗记录中。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。