When Patients Say “Do Not Share”: LLMs Misroute Sensitive Information in Clinical Documentation
这项研究揭示了大型语言模型经常无法遵守患者在临床文档中隐藏敏感信息的请求，在超过三分之一的情况下将此类数据泄露给无关接收者，但同时也表明，实施基于接收者条件的路由工作流可以在不损害必要信息共享的前提下，显著降低这一风险。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在医生诊疗过程中那些静谧的角落里，患者经常会分享一些他们宁愿隐藏起来的事情。他们可能会谈及对成瘾的挣扎、私密的健康状况或艰难的家庭生活，并信任临床医生只会利用这些信息来帮助他们康复。有时，患者会明确要求不要将某个特定的细节分享给其他人。这种请求是医疗信任的基本组成部分，是一个承诺，即敏感事实将留在医疗护理的圈子之内。如今，医生越来越多地依赖人工智能来倾听这些对话，并将它们记录成正式的医疗笔记、转诊给其他专科医生的信函以及给雇主的信件。这些被称为大语言模型的计算机程序旨在理解人类语言并快速进行总结。但一个新问题出现了：当患者说“不要分享”时，机器会听吗？答案至关重要，因为这些数字摘要不仅仅是记录；它们是会流转的文档。一份原本旨在给心脏科医生的笔记，可能会意外地出现在发给老板的信件中，或者一份给患者的总结可能会被并非本该看到它的家属阅读。这个系统的安全性取决于计算机不仅知道该说什么，还知道谁应该听到它。
几家主要医疗中心的研究人员着手测试了正是这样的场景。他们想看看目前的人工智能系统是否能够尊重患者关于隐瞒敏感信息的明确请求，从而在生成不同文档时保持一致。为此，他们创建了一个涉及数千次模拟医疗接触的大规模受控实验。他们构建了涵盖六个敏感健康领域的 120 个详细案例研究，例如心理健康、物质使用和生殖问题。对于每个案例，他们创建了两个版本：一个版本中患者只是分享了信息，另一个版本中患者分享了同样的信息，但增加了一个明确、直接的请求，即不要将其分享给即时护理团队之外的任何人。然后，他们要求七种不同的 AI 模型将这些对话转化为五种不同类型的文档：给主治医生的笔记、给需要该信息的专科医生的转诊单、给不需要该信息的专科医生的转诊单、给患者的总结，以及给雇主的信件。
结果显示，患者的要求与机器交付的内容之间存在显著差距。即使患者明确要求对敏感事实保密，人工智能模型仍会在发送给不需要知情的人员（如无关的专科医生或雇主）的文档中包含这些信息，比例高达 34.2%。在利用来自患者撰写的健康问题的真实语言进行测试时，问题更加严重；在没有请求的情况下，模型在近 68% 的不当文档中分享了信息，即使有了请求，它们仍会在约 34% 的案例中分享信息。模型似乎难以理解语境逻辑。它们将病史视为属于每份文档的单一真相块，而不是理解一个事实对于一位医生是真实且重要的，但对于另一位医生则可能完全不合适。研究人员发现，仅仅告诉模型“不要分享”并不是阻止其泄露敏感细节的可靠方法。
研究还揭示了一个危险的权衡。当研究人员试图通过给予模型更严格的隐藏敏感信息指令来解决问题时，机器有时做得过头了。它们开始遗漏那些对于安全医疗护理实际上是必要的实事。例如，在某些患者要求隐藏一个专科医生为了安全起见绝对需要了解的状况的案例中，模型有时会完全省略该信息，从而可能使患者面临风险。这造成了一个困境：系统要么分享过多，要么隐藏过多。研究人员发现，模型并不具备权衡患者隐私请求与临床信息需求的能力。它们只是遵循最新的指令，而不理解其选择带来的后果。
为了解决这个问题，团队测试了一种更复杂的名为“接收者条件化路由工作流”的方法。该系统不再只是要求模型写笔记，而是首先要求模型识别敏感信息，然后决定该文档的具体接收者是否需要看到该信息，最后据此起草文本。当他们在其中一个模型上测试这种方法时，效果非常出色，将不当分享率从超过 21% 降低到仅为 1.2%，且没有导致系统隐藏必要的医疗事实。然而，当他们在另一个模型上尝试同样的方法时，却导致了有害遗漏的大幅上升，在近三分之二的案例中隐藏了关键信息。这表明解决方案并非普适的；一种适用于人工智能系统的解决方法可能会破坏另一种系统。研究结论是，仅依靠患者的口头请求不足以在自动化世界中保护隐私。
研究结果表明，在这些工具广泛应用于医院之前，不仅要测试它们的写作能力，还要测试它们对“谁应该阅读什么”的理解能力。由计算机生成的文档不仅仅是事实的总结；它是关于谁有权了解患者故事的决策。如果系统无法区分一份给主治医生的笔记和一封给雇主的信件，那么它就未能通过基本的安全测试。研究人员强调，数据的安全存储并不等同于信息的安全分享。即使系统是封闭的且数据经过加密，模型本身仍可能将敏感事实放入错误的文档中。研究建议，每种类型的文档和每个版本的软件都应针对这些特定错误进行单独检查。在这些系统能够可靠地履行患者的请求而不损害其安全之前，关于哪些内容进入医疗信函的最终决定权应留在人类临床医生手中。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。