Institution-Specific LLM Prompting Recovers PHI That De-identification Systems and Their Gold Standards Both Miss
本研究表明，针对特定机构的大语言模型提示技术能有效找回传统脱敏系统及其金标准所遗漏的局部确定的受保护健康信息，在实现更高召回率和精确度的同时，还能够对参考标注中的错误进行审计与纠正。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
医院不断产生大量的书面记录，从入院记录到出院小结，捕捉着患者生活的亲密细节。为了将这些记录用于研究或改进医疗系统，医生和科学家必须首先移除任何可能识别特定个人的信息，例如姓名、日期或病历号。这个被称为“去标识化”的过程是一项法律要求，旨在保护隐私的同时允许医疗数据的共享。几十年来，计算机一直承担着利用规则和模式来寻找并隐藏这些细节的任务。然而，这些系统在处理针对单一医院或诊所的特定信息时往往显得力不从心。一个建筑物的简单缩写、一个部门的独特内部代码，或者一个当地设施的昵称，对于通用的计算机程序来说可能毫无意义，但对于熟悉该特定机构的人来说，却能瞬间揭示患者的身份。
贝勒医学院（Baylor College of Medicine）和德克萨斯儿童医院（Texas Children's Hospital）的研究小组致力于测试新一代先进计算机程序——即大语言模型——是否能够解决这个特定的问题。这些模型经过海量文本训练，能够以旧软件无法比拟的方式理解上下文。研究人员希望看看，他们是否可以仅仅通过指令引导这些模型去寻找传统系统会遗漏的医院特定细节，而无需从头开始重新训练它们。他们还想观察这种方法是否能避免一个常见的陷阱：即移除过多信息导致医疗笔记变得毫无用处，或者留下过多信息从而导致隐私泄露风险。
研究小组收集了一百份真实的临床记录，这些记录来自儿科肿瘤患者，即患有癌症的儿童。这些记录经过人类专家的仔细审查，专家们标记了他们能发现的每一处隐私信息，从而创建了一份严格的清单，规定了哪些内容应当被隐藏。这份清单包括了标准项目，如姓名和日期，但也包含了那些棘手的、局部的细节，例如特定医院病房的名字或工作人员的传呼机号码。研究人员随后要求八个不同的语言模型对这些记录进行处理。他们以三种不同的方式测试了这些模型。首先，他们向模型提供了基于联邦隐私法的标准指令集。接着，他们增加了特定的指令，要求模型寻找那些标准规则通常会忽略的本地、医院特定细节。最后，他们增加了第三层指令，明确告知模型哪些内容不应该被隐藏，以确保像药物剂量或实验室结果这类重要的医学事实不会被误删。
结果显示，这种新型计算机模型在执行任务时明显优于目前医院使用的专业软件。表现最好的模型找出了几乎所有的隐私信息，包括那些旧系统会遗漏的困难且局部的细节。当研究人员加入关于医院自身缩写和建筑名称的特定指令时，模型找回了标准规则未能捕捉到的细节中的近百分之八十。至关重要的是，研究人员发现，通过仅仅告诉模型哪些内容应该保留，就可以修正模型过于激进的行为。这使得模型既能非常谨慎地保护隐私，又能非常谨慎地保持医疗文本的实用性。
研究小组还测试了一个更复杂的想法：一个由多个程序组成的团队协作（其中一个程序检查另一个程序的工作）是否能比单个程序做得更好？研究人员尝试了各种多步骤团队的组合，但没有一个组合的表现优于经过良好指令引导的单次运行模型。事实上，这些复杂的团队往往表现得不够稳定，且需要更多的计算能力。最有效的方法是直接给单个模型一份清晰、详细的清单，告诉它要寻找什么以及要避免什么。
当研究人员仔细检查模型犯下的错误时，得到了一个或许最为令人惊讶的发现。他们发现，模型在隐藏某些信息时往往是正确的，而这些信息甚至连人类专家都遗漏了。当研究人员重新检查这些记录时，他们确认了许多模型所隐藏的项目确实是原先清单所忽略的隐私信息。这表明，用于训练和测试这些系统的标准清单往往是不完整的。模型不仅仅是在遵循规则；它们实际上是在对规则本身进行审计，发现了人类标注员所遗漏的漏洞。
研究人员得出结论，提升隐私保护水平的关键不在于构建更复杂的计算机团队，而在于给予模型更好的指令。通过命名特定医院需要保护的本地细节，并警告模型不要删除过多内容，单次计算机调用即可实现一种旧系统在不进行昂贵重训的情况下无法达到的安全性和准确性水平。这种方法提供了一种灵活的方式，使隐私保护能够适应任何特定的医院或诊所，确保在患者数据保持安全的同时，不会丢失那些救命所需的医疗细节。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。