A Systematic Literature Review of Large Language Models in Clinical Triage from Risk Stratification to Human Escalation
这项系统性与文献计量学综述通过对 2022 年至 2026 年间发表的 89 项研究进行合成，分析了大语言模型在临床分诊中的应用，评估了其适应策略、安全机制及性能指标，并提出了一个新的五维框架，以指导其安全地转化为急诊护理场景。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
每天，急诊室都面临着寻求医疗护理的人潮不断涌入。有些人带着轻微的擦伤而来，而另一些人则是在为生命而战。这种对患者进行分类的关键工作，被称为“分诊”（triage），由护士和医生承担，他们必须瞬间决定谁需要立即救治，谁可以等待。这一过程依赖于标准化的量表，根据紧急程度分配等级，从需要复苏的最危重病例到非紧急病例不等。然而，随着医院变得更加拥挤，以及数字化健康摄入量的增长，这些人类守门人承受的压力也随之加剧。近年来，一种新型的人工智能出现了，它能够以惊人的流畅度阅读并理解人类语言。这些被称为“大语言模型”的系统可以解读复杂的症状描述并提供医疗建议。但是，虽然它们提供了管理患者流量的潜在工具，但也带来了显著的风险。如果这类机器误判了情况，后果可能非常严重，其范围涵盖了从导致危重患者不必要的延误，到让那些并不需要急救的人过度占用急救资源。
来自美国、印度和欧洲机构的一个研究小组致力于了解这些人工智能系统是如何针对这一高风险角色进行测试的。他们对 2022 年至 2026 年间发表的 90 项科学研究进行了大规模的回顾性研究。他们的目标不仅是看这项技术是否有效，还要检查它是如何构建的、如何被测试的，以及它是否足够安全，以便在真实的医院中使用。研究人员发现，尽管这些计算机程序在研究领域变得越来越普遍，但它们尚未准备好独立做出生死攸关的决策。他们分析的研究表明，尽管这项技术正在迅速进步，但在处理最危险的错误方面仍存在困难：即漏掉处于危重状态的患者。
该回顾首先收集了所有关于使用这些基于语言的系统进行患者分类的研究。研究人员筛选了数百份记录，最终确定了 9-项符合严格标准的原始研究。他们发现，其中近一半的研究侧重于急诊科，那里对速度的需求最为迫切。另一大部分研究则关注门诊诊所和院前急救服务。研究人员注意到这些系统开发过程中的一个明显趋势。在早期研究中，科学家只是要求计算机在没有任何特殊训练的情况下回答问题，这种方法被称为“零样本提示”（zero-shot prompting）。然而，随着时间的推移，研究人员开始使用更先进的技术。他们开始向系统输入特定的医学指南，或将其连接到医院规则数据库，以帮助其做出更好的决策。一些团队甚至构建了多个计算机代理协同工作的系统，其中一个代理提出诊断，另一个代理则充当评论员来检查错误。
尽管有了这些技术上的进步，性能数据却呈现出一个复杂的故事。在针对标准医学量表进行测试时，人工智能系统通常能获得较高的整体准确率，在约 80% 的病例中进行正确分类。然而，研究人员强调，高平均分掩盖了一个危险的缺陷。在急诊医学领域，并非所有的错误都是平等的。一个高估轻微伤势严重程度的系统，仅仅是将一名患者送到了队伍前列，这虽然会导致其他人的延误，但很少造成伤害。相比之下，一个低估了危重状况严重程度的系统，会将一名垂死的患者送回队伍末尾，这可能导致死亡。研究发现，虽然这些系统在识别轻微问题方面表现良好，但在识别最紧急病例时经常失败。在某些研究中，漏掉危重患者的比例高达 25%。一项具体的研究强调，系统漏掉了大量涉及儿童异物卡喉的病例，这是一种需要立即采取行动的致命紧急情况。
研究人员还检查了这些系统如何处理不确定性。人类医生知道自己何时不确定，并会寻求帮助或进行更多检查。然而，计算机程序往往不知道自己是否在猜测。研究发现，在近 70% 的研究中，研究人员并未包含任何衡量系统对其答案信心程度的机制。如果没有这种安全检查，计算机可能会以绝对确定的态度给出一个错误的答案，这比犹豫不决要危险得多。此外，许多研究依赖于已经记录在医院档案中或由科学家在实验室环境中创建的数据。这些静态记录无法捕捉繁忙急诊室中的混乱现实——在急诊室里，患者的情况可能每分钟都在变化，或者家属可能会以困惑或情绪化的方式描述症状。
为了应对这些危险，作者提出了一个关于这些系统在应用于真实人类之前应如何构建和测试的新框架。他们认为，计算机绝不应该是处理最危重紧急情况的第一道防线。相反，他们建议采用一种分层的方法。第一层应该是简单且不可更改的规则集，能够立即标记特定关键词（如“胸痛”或“呼吸困难”），并将这些患者直接转交给人类医生，完全绕过复杂的语言模型。第二层将涉及语言模型本身，但前提是它必须不断对照医学指南进行检查，并且被编程为在不确定时承认自己的不确定性。如果系统没有信心，它应该停止并请求人类帮助。最后一层是人类医生，他们必须始终拥有最终决定权。该回顾总结道，虽然这些工具在帮助医生管理工作量方面具有前景，但它们尚未准备好取代人类的判断。技术正在飞速发展，但信任其处理人类生命的安全性保障仍在建设之中。在这些保障措施到位之前，这些系统的角色必须保持为辅助性的助手，而非自主的决策者。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。