Uncertainty-Aware Transformer-Centred Medical Text Classification:A Systematic Methodological Review and Taxonomy
这项针对 32 项基于 Transformer 的医学文本分类研究的系统综述引入了一个四层功能分类法来组织不确定性感知方法，揭示了当前研究过度集中于特征表示和训练数据可靠性，而缺乏用于不确定性估计和决策制定的标准化评估框架。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在医疗保健这一高风险领域，计算机正越来越多地被要求阅读医学笔记、扫描研究论文并整理患者记录以寻找答案。这些曾经是医生和研究人员专属的任务，现在正由能够从海量文本库中学习的复杂软件来处理。执行这项工作最强大的工具是基于一种被称为“Transformer”的技术，这是一种擅长理解人类语言细微差别的人工智能技术。当这些工具经过专门的医学语言训练时，它们在识别疾病、对症状进行分类或总结临床试验方面可以变得极其准确。然而，一个关键的缺陷仍然存在：这些系统往往过于自信。面对一个令人困惑或模棱两可的医学句子时，它们可能会以绝对的确定性宣布一个答案，即使信息很微弱或含义不明。在医院中，这种过度自信可能会导致危险的错误，因为计算机可能会将一个猜测呈现为事实，从而可能影响医生的决策或患者的治疗方案。
一项发表于2026年10月的新系统综述研究了研究人员如何试图解决这个过度自信的问题。这项由来自昆士兰科技大学和澳大利亚电子健康研究中心的 Prabhashrini Dhanushika Manage 及其同事领导的研究，并非提出一种新的单一软件工具。相反，它充当了整个领域的全面地图。研究人员收集并分析了 22019 年至 2026 年间发表的 32 项关于如何让这些医学文本分类器更可靠的独立研究。他们的目标不仅是了解计算机是否得到了正确的答案，还要了解研究人员是如何教机器知道自己何时不确定，以及当这种不确定性出现时他们采取了什么措施。团队发现，虽然科学家们已经开发了许多巧妙的方法来提高计算机阅读的数据质量，但在如何衡量或根据计算机的怀疑进行行动方面，他们仍难以建立统一的方法。
为了理清文献中各种方法的关系，作者根据每种方法在分类过程中介入的位置，将这 32 项研究组织成了一个由四个部分组成的框架，即分类法。规模最大的研究组占了所评审方法的近一半，它们关注于过程的最开始阶段：特征表示（feature representation）。这些研究人员致力于改进输入给计算机的原始材料。他们找到了丰富文本医学知识的方法，例如将词汇与特定的医学概念联系起来，或使用理解医院独特词汇的专门训练数据。通过在分类器做出猜测之前强化其可用的证据，这些方法旨在从源头上减少混乱。尽管在提高准确性方面非常有效，但该综述指出，仅仅改善输入并不能自动教会系统识别自身的局限性。
一小部分研究（仅占研究方法的约九分之一）关注于第二层级：明确测量不确定性（explicitly measuring uncertainty）。这些研究开发了技术来询问计算机：“你有多确定？”并将这种怀疑感转化为数值评分。一些方法观察计算机内部逻辑的摇摆程度，而另一些则将计算机的置信度与其真实的正确率进行对比。综述强调，与其他领域相比，这一领域仍不发达。由于这些研究使用了不同的方式来衡量怀疑，也使用了不同的标准来定义什么是“可靠”，因此很难直接比较它们的结果。目前还没有一种公认的方法来判定一台计算机是否比另一台更谨慎，这使得建立一个通用的安全网变得困难。
框架的第三层级涉及计算机在做出预测并评估其置信度之后发生的情况。这就是“具备不确定性感知能力的决策”（uncertainty-aware decision making）发挥作用的地方。在这些研究中，计算机输出的不只是一个标签；它利用其确定程度来决定下一步行动。如果系统高度自信，它可能会自动执行；如果它不确定，它可能会将病例转交给人类医生进行审核，或者拒绝输入，或者暂停以收集更多信息。研究人员发现，虽然这些策略很有前景，但目前都具有很强的特定任务性。一个适用于决定何时信任肺炎诊断的规则，可能并不适用于筛选癌症研究论文。该综述指出，目前还没有建立起跨场景的通用规则来规定计算机何时应该退后一步并让位于人类，这在这些系统如何部署到现实场景中留下了空白。
最后一个也是第二大类别的研究关注的是训练数据本身的质量。这一层级被称为“训练数据可靠性”（training-data reliability），它解决了计算机最初是如何学习的问题。该组中的许多研究致力于过滤掉不良样本、创建合成数据以填补空白，或优化由其他计算机生成的弱标签。例如，一些研究人员使用先进的语言模型生成新的医学句子以帮助训练系统，而另一些研究人员则开发了方法，在让系统学习之前检查这些生成的句子是否符合医学准确性。综서发现，虽然这些方法对于处理医疗记录中混乱的现实情况至关重要，但对于判断一段训练数据是否足够好，目前还没有统一的标准。如果没有一种共同的方式来验证计算机学习的证据，那么要保证系统的知识库是稳固的，仍然非常困难。
综述作者得出结论，实现真正可靠的医学文本分类需要对所有这四个领域进行协调一致的努力。目前，该领域处于失衡状态，重点过多地放在改进输入数据和训练过程上，而对如何衡量和应对计算机的不确定性关注相对不足。研究表明，仅仅让计算机更准确是不够的；一个系统必须能够识别自己何时在猜测，并拥有一套清晰的协议来处理这些时刻。研究人员呼吁未来的工作应致力于建立评估不确定性的统一方法，测试跨不同医学场景的决策规则，并创建验证训练数据的透明标准。在这些环节整合完成之前，最可靠的方法仍然是保持人工监督，确保计算机的置信度始终受到人类判断的检验。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。