PromptRad: Knowledge-Enhanced Multi-Label Prompt-Tuning for Low-Resource Radiology Report Labeling
PromptRad 是一个知识增强的提示微调框架,它利用 UMLS 同义词将放射学报告标注重构为掩码语言建模任务,通过超越传统微调及基于字典的方法,在极少标注数据的情况下实现高性能的多标签分类。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象你是一位图书管理员,正试图整理一座庞大而混乱的医学报告图书馆。这些报告由医生撰写,充斥着冗长、杂乱的段落,其中充满了专业术语、同义词以及诸如“未见癌症迹象”(意为患者情况良好)或“排除感染”(同样意为患者情况良好)这类棘手短语。
你的目标是为这些报告打上特定标签,例如“囊肿”、“肿瘤”或“肝损伤”,以便计算机日后能够检索。这被称为报告标注。
问题在于:
- 旧有的基于规则的系统就像一个只寻找确切单词的机器人。如果报告写的是“脂肪肝”,而你的列表中只有“脂肪变性(Steatosis)”,机器人就会漏掉它。如果报告写的是“无肿瘤”,机器人可能会因为看到了“肿瘤”这个词而感到困惑,误以为发现了肿瘤。
- 标准人工智能(深度学习) 就像一个天才学生,需要阅读成千上万本已经标注好的书籍才能学会这项工作。但在医院里,医生们太忙了,无法标注成千上万份报告。我们只有一小堆已标注的示例(可能只有 32 份)。由于学习材料不足,这位学生失败了。
登场:PromptRad
这篇论文的作者创造了一种新工具,名为PromptRad。你可以把它想象成那位天才学生在只有少量书籍可学时的巧妙学习技巧。
1. “填空题”技巧(提示微调)
PromptRad 没有强迫人工智能学习一种全新的分类方式(这需要大量数据),而是将任务转化为填空题游戏,这正是人工智能在接触任何医学报告之前就已经训练过的内容。
- 旧方法:“这是一份报告。是否存在肿瘤?是/否。”(这需要一种新的、复杂的大脑结构。)
- PromptRad 方法:“放射学报告与 [空白] 相关。”
- 人工智能只需猜测填入空白的单词。如果它猜出“肝细胞癌(Hepatoma)”(一种肿瘤),系统就知道该报告涉及肿瘤。
由于人工智能已经是猜测缺失单词的专家(它是通过阅读整个互联网学会的),即使新训练数据非常少,它也能出色地完成这项工作。
2. “同义词词典”(知识增强型词汇器)
医学术语很棘手。医生可能会写"HCC"、“肝细胞癌(hepatoma)”或“肝癌”来表达完全相同的意思。
- 问题:如果人工智能只知道"HCC"意味着“肝细胞癌(Hepatocellular Carcinoma)”,它可能会漏掉写有“肝细胞癌(hepatoma)”的报告。
- 解决方案:作者为人工智能提供了一本特殊的多词词典(基于名为 UMLS 的庞大医学同义词典)。
- 他们不是将标签“肝细胞癌(Hepatocellular Carcinoma)”仅映射到单词"HCC",而是将其映射到**"HCC"和“肝细胞癌(hepatoma)”**。
- 现在,如果人工智能用任一单词填入了空白,它就知道该标签存在。这使得人工智能更加灵活,不太可能仅仅因为医生使用了不同的单词而漏掉诊断。
3. “自动教师”(自动提示生成)
作者还构建了一个系统,自动尝试用不同的方式措辞“填空题”问题,以查看哪种方式最能帮助人工智能学习。这就像一位老师尝试用不同的方式向学生解释一个概念,直到学生终于说:“哦,我明白了!”
他们发现了什么?
该团队在来自真实医院的肝脏 CT 报告上测试了这种方法。他们只给人工智能提供了32 份已标注的报告作为学习材料(一种“低资源”设置)。
- 超越专家:PromptRad 的表现优于旧有的“基于规则”的机器人(它们漏掉了许多同义词),甚至优于试图从同样的 32 个示例中学习的标准人工智能模型。
- 超越巨头:令人惊讶的是,PromptRad 的表现几乎与GPT-4(一个庞大且极其昂贵的人工智能模型)一样好,但 PromptRad 是一个可以在普通计算机上运行的微小、轻量级模型。
- “不”字测试:医学报告中最难的部分是理解否定句(例如,“无癌症证据”)。PromptRad 在理解这些棘手的“不”字陈述方面,远优于旧有的基于规则的系统。
这为何重要?
该论文声称,PromptRad 是医院的一种实用、低成本的解决方案,这些医院没有成千上万份已标注的报告,也没有预算将敏感的患者数据发送给大型云公司(如 OpenAI)。它允许小型医院仅利用少量示例和它们自己的本地计算机来构建智能标注系统,同时保持患者数据的私密性和安全性。
简而言之:PromptRad 是一个智能、轻量级的工具,它通过玩“填空题”游戏并利用医学同义词典,教会小型人工智能阅读医学报告,使其即使在训练数据极少的情况下也能完美工作。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。