← 最新论文
💻 computer science

Benchmarking Foundation Models for Mitotic Figure Classification

本文表明,通过低秩自适应(LoRA)对基础模型进行微调,在有丝分裂象分类任务中显著优于标准的线性探测,并接近全数据基准,从而在有限数据下提供更卓越的性能,并增强了跨未见肿瘤领域的鲁棒性。

原作者: Jonas Ammeling, Jonathan Ganz, Emely Rosbach, Ludwig Lausser, Christof A. Bertram, Katharina Breininger, Marc Aubreville

发布于 2026-02-05
📖 1 分钟阅读☕ 轻松阅读

原作者: Jonas Ammeling, Jonathan Ganz, Emely Rosbach, Ludwig Lausser, Christof A. Bertram, Katharina Breininger, Marc Aubreville

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

大局观:教 AI 如何识别细胞分裂

想象一下,一位病理学家(在显微镜下观察组织的医生)正试图计数“有丝分裂象”(mitotic figures)。这些是正在进行分裂中的细胞。计数就像是在检查一座城市的增长速度;它能告诉医生肿瘤的侵略性有多强。

然而,教计算机完成这项任务非常困难。这就像试图通过只给孩子看五张照片,就教会他们识别某种特定类型的鸟类。通常,你需要成千上万个标注过的样本才能做对。但在医学领域,获取这些标注好的样本既缓慢又昂贵,且需要高度专业的专家。

这篇论文探讨的是:我们能否利用“基础模型”(Foundation Models,即在数百万张未标记图像上预训练过的超级聪明 AI)来用极少的样本解决这个问题?

主要角色:“学生们”

研究人员测试了几种不同的 AI “学生”,看看谁学得最好:

  1. “老派学生”(基准模型/Baselines): 这些是传统的 AI 模型(如 ResNet50 和 ViT),它们是从零开始训练,或者是在通用的图像(比如来自互联网的猫和狗)上训练的。它们必须从头开始学习一切。
  2. “天才们”(基础模型/Foundation Models): 这些是庞大的 AI 模型(如 Virchow、UNI、H-optimus),它们已经“阅读”了数百万张医学切片。它们已经了解组织长什么样,但还没有被专门教过如何识别有丝分裂象。
  3. “老师们”(适配策略/Adaptation Strategies): 我们如何教这些“天才”完成新任务?
    • 线性探测(Linear Probing,即“小抄”): 我们冻结“天才”的大脑(不让它们改变),只是在顶端加一个简单的“是/否”开关。这很快,但“天才”无法真正学习任何新知识。
    • LoRA(即“微调/Fine-Tuning”): 我们让“天才”对其大脑进行微小的、特定的调整。这就像给他们一本专门的培训手册。我们只改变他们不到 5% 的大脑,所以既快速又廉价,但他们能更好地学习新任务。

实验:测试环节

研究人员让这些学生参加了两项主要测试:

测试 1:“数据匮乏”挑战
他们给了学生不同数量的训练数据:0.1%、1%、10% 和 100% 的可用图像。

  • 结果: 当数据匮乏时(比如只有图书馆中 10% 的书),**配合 LoRA 的“天才”**是明显的赢家。它们的表现几乎与看到了 100% 数据时一样好。
  • 类比: 想象你在学习一门新语言。“老派”学生需要读完整本词典才能掌握。而“配合 LoRA 的天才”已经掌握了语法和词汇,他们只需要针对这次测试进行一次快速的提醒。他们仅用极少部分的学习材料就达到了专家水平。

测试 愈“异国他乡”挑战(跨领域/Cross-Domain)
他们在一种类型的肿瘤(例如狗的皮肤癌)上训练学生,然后测试他们在另一种完全不同的肿瘤(例如人类乳腺癌)上的表现。这模拟了现实世界中的场景:在一家医院训练的模型可能会被用于另一家使用不同设备或患者类型的医院。

  • 结果: “老派”学生感到困惑并表现糟糕。“配合线性探测的‘天才’”表现尚可,但仍很吃力。而**配合 LoRA 的“天才”**表现出了惊人的鲁棒性(稳健性)。它们的适应能力极强,几乎缩小了作为“训练肿瘤专家”与“新肿瘤专家”之间的差距。
  • 类比: 如果你在一个阳光明媚、地势平坦的城市学习开车,当你尝试在雪地里的山村开车时,你可能会惊慌失措。“老派”司机惊慌了。“配合 LoRA 的‘天才’”就像是有经验的司机,他们可以立即调整驾驶风格以适应新的地形,而不需要重新学习如何开车。

核心发现

  1. LoRA 是神奇的钥匙: 仅仅在大型模型顶端加一个“开关”(线性探测)是不够的。你必须允许它们进行微小的调整(LoRA)才能真正脱颖而出。
  2. 小数据,大成果: 通过使用 LoRA,模型仅使用 10% 的训练数据就达到了近乎完美的性能。这意味着我们可能不需要标注数百万张图像就能获得优秀的医学 AI。
  3. 旧模型仍有价值: 有趣的是,传统的“老派”模型在用所有数据进行完整训练后,仍然非常有竞争力。有时,一个训练良好的传统模型与高级的“基础模型”一样出色。但在数据量较低时,基础模型会完胜。
  4. 泛化能力: 最好的模型(如 Virchow2 和 H-optimus-0)具有极强的适应能力,它们并不太在意肿瘤类型或显微镜的变化,始终保持可靠。

总结

这篇论文证明了,使用大规模预训练 AI 模型并对其进行轻微调整(通过 LoRA),是解决缺乏大量标注数据的医学影像问题的强大方法。这就像拥有一个见识过整个世界的“天才”,你只需要给他们一个快速且具体的指令来解决你的问题,而不是从头开始教起。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →