Quantifying the Effect of Synthetic Colour Fundus Photograph Scaling on Foundation Models
本研究表明,在基础模型预训练阶段扩展合成彩色眼底照相提供了一种可调控的策略,其中低容量补充可优化性能与计算量之间的平衡,而大容量补充则能显著增强外部泛化能力,且最优方法取决于具体的评估目标和可用的计算资源。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
人类的眼睛是观察人体整体健康状况的独特窗口。通过检查视网膜(位于眼球后部的光敏层),医生可以发现糖尿病、高血压甚至阿尔茨海默病等疾病的征兆。为了实现这一目标,他们通常依赖彩色眼底照相技术,即对视网膜血管和视神经乳头进行详细成像。近年来,人工智能已成为分析这些图像的强大工具,能够比以往任何时候都更快、更准确地检测疾病。然而,这些智能系统需要大量的真实患者数据来进行有效的学习。收集来自不同人群的高质量图像既困难又昂贵,且涉及严重的隐私问题。这造成了一个瓶颈:技术变得越先进,寻找用于教学的现实世界案例就变得越困难。
研究人员开始探索一种解决方案:创建看起来并表现得像真实视网膜照片的合成图像。这些由算法生成的计算机图像并非真实人物的照片,而是通过在真实数据上训练出的算法来模仿健康与患病眼睛的模式。其核心理念是,这些合成图像可以作为真实数据的补充,使人工智能模型能够在不需要收集数百万张新患者照片的情况下学习更多知识。但一个关键问题仍悬而未决:仅仅增加虚假图像是否会让系统变得更聪明,还是说存在一个临界点,使得额外的图像不再提供帮助,反而浪费计算资源?一组研究人员致力于寻找答案,通过测试不同数量的合成数据如何影响这些医学人工智能模型的性能。
该团队从三个不同的公开数据集中收集了 28,430 张真实的视网膜照片作为起点。这些图像来自中国、巴西及其他地区的患者,涵盖了多种眼部疾病。利用这些真实数据,他们训练了一个计算机程序来生成新的合成视网膜图像。他们创建了一个包含 568,600 张合成图像的海量库,其规模是原始真实收藏量的二十倍。为了测试这些合成图像如何影响人工智能,研究人员设计了六种不同的训练方案。第一种方案仅使用真实图像。第二种方案仅使用合成图像。其余四种方案将真实图像与合成图像混合使用,比例递增:每 1 张真实图像配 1 张合成图像,每 1 张真实图像配 5 张合成图像,每 1 张真实图像配 10 张合成图像,最后是每 1 张真实图像配 20 张合成图像。
这六组数据分别被用于训练独立的个人工智能模型。随后,这些模型被应用于一系列任务,包括检测青光眼、糖尿病视网膜病变和年龄相关性黄斑变性。研究人员通过两种方式评估这些模型。首先,他们在与训练期间所见数据相似的数据上进行测试,即称为内部验证。其次,他们在来自其他医院和地区的完全不同的数据集上进行测试,即称为外部验证,以观察模型是否能将其知识推广到新情况中。他们还仔细追踪了每种策略所需的计算能力,测量了生成图像和训练模型所需的总数学运算量,即浮点运算次数。
结果揭示了合成数据运作方式的细微差别。当模型在熟悉的数据上进行测试时,表现最好的组别是混合了十倍于真实图像数量的合成图像的那一组。这一组合在所有组别中实现了最高的准确率得分。然而,当模型在完全陌生的外部数据上进行测试时,情况发生了变化。使用二十倍合成图像的组别表现最佳,展现出了处理未见病例的最强能力。有趣的是,当总图像数量相同时,仅使用合成图像的组别表现与仅使用真实图像的组别不相上下。这表明,至少在所测试的任务中,合成图像可以作为一种独立的训练资源。
研究人员还观察了这些收益的成本。生成合成图像需要惊人的计算能力,占到了研究中所用总能量的约百分之九十九。其余的能量则用于训练模型。因此,研究人员发现,使用较少量的合成数据可以在性能和成本之间取得更好的平衡。采用每 1 张真实图像配 1 张合成图像的策略,在提供显著准确率提升的同时,使用了这些混合策略中最低的计算能力。它在没有产生数千张额外图像所带来的巨大能源消耗的情况下,显著提高了模型的性能。
该研究得出结论,并没有所谓的“完美”合成数据量。相反,最佳方法取决于目标。如果优先考虑构建一个能在不同人群的新数据上表现良好的模型,那么增加大量合成图像是有益的。如果目标是在有限的计算资源下高效地提高性能,那么添加较少量的合成数据则是更明智的选择。研究结果表明,合成图像是训练医学人工智能的宝贵工具,既可以作为扩展现有数据集的一种方式,也可以在真实患者数据匮乏时作为独立资源。通过将合成数据的数量与特定项目的需求及可用的计算能力进行精确匹配,研究人员可以在不损害患者隐私或耗尽数字资源的前提下,构建出更稳健、更可靠的眼科护理工具。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。