🔢 mathematics

Uncertain but Useful: Leveraging CNN Training Variability into Data Augmentation

本文表明，在训练用于神经影像学的 FastSurfer 深度学习模型时，固有的数值不确定性不仅会影响可靠性，还可以通过集成学习作为一种有效的数据增强技术，从而提升下游大脑年龄回归的性能。

原作者： Inés Gonzalez-Pepe, Vinuyan Sivakolunthu, Yohan Chatelain, Tristan Glatard

发布于 2026-07-03

📖 1 分钟阅读🧠 深度阅读

原作者： Inés Gonzalez-Pepe, Vinuyan Sivakolunthu, Yohan Chatelain, Tristan Glatard

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心大意：当计算机“猜”得不一样时

想象一下，你正在按照一份非常精确的食谱烤蛋糕（一个深度学习模型）。你预期如果使用完全相同的原料和完全相同的烤箱设置，你每次都会得到完全相同的蛋糕。

然而，这篇论文发现，在使用现代 AI 大脑扫描仪时，情况并非如此。即使你使用了完全相同的脑部扫描图像和完全相同的食谱，计算机仍可能根据计算过程中微小的、不可见的波动，烤出略有不同的“蛋糕”（分割结果）。

研究人员提出了两个大问题：

这种“烘焙不一致性”是一个问题吗？（它是否会让我们的结果变得不可靠？）
我们能否利用这种不一致性来为我们所用？（我们能否将一个漏洞转化为一项特性？）

第一部分：问题所在——“颤抖的手”

研究人员比较了两种大脑绘图方法：

FreeSurfer： 传统的旧式方法（就像一位使用手锯的老师傅）。
FastSurfer： 新型的快速深度学习方法（就像一台高科技激光切割机）。

发现：
他们发现，当新的 AI（Fast ever）在进行“学习”（训练）时，它实际上比旧方法更**“手抖”**，尤其是在大脑的外层（皮层）部分。

类比：
想象两位艺术家正在临摹一张城市地图。

旧艺术家 (FreeSurfer) 画一次地图。如果他们犯了一个小错，这个错误是稳定的。
新艺术家 (FastSurfer) 正在学习如何画画。每次练习时，由于他们处理数字的方式不同，他们的手会发生极其细微且不同的颤抖。有时他们把街道画在了左边一毫米处；有时又在右边一毫米处。

论文发现，这种新 AI 的“手抖”非常强烈，以至于它改变最终地图的程度比旧方法还要大。这一点很重要，因为如果医生依靠这张地图来测量大脑大小，微小的偏移可能会将诊断结果从“健康”变为“有风险”。

第二部分：捷径——“神奇的骰子”

为了测量这种“手抖”，研究人员使用了一种复杂的、缓慢的数学工具，称为蒙特卡洛算术 (Monte Carlo Arithmetic)。这就像是在检查沙漏中的每一粒沙子，看看是否有任何一粒的大小略有不同。这种方法很精确，但极其耗时。

发现：
他们发现了一种更快的方法来测量这种不稳定性。他们只需在训练开始时改变随机种子 (Random Seed)（可以理解为投掷一个不同的骰子）。

类比：
与其检查每一粒沙子，他们只是要求艺术家在开始绘画时带入一种不同的“情绪”（一个不同的随机种子）。他们发现，由此产生的“颤抖”地图与使用那种超慢、复杂数学工具制作出的地图几乎完全一样。

为什么这很棒： 这就像是意识到你不需要显微镜来观察手的抖动；你只需要以几种不同的方式摇晃它，然后观察结果即可。这是一种廉如此廉价且快速的方法，可以让你看到 AI 有多不稳定。

第三 part：解决方案——“合唱团效应”

通常，当计算机产生不同的结果时，我们会认为这是一个漏洞（Bug）。但研究人员问道：如果我们利用所有这些不同的版本来获得一个更好的答案呢？

发现：
他们训练了 15 个不同版本的 AI，每个版本都有不同的“情绪”（随机种子）。然后，他们并没有只挑选其中一个，而是将所有 15 张地图结合在一起（即“集成”）。

类比：
想象你在尝试猜测室外温度。

方法 A： 你询问一个人。他可能会有一点偏差。
方法 B： 你询问 15 个人，他们每个人都戴着略有不同的手表。你取他们所有答案的平均值。
结果： 这 15 个猜测的平均值通常比任何单个猜测都更接近真实温度。

在这篇论文中，他们利用这种“合唱团效应”来预测大脑年龄（根据大脑形状估算大脑的实际年龄）。

他们发现，使用这种结合了“颤抖”地图的方法，使年龄预测的准确性大大提高。
他们将其与其他试图伪造新数据的方法（比如复印机制造模糊副本）进行了对比。这种“合唱团”方法效果更好，因为这 15 张地图都是基于真实的大脑，只是观察的角度略有不同。而伪造的数据看起来“不真实”，因此帮助不大。

核心要点总结

AI 是不稳定的： 新型、快速的 AI 大脑扫描仪在训练期间对微小的数学误差比旧的慢速方法更敏感。如果不加以考虑，这可能会影响医疗诊断结果。
随机种子是一个很好的替代指标： 你不需要复杂的数学运算来测量这种不稳定性；只需改变起始的随机数字（种子），就能清晰地看到 AI 的波动程度。
拥抱波动： 研究人员并没有试图消除这种不稳定性，而是利用了它。通过结合多个略有不同的 AI 版本，他们创建了一个“超级模型”，能够比标准方法更好地预测大脑年龄，且无需收集任何新的患者数据。

简而言之： 论文表明，AI 训练中的“噪声”是真实存在的，也是危险的；但如果你倾听的是整个合唱团而非仅仅是一个歌手，那么这些噪声实际上可以帮助你更清晰地听到真相。

技术摘要：不确定性亦有用：利用 CNN 训练过程中的变异性进行数据增强

问题陈述

尽管深度学习（DL）通过降低计算时间并提供最先进的性能，彻底改变了神经影像学领域，但 DL 训练过程中固有的数值不确定性在很大程度上仍未得到充分探索。与推理阶段不同，训练涉及迭代的高维优化，其中微小的数值扰动可能会在多次迭代中累积，从而导致即使在相同数据上，模型也可能被引导至不同的解。虽然数值不确定性在传统的神经影像流水线（如 FreeSurfer）中已有充分记录，但其在 DL 训练中的行为和影响尚未得到充分理解。随着神经网络越来越多地取代传统工具包，这一差距至关重要，因为近期的研究表明，传统流水线中类似的数值噪声可能会扭曲临床发现。

方法论

作者采用了一种多维方法，来量化并利用 FastSurfer 分割模型在训练过程中的变异性：

通过蒙特卡洛算术（MCA）进行数值扰动：
- 为了模拟硬件和软件的变异性，作者应用了 MCA，这是一种在运行时对浮点运算引入随机扰动的随机算术方法。
- 通过使用 Fuzzy PyTorch，作者将随机算术直接集成到 PyTorch 执行流水线中，应用 1 个最小精度单位（ulp）的扰动来模拟虚拟精度误差。
- 作为对比，MCA 也被应用于传统的 FreeSurfer v7.3.2 流水线，并在 CPU 上使用 “fuzzy libmath” 进行处理。
以随机种子扰动作为代理：
- 为了建立一个实用的基准，作者在 GPU 上使用 15 个不同的随机种子训练模型。这些种子控制着伪随机过程（权重初始化、Dropout），同时保持数据洗牌（shuffling）固定，以隔离模型（认识论）不确定性。
- 作者评估了种子诱导的变异性与 MCA 诱导的变异性之间的结构相似性，以验证种子作为数值不确定性低成本代理的有效性。
将集成作为数据增强：
- 作者将训练时期的不稳定性重新定义为一种数据增强技术。通过使用不同的种子训练多个 FastSurctor 模型，并将它们的输出进行集成，从而为每个受试者生成 15 个各具特色且符合解剖学意义的分割结果。
- 这些基于集成生成的感兴趣区域（ROI）体积被用作下游脑龄回归任务的特征，并使用了随机森林（RF）、支持向量机（SVM）和梯度提升（GB）模型。
- 该方法与合成数据增强方法进行了对比，具体包括高斯 Copula 合成器和变分自编码器（后者因分布不切实际而被排除）。
评估指标：
- 变异性： 使用重复实验间的最小 Sørensen-Dice 分数来衡量，以捕捉最差情况下的稳定性。
- 下游性能： 通过内部数据集（FastSurfer 训练集）和外部数据集（健康大脑网络，HBN）上的脑龄回归平均绝对误差（MAE）进行评估。

关键结果

训练时期的变异性在皮层区域超过了传统方法：
- 定量分析显示，FastSurfer 的训练时期变异性达到或超过了 FreeSurfer，尤其是在皮层结构中。虽然皮层下结构的变异性基本相当，但所有皮层区域在 FastSurfer 中的变异性均显著更高。
- 这表明 FastSurfer 面临着与 FreeSurfer 之前被识别出的相同的可重复性问题，并可能对下游临床结果产生影响。
种子扰动是有效的代理：
- MCA 与随机种子扰动之间的区域变异性排名具有强相关性（Spearman $\rho = 0.877$ ）。
- 尽管 MCA 在 CPU 上进行而种子在 GPU 上进行，但这种强烈的结构一致性表明，随机种子能有效地捕捉区域不稳定性模式，从而为详尽的 MCA 提供了一个计算上可行的替代方案。
数值集成提升了下游性能：
- 使用不同种子训练的模型达到了与固定 IEEE 基准相当的性能，证实了观察到的变异性并未削弱核心模型的处理能力。
- 数据增强功效： 数值集成一致地提高了脑龄回归的性能。增加集成重复次数会导致 RF、SVM 和 GB 模型在内部和外部数据集上的 MAE 出现显著的单调改善。
- 与合成方法的比较： 数值集成优于合成增强（高斯 Copula）。虽然合成方法与性能提升之间的相关性较弱或不显著，但数值集成提供了稳健的增益。作者将其归功于集成成员代表了真实 MRI 扫描的真实解剖学变化，而合成方法难以从有限的数据中学习到真实的分布。

意义与主张

本文将深度学习训练期间的数值不确定性定位为影响神经影像可靠性的实质性因素，并会对下游任务产生可衡量的后果。作者提出了两个主要主张：

风险评估： FastSurfer 训练中固有的数值不确定性至少与传统的 FreeSurfer 流水线一样显著，特别是在皮层区域。这使得系统性调查从基于 DL 的流水线到下游临床分析的不确定性传播变得十分必要。
增强机会： 训练时期的变异性（通过随机种子扰动进行有效表征）可以被建设性地转化为一种数据增强技术。通过利用集成，研究人员可以在不增加额外数据采集的情况下，生成多样且符合解剖学真实的表示，从而提高下游回归任务相对于合成数据生成方法的鲁棒性。

研究结论认为，数值不确定性不应仅仅被视为需要最小化的误差来源，而应被视为一种资源，通过对其进行适当的表征和利用，可以增强神经影像应用的可靠性和性能。