Transformers Achieve 4× Better Cross-Scanner Generalization Than CNNs: Multi-Center Validation of 3D Swin Transformers Across 1,066 Subjects

技术摘要：Transformer 在跨扫描仪泛化能力上比 CNN 高出 4 倍

问题陈述
深度学习在医学图像分割临床部署中的主要障碍并非实现单一数据集上的高性能，而是在应用于来自不同扫描仪、协议和机构的数据时能否保持该性能。这种“跨扫描仪泛化”问题通常表现为严重的性能退化：当卷积神经网络（CNN）在一种扫描仪上训练后应用于来自不同制造商或场强的外部数据集时，性能会下降 8–15%。这是因为 CNN 往往学习的是扫描仪特有的强度模式，而非纯粹的解剖特征。虽然传统的解决方案（如 ComBat 或直方图匹配等激进的协调方法）试图在训练期间人为地减少这些差异，但它们无法解决模型需要学习真正具有扫描仪不变性的特征这一根本需求。此外，Transformer 架构凭借其自注意力机制，在解决这一问题方面相比 CNN 的具体效能，在严谨的多中心设置中仍缺乏量化评估。

方法论
作者展示了一个用于阿尔茨海默病（AD）研究中海马体分割的分层 3D Swin Transformer 的全面多中心验证。该研究采用了严格的“零样本”（zero-shot）评估协议，涵盖了来自三个独立数据集的 1,066 名受试者：

• 训练集： ADNI 数据集（N=500，西门子 3T）。
• 外部验证（零样本）：
  • OASIS（N=235，西门子 1.5T，不同场强）。
  • AIBL（N=331，多厂商 3T：西门子/飞利浦/GE）。

关键设计选择：

• 极简协调化： 为了压力测试模型学习扫描仪不变特征的能力，作者特意避免了激进的扫描仪协调处理（未使用直方图匹配、未使用 ComBat 校正）。仅应用了极简的标准处理：脑提取（HD-BET）、偏置场校正（N4ITK）、配准（FSL FLIRT）以及 Z-score 标准化。
• 架构： 一个用于体积分割的适配分层 3D Swin Transformer。它利用局部 7³ 窗口内的基于窗口的自注意力机制，并结合多任务学习目标（结合 Dice 损失用于分割，以及 Focal/交叉熵损失用于分类），以强制编码器学习共享的、与疾病相关的解剖特征。
• 基准模型： 与标准 CNN 基准模型（特别是 U-Net 和 nnU-Net）进行性能对比。
• 验证指标： 研究使用了 Dice 相似系数（DSC）、豪斯多夫距离（HD）以及纵向萎缩率定量分析。此外，还包括了临床验证（五名放射科医生参与）、通过蒙特卡洛 Dropout 进行的不确定性量化，以及用于确保可重复性的五折交叉验证。

核心贡献

1. 首次严谨的多中心 Transformer 验证： 这是首个在多个独立中心验证基于 Transformer 的医学分割模型的研究，其使用的外部数据集在场强和厂商方面均是完全独立的，且未将其用于超参数微调或模型选择。
2. 量化了对 CNN 的优越性： 该工作提供了头对头的比较，证明 Transformer 在跨扫描仪泛化能力上比 CNN 高出 4–7 倍。
3. 完整的临床部署方案： 除了算法指标外，论文还提供了临床转化所需的证据，包括放射科医生一致性研究、纵向疾病追踪验证、经过校准的不确定性量化以及系统性的失效分析。
4. 开放式多中心基准： 作者建立了一个用于评估跨扫描仪泛化能力的开放基准，解决了该领域对标准化多中心评估协议的需求。

结果

• 泛化性能： 3D Swin Transformer 在 ADNI 测试集上实现了 0.892±0.003 的 DSC。在零样本应用于外部数据集时，性能退化极小：
  • OASIS (1.5T)：DSC 为 0.871±0.012（退化 2.1%）。
  • AIBL (多厂商)：DSC 为 0.883±0.008（退化 0.9%）。
• 与 CNN 的对比： 相比之下，CNN 基准模型（U-Net）表现出显著更高的退化：在 OASIS 上退化 8.2%，在 AIBL 上退化 9.7%。这代表 Transformer 的泛化能力提升了 4 倍至 7.4 倍。
• 临床验证： 五名放射科医生与模型达到了高度一致（Fleiss κ = 0.72）。模型输出在 87% 的病例中被认为无需修改即可使用，从而减少了 91.6% 的标注时间。
• 纵向分析： 在对 186 名受试者的 24 个月随访中，模型成功追踪了与临床进展一致的疾病特异性萎缩率：对照组 (CN) 为 -0.8%/年，轻度认知障碍 (MCI) 为 -2.1%/年，以及阿尔茨海默病 (AD) 为 -3.2%/年 (p<0.001)。
• 不确定性量化： 蒙特卡洛 Dropout 显示预测不确定性与分割误差之间存在强相关性 (r=0.907)，能够正确标记 87% 的失败案例。
• 可重复性： 五折交叉验证和独立的重新实现确认了性能的稳定性（平均 DSC = 0.891±0.003）。

意义与主张
论文声称，Transformer 架构从根本上解决了已被视为多中心临床部署关键障碍的跨扫描仪泛化问题。通过在无需微调的情况下，在不同扫描仪、场强和厂商之间实现临床可接受的性能（DSC > 0.87），作者认为 Transformer 是处理不可避免的扫描仪多样性之现实临床应用的理想架构选择。

这项工作断言，这不仅仅是增量式的改进，而是一种质的飞跃：当 CNN 在跨扫描仪应用时表现乏力时，Transformer 通过学习抽象的、具有解剖学意义的特征来保持稳健的性能。该研究通过将严谨的零样本外部验证与完整的临床验证包相结合，为医学影像深度学习建立了一个新标准，从而推动了该领域向实际的多中心临床部署迈进。