Probabilistic Robustness in Medical Image Classification

技术摘要：医学图像分类中的概率鲁棒性

问题陈述
尽管深度学习（DL）在医学图像分类任务（从 MRI 和 CT 分析到皮肤癌和肺部疾病诊断）中展现出了强大的性能，但其在安全至上的临床环境中的部署仍受到信任度问题的阻碍。现有的鲁棒性研究主要侧重于对抗鲁棒性（Adversarial Robustness, AR），它采用最坏情况视角，试图在范数球内寻找使预测损失最大化的单一确定性扰动。作者认为，这种最坏情况的公式化表述并不代表真实的医学应用场景，因为在实际应用中，扰动通常是随机的（例如设备退化、相机失焦），而非确定性的攻击。因此，需要一种更实用的模型信任度衡量标准，以解释在现实的随机扰动下发生错误的可能性。

方法论
为了填补这一空白，本研究调查了概率鲁棒性（Probabilistic Robustness, PR），这是一种统计方法，用于评估模型在随机扰动下保持正确预测的整体可能性。该方法包含三个关键组成部分：

1. 概率鲁棒性的定义： 不同于通过求解 $\delta^* = \arg \max_{\|\delta\| \leq \gamma} L(x+\delta, y; \theta)$ 来定义 AR，PR 将鲁棒性定义为：在从局部输入分布 $Pr(\cdot|x)$ 中提取的随机扰动 $\delta$ 下，模型预测保持不变的期望概率。形式上，$R(x, \gamma) = \mathbb{E}_{\delta \sim Pr(\cdot|x), \|\delta\| \leq \gamma} [I\{f_\theta(x+\delta) = y\}]$。
2. 自然损坏设置： 作者通过将广泛应用于通用计算机视觉的扰动类型适配到医学成像领域，构建了一套用于医学图像分类的标准自然损坏设置。
3. 实验设置： 本研究利用 MedMNIST v2 数据集，特别是 PathMNIST 子集（包含约 10.7 万个样本的 9 类结直肠病理图像）。研究评估了两种常用的 CNN 骨干网络：ResNet-18 和 ResNet-50。性能衡量不仅包括干净图像的标准指标（准确率 Accuracy 和 AUC），还包括在六种特定自然损坏下的 PR 评估：失焦（Defocus）、运动模糊（Motion blur）、染色（Stain）、饱和度（Saturation）、像素化（Pixelation）以及亮度变化（Brightness variations）。PR 评估遵循 PRBench 定义的基准测试协议。

核心贡献
本文概述了三项主要贡献：

1. 医学背景下的 PR 研究： 该工作强调了概率鲁棒性对于安全至上的医学诊断系统的实际相关性，认为对于现实的扰动场景，PR 比最坏情况下的 AR 更具适用性。
2. 标准化损坏框架： 作者通过适配通用计算机视觉中的扰动，构建并标准化了一套专门针对医学图像任务的自然损坏设置，从而实现了更真实的鲁棒性评估协议。
3. 系统性评估： 对 MedMNIST v2 上的 ResNet-18 和 ResNet-50 进行了全面评估，在分析传统预测准确率的同时，也分析了医学图像损坏设置下的 PR。

结果
在 PathMNIST 上的实验结果揭示了几个关键见解：

• 性能大幅下降： 虽然模型在干净图像上达到了很高的准确率（例如，ResNet-18：90.68% ACC，98.46% AUC），但在自然损坏下，其概率鲁棒性显著下降。例如，在亮度变化下，ResNet-18 的 PR 降至 62.84%，ResNet-50 的 PR 降至 67.91%。
• 对损坏类型的依赖性： 鲁棒性高度依赖于损坏的类型。两种模型在面对像素化、染色和饱和度时保持相对鲁棒，但在运动模糊和失焦面前表现得更为脆弱。亮度变化也会导致严重的性能退化。
• 干净性能与鲁棒性的关系： 更高的干净图像性能并不能保证更好的概率鲁棒性。尽管 ResNet-50 的 ACC 和 AUC 高于 ResNet-18，但它并未在所有损坏类型下一致地表现出更优越的 PR。

意义与主张
本文主张，对于评估深度学习模型在现实扰动下的信任度，概率鲁棒性比最坏情况下的鲁棒性提供了更实用的视角。通过提供一个具有统计学依据的参考，这项工作旨在支持深度学习系统在医学成像中更安全的部署。研究强调，实践中常见的图像质量问题（如设备退化）可能导致预测的可靠性降低，即使对于那些具有高标准准确率的模型也是如此，这使得评估框架必须超越确定性的对抗样本。