Quantized Machine Learning Models for Medical Imaging in Low-Resource Healthcare Settings

技术摘要：面向低资源医疗环境的医学影像量化机器学习模型

问题陈述
深度学习模型，特别是如 DenseNet 和 ResNet 等卷积神经网络（CNN），在医学图像分析中已展现出高准确率，包括基于 MRI 扫描的脑肿瘤分类。然而，在低资源临床环境（如乡村诊所、移动诊断单元）中部署这些高性能模型，受到严格的计算、内存和功耗限制阻碍。这些环境通常缺乏 GPU、稳定的电源供应或足以运行全精度（Float32）深度网络的内存。因此，算法能力与可部署的临床效用之间存在显著差距。挑战在于开发能够在严重资源限制下高效运行同时保持诊断准确性的模型。

方法论
本文提出了一种多策略压缩框架，旨在为脑肿瘤 MRI 分类生成可部署的模型。该框架整合了三种方法：

1. Float16 训练后量化（PTQ）： 主要经过实验验证的流水线采用 MobileNetV2 作为骨干网络，因其具有倒置残差块且在边缘设备上效率高而被选用。
2. 量化感知训练（QAT）： 一种互补策略，使用 TensorFlow 模型优化工具包在训练期间模拟低精度算术，以实现 INT8 转换。
3. 知识蒸馏： 一种互补策略，其中紧凑的 DenseNet-32 学生模型从大容量 DenseNet-101 教师模型学习，随后进行低位训练后量化。

实验流水线（MobileNetV2）
本研究聚焦于四类分类任务：胶质瘤、脑膜瘤、垂体瘤和无肿瘤（健康对照）。MobileNetV2 流水线经历了以下过程：

• 数据预处理： MRI 切片被标准化为 224×224 RGB 图像，归一化至 [0,1]，并进行增强（旋转、翻转、平移、缩放、亮度调整）以提高泛化能力。
• 三阶段迁移学习：
  • 阶段 1： 冻结骨干网络；仅训练分类头（全局平均池化、批归一化、带 Dropout 和 L2 正则化的全连接层）15 个 epoch。
  • 阶段 2： 解冻骨干网络；以降低的学习率（$10^{-5}$）进行端到端微调，持续 30 个 epoch。
  • 阶段 3： 从阶段 2 的最佳检查点继续训练，使用超低学习率（$5 \times 10^{-6}$）持续 20 个 epoch。
• 量化： 使用 Float16 PTQ 将训练好的 Float32 模型转换为 TensorFlow Lite 格式。

关键结果

• 准确率： 全精度（Float32）MobileNetV2 基线实现了 82.20% 的验证准确率。Float16 量化模型实现了 82.37%，差异仅为 -0.17%（在正常方差范围内），表明无有意义的准确率损失。
• 压缩效率： 模型大小从 35.34 MB 减少至 5.76 MB，实现了 6.14 倍 的压缩比。这种减少超过了仅凭位宽减半所预期的理论 2 倍，归因于 TensorFlow Lite 的图优化（例如算子融合、移除特定于训练的节点）。
• 各类别性能： 量化在所有类别中均匀保留了诊断性能。模型在“无肿瘤”（F1=0.89）和“垂体瘤”（F1=0.86）上表现最佳，而“脑膜瘤”最具挑战性（F1=0.73）。混淆矩阵显示，最常见的错误发生在视觉上相似的肿瘤类型之间（例如脑膜瘤与胶质瘤），这种模式与 T1 加权 MRI 中的放射学重叠一致，且在量化后保持不变。

意义与主张
本文主张，轻量级量化模型可以在资源受限的环境中提供具有临床可行性的脑肿瘤筛查，而不会牺牲诊断可靠性。

• 部署可行性： 在 5.76 MB 的大小下，量化模型小到足以适配低功耗 CPU 和单板计算机（如 Raspberry Pi 4）的片上内存，使其适用于缺乏 GPU 硬件的乡村诊所中的边缘设备。
• 临床可行性： 各类别指标的均匀保留证实，压缩过程并未不成比例地降低对特定肿瘤类型的敏感性，这是维持临床医生对自动筛查工具信任的关键要求。
• 框架贡献： 虽然 MobileNetV2/Float16 流水线已得到充分验证，但本文将 QAT 和知识蒸馏策略定位为同一框架内的互补方法，其完整的实证评估留待未来工作完成。

局限性与未来工作
作者承认数据集规模中等且来源有限，因此需要在更多样化、多机构的数据上进行验证。未来工作包括完成 QAT 和蒸馏流水线的实证评估，在实际嵌入式硬件上测量端到端推理延迟，并将该框架扩展以包含额外的 MRI 模态（T2 加权、FLAIR）及前瞻性临床试验。