Addressing Data Scarcity in 3D Trauma Detection through Self-Supervised and Semi-Supervised Learning with Vertex Relative Position Encoding

这是一份关于论文《Addressing Data Scarcity in 3D Trauma Detection through Self-Supervised and Semi-Supervised Learning with Vertex Relative Position Encoding》（通过自监督与半监督学习结合顶点相对位置编码解决 3D 创伤检测中的数据稀缺问题）的详细技术总结。

1. 研究背景与问题 (Problem)

• 核心挑战：在急诊放射学中，腹部 CT 扫描的创伤检测与定位至关重要，但面临标注数据极度稀缺的瓶颈。在使用的 RSNA 腹部创伤数据集中，4711 个扫描序列中仅有 206 个（约 4.4%）拥有像素级的分割掩码（Segmentation Masks）。
• 现有方法的局限：
  • 全监督学习：依赖大量标注数据，在医学图像中难以实现，且容易在小样本下过拟合或训练不稳定。
  • 传统 3D 检测：基于 2D 切片或简单 3D 卷积的方法难以捕捉复杂的体积空间关系；基于锚点（Anchor-based）的方法难以适应不规则的解剖结构。
  • Transformer 在 3D 中的局限：早期的 3D DETR 变体在医学数据上表现不佳，因为查询（Queries）往往关注远离目标物体的点，违反了局部性原则，且缺乏针对不规则器官的几何先验。
  • 计算资源：直接处理全尺寸 3D 体积（512×336×336）计算成本高昂。

2. 方法论 (Methodology)

本文提出了一种两阶段学习框架，结合自监督预训练（SSL）和半监督学习（SSL），旨在利用大量无标注数据解决标签稀缺问题。

A. 数据预处理

• 数据集：基于 RSNA 腹部创伤数据集，包含 4711 个序列。
• 样本划分：
  • 预训练：使用 1,206 个序列（含所有 206 个标注序列 + 1,000 个随机无标注序列）进行自监督预训练。
  • 检测任务：使用 144 个标注序列（训练集）+ 2,000 个无标注序列（半监督）进行微调。
  • 分类任务：使用 2,244 个标注序列进行线性探测或微调。
• 标准化：将 DICOM 转换为 HU 值（[-100, 300] 窗口），重采样至各向异性间距 (2.0, 1.0, 1.0) mm，并统一裁剪/填充至 512×336×336 体素。

B. 自监督预训练 (Self-Supervised Pre-training)

• 架构：3D U-Net（编码器 - 解码器结构）。
• 任务：基于掩码的图像建模 (Masked Image Modeling, MIM)。
  • 从 3D 体积中提取 128×128×128 的块（Patch）。
  • 将块划分为 8×8×8 的子块，随机掩码 75% 的子块。
  • 网络目标：重建被掩码区域的原始强度值。
• 目的：在无标注数据上学习鲁棒的解剖学特征表示，无需人工标注。预训练后冻结编码器权重作为特征提取器。

C. 下游任务一：3D 创伤检测 (3D Injury Detection)

• 模型架构：
  • 编码器：预训练的 3D U-Net 编码器（冻结或微调）。
  • 解码器：VDETR (Vertex DETR)，一种基于 Transformer 的检测器。
• 核心创新：3D 顶点相对位置编码 (3D Vertex Relative Position Encoding, 3D RPE)
  • 传统 DETR 使用中心点距离，无法准确描述不规则器官。
  • 本文提出计算每个体素与预测边界框8 个顶点的相对位置关系。
  • 通过 MLP 将这些几何关系转化为注意力偏差（Attention Bias），使模型能判断体素是在框内、框外还是边界上，从而增强对不规则解剖结构的定位能力。
• 训练策略：两阶段 + 半监督一致性正则化
  • 阶段 I (Epoch 0-20)：冻结编码器，仅训练 VDETR 解码器，防止随机初始化的梯度破坏预训练特征。
  • 阶段 II (Epoch 20-100)：解冻编码器（带 Warmup），联合微调。
  • 半监督学习：引入 2,000 个无标注体积。采用 Mean Teacher 框架，通过一致性正则化（Consistency Regularization）强制模型对同一数据的弱增强（Weak Aug）和强增强（Strong Aug）版本产生一致的预测（包括框中心、大小和类别）。

D. 下游任务二：多标签创伤分类 (Multi-Label Injury Classification)

• 任务：预测 7 种独立的创伤类别（如肠道、肝脏、肾脏、脾脏损伤等）。
• 架构：使用预训练的 U-Net 编码器提取特征，经过全局平均池化，输入到一个轻量级的全连接分类头（仅 3.3 万参数）。
• 策略：主要采用线性探测 (Linear Probe) 策略（冻结编码器），验证预训练特征的可迁移性。

3. 关键贡献 (Key Contributions)

1. 标签高效框架：提出了一种结合自监督预训练和半监督学习的完整流程，有效解决了医学 3D 检测中标注数据稀缺（<5%）的问题。
2. 3D 顶点相对位置编码 (3D Vertex RPE)：改进了 DETR 架构，通过利用边界框的 8 个顶点而非中心点来编码空间关系，显著提升了对不规则医学结构的检测精度。
3. 半监督一致性正则化：在检测任务中成功整合了 2,000 个无标注样本，利用一致性损失稳定了训练过程，防止了小样本下的性能崩溃。
4. 实证验证：证明了在仅有 144 个标注样本的情况下，该方法能实现比纯监督学习高得多的性能，且预训练特征在分类任务中具有极强的可迁移性。

4. 实验结果 (Results)

A. 自监督预训练评估

• 重建质量：在 1,206 个体积上预训练，PSNR 达到 19.39 dB。
• 线性探测：在冻结编码器下，仅用 164 个训练样本进行线性分类，整体准确率达到 76.0%，其中肠道损伤检测 AUC 高达 0.975，证明特征具有高度判别性。

B. 3D 创伤检测性能

• 验证集表现：
  • 纯监督 (144 标注)：mAP@0.50 峰值仅为 26.36%，且训练后期出现严重退化（崩溃至 8%）。
  • 半监督 (144 标注 + 2000 无标注)：mAP@0.50 达到 56.57%，相比纯监督提升了 115%。
  • 严格阈值表现：mAP@0.75 从 6.82% 提升至 45.12%（提升 562%），证明定位精度大幅改善。
• 测试集表现：
  • 半监督模型 mAP@0.50 达到 45.30%，相比纯监督 (23.03%) 提升 97%。
  • 训练过程稳定，无性能崩溃现象。

C. 创伤分类性能

• 线性探测结果：使用 2,244 个标注样本，冻结编码器直接分类，测试集整体准确率达到 94.07%。
• 对比：相比 RSNA 2023 竞赛优胜者（使用 3147 个样本和复杂集成模型），该方法用更少的数据（29% 减少）和更简单的单模型架构达到了具有竞争力的精度。
• 发现：增加标注数据量（从 144 到 2244）比使用伪标签（半监督）对分类任务提升更显著，表明高质量标注数据在分类任务中更为关键。

5. 意义与结论 (Significance & Conclusion)

• 解决核心痛点：该研究证明了在医学影像领域，自监督预训练 + 半监督学习是解决标注数据稀缺问题的有效途径。
• 临床价值：通过利用大量无标注的 CT 扫描，模型能够学习到鲁棒的解剖学先验，显著提高了在急诊场景下自动检测创伤的准确性和稳定性，降低了放射科医生的工作负荷。
• 技术启示：
  • 对于 3D 医学检测，引入几何感知的相对位置编码（如顶点编码）比传统的中心点距离更有效。
  • 半监督学习中的“一致性正则化”对于防止小样本训练中的过拟合和性能崩溃至关重要。
• 未来方向：计划将此框架扩展至多器官检测，探索更多一致性正则化策略，并评估其在急诊实时系统中的部署可行性。

总结：本文通过创新的架构设计（3D Vertex RPE）和训练策略（MIM 预训练 + 半监督一致性），成功在仅有少量标注数据的情况下实现了高精度的 3D 腹部创伤检测，为医学 AI 在数据受限场景下的应用提供了重要的技术范式。