RectoMap: a generalizable deep learning tool for rectal cancer and mesorectum MRI segmentation

기술 요약: RectoMap – 직장암 및 직장 중간엽 MRI 분할을 위한 일반화 가능한 딥러닝 도구

문제 정의
T2 가중치 MRI에서 직장 종양과 직장 중간엽(mesorectum)을 정확하게 분할하는 것은 국소 진행성 직장암(LARC)의 병기 결정, 치료 계획(방사선 치료 및 선행 화학방사선요법 포함), 그리고 수술적 평가에 있어 매우 중요하다. 그러나 수동 분할은 시간이 많이 소요되고, 작업자의 숙련도에 의존하며, 관찰자 간 변동성 문제를 겪는다. 딥러닝이 자동화된 솔루션을 제공함에도 불구하고, 기존 모델들은 분포 외(out-of-distribution, OOD) 일반화 문제로 인해 어려움을 겪는 경우가 많다. 구체적으로, 특정 스캐너 제조사의 데이터로 학습된 모델을 보지 못한 다른 벤더의 영상에 적용할 경우, 획득 프로토콜의 이질성, 자기장 강도(1.5T vs 3T), 제조사별 편향 등으로 인해 성능이 크게 저하된다. 선행 연구들에 따르면, 보지 못한 스캐너로 테스트할 때 성능 저하(예: DSC가 0.77에서 0.59로 감소)가 뚜렷하게 나타나며, 이는 실제 임상 현장의 다중 벤더 환경에서 모델의 적용을 제한한다.

방법론
저자들은 아키텍처, 앙상블 전략 및 데이터 증강에 대한 체계적인 평가를 통해 이러한 일반화 문제를 해결하기 위해 설계된 견고하고 오픈 소스인 딥러닝 파이프라인인 RectoMap을 개발하였다.

• 데이터셋: 조직학적으로 확인된 LARC 환자 226명을 대상으로 한 회고적, 다기관 연구이다. 이 데이터셋은 매우 이질적이며, 4개 벤더(Siemens, Philips, GE, Hitachi)의 19개 서로 다른 MRI 스캐너 모델과 1.5T 및 3T 환경을 포함한다.
• 실험 설계: 두 가지 평가 설정을 설정하였다:
  • 분포 내(In-Distribution, ID): 무작위 분할(학습 181명, 테스트 45명)을 사용하며, 테스트용 스캐너가 학습 데이터에 포함되어 있다.
  • 분포 외(Out-of-Distribution, OOD): Siemens, Toshiba, Philips 데이터를 사용하여 모델을 학습시키고(163명), 보지 못한 GE 및 Hitachi 스캐너 데이터로만 테스트한다(63명).
• 아키텍처: 5-겹 교차 검증(5-fold cross-validation)을 사용하여 두 가지 상호 보완적인 3D 모델을 학습시켰다:
  • nnUNet: 자가 구성형 CNN 기반 프레임워크.
  • U-MambaBot: 합성곱 계층과 장거리 문맥(long-range context)을 위한 상태 공간 모델링을 통합한 하이브리드 아키텍처.
• 앙상블 전략: 두 아키텍처와 각각의 5개 폴드(fold)로부터의 예측을 결합하기 위해 네 가지 퓨전 구성을 평가하였다:
  1. 아키텍처별 평균 계산 후 STAPLE 적용.
  2. 폴드별 최적 모델 선택 후 STAPLE 적용.
  3. 2단계 STAPLE 집계: 각 아키텍처 내에서 STAPLE을 적용한 후, 그 결과를 다시 STAPLE으로 융합.
  4. 전체 모델 집계: 10개의 모델 예측값(5개 폴드 × 2개 아키텍처)을 단일 STAPLE 단계에서 융합.
• 데이터 증강: 표준 "기본(base)" 증강(기본 nnUNet)과 확장된 MRI 특화 증강 기법을 비교 실험하였다. 확장된 기법은 TorchIO와 Global Intensity Non-linear (GIN) 변환을 포함하여, 바이어스 필드 불균일성(bias field inhomogeneity), 움직임, 강도 비선형성 등 실제 환경의 아티팩트를 시뮬레이션한다.
• 지표: 성능은 Dice 유사도 계수(DSC)와 95백분위수 하우스도르프 거리(HD95)로 정량화되었다.

주요 결과

• 분포 내(ID) 성능:
  • 직장암의 경우, **확장된 증강을 적용한 2단계 STAPLE 집계(구성 3)**가 0.767 ± 0.119의 가장 높은 평균 DSC를 달성하였다.
  • 직장 중간엽의 경우, **전체 모델 집계(구성 4)**가 0.794 ± 0.131의 최적 DSC를 기록하였다.
  • MRI 특화 증강은 직장 중간엽 분할 성능을 일관되게 향상시켰다.
• 분포 외(OOD) 성능:
  • 벤더 변화에도 불구하고, 모델은 안정적인 교차 벤더 성능을 보여주었다.
  • 직장암: 전체 모델 집계(확장 증강 미적용 시)가 0.798 ± 0.126의 DSC를 달성하였다.
  • 직장 중간엽: 전체 모델 집계(확장 증강 적용 시)가 0.776 ± 0.161의 DSC를 달성하였다.
  • 주목할 점은, OOD 코호트의 평균 종양 부피가 더 작았기 때문에(단순한 형태) 직장 종양 분할 성능이 ID 설정보다 약간 더 높게 나타났다는 것이다. 반대로, 직장 중간엽 성능은 OOD 코호트의 부피가 더 크고 가변적이었기 때문에 OOD에서 약간 낮게 나타났다.
• 실패 분석: 정성적 검토 결과, 오류는 작은 크기 또는 환형(annular) 종양, 붕괴된 직장 루멘(젤 팽창 부족), 그리고 학습 데이터에서 과소 대표된 스캐너 모델이 있는 사례에 집중되었다.

의의 및 기여
본 논문은 RectoMap을 단순한 벤치마킹 연습이 아니라 즉시 사용 가능한 일반화된 임상 도구로 포지셔닝한다. 주요 기여는 다음과 같다:

1. 벤더 변화에 대한 견고성: 다중 벤더 데이터와 특정 증강 전략을 활용함으로써, RectoMap은 보지 못한 스캐너 제조사 전반에 걸쳐 높은 성능을 유지하며, 이는 임상 배치의 핵심 장벽을 해결한다.
2. 오픈 소스 가용성: 이 도구는 사전 학습된 가중치와 함께 GitLab을 통해 공개되어 직접 추론하거나 로컬 데이터셋에 미세 조정(fine-tuning)할 수 있다. 이는 데이터가 부족한 기관에도 신뢰할 수 있는 베이스라인을 제공한다.
3. 체계적 검증: 본 연구는 앙상블 전략과 증강 유형에 대한 포괄적인 비교를 제공하며, 2단계 STAPLE 집계(구성 3)와 확장된 MRI 특화 증강의 결합이 가장 견고한 설계를 제공함을 확인하였다.
4. 임상적 유용성: RTX 3090 기준 볼륨당 약 82초의 추론 시간을 갖는 이 파이프라인은 실제 임상 워크플로우에 통합될 수 있도록 설계되었다.

저자들은 RectoMap이 견고한 자동 분할을 향한 중요한 진전이지만, Siemens 스캐너에 치우친 데이터셋과 치료 계획 또는 환자 결과에 미치는 직접적인 영향에 대한 전향적 검증의 부재를 포함한 한계점이 남아있다고 결론지었다. 향후 연구는 데이터셋 확장, 전향적 검증, 그리고 연합 학습(federated learning) 접근 방식의 통합을 목표로 한다.