기술 요약: 망각은 보존이다: 3D 의료 영상 분할을 위한 머신 언러닝(Machine Unlearning)

1. 문제 정의

딥러닝이 의료 영상, 특히 MRI 및 CT와 같은 3D 볼륨 데이터에 빠르게 도입됨에 따라 심각한 데이터 프라이버시 문제가 제기되고 있습니다. GDPR(제17조), HIPAA, 그리고 인도의 DPDPA 2023과 같은 규정은 개인의 "삭제 권리(right to erasure)"를 부여하며, 이는 개인 데이터가 저장소뿐만 아니라 훈련된 머신러닝 모델에서도 제거되어야 함을 의미합니다.

3D 의료 영상 분할의 맥락에서 이는 독특한 과제를 제시합니다. 전체 클래스를 제거해야 하는 2D 분류 작업과 달리, 의료 언러닝은 피험자 수준(즉, 특정 환자)에서 데이터를 제거해야 합니다. 또한, 출력값은 단일 라벨이 아닌 조밀한 복셀 단위(voxel-wise)의 예측입니다. 규정 준수를 위한 표준 접근 방식인 남은 데이터로 모델을 처음부터 다시 훈련하는 것은 3D 볼륨 데이터셋의 경우 수백 시간의 GPU 연산 시간이 소요될 수 있어 계산적으로 불가능에 가깝습니다. 따라서 기존에 사전 훈련된 모델을 수정하여 특정 피험자를 "망각"하게 하면서도, 전체 재훈련 비용 없이 잔류 데이터에 대한 높은 성능을 유지할 수 있는 근사적 머신 언러닝(approximate machine unlearning) 전략이 필요합니다.

2. 방법론

2.1 백본 아키텍처

본 연구는 Med3D 프레임워크로 사전 훈련된 3D ResNet-50 아키텍처를 활용합니다. 이 백본은 다양한 3D 의료 데이터셋(폐, 간, 뇌)의 CT 및 MRI 모달리티로부터 강건한 볼륨 표현을 학습하는 능력을 갖추고 있습니다. 모델은 다음과 같이 분해됩니다:

• 인코더 ($E_\phi$): 시공간적 특징을 추출하는 3D ResNet-50.
• 디코더/분할 헤드 ($G_\psi$): 특징을 복셀 단위 클래스 로짓(logits)으로 매핑하는 3D 전치 컨볼루션(transposed convolutions) 및 정제 레이어를 포함하는 다층 디코더.

모델은 고령 피험자의 뇌 구조에 대한 전문가 주석이 포함된 MRBrainS18 데이터셋에 대해 미세 조정(fine-tuning)되었습니다.

2.2 실험 설정

• 데이터셋: MRBrainS18 (10명의 피험자).
• 망각 세트 ($D_f$): 2명의 피험자 (데이터의 20%).
• 잔류 세트 ($D_r$): 나머지 8명의 피험자.
• 태스크: 이진 분할 (뇌 조직 vs 비뇌 조직).
• 훈련 기간(Training Horizons): 언러닝 전략은 **20 및 50 에포크(epoch)**에 걸쳐 평가되었습니다.
• 지표:
  • 다이스 유사도 계수 (Dice Similarity Coefficient, DSC): 공간적 중첩도를 측정합니다.
  • 평균 절대 오차 (Mean Absolute Error, MAE): 예측 확률 편차를 측정합니다.
  • 갭 지표 (Gap Metrics): 망각과 잔류 사이의 트레이드오프를 정량화하기 위한 $\Delta$Dice ($D_r - D_f$) 및 $\Delta$MAE ($D_f - D_r$).

2.3 언러닝 전략

본 연구는 I2I 프레임워크 및 기타 문헌에서 파생된 네 가지 메커니즘으로 분류되는 여러 근사적 언러닝 전략을 평가합니다:

1. 그래디언트 기반 접근법 (GA):

   • 잔류 라벨 / 최대 손실 (Retain Label / Max Loss): 망각 세트에 대해 그래디언트를 부정(error를 최대화)하고 잔류 세트에 대해서는 error를 최소화하도록 손실 함수를 수정합니다.
   • 위험 요소: 경계가 없는 그래디언트 상승(gradient ascent)은 잔류 세트의 치명적인 성능 저하를 초to 유발할 수 있습니다.

2. 라벨 및 데이터 조작:

   • 노이지 라벨 (Noisy Label, NL): 망각 대상 피험자의 그라운드 트루스 복셀 라벨을 훈련 중에 균등 분포의 무작위 라벨로 대체합니다. 모델은 이 조작된 분포에 대해 최적화되며, 이를 통해 망각 대상에 대해 기억된 표현을 효과적으로 덮어쓰는 동시에 잔류 대상에 대한 표현을 강화합니다.

3. 특징 공간 개입 (Feature-Space Interventions):

   • 랜덤 인코더 (Random Encoder, RE): 디코더에 도달하기 전 망각 대상의 잠재 특징 맵(latent feature maps)을 가우시안 노이즈로 덮어씁니다.
   • Learn Others (LO) & Learn Noise (LN): 교사-학생 증류(teacher-student distillation) 패러다임을 사용합니다. 학생 인코더는 현재 배치(batch)의 평균 특징이나 동적 가우시안 노이즈와 같은 일반적인 타겟으로 망각 대상 피험자를 매핑하도록 강제되는 한편, 잔류 대상에 대해서는 교사를 모방합니다.

4. 미세 조정 및 선택적 재훈련:

   • 디코더 고정 (Fix Decoder, FD): 분할 헤드(디코더)를 동결하고 디코더 파라미터 대신 인코더 파라미터만을 증류를 통해 업데이트합니다. 이는 망각을 잠재 특징 공간 내로 국한시켜 디코더의 드리프트(drift)를 방지하는 것을 목표로 합니다.

3. 주요 결과

실험 결과, 망각의 효과성과 유틸리티 보존 사이의 트레이드오프에서 상당한 차이가 있음이 드러났습니다:

• 노이지 라벨 (Noisy Label, NL) 전략: 이 접근 방식은 전반적으로 가장 우수한 트레이드오프를 보여주었습니다.

  • 50 에포크 후, Dice Gap +0.6963 및 MAE Gap +0.091을 달성했습니다.
  • 망각 세트의 Dice 점수를 93% 감소시켰습니다 (0.9226에서 0.0613으로).
  • 결정적으로, 잔류 세트에 대해 84%의 정확도(Dice 점수 0.7576)를 유지했습니다.
  • 다른 방법들과 달리, 이 방법은 훈련 기간이 길어질수록 망각과 잔류를 동시에 강화하며 성능이 향상되었습니다.

• 그래디언트 기반 방법 (Retain Label/Max Loss): 망각 세트의 성능을 제거하는 데는 효과적이었으나, 특히 50 에포크에서 잔류 세트의 **치명적인 성능 저하(catastrophic degradation)**를 겪었습니다. 제약 없는 손실 부정(loss negation)이 모델을 좋지 않은 파라미터 영역으로 몰아넣었습니다.

• 특징 공간 개입 (RE, LO, LN):

  • **랜덤 인코더 (RE)**는 잔류 성능을 보존했으나 망각 효과는 매우 제한적(Dice gap ~0.01–0.04)이었습니다. 이는 디코더가 손상된 인코더 특징을 보완할 수 있음을 시사합니다.
  • Learn Others/Noise는 잔류 성능의 거의 완전한 붕괴를 초래했으며, 이는 공격적인 특징 조작이 학습된 표현을 너무 심하게 방해했음을 나타냅니다.

• 디코더 고정 (Fix Decoder, FD): 20 에포크에서는 중간 정도의 언러닝을 보였으나, 50 에포크에서는 불안정해졌으며 결국 의도된 동작과 반대로 작동하여 망각 세트에 대해 잔류 세트보다 더 나은 성능을 보이는 현상이 발생했습니다.

4. 기여 및 의의

본 논문은 다음과 같은 기여와 의의를 주장합니다:

1. 최초의 체계적 벤치마크: 저자들이 아는 바에 따르면, 본 연구는 3D 의료 영상 분할을 위해 피험자 수준의 망각 세트를 사용하여 여러 근사적 언러닝 전략을 체계적으로 평가한 최초의 연구입니다. 이전의 벤치마크들은 주로 2D 분류 작업(예: CIFAR-10, ImageNet)에 국한되어 있었습니다.
2. 3D 언러닝의 경험적 평가: 본 연구는 Med3D ResNet-50 프레임워크를 사용하여 이러한 전략들을 적응 및 평가함으로써, 3D 볼륨 모델에서 환자 특정 지식을 제거하는 것에 대한 첫 번째 종합적인 경험적 데이터를 제공합니다.
3. 재현 가능한 평가 프로토콜: 저자들은 2D 지표를 3D 조밀한 예측 작업에 적용하기 어려운 점을 해결하기 위해, 분할 특화 지표(Dice 및 MAE)를 사용하는 프로토콜을 구축하여 망각 효과와 잔류 임상 유용성 사이의 트레이드오프를 정량화했습니다.
4. 최적의 전략 식별: 본 연구는 노이지 라벨(Noisy Label) 전략이 이 도메인에서 가장 견고한 방법이며, 잔류 데이터에 대한 모델의 유용성을 대부분 유지하면서도 강력한 망각을 달 Ach 성할 수 있음을 확인했습니다.

5. 결론 및 향 향후 과제

본 연구는 많은 언러닝 전략이 존재하지만, 고차원적이고 복잡한 3D 의료 영상 맥락에서는 효과적으로 망각에 실패하거나 모델의 유용성을 파괴하는 경우가 많다고 결론짓습니다. 노이지 라벨 전략이 이 분야에서 피험자 수준의 언러닝을 위한 가장 실행 가능한 솔루션으로 부상했습니다.

저자들은 향-후 과제로 다음을 제안합니다:

• 잔여 정보의 제거를 엄격히 증명하기 위해 멤버십 추론(membership inference) 또는 **모델 역전 공격(model inversion attacks)**과 같은 공식적인 적대적 프라이버시 평가 수행.
• 특징 공간에서의 언러닝을 더욱 안정화하기 위한 적응형 최적화 알고리즘(예: 동적 알파 스케줄링) 및 파라미터 효율적 미세 조정(예: LoRA) 조사.

본 논문은 효과적인 언러닝 방법을 개발하는 것이 실제 의료 환경에서 프라이버시 원칙을 준수하는 신뢰할 수 있는 임상 AI 시스템을 구축하는 데 필수적인 단계임을 강조합니다.