Efficient KernelSHAP Explanations for Patch-based 3D Medical Image Segmentation

이 논문은 패치 기반 3D 의료 영상 분할 (Patch-based 3D Medical Image Segmentation) 을 위한 효율적인 KernelSHAP 기반 설명 가능성 (Explainability) 프레임워크를 제안합니다. 특히 CT 영상 분할 작업에서 발생하는 높은 계산 비용과 해석의 어려움 문제를 해결하기 위해 개발되었습니다.

주요 내용은 다음과 같습니다.

1. 문제 정의 (Problem)

• 계산 비용의 비현실성: 기존 KernelSHAP 과 같은 교란 기반 (Perturbation-based) 설명 방법은 모델에 무관한 (Model-agnostic) 특성을 가지지만, 3D 의료 영상 (예: CT) 에 적용할 때 치명적인 단점이 있습니다. 3D 데이터의 높은 차원과 슬라이딩 윈도우 (Sliding-window) 추론 방식 (nnU-Net 등) 으로 인해, 수많은 특징 조합 (Coalition) 에 대한 평가를 수행하려면 수천 번의 순전파 (Forward pass) 가 필요하여 계산 비용이 너무 큽니다.
• 해석의 어려움: 3D 볼륨 데이터에서 어떤 영역이 예측에 기여했는지를 정의하는 '해석 가능한 단위 (Interpretable units)'를 설정하고, 이를 적절히 집계하는 방법에 대한 표준이 부재합니다.

2. 방법론 (Methodology)

저자들은 nnU-Net 과 같은 패치 기반 분할 모델을 위한 효율적인 KernelSHAP 프레임워크를 제안하며, 다음과 같은 핵심 기법을 사용합니다.

• ROI 및 수용 영역 (Receptive Field) 제한:
  • 전체 3D 볼륨을 분석하는 대신, 사용자가 정의한 관심 영역 (ROI) 과 해당 영역의 예측에 영향을 미치는 최소한의 입력 영역 (수용 영역, Receptive-field support) 으로 계산을 국한시킵니다.
• 패치 로짓 캐싱 (Patch Logit Caching):
  • 교란 (Perturbation) 이 특정 패치에 영향을 미치지 않는 경우, 해당 패치의 예측 결과 (로짓) 를 재계산하지 않고 기존 베이스라인 예측을 재사용합니다.
  • 슬라이딩 윈도우 추론 시, 교란된 패치만 재계산하고 나머지는 캐시에서 불러와 nnU-Net 의 표준 퓨전 (Gaussian-weighted accumulation) 방식을 유지합니다.
• 해석 가능한 단위 (Interpretable Units) 정의:
  • 수용 영역 내에서 세 가지 유형의 단위를 자동 생성하여 비교 분석했습니다.
    1. Full Organs: TotalSegmentator 로 분할된 해부학적 장기 전체를 하나의 단위로 사용.
    2. Regular (FCC): 물리적 좌표 기반의 정면 중심 입방체 (Face-Centred Cubic) 격자를 사용하여 생성한 정규 초입방체 (Supervoxel). 해부학적 구조와 무관함.
    3. Hybrid (Organ-Aware): FCC 격자를 해부학적 장기 마스크와 교차시켜 생성. 장기 경계를 따르면서도 물리적 균일성을 유지합니다.
• 집계 함수 (Aggregation Functions):
  • 교란된 입력에 대한 점수를 계산하기 위해 4 가지 지표를 사용했습니다: True Positive (TP), False Positive (FP), Dice Score, Soft Dice Score. 이는 모델의 안정성 (정확한 예측) 과 오검출 (False Positive) 원인을 파악하는 데 초점을 맞춥니다.

3. 주요 기여 (Key Contributions)

• 효율성 향상: 패치 로짓 캐싱 기법을 도입하여 불필요한 계산을 15%~30% 줄였습니다. 이는 3D 의료 영상에 Shapley 값 기반 설명을 적용하는 것을 실용적으로 만듭니다.
• 해석 가능성과 정확성의 트레이드오프 분석:
  • Regular (FCC) Supervoxels: 교란 기반 지표 (Faithfulness) 상에서는 가장 높은 성능을 보였으나, 해부학적 정렬이 부족하여 임상적으로 해석하기 어렵습니다.
  • Hybrid (Organ-Aware) Supervoxels: 해부학적 의미를 유지하면서도 장기 내부의 세밀한 변화를 포착하여, 특히 False Positive (오검출) 의 원인을 규명하는 데 가장 효과적이었습니다.
  • Full Organs: 가장 안정적이고 해석하기 쉬운 고수준 설명을 제공하지만, 세밀함이 부족합니다.
• 임상적 통찰: 설명의 목적 (예: 정확한 예측 지지 vs. 오검출 원인 분석) 에 따라 적합한 집계 함수와 단위 정의가 달라야 함을 입증했습니다.

4. 실험 결과 (Results)

• 데이터셋: 전신 CT 영상 (림프절 및 비장 분할) 40 명 (훈련 32 명, 테스트 8 명) 을 사용했습니다.
• 계산 성능: 캐싱 기법을 적용한 결과, Full Organs 설정에서 약 32% 의 캐시 히트율을, Hybrid 설정에서 약 30% 의 히트율을 보이며 전체 실행 시간을 크게 단축했습니다.
• 정량적 평가 (MoRF/LeRF):
  • Faithfulness (신뢰성): Regular Supervoxels 가 AOPC/Area Over the Perturbation Curve 지표에서 가장 높은 값을 보였으나, 이는 목표 영역을 직접 포함하는 단위를 교란시켰기 때문으로 해석됩니다.
  • 임상적 유용성: 정규화된 지표 (Normalized metrics) 하에서 Hybrid Supervoxels 가 False Positive 를 유발하는 요인을 가장 잘 식별했습니다. 이는 해부학적 경계를 고려한 단위 정의가 임상적으로 더 실행 가능한 (Actionable) 설명을 제공함을 시사합니다.

5. 의의 및 결론 (Significance)

이 연구는 3D 의료 영상 분할 모델의 블랙박스 문제를 해결하기 위해 계산 효율성과 임상적 해석 가능성을 동시에 고려한 새로운 프레임워크를 제시했습니다.

• 실용성: 패치 기반 추론 시스템 (nnU-Net 등) 에 Shapley 값을 적용하는 것을 가능하게 하여, 의료 AI 모델의 검증 및 디버깅을 지원합니다.
• 지침 제공: "어떤 단위 (Unit) 로 설명할 것인가"와 "어떤 점수 함수를 사용할 것인가"가 설명의 질과 목적에 결정적인 영향을 미친다는 점을 강조합니다. 특히, Hybrid 방식의 해부학적 인식 (Organ-aware) 단위가 임상적으로 가장 균형 잡힌 설명을 제공한다는 결론을 내렸습니다.
• 한계 및 향후 과제: 현재는 소규모 데이터셋 (8 개) 에서만 검증되었으며, 하드 마스크 (Hard masking) 방식이 데이터 분포 밖의 아티팩트를 유발할 수 있다는 점, 그리고 임상 전문가에 의한 직접적인 평가가 부족하다는 한계가 있습니다. 향후 데이터 기반의 경계 적응형 (Boundary-adherent) 3D Supervoxel 및 더 현실적인 교란 기법 (Inpainting 등) 을 연구할 계획입니다.