Dissecting Model Failures in Abdominal Aortic Aneurysm Segmentation through Explainability-Driven Analysis

1. 문제 정의 (Problem)

복부 대동맥류 (AAA, Abdominal Aortic Aneurysm) 의 CT 영상 분할은 수술 계획 및 위험 평가에 필수적이지만, 기존 딥러닝 모델은 복잡한 임상 사례에서 심각한 실패를 보입니다.

• 주요 실패 원인: 모델이 관련 없는 구조물 (인접 혈관, 석회화 등) 에 초점을 맞추거나, 얇고 대비가 낮은 혈관 벽 (aneurysm wall) 및 내강 (lumen) 경계를 놓치는 경우입니다.
• 기존 접근법의 한계: U-Net, MedSAM, SAM(Segment Anything Model) 등의 최신 모델은 전체적인 지표 (Dice 점수 등) 는 양호할 수 있으나, 실패가 빈번한 복잡한 사례에서는 내부 주의 (attention) 가 임상적으로 중요한 구조가 아닌 방해 요소 (distractors) 에 집중되어 예측이 붕괴됩니다. 기존 손실 함수 (Dice loss 등) 는 픽셀 단위의 오차만 고려할 뿐, 모델이 내부적으로 어디를 보고 있는지 (encoder focus) 를 직접적으로 최적화하지 못합니다.

2. 제안 방법론 (Methodology)

저자들은 설명 가능한 AI(XAI) 기반의 인코더 형성 (Encoder Shaping) 프레임워크를 제안합니다. 이 프레임워크는 모델의 내부 주의 분포를 명시적인 학습 신호로 활용하여 표현 학습과 디코딩 과정을 재구성합니다.

핵심 구성 요소:

1. XAI 필드 (XAI Field) 생성:
   • 인코더의 마지막 블록에서 그라디언트 기반의 밀도 있는 속성 지도 (attribution map) 를 계산하여 'XAI 필드'를 생성합니다. 이는 모델이 현재 손실 함수 하에서 어디에 집중하고 있는지를 나타냅니다.
2. 주요 전략:
   • (i) 예측 확률과 XAI 필드의 정렬 (Focus Alignment): 예측된 분할 확률 분포와 XAI 필드 간의 불일치를 최소화하는 손실 함수를 도입합니다. 즉, "모델이 예측하는 곳"과 "모델이 실제로 보는 곳"을 일치시킵니다.
   • (ii) 경량화된 정제 경로 및 신뢰도 사전 (Refinement & Confidence Prior): XAI 필드를 경량 정제 경로와 신뢰도 사전 (confidence prior) 으로 전달하여 추론 시 로짓 (logits) 을 조절합니다. 이는 방해 요소를 억제하고 미세한 구조를 보존합니다.
3. 쌍대 일관성 분류기 (Pairwise Consistency Classifier):
   • 연속된 슬라이스 쌍에 대해 학습된 작은 CNN 분류기를 사용하여 해부학적으로 타당한 슬라이스 간 전이를 강제합니다. 이는 슬라이스 간 갑작스러운 해부학적 불일치 (예: 혈관 크기의 급격한 변화) 를 방지합니다.
4. 해부학 인식 손실 (Anatomy-aware Loss):
   • 얇은 벽 구조를 보호하기 위해 미분 연산자 (경계) 와 중축 (medial-axis) 기반의 토폴로지 손실을 추가하여 구조적 정합성을 강화합니다.
5. 커리큘럼 학습 전략:
   • 학습 초기에는 슬라이스 간 일관성 (consistency) 에 중점을 두고, 안정화 단계에서는 XAI 정렬 및 해부학적 충실도 (faithfulness) 에 중점을 두어 점진적으로 최적화합니다.

3. 주요 기여 (Key Contributions)

• XAI 기반 인코더 형성 프레임워크: AAA 분할 작업에서 인코더 속성 지도를 1 차 학습 신호 (first-class training signal) 로 활용하는 새로운 패러다임을 제시했습니다.
• 주정렬 손실 (Focus Alignment Loss): 분할 확률 질량과 속성 기반 XAI 필드 간의 일치를 강제하는 손실 함수와 이를 활용한 정제 경로를 개발했습니다.
• 학습된 일관성 정규화: 연속된 정답 마스크 쌍으로 분류기를 학습시켜, 해부학적으로 비현실적인 슬라이스 간 예측을 패널티로 부과하는 정규화 기법을 도입했습니다.
• 포괄적인 실험 및 분석: 일반 테스트셋과 실패가 빈번한 복잡한 사례 (complex subset) 에 대한 상세한 정량적/정성적 분석을 통해, 기존 모델의 실패 원인을 XAI 를 통해 규명하고 이를 수정하는 과정을 입증했습니다.

4. 실험 결과 (Results)

저자들은 Allegheny Health Network 및 Northwestern Memorial Hospital 의 임상 데이터를 기반으로 147 건의 CTA 영상을 사용하여 실험을 수행했습니다.

• 일반 테스트셋 성능:
  • 바깥 벽 (Outer Wall): 기존 SAM 베이스라인 (IoU 81.53%, Dice 88.99%) 대비 XAI-SAM 은 **IoU 96.08%, Dice 97.93%**로 크게 향상되었습니다. HD95(경계 오차) 는 4.09mm 에서 0.19mm로 극적으로 감소했습니다.
  • 내강 (Lumen): IoU 는 85.83% 에서 **95.56%**로, Dice 는 91.86% 에서 **97.67%**로 향상되었습니다.
• 복잡한 사례 (Complex Cases) 성능:
  • 실패가 빈번한 복잡한 슬라이스 subset 에서 XAI-SAM 의 우월성이 더욱 두드러졌습니다. SAM 베이스라인의 IoU 가 78.43% 였던 반면, XAI-SAM 은 **94.95%**를 기록했습니다.
  • U-Net 및 U-Net++ 는 복잡한 사례에서 성능이 급격히 저하되었으나 (IoU 65~75%), XAI-SAM 은 높은 정확도를 유지했습니다.
• 정성적 분석:
  • 기존 모델들은 인접 혈관이나 주변 조직으로 '누출 (leakage)'되거나 확산되는 경향이 있었으나, XAI-SAM 은 얇은 혈관 벽에 집중하여 정확한 경계를 유지하고 슬라이스 간 일관성을 확보했습니다.

5. 의의 및 결론 (Significance)

• 패러다임 전환: 설명 가능성 (Explainability) 을 단순히 모델 분석을 위한 사후 도구 (post-hoc tool) 로 사용하는 것을 넘어, 학습 과정의 핵심 가이드 원칙으로 승격시켰습니다.
• 임상적 신뢰성: 복잡한 임상 시나리오에서 모델이 '어디를 봐야 하는지'를 명시적으로 학습시킴으로써, 얇은 구조물 분할의 정확도와 해부학적 일관성을 획기적으로 개선했습니다.
• 범용성: 이 프레임워크는 AAA 에 국한되지 않으며, 주의 집중 (attention) 이 잘못 배분되어 발생하는 실패가 다른 혈관 또는 장기 분할 작업에서도 발생할 수 있으므로, 해당 분야 전반에 적용 가능한 일반적인 해결책을 제시합니다.

결론적으로, 이 연구는 모델의 내부 집중 메커니즘을 설명 가능성 도구를 통해 분석하고 이를 학습 목표에 직접 통합함으로써, 의료 영상 분할의 신뢰성과 정확도를 높이는 새로운 방향성을 제시했습니다.