1. 문제 정의 (Problem)

• 블랙박스 문제: 딥러닝 기반 흉부 X-ray (CXR) 진단 모델은 특정 병변에 대해 방사선 전문의 수준의 정확도를 보이지만, 예측의 근거를 설명할 수 없는 '블랙박스' 특성으로 인해 임상 현장에서의 광범위한 채택이 제한되고 있습니다.
• 신뢰성 및 안전성 부재: 의사는 모델이 왜 특정 진단을 내렸는지 이해할 수 없으며, 이는 시스템 오류를 식별하거나 임상적 추론 과정에 AI 를 통합하는 것을 어렵게 만듭니다. 특히 심부전과 같은 고위험 영역에서 모델이 드문 사례 (edge cases) 나 인공물 (artifacts) 을 오인할 경우 치명적인 결과를 초래할 수 있습니다.
• 기존 해석 가능성 방법의 한계: 일반적인 의미론적 임베딩을 기반으로 한 해석 방법들은 진단 결정과 직접적으로 연관되지 않은 일반적 이미지 특징을 발견하는 경향이 있어, 임상적 의사결정에 필요한 구체적인 근거를 제공하기 어렵습니다.

2. 방법론 (Methodology)

CXR-LanIC 은 BiomedCLIP 기반의 진단 분류기와 트랜스코더 (Transcoder) 기반의 희소 오토인코더를 결합하여 해석 가능한 진단 시스템을 구축합니다. 주요 단계는 다음과 같습니다.

가. 아키텍처 및 학습 단계

1. 베이스 분류기 학습 (Base Classifier Training):

   • BiomedCLIP(의학 전문 vision-language 모델) 을 백본으로 사용하여 5 가지 주요 진단 목표 (심장비대, 흉수, 폐부종, 침윤, 무기폐) 를 예측하는 다중 레이블 분류기를 학습시킵니다.
   • MIMIC-CXR 데이터셋 (환자 단위 분할) 을 사용하여 훈련하며, 이 분류기는 높은 진단 정확도를 확보합니다.

2. 트랜스코더를 통한 패턴 발견 (Transcoder-based Pattern Discovery):

   • 학습된 분류기의 내부 임베딩을 해석하기 위해 **트랜스코더 (Transcoder)**를 적용합니다.
   • 구조: 입력 (이미지 + 텍스트 임베딩) → 고차원 잠재 공간 (15,000 차원) → Top-K 희소화 (k=32) → 재구성 (분류기 임베딩).
   • 핵심 아이디어: Top-K 희소성 제약 (Sparsity) 을 통해 각 뉴런이 여러 개념이 아닌 **단일 의미 (monosemantic)**의 시각적 패턴 (예: "심장 실루엣 확대", "양측 폐쇄") 에만 반응하도록 유도합니다.
   • 앙상블: 100 개의 트랜스코더를 무작위 초기화 및 데이터 서브셋으로 학습시켜 약 150 만 개의 후보 뉴런을 생성하고, 다양한 희귀 병변까지 포괄합니다.

3. 패턴 해석 및 선별 (Pattern Interpretation & Curation):

   • 자동 라벨링: 활성화된 뉴런에 해당하는 이미지 갤러리와 보고서 발췌문을 대규모 멀티모달 모델 (Claude-4.5-Sonnet) 에 입력하여 임상적 설명 (예: "심장 - 흉부 비율 증가") 을 생성합니다.
   • 필터링: 3 가지 기준 (활성화 일관성, 구별력, 임상적 관련성) 을 적용하여 150 만 개 중 약 5,000 개의 고품질 해석 가능 패턴을 선별합니다.
   • 카테고리: 심장, 폐, 흉막, 구조적, 의료기기, 인공물 등 6 가지 임상 카테고리로 분류됩니다.

4. 해석 가능한 분류기 구축 (Interpretable Classification):

   • 선별된 5,000 개의 패턴을 기반으로 희소 활성화 벡터 (이미지당 15~30 개 패턴 활성화) 를 생성합니다.
   • L1 정규화 로지스틱 회귀를 학습시켜 진단을 예측합니다. 이는 각 진단이 20~50 개의 해석 가능한 패턴의 가중합으로 이루어짐을 보장하며, 어떤 패턴이 진단을 주도했는지 투명하게 Attribution(귀속) 할 수 있게 합니다.

3. 주요 기여 (Key Contributions)

• CXR-LanIC 파이프라인: MIMIC-CXR 데이터셋에서 해석 가능한 방사선학적 패턴을 발견, 명명, 활용하는 완전한 프레임워크를 제시했습니다. 특히 심부전 관련 소견에 중점을 두었습니다.
• 트랜스코더 기반 해석: 의료 이미지 분류기에 희소 트랜스코더를 적용하여 진단 예측을 언어 기반의 시각적 증거로 분해하는 새로운 방식을 제안했습니다.
• 투명한 진단 추론: "가슴 각의 둔화", "확대된 심장 실루엣" 등 구체적인 방사선학적 패턴이 각 예측을 어떻게 주도하는지 보여주는 사례 수준의 설명을 제공합니다.
• 임상 목표 정렬 (Task-aligned) 패턴 발견: 일반 목적 임베딩이 아닌, 특정 진단 목표를 위해 훈련된 분류기에서 특징을 추출하여 발견된 패턴이 임상적 의사결정과 직접적으로 연관되도록 했습니다.

4. 결과 (Results)

• 데이터셋: MIMIC-CXR (377,110 개 이미지) 을 사용하며, 환자 단위 분할 (Train/Val/Test) 을 통해 데이터 누수를 방지했습니다.
• 패턴 발견: 100 개의 트랜스코더 앙상블을 통해 약 5,000 개의 단일 의미 (monosemantic) 패턴을 발견했습니다.
  • 분포: 폐 (1,500), 구조적 (1,200), 심장 (800), 흉막 (600), 인공물 (500), 기기 (400).
• 성능: 5 가지 주요 진단 (심장비대, 흉수, 폐부종, 침윤, 무기폐) 에서 경쟁력 있는 진단 정확도를 달성했습니다 (평균 정확도 약 0.88).
• 해석 가능성: 각 예측을 20~50 개의 검증된 활성화 갤러리를 가진 해석 가능한 패턴으로 분해하여, 의사가 모델의 판단 근거를 검증할 수 있는 기반을 마련했습니다.

5. 의의 및 결론 (Significance)

• 정확성과 해석 가능성의 동시 달성: 의료 AI 가 높은 정확도를 유지하면서도 블랙박스 문제를 해결할 수 있음을 입증했습니다.
• 임상적 신뢰도 향상: 모델이 '무엇'을 보았는지 (예: 폐부종 징후) 를 자연어와 시각적 증거로 설명함으로써, 의사의 신뢰를 얻고 임상 워크플로우에 통합하는 데 필수적인 투명성을 제공합니다.
• 안전한 배포: 시스템의 실패 모드 (failure modes) 를 식별하고 검증할 수 있게 하여, 고위험 의료 환경에서의 AI 배포 안전성을 높입니다.
• 향후 전망: 현재 5,000 개의 패턴에 대한 자연어 설명을 대규모 멀티모달 모델을 통해 완성하고, 방사선 전문의 평가를 통해 설명의 정확성을 검증할 계획입니다.

이 연구는 의료 AI 가 단순히 예측만 하는 도구를 넘어, 의사와 협력하여 투명하고 검증 가능한 진단을 지원하는 시스템으로 발전할 수 있음을 보여주는 중요한 사례입니다.