기술 요약: GCE-MIL: 전 슬라이드 이미징의 다중 인스턴스 학습을 위한 충실하고 복구 가능한 증거

1. 문제 제기

계산 병리학에서 전 슬라이드 이미지 (WSI) 는 일반적으로 다중 인스턴스 학습 (MIL) 을 사용하여 처리되며, 여기서 슬라이드는 수천 개의 조직 패치로 구성된 '가방 (bag)'으로 간주되고, 감독 신호는 슬라이드 수준에서만 제공됩니다. 표준 주의 기반 MIL 모델 (예: ABMIL, CLAM, TransMIL) 은 슬라이드 수준 레이블을 예측하기 위해 패치 특징을 집계합니다. 이러한 모델들이 종종 예측의 '증거'로 주의 가중치를 시각화하지만, 본 논문은 이러한 관행이 분류 정확도와 증거의 질이라는 두 가지 구별된 목표를 혼동한다고 주장합니다.

저자들은 주의 가중치를 증거로 사용할 때 발생하는 세 가지 체계적 실패를 식별했습니다:

1. 불충분성 (Insufficiency): 상위 주의가 부여된 패치만 유지하는 것은 종종 원래 예측을 보존하지 못합니다. 9 개 데이터셋을 대상으로 한 결과, 상위 k 개의 주의 패치만 유지할 경우 전체 가방 대비 Macro-F1 이 평균 0.078 감소했습니다.
2. 불필요성 (Unnecessity): 상위 주의가 부여된 패치를 제거하는 것은 종종 예측에 거의 영향을 미치지 않아, 모델이 다른 곳의 중복 정보에 의존하고 있음을 나타냅니다. 상위 k 개의 주의 패치를 제거할 경우 Macro-F1 은 평균 0.033 만 변화했습니다.
3. 복구 불가능성 (Unrecoverability): 훈련 중에 학습된 연속적인 주의 점수와 추론 시 추출된 이산적 부분 집합 사이에는 상당한 격차가 존재합니다. 표준 ABMIL 의 경우, 이 연속 - 이산 (C-D) 격차는 0.029 로, 이는 이산적 증거가 연속 신호를 충실하게 대표하지 못함을 의미합니다.

또한, 논문은 WSI 증거가 종종 **비유일적 (non-unique)**이라고 지적합니다. 단일 슬라이드에는 진단에 개별적으로 충분한 여러 개의 불연속적인 패치 집합이 포함될 수 있지만, 표준 주의 메커니즘은 이를 단일 순위로 축소하여 이러한 구조적 모호성을 포착하지 못합니다.

2. 방법론: GCE-MIL

저자들은 분류의 부산물로 취급하는 대신 증거의 질을 직접 최적화하도록 설계된 백본-무관 (backbone-agnostic) 래퍼인 GCE-MIL(Grounded Continuous Evidence MIL)을 제안합니다. 이 프레임워크는 충분성 (Sufficiency), 필요성 (Necessity), **복구 가능성 (Recoverability, S/N/R)**이라는 세 가지 기준에 기반합니다.

핵심 구성 요소

1. 의미적 앵커 그라운딩 (Necessity 해결):

   • 분류 기울기로부터만 선택을 학습하는 대신, GCE-MIL 은 패치 선택을 도메인 특화 의미 개념 (예: "핵 다형성", "유사 분열 활동") 에 근거시킵니다.
   • 이는 병리학 비전 - 언어 모델인 TITAN에서 파생된 $M=8$개의 고정된 텍스트 임베딩 뱅크를 활용합니다.
   • 저랭크 어댑터와 브리지 네트워크가 패치 특징을 앵커 공간으로 매핑합니다. 선택기는 진단 개념과 일치하는 패치가 선택되도록 훈련되어, 시각적으로 두드러지지만 관련 없는 영역이 선택되는 것을 방지합니다.

2. 노이즈 - OR 커버리지를 갖춘 연속 선택기 (Sufficiency 해결):

   • 모델은 패치 포함 여부를 결정하기 위해 연속 선택기 $\pi \in [0, 1]^N$을 사용합니다.
   • 여러 진단 개념에 걸쳐 증거를 집계하기 위해, 프레임워크는 평균 풀링이나 주의 대신 노이즈 - OR 커버리지를 사용합니다. 특정 앵커 $m$에 대해 커버리지는 $v_m(\pi) = 1 - \prod_i (1 - \pi_i r_{im})$로 계산됩니다.
   • 이 메커니즘은 패치를 체감하는 한계 수익을 가진 독립적인 증거 채널로 모델링합니다. 이는 **단조 서브모듈러 (monotone submodular)**임이 증명되어 원칙적인 탐욕적 최적화를 가능하게 합니다. 이는 선택된 부분 집합이 중복 없이 필요한 진단 개념을 커버하도록 보장합니다.

3. 임계값 + 복구 이산 복구 (Recoverability 해결):

   • 추론 시, 연속 선택기는 임계값 + 복구 (threshold-plus-repair) 절차를 통해 이산적 부분 집합으로 변환됩니다.
   • 먼저 패치가 임계값 처리됩니다 (예: $\pi_i > 0.5$). 결과 부분 집합이 커버리지 목표 (예: 앵커 커버리지의 95%) 를 충족하지 못하는 경우, 탐욕적 복구 알고리즘이 노이즈 - OR 유틸리티의 정확한 한계 이득을 기반으로 패치를 추가합니다.
   • 이는 이산적 부분 집합이 연속 선택기의 충실한 복구가 되도록 보장하여 C-D 격차를 최소화합니다.

훈련 목적 함수

래퍼는 호스트 백본과 함께 복합 손실 함수를 사용하여 공동 훈련됩니다:
$$L = L_{task} + \lambda_b L_{budget} + \lambda_g L_{ground}$$

• $L_{task}$: 원래 분류 또는 생존 손실 (예측 능력 보존).
• $L_{budget}$: 충분성을 유도하기 위해 희소성을 강제합니다 (예: 패치의 약 5% 선택).
• $L_{ground}$: 필요성을 유도하기 위해 선택기를 노이즈 - OR 앵커 응답과 정렬합니다.
• 온도 어닐링: 선택기의 온도는 훈련 중 1.0 에서 0.4 로 어닐링되어 게이트 분포를 이모달 (bimodal) 영역으로 밀어붙여 이산 복구를 용이하게 합니다.

주입 모드

GCE-MIL 은 다양한 백본 아키텍처에 적응하는 플러그인 래퍼입니다:

• 주의 기반 백본 (ABMIL, CLAM): 주의 - 로그트 편향으로 주입 ($\alpha_i \leftarrow \alpha_i + \log \pi_i$).
• 토큰 기반 백본 (TransMIL, DTFD-MIL): 특징 재가중치로 주입 ($h_i \leftarrow \pi_i \cdot h_i$).
• 하이브리드/멀티패스 백본: 두 가지의 조합.

3. 주요 기여

1. 증거의 질의 형식화: 논문은 MIL 증거를 평가하기 위해 세 가지 기준 (충분성, 필요성, 복구 가능성) 을 정의하고 운영화하며, 표준 주의 기반 방법이 이 세 가지 모두에서 실패함을 입증합니다.
2. 최소 부분 집합 진단: BRACS 데이터셋에 대한 재귀적 분석 결과, 검증 슬라이드의 72.67% 가 적어도 두 개의 불연속적인 충분한 부분 집합을 허용하는 것으로 나타났으며, 이는 단일 주의 순위 이상의 증거 선택 필요성을 동기화합니다.
3. GCE-MIL 프레임워크: 의미적 그라운딩, 노이즈 - OR 커버리지, 이산 복구를 통합한 모듈식 래퍼입니다. 기존 백본과 직교하도록 설계되어 핵심 집계 메커니즘을 대체하지 않고 이를 향상시킵니다.
4. 포괄적 평가: 이 방법은 9 $\times$ 9 그리드(9 개 백본 $\times$ 9 개 데이터셋) 전반에 걸쳐 평가되었으며, 분류 (BRACS, PANDA, TCGA-BRCA, TCGA-NSCLC) 와 생존 예측 (TCGA-LUAD, STAD, UCEC, KIRP, KIRC) 을 모두 포함합니다.

4. 결과

평가 결과, S/N/R 을 최적화하는 것은 증거의 질뿐만 아니라 많은 경우 예측 성능도 향상시킵니다.

• 예측 성능: 81 개 구성 전반에 걸쳐 GCE-MIL 은 평균 Macro-F1 을 0.024만큼, C-index 를 0.014만큼 향상시켰습니다. 가장 큰 향상은 까다로운 세밀한 작업 (예: BRACS 7 클래스 분류) 에서 관찰되었으며, 여기서 ABMIL Macro-F1 은 0.634 에서 0.703 으로 증가했습니다 (+6.9 포인트).
• 증거의 질 (개입 진단):
  • 충분성: GCE 증거를 유지할 경우 전체 가방 점수의 변화는 0.004에 불과한 반면, 주의 상위 k 개 패치의 경우 0.078 감소했습니다.
  • 필요성: GCE 증거를 제거할 경우 성능 저하가 0.176 발생하여, 주의 상위 k 개 패치의 0.033과 비교됩니다.
  • 복구 가능성: 연속 - 이산 격차는 GCE 를 사용하면 0.029(ABMIL) 에서 0.004–0.005로 감소했습니다.
• 효율성: 선택적 타일 사전 필터링 (특징 추출 전 비선택 패치 건너뛰기) 을 사용하면 추론 속도가 최대 5 배 빨라지면서 전체 가방 유틸리티의 0.989 배를 유지합니다. 캐시된 특징이 있더라도 MIL 집계 시간은 원래 시간의 0.22 배로 단축됩니다.
• 로컬라이제이션: CAMELYON-16 데이터셋에서 GCE 를 추가하면 Dice 점수 (예: TransMIL 의 경우 0.103 에서 0.398 로 증가) 와 FROC 점수가 향상되어 주석된 종양 영역과의 공간적 정합성이 개선되었음을 나타냅니다.

5. 중요성 및 주장

본 논문은 GCE-MIL 이 분류 정확도가 충실한 증거를 의미한다는 가정을 전제로 하는 MIL 의 근본적인 격차를 해결한다고 주장합니다. 충분성, 필요성, 복구 가능성을 명시적으로 최적화함으로써, 이 방법은 다음과 같은 증거를 생성합니다:

• 자기 완성형: 선택된 패치만으로도 예측이 보존됩니다.
• 중요성: 선택된 패치를 제거하면 예측이 저하됩니다.
• 충실성: 추론 시의 이산적 증거는 훈련 중 학습된 연속 신호와 일치합니다.

저자들은 GCE-MIL 이 백본의 대체가 아닌 래퍼임을 강조하며, 이는 기존 MIL 아키텍처의 광범위한 적용을 가능하게 합니다. 결과는 증거의 질이 단순히 사후 해석 가능성의 문제가 아니라, 최적화될 때 복잡한 다중 개념 진단 시나리오에서 특히 근본적인 예측 모델의 견고성과 정확성을 향상시킬 수 있는 요소임을 시사합니다. 또한 이 연구는 표준 주의 메커니즘이 종종 병리학적 증거의 비유일적이고 다중 소스적인 특성을 포착하지 못한다는 점을 강조하며, GCE-MIL 이 커버리지 기반 접근법을 통해 이러한 한계를 완화함을 보여줍니다.