RADMI: Latent Information Aggregation as a Proxy for Model Uncertainty

기술 요약: RADMI – 모델 불확실성의 대리 지표로서 잠재 정보 집계

문제 제기
지진 지층 단면 분할과 같은 밀집 예측 작업에 적용된 딥러닝 모델은 종종 출력이 신뢰할 수 없는 영역에서도 과도하게 확신하는 예측을 생성합니다. 이러한 영역을 식별하기 위한 정확한 인식적 불확실성 추정은 인간 전문가가 가장 필요한 곳에서 수동 검토 노력을 집중할 수 있게 합니다. 그러나 기존 최첨단 불확실성 정량화 방법은 상당한 확장성 장벽에 직면해 있습니다:

• **딥 앙상블 (Deep Ensembles)**은 여러 개의 독립적인 모델을 학습해야 합니다.
• **몬테카를로 드롭아웃 (MCD)**은 추론 시 여러 번의 확률적 순전파를 필요로 합니다.
• **예측 전환 추적 (Prediction Switch Tracking)**은 모든 학습 에포크마다 체크포인트를 저장하고 새로운 데이터에 대해 수백 번의 순전파를 실행해야 합니다.

이러한 계산적 오버헤드로 인해 수백 제곱킬로미터에 달하는 대규모 지진 볼륨에 이러한 방법을 적용하는 것은 비현실적입니다. 또한, Softmax 엔트로피와 최대 Softmax 확률 (MSP) 과 같은 표준 단일 통과 방법은 종종 보정이 불량하여 불확실성을 클래스 경계 precisely 로 국소화하지 못하고, 대신 확산된 불확실성 지도를 생성합니다.

방법론: RADMI
저자들은 인코더 - 디코더 아키텍처 (예: U-Net 변형) 내의 정보 흐름을 활용하는 단일 통과 불확실성 추정 방법인 **해상도 집계 디코더 상호 정보 (RADMI)**를 제안합니다.

• 핵심 직관: 이 방법은 클래스 경계에서 디코더가 인접한 공간 영역으로부터의 상충되는 문맥 정보를 조화시켜야 한다는 관찰에 기반합니다. 이러한 통합은 활성화 분포의 확산과 연속적인 디코더 레이어 간의 강한 통계적 의존성을 생성합니다. 반면, 균질한 영역에서는 활성화가 밀집되어 있으며 레이어 간 의존성이 낮습니다.
• 상호 정보 (MI) 추정: RADMI 는 연속된 디코더 레이어 표현 ($Z_l$ 및 $Z_{l+1}$) 간의 상호 정보 $I(Z_l; Z_{l+1})$를 측정하여 이러한 의존성을 정량화합니다.
  • 공간 국소화: 픽셀 수준의 불확실성 지도를 생성하기 위해 MI 는 슬라이딩 윈도우 방식을 사용하여 국소적으로 계산됩니다. 인접 레이어의 특징 맵은 이차 보간을 통해 정렬됩니다. $p \times p$ 패치 내에서 채널 활성화는 결합 가우시안으로 모델링되어 경험적 공분산 행렬에 기반한 폐쇄형 MI 계산을 가능하게 합니다.
  • 해상도 가중 집계: $L$개의 업샘플링 단계를 가진 디코더의 경우, 모든 연속된 레이어 쌍에 대해 MI 지도가 계산됩니다. 이러한 지도는 출력 해상도로 업샘플링된 후 해상도 가중 평균을 사용하여 집계됩니다. 이 가중치 체계 ($w_l \propto H_l \times W_l$) 는 공간 국소화가 더 정밀한 더 미세한 해상도에서의 MI 추정을 강조하여 균일 가중치에 비해 더 날카로운 경계 응답을 생성합니다.

주요 기여

1. 단일 통과 효율성: RADMI 는 앙상블 학습, 드롭아웃 교란, 또는 과거 학습 데이터 접근의 필요성 없이 단일 순전파만으로 원칙적인 불확실성 추정을 제공합니다.
2. 아키텍처 무관성: 이 방법은 기본 인코더 - 디코더 아키텍처에 수정을 요구하지 않으며, 이러한 구조를 활용하는 모든 네트워크에 적용 가능합니다.
3. 경계 국소화: 확산된 불확실성을 산출하는 소프트맥스 기반 방법과 달리, RADMI 는 예측 난이도가 가장 높은 영역과 밀접하게 일치하는 날카롭고 경계에 국소화된 불확실성 지도를 생성합니다.

실험 결과
이 방법은 복잡한 층서 경계를 가진 여섯 가지 암석학적 클래스를 포함하는 데이터셋인 네덜란드 F3 블록 지진 지층 벤치마크에서 평가되었습니다. 평가는 실제 불확실성 (ground-truth uncertainty) 을 사용할 수 없었으므로, 30 개 모델로 구성된 딥 앙상블 불확실성을 기준 표준으로 삼았습니다.

• 앙상블 불확실성과의 상관관계: RADMI 는 모든 단일 통과 방법 중 딥 앙상블 불확실성과 가장 높은 상관관계를 달성했습니다. 다음으로 좋은 기준 방법들보다 피어슨 상관관계에서 5.5%, 스피어만 상관관계에서 10.7% 더 우수한 성능을 보였습니다.
  • 피어슨: RADMI (0.674) 대 MC-Dropout (0.639) 대 Softmax Entropy (0.605).
  • 스피어만: RADMI (0.559) 대 Prediction Switches (0.505) 대 MC-Dropout (0.273).
• 예측 오차와의 일치: 예측 오차 지도 (모델이 실제 정답과 일치하지 않는 픽셀) 와 직접 비교했을 때, RADMI 는 다시 한번 단일 통과 방법 중 가장 높은 순위를 차지하여 피어슨 상관관계 0.543 (MC-Dropout 의 0.467 대비) 을 달성했고, 단일 통과 방법 중 가장 높은 mIoU(0.234) 를 기록했습니다.
• 공간 정밀도: 정성적 분석 결과, RADMI 는 지층 경계에서 날카로운 전이를 보이는 불확실성 지도를 생성하여 딥 앙상블과 밀접하게 모방했습니다. 반면, Softmax Entropy 와 1-MSP 는 확산된 패턴을 생성한 반면, Prediction Switches 는 비록 날카롭지만 근본적으로 다른 이산 분포를 보였습니다.
• 계산 비용: RADMI 는 단 1 번의 순전파만 요구합니다. 이는 MC-Dropout(20 회), 딥 앙상블 (30 회), Prediction Switches(~300 회) 에 비해 훨씬 효율적입니다.

의의 및 주장
본 논문은 RADMI 가 인코더 - 디코더 아키텍처에서 예측 불확실성을 위한 원칙적이고 효율적인 대리 지표를 제공한다고 주장합니다. 디코더 레이어 간의 정규화된 정보 흐름을 선형적으로 집계함으로써, 이 방법은 앙상블 방법의 계산적 비효율성이나 표준 소프트맥스 기반 접근법의 보정 문제 없이 인식적 불확실성을 포착합니다.

저자들은 이 접근법이 계산 자원이 제한된 실제 대규모 지진 해석 워크플로우에서 불확실성 인식 분할의 배포를 가능하게 한다고 주장합니다. 현재 검증은 지진 지층 분할에 특화되어 있지만, 저자들은 이 방법의 적용 범위가 다른 밀집 예측 영역으로 확장될 수 있으며, 향후 3D 볼륨 데이터와 의료 영상 및 원격 탐사 분야에서의 검증을 계획하고 있다고 밝힙니다.