기술 요약: 교차 도메인 OOD 탐지를 위한 PRISM

문제 정의

OOD(Out-of-Distribution, 분포 외) 탐지는 실제 안전이 중요한 시스템에 신경망을 배포할 때 발생하는 핵심적인 과제입니다. 모델은 인-디스트리뷰션(In-distribution, ID) 데이터에 대해서는 높은 정확도를 달립지만, 훈련 분포에서 벗어난 입력에 대해서는 과도하게 확신에 찬 잘못된 예측을 내놓을 수 있습니다. 기존의 사후(post-hoc) OOD 탐지 방법들은 일반적으로 단일 표현 레벨(예: 로짓 또는 펜얼터메이트 피처)에 의존하거나, 깊이 선택(depth selection) 또는 OOD 보정 가중치(OOD-calibrated weighting)를 사용하여 여러 레이어의 점수를 집계합니다.

저자들은 이러한 접근 방식의 근본적인 한계를 지적합니다. 즉, OOD 탐지에 가장 유익한 표현 레벨은 OOD 유형과 응용 도메인(자연 이미지, 의료 영상, 산업 검사)에 따라 크게 달라진다는 점입니다. 결과적으로, 특정 OOD 검증 세트에 맞춰 보정된 고정된 레이어 선택이나 집계 전략은 취약하며, 다양한 도메인으로 일반화되는 데 실패합니다. 또한, 많은 기존 다층(multi-layer) 방법들은 레이어 가중치를 학습하기 위해 OOD 의존적인 보정이나 합성 데이터를 필요로 하며, 이는 복잡성을 증가시키고 전이 가능성을 저하시킵니다.

방법론: PRISM

본 논문은 교차 도메인 강건성을 위해 설계된 모델 불가지론적(model-agnostic) 사후 OOD 탐지 방법인 PRISM(Projected Representation with Intermediate-layer Subspace Modeling)을 제안합니다. PRISM은 레이어별 점수 집계 대신, 통계적 모델링 이전에 통합된 피처 표현을 생성하는 "융합 후 모델링(fuse-then-model)" 원칙을 준수합니다.

이 방법은 세 가지 주요 단계로 구성됩니다:

1. 통합 다층 피처 구축 (Unified Multi-Layer Feature Construction):
   단일 레이어를 선택하는 대신, PRISM은 네트워크 전체에 걸쳐 얕은 층부터 깊은 층까지의 여러 중간 레이어로부터 피처 맵을 추출합니다. 합성곱 신경망(CNN)의 경우 공간 피처 맵을 전역 평균 풀링(global average pooling)을 통해 집계하며, 비전 트랜스포머(ViT)의 경우 토큰 시퀀스를 평균화합니다. 각 결과 벡터는 레이어의 활성화 크기가 결합된 표현을 지배하는 것을 방지하기 위해 $\ell_2$-정규화(normalization)됩니다. 이러한 정규화된 벡터들은 하나로 결합되어 단일 고차원 다층 피처 벡터 $\mathbf{z}(\mathbf{x})$를 형성합니다.

2. ID 데이터의 서브스페이스 모델링 (Subspace Modeling of ID Data):
   PRISM은 ID 데이터가 이 융합된 피처 공간 내의 저차원 매니폴드(manifold)에 존재한다고 가정합니다. 오직 ID 훈련 데이터만을 사용하여, ID 변동성의 주요 모드를 포착하는 주성분 공간 $\mathbf{W}$를 추정하기 위해 주성분 분석(PCA)을 적용합니다. 추론 시, 피처 벡터는 다음 두 가지로 분해됩니다:

   • 투영 (Projection, $\mathbf{u}$): 학습된 ID 매니폴드와 일치하는 성분으로, ID 데이터와 일관된 의미론적 패턴을 포착합니다.
   • 잔차 (Residual, $\mathbf{r}$): 학습된 ID 매니폴드에 의해 지원되지 않는 특징을 나타내는 직교 성분입니다.

3. OOD 스코어링 (OOD Scoring):
   PRISM은 학습된 가중치나 OOD 보정 없이 두 가지 상보적인 신호를 하나의 점수로 결합합니다:

   • 투영 마할라노비스 거리 (Projected Mahalanobis Distance, $s_{\text{proj}}$): 학습된 매니폴드 내에서의 클래스 조건부 구조로부터의 편차를 탐지하기 위해 투영된 서브스페이스에서 계산된 클래스 조건부 마할라노비스 거리입니다.
   • 잔차 에너지 (Residual Energy, $s_{\text{res}}$): 잔차 벡터의 제곱 $\ell_2$ 노름(norm)입니다. 이는 ID 매니폴드에 직교하는 방향에서의 에너지를 포착하여, 새롭거나 지원되지 않는 피처 방향을 탐지합니다.

   최종 OOD 점수는 이 두 항의 음의 곱입니다: $s_{\text{PRISM}}(\mathbf{x}) = -s_{\text{proj}}(\mathbf{x}) \cdot s_{\text{res}}(\mathbf{x})$. 이 곱셈적 결합은 주성분 서브스페이스 내부와 외부 모두에서 ID 구조로부터 벗어난 샘플을 강조합니다. 모든 통계치(평균, 공분산, PCA 파라미터)는 오직 ID 데이터로부터만 추정됩니다.

주요 기여

• 집계 민감도 식별: 저자들은 레이어별 집계와 OOD 기반 보정이 선택된 OOD 검증 세트에 매우 민감하며, 이로 인해 불안정한 교차 도메인 동작을 초래함을 입증했습니다. 그들은 최적의 레이어 가중치가 의료 및 자연 이미지의 변화에 따라 크게 달라짐을 보여주었습니다.
• 통합 다층 서브스페이스 모델링: PRISM은 레이어 선택, 점수 집계 휴리스틱, OOD 의존적 보정의 필요성을 제거하는 원칙을 도입합니다. 표현을 융합함으로써 ID 기하학적 구조의 통계적 모델링이 가진 강점은 유지하면서, 얕은 층부터 깊은 층까지의 상보적인 정보를 포착합니다.
• 포괄적인 교차 도메인 평가: 이 방법은 단일 기본 설정(default configuration)을 사용하여 자연, 의료, 산업 벤치마크(OpenOOD, OpenMIBOOD, ICONIC-444)에서 평가되었습니다. PRISM은 OOD 기반 보정 없이도 최고 수준의 평균 AUROC 및 모든 데이터셋에 대한 최적의 평균 순위를 달성했습니다.
• 효율성: 이 방법은 베이스라인 대비 최소한의 추론 오버헤드(배치 크기 $\geq 16$일 때 1.0% 미만)를 발생시켜 실세계 배포에 실용적입니다.

결과

다양한 벤치마크에서 22개의 최첨단 사후(post-hoc) 방법들과 수행한 광범에한 실험을 통해 다음과 같은 결과를 얻었습니다:

• 전반적인 성능: PRISM은 모든 벤치마크에서 가장 높은 평균 AUROC(93.92%)를 달성하였으며, 두 번째로 우수한 방법인 MDS++ (89.13%)를 4.79 포인트 차이로 앞질렀습니다.
• 도메인 강건성: 도메인 의존적인 변동성이 두드러지는 경쟁 방법들(예: 의료 데이터에서는 잘 작동하지만 ImageNet-1k에서는 성능이 낮은 MDSEns, 산업 환경에서는 뛰어나지만 의료 작업에서는 저하되는 GRAM)과 달리, PRISM은 자연, 의료, 산업 도메인 전반에 걸쳐 일관되게 높은 성능을 유지합니다.
• OOD 카테고리 강건성: PRISM은 Near-OOD부터 Extreme-OOD 카테로리에 이르기까지 높은 AUROC를 유지하며, 이는 분포 변화가 심화됨에 따른 강건성을 나타냅니다.
• 아키텍처 일반화: PRISM은 ResNet, Swin Transformer, ViT를 포함한 다양한 백본 아키텍처에서 아키텍처 특화 튜닝 없이 일관되게 우수한 성능을 보입니다.
• 절제 연구 (Ablation Studies): 본 논문은 최적의 성능을 위해 투영 마할라노비스 항과 잔차 에너지 항이 모두 필요함을 확인했습니다. 이는 두 항이 서로 다른 유형의 기하학적 편차를 포착하기 때문입니다. 또한 통합 다층 표현이 단일 레이어 베이스라인이나 단순 점수 집계보다 더 효과적임을 입증했습니다.

의의 및 주장

본 논문은 PRISM이 전이 가능한 ID 전용 배포를 우선시함으로써 현재 OOD 탐지 방법들의 불안정성을 해결한다고 주장합니다. 얕은 층부터 깊은 층까지의 표현을 융합하고, 저차원 서브스페이스 내에서 통합된 ID 기하학을 모델링함으로써, PRISM은 벤치마크별 깊이 선호도와 OOD 의존적 보정의 함정을 피합니다.

저자들은 단일한 사후 탐지기가 모든 도메인과 OOD 유형에 대해 보편적으로 최고일 수는 없지만, PRISM은 표현 깊이 전반의 상보적인 정보를 통합하는 강력한 "기본(default)" 솔루션을 제공한다고 강조합니다. 이러한 접근 방식은 개발 단계에서 사용되는 특정 OOD 정의나 검증 세트에 대한 민감도를 줄여주며, OOD 데이터가 부족하거나 알 수 없는 다양한 실제 응용 분야에서 분포 변화를 식별하는 데 더 신뢰할 수 있는 메커니즘을 제공합니다. 고정된 설정을 통해 자연, 의료, 산업 도메인 전반에서 최첨단 성능을 달-성한 능력은 교차 도메인 강건성을 위한 통합 다층 서브스페이스 모델링의 가치를 뒷받침합니다.