기술 요약: 다중 인코더 분포 외 (OOD) 감지를 위한 표현 공간 확산 모델의 Tippett 최소값 융합

문제 정의

분포 외 (OOD) 감지는 테스트 샘플이 학습 데이터 (분포 내, ID) 와 동일한 프로세스에서 생성되었는지 식별하는 것을 목표로 합니다. 심층 생성 모델, 특히 확산 모델은 밀도 추정에서 유망한 결과를 보여주었으나, 픽셀 공간에서 직접 작동하는 것은 계산 비용이 많이 들고 종종 신뢰할 수 없는 OOD 점수를 산출합니다. 반면, 사전 학습된 인코더로부터 압축된 특징을 기반으로 작동하는 표현 공간 확산 모델 (RDMs) 은 실용적인 대안을 제공합니다. 그러나 근본적인 과제가 남아 있습니다: 서로 다른 사전 학습 인코더 (예: CLIP, DINOv2, ResNet-50) 는 이미지 구조의 서로 다른 측면 (전역 정렬, 세밀한 의미론, 질감) 을 포착하므로, 서로 다른 유형의 분포 변화 (전역 도메인 변화, 의미론적 분기, 공변량 왜곡) 에 민감하게 반응합니다. 단일 인코더가 모든 변화 유형에서 우위를 점하지는 않습니다. 본 연구가 다루는 핵심 문제는 테스트 시 분포 변화의 특정 유형을 알 수 없고 OOD 라벨에 의존하여 보정하지 않으면서, 어떻게 여러 전문화된 인코더를 효과적으로 결합하여 OOD 샘플을 감지할 수 있는지에 있습니다.

방법론: EncMin2L

본 논문은 통계적으로 근거 있는 2 단계 최소 게이트를 사용하여 인코더별 표현 공간 확산 모델을 융합하는 EncMin2L 프레임워크를 제안합니다.

1. 인코더 전문화 진단

학습 전에 저자들은 인코더의 민감도를 특성화하기 위해 ID 데이터만으로 계산되는 두 가지 진단을 도입합니다:

• $\eta^2$ (조건부 F-검정): 클래스 정체성에 의해 설명되는 로그 가능도 분산의 비율을 측정합니다. 높은 $\eta^2$ 는 세밀한 의미론적 변화 (예: CIFAR-100) 에 대한 민감도를 나타내는 반면, 낮은 $\eta^2$ 는 전역 도메인 변화 (예: SVHN) 에 대한 민감도를 시사합니다.
• $\Delta\mu$ (합성 왜곡 하의 로그 가능도 변화): ID 이미지가 합성 왜곡 (예: 가우시안 블러, 노이즈) 을 겪을 때 평균 로그 가능도의 변화를 정량화합니다. 큰 $\Delta\mu$ 는 공변량 변화 (예: CIFAR-10C) 에 대한 높은 민감도를 예측합니다.
• 교차 인코더 상관관계 ($\rho$): 인코더 로그 가능도 간의 스피어만 순위 상관관계를 사용하여 중복성을 검사합니다. 낮은 상관관계는 상호 보완적인 정보를 의미합니다.

2. 2 단계 최소 게이트 아키텍처

융합 메커니즘인 EncMin2L은 OOD 라벨 없이 작동하며 두 단계의 통계적 집계를 구성합니다:

• 1 단계 (인코더 내 최소 게이트): 각 인코더 $k$ 에 대해 정규화된 포크 (Z-점수 정규화) 와 비정규화된 포크의 두 가지 "포크"가 사용됩니다. 각 포크는 독립적인 분산 보존 확률 미분 방정식 (VP-SDE) 스코어 네트워크로 모델링됩니다. 로그 가능도는 ID 검증 샘플의 경험적 누적 분포 함수 (CDF) 를 통해 p-값으로 변환됩니다. 두 포크에 걸친 최소 연산 ($\min(\cdot)$) 은 이를 단일 인코더별 점수로 축소합니다.

  • 보정: 두 균일 변수의 최소값은 Beta(1, 2) 분포를 따르므로, 균일성을 복원하기 위해 두 번째 경험적 CDF 재매핑이 적용되어 다음 단계에서 유효한 점수가 되도록 합니다.

• 2 단계 (교차 인코더 최소 게이트): 모든 $K$ 개 인코더의 보정된 점수는 Tippett 의 최소 p-값 검정을 사용하여 집계됩니다. 최종 OOD 점수 $s(x)$ 는 모든 인코더별 점수의 최소값입니다: $s(x) = \min_k \hat{e}_k(x)$.

  • 결정 규칙: $s(x) < \tau$인 경우 샘플이 OOD 로 플래그됩니다. 여기서 $\tau$는 거짓 양성률 (FPR) 을 통제하기 위해 홀드아웃 ID 데이터로 보정된 임계값입니다.

이 접근법은 주어진 테스트 포인트에 대해 시스템이 변화 유형에 대한 사전 지식 없이 입력에 적응하며, 가장 강력한 경보를 발생시키는 특정 인코더 (및 포크) 에 의존하도록 보장합니다.

주요 기여

1. 인코더 선택을 위한 ID 데이터 진단: 본 논문은 인코더 전문화가 $\eta^2$와 $\Delta\mu$를 사용하여 ID 데이터만으로 정량화될 수 있음을 입증합니다. 이러한 지표는 OOD 샘플을 관찰하지 않고도 특정 인코더가 특정 OOD 벤치마크 (의미론적 대 공변량 변화) 에서 가장 잘 수행할지 성공적으로 예측합니다.
2. EncMin2L 프레임워크: 2 단계 최소 게이트를 통해 인코더별 확산 가능도를 결합하는 새로운, 인코더 중립적 융합 전략입니다. 이는 단일 모델이 모든 특징을 학습하도록 강요하는 모놀리식 다중 인코더 모델 (훨씬 더 많은 매개변수가 필요하며 종종 개별 인코더 기하학을 포착하지 못함) 의 함정을 피하고 전문화된 감지기들을 통계적으로 집계합니다.
3. 통계적 보정: 이 방법은 이론적으로 유효한 다중 검정 절차를 제공합니다. 점수를 p-값으로 매핑하고 Tippett 검정을 적용함으로써, 프레임워크는 보정 안정성을 보장하고 재학습 없이 원하는 FPR 수준에 기반하여 임계값을 직접 조정할 수 있게 합니다.

실험 결과

본 프레임워크는 서로 다른 변화 유형을 나타내는 네 가지 OOD 벤치마크에서 평가되었습니다:

• SVHN: 전역 도메인 변화.
• CIFAR-100: 세밀한 의미론적 변화.
• CIFAR-10C: 공변량 변화 (왜곡).
• DTD/CelebA: 질감 및 얼굴 도메인 변화 (Far-OOD).

성능:

• EncMin2L 은 CIFAR-10 을 ID 분포로 했을 때 네 가지 변화 유형 모두에서 동시에 $\ge 0.94$ AUROC를 달성했습니다.
• 최첨단 모놀리식 다중 인코더 베이스라인 및 단일 인코더 감지기보다 우수한 성능을 보였습니다.
• 효율성: EncMin2L 은 성능을 맞추기 위해 훨씬 더 큰 숨겨진 차원이 필요했던 최상위 모놀리식 베이스라인보다 2.3 배 적은 매개변수로 이러한 결과를 달성했습니다.
• 애블레이션: 한 인코더씩 제거하는 실험 (Leave-one-out) 은 특정 인코더 (예: CLIP) 를 제거하면 진단 프로파일로 예측된 변화 유형 (예: SVHN) 에서 성능이 크게 저하됨을 확인시켜 전문화 가설을 검증했습니다.

비교:

• 픽셀 공간 확산 대비: EncMin2L 은 픽셀 공간 방법 (예: DiffPath, LMD, Projection Regret) 보다 의미론적 변화 (CIFAR-100) 에서 현저히 우수했으며, 픽셀 공간 방법은 클래스 조건부 밀도 구조를 포착하지 못했습니다.
• 특징 공간 방법 대비: 특정 인코더에 대한 k-NN 방법은 일부 변화에서 잘 수행되었으나, 모든 변화 유형을 동시에 처리하는 강건함이 부족했습니다. EncMin2L 은 통합된 솔루션을 제공했습니다.
• 분류기 기반 방법 대비: EncMin2L 은 MSP, Mahalanobis, Energy 점수보다 우수했으며, 특히 클래스 경계가 모호하거나 ID 분포가 복잡한 시나리오 (예: CIFAR-100) 에서 두드러졌습니다.

중요성 및 주장

본 논문은 EncMin2L이 다음과 같은 이유로 OOD 감지 분야에서 중요한 진전을 나타낸다고 주장합니다:

1. "알려지지 않은 변화" 문제 해결: 사전에 변화 유형을 알 필요가 없거나 학습을 위한 OOD 데이터가 없어도 분포 변화의 전체 스펙트럼에 걸쳐 OOD 샘플을 감지할 수 있는 메커니즘을 제공합니다.
2. 인코더 다양성 활용: 서로 다른 인코더가 상호 보완적인 강점을 가진다는 관찰을 공식화합니다. 단일 모델이 모든 특징을 학습하도록 강요하는 대신 전문화된 모델들을 집계하여 더 낮은 계산 비용으로 더 높은 정확도를 달성합니다.
3. 실용적 설계 도구: 진단 파이프라인 ($\eta^2$, $\Delta\mu$) 은 실무자가 OOD 예시를 요구하지 않고 ID 데이터만으로 설계 단계에서 인코더를 선택하고 결합할 수 있게 하여, 다양한 배포 시나리오에 적응 가능하게 만듭니다.

저자들은 이 방법이 Tippett 검정의 통계적 유효성과 표현 공간 확산의 특성에 의존하며, 입력의 특정 분포 특성에 적응하는 강건하고 보정 안정적인 신호를 제공한다고 강조합니다.