기술 요약: 분포 외 (OOD) 감지를 위한 벤디 신규성 점수

문제 제기

현대 머신러닝 시스템은 분포 외 (Out-of-Distribution, OOD) 입력을 접할 때 종종 예측 불가능한 행동을 보이며, 높은 확신을 가지고 있지만 잘못된 예측을 자주 생성합니다. 이는 자율 주행, 의료 영상, 과학적 발견과 같은 고위험 분야에서 심각한 위험을 초래합니다. OOD 감지는 안전을 위해 필수적이지만, 기존 사후 (post-hoc) 방법들은 다음과 같은 한계에 직면해 있습니다:

• 로그트 기반 방법 (예: 최대 소프트맥스 확률, 에너지 점수) 은 분포 내 (in-distribution) 특징 통계를 무시하여 신뢰성을 저하시킵니다.
• 특징 공간 밀도 방법 (예: 마할라노비스 거리) 은 종종 표현의 기하학에 대한 제한적인 가정 (예: 가우시안성, 신경 붕괴) 에 의존하는데, 이는 다양한 아키텍처에 걸쳐 성립하지 않을 수 있습니다.
• 유사도 기반 방법 (예: k-최근접 이웃) 은 추론 시 상당한 계산 오버헤드를 초래합니다.
• 기울기 기반 방법은 종종 여러 순전파 및 역전파를 필요로 하므로 지연 시간에 민감한 애플리케이션에서는 실용적이지 않습니다.

제한적인 분포 가정에 의존하지 않고 훈련 데이터에 대한 접근이 제한된 상황에서도 효과적으로 작동할 수 있는 계산 효율적인 사후 OOD 감지기가 필요합니다.

방법론: 벤디 신규성 점수 (VNS)

저자들은 다양성 (diversity) 개념에 기반한 사후 OOD 감지기인 벤디 신규성 점수 (Vendi Novelty Score, VNS) 를 제안합니다. VNS 는 밀도 추정이 아닌 유사도 기반 다양성 지표인 벤디 점수 (Vendi Score, VS) 를 활용하여, 테스트 샘플이 분포 내 (ID) 특징 집합의 다양성을 얼마나 증가시키는지 정량화합니다.

핵심 알고리즘

1. 조건부 신규성:

   • $C$개의 클래스를 가진 훈련된 분류기 $f_\theta$에 대해, penultimate layer 에서 임베딩 $h(x)$를 추출합니다.
   • 각 클래스 $c$에 대해, 해당 클래스의 훈련 임베딩으로부터 조건부 밀도 행렬 $\rho_c$를 계산합니다.
   • 테스트 샘플 $x$의 클래스 $c$에 대한 신규성은 $x$가 클래스 집합에 추가될 때 2 차 벤디 점수 ($VS_2$) 가 증가하는 로그 비율로 정의됩니다:
     $$\Delta_c(x) = \log VS_2(\rho'_c) - \log VS_2(\rho_c)$$
   • 효율성을 보장하기 위해 저자들은 랭크 -1 근사 (rank-1 approximation) 를 사용합니다. $\rho_c$의 전체 고유 스펙트럼을 유지하는 대신, 가장 큰 고유값 $\lambda_c$와 이에 대응하는 고유벡터 $u_c$만을 사용하여 $VS_2$의 변화를 근사합니다. 이로써 클래스별 점수 계산의 복잡도가 클래스당 $O(D)$로 감소합니다.

2. 확률 가중 집계:

   • 단일 예측 클래스에 의존하는 대신, VNS 는 모델의 예측 클래스 확률 $p(x)$를 사용하여 조건부 신규성 점수를 집계합니다.
   • 로컬 OOD 점수는 다음과 같이 계산됩니다:
     $$S_{\text{LOCAL-OOD}}(x) = \sum_{c \in T_K(x)} N_c p_c(x)^\gamma \Delta_c(x)$$
     여기서 $T_K(x)$는 상위 $K$개 예측 클래스를 나타내고, $N_c$는 클래스 크기 (스케일링용) 이며, $\gamma$는 집계 정도를 조절합니다.

3. 전역 다양성 보정:

   • 전역 밀도 변동을 고려하기 위해, 테스트 샘플이 전체 데이터셋에 추가될 때 전역 밀도 행렬의 최대 고유값에 의존하는 $VS_\infty$의 변화에 기반한 전역 신규성 점수가 계산됩니다.
   • 최종 VNS 점수는 로컬 및 전역 신호를 결합합니다:
     $$\text{VNS}(x) = S_{\text{LOCAL-OOD}}(x) - g \cdot S_{\text{GLOBAL-OOD}}(x)$$
     여기서 $g \in \{0, 1\}$은 전역 보정이 적용되는지 여부를 결정하는 이진 계수입니다.

복잡도

• 시간 복잡도: $O(CD)$입니다. 여기서$C$는 클래스 수이고$D$는 임베딩 차원입니다. 이는 두 매개변수에 대해 선형이므로 마할라노비스 기반 방법 ($O(CD^2)$) 과 k-NN 접근법보다 훨씬 빠릅니다.
• 공간 복잡도: $O(CD)$입니다. 각 클래스에 대한 상위 고유값과 고유벡터만 저장하면 되기 때문입니다.

주요 기여

1. 새로운 패러다임: 전통적인 밀도 모델링이나 로그트 분석을 벗어나 OOD 감지를 위한 다양성 기반 관점을 도입합니다.
2. 벤디 신규성 점수 (VNS): 테스트 샘플이 표현 다양성에 미치는 영향을 통해 신규성을 정량화하고, 벤디 점수의 효율적인 랭크 -1 근사를 활용하는 구체적인 알고리즘을 제안합니다.
3. 하이브리드 신호 통합: 예측 확률로 가중치를 둔 로컬 (조건부) 및 전역 신규성 신호를 결합하여 견고성을 향상시킵니다.
4. 데이터 효율성: VNS 가 훈련 데이터의 1% 만을 사용하여 계산되더라도 최첨단 (SOTA) 성능을 유지함을 입증하여, 메모리 제약 환경에서의 배포를 가능하게 합니다.
5. 이론적 및 실증적 검증: 랭크 -1 근사에 대한 이론적 근거와 여러 데이터셋 및 아키텍처에 걸친 광범위한 실증적 검증을 제공합니다.

실험 결과

저자들은 ResNet, ViT, Swin-T를 포함한 아키텍처를 사용하여 표준 OOD 벤치마크인 CIFAR-10, CIFAR-100, ImageNet-1K에서 VNS 를 평가했습니다.

• 성능: VNS 는 CIFAR-10 에서 최첨단 (SOTA) 성능을 달성했고 CIFAR-100 에서 경쟁력 있는 결과를 보였습니다. ImageNet-1K 벤치마크에서 VNS 는 평균적으로 두 번째로 성능이 좋은 알고리즘 대비 95% 참양성률 (TPR) 에서의 거짓양성률 (FPR@95) 을 13% 감소시켰습니다.
• 견고성: ResNet 에서는 잘 작동하지만 Transformer 에서는 성능이 저하되는 일부 활성화 형성 방법과 달리, VNS 는 다양한 아키텍처 (ResNet, ViT, Swin-T) 에서 일관된 성능을 입증했습니다.
• 효율성: VNS 는 두 번째로 정확한 방법 (RMDS++) 보다 수 배 빠르게 작동하며, 로그트 전용 방법 (예: GEN, NCI) 과 유사한 지연 시간을 보입니다.
• 데이터 부족: ImageNet 훈련 데이터의 1% 만으로 훈련되었을 때, VNS 는 평균 AUROC **88.96%**를 달성하여 전체 데이터 접근 시의 성능 (88.59% AUROC) 과 거의 동일했습니다.

중요성 및 주장

본 논문은 VNS 가 OOD 감지를 위한 원칙적이고 효율적이며 견고한 솔루션을 제공한다고 주장합니다. 그 중요성은 다음과 같습니다:

• 제한적 가정 회피: 가우시안 밀도 가정 대신 다양성 지표에 의존함으로써, 딥러닝 표현에서 흔히 발생하는 기하학적 가정 위반에 덜 민감합니다.
• 실용적 배포: 선형 시간 복잡도와 최소한의 훈련 데이터로 작동할 수 있는 능력은 훈련 데이터 접근이 제한되거나 지연 시간이 중요한 실제 시나리오에 VNS 를 적합하게 만듭니다.
• 안전성: 이 방법은 ML 시스템이 자신의 역량을 벗어난 입력을 식별하여 기권 (abstention) 또는 인간 에스컬레이션과 같은 더 안전한 응답을 촉발하는 메커니즘을 제공합니다.

저자들은 하이퍼파라미터 튜닝 필요성 (자동화된 검증 세트를 통해 해결됨) 과 코사인 커널에 대한 의존성 등 한계를 지적했습니다. 그들은 VNS 가 안전성을 향상시키지만 완전한 해결책은 아니며, 모니터링 및 인간 감독이 포함된 더 넓은 안전 프로토콜의 일부여야 함을 강조합니다.