💻 computer science

HUE-OOD: Hybrid Uncertainty–Evidential Dynamics for Out-of-Distribution Detection

HUE-OOD는 사전 학습된 분류기에 대한 수정 없이, 매개변수가 없는 순위 기반 융합 전략을 통해 예측, 표현, 증거적 불확실성 신호를 결합함으로써 다양한 벤치마크 전반에 걸쳐 분포 외 탐지 강건성을 향상시키는 사후 프레임워크이다.

원저자: Phat Nguyen

게시일 2026-09-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Phat Nguyen

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

심층 신경망은 의료 영상 분석부터 자율주행 자동차의 내비게이션 시스템에 이르기까지 많은 현대 기술의 보이지 않는 엔진이 되었습니다. 이러한 시스템은 방대한 양의 예시 데이터를 학습함으로써 패턴을 인식하는 법을 배우며, 결과적으로 이전에 보았던 것을 식별하는 데 있어 놀라운 정확도를 갖게 됩니다. 그러나 이 시스템들이 훈련 세트와는 전혀 다른, 즉 기존 데이터와 다르게 보이는 새로운 데이터를 마주할 때 중대한 문제가 발생합니다. 안전이 필수적인 분야에서, 기계가 생소한 물체에 대해 확신을 가지고 틀린 추측을 하는 것은 위험할 수 있습니다. 과학자들의 과제는 이 시스템들에게 전체 시스템을 처음부터 다시 학습시키지 않고도, 자신이 감당할 수 없는 상황을 만났을 때 이를 인지하고 불확실성을 신호로 보내는 법을 가르치는 것입니다.

연구자들은 이 불확실성을 측정하는 다양한 방법들을 개발해 왔습니다. 어떤 방법은 입력값이 약간 수정되었을 때 모델의 예측이 얼마나 흔들리는지를 살피고, 또 다른 방법은 새로운 이미지가 모델의 내부 메모리에 저장된 기존 예시들로부터 얼마나 멀리 떨어져 있는지를 측정합니다. 세 번째 접근 방식은 모델이 자신의 결정에 대해 얼마나 많은 '증거'를 수집했는지를 가늠하려고 시도합니다. 지금까지 대부분의 시스템은 단 하나의 신호에만 의존하며, 단일한 의구심의 척도가 오류를 잡아내기에 충분하다고 가정해 왔습니다. 하지만 인간이 복잡한 상황을 이해하기 위해 시각, 청각, 촉각을 함께 사용하는 것처럼, 기계 또한 이러한 서로 다른 관점들을 결합함으로써 이득을 얻을 수 있습니다.

한 새로운 연구는 인공지능을 위한 사후(post-hoc) 탐지기로 작동하는 HUE-OOD라는 프레임워크를 소개합니다. '사후(post-hoc)'라는 말은 원래의 학습 과정에 변경을 가할 필요 없이, 주요 시스템이 이미 훈련된 후에 적용된다는 것을 의미합니다. 연구진은 세 가지 유형의 불확실성을 동시에 점검하는 시스템을 구축했습니다: 입력값이 약간 교란되었을 때 모델의 예측이 얼마나 불안정한지, 새로운 입력값이 모델의 특징 공간(feature space)에서 기존 예시들로부터 얼마나 멀리 떨어져 있는지, 그리고 모델의 최종 결정이 얼마나 많은 증거적 지지(evidential support)를 확보하고 있는지입니다. 이 혁신의 핵심은 새로운 측정 방식을 발명한 것이 아니라, 이들을 결합하는 방식에 있습니다. 연구진은 이 서로 다른 수치들을 직접적으로 더하려고 시도하는 대신(서로 다른 척도로 측정되기 때문에 이는 어렵습니다), 각 점수를 단순한 순위로 변환했습니다. 그들은 각 방법론에 대해 "이 샘플이 평균보다 더 불확실한가?"라고 묻고, 그 순위들을 평균 냈습니다. 이를 통해 복잡한 조정이나 추가 학습 데이터 없이도 신호들을 혼합할 수 있었습니다.

연구팀은 이 접근 방식을 20개의 서로 다른 데이터셋과 표준 합성곱 모델(convolutional models)부터 현대적인 트랜스포머 기반 시스템에 이르는 20가지 유형의 신경망 구조를 사용하여 다양한 시나리오에 걸쳐 테스트했습니다. 그들은 이 방법을 분포 외(out-of-distribution) 오류를 포착하기 위해 설계된 20가지의 기존 기술들과 비교했습니다. 결과에 따르면, 결합된 접근 방식은 평가된 실험 조건 하에서 단일 방법만을 사용했을 때보다 유의미하게 더 높은 신뢰성을 보였습니다. 평균적으로 이 새로운 프레임워크는 0.968의 탐지 정확도 점수를 달성했는데, 이는 가장 우수했던 이전 방법들이 0.897 근처에 머물렀던 것과 비교해 주목할 만한 개선입니다. 이 수치들은 이 연구에서 고려된 실험 프로토콜에 대한 종합적인 결과로 해석되어야 하며, 이 방법이 가능한 모든 분포 외 설정에서 압도적이라는 증거는 아닙니다.

연구진은 왜 이러한 결합이 효과적이었는지도 조사했습니다. 그들은 세 가지 신호가 서로 상충하는 경우가 많다는 것을 발견했습니다. 예를 들어, 어떤 샘플은 모델의 내부 메모리에는 매우 생소하게 보이지만 여전히 안정적인 예측을 생성할 수도 있고, 혹은 익숙해 보이지만 모델의 확신을 흔들어 놓을 수도 있습니다. 이 세 가지 관점을 동시에 살펴봄으로써, 시스템은 단일 방법으로는 놓칠 수 있었던 오류를 잡아낼 수 있었습니다. 개별 신호들이 강력하게 충돌하는 경우에도, 결합된 순위는 대다수의 사례에서 올바른 결정을 내렸습니다. 또한 연구는 이 방법이 서로 다른 수학적 목적 함수나 데이터 증강 전략을 사용하여 훈련된 기본 AI 모델에서도 견고함을 유지한다는 것을 보여주었으며, 이는 이 접근 방식이 유연하고 적응력이 높음을 시사합니다.

그러나 연구진은 자신들의 연구 결과에 대한 한계를 명시하는 데 주의를 기울였습니다. 이 시스템은 기계의 불확실성에 관한 모든 문제를 해결하는 마법의 탄환이 아닙니다. 이 시스템은 여전히 원래 모델의 품질에 크게 의존합니다. 만약 기초가 되는 시스템이 부적절한 표현력을 갖거나 제대로 훈련되지 않았다면, 탐지기도 어려움을 겪을 것입니다. 더욱이, 이 방법은 특히 불안정성을 확인하기 위해 모델을 약간의 변형을 주어 여러 번 실행해야 하기 때문에 약간의 추가 계산 능력을 요구합니다. 테스트 결과, 이미지 배치당 약 5.6 밀리초의 처리 시간이 추가되었는데, 이는 안전이 중요한 응용 분야에서는 수용 가능한 트레이드오프(trade-off)일 수 있으나, 속도가 유일한 우선순위인 시스템에서는 걸림돌이 될 수 있습니다.

궁극적으로, 이 연구는 서로 다른 유형의 불확실성 신호를 결합하는 단순하고 매개변수가 필요 없는 방법이 인공지능의 안전성과 신뢰성을 크게 향상시킬 수 있음을 입증합니다. 모델의 내부적 의구심을 단일한 숫자가 아닌 상호 보완적인 단서들의 집합으로 취급함으로써, 연구진은 기계가 추측을 하고 있을 때 이를 식별할 수 있는 실용적인 도구를 제공했습니다. 이 접근 방식은 AI를 재학습시키거나 구조를 변경할 필요가 없으므로, 오늘날 현실 세계에 더 안전한 시스템을 배포하는 데 있어 실행 가능한 옵션이 됩니다. 이 작업은 단일 방법이 미지의 영역을 완벽하게 예측할 수는 없을지라도, 여러 불확칙성의 목소리에 귀를 기울이는 하이브리드 접근 방식이 그 목표에 훨씬 더 가까이 다가갈 수 있음을 시사합니다.

기술 요약: HUE-OOD

문제 정의

심층 신경망은 분포 외(out-of-distribution, OOD) 입력에 대해 높은 예측 확신도를 보이는 경우가 많으며, 이는 안전이 중요한 애플리케ations에서 상당한 위험을 초래합니다. 사후(post-hoc) OOD 탐지 방법들은 사전 훈련된 분류기를 재학습 없이 증강함으로써 실용적인 해결책을 제공하지만, 개별 탐지 점수(예: 최대 소프트맥스 확률, 특징 거리 또는 에너지 점수)는 다양한 분포 변화에 따라 서로 다르게 반응하는 경라면 매우 상이하게 나타납니다. 단일 불확실성 대리 지표에 의존하는 것은 다양한 OOD 레짐 전반에 걸쳐 견고한 탐지를 수행하기에 불충분할 수 있습니다. 핵심 과제는 복잡한 학습 기반 융합 모델을 도입하거나 추가적인 학습 데이터를 요구하지 않으면서, 어떻게 이질적인 불확실성 신호(예측적, 표현적, 증거적 신호)를 효과적으로 결합할 것인가 하는 점입니다.

방법론: HUE-OOD

HUE-OOD(Hybrid Uncertainty–Evidential Dynamics for OOD detection)는 단일 사전 훈련된 분류기로부터 도출된 세 가지의 뚜렷한 불확실성 신호를 집계하는 사후 프레임워크입니다. 이 방법은 분류기의 학습된 파라미터나 구조를 수정하지 않고 작동합니다.

1. 세 가지 불확실성 브랜치

프레임워크는 세 가지 스칼라 점수를 계산하며, 값이 클수록 OOD 샘플이라는 강력한 증거를 나타냅니다:

예측 불확실성 ( $U_{pred}$ ): 확률 분포에 대한 모델 출력의 민감도를 측정합니다. 이 방법은 추론 시 세 가지 드롭아웃 변형을 사용합니다:
- 표준 베르누이 드롭아웃(Standard Bernoulli dropout).
- 공간 드롭아웃(Spatial dropout, 전체 특징 맵 제거).
- 컨크리트 드롭아웃(Concrete dropout, 연속적 확률 완화).
  각 전략에 대해 $T$ 번의 확률적 순전파(stochastic forward passes)를 수행합니다. 불확실성은 결과적인 확률 분포의 클래스별 평균 분산으로 정량화됩니다.
표현 불확실성 ( $U_{repr}$ ): 테스트 샘플의 특징 표현과 인도미닉(in-distribution, ID) 데이터의 추정된 클래스 조건부 분포 사이의 기하학적 거리를 정량화합니다. 이는 ID 훈련 특징으로부터 추정된 풀링 및 정규화된 공분산 행렬을 활용하여, 펜얼티메이트(penultimate) 특징 공간에서의 클래스 조건부 마할라노비스 거리를 사용하여 계산됩니다.
증거 불확별성 ( $U_{evid}$ ): 분류기의 결정론적 로짓(logits)으로부터 사후 증거 점수를 도출합니다. 로짓은 softplus 함수( $e_k = \text{softplus}(\ell_k)$ )를 사용하여 비음수 증거 파라미터로 변환됩니다. 이들은 디리클레(Dirichlet) 분포의 집중 파라미터로 취급됩니다. 점수는 총 증거의 역수( $K / \sum \alpha_k$ )로 정의되며, 특정 클래스에 대한 증거적 지지의 강도와 관련된 불확실성을 포착합니다.

2. 파라미터가 없는 순위 기반 융합

HUE-OOD의 핵심 혁신은 융합 메커니즘에 있습니다. 세 브랜치의 점수는 서로 다른 수치적 척도와 통계적 분포를 가지므로, 직접적인 가중 합산은 정규화나 학습된 가중치를 필요로 합니다. 대신, HUE-OOD는 **파라미터가 없는 순위 기반 융합(parameter-free rank-based fusion)**을 채택합니다:

점수 방향 설정: 모든 점수는 더 높은 값이 더 높은 OOD 가능성을 나타내도록 방향을 맞춥니다.
순위 변환: 각 점수는 고정된 ID 참조 세트와 테스트 배치를 결합하여 정규화된 순위( $R \in [0, 1]$ )로 변환됩니다. 이 단계는 절대적인 크기 정보는 버리되 상대적인 순서는 보존하며, 이를 통해 개별 점수의 엄격한 단조 변환에 대해 불변성을 갖게 합니다.
집계: 최종 점수는 세 정규화된 순위의 산술 평균입니다:
$S_{HUE}(x) = \frac{1}{3} [R_{pred}(x) + R_{repr}(x) + R_{evid}(x)]$
이 접근 방식은 융합 가중치를 튜닝하기 위한 검증 세트나 학습된 메타 분류기를 필요로 하지 않습니다.

주요 기여

본 논문은 네 가지 주요 기여를 설명합니다:

프레임워크 정식화: 단일 사전 훈련된 분류기로부터 예측적, 표현적, 증거적 정보를 통합하는 사후 탐지 프레임워크를 제시합니다.
융합 메커니즘: 학습된 융합 모델이나 명시적인 가중치 튜닝 없이 이질적인 불확실성 점수를 결합하는 파라미터 프리 순위 기반 융합 절차를 도입합니다.
경험적 분석: 각 불확실성 브랜치와 그 조합의 기여도를 정량화하는 종합적인 절제 연구(ablation study)를 통해, 각 신호가 상호 보완적인 정보를 제공함을 입증합니다.
광범위한 평가: 20개의 OOD 벤치마크와 20개의 백본 아키텍처(CNN, Transformer 및 하이브리드 포함)에 걸쳐 평가를 수행하고, 기존의 20가지 사후(post-hoc) 베이스라인과 비교하였습니다.

실험 결과

평가는 20개의 OOD 데이터셋(far-OOD, near-OOD, 질감, 자연, 합성 카테고리 포함)과 20개의 서로 다른 백본 아키텍처를 대상으로 수행되었습니다.

전반적인 성능: HUE-OOD는 평가된 구성 전반에 걸쳐 평균 AUROC 0.968 ± 0.004 및 평균 AUPR 0.978을 달성했습니다. CIFAR-10 vs. SVHN에 대한 ViT-Small의 특정 비교에서, 가장 강력한 베이스라인인 ReAct(0.897)를 크게 앞질러 0.961의 AUROC를 기록했습니다.
절제 연구: 단일 브랜치라도 제거할 경우 측정 가능한 성능 저하가 발생했습니다(예: CIFAR-10/SVHN 설정에서 예측 브랜치를 제거하면 AUROC가 0.985에서 0.971로 감소함). 이는 각 신호의 상호 보완적 성격을 확인시켜 줍니다.
견고성: 방법론은 다양한 이미지 손상(노이즈, 블러, JPEG, FGSM)에 대해 견고함을 보여주었으며, 추론 시 드롭아웃이 없는 모델을 위한 투-브랜치(two-branch) 구성을 포함하여 다양한 아키텍처에서 경쟁력 있는 성능을 유지했습니다.
계산 비용: 전체 세 브랜치 구성은 표준 순전파 대비 약 18.4%(RTX 3090 기준 배치당 5.6 ms)의 오버헤드를 발생시켰으며, 이는 주로 확률적 예측 브랜치에 의해 주도되었습니다. 투-브랜치 구성을 사용하면 이 오버헤드를 1 ms 미만으로 줄일 수 있습니다.

의의 및 주장

본 논문은 HUE-OOD를 경량화된, 파라미터가 적은 사후 프레임워크로 포지셔닝합니다. 그 의의는 다음과 같습니다:

상호 보완성: 예측적 가변성, 특징 공간 거리, 그리고 로짓 유래 증거 신호는 서로 구별되고 중복되지 않는 정보를 제공한다는 점을 입증했습니다.
단순성 vs. 성능: 단순하고 비매개변수인 순위 기반 집계가 학습된 융합 모델의 복잡성이나 데이터 요구 사항 없이 이질적인 신호들을 효과적으로 결합할 수 있음을 보여줍니다.
실용성: HUE-OOD는 사전 훈련된 분류기와 표준 ID 통계만을 필요로 하므로, 아키텍처 변경이나 재학습 없이 기존의 추론 파이프라인에 적용 가능합니다.

저자는 HUE-OOD가 평가된 레짐 전반에서 탐지 견고성을 개선하지만, 모든 가능한 OOD 설정이나 아키텍처에 대해 보편적인 우월성을 주장하는 것은 아니라고 언급하며 신중한 입장을 유지합니다. 성능은 밑바탕이 되는 표현의 품질과 특정 ID-OOD 변화의 특성에 따라 달라집니다. 본 프레임워크는 OOD 탐지의 본질적인 어려움을 제거하는 해결책이라기보다, 사후 신호들을 결합하는 재현 가능한 전략으로서 제시되었습니다.