기술 요약: FUSE – 시각-언어 모델에서의 불확실성 정량화

문제 정의

시각-언어 모델(Vision-Language Models, VLMs)은 로보틱스에서 의료에 이르는 다양한 응용 분야의 필수적인 요소가 되었으나, 환각(hallucination)이나 과도한 확신을 동반한 추론과 같은 신뢰할 수 없는 출력 문제에 직면해 있습니다. 불확실성 정량화(Uncertainty Quantification, UQ) 측면에서 중대한 격차가 존재합니다. 다음 토큰의 가능도(next-token likelihood)나 로짓 기반 신뢰도에 의존하는 기존 방식은 교차 모달 입력에 내재된 의미론적 모호성이나 생성 출력의 가변성을 포착하는 데 실패합니다. 기존 접근 방식들은 불확실성을 원칙적인 확률량으로 다루기보다 휴리스틱하게 취급하는 경우가 많으며, 모델의 잠재 표현(latent representations)에 내재된 불확실성을 간과하곤 합니다.

본 논문은 VLM의 불확실성이 두 가지 구별되면서도 상호 보완적인 원천으로부터 발생함을 식별합니다:

1. 알레아토릭 불확실성(Aleatoric Uncertainty): 입력 데이터와 교차 모달 의미론에 내재된 본질적인 모호성 (예: 정보가 부족한 질문 또는 시각적으로 모호한 영역).
2. 에피스테믹 불확실성(Epistemic Uncertainty): 지식의 한계, 약한 접지(grounding), 또는 분포 변화로 인한 모델 예측의 가변성 (생성된 응답의 다양성에 반영됨).

목표는 이 두 가지 원천을 하나의 정교하게 보정된 스칼라 측정값인 불확실성($u^\star$)으로 융합하여, 출력의 정확성을 예측하고 선택적 예측(불확실한 쿼리에 대해 답변을 유보함)을 가능하게 하는 프레임워크를 개발하는 것입니다.

방법론: FUSE 프레임워크

저자들은 알레아토릭 불확실성과 에피스테믹 불확실성을 결합하기 위해 베이지안 융합 메커니즘을 사용하는 확률적 프레임워크인 FUSE(Fused Uncertainty with Semantic Evidence)를 제안합니다.

1. 알레아토릭 불확실성: 데이터 표현 사전 분포(Prior)

프레임워크는 입력 데이터 수준을 사전 분포로 취급합니다.

• 확률적 임베딩: 표준 VLM(예: CLIP)은 결정론적인 임베딩을 생성하지만, FUSE는 가우시안 프로세스(Gaussian Process, GP) 어댑터를 도입합니다. 이 어댑터는 결정론적 임베딩($z_I, z_T$)을 데이터의 "진정한" 의미를 나타내는 공유 잠재 변수 $x$를 학습함으로써 확률 분포($N(\mu, \Sigma)$)로 매핑합니다.
• 희소 변분 GP(Sparse Variational GP): 확장성을 보장하기 위해, 저자들은 유도 지점(inducing points)을 사용하는 희소 변분 가우시안 프로세스 잠재 변수 모델(GPLVM)을 사용합니다.
• 사전 분포 공식화: 이러한 확률적 임베딩의 분산(공분산의 로그 행렬식으로 정량화됨)은 스칼라 통계량 $s$로 집계됩니다. 이 통계량은 잠재 불확실성 변수 $u$에 대한 가우시안 사전 분포를 정의합니다:
  $$u \sim N(m_0, \sigma_0^2), \quad \text{단, } m_0 = \alpha_0 + \beta_0 s$$
  이는 생성 작업이 일어나기 전, 쿼리 자체에 내재된 모호성을 포착합니다.

2. 에피스테믹 불확실성: 의미론적 응답 증거(Evidence)

프레임워크는 모델의 생성 출력을 증거로 취급합니다.

• 응답 다양성: VLM은 $n$개의 확률적 응답을 생성합니다. 이들은 벡터 $\{r_i\}$로 임베딩됩니다.
• 의미론적 산포(Semantic Scatter): 이 임베딩들로부터 의미론적 산포 행렬 $S$가 구축됩니다. 의미론적 증거는 이 행렬의 로그 행렬식으로 정의됩니다: $\tilde{V} = \log \det S$.
• 가중치 적용된 증거: 샘플 간의 다양한 신뢰도를 고려하기 위해, 모델의 토큰별 로그 확률에 기반한 불확실성 가중치를 도입합니다. 신뢰도가 낮은 샘플은 더 높은 가중치를 받습니다.
• 가능도 모델: 저자들은 완만한 가정 하에, 의미론적 증거 $\tilde{V}$가 잠재 불확실성 $u$에 대해 **선형-가우시안 가능도(linear-Gaussian likelihood)**를 따른다는 것을 증명합니다:
  $$\tilde{V} | u \sim N(a + n u, \tau^2)$$
  이러의 분석적 관계를 통해 폐쇄형(closed-form) 베이지안 업데이트가 가능해집니다.

3. 베이지안 융합

핵심 혁신은 입력 사전 분포와 응답 증거의 분석적 융합입니다.

• 폐쇄형 사후 분포: 가우시안 사전 분포와 선형-가우시안 가능도를 결합하여, 불확실성 $u$에 대한 폐쇄형 사후 분포를 도출합니다:
  $$u | \tilde{V} \sim N(m_{post}, \sigma_{post}^2)$$
• 융합된 통계량: 사후 평균과 분산으로부터 단일 불확실성 점수 $u^\star$를 도출합니다 (예: z-score 경계값).
• 보정(Calibration): 전역 임계값 $\theta^\star$는 홀드아웃 데이터셋에서 보정되어, 답변된 쿼리에 대한 조건부 리스크(오류율)를 제어함으로써 선택적 답변을 가능하게 합니다.

주요 기여

1. 개념적 정형화: 본 논문은 VLM의 불확실성을 알레아토릭(입력 수준)과 에피스테믹(생성 수준) 원천으로 공식적으로 분리하여, 이를 통합된 프레임워크 내에서 모두 정량화할 수 있는 토대를 제공합니다.
2. 통합된 확률 모델: 대규모 VLM의 재학습 없이도 두 원천을 분석적으로 결합하는 학습 불필요(training-free) 베이지안 프레임워크를 도입합니다. 휴리스틱한 방법과 달리, 이는 해석 가능하고 보정된 사후 분포를 제공합니다.
3. 수학적 정당화: 의미론적 증거(응답 산포의 로그 행렬식)가 잠재 불확실성에 선형적으로 의존한다는 것을 입증하여, 폐쇄형 베이지안 업데이트 사용의 타당성을 보여주는 증명을 제공합니다.
4. 경험적 우월성: FUSE는 여러 벤치마크에서 불확실성 보정 및 선택적 답변에 대해 최첨단(SOTA) 성능을 달자합니다.

실험 결과

저자들은 LLaVA-v1.5-13b를 백본으로 사용하여 세 가지 시각 질의 응답(VQA) 벤치마크인 VQAv2, OK-VQA, AdVQA에서 FUSE를 평가했습니다.

• 베이스라인: FUSE는 UMPIRE, Neighborhood Consistency와 같은 학습 불필요 방식, 엔트로피 기반 지표(Semantic Entropy, LN-Entropy), 그리고 컨포멀 예측 접근 방식(LoFreeCP, CLM)과 비교되었습니다.
• 판별력: FUSE는 정답과 오답을 구분하는 데 있어 가장 높은 AUROC(VQAv2에서 0.883)를 달성하며 모든 베이스라인을 능가했습니다.
• 보정: 이 방법은 가장 낮은 기대 보정 오차(ECE)와 예측된 불확실성 및 경험적 오류율 사이의 가장 높은 상관관계를 보이며 탁월한 보정 성능을 입증했습니다.
• 선택적 답변: 거부-정확도 곡선 아래 면적(AURAC) 측면에서 FUSE는 일관되게 베이스라인보다 우수한 성능을 보였으며, 이는 높은 정확도를 유지하면서도 불확실한 쿼리를 효과적으로 식별하고 답변을 유보할 수 있음을 나타냅니다.
• 절제 연구(Ablation Studies): 실험을 통해 두 가지 불확실성 원천을 융합하는 것이 매우 중요하다는 것이 확인되었습니다. GP 사전 분포나 가중치 적용된 증거 중 하나라도 제거하면 성능 저하가 발생했습니다.

의의 및 주장

본 논문은 FUSE가 VLM 배포 시 발생하는 중요한 안전 및 신뢰성 격차를 해결한다고 주장합니다. 토큰 수준의 가능도를 넘어, 입력 표현의 사전 분포와 생성 수준의 증거를 통합하는 결합 베이지안 공식화로 나아감으로써, FUSE는 엄격하고 해석 가능한 불확실성 척도를 제공합니다.

저자들은 다음과 같은 점을 강조합니다:

• 거대한 VLM 백본을 재학습할 필요 없이, 동결된 인코더에 가벼운 GP 어댑터만을 학습시키면 됩니다.
• 모델의 정답 여부를 신뢰성 있게 예측하는 단일 스칼라 점수를 제공합니다.
• 리스크 제어 기반의 의사결정을 가능하게 하여, 의료나 자율 주행 시스템과 같이 고도의 신뢰성이 요구되는 영역에서 불확실성이 임계값을 초과할 때 답변을 유보할 수 있도록 합니다.

이 연구는 입력의 모호성과 모델 자신의 생성 가변성을 통해 모델이 "무엇을 모르는지"를 명시적으로 모델링함으로써, VLM을 더욱 신뢰할 수 있게 만드는 단계로 자리매김하고 있습니다.