[기술 요약] VLM-UQBench: 시각-언어 모델의 양식별 및 교차 양식 불확실성 벤치마크

1. 문제 정의 (Problem Statement)

최근 시각-언어 모델(VLM)이 로보틱스, 의료 분석, 보조 도구 등 안전성이 중요한 분야에 도입됨에 따라, 모델이 언제 답변을 거부하거나 인간에게 도움을 요청해야 하는지를 결정하는 **불확실성 정량화(Uncertainty Quantification, UQ)**가 필수적이 되었습니다.

기존의 UQ 연구는 주로 불확실성을 '모델 자체의 문제(Epistemic)' 또는 '데이터의 문제(Aleatoric)'로 나누는 이분법적 접근에 의존해 왔습니다. 그러나 VLM은 **이미지(Visual), 텍스트(Text), 그리고 두 양식 간의 정렬(Cross-modal alignment)**이라는 세 가지 서로 다른 소스에서 불확실성이 발생할 수 있습니다. 기존 벤치마크들은 이러한 양식별(Modality-specific) 소스를 구분하여 평가하지 못하며, 불확실성이 실제 모델의 환각(Hallucination)과 어떻게 연결되는지에 대한 세밀한 분석이 부족하다는 한계가 있습니다.

2. 방법론 (Methodology)

본 논문은 VLM의 불확실성 소스를 정밀하게 진단하기 위해 VLM-UQBench라는 새로운 벤치마크 프레임워크를 제안합니다.

A. 데이터셋 구성 (Benchmark Composition)

VLM-UQBench는 네 가지 핵심 구성 요소로 이루어져 있습니다:

1. Human-Annotated Modality Subsets (VizWiz 기반): 전문가의 주석을 통해 불확실성의 원인이 이미지 품질(Image), 질문의 모호성(Text), 또는 이미지-텍스트 불일치(Cross-modal)인지 라벨링된 600개의 실세계 샘플을 제공합니다.
2. Grounded Cross-Modality Subset (VQ-FocusAmbiguity 기반): 이미지 내의 여러 영역이 질문과 겹칠 때 발생하는 정렬 불확실성을 평가하기 위해 세분화된(segmentation-based) 데이터를 포함합니다.
3. Hallucination-Focused Subsets (CLEVR 기반): 속성(Attribute), 존재(Existence), 관계(Relation), 개수(Counting) 등 네 가지 유형의 환각을 통제된 환경에서 평가할 수 있도록 합성 데이터셋을 구축합니다.
4. Scalable Perturbation Pipeline: 데이터셋에 라벨이 없더라도 자동으로 불확실성을 주입할 수 있는 파이프라인을 설계했습니다.
   • Visual: Blur, Noise, Cutout, Brightness 등 8가지 변형.
   • Textual: Typo, Word drop, Shuffle, Subjective rewrite 등 5가지 변형.
   • Cross-modal: CLIP 어텐션 마스크를 이용한 정렬 파괴 및 질문 재작성 등 3가지 변형.

B. 새로운 평가 지표 (Evaluation Metrics)

단순한 정확도를 넘어, 불확실성 점수가 실제 변화를 반영하는지 측정하기 위해 두 가지 지표를 도입했습니다:

• Uncertainty Reflection Rate (URR): 특정 변형(Perturbation)이 가해졌을 때, UQ 점수가 기존보다 얼마나 일관되게 상승하는지를 측정합니다.
• Hallucination Consistency Coefficient (HCC): 불확실성 점수의 변화량($\Delta U$)과 실제 환각 발생 여부($H$) 사이의 상관관계를 측정하여, UQ가 환각 위험을 얼마나 잘 예측하는지 평가합니다.

3. 주요 기여 (Key Contributions)

1. 양식 인지형 벤치마크: 이미지, 텍스트, 교차 양식 소스를 구분하여 VLM의 불확실성을 평가할 수 있는 최초의 체계적인 벤치마크를 구축했습니다.
2. 확장 가능한 변형 파이프라인: 다양한 데이터셋에 즉시 적용 가능한 자동화된 변형 도구를 제공합니다.
3. 정밀한 평가 지표: UQ의 민감도(URR)와 환각 예측력(HCC)을 직접적으로 연결하는 새로운 측정 방식을 제안했습니다.
4. 포괄적 실험: 4개의 VLM(Kosmos-2, Qwen-VL, LLaVA, GPT-4o-mini)과 9개의 UQ 방법론을 대상으로 대규모 실험을 수행했습니다.

4. 실험 결과 (Key Results)

실험을 통해 다음과 같은 중요한 사실을 발견했습니다:

• 양식별 전문화 및 모델 의존성: 기존 UQ 방법론들은 특정 양식에 특화된 경향을 보입니다 (예: Semantic Entropy는 텍스트 불확실성에 강함). 또한, 최적의 UQ 방법이 사용하는 VLM의 아키텍처에 따라 크게 달라집니다.
• 환각과의 약한 연결 고리: 현재의 UQ 점수는 양식별 불확실성이 유발하는 환각 위험을 포착하는 데 매우 취약합니다. 특히 시각적 변형(Visual blur 등)으로 인해 환각이 발생할 때, UQ 점수가 이를 충분히 높게 반영하지 못하는 경우가 많았습니다.
• 미세한 모호성 탐지 실패: 기존 UQ 방법들은 집단 수준의 명백한 모호성은 잘 잡아내지만, 본 논문의 파이프라인이 생성한 샘플 단위의 미세한(subtle) 모호성은 거의 탐지하지 못했습니다.

5. 의의 및 결론 (Significance)

본 연구는 현재 VLM의 불확실성 정량화 기술이 실제 배포 환경에서 요구되는 "정밀하고 양식 인지적인(fine-grained, modality-aware)" 수준에 미치지 못함을 입증했습니다. VLM-UQBench는 향후 연구자들이 단순히 모델의 확신도를 측정하는 것을 넘어, **"왜 불확실한가?"**에 답할 수 있는 더 안전하고 신뢰할 수 있는 VLM을 개발하는 데 중요한 토대가 될 것입니다.