VLM Judges Can Rank but Cannot Score: Task-Dependent Uncertainty in Multimodal Evaluation

"VLM Judges Can Rank but Cannot Score: Task-Dependent Uncertainty in Multimodal Evaluation" 논문의 상세 기술적 요약입니다.

1. 문제 제기

비전 - 언어 모델 (VLM) 은 다양한 작업 (예: 차트 추론, 이미지 캡션링, 시각적 QA) 에 걸쳐 멀티모달 AI 시스템을 평가하는 자동화된 심사자 ("VLM-as-a-Judge") 로 점점 더 많이 배포되고 있습니다. 그러나 중요한 한계가 존재합니다: VLM 심사자는 신뢰도에 대한 어떠한 표시도 없이 점수 (예: 4/5) 만 제공합니다.

• 신뢰도 격차: 4/5 점이라는 점수는 높은 확신을 의미할 수도 있고 상당한 불확실성을 의미할 수도 있습니다. 사용자는 이 두 가지를 구별할 수 없습니다.
• 멀티모달 복잡성: VLM 의 오류는 시각적 지각과 언어적 추론 모두에서 발생하며, 이로 인해 불확실성이 증폭됩니다.
• 지표의 실패: 상관관계, 정확도 등 표준 지표는 개별 사례별 신뢰도를 포착하지 못합니다. 예를 들어, 심사자가 높은 순위 상관관계 (응답을 올바르게 순서대로 나열) 를 달성하면서도 절대 점수는 극도로 부정확하게 부여할 수 있습니다.
• 현재 상태: 최첨단 VLM 심사자는 5 점 척도에서 인간 평가와 약 32~34% 의 완전 일치율만 달성하며, 상당한 편차를 보입니다.

2. 방법론

저자들은 점수 (point scores) 를 보정된 예측 구간으로 변환하기 위해 **분포 무관 (distribution-free) 프레임워크인 컨포멀 예측 (Conformal Prediction, CP)**을 사용하는 것을 제안합니다.

• 핵심 메커니즘:
  • 입력: 모델을 재학습시키는 대신, 이 방법은 VLM 출력에서 **점수 토큰의 로그 확률 (score-token log-probabilities)**을 추출합니다. 1~5 리커트 척도의 경우, 이는 5 차원 특징 벡터 $x = [\log P(1), \dots, \log P(5)]$를 형성합니다.
  • 프레임워크: 인간이 주석한 점수의 보정 세트를 사용하여, 예측 구간 $C(x) = [\hat{y} - \hat{q}, \hat{y} + \hat{q}]$을 결정하기 위해 비동일성 점수 (nonconformity score) 를 계산합니다.
  • 보장: 이 구간은 오류 분포에 대한 가정이 없이, 최소 $1-\alpha$(예: 90%) 확률로 실제 인간 점수를 포함하도록 보장됩니다.
• 주요 적응:
  • 경계 조정: 실제 값 (ground truth) 은 이산적 (정수) 이지만 CP 는 연속적인 구간을 생성하므로, 저자들은 구간을 유효한 평가 레이블 ($\lceil l \rceil, \lfloor u \rfloor$) 로 매핑하기 위해 경계 조정을 적용하여 커버리지를 크게 향상시켰습니다.
  • 작업 조건부 CP (Mondrian CP): 작업 이질성을 해결하기 위해 데이터를 초기 구간 너비에 따라 (쉬움, 중간, 어려움) 그룹으로 분할합니다. 각 그룹에 대해 별도의 분위수를 계산하여 쉬운 작업에는 더 좁은 구간을, 어려운 작업에는 더 넓고 안전한 구간을 도출합니다.
  • 순위 - 점수 격차 (RSG): $RSG = |\rho| - (1 - \frac{w}{K-1})$로 정의된 새로운 지표입니다. 여기서 $\rho$는 상관관계이고 $w$는 구간 너비입니다. 이는 순위 결정 능력과 점수 신뢰성 사이의 분리를 정량화합니다.

3. 실험 설정

• 심사자: 서로 다른 아키텍처와 규모의 세 가지 VLM:
  1. LLaVA-Critic-7B: 오픈 소스이며 평가에 특화됨.
  2. Phi-4-reasoning-vision-15B: 대규모 추론 모델.
  3. Gemini 2.5 Flash: 폐쇄형 API 로, 강력한 순위 결정 능력과 높은 과신 (overconfidence) 으로 유명함.
• 데이터셋:
  1. MLLM-as-a-Judge: 단일 주석자 실제 값을 가진 14 가지 시각 작업 카테고리 (예: ChartQA, MathVista, AesBench) 에 걸친 5,717 개 인스턴스.
  2. Polaris: 다중 주석자 평균 실제 값을 가진 8,726 개의 이미지 - 캡션 쌍 (더 깨끗하고 잘 정의된 작업).
• 프로토콜: 50/50 보정/테스트 분할, 10 개의 무작위 시드, 90% 커버리지 ($\alpha=0.10$) 목표.

4. 주요 결과 및 발견

A. 작업 의존적 불확실성

불확실성은 균일하지 않으며, 작업 유형에 의해 크게 좌우됩니다.

• 좁은 구간 (높은 신뢰도): 미적 및 자연 이미지 작업 (예: AesBench) 은 점수 범위의 약 40% 만 커버하는 구간을 산출합니다 (너비 $\approx$ 2.08).
• 넓은 구간 (낮은 신뢰도): 복잡한 추론이 필요한 비전 중심 작업 (예: InfographicsVQA, MathVista) 은 범위의 약 70% 를 커버하는 구간을 산출합니다 (너비 $\approx$ 3.50).
• 일관성: 모든 세 가지 심사자 간에 작업 난이도의 순서가 일관되게 나타납니다 (Spearman $\rho \approx 0.82–0.93$). 이는 모델 정체성이 아닌 작업 난이도가 불확실성을 주도함을 나타냅니다.

B. 순위 - 점수 분리

이 논문은 표준 지표가 오해의 소지가 있는 중요한 실패 모드를 식별합니다:

• 현상: 심사자가 높은 순위 상관관계 (응답을 올바르게 순서대로 나열) 를 달성하면서도 넓고 정보 가치가 없는 구간을 생성하여 (신뢰할 수 있는 절대 점수 부여 실패) 신뢰할 수 있는 절대 점수를 부여하지 못할 수 있습니다.
• 예시: ChartQA에서 한 심사자가 가장 높은 피어슨 상관관계 ($\rho=0.507$) 를 달성했지만, 가장 넓은 구간 중 하나 (3.08) 를 생성했습니다.
• 함의: 높은 상관관계는 절대 점수가 신뢰할 수 있음을 의미하지 않습니다. RSG 가 높은 작업의 경우, 절대 점수 매기기보다 쌍별 비교 (pairwise comparison) 가 선호됩니다.

C. 데이터 품질의 영향

• 깨끗한 데이터 vs 노이즈가 있는 데이터: 동일한 심사자 (LLaVA-Critic) 와 방법을 Polaris데이터셋 (깨끗한 다중 주석자 캡션) 에 적용했을 때, 구간 너비는 (MLLM-Judge 의) 3.05에서 0.68로 감소했습니다.
• 결과: 이는 구간 너비가 4.5 배 감소한 것으로, 불확실성은 컨포멀 방법 자체보다는 주석 노이즈와 작업 모호성에 의해 주로 주도됨을 보여줍니다.

D. 모델 성능 역설

• 과신 vs 구간 너비: Gemini 2.5 Flash는 매우 과신적이었습니다 (예측의 83% 가 softmax 최댓값 > 0.99) 그러나 가장 좁은 구간을 생성했습니다. 이는 구간 품질이 소프트맥스 분포의 보정 (calibration) 이 아닌 로그 확률 내의 **판별 신호 (discriminative signal)**에 의존함을 증명합니다.
• 특화 > 규모: 특화된 Polaris 작업에서 평가용으로 훈련된 7B LLaVA-Critic은 일반 추론 모델인 15B Phi-4보다 훨씬 뛰어난 성능을 발휘하여, 상관관계는 7.1 배 높고 구간 너비는 5.3 배 더 좁았습니다.

E. 방법론 비교

• **R2CCP (Regression-as-Classification)**는 거의 완벽한 90% 커버리지를 달성하면서 가장 좁은 정보 가치가 있는 구간을 생성한 최상위 성능 방법이었습니다.
• **CQR (Conformalized Quantile Regression)**은 실패하여 전체 범위 구간 ($\approx$ 4.0) 으로 수렴했는데, 이는 이산적 설정에서 점수 토큰 로그 확률이 분위수에 대한 약한 예측 변수이기 때문입니다.
• 특징 융합: 여러 심사자의 로그 확률 특징을 결합하면 성능이 저하되었는데, 이는 특징의 양보다 특징의 품질 (단일 강력한 심사자) 이 더 중요함을 시사합니다.

5. 중요성 및 기여

1. 정량적 신뢰도 지도: 이 논문은 14 가지 시각 작업에 걸쳐 평가 신뢰도의 첫 번째 체계적인 매핑을 제공하여, "VLM-as-a-Judge"가 일부 작업 (미적) 에는 신뢰할 수 있지만 다른 작업 (복잡한 추론) 에는 매우 불확실함을 보여줍니다.
2. 새로운 실패 모드: 표준 지표 (상관관계) 가 심사자의 신뢰할 수 있는 절대 점수 부여 능력을 가리는 순위 - 점수 분리 (Ranking-Scoring Decoupling) 현상을 폭로합니다.
3. 실용적 프레임워크: 재학습 없이 기존 VLM 파이프라인에 컨포멀 예측을 적용하여 로그 확률만 사용하여 실행 가능한 불확실성 추정을 생성할 수 있음을 보여줍니다.
4. 운영 가이드라인: 저자들은 경험적 규칙을 제안합니다: 좁은 구간은 평가가 절대 점수 매기에 적합함을 나타내고, 넓은 구간은 모호성을 신호로 하여 상대적 순위 결정이나 쌍별 비교가 적절한 평가 전략임을 시사합니다.
5. 데이터 품질 통찰: 단순히 모델 파라미터를 확장하는 것보다 주석 품질을 개선 (다중 주석자 합의) 하는 것이 더 큰 신뢰도 향상을 가져온다는 점을 강조합니다.

결론

이 논문은 VLM 심사자가 보편적으로 신뢰할 수 없다는 결론을 내립니다. 그들의 불확실성은 구조적으로 작업과 데이터 품질에 의존합니다. 컨포멀 예측을 사용하면 실무자들은 점수에 대한 맹목적 신뢰에서 벗어나, 언제 심사자의 점수를 신뢰할 수 있고 언제 이를 노이즈가 많은 순위 신호로 취급해야 하는지에 대한 세밀한 이해로 나아갈 수 있습니다.