기술 요약: VLM 환각 억제를 위한 위너 표현 필터링 (Wiener Representation Filtering)

문제 정의

시각-언어 모델(VLM)은 이미지 캡셔닝 및 시각적 질의응답과 같은 작업에서 탁월한 성능을 보이지만, 빈번하게 객체 환각(Object Hallucination, OH) 문제를 겪습니다. 이 현상은 입력 이미지에 존재하지 않는 객체, 속성 또는 공간적 관계를 만들어내는 것과 같이, 그럴듯하지만 사실과 다른 설명을 생성하는 것을 의미합니다. 기존의 완화 전략은 일반적으로 다음 두 가지 범주로 나뉩니다:

1. 디코딩 단계 방법(Decoding-time methods): 제약된 빔 서치(constrained beam search)나 로짓 디바이어싱(logit debiasing)과 같은 기술은 생성을 조절하지만, 종종 상당한 추론 오버헤드(5~10배의 속도 저하)를 초래합니다.
2. 사후 정제 방법(Post-hoc refinements): Woodpecker나 HALC와 같은 방법은 작업별 적응이나 외부 리소스를 필요로 합니다.
3. 학습 기반 방법(Training-based methods): 환각 인지 손실(hallucination-aware losses)을 사용하여 재학습 또는 미세 조정을 요구하며, 이는 계산 비용이 많이 듭니다.

모델의 아키텍처를 수정하거나 실행 시간 비용을 증가시키지 않으면서도 학습이 필요 없고 추론 효율적인(training-free, inference-efficient) 교정 방식에 대한 공백이 존재합니다.

방법론

저자들은 언어 백본의 표현 공간(representation space)에서 작동하는 사후 편집 기술인 위너 표현 필터링(Wiener Representation Filtering) 프레임워크를 제안합니다. 이 방법은 환각을 구조적인 스펙트럼 왜곡(structured spectral distortion)으로 취급하고, 선형 최소 평균 제곱 오차(MMSE) 추정 문제를 통해 이를 교정합니다.

1. 이론적 정식화

핵심 가설은 VLM의 은닉 상태($h$)가 진실된 성분($s$)과 환각 관련 왜곡($n$)의 중첩으로 모델링될 수 있다는 것입니다:
$$h = s + n$$
$s$와 $n$이 평균이 0이고 서로 상관관계가 없다고 가정할 때, 관측된 표현의 공분산은 진실된 공분산($\Sigma_T$)과 환각 공분산($\Sigma_H$)의 합으로 분해됩니다.

$h$로부터 $s$를 복구하기 위한 최적의 선형 추정기는 **위너 연산자(Wiener operator)**입니다:
$$A^* = \Sigma_T (\Sigma_T + \Sigma_H)^{-1}$$

2. 캘리브레이션 및 추정

이 방법은 다음을 포함하는 소규모 쌍 데이터셋(예: LURE)에 대한 일회성, 오프라인 캘리브레이션을 필요로 합니다:

• $c^-$: 인간이 검증한 진실된 캡션.
• $c^+$: 동일한 이미지에 대해 모델이 생성한 환각된 캡션.

선택된 깊은 층(deeper layers)에 대해, 저자들은 시퀀스 평균 표현($x^-$ 및 $x^+$)을 추출하여 다음을 추정합니다:

• $\Sigma_T$: 진실된 표현의 공분산.
• $\Sigma_H$: 왜곡($d = x^+ - x^-$)의 공분산.

경험적 분석 결과, 환각은 무작위 노이즈가 아니라 몇 개의 지배적인 고유 모드(eigenmodes)에 집중된 **비등방성 왜곡(anisotropic distortion)**으로 나타납니다.

3. 스펙트럼 필터링

안정성과 해석 가능성을 보장하기 위해, 위너 연산자는 $\Sigma_H$의 고유 기저(eigenbasis)에서 근사됩니다. $\{q_j\}$를 $\Sigma_H$의 고유값 $\lambda_j$를 갖는 고유벡터라고 합시다. 모드 $j$에서의 신호 분산은 $\tau_j^2 = q_j^\top \Sigma_T q_j$입니다.
**왜곡 대 신호 비율(distortion-to-signal ratio)**은 다음과 같이 정의됩니다: $\nu_j = \lambda_j / \tau_j^2$.
모드별 위너 이득(gain)은 다음과 같습니다:
$$\gamma_j = \frac{1}{1 + \nu_j}$$
조절 가능한 선명도(sharpness)를 허용하고 추정 오류를 보상하기 위해 선명도 지수 $\alpha$가 도입됩니다:
$$\tilde{\gamma}_j = (1 + \nu_j)^{-\alpha} = \left( \frac{\tau_j^2}{\tau_j^2 + \lambda_j} \right)^\alpha$$
최종 필터 $F_\alpha$는 $Q \text{diag}(\tilde{\gamma}_1, \dots, \tilde{\gamma}_d) Q^\top$로 구성됩니다.

4. 구현

필터는 선택된 깊은 층의 피드포워드 네트워크(FFN) 출력 투영(output projections, $W_{out}$)을 수정함으로써 적용됩니다:
$$\tilde{W}_{out} = F_\alpha W_{out}$$
$F_\alpha$는 사전 계산되어 기존 가중치에 흡수되므로, 아키텍처, 파라미터 수, 추론 속도는 변경되지 않습니다. 배포 중 그래디언트 업데이트나 미세 조정은 수행되지 않습니다.

주요 기여

• 학습이 필요 없는 교정(Training-Free Correction): 재학습, 미세 조정 또는 그래디언트 업데이트를 필요로 하지 않는 사후 방법입니다.
• 추론 효율성(Inference Efficiency): 교정 과정이 가중치에 흡수되어, 추론 시 추가적인 지연 시간(latency)이나 메모리 오버헤드가 발생하지 않습니다.
• 이론적 근거(Theoretical Grounding): 환각 완화를 선형 MMSE 문제로 정식화하고, 안정성 기준(operator-Lipschitz continuity)을 준수하는 폐쇄형(closed-form) 위너 추정기를 도출했습니다.
• 스펙트럼 분석(Spectral Analysis): 환각이 표현 공간 내의 저차원, 비등방성 부분 공간을 점유함을 입증하여, 의미론적 정보를 파괴하지 않으면서도 표적화된 감쇠가 가능함을 보여주었습니다.

실험 결과

이 방법은 LLaVA-1.5, MiniGPT-4, mPLUG-Owl2, Gemma3를 대상으로 여러 벤치마크에서 평가되었습니다:

• CHAIR (Caption Hallucination): 이 방법은 모든 모델에서 일관되게 가장 낮은 환각률(CHAIRS 및 CHAIRI)을 달로 달성했으며, 디코딩 기반 베이스라인(OPERA, VCD, HALC)을 능가했습니다. 예를 들어, LLaVA-1.5에서 CHAIRS는 18.87(Greedy)에서 14.93으로 감소했습니다.
• POPE (Object Presence): Random, Popular, Adversarial 설정 모두에서 사실적 근거(정확도, 정밀도, F1)를 개선하였으며, 종종 비교 대상 중 가장 높은 점수를 기록했습니다.
• MME (Multimodal Evaluation): 10개의 시각적 근거 하위 집합(예: Count, Artwork, Celebrity)에서 경쟁 전략보다 우수한 성능을 입증했습니다.
• 일반화(Generalization):
  • 비디오 이해(Video Understanding): 정적 이미지에서 캘리브레이션되었음에도 불구하고, TempCompass(시간적 추론) 벤치마크에서 환각을 성공적으로 줄였습니다.
  • 이산 확산 모델(Discrete Diffusion Models): 근거 있는 대화(FaithDial)를 위해 Dream-v0-Instruct-7B에 적용되었으며, 환각률을 크게 감소시키는 동시에(예: FaithCritic을 통해 92%에서 74%로 감소) 근거 지표를 개선했습니다.
  • 교차 도메인 전이(Cross-Domain Transfer): 한 데이터셋(예: LURE)에서 학습된 필터가 재튜닝 없이도 다른 데이터셋(예: TruthfulQA, CHAIR)에서 효과적으로 환각을 줄일 수 있음을 보여주었습니다.

의의 및 주장

본 논문은 환각을 무작위 노이즈가 아닌 구조적인 스펙트럼 왜곡으로 모델링함으로써, 의미론적으로 근거 있는 방향은 보존하면서 환각이 지배적인 모드를 억제하는 원칙적인 교정이 가능하다는 점을 주장합니다.

방법론의 영향에 관한 주요 주장은 다음과 같습니다:

1. 안정성(Stability): 연속적인 정식화는 공분산 추정 오류가 연산자에 비례적으로 제한된 변화만을 유도하도록 하여, 강제적인 랭크 절단(hard rank truncation)의 불안정성을 방지합니다.
2. 유창성 보존(Preservation of Fluency): 표현을 공격적으로 제거하는 방법들과 달리, 위너 필터는 왜곡 대 신호 비율에 따라 모드를 감쇠시켜 캡션의 유창성과 전반적인 응답 품질을 유지합니다(BLEU 점수가 경쟁력을 유지함).
3. 범용성(Generality): 이 접근 방식은 특정 VLM 아키텍처나 융합 전략(early, bridging, mid-fusion)에 국한되지 않으며, 시간적 비디오 추론 및 확산 기반 언어 모델으로 확장됩니다.
4. 효율성(Efficiency): 디코딩 단계의 개입과 관련된 추론 속도 저하나 학습 기반 방법의 계산 비용을 제거하는 "플러그 앤 플레이(plug-and-play)" 솔루션을 제공합니다.

저자들은 이 연구가 모델의 내부 표현 무결성이나 추론 효율성을 해치지 않으면서, 시각적 증거와 생성을 일치시키는 원칙적인 메커니즘을 제공한다고 결론짓습니다.