기술 요약: 언어가 시야를 덮어쓸 때

1. 문제 정의

시각 - 언어 모델 (VLM), 특히 디코더 아키텍처 기반 모델은 고위험 애플리케이션을 increasingly 구동하지만, 객체 환각이라는 치명적인 실패 모드를 겪고 있습니다. 이러한 모델은 입력 이미지에 존재하지 않는 시각적 내용을 자신 있게 설명합니다.

본 논문은 그 근본 원인을 단순한 정렬 부족이 아닌 **기하학적 과정렬 (geometric over-alignment)**으로 규명합니다.

• 모달리티 간극: 시각 및 언어 표현은 공유된 잠재 공간 내에서 본질적으로 분리된 매니폴드를 차지합니다.
• 과정렬 메커니즘: 디코더 기반 VLM 의 교차 모달 어텐션 메커니즘 요구사항을 충족하기 위해 모델은 시각 임베딩을 텍스트 매니폴드와 강제로 겹치게 만듭니다.
• 결과: 이러한 강제적 붕괴는 시각 표현에 통계적 언어 편향을 주입합니다. 모델은 비전 임베딩 공간의 상위 주성분 (PCs) 이 텍스트를 위한 모달리티 앵커로 탈취되는 "구조적 단축"을 악용합니다. 결과적으로, 세밀한 시각적 증거는 고확률 텍스트 패턴에 가려져 모델이 실제 이미지에 주의를 기울이는 대신 언어적 사전 지식에 의존하게 됩니다.

기존 연구들은 모달리티 간극을 강제로 좁히려 시도하여 (과정렬을 악화시킬 수 있음) 또는 대비적 디코딩 (contrastive decoding) 과 같은 고비용의 블랙박스 디코딩 전략을 통해 환각을 억제하려 했으나, 근본적인 기하학적 원인을 해결하지는 못했습니다.

2. 방법론

저자들은 텍스트 편향을 시각 임베딩 내의 선형적으로 격리 가능한 부분 공간으로 간주하는 기하학적 편향 제거 프레임워크를 제안합니다.

A. 메커니즘 분석

• 텍스트 매니폴드 정의: 저자들은 사전 학습 캡션에서 파생된 토큰 임베딩에 주성분 분석 (PCA) 을 수행하여 텍스트 매니폴드를 위한 좌표계를 정의합니다. 상위 주성분들이 통계적 언어 편향을 나타내는 보편적이고 데이터셋에 무관한 매니폴드를 형성함을 입증합니다.
• 레이어별 정렬: 분석 결과, 표준 VLM 에서 시각 토큰은 초기부터 중반 디코더 레이어에서 이 텍스트 매니폴드와 공격적으로 정렬되는 것으로 나타났습니다.
• 시각적 덮어쓰기: 선형 프로빙 (linear probing) 을 통해 시각 토큰이 네트워크를 통과함에 따라 상위 주성분이 "구조적 마스크"로 작용하여 실제 시각 신호를 텍스트 구문 및 사전 지식으로 대체함으로써 시각적 디코딩 가능성이 저하됨을 확인했습니다.

B. 제안된 해결책

본 논문은 이 편향을 제거하기 위한 두 가지 상호 보완적인 방법을 소개합니다.

1. 학습 없는 추론 전략 (사후적):

   • 추론 시, 이 방법은 시각 임베딩을 텍스트 매니폴드의 상위 $k$개 주성분에 수직으로 투영합니다.
   • 공식: $\vec{v}_{debiased} = \vec{v} - \sum_{i=1}^{k} ((\vec{v} - \vec{m}) \cdot \vec{k}_i)\vec{k}_i$. 여기서 $\vec{v}$는 비전 임베딩, $\vec{m}$은 텍스트 매니폴드 평균, $\vec{k}_i$는 상위 주성분입니다.
   • 이 연산은 추가 모델 학습이나 계산 오버헤드 없이 "텍스트 앵커"를 제거합니다.

2. 편향 인식 미세 조정 패러다임:

   • 미세 조정 과정에서 동일한 상위-$k$개 주성분 제거를 LLM 디코더에 입력되기 전 교차 모달 프로젝터의 출력에 적용합니다.
   • 이는 네트워크가 매개변수 업데이트 중 통계적 언어 단축을 사용할 수 없도록 구조적으로 차단하여, 모델이 시각적 근거를 기반으로 한 그라운딩을 자연스럽게 인코딩하도록 강제합니다.

3. 주요 기여

• 과정렬의 정량적 특성화: 본 논문은 디코더 기반 VLM 의 언어 편향이 시각 임베딩 공간의 상위 주성분에 집중되어 시각적 디코딩 가능성을 능동적으로 저하시킨다는 최초의 명시적 분석을 제공합니다.
• 새로운 기하학적 프레임워크: 언어 편향의 침투를 격리하고 측정하는 작업 무관 (task-agnostic) 방법으로, 이 편향이 잠재 공간의 상위 주성분에 집중되어 있음을 규명합니다.
• 학습 없는 편향 제거: 기본 모델 대비 추가 계산 비용이 전혀 들지 않는 원칙적인 사후 개입으로 다양한 벤치마크에서 시각적 그라운딩을 크게 향상시킵니다.
• 편향 인식 미세 조정: 훈련 루프 중 통계적 언어 단축을 제거함으로써 모델이 시각적 증거에 의존하도록 강제하는 전문화된 훈련 프레임워크입니다.

4. 실험 결과

이 방법들은 여러 아키텍처 (Qwen2.5-VL-7B, LLaVA-1.5-7B) 와 벤치마크에서 평가되었습니다.

• 환각 감소:

  • POPE: Qwen 은 87.3 에서 88.4 로, LLaVA 는 82.8 에서 83.8 로 향상되었습니다.
  • CHAIR: 환각률이 크게 감소했습니다. Qwen2.5-VL-7B 의 경우 CHAIR 가 5.14 에서 4.23 으로 (-17.7%), LLaVA-1.5-7B 의 경우 9.20 에서 6.74 로 (-26.7%) 감소했습니다.
  • AMBER: 인스턴스 수준 및 문장 수준 지표 모두에서 상당한 개선을 보였습니다.
  • 비교: 학습 없는 방법은 VCD, SID, DMAS 와 같은 계산 비용이 많이 드는 블랙박스 베이스라인보다 성능이 우수하거나 이를 능가했습니다.

• 장문 캡션 작성 (CLAIR 점수):

  • VRSBench 와 TextCaps 에서 환각된 내용을 패널티로 부과하는 CLAIR 점수로 평가되었습니다.
  • 편향 인식 미세 조정 패러다임은 제로샷 및 표준 지도 미세 조정 (SFT) 베이스라인보다 일관되게 우수한 성능을 보였습니다.
  • 예시: Qwen2.5-VL-7B 를 사용한 VRSBench 에서 점수가 표준 SFT 의 72.30 에서 74.70 으로 향상되었습니다.

• Logit Lens 분석:

  • 잠재 표현을 추적한 결과, 베이스라인 모델은 시각적 패치를 고확률 구문 마커 (예: 구두점, 전치사) 로 디코딩했습니다.
  • 기하학적 편향 제거 후 모델은 "벤치", "냉장고", "데크"와 같은 세밀한 시각적 의미론을 성공적으로 디코딩하여 구문 프로토콜이 제거되었음을 확인했습니다.

5. 중요성 및 주장

본 논문은 모달리티 간극을 좁히는 것이 올바른 전략이라는 지배적인 가정이 결함이 있다고 주장합니다. 대신, 시각적 표현의 기하학적 무결성을 보존하기 위해 의도적인 모달리티 간극이 존재해야 합니다.

• 핵심 통찰: 시각 및 텍스트 공간을 완전히 겹치게 만드는 것은 언어의 부자연스러운 통계적 규칙성으로 시각적 표현을 오염시킵니다.
• 함의: 명시적으로 상위 텍스트 주성분을 투영하여 제거함으로써, 모델은 언어적 사전 지식에 의존하는 대신 실제 시각적 증거에 주의를 기울이도록 강제됩니다.
• 인정된 한계: 저자들은 세밀한 시각 공간을 텍스트 매니폴드로 압축해야 하는 현재 디코더 기반 아키텍처는 근본적으로 결함이 있을 수 있다고 지적합니다. 향후 아키텍처는 별도의 모달리티별 인코더가 필요할 수 있다고 제안합니다. 또한, 이 방법은 텍스트 편향이 선형 부분 공간으로 완벽하게 격리될 수 있다는 가정에 의존하므로, 분포 밖 (out-of-distribution) 영역이 높은 경우 어려움을 겪을 수 있습니다.

결론적으로, 이 연구는 VLM 의 환각이 단순한 디코딩 문제가 아니라 기하학적 과정렬로 인한 표현 문제임을 보여주며, 원칙적인 기하학적 편향 제거를 통해 이를 완화할 수 있음을 입증합니다.