기술 요약: SIRA – 공유 접두사 내부 할당 재구성

문제 제기

대형 시각-언어 모델 (LVLM) 은 종종 **환각 (hallucinations)**에 시달립니다. 이는 모델이 언어적으로 그럴듯하지만 시각적 입력을 지지하지 않는 객체, 속성 또는 관계에 대한 설명을 생성하는 현상입니다. 시각적 증거가 약하거나 모호할 때 이 문제는 특히 심각해지며, 고확률 언어 사전 지식이 토큰 예측을 지배하게 됩니다.

기존의 완화 전략, 특히 **대조적 디코딩 (contrastive decoding)**은 원본 이미지에 대한 모델의 예측과 흐릿하거나 마스킹된 이미지와 같은 저하되거나 변형된 입력에서 도출된 참조 예측을 비교함으로써 이를 해결하려 합니다. 그러나 저자들은 이러한 외부 접근법에서 두 가지 치명적인 한계를 지적합니다:

1. 계산 오버헤드: 일반적으로 모델을 통한 두 번째 전체 순전파 (forward pass) 가 필요합니다.
2. 매니폴드 외부 아티팩트: 입력 이미지를 변형하면 실제 시각 분포를 대표하지 않는 아티팩트가 발생할 수 있습니다. 결과적으로 생성된 로그트 (logit) 차이는 시각적 증거 대 언어 사전 지식의 깨끗한 할당이 아니라, 변형 자체로 인한 불일치를 반영할 수 있습니다.

본 논문은 효과적인 반사실적 참조가 입력 공간에서 외부적으로 구축될 필요가 없다고 주장합니다. 대신 핵심 요구사항은 **정렬된 참조 (aligned reference)**로, 정교한 시각적 증거에 대한 접근이 후속 처리 단계에서 제한된다면 동일한 멀티모달 상태가 어떻게 진화할지를 드러내는 것입니다.

방법론: SIRA

저자들은 **SIRA(공유 접두사 내부 할당 재구성, Shared-Prefix Internal Reconstruction of Attribution)**를 제안합니다. 이는 학습이 필요 없는 내부 대조적 디코딩 프레임워크입니다. SIRA 는 입력 이미지를 변경하는 대신 트랜스포머 레이어 내의 정보 흐름을 조작함으로써 동일한 LVLM 추론 궤적 내부에서 반사실적 참조를 구축합니다.

핵심 메커니즘

SIRA 는 공통 "접두사"를 공유하고 특정 분기 경계 ($b$) 이후에만 분기하는 두 개의 동기화된 디코딩 브랜치를 유지하여 작동합니다:

1. 공유 접두사 ($0$부터$b-1$까지): **풀 브랜치 (Full Branch, 표준 추론)**와 **반사실적 브랜치 (Counterfactual Branch)**는 동일한 프롬프트, 모델 파라미터, 디코딩 기록, 위치 구조, 그리고 초기 레이어 계산을 공유합니다. 이로써 두 브랜치는 분기 전에 동일한 안정된 멀티모달 해석과 초기 시각적 그라운딩을 물려받게 됩니다.
2. 후기 분기 ($b$부터 $L-1$까지): 경계 레이어 $b$ 이후, 브랜치들은 분기합니다:
   • 풀 브랜치는 이미지 토큰에 대한 주의를 허용하는 표준 멀티모달 추론을 계속합니다.
   • 반사실적 브랜치는 이미지 토큰 위치로의 접근을 차단하는 특정 주의 마스크 ($M_{cf}$) 를 적용합니다. 이 브랜치에서 이미지 토큰은 쿼리에 의해 읽을 수 없으며, 텍스트 스트림에 피드백을 제공하는 쿼리를 생성할 수도 없습니다.
3. 내부 대조: 각 디코딩 단계에서 SIRA 는 두 브랜치의 로그트 ($z_{full}$ 및 $z_{cf}$) 를 계산합니다. 최종 디코딩 로그트 ($z_{cd}$) 는 다음과 같이 계산됩니다:
   $$z_{cd}(v) = (1 + \alpha)z_{full}(v) - \alpha z_{cf}(v)$$
   여기서 $\alpha$는 대조 강도를 제어합니다.
   • 시각적 접근이 없는 반사실적 브랜치에서 여전히 강력한 토큰은 언어 사전 지식에 의해 주도될 가능성이 높으므로 패널티를 받습니다.
   • 풀 브랜치에서 특히 이점을 얻는 토큰은 선호됩니다. 왜냐하면 그 확률이 지속적인 시각적 증거에 의존하기 때문입니다.

효율성

두 번의 전체 순전파가 필요한 방법 (예: VCD) 과 달리, SIRA 는 처음 $b$개의 레이어에 대한 계산을 공유합니다. 반사실적 브랜치에 대해서는 마지막 $K$개의 레이어 비용만 발생합니다. 이로 인해 이상적인 토큰당 비용 비율은 $1 + K/L$이 되어 (중간 레이어 분기의 경우 약 $1.5\times$), 외부 대조적 방법의 $2\times$ 비용보다 훨씬 낮습니다.

주요 기여

1. 정보 흐름 관점: 본 논문은 효과적인 참조가 외부 입력 변형에 의존하기보다 초기 멀티모달 그라운딩을 유지하면서 후기 이미지 토큰 접근을 제한해야 한다고 주장함으로써 환각 완화를 재평가합니다.
2. SIRA 프레임워크: 공유 접두사 후기 분기 및 경계 이후 이미지 토큰 마스킹을 통해 반사실적 참조를 구축하는 학습이 필요 없는 내부 대조적 디코딩 방법 제안.
3. 실증적 검증: SIRA 가 환각을 줄이면서도 설명적 범위를 유지하고 두 번의 패스 방법보다 낮은 오버헤드를 부과함을 보여주는 포괄적인 실험.

실험 결과

저자들은 세 가지 벤치마크인 POPE(객체 수준 환각), CHAIR(캡션링 환각), AMBER(다차원 캡션링) 에서 Qwen2.5-VL과 LLaVA-v1.5에 대해 SIRA 를 평가했습니다.

• POPE: SIRA 는 모든 36 가지 지표 (백본, 데이터셋, 부정 샘플링 전략의 조합) 에서 최고의 결과를 달성했습니다. 기본 디코더 대비 Qwen2.5-VL 에서 평균 +5.4 점, LLaVA-v1.5 에서 +4.9 점의 정확도 향상을 보였으며, DoLa, OPERA, VCD 와 같은 강력한 베이스라인을 능가했습니다. 특히 언어 사전 지식이 강한 "적대적 (Adversarial)" 분할에서도 개선이 일관되게 나타났습니다.
• CHAIR: SIRA 는 문장 수준 (CHAIRs) 과 인스턴스 수준 (CHAIRi) 환각률 모두를 감소시켰습니다. 예를 들어, LLaVA-v1.5 에서 길이가 64 일 때 CHAIRs 는 31.5 에서 23.1 로 감소하여 단순 누락이 아닌 불필요한 객체 언급이 줄어듦을 나타냈습니다.
• AMBER: SIRA 는 환각 지표 (Hal, Cog) 를 감소시키면서도 설명적 범위 (Cover) 를 유지하거나 증가시켰습니다. 이는 종종 캡션을 짧게 하거나 모호하게 표현하여 (과도한 회피) 환각을 줄이는 OPERA 및 VCD 와 같은 베이스라인과 대조됩니다. SIRA 는 특히 언어 사전 지식과 밀접하게 연결된 "인지적 (Cognitive)" 환각 (Cog) 을 감소시켰습니다.
• 효율성: SIRA 는 표준 디코딩 대비 약 1.4–1.5$\times$의 지연 오버헤드를 발생시켰으며, 이는 VCD ($\sim2.1\times$) 및 OPERA ($\sim5.9\times$) 보다 훨씬 낮습니다.

의의 및 한계

의의:
본 논문은 SIRA 가 외부적으로 구축된 참조보다 더 직접적이고 깨끗한 토큰 수준 할당 대리점을 제공한다고 주장합니다. 반사실적 브랜치를 동일한 모델 매니폴드에 유지하고 초기 의미 상태를 공유함으로써, SIRA 는 변형 아티팩트를 도입하지 않고 시각적 증거의 기여도를 분리합니다. 모델 재학습, 외부 검증자, 또는 변형된 입력 없이 최첨단 수준의 환각 감소를 달성하여, 화이트박스 접근이 가능한 오픈 가중치 LVLM 에 적용 가능합니다.

한계:
저자들은 두 가지 주요 한계를 인정합니다:

1. 오버헤드: 두 번의 패스 방법보다 낮지만, 반사실적 브랜치의 재평가로 인해 SIRA 는 여전히 0 이 아닌 단계별 디코딩 비용을 수반합니다.
2. 접근 요구사항: 내부 대조를 구축하려면 숨겨진 상태, 주의 마스크, 캐시 상태에 대한 화이트박스 접근이 필요하므로, 블랙박스 API 가 아닌 오픈 가중치 또는 제어 가능한 LVLM 에만 적용이 제한됩니다.