Information-Regularized Attention for Visual-Centric Reasoning

기술 요약: 시각 중심 추론을 위한 정보 정규화 어텐션 (Information-Regularized Attention)

문제 정의
시각-언어 모델(VLM)은 멀티모달 학습의 패러다임으로 자리 잡았으나, 객체 환각(object hallucination), 약한 시각적 접지(weak visual grounding), 그리고 전체 파라미터 지시어 튜닝(full-parameter instruction tuning) 이후 발생하는 파괴적 망각(catastrophic forgetting)을 포함한 심각한 신뢰성 문제를 겪고 있다. 저자들은 이러한 실패가 표준적인 다음 토큰 예측 목적 함수 하에서 시각적 표현 학습에 대한 명시적인 제어가 부족하기 때문이라고 주장한다. 현재의 훈련 패러다임 아래에서 시각적 임베딩은 언어 감독(language supervision)만을 통해 수동적으로 최적화된다. 이는 작업과 무관하거나 노이즈가 섞인 시각적 신호가 어텐션 레이어를 통해 전파되도록 허용하며, 이로 인해 "어텐션 싱크(attention sinks)"(어텐션이 의미 없는 토큰으로 붕괴되는 현상)와 가짜 교차 모달 상호작용(spurious cross-modal interactions)이 발생한다. 풍부한 감독 신호(예: 선호도 최적화)에 의존하는 기존의 데이터 중심 접근 방식은 특징 표현(feature representations) 자체를 직접적으로 정규화하는 데 실패한다.

방법론: 정보 정규화 어텐션 (Information-Regularized Attention, IRA)
이러한 문제를 해결하기 위해, 본 논문은 중간 트랜스포머 레이어의 은닉 상태(hidden states)로 주입되는 시각 정보의 양을 명시적으로 조절하도록 설계된 확률적 어텐션 메커니즘인 **정보 정규화 어텐션(IRA)**을 제안한다.

• 정보 이론적 정식화: 이 방법은 문제를 변분 추론(variational inference) 과제로 프레임화한다. IRA는 은닉 상태 $h$를 입력 $x$의 결정론적 매핑으로 취급하는 대신, 어텐션 모듈의 밸류 상태(value states)에 무작위 노이즈를 주입함으로써 확률적 잠재 변수 $z$를 도입한다. 이를 통해 시각적 임베딩의 결정론적 전파를 확률적 과정으로 변환한다.
• 아키텍처: 각 트랜스포머 레이어에는 $v$가 밸류 상태를 나타낼 때 사후 분포 $q_\phi(z | v)$를 생성하는 경량 파라미터 헤드가 부착된다. 이 사후 분포는 재매개변수화 기법(reparameterization trick, $z = v + \Delta_\phi(v) + \sigma_q \epsilon$)을 사용하여 근사되며, 이를 통해 모델은 추가적인 인코딩 오버헤드 없이 적응형 섭동(adaptive perturbations)과 불확실성 추정을 학습할 수 있다.
• 정규화 목적 함수: 훈련 목적 함수에는 학습된 사후 분포와 데이터 의존적 사전 분포(data-dependent prior) $p_\lambda(z | \lfloor v \rfloor)$ 사이의 쿨백-라이블러(KL) 발산 항이 포함된다. 사전 분포는 (trivial posterior-prior collapse를 방방지하기 위해 stop-gradient 연산을 사용하여) 분리된 원래의 밸류 상태를 중심으로 설정된다.
• 불확실성 조건부 가중치 부여: 모든 시각적 토큰이 동일한 정규화를 필요로 하지 않는다는 점을 인식하여, 저자들은 토큰 단위의 가중치 부여 메커니즘을 도입했다. 정규화 크기는 다음 두 가지 요소에 따라 적응적으로 조정된다:
  1. 중요도(Importance): 언어 컨텍스트에 의해 토큰에 할당된 평균 어텐션 질량(attention mass).
  2. 불확실성(Uncertainty): 교차 모달 어텐션 분포의 엔트로피.
     중요도가 낮고(낮은 어텐션) 불확실성이 높은(높은 엔트로피) 토근은 더 강한 정규화를 받는 반면, 중요한 시각적 세부 사항은 보존된다.
• 레이어별 적용: 실험 결과, IRA를 중간에서 후반부 레이어(구체적으로 트랜스포머 깊이의 60%~80%)에 적용했을 때 가장 좋은 성능을 보였다. 이 레이어들은 추상적 추론과 유지된 시각적 접지 신호 사이의 균형을 맞추기 때문이다.

주요 기여

1. 새로운 메커니즘: 교차 모달 어텐션에 진입하기 전 표현 수준에서 시각적 표현을 조절하는 IRA를 제안함으로써, 전체 파라미터 지시어 튜닝 중 시각적 정보 흐름을 명시적으로 제어한다.
2. 기하학적 통찰: IRA가 표현의 기하학적 구조를 개선함을 입증했다. 저자들은 신경 궤적(neural trajectories)을 분석하기 위해 곡률(curvature) 지표를 도입했으며, IRA가 레이어를 가로질러 더 매끄럽고 선형적인 궤적을 생성한다는 것을 발견했다. 이는 안정적인 훈련 역학 및 향상된 접지(grounding)와 상관관계가 있다.
3. 어텐션 싱크 완화: 어텐션 싱크와 표현 곡률 사이의 상관관계를 식별했다. IRA는 어텐션 싱크를 억제하고, 과도하고 무의미한 어텐션을 받는 토큰의 비율을 줄이는 것으로 나타났다.

결과
저자들은 오픈 소스 VLM(InternVL2, InternVL2.5, LLaVA-OneVision)을 대상으로 다양한 벤치마크에서 IRA를 평가했다:

• 일반 성능: IRA는 추론 집약적 벤치마크(예: MMMU, STEM, General QA) 및 지식 집약적 작업(OK-VQA)에서 표준 지도 미세 조정(SFT)보다 일관되게 우수한 성능을 보였다.
• 강건성: 이 방법은 환각 탐지 벤치마크(POPE, HallusionBench)의 성능을 개선하고 저수준 비전 작업(VLM-are-biased, VLM-are-blind)에서의 편향을 줄였다.
• 일반화: IRA는 다중 이미지 이해(MuirBench, BLINK) 및 비디오 이해(MVBench)를 포함한 분포 외(OOD) 작업에서 더 나은 일반화 능력을 보여주었다.
• 표현 분석: 정량적 분석 결과, IRA 모델은 SFT 베이스라인에 비해 낮은 곡률 변화(더 직선적인 궤적)와 현저히 감소된 어텐션 싱크 비율을 보였다.
• 절제 연구(Ablation): 불확실성 가이드 가중치 또는 데이터 의전적 사전 분포를 제거하면 성능 저하가 발생하여, 적응형 정규화와 사전 학습된 표현에 대한 앵커링(anchoring)의 필요성을 확인했다.

의의 및 주장
본 논문은 확률적 어텐션이 단순한 정규화 도구가 아니라 생성 아키텍처 내의 표현 학습에 대한 근본적인 기여자라고 주장한다. 은닉 상태에 주입되는 시각 정보를 명시적으로 조절함으로써, IRA는 시각적 환각과 불안정성의 근본 원인인 노이즈 섞인 시각적 신호의 통제되지 않은 전파 문제를 해결한다. 저자들은 VLM의 신뢰성을 높이기 위해서는 데이터 중심의 사후 학습을 넘어 생성 아키텍처 내의 특징 표현을 직접적으로 정규화해야 한다고 단언한다. 나아가, 본 연구는 어텐션이 단순한 가중치 부여 메커즘이 아니라 내부 표현의 품질을 평가하는 척도로서 기능해야 함을 시사하며, 더 신뢰할 수 있고 해석 가능한 멀티모달 시스템을 구축하기 위한 새로운 방향을 제시한다. 저자들은 현재 자원 제약으로 인해 실험이 8B 파라미터 모델에 국한되어 있으나, 이 결과가 더 큰 모델로도 확장될 것으로 기대한다고 밝혔다.