기술 요약: 잠재 시각적 추론을 방해하는 요인은 무엇인가?

문제 제기

비전 - 언어 모델 (VLM) 은 다양한 시각적 작업에서 강력한 성능을 달성했지만, 시각적 표현의 내부 조작에 의존하여 문제를 해결해야 하는 공간적 및 구성적 추론이 필요한 상황에서는 여전히 어려움을 겪고 있습니다. 이러한 문제를 해결하기 위해 최근 연구들은 시각적 사고의 사슬 (Chain-of-Thought, CoT) 추론을 촉진하기 위해 중간 단계의 "상상"으로 활용되는 연속적 잠재 토큰을 사용하는 **잠재 시각적 추론 (Latent Visual Reasoning)**을 도입했습니다.

보고된 성능 향상에도 불구하고, 이러한 잠재 표현이 실제로 무엇을 인코딩하는지, 그리고 모델 예측에 어느 정도 인과적으로 영향을 미치는지는 여전히 불분명합니다. 본 논문은 현재 VLM 이 추론을 위해 잠재 토큰에 진정으로 의존하는지, 아니면 단순히 이를 우회하는지 조사합니다.

방법론

저자들은 LVR, Monet, ILVR, LanteRn이라는 네 가지 최신 상용 잠재 시각적 추론 모델을 대상으로 잠재 토큰의 인과적 역할을 조사했습니다. 연구는 다음과 같은 다각적인 접근 방식을 사용했습니다:

1. 개입 분석 (인과성 테스트): 저자들은 추론 중에 생성된 잠재 토큰 ($\hat{z}$) 을 무의미한 "더미" 토큰 ($z'$) 으로 대체했습니다. 개입에는 다음이 포함됩니다:

   • 무작위 서브리전: 관련 없는 이미지 컷에서 파생된 잠재 값을 주입합니다.
   • 영/노이즈: 잠재 값을 상수 값이나 가우시안 노이즈로 대체합니다.
   • 잠재 값 건너뛰기: 시작 토큰 직후 종료 토큰을 삽입하여 잠재 경로를 완전히 비활성화합니다.
   • 오라클 조건부: 중간 이미지에서 파생된 정답 오라클 잠재 토큰 ($z^*$) 을 제공하여 모델이 고품질 정보를 사용할 수 있는지 테스트합니다.

2. 진단 데이터셋 생성: 훈련 데이터의 영향을 분리하기 위해 저자들은 특정 시나리오를 구축했습니다:

   • 마스크된 훈련: 입력 이미지의 관련 영역을 마스킹하여 중간 이미지 (따라서 잠재 토큰) 에서의 정보만을 사용하여만 작업을 해결할 수 있도록 합니다.
   • 테트리스와 같은 회전: 소스 모양에서 관찰된 회전을 대상 모양에 적용해야 하는 합성 데이터셋입니다. 여기서 중간 이미지는 단순한 서브리전이 아닌 비자명한 변환 (회전) 을 나타냅니다.

3. 잠재 공간 분석: 저자들은 코사인 유사도 지표를 사용하여 생성된 잠재와 오라클 잠재의 분포를 분석했으며, 구체적으로 다음을 측정했습니다:

   • 검색 정확도: 생성된 잠재가 해당 오라클 잠재와 일치하는 빈도.
   • 무관한 자기 생성 선호도 (USP): 생성된 잠재가 정답보다 다른 생성된 잠재와 더 가까운지 여부.
   • 시간적 붕괴: 시간에 따른 연속적인 잠재 토큰 간의 유사성.

주요 기여 및 결과

1. 잠재 우회 문제

이 연구는 현재 최첨단 모델들이 답변을 생성할 때 잠재 토큰을 대부분 무시하고 있음을 드러냈습니다.

• 결과: BLINK 및 V*Bench 와 같은 벤치마크에서 네 가지 모델 모두 생성된 잠재 값을 노이즈, 영, 또는 무작위 서브리전과 같은 무의미한 더미 토큰으로 대체해도 정확도가 거의 또는 전혀 하락하지 않았습니다. 일부 경우 성능이 약간 향상되기도 했습니다.
• 오라클의 한계: 추론 중에 고품질 오라클 잠재 (정답) 를 조건부로 제공하더라도 표준 추론 대비 정확도가 크게 향상되지 않았습니다.
• 결론: 잠재 토큰은 최종 예측에서 인과적 역할을 거의 하지 않습니다. 모델들은 효과적으로 잠재 추론 경로를 우회합니다.

2. 훈련 데이터가 근본 원인

저자들은 훈련 데이터를 우회 문제의 주된 원인으로 지목했습니다.

• 관찰: 기존 데이터셋 (예: VisCoT, COMT) 에서 중간 이미지는 일반적으로 원본 입력의 잘라낸 서브리전입니다. 전체 정보가 이미 입력 이미지에 존재하므로 잠재 토큰은 추가적으로 필요한 정보를 제공하지 않습니다.
• 증거:
  • 중단 토큰 베이스라인: 잠재 토큰 없이 훈련된 베이스라인 모델 (자리표시자 "중단" 토큰 사용) 이 표준 데이터에서 오라클 잠재를 사용하는 모델과 동일한 정확도 (79%) 를 달성했습니다.
  • 마스킹된 훈련: 입력 이미지를 마스킹하여 솔루션을 숨기고 잠재 토큰에 의존하도록 강제했을 때, 잠재 값을 노이즈로 대체하면 모델의 정확도가 크게 하락했지만 오라클 잠재에서는 높게 유지되었습니다.
  • 테트리스와 같은 회전: 입력에서 직접 보이지 않는 비자명한 변환 (회전) 이 필요한 작업에서 이 데이터로 훈련된 모델들은 잠재 토큰에 의존하도록 학습되었습니다. 오라클 잠재는 86% 의 정확도를 보인 반면, 개입은 성능을 우연 수준 (~30%) 으로 떨어뜨렸습니다.
• 결론: 모델들은 중간 단계가 원본 입력에서 쉽게 복원할 수 없는 비자명하고 작업과 관련된 정보를 제공할 때만 잠재 토큰에 의존합니다.

3. 잠재 표현 붕괴

모델들이 잠재 토큰을 사용할 능력이 있더라도 표준 추론 중 고품질 잠재 토큰을 생성하지 못합니다.

• 관찰: 생성된 잠재 토큰 ($\hat{z}$) 은 서로 간에 매우 높은 유사성 (코사인 유사도 > 0.8–0.98) 을 보이지만, 해당 오라클 표현 ($z^*$) 과는 상대적으로 덜 유사합니다.
• 검색 실패: 모델들은 상위 10 개 후보 내에서 올바른 오라클 잠재 값을 검색하지 못합니다 (대부분의 모델에서 검색 정확도 < 10%).
• 시간적 붕괴: 추론 사슬이 진행됨에 따라 예측된 잠재 값은 잠재 공간의 좁고 매우 유사한 영역으로 붕괴되는 반면, 오라클 잠재는 다양성을 유지합니다.
• 결론: 현재 방법론들은 잠재 표현 붕괴로 고통받고 있으며, 여기서 모델들은 다양하고 구별력 있는 시각적 추상화 대신 일반적이고 저정보량의 토큰을 생성합니다.

중요성 및 향후 방향

본 논문은 잠재 시각적 추론의 진전이 현재 두 가지 근본적인 문제로 인해 병목 현상을 겪고 있다고 결론지었습니다:

1. 데이터셋 품질: 기존 데이터셋은 중간 단계가 종종 입력 이미지와 중복되기 때문에 잠재 토큰 사용을 장려하지 않습니다. 향후 데이터셋은 원시 입력에서 솔루션이 자명하게 추출되지 않는 작업 (예: 기하학적 변환) 에 대한 **발판 (scaffolding)**을 제공하는 중간 단계를 제공해야 합니다.
2. 예측 정밀도: 모델들은 다양하고 정확한 잠재 토큰을 예측하는 데 어려움을 겪어 표현 붕괴를 초래합니다. 향후 연구는 오라클 표현의 품질과 일치하도록 이러한 토큰의 생성을 개선하는 데 초점을 맞춰야 합니다.

저자들은 잠재 시각적 추론이 공간적 및 구성적 작업에 대한 잠재력을 지니고 있지만, 이러한 훈련 및 생성 결함으로 인해 현재 구현은 대부분 비효율적이라고 강조합니다. 그들은 이 방향의 추가 연구를 촉진하기 위해 코드, 모델, 및 진단 데이터셋 (LanteRn) 을 제공합니다.