Modality Collapse as Mismatched Decoding: Information-Theoretic Limits of Multimodal LLMs

이 논문은 정보이론적 관점에서 멀티모달 LLM 의 모달리티 붕괴 현상을 텍스트 정렬된 디코더의 불일치 해독 문제로 설명하며, 모델의 아키텍처가 아닌 학습 목표 (스코어링 규칙) 가 접근 가능한 정보의 한계를 결정한다는 것을 입증합니다.

핵심

이 논문은 최근 핫한 멀티모달 LLM(텍스트, 이미지, 음성을 모두 이해하는 AI) 이 왜 가끔은 "바보처럼" 행동하는지에 대한 놀라운 이유를 찾아낸 연구입니다.

핵심 주제는 **"모달리티 붕괴 **(Modality Collapse)라는 현상입니다. 쉽게 말해, AI 가 그림이나 소리를 아주 잘 '보고' 들으면서도, 정작 중요한 세부 사항 (예: 그림 속 사물의 개수 세기, 목소리의 감정 파악) 을 놓쳐버리는 문제죠.

저자는 이 문제를 **통신 공학의 '잘못된 해독기 **(Mismatched Decoder) 개념으로 설명하며, 매우 직관적인 비유를 사용합니다.

---

🎧 비유: "영어만 읽는 번역가가 프랑스어 소리를 듣는 상황"

이 논문의 핵심을 이해하기 위해 다음 상황을 상상해 보세요.

1. 상황: 아주 똑똑한 **영어 번역가 **(LLM)가 있습니다. 이 번역가는 평생 **영어 책 **(텍스트 데이터)만 읽으며 훈련받았습니다.
2. 문제: 이제 이 번역가에게 **프랑스어 노래 **(이미지/음성 데이터)를 들려주고 "이 노래의 감정이 뭐야?"라고 물어봅니다.
3. 현상:
   • 번역가는 노래 가사 (텍스트) 에 해당하는 부분만 이해합니다. "사랑해"라는 가사가 나오면 "사랑"이라는 감정을 맞춥니다.
   • 하지만 노래의 **톤 **(조성), 리듬, 목소리의 떨림 같은 진짜 감정 신호는 전혀 못 느낍니다.
   • 심지어 그 프랑스어 소리를 들으면 번역가의 머리가 혼란스러워져서, 아예 엉뚱한 영어 단어를 내뱉기도 합니다.

이게 바로 이 논문이 말하는 모달리티 붕괴입니다. AI 가 정보를 '보유'하고는 있지만, 그 정보를 '해석'할 수 없는 상태죠.

---

🔍 왜 이런 일이 일어날까요? (세 가지 핵심 통찰)

1. "해독기"가 텍스트에 맞춰져 있어요 (Scoring Rule)

AI 의 핵심인 '해석기 (Decoder)'는 오직 텍스트로만 훈련되었습니다. 마치 영어만 읽는 사람이 프랑스어 소리를 들을 때, 소리의 높낮이나 리듬은 '잡음 (Noise)'으로만 인식하는 것과 같습니다.

• 논문이 말한 것: AI 가 그림이나 소리를 처리할 때, 그 안에 있는 비문자 정보 (감정, 공간 관계 등) 는 사라진 게 아닙니다. AI 가 그 정보를 '읽을 수 있는 도구'를 가지고 있지 않은 것뿐입니다.

2. 정보를 지우는 게 아니라, 무시하는 거예요

많은 사람이 "아, AI 가 그림을 제대로 못 보네"라고 생각하지만, 연구 결과는 다릅니다.

• 실험 결과: AI 의 내부 상태를 분석해 보니, 감정 정보나 사물 개수 정보는 여전히 AI 안에 꽉 차 있었습니다. (선형 프로브라는 검사로 확인됨)
• 하지만: AI 가 그 정보를 '답변'으로 뽑아내지 못합니다. 마치 책장에 꽂혀 있는 책이 있는데, 독자가 그 책을 읽을 수 있는 안경을 쓰지 않아서 내용을 모르고 넘어가는 것과 같습니다.

3. "잘못된 해독"이 오히려 해가 됩니다

가장 놀라운 점은, 비문자 정보 (예: 목소리의 떨림) 가 AI 에게 들어오면 오히려 성능이 떨어진다는 것입니다.

• 비유: 영어만 읽는 번역가가 갑자기 프랑스어 소리를 들으면, 그 소리가 영어 문장 구조를 망가뜨려서 엉뚱한 번역을 하게 됩니다.
• 논문 발견: 연구진은 AI 에서 '비문자 정보'를 인위적으로 지워버렸더니, 오히려 AI 가 텍스트를 더 잘 처리하고 성능이 좋아지는 것을 발견했습니다. 즉, AI 는 비문자 정보를 '방해 신호'로 인식하고 있는 것입니다.

---

💡 해결책은 무엇일까요?

논문은 두 가지 해결책을 제시합니다.

1. "입력"을 맞추는 건 임시방편 (Encoder Alignment)

현재 많은 AI 는 이미지나 소리를 텍스트와 비슷한 형태로 변환하는 '변환기 (Encoder)'를 사용합니다. (예: CLIP, SigLIP)

• 효과: 변환기가 텍스트와 비슷한 형태로 정보를 보내주면 AI 가 그 정보를 이해할 수 있습니다.
• 한계: 하지만 변환기가 텍스트와 비슷한 것만 보내주다 보니, **텍스트로 설명할 수 없는 진짜 정보 **(예: 질감, 미세한 공간 관계)는 아예 버려집니다. "텍스트로 설명 가능한 것만 보여주고, 나머지는 가려버리는" 방식입니다.

2. "해독기"를 다시 훈련해야 합니다 (Training Objective)

진짜 해결책은 AI 가 비문자 정보에 관심을 갖도록 훈련시키는 것입니다.

• 실험: 연구진은 AI 에게 "목소리의 감정을 맞춰봐"라는 새로운 과제를 주며 훈련시켰습니다 (LoRA 기법 사용).
• 결과: 놀랍게도, 감정 인식 정확도가 17% 에서 61% 로 폭풍상승했습니다. 그리고 다른 능력 (단어 인식 등) 은 그대로 유지되었습니다.
• 교훈: AI 가 정보를 '보유'하고 있는지 여부는 중요하지 않습니다. 훈련 과정에서 "이 정보를 써라"라고 명령을 내리는지가 중요합니다.

---

📝 한 줄 요약

"AI 는 그림과 소리를 다 보고 들을 수 있지만, 오직 '텍스트'로만 생각하도록 훈련받았기 때문에, 텍스트로 설명되지 않는 중요한 정보들은 '방해 신호'로 무시하거나 오히려 망쳐버린다. 이 문제를 고치려면 AI 에게 비문자 정보도 중요하다고 다시 가르쳐야 한다."

이 논문은 AI 의 실패 원인이 "기술 부족"이 아니라, **"훈련 목표 **(Objective)임을 수학적으로 증명하고, 이를 해결하는 구체적인 방법을 제시했다는 점에서 매우 중요합니다.

기술 요약

1. 문제 정의: 모달리티 붕괴 (Modality Collapse)

• 현상: 다중 모달 LLM 은 텍스트 중심의 태스크에서는 잘 작동하지만, 객체 수 세기, 화자의 감정 상태 파악, 공간 관계 이해 등 직관적이지 않은 비텍스트 (non-text) 태스크에서는 실패합니다.
• 핵심 모순: 모델이 이미지나 음성의 모든 객체를 나열할 수 있을 정도로 정보가 내부에 보존되어 있음에도 불구하고, 이를 특정 태스크에 활용하지 못합니다.
• 정의: 저자는 이를 **'모달리티 붕괴 (Modality Collapse)'**라고 명명하며, 이는 정보가 소실되는 것이 아니라 디코더가 해당 정보를 '접근 (access)'하지 못하는 상태로 정의합니다.

2. 방법론: 불일치 디코딩 (Mismatched Decoding) 프레임워크

저자는 통신 이론의 **'불일치 디코더 **(Mismatched Decoder) 개념을 차용하여 문제를 형식화했습니다.

• 기본 가정: 다중 모달 LLM 은 텍스트로 훈련된 디코더 (LLM) 가 비텍스트 (이미지, 음성) 표현을 처리하도록 설계된 시스템입니다. 이는 본질적으로 훈련 분포 (텍스트) 와 테스트 분포 (비텍스트) 가 다른 불일치 디코딩 문제입니다.
• **정보 접근성 갭 **(Information Accessibility Gap)
  • 표현 (Representation) 에 포함된 정보량 ($I(Z; S_\tau)$) 과 디코더가 실제로 추출할 수 있는 정보량 (일반화된 상호 정보량, GMI) 사이의 차이를 정의합니다.
  • $\Delta_{access} = I(Z; S_\tau) - GMI_{PM}(S_\tau | q)$
  • 여기서 $q$는 훈련된 고정된 스코어링 규칙 (scoring rule) 입니다.
• **이론적 한계 **(The GMI-Wasserstein Bound)
  • 디코더가 추출할 수 있는 정보의 상한선은 표준 상호 정보량이 아닌 **일반화된 상호 정보량 **(GMI)으로 제한됩니다.
  • 정보 손실은 **분포적 불일치 **(Wasserstein 거리 $W_1$)와 **디코더의 민감도 **(Lipschitz 상수 $L_{log}$)의 곱에 비례하여 증가합니다.
  • 핵심 통찰: 정보 손실은 아키텍처가 아닌 **훈련 목적 함수 **(Training Objective)에 의해 결정된 스코어링 규칙 때문입니다.

3. 주요 실험 및 검증

저자는 5 개의 모델 (Ultravox, Qwen2-Audio, LLaVA, Prismatic-D, Prismatic-S) 과 2 가지 모달리티 (음성, 시각) 를 대상으로 실험을 수행했습니다.

A. 정보 접근성 갭의 실증 (Section 5.2)

• **선형 프로브 **(Linear Probe) 비텍스트 정보 (화자 식별, 감정, 객체 수 등) 는 LLM 의 최종 레이어까지 손실되지 않고 보존됨을 확인했습니다 (프로브 정확도가 우연 수준보다 훨씬 높음).
• 디코더의 실패: 그러나 디코더는 이 정보를 활용하지 못합니다.
  • 음성 모델: 텍스트와 정렬되지 않은 인코더 (Whisper 기반) 를 사용할 경우, 어휘 (lexical) 정보는 LLM 을 통과하며 증폭되지만, 화자 식별 (speaker identity) 정보는 39% 까지 급격히 감소합니다.
  • 시각 모델: 텍스트 정렬 인코더 (CLIP, SigLIP) 를 사용하면 모든 정보가 유지되거나 향상되지만, 비정렬 인코더 (DINOv2) 를 사용하면 비텍스트 속성 (객체 수, 크기 등) 의 성능이 정체됩니다.

B. 인코더 정렬의 역할 (Section 5.5)

• Prismatic VLM 비교 실험: 아키텍처, 어댑터, LLM 백본은 동일하고 비전 인코더만 다른 두 모델 (DINOv2 vs SigLIP) 을 비교했습니다.
• 결과: SigLIP(텍스트 정렬) 은 LLM 을 통과하며 성능이 향상되었으나, DINOv2(비정렬) 는 비텍스트 속성에서 성능 향상이 없었습니다.
• 결론: 인코더가 텍스트와 정렬되어 있으면 디코더가 처리할 수 있는 방향으로 정보를 변환하므로 붕괴가 완화되지만, 이는 비텍스트 정보를 '삭제'하고 텍스트와 관련된 정보만 남기는 방식의 우회책 (workaround) 일 뿐 근본적인 해결책이 아닙니다.

C. 모달리티 특이적 구조의 간섭 (Section 5.4)

• **인과적 제거 실험 **(Causal Ablation) 디코더가 처리하지 못하는 '모달리티 특이적 (Modality-Specific, MS)' 방향의 정보를 인위적으로 제거했습니다.
• 결과: MS 정보를 제거하자 **디코더의 손실 **(Loss) (예: Prismatic-D 에서 -11.1%).
• 의미: 디코더는 비텍스트 정보를 단순히 무시하는 것이 아니라, 이를 노이즈로 간주하여 텍스트 처리 능력을 해치는 파괴적인 방식으로 반응합니다.

D. LoRA 개입 실험 (Section 6.1)

• 실험: Ultravox 모델의 LLM 백본에 **감정 인식 **(Emotion)으로 LoRA 를 적용하여 재훈련했습니다.
• 결과:
  • 감정 태스크 정확도가 **17.3% 에서 61.8%**로 급격히 상승했습니다.
  • 프로브 정확도도 7.5% 향상되었으나, 화자 식별이나 어휘 정확도는 영향을 받지 않았습니다.
• 의미: 훈련 목적 함수 (Objective) 를 변경하여 디코더의 스코어링 규칙을 비텍스트 정보에 민감하게 만들면, 정보 접근성이 회복됨을 증명했습니다.

4. 주요 기여 및 결론

1. 형식화: 모달리티 붕괴를 '불일치 디코딩' 문제로 형식화하고, 접근 가능한 정보의 상한이 GMI 에 의해 결정됨을 증명했습니다.
2. 원인 규명: 붕괴의 원인은 인코더의 표현 능력 부족이 아니라, **텍스트 중심 훈련으로 인해 형성된 디코더의 스코어링 규칙 **(Scoring Rule)임을 밝혔습니다.
3. 해결책 제시:
   • **인코더 정렬 **(Text-aligned Encoder) 비텍스트 정보를 필터링하여 텍스트와 유사한 방향으로 변환하는 임시 방편일 뿐입니다.
   • **목표 함수 수정 **(Objective-side Intervention) 디코더가 비텍스트 정보를 활용하도록 하려면, **훈련 목적 함수 **(Loss Function)해야 합니다 (예: LoRA 를 통한 특정 태스크 훈련).
4. 아키텍처 무관성: 이 이론은 어댑터의 형태 (선형, MLP, Q-Former 등) 나 모델 크기와 무관하며, 오직 디코더의 스코어링 규칙과 분포적 불일치에 의존합니다.

5. 의의

이 연구는 다중 모달 LLM 이 "보지 못한다"는 통념을 반박하고, 실제로는 **"보지만 **(정보 보존)임을 이론적, 실험적으로 증명했습니다. 이는 향후 다중 모달 모델 개발 시, 단순히 인코더를 개선하는 것을 넘어 디코더의 훈련 목적을 다중 모달 정보에 맞게 재설계해야 함을 시사합니다.