1. 문제 정의 (Problem)

대규모 멀티모달 모델 (LMMs, 예: LLaVA, Qwen2.5-VL) 은 이미지와 텍스트를 이해하여 다양한 작업을 수행할 수 있지만, 특정 도메인 (의료, 세밀한 분류 등) 이나 새로운 기술 (세어보기, 시간 읽기 등) 에 대해서는 성능이 부족할 수 있습니다.

• 핵심 과제: 기존 모델에 새로운 기술을 학습시키기 위해 파인튜닝 (Fine-tuning) 을 수행할 때, 기존에 습득한 광범위한 능력 (General Abilities) 이 사라지는 '파괴적 망각 (Catastrophic Forgetting)'을 어떻게 방지할 것인가?
• 기존 접근법의 한계: 전체 모델을 파인튜닝하거나 일반적인 재학습 (Replay) 기법을 사용하면 계산 비용이 크거나, 새로운 작업 학습과 기존 능력 유지 사이의 트레이드오프가 심합니다.

2. 방법론 (Methodology)

저자들은 LMM 의 어떤 구성 요소를 업데이트해야 하는지를 체계적으로 분석하고, 망각을 최소화하면서 새로운 기술을 학습하는 전략을 제안했습니다.

A. 실험 설계

• 모델: LLaVA-OneVision, LLaVA-NeXT, Qwen2.5-VL 등 3 가지 모델 패밀리 사용.
• 태스크: 5 가지 새로운 타겟 기술 (조류 분류, 세어보기, 의료 VQA, OCR, 시간 읽기) 을 순차적으로 학습.
• 평가: 학습된 5 개 작업의 성능 향상 (Learning) 과 8 개의 홀드아웃 (Held-out) 벤치마크 (일반적인 비전 - 언어 능력) 에서의 성능 하락 (Forgetting) 을 동시에 측정.

B. 핵심 가설 및 분석

• 망각의 메커니즘: 망각은 단순히 지식의 손실이 아니라, **출력 토큰 분포 (Output Token Distribution) 의 편향 (Bias)**에 기인한다는 가설을 세웠습니다.
  • 예를 들어, '세어보기 (Counting)' 작업을 학습하면 모델이 일반 캡션 생성 시에도 숫자 토큰을 출력할 확률이 비정상적으로 높아지는 현상이 발생합니다.
• 구성 요소별 역할 분석:
  • Self-Attention (SA): 컨텍스트 내 정보의 라우팅 (Routing) 과 조합을 담당.
  • MLP (Feed-Forward): 키 - 밸류 메모리 역할을 하며, 활성화된 특징을 잔여 스트림 (Residual Stream) 에 다시 써넣어 (Write-back) 출력 분포를 직접적으로 변경.

C. 제안된 선택적 파인튜닝 (Selective Tuning) 전략

망각을 유발하는 '출력 분포의 편향'을 제어하기 위해 두 가지 간단한 튜닝 레시피를 제안했습니다.

1. SA Proj. (Self-Attention Projection) 만 업데이트:
   • 모든 블록의 $W_Q, W_K, W_V, W_O$만 학습.
   • 정보 라우팅은 변경하되, MLP 를 통한 출력 분포의 직접적인 왜곡을 최소화.
2. MLP Gate & Up 만 업데이트 (Down Projection 고정):
   • MLP 의 $W_{gate}, W_{up}$만 학습하고, $W_{down}$은 고정.
   • 특징을 감지 (Activate) 하는 능력은 학습하되, 이를 출력 분포에 반영하는 '쓰기 (Write-back)' 경로를 차단하여 분포 편향을 억제.

3. 주요 결과 (Key Results)

A. 성능 비교 (학습 vs 망각)

전체 모델 파인튜닝 (Full-LLM Tuning) 과 비교하여 제안된 방법들이 압도적인 우위를 보였습니다.

• Full-LLM Tuning: 학습 성능은 높음 (+31.8) 이지만, 홀드아웃 벤치마크에서의 망각이 매우 큼 (-23.3).
• SA Proj. 만 학습: 학습 성능은 높음 (+24.9) 이며, 망각이 거의 없음 (-0.6).
• MLP (Gate & Up) 만 학습: 학습 성능이 매우 높음 (+30.5) 이며, 망각도 매우 적음 (-2.1).
• 시각 인코더/프로젝터 학습: 학습 효과가 미미하거나 오히려 일반 능력을 해침.

B. 망각의 회복 (Recovery) 현상

• 흥미롭게도, 한 작업 (예: 세어보기) 학습 후 망각이 발생하더라도, 다음 다른 작업 (예: 의료 VQA) 을 학습하면 망각된 성능이 부분적으로 회복되는 현상을 발견했습니다.
• 이는 망각이 영구적인 지식 손실이 아니라, 작업 특유의 출력 분포 편향이었기 때문이며, 새로운 작업의 학습 신호가 이 편향을 다시 교정하기 때문입니다.

C. 다른 기법과의 비교

• LwF (Learning without Forgetting), LoRA, MoE, WiSE-FT 등 기존 지속 학습 기법들과 비교했습니다.
• 제안된 SA Proj. 및 MLP (Gate & Up) 전략은 별도의 재학습 데이터 (Replay) 나 추가 파라미터, 복잡한 구조 없이도 기존 기법들보다 학습 - 안정성 트레이드오프 (Learning-Stability Trade-off) 에서 더 우수하거나 동등한 성능을 보였습니다.
• 또한, 계산 효율성 (Throughput) 면에서도 LoRA 나 MoE 보다 뛰어났습니다.

4. 주요 기여 (Key Contributions)

1. 망각의 메커니즘 규명: LMM 에서의 망각이 주로 **출력 토큰 분포의 편향 (Output Distribution Shift)**에 의해 발생함을 계량적 프로브 (Counting-bias probe) 를 통해 증명했습니다.
2. 간단하고 강력한 튜닝 레시피: 복잡한 재학습이나 모델 확장이 필요 없이, SA Proj. 또는 **MLP (Gate & Up)**만 선택적으로 업데이트하는 것이 새로운 기술 학습과 기존 능력 유지를 동시에 달성하는 최적의 방법임을 입증했습니다.
3. 광범위한 검증: 3 가지 모델 패밀리, 5 가지 타겟 기술, 8 개의 광범위한 벤치마크를 통해 제안된 방법의 일반화 능력을 검증했습니다.
4. 재현 가능한 망각 회복: 순차 학습 과정에서 망각이 일시적인 분포 편향임을 보여주며, 후속 학습을 통해 회복 가능함을 규명했습니다.

5. 의의 및 결론 (Significance)

이 논문은 대규모 멀티모달 모델을 지속적으로 발전시키는 데 있어 어떤 파라미터를 업데이트할지 선택하는 것이 전체 모델을 튜닝하거나 복잡한 재학습 기법을 사용하는 것보다 훨씬 효과적임을 보여줍니다.

• 실용성: 추가적인 메모리 (Replay buffer) 나 복잡한 아키텍처 변경 없이, 기존 모델의 구조를 유지하면서 새로운 도메인에 적응할 수 있는 효율적인 방법을 제공합니다.
• 이론적 통찰: Transformer 의 Attention 과 MLP 가 각각 '라우팅'과 '메모리/출력 분포 제어' 역할을 한다는 기존 연구를 바탕으로, 망각을 방지하기 위해 출력 분포를 직접 수정하는 경로 (MLP Down projection) 를 차단해야 함을 명확히 했습니다.

결론적으로, LMM 에 새로운 기술을 가르칠 때는 전체 모델을 학습시키기보다, 출력 분포의 편향을 최소화하는 특정 레이어 (SA Proj. 또는 MLP Gate&Up) 만 선택적으로 학습하는 것이 가장 효과적입니다.