기술 요약: 지속적 멀티모달 학습에서의 숨겨진 망각 (Hidden Forgetting in Continual Multimodal Learning)

문제 정의

멀티모달 대규모 언어 모델(MLLM)은 새로운 시각적 형식, 지시문, 추론 기술과 같이 진화하는 태스크와 도메인에 지속적으로 적응해야 합니다. 표준적인 지속 학습(Continual Learning, CL) 지표는 이전의 정답이 여전히 옳은지에 초점을 맞추지만, **멀티모드 근거 설정(multimodal grounding)**의 안정성은 간과하는 경우가 많습니다.

본 논문은 **숨겨진 증거 사용 망각(Hidden Evidence-Use Forgetting)**이라 명명된 특정 실패 모드를 식별합니다. 이 시나리오에서 MLLM은 이전 태스크에 대해 높은 정확도를 유지하지만, 근거가 있는 증거 채널(예: 시각적 영역, OCR 토큰, 차트 요소, 문서 텍크스트)로부터의 의존도를 줄이고, 근거가 부족한 지름길(예: 언어적 사전 지식 또는 데이터셋 편향)로 은밀하게 이동합니다. 표준적인 정답 수준의 평가는 이러한 드리프트(drift)를 감지하지 못하며, 모델의 추론 과정이 덜 충실해지고 있음에도 불구하고 안정성이 유지되고 있다는 잘못된 인상을 줍니다.

방법론: 의존성 제약 지속 학습 (Reliance-Constrained Continual Learning, RCL)

이를 해결하기 위해 저자들은 모델이 무엇을 답하는지뿐만 아니라 어떻게 증거를 사용하는지를 보존하는 리플레이 프리(replay-free) 지속 학습 프레임워크인 RCL을 제안합니다.

핵심 메커니즘

RCL은 이전 체크포인트를 행동 참조점("교사(teacher)")으로 동결하고, 현재 모델("학생(student)")이 적응 과정 동안 교사의 증거 의존 프로필을 유지하도록 제약합니다.

1. 역사실적 채널 개입 (Counterfactual Channel Interventions):

   • 각 입력에 대해, RCL은 특정 증거 채널을 체계적으로 억제(예: 시각적 영역 마스킹, OCR 토큰 제거, 또는 차트 요소 숨기기)함으로써 역사실적 예시를 구성합니다.
   • 이러한 억제에 대한 모델의 민감도는 손실(loss)의 증가 또는 출력 분포의 변화로 측정됩니다.
   • 이러한 민감도는 특정 샘플에 대해 모델이 의존하는 증거 채널의 확률 분포를 나타내는 의존성 벡터(reliance vector) $r_\theta(x, y)$로 정규화됩니다.

2. 의존성 보존 목적 함수 (Reliance Preservation Objective):

   • 프레임워크는 세 가지 목적 함수를 공동으로 최적화합니다:
     • 태스크 학습 ($L_{task}$): 현재 단계에 대한 표준 크로스 엔트로피 손실.
     • 예측 보존 ($L_{pred}$): 현재 모델이 이전 모델과 동일한 정답을 생성하도록 하는 토큰 수준의 증류(distillation).
     • 의존성 보존 ($L_{rel}$): 교사의 의존성 벡터와 학생의 의존성 벡터 사이의 젠슨-샤논 발산(Jensen–Shannon Divergence, JSD)을 최소화하는 손실 항.
   • **신뢰도 게이트(confidence gate)**가 의존성 손실에 가중치를 부여하여, 교사의 예측이 불확실하거나 교사가 특정 채널에 대해 측정 가능한 의존성을 보이지 않는 샘플의 가중치를 낮춤으로써 노이즈가 섞인 타겟의 전파를 방지합니다.

3. 구현 세부 사항:

   • RCL은 리플레이 프리(replay-free) 방식입니다. 즉, 이전의 멀티모달 예시를 저장하지 않습니다.
   • 매개변수 효율적 미세 조정(PEFT, 예: LoRA)을 사용하여 백본은 동결하고 어댑터 파라미터만 업데이트합니다.
   • 추론 오버헤드 없음: 역사실적 개입과 의존성 추정은 학습 및 평가 단계에서만 발생합니다. 배포된 모델은 표준 PEFT 적응 MLLM과 동일한 아키텍처와 지연 시간을 가집니다.

주요 기여

1. 숨겨진 증거 사용 망각의 공식화: 저자들은 정답 정확도는 유지되지만 근저에 있는 증거 경로가 변하는 실패 모드를 정의하고 정량화했습니다. 이들은 이 현상을 진단하기 위해 모달리티 의존성 드리프트(Modality Reliance Drift, MRD), 주요 증거 전환율(Dominant Evidence Flip Rate, DEF), **숨겨진 망각률(Hidden Forgetting Rate, HFR)**과 같은 지표를 도입했습니다.
2. RCL 프레임워크: 역사실적 채널 개입을 통해 추론 비용을 증가시키지 않으면서 증거 사용 드리프트를 제약하는 새로운 리플레이 프리 프레임워크를 제안했습니다.
3. 실증적 검증: 본 논문은 LLaVA-1.5-7B/13B 및 InternVL-Chat-7B와 같은 백본을 사용하여 CoIN, COAST, MCITlib 및 커스텀 증거 민감형 멀티모달 스트림(VQA, OCR, 차트, 문서 포함)에 대해 RCL을 평가했습니다.

실험 결과

저자들은 네 가지 벤치마크(CoIN, COAST, MCITlib, 그리고 커스텀 증거 민감형 멀티모달 스트림)에서 RCL을 평가했습니다.

• 성능 대비 망각 (Performance vs. Forgetting): RCL은 최종 평균 정확도 측면에서 리플레이 프리 베이스라인(예: Seq-LoRA, EWC, LwF) 및 최신 멀티모달 CL 방법(예: HiDe-LLaVA, BranchLoRA, SEFE)보다 일관되게 우수한 성능을 보였으며, 동시에 평균 망각을 크게 줄였습니다.
• 근거 설정 안정성 (Grounding Stability):
  • RCL은 강력한 베이스라인(예: ~0.23)에 비해 **모달리티 의존성 드리프트(MRD)**를 약 50% 감소시켰습니다(예: ~0.23에서 ~0.10으로).
  • 특히 OCR, 차트, 문서와 같은 구조화된 증거에 대한 **주요 증거 전환율(DEF)**을 급격히 낮추었습니다.
  • **숨겨진 망각률(HFR)**은 베이스라인(예: Answer-KD의 ~65%)에 비해 RCL에서는 ~11%로 감소했습니다.
• 비용 효율성: 역사실적 개입으로 인한 학습 시간 비용에도 불구하고, RCL은 근사 파레토 최적(near-Pareto optimal) 성능을 달eric했습니다. 이는 순차적 LoRA 대비 약 1.56배의 완만한 학습 컴퓨팅 비용 증가만으로 상당한 수준의 근거 설정 안정성 향상을 제공함을 의미합니다.

의의 및 주장

본 논문은 견고한 지속적 멀티모달 학습을 위해서는 단순히 정답만을 보존하는 것이 아니라, 정답 뒤에 있는 **증거 경로(evidence path)**를 보존해야 한다고 주장합니다.

• 정확도를 넘어: 저자들은 표준적인 정답 중심 평가가 안전이 중요하거나 장기적으로 운영되는 애플리케이션에서 불충분하다고 주장합니다. 왜냐하면 이러한 평가는 모델이 지름길 기반 추론으로 드리프트되는 것을 은폐할 수 있기 때문입니다.
• 리플레이 프리 효율성: RCL은 과거 데이터를 저장하거나 추론 시점에 페널티를 부과하지 않고도 고품질의 의존성 보존이 가능하다는 것을 입증하여, 실제 환경 배포에 적합함을 보여줍니다.
• 일반화 가능성: 이 방법은 다양한 모델 규모와 아키텍처에서 효과적인 것으로 나타났으며, 이는 증거 사용의 안정성이 신뢰할 수 있는 MLLM 적응을 위한 근본적인 요구사항임을 시사합니다.

저자들은 향후 지속 학습 시스템은 단순히 무엇을 답하는가가 아니라, 그 답에 도달하기 위해 멀티모달 증거를 어떻게 사용하는가에 의해 평가되어야 한다고 결론짓습니다.