기술 요약: LVLM 언러닝 벤치마크에서의 기초 학습 실패 재검토

1. 문제 제기

대형 시각 - 언어 모델 (LVLM) 은 학습 데이터에서 민감한 개인 정보를 무의식적으로 암기함으로써 상당한 프라이버시 위험을 초래합니다. 머신 언러닝 (MU) 은 전체 재학습 없이 이러한 데이터를 제거하는 해결책으로 등장했으나, 현재 LVLM 언러닝을 위한 평가 벤치마크는 치명적인 1 단계 실패를 겪고 있습니다.

기존 벤치마크 (예: FIUBench, MLLMU-bench) 는 언러닝 효과를 테스트하기 위해 가상의 신원을 사용합니다. 그러나 본 논문은 이러한 벤치마크가 초기 파인튜닝 단계에서 모델이 목표 정보를 효과적으로 암기하도록 보장하지 못함을 입증합니다. 결과적으로 모델이 성공적으로 인코딩하지도 않은 정보를 '잊으라고' 요구받기 때문에 이후 언러닝 평가는 신뢰할 수 없게 됩니다. 저자들은 이러한 과소 암기의 두 가지 근본 원인을 다음과 같이 규명했습니다:

1. 불충분한 데이터 반복: 기존 벤치마크는 신원당 제공되는 질문 - 답변 (QA) 쌍의 수가 너무 적습니다.
2. 멀티홉 저주: 벤치마크는 필요한 단일 홉 기초 단계를 제공하지 않은 채 복잡한 멀티홉 추론 질문에 크게 의존하여, 모델이 구성적 학습에 어려움을 겪게 합니다.

2. 방법론 및 진단

이러한 실패를 진단하기 위해 저자들은 기존 벤치마크로 파인튜닝된 모델과 실제 유명 인사들의 '실제 세트 (Real Set)' (기저 모델이 성공적으로 암기한 데이터) 를 비교하는 내부 상태 분석을 수행했습니다.

• 확률적 암기 서명: 역 퍼플렉시티 (1/PPL) 와 Min-k% 확률을 사용하여, 저자들은 기존 벤치마크의 가상 신원들이 실제 유명 인사들에서 관찰되는 높은 신뢰도 검색과 달리 저확률 꼬리 사건으로 취급됨을 발견했습니다.
• 인과적 추적: 주제 토큰을 손상시키고 숨겨진 상태를 복원함으로써, 저자들은 간접 추정 효과 (IE) 를 측정했습니다. 기존 벤치마크로 학습된 모델들은 미미하거나 산발적인 IE 값을 보여, 매개변수 메모리 내에 기능적 암기 회로가 부재함을 나타냈습니다.
• 근본 원인 분석:
  • 데이터 확장: QA 샘플 수 (20 에서 200 까지) 를 변화시킨 실험은 샘플 수량과 암기 성능 (EM 및 ROUGE 로 측정) 사이에 강한 상관관계가 있음을 드러냈습니다.
  • QA 구성: 단일 홉과 멀티홉 질문의 비율을 변화시킨 실험은 복잡한 추론을 위한 기초 단계를 학습하고 견고한 암기를 달성하기 위해 전략적인 혼합 (특히 70% 단일 홉) 이 필요함을 보여주었습니다.

3. 제안된 해결책: ReMem

저자들은 LVLM 언러닝을 위한 유효한 기반을 확립하도록 설계된 새로운 프레임워크인 ReMem(신뢰할 수 있는 멀티홉 및 멀티이미지 암기 벤치마크) 을 소개합니다.

• 데이터셋 구축:
  • 규모: 각 가상 신원은 100 개의 QA 쌍과 100 개의 이미지와 연관됩니다 (기존 벤치마크의 1~20 개 대비).
  • 추론 구조: 70:30 의 단일 홉 대 멀티홉 질문 비율은 복잡한 추론 전에 기초 단계를 학습하도록 보장합니다.
  • 시각적 다양성: 다중 뷰 합성을 통해 각 신원에 대해 다양한 이미지 (자세, 의상, 배경 변화) 를 생성하여 단일 시각 인스턴스에 대한 과적합을 방지하고 일반화를 보장합니다.
  • 품질 관리: 엄격한 수동 검토를 통해 교차 모달 정렬, 캐릭터 일관성 및 윤리적 안전성을 확보합니다.
• 평가 지표:
  • 표준 지표: 유지 및 망각 모두에 대해 ROUGE-L, GPT-Score(LLM-as-a-Judge), 그리고 정밀 일치 (EM) 를 사용합니다.
  • 새로운 지표 (노출): 후보 집합의 확률 분포 내에서 목표 답변의 순위 기반 정보 삭제 깊이를 정량화하는 새로운 지표입니다. 이는 모델이 망각된 속성에 대해 가장 낮은 확률을 할당하는지 여부를 측정합니다.

4. 실험 결과

저자들은 ReMem 을 사용하여 LLaVA-1.5(7B 및 13B) 모델에서 5 가지 언러닝 알고리즘 (경사 상승, 경사 차이, KL 최소화, DPO, NPO) 을 평가했습니다.

• 1 단계 검증: ReMem 으로 파인튜닝된 모델은 문맥적 내러티브와 특정 개인식별정보 (PII) 를 모두 성공적으로 인코딩하여 학습 세트와 홀드아웃 테스트 세트 모두에서 높은 EM 및 ROUGE 점수를 달성함으로써 견고한 기초 학습을 확인했습니다.
• 2 단계 (언러닝) 발견:
  • 유용성 - 망각 트레이드오프: 일반 모델 유용성 유지와 목표 정보 효과적 삭제 사이에는 명확한 역상관 관계가 존재합니다. 경사 차이 (GD) 와 같은 방법은 유용성을 잘 유지하지만 효과적으로 망각하지 못하며, NPO 는 잘 망각하지만 유용성을 크게 저하시킵니다.
  • 추론 차이: 언러닝 방법들은 단일 홉 작업보다 멀티홉 추론 능력을 일관되게 더 심각하게 저하시켜, 현재 방법들이 특정 검색 경로를 정밀하게 절단하기보다는 복잡한 추론 경로를 부수적 피해로 방해함을 시사합니다.
  • 모델 확장: 더 큰 모델 (13B) 은 정보를 더 강하게 유지하여 작은 모델 (7B) 에 비해 효과적으로 언러닝하기 어렵지만, 일반 멀티모달 능력의 저하에는 더 탄력적입니다.

5. 중요성 및 주장

본 논문은 ReMem 이 LVLM 의 학습 및 언러닝 행동을 진단하기 위한 엄격하고 신뢰할 수 있는 프레임워크를 제공한다고 주장합니다. 과소 암기의 기초적 실패를 해결함으로써 ReMem 은 언러닝 평가가 나쁜 학습의 산물이 아닌 실제로 학습된 정보의 제거를 평가하도록 보장합니다.

이 연구는 이전 벤치마크가 이러한 1 단계 실패로 인해 언러닝 효과에 대한 오해의 소지가 있는 결론을 도출했을 수 있음을 강조합니다. 저자들은 ReMem 을 모든 언러닝 과제의 최종 해결책이 아니라 신뢰할 수 있는 평가를 위한 필수 전제 조건으로 위치시킵니다. 그들은 명시적으로 한계를 지적하며, 현재 벤치마크는 격리된 단일 신원에 초점을 맞추고 있으며 단일 시각 입력 내의 여러 개인을 포함하는 복잡한 시나리오에는 아직 대응하지 못함을 인정합니다.

데이터셋과 코드는 신뢰할 수 있는 LVLM 언러닝에 대한 추가 연구를 촉진하기 위해 공개되어 있습니다.