Rethinking Post-Unlearning Behavior of Large Vision-Language Models

1. 문제 정의 (Problem Definition)

배경:
대형 시각 - 언어 모델 (LVLM) 은 이미지 내의 개인을 식별하고 민감한 개인 정보를 노출할 수 있어 심각한 프라이버시 문제를 야기합니다. 이를 해결하기 위해 기계적 언러닝 (Machine Unlearning) 이 도입되었으나, 기존 방법론들은 '무엇을 잊어야 하는가 (Forget Target)' 에만 집중하고 '잊은 후 무엇을 출력해야 하는가' 에 대한 설계는 소홀히 했습니다.

기존 방법의 한계 (Unlearning Aftermaths):
기존의 언러닝 기법 (Gradient Ascent, Random Tuning, Rejection Tuning 등) 은 프라이버시 유출을 막는 데는 성공하지만, 잊혀진 대상에 대한 입력이 들어왔을 때 다음과 같은 바람직하지 않은 후유증을 초래합니다.

1. 퇴화 (Degeneration): 의미 없는 반복 텍스트나 빈 문자열을 생성.
2. 할루시네이션 (Hallucination): 사실과 다른 정보를 생성하거나 엉뚱한 유명인을 지목.
3. 과도한 거부 (Excessive Refusal): 모든 질문에 대해 "도움할 수 없습니다"라고 일률적으로 거절.

이러한 현상은 사용자 경험을 저하시키고 오정보 확산의 원인이 됩니다.

---

2. 방법론 (Methodology)

저자들은 PUBG (Post-Unlearning Behavior Guidance) 라는 새로운 언러닝 방법을 제안합니다. 이는 단순히 정보를 삭제하는 것을 넘어, 모델이 잊은 대상에 대해 프라이버시를 보호하면서도 시각적으로 근거 있는 (Visually Grounded) 유익한 답변을 하도록 유도합니다.

핵심 아이디어

• 관찰: LVLM 이 특정 인물을 인식하지 못할 때 (Unrecognized), 모델은 이름이나 직업 같은 개인 정보 대신 머리 스타일, 옷차림, 피부색 등 시각적으로 관찰 가능한 특징에 집중하여 답변합니다.
• 목표: 언러닝 후 모델이 잊은 대상에 대해 "인식하지 못하는 상태"와 유사한 행동 (시각적 설명 위주) 을 하도록 유도하되, 개인 정보는 절대 포함하지 않게 합니다.

PUBG 알고리즘의 구성

PUBG 는 두 가지 손실 함수 (Loss Function) 를 결합하여 최적화합니다.

1. 기울기 상승 손실 (Gradient Ascent Loss, $L_{GA}$):

   • 잊어야 할 대상 (Forget Target) 에 대한 민감한 개인 정보 생성을 억제하기 위해 해당 데이터에 대한 손실을 최대화합니다.
   • 수식: $L_{GA}(\theta) = \mathbb{E}[\log p_\theta(rei,k | I_{ei}, q)]$

2. 행동 유도 손실 (Behavior Guidance Loss, $L_{BG}$):

   • 모델이 잊은 대상에 대해 생성해야 할 원하는 출력 분포 (Reference Distribution) 로 모델의 출력을 유도합니다.
   • 참조 분포 생성: 원본 LVLM 에게 "이 인물의 개인 정보를 잊고, 오직 이미지에서 관찰 가능한 시각적 특징만 설명하라"는 인-컨텍스트 프롬프트 (In-context Prompt) 를 입력하여 원하는 답변 ($o^*$) 을 생성합니다.
   • 이 생성된 답변과 모델의 실제 출력 간의 KL 발산 (KL Divergence) 을 최소화하여 모델이 해당 행동 패턴을 학습하도록 합니다.
   • 수식: $L_{BG}(\theta) = \mathbb{E}[D_{KL}(p_{\theta^*} \parallel p_\theta)]$

3. 최종 목적 함수:

   • $L_{PUBG} = L_{GA} + L_{BG}$
   • 프라이버시 정보 제거 ($L_{GA}$) 와 유익한 시각적 설명 생성 ($L_{BG}$) 을 동시에 달성합니다.

---

3. 주요 기여 (Key Contributions)

1. 새로운 언러닝 태스크 정의: 단순히 정보를 억제하는 것을 넘어, 잊은 대상에 대해 프라이버시를 보호하면서도 시각적으로 근거 있고 유익한 대안 답변을 생성하는 새로운 태스크를 정의했습니다.
2. PUBG 방법론 제안: 인-컨텍스트 프롬래밍을 통해 원하는 행동 분포를 생성하고, 이를 참조하여 모델의 언러닝 후 행동을 명시적으로 유도하는 새로운 알고리즘을 제시했습니다.
3. '언러닝 후유증 (Unlearning Aftermaths)' 해결: 기존 방법들이 겪던 퇴화, 할루시네이션, 과도한 거부 문제를 효과적으로 완화하여, 프라이버시 보호와 사용자 경험 (UX) 유지 사이의 균형을 달성했습니다.

---

4. 실험 결과 (Results)

실험 설정:

• 데이터셋: Celeb-1000 (실제 유명인 이미지).
• 모델: LLaVA-1.6-Mistral (7B), LLaVA-1.6-Vicuna (7B).
• 비교 대상: GA, NPO, RANDOM, REJECT 등 기존 언러닝 기법.

주요 성과:

1. 프라이버시 보호 (Privacy Violation):
   • PUBG 는 기존 방법들과 마찬가지로 Unlearning Success Rate (USR) 1.0을 달성하여, 잊은 대상의 개인 정보를 전혀 유출하지 않았습니다.
2. 유용성 및 정보성 (Informativeness):
   • 기존 방법들은 CLIPSCORE(이미지 - 텍스트 정렬) 와 Judge 점수 (정보성) 에서 매우 낮았습니다 (예: REJECT 는 1.0).
   • 반면 PUBG 는 높은 CLIPSCORE 와 Judge 점수를 기록하여, 잊은 대상에 대해 시각적 특징 (옷, 헤어스타일 등) 을 잘 설명하는 유익한 답변을 생성했습니다.
3. 할루시네이션 감소 (Hallucination):
   • RANDOM 기법은 심각한 할루시네이션 (점수 5.0) 을 보였으나, PUBG 는 할루시네이션 점수를 1.0~1.4 수준으로 낮춰 사실에 기반한 답변을 제공했습니다.
4. 일반화 능력:
   • 학습에 사용된 이미지 (Seen) 와 보지 못한 이미지 (Unseen) 모두에서 동일한 우수한 성능을 유지하여 강력한 일반화 능력을 입증했습니다.

---

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 생성형 AI 모델의 프라이버시 보호를 논할 때, "무엇을 지우는가" 뿐만 아니라 "무엇을 남기고 어떻게 반응해야 하는가" 를 함께 고려해야 함을 강조합니다.

• 실용적 가치: 단순히 "거부"하거나 "망가진" 답변을 하는 것이 아니라, 사용자가 여전히 유용한 정보 (시각적 묘사) 를 얻을 수 있도록 하여 실제 서비스 환경에서의 적용 가능성을 높였습니다.
• 미래 방향: 현재는 시각 - 언어 모델의 인물 정보 삭제에 국한되었으나, 이 프레임워크는 텍스트 모델이나 다른 도메인의 지식 삭제에도 확장 가능할 것으로 기대됩니다.

결론적으로, PUBG 는 프라이버시 보호와 모델의 유용성 (Utility) 사이의 긴장 관계를 해결하고, 윤리적이면서도 실용적인 AI 시스템 구축을 위한 중요한 발걸음을 제시했습니다.