기술 요약: CoUn - 대비 학습을 통한 기계 망각 강화

1. 문제 정의

기계 망각 (Machine Unlearning, MU) 은 특정 "망각" 데이터 ($D_u$) 의 영향을 훈련된 모델에서 제거하면서도 나머지 "보존" 데이터 ($D_r$) 의 유용성을 유지함으로써, 데이터 프라이버시 및 규정 준수 (예: GDPR) 에 대한 증가하는 필요성을 해결합니다. MU 의 금표준은 $D_r$ 에서 처음부터 모델을 재훈련하여 달성하는 정확한 망각 (exact unlearning) (즉, Retrain 모델) 입니다. 그러나 이 접근 방식은 계산적으로 prohibitive 합니다.

근사적 망각 (Approximate unlearning) 방법들은 더 효율적으로 유사한 결과를 달성하려 하지만, Retrain 모델 대비 성능 격차에 종종 직면합니다. 기존 근사적 방법들은 일반적으로 두 가지 범주로 나뉩니다:

1. 레이블 조작: 망각 샘플을 의미적으로 일관성 없거나 무작위인 레이블에 할당하여 오분류를 강제합니다. 이는 종종 보존 데이터에 대한 모델 유용성을 저하시키며, 망각 데이터에 대한 접근이 필요합니다.
2. 모델 가중치 교란: 망각 데이터의 영향을 지우기 위해 모델 가중치를 수정합니다. 과도한 교란은 유용성을 해치고, 불충분한 교란은 망각 데이터의 영향을 제거하지 못합니다.

이 연구를 이끄는 중요한 관찰은, 오직 $D_r$ 로 훈련된 Retrain 모델이 망각 샘플 ($D_u$) 을 보존 클러스터와의 의미적 유사성에 기반하여 분류한다는 점입니다. 예를 들어, 클래스별 망각 시나리오 (모든 "트럭" 샘플 제거) 에서 Retrain 모델은 "트럭" 망각 샘플을 "자동차"나 "배"와 같은 의미적으로 유사한 클러스터로 오분류합니다. 무작위 망각의 경우, 일부 망각 샘플이 원래 보존 클러스터와 의미적으로 가까울 경우 올바르게 분류되기도 합니다. 현재 근사적 방법들은 이러한 미묘한 행동을 재현하지 못해, 완전한 오분류를 강요하거나 망각 데이터의 영향을 충분히 교란하지 못합니다.

2. 방법론: CoUn

저자들은 CoUn(Contrastive learning for empowering Unlearning) 을 제안합니다. 이는 오직 보존 데이터만을 사용하여 의미적 유사성에 기반하여 학습된 데이터 표현을 조정함으로써 효과적인 망각을 달성하는 프레임워크입니다. CoUn 은 망각 데이터에 대한 접근이 필요하지 않습니다.

핵심 메커니즘

CoUn 은 원래 모델의 가중치가 이미 모든 훈련 샘플 간의 의미적 유사성을 포착한다는 사실을 활용합니다. 보존 데이터 ($D_r$) 의 표현을 조정함으로써, 이 프레임워크는 간접적으로 망각 데이터 ($D_u$) 의 표현에 영향을 미칩니다.

프레임워크는 $D_r$ 에 적용되는 두 가지 동시 학습 목표를 구성합니다:

1. 대비 학습 (Contrastive Learning, CL) 모듈:

   • 표현을 조정하기 위해 보존 데이터에 적용됩니다.
   • 데이터 증강을 사용하여 양의 쌍 (동일 이미지의 두 뷰) 과 음의 쌍 (서로 다른 이미지) 을 생성합니다.
   • 클러스터 충돌 (Cluster Collision): CL 모듈은 표준 InfoNCE 손실 함수를 사용합니다. 핵심적으로, 배치 (batch) 가 $D_r$ 에서 무작위로 샘플링되므로, 양의 샘플과 동일한 클래스에 속하지만 음으로 처리되는 거짓 음성 (false negatives) 이 필연적으로 포함됩니다.
   • 이로 인해 클러스터 충돌이 발생하여, 동일한 클래스의 샘플들이 서로 밀려납니다. 결과적으로, 원래 가중치를 통해 보존 데이터와 의미적 정보를 공유하는 망각 표현들은, 그들과 가장 높은 의미적 유사성을 보이는 다른 보존 샘플들의 클러스터로 간접적으로 밀려납니다.
   • 클래스별 망각의 경우, 이는 망각 샘플을 다른 클러스터로 밀어냅니다. 무작위 망각의 경우, 이는 망각 샘플을 가장 의미적으로 유사한 보존 클러스터와 정렬시켜 Retrain 모델의 행동을 모방합니다.

2. 지도 학습 (Supervised Learning):

   • 크로스 엔트로피 (CE) 손실 함수를 사용하는 분류기 헤드를 통해 보존 데이터에 적용됩니다.
   • 유용성 보존: CL 이 클러스터 충돌 (망각 데이터에 대한 망각에 유익함) 을 유도하지만, 이는 보존 데이터에 대한 모델 유용성을 저하시킬 위험이 있습니다. 지도 학습 구성 요소는 보존 표현이 각각의 올바른 클러스터 내에 머물도록 강제함으로써 이를 상쇄하여 $D_r$ 에서 높은 정확도를 유지합니다.

최적화

총 손실 함수는 두 목표를 결합합니다:
$$L = L_{CE} + \lambda L_{CL}$$
여기서 $L_{CE}$ 는 지도 크로스 엔트로피 손실, $L_{CL}$ 은 대비 손실이며, $\lambda$ 는 두 가지를 균형 있게 조정하는 스케일링 인자입니다.

3. 주요 기여

1. 새로운 프레임워크: CL 과 지도 학습을 오직 보존 데이터에만 적용하여 의미적 유사성에 기반한 학습 표현 조정을 통해 효과적인 망각을 달성하는 MU 프레임워크인 CoUn 의 도입.
2. 실증 및 이론적 통찰:
   • CoUn 이 의미적으로 유사한 보존 표현의 클러스터로 망각 표현을 밀어냄으로써 효과적으로 망각을 달성하며, 정확한 Retrain 모델의 행동과 밀접하게 일치함을 입증.
   • CoUn 이 망각 데이터에 대한 높은 오분류율을 유도하면서도 보존 데이터에 대한 낮은 오분류율을 유지하여 망각 품질과 유용성 모두를 최적화한다는 이론적 분석 제공.
3. 성능 검증: CIFAR-10/100, TinyImageNet 등 여러 데이터셋과 ResNet-18, VGG-16, ViT 등 다양한 아키텍처에서 CoUn 을 검증. 결과는 CoUn 이 정확한 Retrain 모델과의 성능 격차를 줄이는 데 있어 기존 최첨단 베이스라인보다 일관되게 우월함을 보여줌.
4. 모듈식 통합: CoUn CL 모듈을 기존 베이스라인 방법들에 통합하면 망각 효과를 크게 강화할 수 있음을 입증.

4. 실험 결과

실험은 클래스별(전체 클래스 제거) 과 무작위(샘플의 일정 비율 제거) 라는 두 가지 망각 시나리오 하에서 수행되었습니다.

• 성능 격차: CoUn 은 모든 데이터셋과 모델에서 Retrain 모델 대비 보존 정확도, 망각 정확도, 테스트 정확도, MIA 성공률의 평균 차이인 "평균 격차 (Average Gap)"를 가장 낮게 달성했습니다.
  • ResNet-18 을 사용한 CIFAR-10(10% 무작위 망각) 에서 CoUn 은 최상위 베이스라인보다 16.7% 더 우수했습니다.
  • ResNet-18 을 사용한 CIFAR-100 에서 개선 폭은 15.8% 였습니다.
  • TinyImageNet 에서 개선 폭은 6.3% 였습니다.
• 베이스라인과의 비교: CoUn 은 NegGrad+, $\ell_1$-sparse, SalUn, NoT 등의 방법을 능가했습니다. 특히 레이블 조작에 의존하는 방법들 (예: SalUn) 은 종종 보존 데이터에 대한 유용성 감소로 고통받았습니다.
• 통합: 경쟁력 있는 베이스라인 (NegGrad+, $\ell_1$-sparse, NoT) 에 CoUn CL 모듈을 추가하면 상당한 성능 향상을 가져왔습니다 (예: 50% 망각 조건에서 CIFAR-100 의 $\ell_1$-sparse 에 대해 평균 격차가 최대 87.7% 개선됨).
• Ablation 연구:
  • 스케일링 인자 ($\lambda$): 적절한 튜닝이 필수적임; 높은 $\lambda$ 는 지도 제약을 줄여 유용성을 저하시킴.
  • 온도 ($\tau$): 낮은 온도가 일반적으로 CL 효과를 향상시키며, $\tau=0.1$ 에서 최적 성능을 보임.
  • 변환 (Transformations): CL 에서 강력한 증강은 더 긴밀한 클러스터링을 초래할 수 있는데, 이는 필요한 클러스터 중첩을 방해하여 역설적으로 망각을 방해함. 지도 학습에 사용된 것과 유사한 단순한 변환이 가장 좋은 결과를 낳음.
  • 배치 크기: 배치 크기가 Retrain 모델의 배치 크기 (256) 와 일치할 때 성능이 최적화됨.

5. 중요성과 주장

이 논문은 CoUn 이 "오분류 강제"에서 "의미적 유사성 모방"으로 패러다임을 전환함으로써 근사적 기계 망각 분야에서 중요한 진전을 이루었다고 주장합니다.

• 정확한 망각과의 정렬: 망각 데이터를 맹목적으로 오분류하려던 이전 방법들과 달리, CoUn 은 망각 데이터를 보존 데이터와의 의미적 근접성에 기반하여 분류하는 정확한 Retrain 모델의 자연스러운 행동과 정렬됩니다.
• 효율성과 유용성: CoUn 은 망각 데이터에 대한 접근 없이 높은 망각 효과를 달성하며, 지도 학습을 통해 클러스터 충돌을 완화함으로써 보존 데이터에서 높은 유용성을 유지합니다.
• 일반화 가능성: 이 프레임워크는 다양한 모델 아키텍처와 망각 시나리오에서 효과적임이 입증되었으며, 핵심 CL 모듈은 기존 망각 방법을 강화하는 플러그인으로 기능할 수 있습니다.

저자들은 CoUn 이 현재 상대적으로 작은 데이터셋에 대한 비전 기반 분류에 초점을 맞추고 있지만, 의미적 유사성과 클러스터 충돌을 활용하는 접근 방식이 기계 망각 분야의 미래 연구에 대한 견고한 방향을 제시한다고 결론지었습니다.