Forgetting Has Neighbors: Localized Collateral Forgetting in Machine Unlearning

기술 요약: 망각에는 이웃이 있다: 머신 언러닝에서의 국소적 부수적 망각(Localized Collateral Forgetting)

문제 정의
머신 언러닝(Machine unlearning)은 훈련된 모델로부터 특정 훈련 예시(이하 "망각 집합(forget set)")의 영향을 제거하는 것을 목표로 하지만, 전체 재학습(full retraining)에 드는 계산 비용을 피하고자 한다. 표준적인 평가 방식은 집합적 지표(예: 유지 정확도, 망각 정확도, 프라이버시 감사 점수 등)에 의존하지만, 저자들은 이러한 요약 지표가 국소적 실패를 은폐할 수 있다고 주장한다. 즉, 언러닝된 모델이 재학습된 참조 모델과 평균적으로는 유사해 보일지라도, 특정 유지(retained) 예시나 테스트 예시에 대해서는 급격한 편차를 보일 수 있다는 것이다.

본 논문은 **국소적 부수적 망각(localized collateral forgetting)**이라 명명된 실패 모드를 식별한다. 이는 표현 공간(representation space)에서 망각 집합과 기하학적으로 가까운 비삭제(non-deleted) 예시들의 예측 성능이 의도치 않게 저하되는 현상을 의미한다. 이는 예시들이 공유된 표현을 통해 서로 결합되어 있기 때문에 발생한다. 즉, 망각 집의 신호를 억제하기 위해 설계된 개입(예: 경사 상승법(gradient ascent) 또는 무작위 레이블링(random labeling))이 인접한 유지 지점들로 변동(perturbation)을 전파시키기 때문이다.

방법론
저자들은 이론적 분석, 경험적 관찰, 그리고 제안된 완화 전략을 통해 이 문제에 접근한다.

1. 이론적 분석:

   • 경사 상승법 (Gradient Ascent, GA): 선형 회귀에서 저자들은 언러닝된 모델의 과잉 손실(excess loss)이 유지된 쿼리 지점 $x_q$와 삭제된 지점 $x_f$ 사이의 제곱 정렬도($\langle x_q, x_f \rangle^2$)에 비례하여 스케일링됨을 증명한다.
   • 무작위 레이블링 (Random Labeling, RL): 로지스틱 회귀에서 RL과 재학습 간의 불일치는 쿼리 지점이 망각 집합의 스팬(span)에 투영되는 정도에 의해 결정됨을 보여준다. 망각 집합에 부여된 무작위 레이블은 재학습에 의해 유도된 국소적 예측 구조와 충돌하는 "타겟 불일치(target mismatch)"를 생성하며, 이 불일치는 인접한 지점으로 전파된다.
   • 유지 집합 미세 조정 (Retain Fine-Tuning): 분석 결과, 유지 집합에 대한 미세 조정이 유지된 훈련 지점들에 대한 일치성을 회복할 수는 있지만, 망각 스팬 내에 존재하는 성분들에 대한 모델의 동작까지 반드시 교정하는 것은 아님을 보여준다. 따라서 타겟 불일치는 여전히 근본적인 원인으로 남는다.

2. 제안 방법: 국소 교사 증류 (Local Teacher Distillation, LTD)
   타겟 불일치가 국소적 오류를 유발한다는 발견에 착안하여, 저자들은 **국소 교사 증류(LTD)**를 제안한다. 망각 집합에 무작위 또는 오염된 레이블을 할당하는 대신, LTD는 소수의 보조 교사 모델로부터 도출된 "소프트 레이블(soft labels)"로 이를 대체한다.

   • 서포트 선택 (Support Selection): 교사는 표현 공간(마지막 층 임베딩의 코사인 유사도로 측정)에서 망각 집합의 가장 가까운 이웃인 유지 예시의 부분 집합($S_k$)에 대해서만 훈련된다. 이를 통해 교사는 망각 집합 근처에서 재학습 모델의 국소적 예측 구조를 근사하도록 보장한다.
   • 훈련 목적 함수 (Training Objective): 언러닝 과정은 유지 집합에 대한 성능을 보존(하드 레이블 사용)하는 동시에, 망각 집합에 대한 모델의 예측과 교사의 소프트 예측 사이의 크로스 엔트로피를 최소화하도록 최적화된다.
   • 효율성: 교사 모델은 선택된 서포트 집합에 대해서만 훈련되는 더 작은 구조를 가지므로, 전체 재학습 비용을 피할 수 있다.

주요 기여

1. 현상 식별: 본 논문은 부수적 망각이 균일하게 발생하는 것이 아니라, 표현 공간에서 망가진 예시와 가까운 비-망각 예시에 집중되어 있음을 입증한다.
2. 이론적 특성화: 저자들은 GA 및 RL 방법에서 재학습과의 편차가 유지 지점의 정렬 또는 투영에 의해 결정된다는 이론적 증명을 제공한다. 또한 타겟 불일치(일관되지 않은 대리 타겟과 재학습 구조 간의 충돌)를 근본적인 메커니즘으로 식별한다.
3. 완화 전략: 타겟 불ach의 국소적 일관성을 높이기 위해 국소 교사를 사용하는 단순한 방법인 국소 교사 증류를 도입한다.
4. 경험적 검증: CIFAR-100(부분 클래스 삭제) 실험을 통해, LTD가 비교 대상인 베이스라인들(GA, RL, FT, SalUn, IU, AMUN)보다 재학습과의 차이를 실질적으로 줄이면서도 경쟁력 있는 종합 언러닝 지표를 유지함을 보여준다.

결과

• 종합 지표: 50% 클래스 삭제가 적용된 CIFAR-100에서, LTD는 비교된 베이스라인들 중 가장 낮은 "평균 격차(Avg. Gap, 정확도 및 프라이버시 지표 전반에 걸친 평균 절대 편차)"를 달est한다.
• 국소적 성능: 종합 지표는 오해의 소지가 있을 수 있으나, LTD는 영향을 받은 클래스 하위 집합(삭제된 클래스에 속하는 유지 및 테스트 지점)에서 베이스라인들을 크게 압도한다. 예를 들어, 다른 방법들은 재학습 대비 이 특정 지점들에서 큰 정확도 하락을 보였으나, LTD는 안정성을 유지했다.
• 유사도 분석: 경쟁 방법들은 망각 집합과의 유사도가 높아짐에 따라 급격한 정확도 하락을 보이는 반면, LTD는 모든 유사도 구간에서 낮은 편차를 유지함을 보여준다.
• 절제 연구 (Ablation Studies): 실험 결과, 교사를 위해 **최근접 이웃 서포트(nearest-neighbor support)**를 사용하는 것이 매우 중요하다는 점을 확인했다. 무작위 또는 먼 거리의 서포트를 사용하는 경우 관련 예측 구조를 포착하지 못해 재학습과의 정렬이 제대로 이루어지지 않는다.

의의 및 주장
본 논문은 표준적인 언러닝 평가가 망각 집합 근처의 구조적 실패를 숨길 수 있기 때문에 불충분하다고 주장한다. 본 연구의 의의는 다음과 같다:

• 타겟 불일치가 국소적 부수적 망각의 근본 원인이며, 이는 유지 집합 복구만으로는 해결되지 않는다는 점을 밝혀냈다.
• (교사를 통한) 국소적 일관성을 개선하는 것이 유지 집합 복구에만 의존하는 것보다 더 효과적인 완화 전략임을 입증했다.
• 프라이버시나 효용성을 희생하지 않으면서도, 특히 삭제된 데이터의 임계 이웃 영역에서 언러닝된 모델을 재학습 참조 모델에 실질적으로 가깝게 만드는 실용적이고 저비용인 방법(LTD)을 제공한다.

저자들은 자신의 방법론이 국소적 서포트 및 표현의 품질에 의존한다는 점을 언급하며 일반화 가능성에 대해 신중한 태도를 유지한다. 이들은 매우 이질적인 망각 집합의 경우 클러스터링이나 다수의 국소 교사가 필요할 수 있음을 인정하며, 더 넓은 아키텍처와 데이터셋으로의 확장은 향후 과제로 남겨두었다.