기술 요약: 유사성 인지형 머신 언러닝 (Similarity-Aware Machine Unlearning)

1. 문제 정의

머신 언러닝(Machine unlearning)은 모델을 처음부터 다시 학습시키지 않고도 특정 훈련 예시(이하 "망각 집합", $D_f$)의 영향을 제거하는 것을 목표로 하며, 이를 통해 계산 효율성을 유지하면서 데이터 삭제 권리(예: GDPR)를 충족하고자 한다. 국소화 기반(localization-based) 방법들은 영향력이 있는 일부 파라미터만을 수정함으로써 효율성을 높이지만, 기존 방식들은 **특징 얽힘(feature entanglement)**이라는 결정적인 한계에 직면해 있다.

현재의 방법들은 망각 집합에 대한 중요도만을 기준으로 파라미터를 선택한다. 그러나 망각된 예시에 영향을 미치는 파라미터는 종종 "유지 집합"(retain set, $D_r$) 내의 의미론적으로 유사한 예시들도 지원하는 경우가 많다. 이러한 공유된 파라미터를 수정하면 **부수적 피해(collateral damage)**가 발생하여, 학습된 표현 공간에서 망각 데이터와 가까운 위치에 있는 유지 예시들에 대한 모델 성능이 저하된다. 또한, 표준적인 종합 지표(예: 전체 유지 집합 정확도)는 이러한 피해가 의미론적으로 유사한 특정 하위 집합에 집중되어 있기 때문에 이를 감지하지 못하는 경우가 많다.

2. 방법론

저자들은 Deletion by Example Localization (DEL) 방식을 확장한 유사성 인지형 국소화(Similarity-Aware Localized Unlearning) 프레임워크를 제안한다. 핵심 혁신은 망각 집합과 유지 집합 모두에 대한 파라미터 중요도를 고려하는 유지 인지형 국소화(retain-aware localization) 전략이다.

2.1. 핵심 개념

• 의미론적 유사성(Semantic Similarity): 모델의 임베딩 공간 내 코사인 유사도로 정의된다. 저자들은 의미론적으로 유사한 샘플들이(심지어 망각/유지 경계를 가로질러서라도) 특징 공간의 인접한 영역을 점유하며 중첩된 뉴런 하위 집합을 활성화한다는 점을 관찰했다.
• 유지-유사 평가 집합($D_{r,sim}$): 부수적 피해를 직접 측정하기 위해 저자들은 특정 평가 집합을 구축한다. 각 $D_f$의 예시에 대해, 원래 모델의 임베딩 공간에서의 코사인 유사도를 기반으로 $D_r$ 내에서 가장 가까운 동일 클래스 이웃을 식별한다. 이 집합은 특징 얽힘에 가장 취약한 유지 예시들을 분리해낸다.

2.2. 국소화 전략

이 방법은 망각 집합($s_f$)과 유지 집합($s_r$)에 대해 파라미터(뉴런)의 **임계 점수(criticality scores)**를 별도로 계산한다. 목표는 $D_f$에는 매우 결정적이지만 $D_r$에는 최소한으로 결정적인 파라미터를 선택하는 것이다. 세 가지 구체적인 스코어링 전략이 제안된다:

1. 차이법 (Difference Method): $\tilde{s}_j = \max(s_f^j - s_r^j, 0)$. 이는 망각 집합의 중요도가 유지 집합의 중요도를 초과하는 파라미터를 우선시한다.
2. 가중 차이법 (Weighted Difference Method): $\tilde{s}_j = \max(w \cdot s_f^j - s_r^j, 0)$. 이는 망각 집합의 특이성과 유지 집합의 보호 사이의 균형을 조절하기 위해 스칼라 가중치 $w$를 도입한다.
3. 비율법 (Ratio Method): $\tilde{s}_j = \frac{s_f^j}{s_r^j + \epsilon}$. 이는 유지 중요도 대비 높은 망각 중요도를 가진 파라미터를 선호한다.

2.3. 언러닝 과정

1. 마스킹 (Masking): 선택된 임계 점수를 기준으로 모든 레이어에 걸쳐 뉴런을 전역적으로 순위 매겨 이진 국소화 마스크를 생성한다. 예산(예: 전체 파라미터의 30%)이 충족될 때까지 뉴런을 탐욕적으로 선택한다.
2. 재초기화 (Reinitialization): 선택된 가중치는 값을 리셋하기 위해 Kaiming normal 초기화 방식을 사용하여 재초기화된다.
3. 미세 조정 (Fine-tuning): 모델을 유지 집합($D_r$)에 대해 정해진 에포크 동안 미세 조정한다. 선택되지 않은 가중치에 대한 그래디언트는 마스킹되어, 재초기화된 하위 집합으로 업데이트를 제한한다.

3. 실험 설정

• 데이터셋: CIFAR-10 (60,000장의 이미지, 10개 클래스). 훈련 세트는 망각 집합($D_f$, 5,000장)과 유지 집합($D_r$, 35,000장)으로 분할된다.
• 모델: 수정된 ResNet-18 (32x32 이미지에 적합하도록 조정됨).
• 베이스라인: "망각 전용(forget-only)" 국소화 베이스라인(DEL) 및 오라클(Oracle) 모델( $D_r$에 대해 처음부터 다시 학습된 모델)과 비교한다.
• 지표:
  • 표준: 테스트 정확도, 유지 정확도, 망각 정확도, 멤버십 추론 공격(MIA) 점수, KL 발산(KL divergence).
  • 제안된 지표: 유지-유사 정확도($\Delta_{rs}$). 이는 $D_{r,sim}$에 대한 성능을 직접 측정한다.
  • 평가: 지표는 델타($\Delta = \text{Oracle} - \text{Unlearned}$)로 보고되며, 값이 0에 가까울수록 오라클과 더 잘 일치함을 의미한다.

4. 주요 결과

실험은 11가지 설정(국소화 방법 및 하이퍼파라미터 변동)에 대해 수행되었다.

• 부수적 피해 감소: **서브샘플링된 차이법(subsampled Difference method)**이 최상의 균형을 달 achievement 했다. 이 방법은 유지-유사 정확도 델타($\Delta_{rs}$)를 망각 전용 베이스라인의 +0.49에서 +0.04로 낮추었다. 이는 의미론적으로 유사한 유지 예시에 대한 부수적 피해가 크게 감소했음을 나타낸다.
• 언러닝 효능: 동일한 방법은 망각 정확도 델타($\Delta_{forget}$) +0.56을 달성하여, 베이스라인(+2.70)에서 보이는 과잉 망각 없이 효과적인 망각(오라클의 동작에 근접)을 보여주었다.
• 오라클 일치도: 서브샘플링된 차이법은 낮은 MIA 점수 델타(+4.98 vs. 베이스라인 +5.48)와 낮은 KL 발산(0.395)을 통해 오라클 모델과 강력한 일치성을 보였다.
• 방법론 비교:
  • **비율법(Ratio method)**은 유틸리티(낮은 $\Delta_{retain}$)는 보존했지만, 효과적인 망각에는 실패했다(큰 음수의 $\Delta_{forget}$). 이는 필요한 파라미터 수정을 과소 우선순위화했음을 시사한다.
  • **가중 차이법(Weighted Difference method)**은 가중치 $w$를 높일수록 개입이 더 공격적이 되어, 유틸리티 손실과 잔류 멤버십 신호가 증가함을 보여주었다.
• 계산 오버헤드: 제안된 방법은 임계도 계산 및 미세 조정 시간이 베이스라인과 거의 동일했기 때문에(02:59 vs. 02:57) 무시할 수 있는 수준의 계산 오버헤드만을 발생시켰다.

5. 의의 및 주장

본 논문은 특징 얽힘이 기존의 국소화 기반 언러닝 방법에서 발생하는 부수적 피해의 주요 원인이며, 종합 지표로는 이를 감지하기 어렵다고 주장한다.

본 연구의 의의는 다음과 같다:

1. 한계점 식별: 망각 집합과 유지 집합 간의 공유된 학습 표현을 부수적 피해와 명시적으로 연결하였다.
2. 유지 인지형 국소화: 파라미터 선택에 유지 집합의 중요도를 포함하는 것이 "유사성 인지형" 언러닝을 가능하게 하여, 공유된 표현은 보존하면서 망각 특이적 지식만을 효과적으로 제거할 수 있음을 입증하였다.
3. 평가 프로토콜: 부수적 피해를 직접 측정하기 위한 도구로서 유지-유사 평가 집합을 도입하였으며, 표준적인 종합 지표가 이 특정 실패 모드를 측정하기에는 불충분하다고 주장하였다.

저자들은 제안된 접근 방식이 표준적인 언러닝 지표를 개선하는 동시에 부수적 피해를 일관되게 감소시키며, 무시할 수 있는 계산 비용으로 실용적인 솔루션을 제공한다고 결론지었다. 향후 연구에서는 더 큰 데이터셋과 아키텍처에서 이 방법을 평가할 것을 제안한다.