기술 요약: 모드 연결성(Mode Connectivity)의 관점에서 본 머신 언러닝(Machine Unlearning) 이해

문제 정의

머신 언러닝은 훈련된 모델에서 특정 지식(망각 집합 $D_f$)을 제거하는 것을 목표로 하되, 전체 재학습 없이 나머지 데이터(유지 집합 $D_r$)에 대한 성능을 보존하고자 한다. 최근의 진전에도 불구하고, 언러닝의 손실 지형(loss landscape)과 최적화 기하학(optimization geometry)은 여전히 제대로 이해되지 않고 있다. 기존 연구들은 주로 표준 훈련 역학이나 특정 알고리즘 개선에 집중해 왔으며, 이는 언러닝된 모델의 구조적 특성, 재학습과의 기계적 유사성, 그리고 재학습 공격(relearning attacks)과 같은 적대적 공격에 대한 강건성을 이해하는 데 있어 공백을 남겼다.

방법론: 언러닝에서의 모드 연결성 (MCU)

저자들은 모드 연결성의 개념을 언러닝 영역에 적용한 프레임워크인 **모드 연결성 기반 언러닝(Mode Connectivity in Unlearning, MCU)**을 도입한다. 표준 모드 연결성에서 독립적으로 훈련된 모델들은 파라미터 공간 내에서 매끄럽고 낮은 손실을 가진 경로로 연결된다. MCU는 두 개의 언러닝된 모델($\theta'_1$ 및 $\theta'_2$)을 연결하는 경로 $\phi(t)$가 다음의 두 가지 목적을 동시에 만족해야 한다고 정의함으로써 이를 확장한다:

1. 유지 성능(Retain Performance): 경로는 유지 집합 $D_r$에 대해 낮은 태스크 손실을 유지해야 한다.
2. 망각 성능(Forget Performance): 경로는 망각 집합 $D_f$에 대해 높은 태스크 손실을 유지해야 한다.

형식적으로, 모든 $t \in [0, 1]$에 대해 경로는 다음을 만족해야 한다:
$$L(D_r; \phi(t)) \leq (1-t)L(D_r; \theta'_1) + tL(D_r; \theta'_2)$$
$$L(D_f; \phi(t)) \geq (1-t)L(D_f; \theta'_1) + tL(D_f; \theta'_2)$$

본 연구는 다양한 설정에서 MCU를 평가한다:

• 데이터셋: LLM 벤치마크(TOFU, MUSE, WMDP) 및 MU-Bench의 분류 벤치마크(CIFAR-10, DDI2013, NLVR2).
• 언러닝 방법: Gradient Ascent (GA), GradDiff (GD), Negative Preference Optimization (NPO), SimNPO, RMU, Random Labeling (RL), Bad Teaching (BT), Saliency Unlearning (SU).
• 훈련 역학: 커리큘럼 학습(CL), 2차(SO) vs 1차 최적화, 그리고 서로 다른 랜덤 시드(random seeds)의 변화.
• 곡선 유형: 선형 보간(linear interpolation) 및 이차 곡선(quadratic curves, 중간 지점이 누적 손실을 최소화하도록 명시적으로 훈련된 경우).

주요 결과

1. 매끄러운 손실 지형과 베이슨 수렴 (Smooth Loss Landscapes and Basin Convergence)

연구 결과, 많은 언러닝 시나리오에서 MCU가 널리 나타남을 발견했다. 서로 다른 랜덤 시드나 특정 알고리즘에 의해 생성된 언러닝 모델들은 종종 동일하게 연결된 저손실 베이슨(low-loss basin) 내에 존재한다.

• 스케일링 효과: 모델 크기가 커지거나 망각 집합이 커질수록 MCU 곡선은 더 매끄러워진다(장벽이 낮아짐). 그러나 이러한 매끄러움의 증가는 언러닝 품질의 저하와 상관관계가 있으며, 이는 더 큰 모델에서 언러닝을 스케일링하는 것이 기하학적으로 더 어렵다는 것을 시사한다.
• 훈련 패러다임: 훈련 역학, 특히 커리큘럼 학습(CL)과 2차(SO) 최적화 사이의 변화는 언러닝 방법들이 서로 다른, 단절된 베이슨으로 수렴하게 만들 수 있다. 양 끝단이 혼합된 패러다임(예: 하나는 CL, 하나는 비-CL)으로 훈련될 경우 상당한 장벽이 나타나며, 이는 솔루션 구조의 발산을 의미한다.

2. 베이슨 내의 기능적 이질성 (Functional Heterogeneity within Basins)

동일한 저손실 베이슨 내에 존재하는 모델이라도, 특히 프라이버시 지표와 관련하여 극적으로 다른 기능적 동작을 보일 수 있다.

• 프라이버시 변동성: MUSE 데이터셋을 사용한 RMU의 경우, 매끄러운 MCU 곡선을 따르는 모델들은 망각/유지 지식 지표에 대해서는 안정적인 성능을 보였으나, 프라이버시 유출량($|PrivLeak|$)에서는 +100에서 -100까지 거대한 변동을 보였다.
• 시사점: 이는 파라미터 공간에서의 근접성이 동일한 프라이버시 특성을 보장하지 않음을 드러내며, 엔드포인트 메트릭에만 의존하는 현재의 평가 프로토콜의 한계를 강조한다.

3. 비선형 언러닝 역학 (Non-Linear Unlearning Dynamics)

원래 모델에서 언러닝된 모델로 가는 경로를 조사하면, 언러닝이 선형적인 과정이 아님을 알 수 있다.

• 먼저 억제하고, 나중에 망각한다 (Suppress First, Unlearn Later): 표면적인 암기(예: 구절 그대로의 텍스트)의 제거는 심층적인 지식의 제거보다 파라미터 경로 상에서 더 일찍 발생한다. 모델은 특정 텍스트의 재현은 멈추면서도 기저의 지식은 유지하다가, 특정 임계값을 넘어서야 비로소 심층적인 망각이 일어난다.

4. 재학습과의 기계적 차별성 (Mechanistic Distinctness from Retraining)

MCU 분석은 근사적 언러닝 방법들이 처음부터 다시 훈련하는 것(retraining from scratch)과 기계적으로 구별됨을 시사한다.

• 연결성 결여: 대부분의 언러닝 방법(NPO 제외)은 최종 유틸리티가 비슷하더라도, 처음부터 다시 훈련된 모델과 매끄러운 선형 연결을 형성하지 못한다. 이는 언러닝이 공유된 하위 공간을 따라 재학습 솔루션을 근사하는 것이 아니라, 서로 다른 최적화 궤적을 통해 유효한 엔드포인트에 도달함을 의미한다.
• 방법론 간 유사성: GA는 모든 다른 방법들과 망각 샘플에 대해 매끄러운 연결성을 보여, 망각 샘플을 처리하는 공유된 메커니즘을 시사하는 반면, NPO 및 SimNPO와 같은 방법들은 GradDiff와는 구별되는 독자적인 메커니즘을 공유한다.

5. MCU 기반 앙상블 및 강건성 (MCU-Based Ensembling and Robustness)

• 일반화: MCU 곡선을 따라 샘플링된 모델들을 평균 내는 것(MCU 기반 앙상블)은 망각과 유지 사이의 트레이드오프를 개선할 수 있으며, 종종 개별 엔드포인트보다 우수한 성능을 보인다.
• 강건성: MCU 앙상블을 통해 얻은 모델은 표준 언러닝 모델에 비해 재학습 공격(잊혀진 지식을 복구하기 위해 일반적인 데이터로 미세 조정하는 것)에 대해 현저히 높은 강건성을 보여준다. 이는 매끄러운 손실 지형이 더 큰 적대적 강건성과 상관관계가 있다는 가설과 일치한다.

6. MCU 매끄러움의 난이도 대리 지표 (MCU Smoothness as a Difficulty Proxy)

MCU 곡선의 매끄러움(장벽 높이로 측정)은 언러닝의 난이도를 나타내는 대리 지표 역할을 한다. "어려운" 망각 집합(예: 적대적이거나 고도로 암기된 데이터)은 쉬운 망각 집합에 비해 더 높은 장벽과 불규칙성을 가진 MCU 곡선을 생성한다.

의의 및 주장

본 논문은 모드 연결성의 관점에서 머신 언러닝을 조사한 첫 번째 연구라고 주장한다. 그 의의는 다음과 같다:

1. 진단적 유용성: 언러닝 방법의 최적화 역학, 솔루션 공간 구조, 그리고 메카니즘적 유사성을 이해하기 위한 기하학적 프레임워크를 제공한다.
2. 실질적 적용: MCU가 더 강건한 언러닝 모델을 선택하고 앙상블을 통해 일반화 성능을 향상시키는 도구로 사용될 수 있음을 입증한다.
3. 이론적 통찰: 언러닝 지형이 종종 매끄럽고 연결되어 있지만, 기능적 특성(예: 프라이버시)은 해당 베이슨 내에서도 크게 달라질 수 있으며, 언러닝이 표준 재학습과는 다른 비선형적 진행 과정을 따른다는 점을 밝혀낸다.

저자들은 MCU가 특히 더 매끄럽고 강건한 손실 지형 영역을 탐색하는 언러닝 방법을 설계하는 데 있어 미래 연구의 새로운 방향을 제시한다고 결론짓는다.