기술 요약: 표현 망각 (Representation Unlearning): 정보 압축을 통한 망각

문제 정의

현대 기계 학습 시스템은 특정 훈련 데이터 (망각 집합, $D_f$) 의 영향을 요청 시 제거해야 한다는 규제 및 윤리적 압력을 점점 더 많이 받고 있으며, 이는 GDPR 및 CCPA 와 같은 프레임워크에 명시되어 있습니다. 원시 데이터를 단순히 삭제하는 것만으로는 충분하지 않은데, 심층 신경망이 종종 훈련 예제를 암기하여 매개변수 내에 통계적 흔적을 유지하기 때문입니다.

기존 기계 학습 망각 접근법은 일반적으로 매개변수 중심 관점을 채택하여, "유지 집합"($D_r$) 만으로 재훈련된 모델을 근사하도록 모델 가중치 ($\theta$) 를 수정하려 합니다. 그러나 이러한 방법들은 다음과 같은 중대한 한계에 직면해 있습니다:

1. 확장성: 대규모 아키텍처와 복잡한 데이터셋에서 모델 유용성을 유지하는 데 어려움을 겪습니다.
2. 계산 비용: 많은 방법들이 비싼 2 차 정보나 여러 번의 역전파를 필요로 하여, 단순 재훈련 대비 효율성 격차를 좁힙니다.
3. 불안정성: 전체 매개변수 공간을 수정하면 GPU 사용량이 과다해지고 업데이트가 불안정해질 수 있습니다.
4. 데이터 접근 제약: 많은 방법들이 암묵적으로 $D_r$과 $D_f$ 모두에 대한 접근을 가정하지만, 실제 시나리오에서는 개인정보 보호나 저장 공간 제한으로 인해 $D_r$에 대한 접근이 제한되는 경우가 많습니다 (즉, "제로샷" 설정).

방법론: 표현 망각 (Representation Unlearning)

저자들은 표현 망각 (Representation Unlearning) 을 제안합니다. 이는 망각 작업을 고차원 매개변수 공간에서 저차원 표현 공간($Z$) 으로 전환하는 프레임워크입니다. 네트워크 가중치를 다시 최적화하는 대신, 이 방법은 원래 표현 $Z$를 새로운 표현 $Z'$으로 매핑하는 경량 변환 $f_\phi$를 학습합니다.

핵심 목표: 정보 병목 (Information Bottleneck)

변환 $f_\phi$는 두 가지 상충되는 목표를 가진 정보 병목을 강제하도록 훈련됩니다:

1. 유지: 변환된 표현 $Z'$과 유지 데이터 $X_r$ 사이의 상호 정보량을 최대화합니다 (즉, $I(Z'; Z | X_r) \approx 0$, 이는 $D_r$과 관련된 정보가 폐기되지 않음을 의미함).
2. 망각: $Z'$과 망각 데이터 $X_f$ 사이의 상호 정보량을 억제합니다 (즉, $I(Z'; X_f) \approx 0$, 이는 $Z'$이 $D_f$와 통계적으로 독립임을 의미함).

변분 대리 모델 (Variational Surrogates)

상호 정보는 직접 계산하기 어렵기 때문에, 저자들은 최적화 가능한 손실 함수를 만들기 위해 변분 상한을 유도합니다. 그들은 두 가지 다른 데이터 접근 체제를 다룹니다:

1. 표준 설정 ($D_r$ 및 $D_f$ 접근 가능)

• 유지 손실 ($L_r$): 유지 샘플에 대해 변환된 분포와 원래 인코더 분포 간의 KL 발산을 최소화합니다. 가우스 가정 하에서 이는 원래 표현과 변환된 표현 간의 평균 제곱 오차 (MSE) 로 단순화됩니다: $\|z_r - f_\phi(z_r)\|_2^2$.
• 망각 손실 ($L_f$): 변환된 망각 분포와 전체 데이터셋의 주변 분포 간의 KL 발산을 최소화합니다. 이는 망각 표현이 집계 통계와 일치하도록 강제하여, 일반 인구와 구별할 수 없게 만듭니다.

2. 제로샷 설정 ($D_f$만 접근 가능)

$D_r$을 사용할 수 없는 시나리오에서, 이 프레임워크는 신경 붕괴 (Neural Collapse) 와 메타데이터 (클래스 수) 에 의존하여 프록시를 구축합니다:

• 유지 프록시: $D_r$을 샘플링하는 대신, 이 방법은 클래스 중심 (분류기 가중치 $w_c$에서 유도됨) 을 클래스 평균의 프록시로 사용합니다. 유지 손실은 변환된 클래스 프로토타입이 원래 위치에서 벗어나는 것을 패널티로 부과합니다.
• 망각 프록시: 망각 손실은 변환된 망각 샘플과 모든 클래스 프로토타입 간의 가중 거리를 최소화하여, 특정 인스턴스 정보를 전역 레이블 공간 분포에 "익사"시킵니다.

아키텍처

변환 $f_\phi$는 경량 선형 매핑 또는 얕은 다층 퍼셉트론 (MLP) 으로 제한되며, 이는 심층 계층에서 의미 정보가 선형적으로 분리 가능하다는 "선형 표현 가설 (Linear Representation Hypothesis)"을 활용합니다.

주요 기여

1. 패러다임 전환: 매개변수 수준 업데이트의 불안정성과 계산 병목 현상을 피하는 표현 중심 망각 프레임워크를 도입합니다.
2. 제로샷 기능: 유지 데이터에 대한 접근 없이 망각을 수행하는 새로운 접근 방식을 시연하며, 신경 붕괴 가설을 활용하여 의미 매니폴드를 고정합니다.
3. 이론적 공식화: 정보 이론적 목표에 대한 실용적인 변분 대리 모델을 유도하여, 정규화 매개변수 $\beta$를 통해 유지와 망각 사이의 균형을 맞춥니다.
4. 효율성: 전체 모델 재훈련이나 복잡한 기울기 조작 대신 경량 변환 계층을 통해 망각을 달성합니다.

실험 결과

이 프레임워크는 SISA, SCRUB, Bad Teacher 및 다양한 제로샷 방법 (Boundary Shrinking, EMMN, GKT) 을 포함한 베이스라인에 대해 CIFAR-10, CIFAR-100, Tiny ImageNet 에서 평가되었습니다.

• 유용성과 망각: 표현 망각은 $D_f$에서 낮은 정확도 (거의 완벽한 망각) 를 달성하면서도 $D_r$에서 높은 유용성을 유지합니다. 제로샷 설정에서 이 방법은 종종 파국적 망각을 겪거나 전혀 망각하지 못하는 베이스라인보다 훨씬 뛰어난 성능을 보입니다.
• 계산 효율성: 이 방법은 전체 재훈련에 비해 막대한 속도 향상을 제공합니다. Tiny ImageNet 에서 제로샷 변형은 재훈련 대비 757 배의 속도 향상을 달성했습니다. 실행 시간 측면에서 경쟁 베이스라인보다 일관되게 우수한 성능을 보입니다.
• 자원 효율성: 이 접근법은 피크 GPU 메모리를 훨씬 적게 요구합니다 (예: Tiny ImageNet 에서 약 1.9GB 대 재훈련 시 약 8.3GB). 이는 리소스가 제한된 환경에 적합하게 만듭니다.
• 견고성: 이 방법은 다양한 데이터셋 복잡성과 망각 시나리오 (클래스 대 무작위 망각) 에서 안정적으로 유지됩니다.

중요성과 한계

이 논문은 표현 망각을 대규모 망각 배포를 위한 실용적이고 확장 가능한 솔루션으로 위치시킵니다. 망각 효과를 고하드웨어 요구 사항과 매개변수 불안정성에서 분리함으로써, 우수한 안정성 - 가소성 균형을 제공합니다.

겸손한 주장과 한계:

• 블랙박스 위협 모델: 이 방법은 다운스트림 변환으로 작동합니다. 원시 인코더 매개변수는 변경되지 않으므로, 원래 표현 $Z$는 여전히 망각 집합을 인코딩합니다. 시스템은 원시 인코더에 접근할 수 있는 경우 화이트박스 복구 공격에 취약합니다; 이는 내부 가중치가 아닌 출력 $Z'$을 보호합니다.
• 추론 오버헤드: 변환 계층 $f_\phi$의 도입은 영구적이지만 마이크로초 단위의 추론 시간 오버헤드를 추가합니다.
• 신경 붕괴 의존성: 제로샷 변형은 신경 붕괴 가설에 의존합니다. 사전 훈련된 모델이 강력한 붕괴를 보이지 않는 경우 (즉, 분류기 가중치가 클래스 중심의 좋은 프록시가 아닌 경우), 제로샷 망각의 품질이 저하되지만, 이 방법은 망각에 실패하는 대신 유지 유용성을 "우아하게" 절충합니다.

저자들은 향후 연구에서 이러한 손실 함수를 전체 인코더 미세 조정 (화이트박스 취약성 해결) 에 적용하거나, 복잡한 행동 망각을 위해 이 프레임워크를 대규모 언어 모델 (LLM) 로 확장할 것을 제안합니다.