🤖 machine learning

Learning to Unlearn: Machine Unlearning via Learning the Unlearning Behaviors

이 논문은 복잡하고 수동으로 설계된 언러닝 함수를 단순하고 효율적인 메커니즘으로 대체하여, 특히 대규모 데이터셋과 모델에 대해 재학습 수준의 정확도를 달성하면서도 계산 비용을 현저히 낮추는, 분포 관점에서 언러닝 동작을 학습하는 새로운 모델 불가지론적 접근 방식인 Learning-to-UnLearn (L2UL)을 소개한다.

원저자: Hang Zhang, Kaifeng Zhang, Yixiao Ma, Weijie Xu, Ye Zhu, Kai Ming Ting

게시일 2026-08-18

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Hang Zhang, Kaifeng Zhang, Yixiao Ma, Weijie Xu, Ye Zhu, Kai Ming Ting

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

현대 디지털 세상에서 우리의 삶은 방대한 데이터 컬렉션 속에 점점 더 많이 기록되고 있습니다. 모든 클릭, 구매, 검색은 머신러닝 시스템이 예측과 결정을 내리는 데 사용하는 거대한 디지털 발자국을 형성합니다. 그러나 개인 정보에 대한 이러한 의존은 기술적 진보와 개인의 프라이버시 사이의 긴장을 불러일와 왔습니다. 유럽의 일반 데이터 보호 규정(GDPR)이나 미국의 캘리포니아 소비자 프라이버시법(CCPA)과 같은 법률은 사람들에게 근본적인 권리, 즉 자신의 데이터를 삭제해 달라고 요청할 수 있는 능력을 부여했습니다. 이러한 법적 요구는 '머신 언러닝(machine unlearning)'이라 불리는 기술적 과제를 탄생시켰습니다. 이의 목표는 전체 시스템을 처음부터 다시 구축하지 않고도, 훈련된 컴퓨터 모델로부터 특정 데이터 포인트의 영향을 제거하는 것입니다.

수년 동안 이 문제에 대한 표준적인 해결책은 단순히 모델을 재학습시키는 것이었습니다. 엄청난 양의 교과서를 공부한 학생에게 특정 장(chapter) 하나를 잊어달라고 요청하는 상황을 상상해 보십시오. 그 내용을 정말로 잊었는지 확인하는 가장 철저한 방법은, 해당 장만 제외하고 책 전체를 다시 공부하게 하는 것입니다. 이 방식은 정확성을 보장하지만, "교과서"가 수백만 페이지에 달하고 "학생"이 복잡한 컴퓨터 프로그램인 경우 매우 느리고 비용이 많이 듭니다. 기존의 방법들은 정교한 수학적 지름길을 설계하여 이를 가속화하려고 시도해 왔지만, 이러한 지름길들은 특히 거대한 데이터셋을 다룰 때 스스로 병목 현상이 되곤 했습니다. 이는 마치 실 하나하나를 잡아당겨 매듭을 풀려고 노력하는 것과 같습니다. 정밀하긴 하지만 시간이 너무 오래 걸립니다.

난징 대학교와 디킨 대학교의 연구팀은 다른 접근 방식을 제안했는데, 이는 복잡한 수동 프로세스를 설계하는 대신 컴퓨터에게 '잊는 법'을 가르치는 데 초점을 맞춘 것입니다. 그들은 이 방법을 '러닝 투 언런(Learning-to-UnLearn)'이라고 부릅니다. 데이터를 삭제하기 위해 경직된 규칙 세트를 설계하는 대신, 그들은 별도의 가벼운 신경망을 훈련시켜 언러닝의 동작을 학습하도록 했습니다. 이 새로운 시스템은 데이터셋, 삭제할 특정 데이터, 그리고 결과 모델 사이의 관계를 관찰한 다음, 그 결과를 직접 예측하는 법을 배웁니다. 이는 학생에게 단순히 뺄셈의 규칙을 가르치는 것이 아니라, 어떤 숫자가 빠졌을 때 숫자가 어떻게 변하는지에 대한 직관을 가르쳐서, 전체 합계를 다시 계산하지 않고도 즉각적으로 연산을 수행할 수 있게 하는 것과 같습니다.

연구진은 의료 기록부터 복잡한 이미지 컬렉션에 이르기까지 다양한 데이터셋에 대해 이 아이디어를 테스트했으며, 단순한 선형 모델과 더 복잡한 신경망을 모두 사용했습니다. 그들은 학습된 방식이 처음부터 완전히 재학습된 모델과 거의 동일하게 작동하면서도, 시간 측면에서는 획기적인 단축을 이뤄냈다는 것을 발견했습니다. 어떤 경우에는 새로운 방법이 전통적인 재학습 방식보다 수십만 배 더 빨랐습니다. 예를 들어, 수백만 개의 항목이 포함된 거대한 데이터셋에서 새로운 시스템은 삭제 요청이 들어올 때마다 단 몇 초 만에 언러닝 작업을 완료한 반면, 전통적인 방식은 몇 시간 또는 며칠이 걸렸을 것입니다. 이러한 속도는 학습된 시스템이 매번 전체 데이터셋을 다시 검토할 필요 없이, 이미 학습한 패턴을 적용하기 때문에 가능합니다.

결정적으로, 연구진은 이러한 속도가 프라이버시를 희생시키며 얻어진 것이 아님을 검증했습니다. 그들은 모델이 여전히 해당 데이터가 훈련에 포함되었음을 추론할 수 있는지 확인함으로써, 방법이 실제로 데이터의 영향을 제거했는지 테스트했습니다. 결과에 따르면, 학습된 방식은 특정 데이터 포인트에 대한 기억을 성공적으로 지워냈으며, 느린 재학습 모델만큼이나 이 부분에서 우수한 성능을 보였습니다. 또한 그들은 이 방법이 잘못된 데이터로 오염된 모델을 정화하여 정확도를 거의 완벽한 수준으로 회복시킬 수 있음을 입증했습니다. 이 접근 방식은 다양한 유형의 데이터와 모델 크기에 걸쳐 견고함을 증명했으며, 대규모 이미지 인식 모델에 대한 테스트를 포함하여 현대 인공지능에서 흔히 볼 수 있는 대규모 데이터셋을 처리할 수 있는 확장성을 보여주었습니다.

이 연구는 프 privacy 보존 머신러닝의 미래가 정보를 수동으로 삭제하기 위한 더 복잡한 수학적 도구를 구축하는 것이 아니라, 잊는 것의 본질을 이해하도록 시스템을 훈련하는 데 있을 수 있음을 시사합니다. 언러닝을 고정된 공식으로 해결해야 할 문제가 아니라 학습해야 할 기술로 취급함으로써, 연구진은 효율적이고 확장 가능하며 효과적인 데이터 제거를 향한 길을 열었습니다. 이 연구가 현재 사용되는 가장 거대하고 복잡한 모델들에 대한 모든 프라이버시 문제를 해결한다고 주장하는 것은 아니지만, 데이터가 풍부하고 신속하고 정확한 데이터 삭제가 필수적인 시나리오에서 강력한 새로운 도구를 제공합니다. 이 결과는 적절한 접근 방식이 있다면, 기계도 실제로 놓아주는 법을 배울 수 있다는 것을 보여줍니다.

기술 요약: 학습을 통한 망각 (Learning to Unlearn, L2UL)

문제 정의

본 논문은 개인정보 보호 법령(예: GDPR, CCPA)에 따라 훈련된 머신러닝 모델 $A(D)$ 에서 특정 사용자 데이터( $D_f$ )를 제거하기 위해 필요한 과정인 **머신 언러닝(Machine Unlearning)**의 과제를 다룹니다. 이때 남은 데이터( $D \setminus D_f$ )로 모델 전체를 처음부터 다시 훈련시키지 않고 데이터를 제거해야 합니다.

기존 방식들은 대개 재훈련된 모델을 근사하기 위해 복잡하고 수작업으로 설계된 언러닝 함수 $U$ 를 설계하는 데 집중합니다. 그러나 이러한 방법들은 데이터셋이 거대해질수록 설계된 $U$ 의 복잡성이 병목 현상이 되어 높은 계산 비용을 초래하는 경우가 많습니다. 또한, 현재의 많은 방법론은 헤시안 행렬(Hessian matrices)을 계산하거나 샤드(shards) 단위로 재훈련하는 방식에 의존하여 확장성에 한계를 보입니다.

핵심 문제는 새로운 언러닝 요청마다 복잡하고 수동적인 수학적 유도를 수행하지 않으면서도, 효율적(낮은 계산 비용)이고 효과적(재훈련된 모델과 통계적으로 구별할 수 없는 모델을 생성)인 언러닝 메커니즘을 찾는 것입니다.

방법론: 학습을 통한 망각 (Learning-to-UnLearn, L2UL)

**학습을 통한 최적화(Learning to Optimize, L2O)**에서 영감을 받아, 저자들은 언러닝 함수를 설계하는 것에서 언러닝 동작을 학습하는 것으로 패러다임을 전환하는 L2UL 프레임워크를 제안합니다.

1. 핵심 통찰

L2UL은 수동으로 복잡한 $U$ 를 유도하는 대신, 언러닝을 하나의 학습 문제로 취급합니다. 이는 원래 모델의 상태와 데이터 분포를 목표로 하는 언러닝 모델의 파라미터로 매핑하는 단순한 신경망 $N_U$ 를 학습합니다. 이 학습 과정의 정답(ground truth)은 $D \setminus D_f$ 로 재훈련된 모델입니다.

결정적으로, 저자들은 자신들의 접근 방식이 "학습을 통한 언러닝"을 주장하는 기존 연구들과 다르다는 점을 명시합니다. 기존 방법들이 망각을 달성하기 위해 새로운 결정 경계(decision boundary)를 학습하는 데 초점을 맞추는 반면, L2UL은 분포 관점에서 **언러닝의 동작(behavior of unlearning)**을 구체적으로 학습합니다.

2. 분포 기반 표현

언러닝 함수가 데이터 순서에 불변해야 한다는 요구 사항(Proposition 4.1)을 충족하기 위해, L2UL은 훈련 세트 $D$ 와 망각 세트 $D_f$ 를 가공되지 않은 행렬이 아닌 확률 분포 $P_D$ 및 $P_{D_f}$ 로 표현합니다.

커널 평균 임베딩 (Kernel Mean Embedding, KME): 이 분포들은 재생 커널 힐베르트 공간(RKHS) 내의 벡터로 변환됩니다.
격리 커널 (Isolation Kernel): 피처 맵이 유한 차원이며 신경망 입력에 적합하도록 하기 위해, 저자들은 격리 커널( $\kappa_I$ )을 사용합니다. 이 커널은 데이터 공간을 셀(cell)로 분할하고 유한 차원의 이진 피처 맵 $\Phi(x)$ 를 생성합니다. 분포는 이러한 피처 맵의 평균( $\mu_D, \mu_f$ )으로 표현됩니다.

3. 학습 프레임框架

언러닝 알고리즘 $U$ 는 두 개의 은닉층을 가진 신경망 $N_U$ 로 구현됩니다.

입력: 원래 모델 파라미터 $\theta$ , 전체 데이터셋의 커널 평균 임베딩 $\mu_D$ , 그리고 망각 세트의 커널 평균 임베딩 $\mu_f$ 가 결합된 벡터.
출력: 언러닝된 모델의 파라미터 $\theta'$ .
학습 목표: 네트워크는 자신의 출력 $\theta'$ 와 정답인 재훈련 모델의 파라미터 $\theta_r$ 사이의 평균 제곱 오차(MSE)를 최소화하도록 훈련됩니다.
학습 데이터 생성: $N_U$ 를 훈련하기 위해, 저자들은 원래 데이터에서 반복적으로 서브셋을 샘플링하고, 모델을 훈련하며, 언러닝 요청을 시뮬레이션함으로써 메타 훈련 세트 $\mathcal{D}$ 를 생성합니다.

4. 추론

$N_U$ 가 일단 훈련되면, 모델 $A(D)$ 로부터 특정 $D_f$ 를 언러닝하는 과정은 신경망을 통한 단 한 번의 순전파(forward pass)로 이루어집니다. 추론 단계에서는 재훈련이나 복잡한 행렬 계산이 필요하지 않습니다.

주요 기여

새로운 프레임워크: 데이터 분포로부터 언러닝 함수 $U$ 를 직접 학습하는 L2UL 프레임워크를 도입했습니다. 새로운 결정 경계를 학습하는 기존의 "학습을 통한 언러닝" 방식과 달리, L2UL은 모델이 $D$ 에서 $D \setminus D_f$ 로 전이하는 데 필요한 구체적인 언러닝 동작을 학습합니다.
이론적 보장: L2UL을 통해 언러닝된 분류기(특히 로지스틱 회귀 및 다층 퍼셉트론)에 대한 일반화 경계(generalization bounds)를 제공하여, 언러닝된 모델의 기대 손실이 재훈련된 모델의 손실과 언러닝 모델의 일반화 오차에 의존하는 항의 합으로 상한선이 됨을 증명했습니다.
경험적 검증: L2UL이 데이터 집약적인 시나리오에서 전수 재훈련과 유사한 정확도를 달면서도 속도 면에서 수십 배 이상의 개선을 이룬다는 것을 포괄적인 실험을 통해 입증했습니다.

실험 결과

저자들은 7개의 공개 데이터셋(약 1.9만 개에서 1,100만 개의 샘플 범위)을 사용하여 로지스틱 회귀(LR), 다층 퍼셉트론(MLP), ResNet-18에 대해 L2UL을 평가했습니다. 이를 다음 모델들과 비교했습니다:

Retrain: 전수 재훈련 (정확도의 기준점/Baseline).
SISA: 샤드 기반 언러닝 방식.
DeltaGrad: 그래디언트 기반 언러한 방식.
FYEMU: 신경망을 위한 노이즈 기반 언러닝 방식.

주요 결과:

효율성: L2UL은 언러닝 시간 측면에서 모든 베이스라인을 크게 압도했습니다.
- Magic 데이터셋(LR)에서 L2UL은 Retrain보다 630배, SISA보다 149배, DeltaGrad보다 282배 빨랐습니다.
- HIGGS 데이터셋(LR)에서 L2UL은 Retrain보다 422,500배 빨랐습니다.
- MLP의 경우에도 L2UL은 여전히 현저히 빨랐습니다 (예: HIGGS에서 Retrain보다 398,000배 빠름).
정확도: L2UL은 대부분의 데이터셋과 설정에서 Retrain 및 SISA 베이스라인과 대등한 정확도를 달-성했습니다.
확장성: ResNet-18(CIFAR-10)에서도 성공적으로 검증되어, 높은 "망각 시간(Time of Forget, ToF)" 점수와 낮은 멤버십 추론 공격(MIA) 격차를 유지하며 더 크고 복잡한 모델로의 확장성을 입증했습니다.
강건성: 오염된 모델(오염된 데이터를 $D_f$ 로 처리)을 정화하는 데 효과적임을 입증하여, 모델 정확도를 거의 완벽한 수준으로 복구했습니다.

의의 및 주장

본 논문은 L2UL이 머신 언러닝의 패러다임 변화를 나타낸다고 주장합니다. "학습을 통한 최적화" 철학을 활용함으로써, 복잡하고 계산 비용이 많이 드는 언러닝 함수를 설계해야 하는 병목 현상을 단순하게 학습된 모델로 대체합니다.

저자들은 L2UL이 현대의 개인정보 보호 민감 애플리케이션에서 흔히 볼 수 있는 대규모 데이터셋에서 훈련된 단순 모델 시나리오에 특히 중요하다는 점을 강조합니다. 이 방법은 다음을 달성합니다:

높은 효율성: 초기 훈련 단계를 거친 후 언러닝은 빠른 단일 패스 연산이 됩니다.
높은 충실도: 언러닝된 모델은 통계적으로 재훈련된 모델과 매우 유사하게 유지됩니다.
행동 학습: 프레임워크는 복잡한 수학적 함수를 수동으로 설계하거나 새로운 결정 경계를 학습하는 것이 아니라, 언러닝의 동작을 학습하는 데 집중합니다.

결론적으로 L2-UL은 언러닝의 계산 비용과 결과 모델의 품질 사이의 트레이드오프를 효과적으로 조절하면서, 현대의 개인정보 보호 요구 사항에 대한 견고하고 효율적인 솔루션을 제공합니다. 다만, 이 접근 방식은 학습 단계에서 정답인 재훈련 모델을 생성할 수 있는 능력에 의존한다는 점을 명시하고 있습니다.