Erase at the Core: Representation Unlearning for Machine Unlearning

이 논문은 기존 기계적 망각 방법들이 내부 특징 표현을 남기는 '피상적 망각' 문제를 해결하기 위해, 네트워크의 모든 계층에서 대비 학습과 심층 감독 학습을 결합하여 원본 모델의 표현적 유사성을 효과적으로 제거하는 'Erase at the Core (EC)' 프레임워크를 제안합니다.

핵심

🧠 1. 문제: "표면적인 망각" (Superficial Forgetting)

지금까지의 기계 학습 기술들은 "잊어달라"는 요청을 받으면, **정답을 말해주는 마지막 단계 (입구)**만 바꿨습니다.

• 비유: Imagine you have a student who studied hard for a history exam. You ask them to "forget" everything about Napoleon.
  • 기존 방법: 학생이 시험지 마지막에 적는 '정답'만 Napoleon 관련 지식을 지우고, "모르겠습니다"라고 적게 합니다. 하지만 학생의 머릿속 (중간 단계) 에는 Napoleon 에 대한 모든 지식, 그림, 연대기 등이 여전히 선명하게 남아 있습니다.
  • 결과: 시험지 (최종 출력) 에는 Napoleon 이 없지만, 나중에 다른 사람이 "Napoleon 은 누구였지?"라고 물어보면 학생은 그 정보를 다시 꺼내 답할 수 있습니다. 혹은, 머릿속에 남은 정보를 이용해 Napoleon 에 대한 새로운 그림을 그릴 수도 있습니다.
  • 논문이 말하려는 것: "이건 진짜 잊은 게 아니야! 머릿속 (중간 특징) 에는 여전히 정보가 남아있어. 우리는 이를 **'표면적인 망각 (Superficial Forgetting)'**이라고 부릅니다."

🔨 2. 해결책: "핵심에서 지우기" (Erase at the Core, EC)

저자들은 이 문제를 해결하기 위해 **EC(Erase at the Core)**라는 새로운 방법을 제안했습니다.

• 비유: 학생의 머릿속을 여러 층으로 된 도서관이라고 상상해 보세요.
  • 1 층: 단순한 단어와 이미지 (낮은 수준의 특징).
  • 3 층: 사물과 사람의 관계 (중간 수준의 특징).
  • 5 층 (최상층): 복잡한 개념과 분류 (고차원적인 특징).
  • 기존 방법: 도서관의 '출구' (5 층의 책장) 에만 자물쇠를 채우고, "Napoleon 책은 꺼내지 마세요"라고만 했습니다. 하지만 1~4 층의 책장에는 Napoleon 관련 책들이 그대로 쌓여 있습니다.
  • EC 의 방법: 도서관의 **모든 층 (1 층부터 5 층까지)**을 동시에 점검합니다.
    1. Napoleon 관련 책 (잊어야 할 데이터): 모든 층에서 이 책들을 찾아내서, 다른 책들 (남아 있어야 할 데이터) 과 섞어버리거나, Napoleon 이 아닌 다른 책들 사이로 밀어 넣습니다. (이걸 '대조적 학습'이라고 합니다.)
    2. 다른 책들 (남아 있어야 할 데이터): Napoleon 책이 사라져도, 도서관 전체가 무너지지 않도록 다른 책들은 여전히 잘 정리되게 도와줍니다.

이렇게 하면, Napoleon 에 대한 정보가 머릿속의 어느 층에도 남지 않게 되어, 진짜로 잊은 것과 같은 상태가 됩니다.

🛠 3. 어떻게 작동할까요? (기술적 원리)

논문의 핵심 기술은 **'깊은 감시 (Deep Supervision)'**와 **'대조적 학습 (Contrastive Learning)'**을 결합한 것입니다.

• 여러 층에 감시 카메라 설치: 기존에는 모델의 마지막 부분만 감시했는데, EC 는 모델의 중간중간 (1 층, 2 층, 3 층...) 에도 '감시 카메라 (보조 모듈)'를 설치합니다.
• 이중 작전:
  1. 잊기 작전: 잊어야 할 데이터 (Napoleon) 가 각 층을 지날 때마다, 그 층의 특징이 다른 데이터 (다른 역사 인물) 와 섞이도록 강제로 밀어냅니다.
  2. 보존 작전: 남아 있어야 할 데이터는 각 층에서 여전히 잘 분류되도록 도와줍니다.
• 무게 조절: 모델의 깊은 층일수록 (고급 개념) 더 중요하므로, 깊은 층일수록 잊기 작전의 힘을 더 강하게 줍니다.

🏆 4. 왜 이것이 중요한가요?

이 연구는 다음과 같은 큰 의미를 가집니다.

1. 진짜 잊음 (True Unlearning): 단순히 정답을 못 맞추는 게 아니라, 머릿속의 정보 구조 자체를 바꿔서 재학습 없이도 정보를 완전히 지웁니다.
2. 보안 강화: 해커가 "기억해!"라고 속여도 (선형 프로빙 공격), 머릿속에 Napoleon 정보가 없으므로 다시 복구할 수 없습니다.
3. 범용성 (Plug-in): 이 방법은 어떤 모델 (ResNet, Swin 등) 이든, 어떤 기존 방법 (DUCK, COLA 등) 에도 추가 모듈처럼 끼워 넣을 수 있습니다. 기존 방법의 성능을 훨씬 더 강력하게 만들어줍니다.

💡 요약

이 논문은 **"기계가 잊으려면, 입구만 막으면 안 되고, 머릿속의 모든 기억을 섞어서 지워야 한다"**고 말합니다.

마치 **쓰레기를 버릴 때, 쓰레기통 뚜껑만 닫는 게 아니라 (기존 방법), 쓰레기통 안의 모든 쓰레기를 분해해서 없애는 것 (EC)**과 같습니다. 이렇게 해야만 GDPR 같은 개인정보 보호 법규를 진정으로 준수할 수 있고, 기계가 정말로 '잊은' 상태가 될 수 있습니다.

기술 요약

1. 문제 정의 (Problem)

최근 데이터 보호 규정 (GDPR 등) 으로 인해 '잊힐 권리 (Right to be Forgotten)'가 강화되면서, 기계 학습 모델에서 특정 데이터 (Forget Set) 의 영향을 제거하는 기계적 망각 (Machine Unlearning, MU) 기술이 중요해졌습니다.

• 기존 방법의 한계 (Superficial Forgetting): 기존의 대부분의 근사적 망각 방법들은 최종 분류기 (Logit) 수준에서는 망각이 잘 된 것처럼 보입니다 (Forget Set 정확도가 거의 0). 그러나 모델 내부의 중간 계층 특징 표현 (Intermediate Feature Representations) 은 원본 모델과 매우 유사하게 남아있는 경우가 많습니다.
• 위험성: 이러한 '피상적 망각'은 선형 프로빙 (Linear Probing) 공격과 같은 방법으로 내부 특징을 다시 학습시켜 망각된 클래스의 정보를 쉽게 복원할 수 있음을 의미합니다. 즉, 모델이 실제로는 망각되지 않았음에도 불구하고 출력값만 무작위화되는 현상이 발생합니다.
• 핵심 질문: 어떻게 하면 출력층뿐만 아니라 네트워크의 깊은 계층 (Deep Layers) 에 걸쳐 망각된 데이터의 정보를 완전히 제거할 수 있을까요?

2. 제안 방법: Erase at the Core (EC)

저자들은 네트워크의 핵심 (Core) 에서 망각을 강제하는 새로운 프레임워크 EC (Erase at the Core) 를 제안합니다. 이 방법은 기존 망각 방법의 한계를 극복하기 위해 다중 계층 대비 학습 (Multi-layer Contrastive Unlearning) 과 깊은 감독 학습 (Deep Supervision) 을 결합합니다.

주요 구성 요소 및 메커니즘

1. 보조 모듈 (EC Modules) 부착:

   • 기존 백본 모델 (예: ResNet-50) 의 중간 계층 (Intermediate Layers) 에 보조 모듈을 부착합니다.
   • 각 보조 모듈은 컨볼루션 블록 (Conv Block) 과 분류기로 구성되며, Contrastive Deep Supervision (CDS) 구조를 따릅니다.

2. 다중 계층 손실 함수 (Multi-layer Losses):

   • Forget Set (망각할 데이터): 각 감독 지점에서 대비 망각 손실 (Contrastive Unlearning Loss, $L_{CU}$) 을 적용합니다. 이는 망각된 샘플의 임베딩을 유지 집합 (Retain Set) 샘플의 매니폴드 (Manifold) 안으로 밀어넣어 클래스별 정보를 희석시킵니다.
   • Retain Set (유지할 데이터): 각 감독 지점에서 교차 엔트로피 손실 (Cross-Entropy Loss, $L_{CE}$) 을 적용하여 유지 집합에 대한 분류 성능을 보존합니다.

3. 계층별 가중치 (Layer-wise Weighting):

   • CNN 의 특성을 고려하여, 더 깊은 계층 (고수준, 클래스 구별력이 강한 특징을 담고 있는 계층) 에 더 큰 가중치를 부여합니다.
   • 총 손실 함수는 $L_{total} = \sum w_l (\lambda_{CU} L_{CU}^l + \lambda_{CE} L_{CE}^l)$ 형태로, 깊은 계층일수록 망각 신호가 더 강하게 전달되도록 설계되었습니다.

4. 플러그인 가능성:

   • EC 는 모델에 구애받지 않으며 (Model-agnostic), 기존 망각 알고리즘 (DUCK, COLA 등) 에 플러그인 모듈로 추가하여 그 성능을 향상시킬 수 있습니다.

3. 주요 기여 (Key Contributions)

1. 새로운 프레임워크 (EC) 제안: 단순한 출력층 망각이 아닌, 네트워크 전체 계층에 걸쳐 특징 표현을 재구성하여 '핵심 망각'을 달성하는 프레임워크를 제안했습니다.
2. 포괄적인 평가 체계: 기존 연구에서 간과되었던 표현 기반 평가 지표 (Representation-based Metrics) 인 CKA (Centered Kernel Alignment) 와 IDI (Information Difference Index) 를 대규모 다중 클래스 망각 시나리오 (ImageNet-1K, CIFAR-100) 에 적용하여 기존 방법들의 '피상적 망각' 문제를 정량화했습니다.
3. 강력한 실험 결과: 다양한 아키텍처 (ResNet-50, Swin-Tiny) 와 데이터셋에서 EC 가 기존 최첨단 방법들보다 원본 모델과의 표현 유사성을 훨씬 더 크게 감소시키면서도 유지 집합의 성능을 잘 보존함을 입증했습니다.
4. 범용성 입증: EC 를 다른 망각 방법들에 적용했을 때에도 표현 수준의 망각 능력을 향상시켜, 기존 알고리즘을 보강하는 플러그인 모듈로 활용 가능함을 보였습니다.

4. 실험 결과 (Results)

실험은 ImageNet-1K (Random-100, Top-100 클래스 망각) 와 CIFAR-100 에서 수행되었으며, 주요 결과는 다음과 같습니다.

• 표현 유사성 감소 (CKA & IDI):
  • 기존 방법들 (PL, DUCK, SCAR 등) 은 CKA 점수가 90 이상으로 원본 모델과 매우 유사했으나, EC 는 CKA 점수를 38.68 (ImageNet-1K 기준) 까지 낮추어 원본 모델과 가장 큰 차이를 보였습니다.
  • IDI (정보 차이 지수) 역시 EC 가 0.051 로 가장 낮아, 망각된 정보가 거의 남지 않음을 시사합니다.
• 유지 집합 성능 보존:
  • 망각 성능이 극대화되는 동시에 Retain Accuracy (RA) 와 Test Retain Accuracy (TRA) 도 다른 방법들에 비해 경쟁력 있게 유지되었습니다. (예: ImageNet-1K 에서 RA 72.63%, TRA 73.84%)
• 하류 작업 성능 (k-NN):
  • 망각된 모델의 특징을 사용하여 하류 작업 (Office-Home, CUB 등) 을 수행했을 때, EC 는 재학습된 모델 (Retrained) 과 가장 유사한 성능을 보였습니다. 이는 망각이 단순한 출력 무작위화가 아니라 특징 공간의 구조적 변화를 일으켰음을 의미합니다.
• 플러그인 효과:
  • DUCK 나 COLA 같은 기존 방법들에 EC 모듈을 추가 (DUCK+EC, COLA+EC) 했을 때, CKA 와 IDI 지표가 개선되어 망각 강도가 강화되었습니다.

5. 의의 및 결론 (Significance)

이 논문은 기계적 망각 연구의 패러다임을 출력층 (Logit) 중심의 망각에서 표현층 (Representation) 중심의 망각으로 전환해야 함을 강력하게 주장합니다.

• 실질적 망각의 보장: 단순히 분류기를 무작위화하는 것이 아니라, 모델 내부의 특징 표현 자체를 재구성함으로써 '잊힐 권리'를 기술적으로 더 충실히 이행할 수 있음을 보여줍니다.
• 보안 강화: 선형 프로빙 공격 등 내부 정보를 복원하려는 시도를 방어할 수 있는 강력한 망각 메커니즘을 제공합니다.
• 미래 지향성: 대규모 모델과 복잡한 시나리오에서도 적용 가능한 모델 독립적인 (Model-agnostic) 접근법을 제시하여, 향후 더 강력하고 안전한 망각 기술 개발의 기초를 마련했습니다.

요약하자면, Erase at the Core (EC) 는 기계 학습 모델이 데이터를 '진짜로' 잊도록 하기 위해 네트워크의 깊은 계층까지 망각 신호를 전파하는 혁신적인 방법론으로, 기존 방법들의 치명적인 약점인 '피상적 망각'을 해결한 중요한 연구입니다.