Easy to Learn, Yet Hard to Forget: Towards Robust Unlearning Under Bias

이 논문은 편향된 데이터에서 학습된 모델이 편향된 샘플을 잊기보다 오히려 편향 자체를 잊는 '단축기 학습' 현상을 해결하기 위해, 손실 지형의 날카로움을 기반으로 샘플을 분할하고 인과 및 편향 경로를 해체하여 표적 업데이트를 수행하는 새로운 'CUPID' 프레임워크를 제안합니다.

핵심

1. 문제: AI 가 "뻔한 단서"에 너무 의존하다 보니 생긴 재앙

상상해 보세요. AI 가 **물새 (Waterbird)**와 **바다새 (Seabird)**를 구별하는 법을 배우고 있다고 가정해 봅시다.

• 진짜 학습 (인과 관계): 물새는 물가에서, 바다새는 바다에서 주로 발견된다는 사실.
• AI 의 편향 (단순한 단서): 하지만 학습 데이터가 편향되어 있어서, 물새는 항상 '물' 배경에 있고, 바다새는 '바다' 배경에 있는 경우가 99% 였다고 치죠.

AI 는 똑똑하지만, 가장 쉬운 길을 택합니다. "배경이 물이면 물새, 바다면 바다새"라고 **단순한 규칙 (숏컷, Shortcut)**만 외워버린 거예요. 진짜 새의 특징을 배우지 않고, 배경만 보고 맞추는 거죠.

2. 새로운 현상: "쉬운 건 쉽게 배우지만, 잊기는 더 어렵다"

이제 이 AI 에게 **"물새에 대한 기억을 지워줘 (잊어줘)"**라고 명령합니다. 보통은 그 데이터만 지우면 되겠지 싶지만, 여기서 기이한 일이 발생합니다.

• 기존 AI 의 반응: AI 는 "물새"라는 개념을 지우려고 노력하다가, 오히려 "물"이라는 배경 특징을 지워버립니다.
• 결과: AI 는 "물새"를 잊으려다 보니, "물 배경"을 더 이상 신뢰하지 않게 됩니다. 그런데 재미있게도, 물 배경이 아닌 곳에서 찍힌 물새 (예: 풀밭에 있는 물새) 를 오히려 더 잘 맞추게 됩니다.
• 왜? AI 가 진짜 '물새'를 잊은 게 아니라, '물 배경'이라는 나쁜 단서를 버렸기 때문입니다. 마치 "수박을 잊으려고 하다가, '초록색 껍질'이라는 특징만 잊어버린 셈"이 된 거죠.

저자들은 이를 **"숏컷 망각 (Shortcut Unlearning)"**이라고 부릅니다. AI 가 진짜 중요한 것 (새의 특징) 은 그대로 두고, 가장 쉽게 배웠던 나쁜 단서 (배경) 만 잊어버리는 역설적인 현상입니다.

3. 해결책: CUPID (큐피드) - 외과 수술 같은 정밀한 지우기

이 문제를 해결하기 위해 저자들은 CUPID라는 새로운 방법을 제안했습니다. CUPID 는 단순히 지우는 게 아니라, AI 의 두뇌 구조를 분석해서 '진짜 기억'과 '나쁜 단서'를 분리해 내는 외과 수술과 같습니다.

세 단계로 이루어져 있어요:

1. 땀을 흘리는 정도로 구분하기 (Sharpness-Aware Partitioning):

   • AI 가 문제를 풀 때, **쉬운 문제 (배경만 보고 맞춘 것)**는 뇌가 편안하게 (평평한 지형) 풀고, **어려운 문제 (진짜 특징을 보고 맞춘 것)**는 뇌가 힘들게 (가파른 지형) 풉니다.
   • CUPID 는 이 '뇌의 피로감 (손실 함수의 날카로움)'을 재서, "어떤 데이터는 나쁜 단서로 푼 거고, 어떤 건 진짜로 푼 거야"라고 분류합니다.

2. 신경 회로 분리하기 (Causal Pathway Identification):

   • AI 의 두뇌 (매개변수) 를 살펴보면, '진짜 특징'을 담당하는 회로와 '나쁜 단서'를 담당하는 회로가 다릅니다.
   • CUPID 는 이 두 회로를 찾아내어 진짜 기억을 담당하는 회로만 골라냅니다.

3. 정밀한 지우기 (Targeted Pathway Update):

   • 이제 지우기 작업을 합니다. '나쁜 단서' 회로는 건드리지 않고, '진짜 기억' 회로만 집중적으로 지웁니다.
   • 마치 특정 단어만 지우기 위해 책의 특정 페이지만 잘라내는 것처럼, AI 가 편향된 단서 (배경) 에 의존하지 않도록 정확히 수정해 줍니다.

4. 왜 이것이 중요한가요?

기존 방법들은 AI 에게 "잊어"라고 하면, AI 가 가장 익숙한 나쁜 습관 (단서) 만 버리고 진짜 지식을 잃어버리거나, 반대로 편향된 데이터만 지우고 나머지는 그대로 두는 등 엉뚱한 결과를 낳았습니다.

하지만 CUPID는:

• 진짜로 잊게 합니다: AI 가 물새를 더 이상 기억하지 못하게 만듭니다.
• 공평하게 잊게 합니다: 물 배경이든 풀밭 배경이든, 모든 물새를 골고루 잊게 합니다.
• 다른 기억은 지우지 않습니다: 물새를 지우더라도 '새'라는 개념이나 다른 동물에 대한 지식은 그대로 유지됩니다.

요약

이 논문은 **"AI 가 편향된 데이터를 배울 때, 가장 쉬운 길 (단서) 만 기억하게 되는데, 이를 지우려 할 때 AI 가 오히려 그 단서만 잊고 진짜 지식을 남기거나 엉뚱하게 행동한다"**는 문제를 발견했습니다.

그리고 CUPID라는 방법을 통해, AI 의 두뇌 구조를 분석하여 '진짜 지식'과 '나쁜 습관'을 분리한 뒤, 진짜 지식만 정확히 지우는 수술을 제안했습니다. 이는 AI 가 프라이버시 (잊을 권리) 를 존중하면서도, 편향 없이 공정하게 작동하도록 만드는 중요한 기술적 돌파구입니다.

기술 요약

1. 문제 정의 (Problem)

기존의 머신 언러닝 (Machine Unlearning) 연구는 모델이 특정 데이터를 잊도록 하는 데 초점을 맞추고 있으나, 실제 세계의 편향된 (Biased) 데이터 환경에서는 그 효과가 크게 저하되는 문제를 발견했습니다.

• 편향된 학습과 단축 경로 (Shortcut): 딥러닝 모델은 종종 클래스 레이블과 무관하지만 강한 상관관계를 가진 '허위 속성 (Spurious Attributes, 예: 물새 클래스와 배경의 물)'을 학습합니다. 모델은 이러한 쉬운 단축 경로 (Shortcut) 를 통해 클래스를 예측합니다.
• 쉬운 학습, 잊기 어려운 현상 (Easy to Learn, Hard to Forget): 편향된 데이터에서 모델은 단축 경로에 의존하는 샘플 (Bias-aligned) 을 매우 쉽게 학습하지만, 정작 이 샘플들을 잊으려 할 때는 오히려 매우 어려움을 겪습니다.
• 단축 경로 언러닝 (Shortcut Unlearning) 현상: 기존 언러닝 알고리즘은 의도한 클래스 정보를 잊는 대신, 모델이 가장 의존하던 '단축 경로 (편향된 속성)'를 잊어버리는 역설적인 현상이 발생합니다. 이로 인해 오히려 편향과 충돌하는 샘플 (Bias-conflicting) 에 대한 정확도가 비정상적으로 상승하는 '편향 제거 효과'가 나타나지만, 이는 실제 클래스 정보를 잊은 것이 아닌 편향만 제거된 잘못된 상태입니다.

2. 제안 방법: CUPID (Methodology)

저자들은 이러한 문제를 해결하기 위해 손실 지형 (Loss Landscape) 의 기하학적 특성을 활용한 새로운 프레임워크 CUPID (Causal Unlearning via Pathway Identification and Disentanglement) 를 제안했습니다. 이 방법은 세 단계로 구성됩니다.

1 단계: Sharpness-Aware Partitioning (손실 민감도 기반 분할)

• 원리: 편향된 샘플 (쉬운 학습) 은 손실 지형의 '평탄한 (Flat)' 영역에, 편향과 충돌하는 샘플 (어려운 학습) 은 '뾰족한 (Sharp)' 영역에 위치한다는 가설을 기반으로 합니다.
• 구현: 각 샘플의 로컬 손실 민감도 (Local Loss Sharpness) 를 계산합니다. 이를 위해 현재 파라미터에서 그라디언트 방향으로 작은 교란을 가해 손실 변화량을 측정합니다.
• 분할: 손실 민감도가 낮은 샘플은 '편향 근사 집합 (Bias-approximated set)', 높은 샘플은 '인과 근사 집합 (Causal-approximated set)'으로 나누어 잊어야 할 데이터의 특성을 분리합니다.

2 단계: Causal Pathway Identification (인과 경로 식별)

• 목표: 모델 파라미터 중 어떤 부분이 '인과적 특징 (Causal features)'을 담당하고, 어떤 부분이 '편향 (Bias)'을 담당하는지 분리합니다.
• 구현: 손실 함수의 헤시안 (Hessian) 행렬 대각 요소와 파라미터의 크기를 결합하여 파라미터의 중요도를 평가합니다. 인과적 정보를 담당하는 파라미터들을 식별하여 '인과 경로 (Causal pathway)' 마스크를 생성하고, 나머지는 '편향 경로 (Bias pathway)'로 간주합니다.

3 단계: Targeted Pathway Update (표적 경로 업데이트)

• 전략: 식별된 두 경로에 대해 서로 다른 그라디언트를 적용하여 정밀한 '외과적 개입'을 수행합니다.
  • 인과 경로: 인과적 특징을 잊기 위한 그라디언트 ($g_{causal}$) 를 적용하되, 샘플의 손실 민감도 (Sharpness) 에 따라 가중치를 두어 '어려운' 샘플에 더 집중합니다.
  • 편향 경로: 편향 관련 그라디언트 ($g_{bias}$) 를 적용하여 편향 의존성을 적절히 관리합니다.
• 효과: 이를 통해 모델이 편향을 잊는 것이 아니라, 실제 클래스 정보를 잊도록 유도하면서도 편향에 대한 의존성을 유지하거나 적절히 조절하여 '단축 경로 언러닝'을 방지합니다.

3. 주요 기여 (Key Contributions)

1. 단축 경로 언러닝 (Shortcut Unlearning) 의 규명: 편향된 데이터 환경에서 언러닝 알고리즘이 실패하는 새로운 실패 모드 (Failure Mode) 를 발견하고 이를 수학적으로 정의했습니다.
2. CUPID 프레임워크 제안: 손실 지형의 기하학적 특성을 활용하여 인과적 정보와 편향 정보를 분리하고 선택적으로 업데이트하는 새로운 방법론을 제시했습니다.
3. 포괄적인 실증 검증: 기존 방법론들이 실패하는 편향된 데이터셋 (Waterbirds, BAR, Biased NICO++) 에서 CUPID 가 최상의 성능을 보임을 입증했습니다.

4. 실험 결과 (Results)

저자들은 Waterbirds, BAR, Biased NICO++ 등 세 가지 편향된 데이터셋에서 실험을 수행했습니다. 편향된 훈련 데이터 (편향 일치 샘플 99.5%) 와 편향되지 않은 테스트 데이터 (50:50) 모두에서 평가했습니다.

• 기억 제거 성능 (Forget Accuracy, FA): CUPID 는 기존 최첨단 방법들 (NegGrad, SALUN, DELETE 등) 보다 훨씬 낮은 FA 를 기록했습니다.
  • 예: Waterbirds 데이터에서 FA 는 6.91% (기존 방법들은 18~37% 대).
  • 이는 모델이 목표 클래스를 효과적으로 잊었음을 의미하며, 재학습 (Retrain) 에 가까운 성능을 달성했습니다.
• 균형 잡힌 언러닝 ($\Delta$gap 및 WGA): 기존 방법들은 편향 일치 샘플과 충돌 샘플 간의 성능 차이 ($\Delta$gap) 가 크고, 최악의 그룹 정확도 (WGA) 가 낮아 편향 제거에 실패했습니다. 반면 CUPID 는 모든 하위 그룹에서 균형 잡힌 언러닝을 달성했습니다.
• 보존된 유지 정확도 (Retain Accuracy, RA): 잊어야 할 클래스를 잊으면서도 다른 클래스에 대한 정확도 (RA) 는 거의 유지되었습니다.
• 개인정보 보호 (MIA): 멤버십 추론 공격 (MIA) 점수에서 재학습 (Retrain) 과 유사한 수준의 프라이버시 보호를 보여주었습니다.
• 시각화 (Grad-CAM): 기존 방법들은 여전히 편향된 배경 (예: 물) 에 주의를 기울이는 반면, CUPID 는 편향된 영역을 무시하고 클래스의 본질적인 특징에 집중하는 것을 확인했습니다.

5. 의의 및 결론 (Significance)

이 논문은 머신 언러닝이 실제 세계의 편향된 데이터 환경에서 직면하는 근본적인 한계를 지적하고, 이를 해결할 수 있는 새로운 패러다임을 제시했습니다.

• 실용성: CUPID 는 '유지 집합 (Retain set)'에 대한 접근이 필요하지 않아, 프라이버시 제약이 있는 실제 환경에서도 적용 가능합니다.
• 기술적 통찰: 단순히 데이터를 지우는 것이 아니라, 모델 내부의 '학습 경로 (Pathway)'를 식별하고 분리하여 정밀하게 조작하는 접근법의 중요성을 강조했습니다.
• 향후 방향: 추상적인 개념이나 다른 지식과 얽힌 정보를 잊는 문제에도 이 '외과적 (Surgical)'인 접근법을 적용할 수 있음을 시사합니다.

요약하자면, CUPID는 편향된 모델이 "쉬운 것 (편향) 은 쉽게 배우지만 잊기 어렵고, 어려운 것 (인과) 은 잊기 쉽다"는 역설을 해결하여, 진짜로 잊어야 할 클래스 정보를 정확히 지우면서도 모델의 일반화 능력을 유지하는 최초의 강력한 언러닝 솔루션입니다.