1. 연구 배경 및 문제 정의 (Problem)

배경:
대형 언어 모델 (LLM) 은 사용자의 선호도와 아이템 속성에 대한 풍부한 의미 이해와 추론 능력을 바탕으로 추천 시스템 (LLMRec) 에 혁신을 가져왔습니다. 그러나 개인정보 보호 규정이 강화됨에 따라, 민감한 사용자 데이터를 LLM 기반 추천 모델에 포함시키는 것은 심각한 프라이버시 위험을 초래합니다. 따라서 특정 데이터의 영향을 제거하면서도 모델의 전체적인 유용성 (Utility) 을 유지하는 '언러닝 (Unlearning)' 기술이 필수적입니다.

기존 방법의 한계:
기존 LLMRec 언러닝 방법들은 대부분 '잊기 (Forget)'와 '유지 (Retain)'라는 두 가지 목표를 가중치 합으로 정의하고 모델 파라미터를 균일하게 (Uniform manner) 업데이트합니다. 이러한 접근 방식은 다음과 같은 심각한 문제를 야기합니다.

1. 경쟁하는 그래디언트 (Gradient Conflicts): 잊기 목표와 유지 목표의 그래디언트가 뉴런 수준에서 서로 반대 방향을 가리킬 때, 한 목표를 최적화하는 업데이트가 다른 목표를 해치게 됩니다. 이로 인해 불안정한 최적화가 발생하여, 데이터가 제대로 잊히지 않거나 (Ineffective unlearning) 모델의 추천 성능이 급격히 저하됩니다.
2. 블랙박스 특성: 어떤 내부 모듈 (어텐션 헤드, MLP 등) 이 잊어야 할 정보를 인코딩하는지 명확하지 않아, 투명성과 신뢰성이 부족합니다.

2. 제안 방법: CURE (Methodology)

저자들은 CURE(Circuit-Aware Unlearning) 라는 새로운 프레임워크를 제안합니다. 이는 기계적 해석 가능성 (Mechanistic Interpretability) 에 기반하여, 모델의 계산 서브그래프인 '회로 (Circuit)'를 식별하고 이를 기능별로 분리하여 선택적으로 업데이트하는 방식입니다.

CURE 는 크게 두 단계로 구성됩니다.

1 단계: 핵심 회로 식별 (Circuit Extraction)

기존 모델 내에서 잊기 (Forget) 와 유지 (Retain) 데이터에 가장 크게 기여하는 내부 계산 경로를 찾아냅니다.

• 회로 정의: 입력 토큰에서 출력 로짓 (Logits) 으로 정보가 흐르는 인과적 계산 서브그래프.
• 식별 기법:
  • Activation Intervention (활성화 개입): 특정 에지 (Edge) 의 정보 흐름을 차단하여 예측 확률 변화를 측정하는 방식. 효율성이 높지만 정밀도는 다소 낮을 수 있음.
  • Activation Patching (활성화 패칭): 더 정밀한 위치 파악을 위해, 원본 입력과 다른 예측을 유도하는 '부정적 샘플 (Corrupt Sample)'을 생성하고, 이를 통해 특정 모듈의 중요도를 대비 (Contrastive) 하여 측정합니다. 사용자 - 아이템 그래프 구조를 활용하여 부정적 샘플을 효율적으로 생성합니다.
• 그리디 회로 탐색: 점수 매겨진 에지들을 기반으로 하향식 (Top-down) 으로 완전한 회로를 구성합니다.

2 단계: 선택적 회로 업데이트 (Selective Updating)

식별된 회로 내 모듈들을 기능적 역할에 따라 세 그룹으로 분류하고, 그룹별로 다른 업데이트 정책을 적용하여 그래디언트 충돌을 해결합니다.

1. Forget-Specific Neurons ($\Theta_f$): 오직 잊기 데이터 ($D_f$) 에만 기여하는 모듈. $\rightarrow$ 잊기 손실 ($L_F$) 만으로 업데이트.
2. Retain-Specific Neurons ($\Theta_r$): 오직 유지 데이터 ($D_r$) 에만 기여하는 모듈. $\rightarrow$ 유지 손실 ($L_R$) 만으로 업데이트.
3. Function-shared Neurons ($\Theta_{sh}$): 두 데이터 모두에 기여하는 공유 모듈. $\rightarrow$ 그래디언트 충돌 완화 전략 적용. 두 목표의 그래디언트가 충돌할 때, 한 그래디언트를 다른 그래디언트의 정규 평면에 투영 (Projection) 하여 파괴적인 성분을 제거합니다.

이 과정을 통해 모델은 민감한 정보를 제거하면서도 추천 성능을 유지하는 '투명하고 해석 가능한' 언러닝을 수행합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 관점 (Motivation): LLMRec 언러닝의 그래디언트 충돌 문제를 '경쟁하는 회로 (Conflicting Circuits)'의 관점에서 해석하고, 이를 분리하여 해결하는 투명성 있는 접근법을 제시했습니다.
2. 혁신적 프레임워크 (Method): 회로 기반의 식별과 기능별 선택적 업데이트를 결합한 새로운 프레임워크를 제안했습니다. 이는 모델에 구애받지 않으며 (Model-agnostic), 다양한 LLM 백본에 적용 가능합니다. 이론적 분석을 통해 단일 그래디언트 업데이트가 기존 방법보다 더 낮은 손실을 달성함을 증명했습니다.
3. 성능 향상 (Performance): 실험을 통해 기존 베이스라인 대비 언러닝 효율성 18% 향상, 모델 유용성 6% 향상, 속도 3.5 배 가속을 달성했습니다.

4. 실험 결과 (Results)

실험 설정:

• 데이터셋: MovieLens-1M, GoodReads.
• 모델: GPT-2, Llama-2 (7B).
• 비교 대상: Retrain(전체 재학습), SISA, RecEraser, E2URec, ROME, WISE, PCGrad 등.

주요 결과:

• 언러닝 효과성 (Unlearning Effectiveness): CURE 는 재학습 (Retrain) 모델과 가장 유사한 분포를 보였습니다 (JSD, Jensen-Shannon Divergence 최소화). 기존 방법들은 데이터가 완전히 잊히지 않거나 (높은 JSD), 성능이 급격히 떨어지는 경향이 있었습니다.
• 모델 유용성 (Model Utility): 잊은 데이터를 제거하면서도 테스트 세트에서의 추천 성능 (AUC, Accuracy) 을 재학습 수준에 가깝게 유지했습니다.
• 효율성 (Efficiency): 전체 재학습에 비해 CURE 는 훨씬 빠른 속도를 보였습니다. 특히 E2URec 대비 약 3.5 배 더 빠르면서도 더 나은 성능을 달성했습니다.
• 그래디언트 충돌 완화: CURE 를 적용한 후, 심각한 그래디언트 충돌 (Cosine similarity $\in [-1, -0.02)$) 의 비율이 E2URec 대비 최소 55% 이상 감소한 것으로 확인되었습니다.

5. 의의 및 결론 (Significance)

CURE 는 LLM 기반 추천 시스템의 프라이버시 보호 문제를 해결하는 데 있어 중요한 전환점을 제공합니다.

• 투명성 확보: 블랙박스 방식의 파라미터 업데이트를 넘어, 모델 내부의 구체적인 계산 회로를 식별하고 조작함으로써 언러닝 과정의 해석 가능성과 신뢰성을 높였습니다.
• 실용성: 기존 언러닝 방법들이 겪던 '잊기 vs 유지' 간의 트레이드오프를 효과적으로 해소하여, 실제 배포 환경에서 민감 데이터 제거와 서비스 품질 유지라는 두 마리 토끼를 모두 잡을 수 있는 실용적인 솔루션을 제시합니다.
• 확장성: 제안된 회로 기반 접근법은 다양한 LLM 아키텍처에 적용 가능하여, 향후 더 복잡한 추천 시나리오에서의 언러닝 연구에 기초를 마련합니다.

결론적으로, CURE 는 기계적 해석 가능성을 활용한 구조적 분해를 통해 LLM 추천 시스템의 프라이버시 문제를 해결하는 강력하고 효율적인 프레임워크임을 입증했습니다.