A Mechanistic Perspective and Circuit-Guided Difficulty Metric for Unlearning

기술 요약: 언러닝(Unlearning)에 대한 기계론적 관점 및 회로 가이드 기반 난이도 지표

문제 정의
기계 언러닝(Machine unlearning)은 신뢰할 수 있고 규정을 준수하는 대규모 언어 모델(LLM)을 구축하는 데 필수적이지만, 그 성공 여부는 개별 학습 샘플에 따라 크게 달라집니다. 일부 데이터 포인트는 확실하게 삭제되는 반면, 다른 데이터들은 동일한 언러닝 절차를 거쳤음에도 불구하고 잔존합니다. 기존 연구는 이러한 차이를 주로 스퓨리어스 상관관계(spurious correlations), 중복성 또는 데이터셋 구조와 같은 데이터 측면의 현상으로 돌립니다. 그러나 본 논문은 왜 특정 샘플이 본질적으로 잊기 더 어려운지에 대해 모델 내부의 기계론적인 설명을 제공하지 못하고 있다는 점을 지적합니다. 본 논문은 두 가지 주요 연구 질문을 다룹니다: (1) 언러닝 이전에 기계론적 관점에서 언러닝 난이도를 정의하고 정량화할 수 있는가? (2) 이 예측된 난이도를 모델 내부의 회로(circuit)와 연결할 수 있는가?

방법론: 회로 가이드 기반 언러닝 난이도 (CUD)
저자들은 모델 내부의 회로 구조를 기반으로 각 샘플에 연속적인 난이도 점수를 할당하는 사전 언러닝 지표인 **회로 가이드 기반 언러닝 난이도(Circuit-guided Unlearning Difficulty, CUD)**를 제안합니다. 이 방법론은 세 단계로 진행됩니다:

1. 참조 회로 식별 (Reference Circuit Identification):
   저자들은 먼저 이중 최적화 목적 함수를 사용하여 "쉬운" 및 "어려운" 앵커(anchor) 샘플을 식별합니다.

   • 쉬운 앵커 ($D_{f,E}$): 언러닝 후 손실(loss)이 증가하는(낮은 기억력) 샘플.
   • 어려운 앵커 ($D_{f,H}$): 언러닝 후에도 낮은 손실을 유지하여(높은 기억력) 언러닝 실패를 나타내는 샘플.
     이러한 앵커들은 안정성을 보장하기 위해 여러 시드(seed)에 걸쳐 반복되는 포겟 셋(forget set)에 대한 최적화를 통해 선택됩니다.

2. 회로 추출 (Circuit Extraction):
   저자들은 통합 그래디언트(Integrated Gradients)를 이용한 에지 속성 패칭(Edge Attribution Patching, EAP-IG)을 사용하여, 원래 모델에서 앵커 세트의 예측을 담당하는 계산 회로를 추출합니다. 이 회로들은 모델 구성 요소 간의 기능적 상호작용을 포착하는 구조화된 행렬로 표현됩니다.

3. CUD 점수 계산:
   임의의 쿼리 샘플 $z_i$에 대해, 특정 회로 $C_i$가 추출됩니다. CUD 점수는 $C_i$와 쉬운 앵커 회로($C_E$) 및 어려운 앵커 회로($C_H$) 사이의 유사도를 측정하여 계산됩니다. 점수는 다음과 같이 정의됩니다:
   $$CUD(z_i) = \frac{1 - s_E}{(1 - s_E) + (1 - s_H)}$$
   여기서 $s_E$와 $s_H$는 쿼리 회로와 각각의 앵커 사이의 유사도 메트릭입니다. 결과 점수는 0(삭제하기 쉬움)에서 1(삭제하기 어려움) 사이의 범위를 가집나다. 이 접근 방식은 난이도를 특정 언러닝 알고리즘과 무관하게, 회로 공간에서의 상대적인 기하학적 위치로 취급합니다.

주요 기여

• 차이에 대한 최초의 회로 수준 분석: 본 논문은 왜 언러닝 성능이 달라지는지에 대한 최초의 기계론적 분석을 제공하며, 쉬운 샘플과 어려운 샘플이 구조적으로 구별되는 내부 회로를 통해 기억된다는 점을 밝혀냈습니다.
• CUD 메트릭: 언러닝 개입이 일어나기 전, 회로 수준의 신호를 사용하여 고유한 언러닝 난이도를 정량화하는 원칙적이고 세밀한 지표를 도입했습니다.
• 기계론적 시그니처: 쉬운 샘플과 어려운 샘플을 구분하는 특정 회로 패턴을 식별했습니다:
  • 쉬운 샘플: 모델의 초기-중기 MLP 경로에 집중된 짧고 얕은 상호작용과 관련이 있습니다. 이들은 압축되고 반복적으로 활용되는 계산 경로에 의존합니다.
  • 어려운 샘플: 후기 단계 계산(예: 더 깊은 MLP 전이 및 로짓으로의 직접적인 연결)에 가까운 더 길고 깊은 경로에 의존합니다. 이들은 어텐션 기반 라우팅(attention-mediated routing)을 포함하는 이질적이고 분산된 회로를 포함하며, 이로 인해 국소적 개입에 저항성을 가집니다.

실험 결과
저자들은 다섯 가지 언러닝 방법(GradAscent, GradDiff, NPO, SimNPO, UNDIAL, E2UREC, RecEraser)에 대해 TOFU(제조된 저자 프로필) 및 MovieLens-1M(추천 시스템) 데이터셋에서 CUD를 평가했습니다.

• 난이도 계층화: CUD를 사용하여 "쉬운" 및 "어려한" 포겟 셋을 구성했습니다. 기본 포겟 셋을 CUD로 선택된 **어려운 셋(hard set)**으로 교체했을 때, 언러닝 효능이 통계적으로 유의미하게 하락(방법 평균 14.1 포인트 하락)하고 유지된 지식의 저하가 발생했습니다. 반대로, **쉬운 셋(easy set)**은 언러닝 효능의 향상(평균 +3.3 포인트)과 함께 유지 성능의 보존 또는 약간의 향상을 보여주었습니다.
• 강건성: CUD 점수는 다양한 유사도 메트릭(Cosine, Jaccard, Hamming)과 서로 다른 언러닝 손실 함수(GradDiff vs. UNDIAL)에 대해 안정적으로 유지되었으며, 서로 다른 손실 공식에서 도출된 점수 간의 상관관계가 높았습니다($\rho = 0.76$).
• 표면적 특징으로부터의 독립성: 분석 결과, CUD는 어휘적 유사성(앵커의 다양한 n-gram)이나 문맥 길이(CUD 점수와 입력 토큰 수 사이의 상관관계 없음)에 의해 혼동되지 않음을 확인했습니다.
• MRD와의 비교: 파라미터 섭동(perturbation)에 대한 민감도를 측정하며 CUD와 약한 상관관계를 보이는 메모리 제거 난이도(Memory Removal Difficulty, MRD)와 달리, CUD는 의사결정에 관련된 기능적 회로 구조를 포착하며 언러닝 전에 오프라인으로 계산될 수 있습니다($\rho = -0.27$).

의의 및 주장
본 논문은 CUD가 원칙적이고 해석 가능한 언러닝 난이도 분석을 향한 첫걸음이라고 주장합니다. 데이터 측면의 휴리스틱에서 모델 내부 메커니즘으로 관점을 전환함으로써, 본 연구는 언러닝 난이도가 근본적으로 모델의 예측을 뒷받침하는 구조적 경로(회로)와 연결되어 있음을 입증합니다.

저자들은 이러한 기계론적 이해가 다음을 가능하게 한다고 상정합니다:

1. 선제적 식별: 언러닝 절차를 실행하지 않고도 언러닝 시작 전에 쉬운 샘플과 어려운 샘플을 식별할 수 있는 능력.
2. 타겟 개입: 어떤 레이어나 모듈(예: 초기 MLP vs. 후기 로짓)이 망각에 대한 저항을 지배하는지 파악하여 타겟팅된 디버깅을 용이하게 함.
3. 방법론 불가지론적 벤치마킹: 표준 벤치마크보다 더 엄격하게 언러닝 알고리즘을 스트레스 테스트할 수 있도록 제어된 난이도 계층화 포겟 셋을 구축함.

본 논문은 결론적으로 CUD가 현재 회로 발견을 위해 계산 자원을 필요로 하지만, 모든 샘플을 균등하게 다루는 대신 고유한 샘플 난이도에 적응하는 미래의 언러닝 방법을 개발하기 위한 기초적인 프레임워크를 제공한다고 밝히고 있습니다.