1. 문제 정의 (Problem)

대규모 언어 모델 (LLM) 은 방대한 웹 코퍼스로 사전 학습되는 과정에서 유해한 지식, 오정보, 개인 정보 등을 모델 가중치에 무분별하게 흡수합니다. 현재까지의 기계적 망각 (Machine Unlearning, MU) 기술은 다음과 같은 중대한 한계를 가지고 있습니다:

• 서비스 제공자 중심 (Provider-centric): 모델 서비스 제공자 (MSP) 만이 재학습 파이프라인과 보존 데이터셋 (retain dataset) 을 통해 망각을 수행할 수 있어, 일반 사용자는 자신의 데이터를 직접 통제할 수 없습니다.
• GDPR/CCPA 준수 부재: 사용자의 '삭제권 (Right to Erasure)'을 직접적이고 자율적으로 행사할 수 있는 메커니즘이 부재합니다.
• 학습 비용과 복잡성: 기존 방법들은 배치 단위의 학습이 필요하거나, 보존 데이터셋이 필수적이며, 추론 시 (Inference time) 에 적용하기 어렵습니다.

이에 저자들은 **상호작용형 기계적 망각 (Interactive Machine Unlearning, IMU)**이라는 새로운 패러다임을 제안합니다. 이는 사용자가 추론 시 자연어 명령을 통해 LLM 에게 특정 지식을 잊도록 지시할 수 있게 하는 환경입니다.

2. 제안 방법론: RePAIR 및 STAMP

저자는 IMU 를 실현하기 위해 RePAIR (Prompt-Aware Model Repair) 프레임워크를 제안했습니다. 이 프레임워크는 세 가지 주요 구성 요소로 이루어져 있으며, 핵심 기술은 STAMP입니다.

A. RePAIR 프레임워크 구조

1. Watchdog Model ($M_{watchdog}$): 대화 기록을 모니터링하여 사용자의 '망각 요청' 의도를 감지하고, 망각할 대상 (페어 $p_f, r_f$) 을 추출합니다.
2. Surgeon Model ($M_{surgeon}$): 추출된 망각 쌍을 기반으로 모델 수정을 위한 실행 가능한 코드 (Repair Code) 를 생성합니다.
3. Patient Model ($M_{patient}$): 생성된 코드를 적용받아 자율적으로 가중치를 수정하고, 망각이 완료된 모델 ($M_{healed}$) 로 변환됩니다.

B. 핵심 알고리즘: STAMP (Steering Through Activation Manipulation with PseudoInverse)

STAMP 는 학습이 필요 없는 (Training-free) 단일 샘플 망각 방법론으로, 다음과 같은 원리를 가집니다:

• 활성화 조작: 망각하려는 샘플의 MLP(다층 퍼셉트론) 활성화를 '거부 (Refusal)' 하위 공간으로 유도합니다.
• 폐쇄형 의사역행렬 (Closed-form Pseudoinverse): 경사 하강법 (Gradient Descent) 없이, 수학적 공식 (Moore-Penrose pseudoinverse) 을 사용하여 가중치를 직접 업데이트합니다.
  • 수식: $W_{new} = X^+ \cdot O'$ (여기서 $X$는 입력, $O'$은 목표 출력)
• 저랭크 변형 (STAMP-LR): 계산 복잡도를 $O(d^3)$에서 $O(r^3 + r^2 \cdot d)$로 줄여, 온디바이스 (On-device) 환경에서도 효율적으로 실행 가능하도록 최적화했습니다.

3. 주요 기여 (Key Contributions)

1. IMU 문제 설정 정립: 모델 서비스 제공자에 의존하지 않고, 사용자가 자연어로 LLM 의 지식을 직접 삭제할 수 있는 새로운 문제 설정을 정의했습니다.
2. STAMP 및 STAMP-LR 개발: 추론 시간 (Test-time) 에만 작동하며, 학습 데이터나 보존 데이터셋 없이 단일 샘플로 망각을 수행하는 최초의 방법론을 제시했습니다.
3. RePAIR 프레임워크 제안: 의도 감지, 코드 생성, 자율적 모델 수정을 통합한 엔드 - 투 - 엔드 솔루션을 구축했습니다.
4. 성능 검증: 유해 지식 제거, 오정보 수정, 개인 정보 삭제 등 3 가지 과제에서 6 가지 최신 기법 (SoTA) 을 능가하는 성능을 입증했습니다.

4. 실험 결과 (Results)

Llama-3-8B 모델을 기반으로 한 실험 결과는 다음과 같습니다:

• 망각 성능 (Forgetting):
  • 유해 지식 및 오정보 제거에서 **정확도 0.00 ($Acc_f = 0.00$)**을 기록하여, 해당 지식을 완전히 삭제했습니다.
  • 개인 정보 삭제에서는 **ROUGE-L 점수 0.00 ($F-RL = 0.00$)**을 달성했습니다.
• 유용성 보존 (Utility Preservation):
  • 망각 후에도 모델의 일반 성능을 잘 유지했습니다. (오정보 제거 시 $Acc_r$ 84.47, $R-RL$ 0.88 등)
  • 기존 학습 기반 방법들 (GA, NPO 등) 은 유용성이 크게 저하되었으나, STAMP 는 Oracle(완전 재학습) 과 유사한 성능을 유지했습니다.
• 효율성 (Efficiency):
  • 학습 불필요: 경사 계산이 없어 GPU 메모리 사용량이 적습니다.
  • 속도: 기존 학습 기반 방법 대비 약 3 배 빠른 속도 (STAMP-LR 기준 2.57 분 등) 를 보였습니다.
• 단일 샘플 망각:
  • 기존 방법들은 단일 샘플 ($|D_f|=1$) 에서는 망각이 전혀 이루어지지 않았으나 (성능 100%), STAMP 는 단일 샘플에서도 완벽한 망각 ($Acc_f=0.00$) 을 달성했습니다.

5. 의의 및 결론 (Significance)

이 논문은 사용자 주도형 (User-driven) 모델 편집의 새로운 장을 열었습니다.

• 실용성: 추론 환경에서도 학습 파이프라인 없이 모델을 수정할 수 있어, 프라이버시 보호 (GDPR/CCPA 준수) 와 AI 안전성을 동시에 해결할 수 있는 실용적인 프레임워크를 제시했습니다.
• 확장성: 온디바이스 (On-device) 실행이 가능해지며, 향후 멀티모달 모델 등으로 확장될 잠재력을 가지고 있습니다.
• 거버넌스: 사용자가 자신의 데이터에 대한 통제권을 되찾고, 모델 서비스 제공자에 대한 불필요한 의존성을 줄이는 기술적 기반을 마련했습니다.

결론적으로 RePAIR 는 LLM 이 가진 '기억'을 사용자가 필요할 때 자연어로 지시하여 '잊게' 할 수 있는 혁신적인 솔루션으로, 투명하고 안전한 AI 생태계 구축에 중요한 기여를 할 것으로 기대됩니다.