💬 NLP

EvoMU: Evolutionary Machine Unlearning

EvoMU는 진화 알고리즘을 통해 데이터셋 특성에 최적화된 새로운 머신 언러닝(Machine Unlearning) 손실 함수를 자동으로 찾아냄으로써, 적은 컴퓨팅 자원으로도 기존 방식보다 뛰어난 성능을 달성하는 AI 공동 과학자(AI co-scientist) 접근법을 제안합니다.

원저자: Pawel Batorski, Paul Swoboda

게시일 2026-02-10

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Pawel Batorski, Paul Swoboda

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🧠 배경: AI의 "지우고 싶은 기억" 문제

우리가 사용하는 챗GPT 같은 거대 언어 모델(LLM)은 인터넷의 방대한 데이터를 공부합니다. 그러다 보니 공부하면 안 되는 민감한 개인정보, 저작권이 있는 소설 내용, 혹은 위험한 화학 무기 제조법 같은 것들도 통째로 외워버리곤 하죠.

이걸 지우는 걸 **'머신 언러닝(Machine Unlearning)'**이라고 합니다. 하지만 문제가 있습니다. 특정 정보만 쏙 빼서 지우기가 너무 어렵다는 거예요. 마치 **"내 머릿속에서 '사과'라는 단어와 관련된 기억만 지워줘!"**라고 했는데, 사과를 지우려다 보니 '빨간색', '과일', '맛있다' 같은 유용한 기억까지 통째로 날아가 버리는 상황(과잉 삭제)이 발생하는 거죠.

🛠️ EvoMU: "AI를 위한 과학적 탐정"

기존에는 사람이 직접 "이런 방식으로 지워봐"라고 수학 공식(손실 함수)을 만들어줬습니다. 하지만 데이터마다 성격이 달라서 사람이 만든 공식은 완벽할 수 없었죠.

여기서 연구진은 EvoMU라는 새로운 방식을 제안합니다. 이 방식은 한마디로 **"AI가 스스로 최적의 망각 공식을 찾아내는 진화형 탐정"**입니다.

🎨 비유로 이해하기: "맞춤형 다이어트 식단 짜기"

당신이 다이어트를 한다고 가정해 봅시다.

기존 방식: 전문가가 만든 '표준 다이어트 식단'을 무작정 따릅니다. 하지만 이 식단은 어떤 사람에게는 살이 잘 빠지지만, 어떤 사람에게는 근육까지 다 빠지게 만들거나(과잉 삭제), 혹은 효과가 전혀 없을 수도 있습니다(미흡한 삭제).
EvoMU 방식: 당신의 몸 상태를 체크하는 **'AI 영양사'**를 고용합니다.
1. 제안: AI 영양사가 일단 몇 가지 식단(공식)을 짜옵니다.
2. 실험: 그 식단대로 며칠간 먹어보고 몸의 변화(데이터 삭제 정도와 건강 상태)를 기록합니다.
3. 진화: "어? 이 식단은 지방은 잘 빠지는데 기운이 너무 없네?"라는 피드백을 받으면, AI는 그 결과를 바탕으로 식단을 조금씩 수정(돌연변이/진화)합니다.
4. 완성: 이 과정을 반복하다 보면, **오직 당신만을 위한 '지방만 쏙 빼고 근육은 지키는 완벽한 식단'**이 탄생합니다.

🚀 EvoMU의 핵심 특징 (3가지)

스스로 진화하는 공식 (Evolutionary Search):
사람이 공식을 짜주는 게 아니라, AI가 여러 공식을 만들어보고, 테스트해보고, 잘 된 공식을 골라 더 좋게 업그레이드하는 과정을 반복합니다.
작지만 똑똑한 두뇌 (Small but Mighty):
엄청나게 거대한 슈퍼컴퓨터가 필요한 게 아닙니다. 연구진은 비교적 작은 규모의 AI 모델(Qwen3-4B)을 사용해서도 전문가들이 만든 공식보다 더 뛰어난 공식을 찾아낼 수 있음을 증명했습니다.
데이터 맞춤형 (Task-Specific):
소설 내용을 지울 때 쓰는 공식과 위험한 지식을 지울 때 쓰는 공식은 달라야 합니다. EvoMU는 각 문제의 특성에 딱 맞는 **'맞춤형 지우개'**를 만들어냅니다.

🌟 결론: 이 연구가 왜 중요한가요?

이 기술이 발전하면, AI가 실수로 배운 잘못된 정보나 위험한 지식을 "똑똑하고 안전하게" 지울 수 있습니다.

단순히 정보를 가리는 수준을 넘어, AI의 전체적인 지능(유용성)은 그대로 유지하면서, 지워야 할 부분만 정교하게 도려내는 기술을 자동화했다는 점에서 매우 큰 의미가 있습니다. 즉, AI가 더 안전하고 믿을 수 있는 파트너가 되도록 만드는 '지능형 지우개'를 발명한 것입니다!

[기술 요약] EvoMU: 진화적 기계 언러닝 (Evolutionary Machine Unlearning)

1. 문제 정의 (Problem Statement)

대규모 언어 모델(LLM)이 학습 과정에서 민감한 정보, 저작권이 있는 데이터, 또는 유해한 콘텐츠를 암기하고 재생산하는 문제가 심각해짐에 따라, 모델을 처음부터 다시 학습시키지 않고 특정 데이터의 영향력만 제거하는 **'기계 언러닝(Machine Unlearning)'**의 필요성이 커지고 있습니다.

현재 가장 지배적인 방법은 기존 모델을 언러닝 손실 함수(Unlearning Loss Function)를 사용하여 미세 조정(Fine-tuning)하는 것입니다. 그러나 다음과 같은 두 가지 핵심적인 난관이 존재합니다:

손실 함수 설계의 어려움: 적절한 손실 함수의 공간은 매우 방대하며, 사람이 직접 설계한 함수는 특정 데이터셋의 구조(데이터의 집중도, 망각 데이터와 유지 데이터 간의 중첩 정도 등)에 따라 '과잉 언러닝(Over-unlearning, 유용성 저하)' 또는 '미흡한 언러닝(Under-unlearning)'을 초래하기 쉽습니다.
범용적 손실 함수의 부재: 데이터의 기하학적 구조에 따라 최적의 손실 함수가 달라지므로, 모든 상황에 적용 가능한 단일한 최적의 함수를 찾기 어렵습니다.

2. 방법론 (Methodology: EvoMU)

본 논문은 언러닝 손실 함수 설계를 '자동 과학적 발견(Automated Scientific Discovery, ASD)' 문제로 정의하고, 진화적 탐색 알고리즘을 사용하는 EvoMU 프레임워크를 제안합니다.

핵심 메커니즘: 진화적 루프 (Evolutionary Loop)

EvoMU는 다음과 같은 '검증-선택-변이(Verify-Select-Mutate)' 루프를 반복합니다:

제안 (Propose): 코드 생성 능력을 갖춘 LLM(본 연구에서는 Qwen3-4B-Thinking 사용)이 실행 가능한 파이썬 형태의 후보 손실 함수와 최적의 학습 예산(Epochs)을 제안합니다.
학습 및 평가 (Train & Eval): 제안된 각 손실 함수를 사용하여 LoRA 어댑터를 통해 모델을 미세 조정합니다. 이후 표준화된 언러닝 벤치마크를 통해 '망각 효율성(Forgetting Efficacy)'과 '유용성 보존(Utility Preservation)'을 측정합니다.
선택 (Select): 망각과 유용성의 균형을 나타내는 스칼라 점수( $s(L)$ )를 기준으로 상위 $K$ 개의 우수한 손실 함수를 선발합니다.
변이 (Mutate): 선발된 상위 함수들을 부모(Parent)로 삼아, LLM이 이전의 학습 이력, 손실 곡선, 평가 지표를 피드백으로 받아 계수를 조정하거나 구조를 수정하여 새로운 자식(Child) 함수들을 생성합니다.

특징

저비용 고효율: 거대 모델이 아닌 4B 파라미터 규모의 작은 오픈 소스 모델만으로도 최첨단(SOTA) 성능의 손실 함수를 합성할 수 있음을 보여줍니다.
데이터 맞춤형: 각 데이터셋의 특성에 최적화된 고유한 손실 함수를 자동으로 찾아냅니다.

3. 주요 기여 (Key Contributions)

언러닝을 위한 ASD 프레임워크 구축: 언러닝 손실 함수 설계를 자동화된 발견 문제로 공식화하고 엔드투엔드 파이프라인을 제시했습니다.
소형 모델의 효용성 입증: 4B 규모의 작은 LLM이 진화적 탐색과 결합했을 때, 인간이 설계한 강력한 베이스라인을 능가하는 과학적 발견이 가능함을 증명했습니다.
데이터 특이적 손실 함수의 중요성 확인: 실험을 통해 데이터 구조에 따라 최적의 손실 함수가 판이하게 다름을 밝혀냈습니다.
새로운 손실 함수 구조 발견: 발견된 많은 상위 성능 함수들이 기존의 복잡한 방식보다 단순하며, 때로는 참조 모델(Reference model) 항 없이도 강력한 성능을 낸다는 점을 발견했습니다.

4. 실험 결과 (Results)

EvoMU는 다양한 벤치마크에서 기존의 인간 설계 방식(NPO, SimNPO, GradDiff 등)을 능가하는 성능을 보였습니다.

TOFU (생물학적 사실 망각): TOFU-5% 및 10% 설정 모두에서 망각 효율성과 유용성 보존 사이의 최적의 균형(MU Score)을 달성했습니다.
WMDP (위험 지식 억제): 위험한 생물학적 지식을 억제하면서도 일반적인 능력(MMLU)을 유지하는 데 있어 기존 NPO보다 우수한 성능을 보였습니다.
재학습 저항성 (Relearning Resistance): WMDP 실험 결과, EvoMU로 언러닝된 모델은 기존 방식보다 재학습(Fine-tuning)을 통한 지식 복구에 훨씬 더 강한 저항성을 보였습니다.

5. 의의 (Significance)

본 연구는 **'AI 공동 과학자(AI Co-scientist)'**로서의 LLM의 잠재력을 보여줍니다. 특히 언러닝과 같이 손실 함수 설계가 매우 까다롭고 데이터 의존적인 분야에서, 인간의 개입 없이도 데이터의 기하학적 구조에 최적화된 솔루션을 찾아낼 수 있음을 입증했습니다. 이는 향후 개인정보 보호, 저작권 준수, AI 안전성 확보를 위한 자동화된 도구로서 큰 가치를 지닙니다.