우리가 사용하는 인공지능 (AI) 과 데이터 시스템은 마치 모든 것을 기억하려는 도서관과 같습니다.
기억 (Remembering): 이 도서관은 우리가 남긴 모든 흔적 (개인 정보, 정치적 의견, 문화적 기록 등) 을 수집하고 저장합니다.
문제점: 하지만 이 도서관은 '지우기' 기능을 제대로 가지고 있지 않습니다. GDPR(유럽의 개인정보 보호법) 같은 법으로 "제 기억에서 지워주세요"라고 요청해도, 기술적으로 그 흔적을 완전히 없애기는 매우 어렵습니다.
비유: 도서관에서 한 책을 꺼내서 태워버렸다고 해서, 그 책 내용을 읽은 사람들이 머릿속에 기억하고 있는 내용까지 지워지는 건 아닙니다. AI 의 두뇌 (신경망) 에는 그 데이터가 '무수히 많은 연결 고리'로 남아있기 때문입니다.
🧹 2. '삭제'와 '망각'은 다릅니다
논문은 이 두 가지를 명확히 구분합니다.
삭제 (Erasure): 단순히 책장을 비우는 행위입니다. 데이터 파일이나 기록을 지우는 기술적인 작업이죠.
망각 (Unlearning/Forgetting): 도서관의 기억 자체를 바꿀 수 있는 능력입니다. 특정 책의 내용이 도서관의 전체 지식 체계에 미친 영향을 줄이거나, 아예 그 책이 없었던 것처럼 AI 의 사고방식을 다시 훈련시키는 것입니다.
비유: 친구에게 "내 비밀을 잊어줘"라고 했을 때, 단순히 메모장을 찢는 것 (삭제) 과 그 친구가 그 비밀을 떠올리지 않고 새로운 관점에서 나를 바라보는 것 (망각) 은 다릅니다.
⚖️ 3. '모르는 것'도 중요한 능력입니다
우리는 보통 '모르는 것'을 나쁜 것으로 생각합니다. 하지만 이 논문은 "적절히 잊는 것 (Not Knowing)"이 오히려 지혜라고 말합니다.
선택적 망각의 필요성: 모든 것을 기억하면 오히려 혼란스럽고, 해로운 정보 (편견, 거짓말, 차별적 내용) 가 AI 의 기억에 남아 세상을 왜곡할 수 있습니다.
비유: 우리 뇌도 모든 것을 기억하면 미쳐버립니다. 중요한 것만 기억하고, 불필요하거나 상처 주는 것은 잊어주는 것이 건강한 마음입니다. AI 도 마찬가지입니다.
위험한 망각: 하지만 반대로, 소수자의 목소리나 중요한 사실을 '고의로 잊어버리는' 것은 불공평합니다. 이는 특정 집단을 침묵시키는 '지배의 도구'가 될 수 있습니다.
🏗️ 4. 기술은 '기억'을 위해 만들어졌지만, '망각'을 설계해야 합니다
지금까지의 기술은 "무조건 더 많이 저장하자"는 원칙으로 만들어졌습니다. 하지만 미래의 AI 는 **"책임 있게 잊는 능력"**을 처음부터 갖추고 있어야 합니다.
새로운 목표: 단순히 법을 지키기 위해 데이터를 지우는 게 아니라, **"어떤 기억이 사회에 해가 되는지 판단하고, 그것을 의도적으로 잊을 수 있는 시스템"**을 만들어야 합니다.
비유: 이제부터는 도서관 사서가 "이 책은 독자들에게 해로울 수 있으니, 도서관의 지식 체계에서 아예 지워버리자"라고 판단하고 행동할 수 있어야 합니다.
🎯 이 논문의 핵심 메시지
이 연구는 AI 개발자들에게 다음과 같은 질문을 던집니다.
기술적 문제: "데이터를 어떻게 완전히 지울까?" (기술적 난제)
사회적 문제: "무엇을 잊어야 정의로운 사회가 될까?" (윤리적 판단)
저자들은 **"망각 (Forgetting) 은 실패가 아니라, 지식을 올바르게 관리하기 위한 필수적인 설계 요소"**라고 주장합니다. AI 가 인간처럼 '무엇을 기억하고 무엇을 잊을지' 선택할 수 있어야, 더 공정하고 안전한 세상을 만들 수 있다는 것입니다.
💡 한 줄 요약
"모든 것을 기억하는 것이 능사가 아닙니다. AI 가 '해로운 기억'을 의도적으로 잊고, '공정한 기억'만 남길 수 있도록 시스템을 다시 설계해야 합니다."
이 논문은 컴퓨터 과학자, 철학자, 사회학자가 함께 모여 **"기술이 어떻게 인간의 기억과 망각을 책임질 것인가"**에 대해 대화하자는 초대장입니다.
1. 문제 제기 (Problem)
기존의 머신러닝 및 데이터 시스템은 본질적으로 **'기억 (저장 및 학습)'**을 위해 설계되었습니다. 그러나 유럽연합의 GDPR 과 같은 법적 프레임워크가 도입되면서 개인에게 **'잊혀질 권리 (Right to be Forgotten)'**를 부여하게 되었습니다. 이로 인해 다음과 같은 심각한 기술적, 개념적 불일치가 발생했습니다.
기술적 한계: 대규모 시스템에서 데이터를 완전히 삭제하는 것은 물리적 저장소 (데이터베이스) 에서 행을 지우는 것을 넘어, 캐시, 복사본, 그리고 파생된 데이터 제품까지 전파되어야 합니다. 특히 딥러닝 시스템에서는 데이터가 신경망의 가중치 (weights) 에 통합되어 수십억 개의 파라미터에 얽히게 되므로, 원본 데이터를 삭제하더라도 모델의 학습 결과 (추론) 에 그 영향이 남아있는 경우가 많습니다.
법적 vs 기술적 괴리: 법적 요구사항 (완전한 삭제) 과 기술적 현실 (완전한 제거의 불가능성) 사이의 간극이 '머신 언러닝 (Machine Unlearning)' 연구를 촉발시켰지만, 데이터의 흔적이 완전히 사라졌는지 평가하는 메커니즘은 여전히 미흡합니다.
개념적 혼란: 단순한 '삭제 (Erasure)'와 '학습된 영향 제거 (Unlearning)', 그리고 데이터 수집 단계에서의 '배제 (Exclusion)'를 명확히 구분하지 않고 '잊음 (Forgetting)'이라는 용어로 혼용하여 사용하는 문제가 있습니다.
2. 방법론 및 접근 방식 (Methodology & Approach)
이 논문은 순수한 기술적 해결책을 제시하기보다, '기억과 망각을 사회기술적 (Sociotechnical) 실천'으로 재정의하는 개념적 프레임워크를 제안합니다.
개념적 구분 (Conceptual Distinction):
삭제 (Erasure): 데이터 아티팩트 (행, 파일, 인덱스 등) 에 대한 접근을 물리적으로 제거하거나 비활성화하는 운영적 행위.
언러닝 (Unlearning): 학습된 파라미터와 하위 출력에 대한 특정 데이터의 영향을 제거하거나 제한하기 위한 의도적인 기술적 개입.
배제 (Exclusion): 데이터셋 수집, 라벨링, 포함 단계에서 특정 인구나 범주를 아예 포함하지 않는 '생략에 의한 망각'.
망각 (Forgetting): 위 모든 것을 포괄하는 사회기술적 과정으로, 주체성 (의도적/우발적), 시간성, 가역성, 규모에 따라 다양하게 정의됨.
사회기술적 분석: 데이터 파이프라인의 각 단계 (수집, 특징 설계, 라벨링) 에서 이루어지는 '배제'와 '무시'의 행위가 어떻게 권력 구조와 지식의 불평등을 재생산하는지 분석합니다.
비유적 접근: 양자 컴퓨팅의 '비삭제 정리 (No-deleting theorem)'를 머신러닝에 적용하여, 완전한 삭제보다는 '영향의 재분배 또는 감쇠'가 현실적인 목표임을 강조합니다.
3. 주요 기여 (Key Contributions)
이 연구는 다음과 같은 핵심 기여를 제공합니다.
망각의 재정의 (Reframing of Forgetting):
망각을 지식의 실패나 예외가 아닌, 지식의 **필수 조건 (Condition)**으로 재정의합니다. "알기 위해서는 모름에서 시작해야 한다"는 관점을 통해, 데이터 시스템에서 망각은 설계된 필수 기능이어야 함을 주장합니다.
GDPR 기반 삭제와 데이터셋의 체계적 배제를 모두 '망각'의 형태로 보되, 서로 다른 거버넌스 메커니즘을 가진다고 설명합니다.
권력과 지식의 정치학 분석:
데이터 인프라가 '지식 보존'을 기본값으로 설정함으로써 특정 담론을 강화하고, 배제된 집단의 시각을 지우는 '인식론적 불의 (Epistemic Injustice)'를 초래할 수 있음을 지적합니다.
러시아의 허위정보 네트워크 사례를 들어, 훈련 데이터에 포함된 조작적 콘텐츠가 모델의 '기억'에 통합되는 것을 막기 위해 망각이 기술적 방어가 아닌 정치적 실천이어야 함을 강조합니다.
'책임 있는 망각'을 위한 설계 원칙 제안:
단순한 규정 준수 (Compliance) 도구를 넘어, **설계 단계부터 망각을 의도적이고 투명하며 책임 있는 기능 (First-class capability)**으로 포함하는 '기억을 잊는 기계 (Forgetting Machines)'의 개발을 촉구합니다.
언러닝을 머신러닝 파이프라인의 필수 단계로 재구성하여, 편향된 데이터의 영향력을 줄이고 소수자의 시각을 보호하는 방향으로 시스템을 설계해야 함을 역설합니다.
4. 결과 및 논의 (Results & Discussion)
논문은 구체적인 실험 결과 수치보다는 개념적 통찰과 연구 방향성을 제시합니다.
현재 기술의 한계: 추천 시스템, 온톨로지, 대규모 언어 모델 (LLM) 에서 부분적인 언러닝 기술이 발전하고 있으나, 의미적 의존성 (Semantic dependencies) 이 존재하는 환경에서 완전한 삭제를 보장하는 것은 여전히 해결되지 않은 문제입니다.
이중적 역할 (Dual Role): 망각과 언러닝은 개인의 프라이버시를 보호하는 '방패'가 될 수 있지만, 동시에 특정 집단의 목소리를 침묵시키는 '무기'가 될 수 있음을 경고합니다.
인식론적 분권화 (Epistemic Decentralization): 중앙집중식 지식 인프라를 탈피하여 역사적으로 배제되었던 행위자들이 지식 생산에 참여할 수 있도록 하는 것이 중요하며, 이를 위해 '알지 못함 (Not knowing)'을 생산적인 인식론적 도구로 활용해야 함을 주장합니다.
5. 의의 및 중요성 (Significance)
이 논문은 데이터 과학 및 AI 연구 분야에 다음과 같은 중요한 시사점을 제공합니다.
패러다임 전환: 데이터 시스템을 단순한 '기억의 저장소'가 아닌, '무엇을 기억하고 무엇을 잊을지 선택하는 정치적 공간'으로 바라보게 합니다.
거버넌스 확장: 기술적 해결책 (알고리즘) 만으로는 GDPR 과 같은 법적 요구사항을 충족할 수 없으며, 철학, 윤리, 기억 연구, HCI(인간 - 컴퓨터 상호작용) 등 다양한 학문과의 융합이 필요함을 강조합니다.
미래 시스템 설계: 향후 데이터 시스템은 '무조건적인 보존'이 아닌, **'책임 있는 망각 (Responsible Forgetting)'**을 설계 원칙으로 삼아야 합니다. 이는 편향 완화, 프라이버시 보호, 그리고 인식론적 정의를 실현하는 핵심 열쇠가 될 것입니다.
결론적으로, 이 논문은 머신 언러닝을 단순한 기술적 최적화 문제가 아니라, 권력, 권리, 그리고 정의가 교차하는 사회기술적 실천으로 재해석하며, AI 시스템이 인간 사회의 복잡성과 윤리적 요구에 부응하기 위해 '잊는 능력'을 의도적으로 설계해야 함을 강력히 주장합니다.