기술 요약: 분포의 통계적 망각

문제 정의

머신러닝 시스템은 개별 데이터 포인트뿐만 아니라 독성 언어, 저작권이 있는 코퍼스, 인구통계학적 편향과 같은 전체 정보 도메인을 "잊어버려야" 한다는 요구에 점점 더 직면하고 있습니다. 이는 근본적인 통계-계산적 트레이드오프를 생성합니다. 원치 않는 도메인에서 모든 샘플을 제거하는 것은 종종 계산적으로 불가능하며, 무작위로 서브셋을 제거하는 것은 분포 수준의 통계적 보장을 제공하지 못할 수 있습니다. 기존 샘플 수준 망각 방법 (예: 영향 함수, 데이터 샤딩) 은 망각 집합이 이미 지정되었다고 가정하며, 제거할 가장 영향력 있는 샘플을 선택하는 통계적 문제를 다루지 않습니다. 반면, 개념 소거와 같은 도메인 수준 접근법은 내부 표현을 수정하지만 최소 제거 집합을 선택하기 위한 원칙 있는 규칙을 제공하지는 않습니다.

해결된 핵심 문제는 분포적 망각 (Distributional Unlearning) 입니다. 즉, 편집된 데이터 분포가 원치 않는 도메인 ($p_1$) 과 통계적으로 구별 가능하면서도 유지하려는 원하는 도메인 ($q_1$) 과는 구별 불가능하도록 만드는, 제거 시 가장 작은 데이터 포인트 하위 집합을 식별하는 것입니다.

방법론

저자들은 KL-발산과 같은 발산 기반 지표뿐만 아니라 가설 검정에 기반한 통계적 프레임워크를 제안합니다.

1. $(f_d, f_c)$ 망각 프레임워크

이 프레임워크는 제 1 종 오류 $\alpha$를 달성 가능한 최소 제 2 종 오류 $\beta$로 매핑하는 트레이드오프 함수 (Trade-off Functions, TOFs), 즉 $T(P, Q)$를 사용하여 망각을 정의합니다.

• 정의: 분포 $p$가 원치 않는 $p_1$과 유지된 $q_1$에 대해 $(f_d, f_c)$ 망각을 만족하려면 다음을 충족해야 합니다:
  • 제거: $T(p, p_1) \leq f_d$ (편집된 데이터는 원치 않는 도메인과 쉽게 구별됨).
  • 유지: $T(p, q_1) \geq f_c$ (편집된 데이터는 유지된 도메인과 구별하기 어려움).
• 유연성: 고정된 $(\alpha, \epsilon)$ 제약 조건과 달리, 이 접근법은 데이터 분포에 대한 사전 지식 (예: 가우시안 데이터의 경우 가우시안 기준선 사용) 에 따라 기준 TOF $(f_d, f_c)$를 적응적으로 선택할 수 있도록 합니다.
• 하류 보장: 이 프레임워크는 이러한 TOF 조건을 충족하는 것이 총변동 (TV) 손실 및 데이터 처리 부등식을 만족하는 일반적인 발산 기반 손실 하에서 견고한 하류 성능 보장을 함의함을 증명합니다.

2. 실현 가능 영역과 파레토 프론티어

이 논문은 허용 가능한 편집된 데이터 분포의 근본적 실현 가능 영역을 특징짓습니다. 이 영역은 망각 기준을 충족하는 모든 분포 $p$의 집합을 나타냅니다.

• 기하학적 해석: 위치 가족 (예: 이동된 가우시안) 의 경우, 실현 가능 영역은 원치 않는 중심 ($\mu_1$) 과 유지된 중심 ($\nu_1$) 까지의 거리에 의해 경계 지어지는 원형 캡 또는 원반으로 기하학적으로 설명됩니다.
• 파레토 프론티어: 저자들은 제거 ($\alpha$) 와 유지 ($\epsilon$) 사이의 트레이드오프에 대한 폐쇄형 파레토 프론티어를 유도합니다. 이 프론티어는 주어진 유지 수준에 대해 달성 가능한 최적의 망각 수준을 정의합니다.

3. 합성 규칙

이 프레임워크는 다중 모드 입력 (예: 텍스트와 이미지의 결합) 으로 확장됩니다. 저자들은 분포 $p$와 $p'$이 각각 해당 도메인에 대한 망각 기준을 만족하면, 그 곱 분포 $p \otimes p'$이 결합된 도메인에 대한 망각 기준을 만족함을 보여주는 합성 법칙을 증명합니다. 또한 모드 수가 증가함에 따라 기준 TOF 는 중심극한 행동 (특히 가우시안이나 포아송과 같은 무한 분할 가능 분포) 으로 수렴합니다.

주요 결과

1. 모수적 및 비모수적 가족

저자들은 여러 분포 가족에 대한 명시적 실현 가능 영역과 파레토 프론티어를 제공합니다:

• 이동된 가우시안 (유한 차원): $p_1 = N(\mu_1, \Sigma)$ 및 $q_1 = N(\nu_1, \Sigma)$의 경우, 실현 가능 영역은 마할라노비스 거리에 의해 결정됩니다. 파레토 프론티어는 $\alpha = \Delta + \epsilon$로 주어지며, 여기서 $\Delta = \|\Sigma^{-1/2}(\mu_1 - \nu_1)\|_2$입니다.
• 가우시안 백색 잡음 (무한 차원): 결과는 힐베르트 공간의 비모수 모델로 확장되어 유한 차원 가우시안과 동일한 기하학적 구조를 보입니다.
• 로그 볼록 위치 가족: 이 프레임워크는 대칭 로그 볼록 잡음 (예: 라플라스) 을 갖는 1 차원 위치 가족에 적용됩니다.
• 포아송 가족: 포아송 분포와 같은 비위치 가족의 경우, 실현 가능 영역은 특정 구간으로 특징지어지며, 매개변수 비율을 포함하는 더 복잡한 파레토 프론티어가 존재합니다.

2. 알고리즘 및 정보 - 계산 간극

이 논문은 유한 샘플 영역에서 두 가지 데이터 선택 전략을 분석합니다:

• 무작위 제거: 샘플이 균일하게 무작위로 삭제됩니다. 저자들은 이 전략이 정보 이론적 한계와 비교하여 더 작은 실현 가능 영역 (더 나쁜 파레토 프론티어) 을 초래함을 보여주는 유한 샘플 경계를 유도합니다.
• 선택적 제거: 샘플은 유지된 데이터의 경험적 평균과의 거리에 따라 삭제됩니다 (원하는 분포에서 가장 먼 샘플 제거).
• 정보 - 계산 간극: 저자들은 정보 이론적 실현 가능 영역 (이론적으로 가능한 것) 과 이러한 알고리즘으로 달성 가능한 영역 사이의 간극을 입증합니다.
  • 1 차원 가우시안 사례에서 선택적 제거는 무작위 제거보다 더 유리한 정보 - 계산 간극을 달성하지만, 오직 특정 조건 하에서만 가능합니다: 분포 간의 최소 분리 $\Delta$와 원치 않는 샘플의 최소 절반이 제거되는 삭제 예산 ($n_r \gtrsim n_1/2$).

중요성과 주장

이 논문은 도메인 수준 망각을 위한 원칙적이고 모델에 무관한 통계적 프레임워크를 제공한다고 주장합니다. 주요 기여는 다음과 같습니다:

1. 형식화: 샘플 수준 망각을 넘어 가설 검정을 사용하여 도메인의 영향을 지우는 통계적 문제를 형식화하여, 이전의 발산 기반 정의보다 더 해석 가능하고 견고한 기준을 제시합니다.
2. 근본적 한계: 광범위한 분포 클래스에 대한 근본적 한계 (실현 가능 영역 및 파레토 프론티어) 를 특징짓어 달성 가능한 것의 이론적 천장을 확립합니다.
3. 알고리즘 분석: "정보 - 계산 간극"을 정량화하여, 무작위 제거는 계산적으로 저렴하지만 통계적으로 비효율적임을 보이고, 선택적 제거는 특정 분리 및 예산 조건 하에서 이론적 한계에 접근할 수 있음을 보여줍니다.
4. 하류 견고성: 망각의 통계적 정의를 견고한 예측 성능 보장과 직접 연결하여, 망각 과정이 원하는 도메인에서 성능을 저하시키지 않도록 보장합니다.

저자들은 한계를 인정하며, 그들의 프레임워크는 원치 않는 샘플의 식별이 이미 해결되었다는 것 (상류 작업) 을 가정하며, 거리 기반 알고리즘의 성공은 표현 공간의 품질에 의존한다고 명시합니다. 그들은 새로운 모델 업데이트 알고리즘을 제안하기보다는 그러한 알고리즘이 달성해야 할 통계적 기준과 선택 규칙을 제공합니다.