Rethinking Federated Unlearning via the Lens of Memorization

기술 요약: 기억 현상 관점에서 바라본 연합 학습 삭제 재고

문제 제기
연합 학습 (FL) 은 GDPR 및 CCPA(잊힐 권리) 와 같은 개인정보 보호 규정을 준수하기 위해 기계 삭제 (machine unlearning) 를 지원해야 할 필요성이 점점 더 커지고 있습니다. 클라이언트의 데이터를 제거한 후 모델을 처음부터 다시 훈련하는 것은 삭제를 위한 금표준이지만, 이는 막대한 계산 및 통신 비용을 초래합니다. 기존 연합 삭제 (FU) 접근법들은 표현을 교란하거나, 과거 업데이트를 활용하거나, 경사 상승을 적용함으로써 이러한 재훈련을 근사화하려 시도합니다. 그러나 저자들은 이러한 방법들이 삭제 대상 클라이언트와 나머지 클라이언트 간의 공유 가능한 일반화 패턴인 **중첩 정보 (overlapping information)**와 클라이언트 고유의 세부 사항인 고유 기억 정보 (unique memorization information) 사이의 중요한 구분을 종종 간과한다고 주장합니다. 현재 알고리즘들은 종종 전체 삭제 데이터셋의 영향을 제거하려 시도하여, 실수로 중첩 패턴까지 제거합니다. 이는 특정 기억된 데이터를 제거하지 못하는 비효율적인 삭제와 삭제 대상 클라이언트와 유사한 패턴을 공유하는 나머지 클라이언트의 성능이 불균형적으로 저하되는 불공정성으로 이어집니다.

방법론
본 논문은 정보 이론과 기억 현상 개념에 기반한 프레임워크를 제안하며, 이를 통해 **연합 기억 가지치기 (Federated Memorization Pruning, FedMemPrune)**를 개발했습니다.

1. 이론적 기반 (정보 분해):
   저자들은 부분 정보 분해 (Partial Information Decomposition) 를 사용하여 삭제를 공식화했습니다. 그들은 삭제 데이터 ($D_u$) 와 나머지 데이터 ($D_r$) 의 합집합으로부터 모델이 학습한 정보를 다음과 같이 구성된다고 정의합니다.

   • 시너지 정보 (Synergistic Information): $D_u$와 $D_r$이 공동으로 제공하는 정보.
   • 중복/중첩 정보 ($F_g$): $D_u$와 $D_r$ 간에 공유되는 정보.
   • 고유/기억 정보 ($F_m$): $D_u$에 특화된 정보.

   저자들은 일반적인 삭제 시나리오에서 시너지 구성 요소는 미미하다고 주장합니다. 따라서 삭제의 목표는 $D_u$의 모든 정보를 지우는 것이 아니라, 구체적으로 **고유 기억 정보 ($F_m$)**를 제거하면서 중첩 정보 ($F_g$) 는 보존하는 것이어야 합니다. $F_g$를 제거하면 일반화와 공정성이 해치는 반면, $F_m$을 제거하면 유용성을 희생하지 않고 원하는 "잊음"을 달성할 수 있습니다.

2. 평가 지표: 그룹화 기억 평가 (Grouped Memorization Evaluation, GME):
   세밀한 평가 지표의 부재를 해결하기 위해 저자들은 GME 를 도입했습니다. 이 지표는 $D_u \cup D_r$로 훈련된 모델과 $D_r$만으로 훈련된 모델 간의 올바른 분류 확률 차이를 정의하여 삭제 데이터셋 내의 각 예시에 대한 **기억 점수 (memorization score)**를 계산합니다. 그런 다음 예시들을 이러한 점수 (예: 고기억 대 저기억) 에 따라 그룹화합니다. 삭제 효율성은 이러한 하위 그룹에 대한 삭제된 모델의 성능이 재훈련된 기준선과 얼마나 근접하는지로 측정되며, 구체적으로 고기억 예시들의 제거를 목표로 합니다.

3. 알고리즘: FedMemPrune:
   FedMemPrune 은 가지치기 기반의 3 단계 접근법입니다.

   • 1 단계 (기억 매개변수 위치 확인): 알고리즘은 글로벌 모델 내의 **중복 매개변수 (redundant parameters)**를 식별합니다. 이들은 나머지 클라이언트 ($D_r$) 로부터 최소한의 경사 업데이트를 받는 매개변수로 정의됩니다. 가설은 $D_r$에 중요한 매개변수가 중첩/일반화 지식을 인코딩하는 반면, 중복 매개변수는 $D_u$에 특화된 고유 기억을 인코딩한다는 것입니다.
   • 2 단계 (초기화): 식별된 중복 매개변수는 원래 초기화 전략 (예: Kaiming Uniform) 을 사용하여 재초기화되어, 기억된 정보를 효과적으로 지웁니다.
   • 3 단계 (미세 조정): 모델은 나머지 클라이언트 ($D_r$) 에서 미세 조정되어 일반화 성능을 복원하고 중첩 표현을 재구성합니다.

주요 기여

• 개념적 전환: 본 논문은 연합 삭제를 모든 데이터 영향력을 지우는 과정이 아니라 클라이언트 고유의 기억을 제거하는 과정으로 재정의하며, 모델의 유용성과 공정성을 유지하기 위해 중첩 정보는 보존되어야 한다고 주장합니다.
• 새로운 지표: 기억된 꼬리 데이터의 잊음과 일반화 가능한 머리 데이터의 보존을 구분하는 예시 수준의 삭제 효율성 평가를 가능하게 하는 그룹화 기억 평가 (GME) 의 도입.
• 제안된 알고리즘: 나머지 데이터에 대한 매개변수 중복성을 활용하여 기억 정보를 선택적으로 가지치기하는 FedMemPrune 의 개발.

실험 결과
FedMemPrune 은 Halimi 등 (경사 상승), Liu 등 (피셔 정보 행렬), FedRecovery, FedAU, FedOSD, NoT 와 같은 기준선들과 비교하여 IID 및 Non-IID 설정 하에서 CIFAR-10, CIFAR-100, EMNIST 에서 광범위한 실험을 수행했습니다.

• 삭제 효율성: FedMemPrune 은 특히 고기억 하위 그룹 내에서 재훈련된 기준선의 성능과 밀접하게 일치합니다. 예를 들어, CIFAR-100(Non-IID) 에서 이 방법은 기준선 (21.74%) 에 비해 고기억 그룹 (27.25%) 에서의 분류 정확도를 재훈련된 모델에 훨씬 더 가깝게 달성했으며, 다른 기준선들은 종종 고기억 데이터를 잊지 못하거나 과도하게 잊는 경향이 있었습니다.
• 일반화 성능: 중첩 정보를 보존함으로써 FedMemPrune 은 유지된 데이터셋에서 높은 테스트 정확도를 유지하며, 종종 다른 삭제 기준선들을 능가하고 재훈련된 기준선에 근접합니다 (예: CIFAR-100 IID 에서 63.33%).
• 공정성: 이 방법은 국소적 공정성에서 우수한 성과를 보여주어, 나머지 클라이언트 간 성능 변화의 분산을 최소화합니다. 이는 중첩 정보를 보존함으로써 삭제 대상 클라이언트와 데이터를 공유하는 클라이언트들의 불균형적인 성능 저하를 방지함을 확인시켜 줍니다.
• 효율성: FedMemPrune 은 전체 모델을 처음부터 다시 훈련할 필요가 없으므로, 완전한 재훈련에 비해 약 50% 적은 시간 내에 목표 성능을 달성합니다.

의의 및 주장
저자들은 그들의 작업이 연합 삭제를 강화하기 위한 이론적 통찰과 실용적 전략을 모두 제공한다고 주장합니다. 기억과 중첩 정보를 구분함으로써, 그들은 효과적인 삭제는 전자가 아닌 전자만을 목표로 해야 한다고 주장합니다. 논문은 FedMemPrune 이 유지된 지식의 유용성이나 클라이언트 간의 공정성을 희생하지 않고 견고하고 효율적인 삭제를 성공적으로 달성한다고 주장합니다. 이 작업은 현재 평가 프로토콜이 불충분하며, 연합 삭제 메커니즘을 엄격하게 평가하고 개선하기 위해서는 기억 인식 관점이 필요함을 강조합니다. 저자들은 삭제 단계 동안 삭제 데이터셋을 사용할 수 없는 시나리오에서 그들의 접근 방식이 특히 적합하다고 강조하는데, 이는 가지치기할 대상을 식별하기 위해 나머지 클라이언트의 경사에 의존하기 때문입니다.