Federated Learning and Unlearning for Recommendation with Personalized Data Sharing

이 논문은 사용자의 개인화된 데이터 공유 의사를 반영하고 공유된 데이터의 영향력을 제거할 수 있는 'FedShare'라는 새로운 연방 학습 및 언러닝 프레임워크를 제안하여, 기존 연방 추천 시스템의 한계를 극복하고 저장 오버헤드를 줄이면서 높은 추천 성능을 달성합니다.

핵심

1. 문제점: "모두에게 똑같은 규칙"의 한계

지금까지의 추천 시스템은 **"모든 사용자의 데이터는 절대 서버에 보내지 않는다"**는 원칙을 고수했습니다. 마치 모든 사람이 자신의 비밀 일기를 절대 남에게 보여주지 않는 것과 같습니다.

• 장점: 개인정보가 안전합니다.
• 단점: 하지만 시스템이 "너는 이걸 좋아할 거야"라고 추측할 수 있는 정보가 부족해서 추천이 별로 맞지 않을 수 있습니다.

또한, 만약 어떤 사용자가 "내 데이터를 조금만 보여줄게, 대신 더 좋은 추천을 해줘"라고 했다가 나중에 "아니야, 그거 지워줘!"라고 요청하면, 기존 시스템은 그 데이터를 완전히 잊어버리기 위해 시스템을 처음부터 다시 만들어야 (재학습) 했습니다. 이는 시간이 너무 오래 걸려 현실적으로 불가능합니다.

2. 해결책: FedShare (공유와 망각의 자유)

이 논문이 제안한 FedShare는 사용자에게 선택권을 줍니다.

🎁 1 단계: 맞춤형 데이터 공유 (학습 단계)

사용자는 자신의 데이터를 어떻게 공유할지 3 가지 중 하나를 선택할 수 있습니다.

1. 전부 공유: "내 모든 취향을 다 보여줄게! 더 좋은 추천을 해줘!"
2. 부분 공유: "비밀은 지키고 싶지만, 일부는 보여줄게."
3. 아무것도 공유 안 함: "내 데이터는 내 손에 맡겨줘."

이 시스템은 데이터를 공유한 사용자들의 정보를 바탕으로 **거대한 '취향 지도'**를 서버에서 만듭니다.

• 비유: 각자 자신의 집 (로컬 기기) 에 있는 장난감을 가지고 놀다가, 일부 장난감을 공동 놀이터 (서버) 에 가져와서 함께 놀면, 더 다양한 친구들을 만나고 더 재미있는 게임을 할 수 있는 것과 같습니다.
• 핵심 기술: 서버는 이 거대한 지도를 보고, 각자의 집 (로컬) 에서 본 작은 지도와 비교하며 "이 장난감은 사실 저 친구랑도 잘 어울리네?"라고 더 정확한 연결고리를 찾아냅니다. 이를 통해 추천의 정확도가 크게 올라갑니다.

🗑️ 2 단계: 데이터 잊기 (Unlearning 단계)

사용자가 "아까 보여줬던 데이터는 이제 지워줘. 그리고 그 영향도 시스템에서 지워줘"라고 요청하면, FedShare 는 시스템을 처음부터 다시 만들지 않고 그 부분만 깔끔하게 지웁니다.

• 기존 방식의 문제: 과거의 모든 학습 기록 (기울기 정보) 을 저장해 두어야 해서 메모리 (저장 공간) 를 엄청나게 많이 차지했습니다.
• FedShare 의 방식: 서버는 과거의 '장난감 배치도 (임베딩)' 몇 가지만 간직해 둡니다.
  • 비유: 식당이 손님이 "이 메뉴는 이제 빼주세요"라고 하면, 전체 레시피를 다시 적지 않고, 그 메뉴가 들어갔던 과거의 주문 기록 몇 장만 보고 "아, 이 재료 조합은 이제 안 쓰네"라고 기억을 지우는 것과 같습니다.
  • 효과: 저장 공간을 거의 차지하지 않으면서도, 시스템이 그 데이터를 '잊은' 것처럼 행동하게 만듭니다.

3. 왜 이 기술이 중요한가요?

1. 개인 맞춤 자유: "비밀은 지키고 싶지만, 좋은 추천은 받고 싶다"는 사용자의 모순된 욕구를 해결해 줍니다.
2. 잊혀질 권리 (Right to be Forgotten): 유럽의 GDPR 같은 법규처럼, 사용자가 원하면 자신의 데이터와 그 영향력을 완전히 지울 수 있게 해줍니다.
3. 효율성: 시스템을 처음부터 다시 만들지 않아도 되므로 시간과 비용이 절약됩니다.

4. 요약

이 논문은 **"우리가 원하는 만큼만 데이터를 공유하고, 원하면 언제든지 그 데이터를 잊게 할 수 있는 똑똑한 추천 시스템"**을 만들었습니다.

• 공유할 때: 서로의 취향을 공유해서 더 똑똑한 지도를 만들고,
• 잊을 때: 시스템의 메모리를 많이 쓰지 않으면서 그 데이터를 깔끔하게 지워버립니다.

이 기술은 앞으로 우리가 더 안전하면서도 더 만족스러운 추천 서비스를 받을 수 있게 해줄 것입니다.

기술 요약

논문 제목: 개인화된 데이터 공유를 위한 추천 시스템의 연방 학습 및 언러닝 (FedShare)

1. 문제 정의 (Problem Statement)

기존의 연방 추천 시스템 (Federated Recommender Systems, FedRS) 은 사용자의 프라이버시를 보호하기 위해 모든 상호작용 데이터를 로컬 장치에 유지하고 서버에는 모델 파라미터만 전송하는 '일률적 (one-size-fits-all)' 접근 방식을 취합니다. 그러나 이 방식에는 다음과 같은 한계가 존재합니다.

• 고정된 프라이버시 선호도: 모든 사용자가 데이터를 공유하기를 꺼린다고 가정하여, 더 나은 추천 성능을 위해 일부 또는 전 데이터를 공유하려는 사용자의 의사를 반영하지 못합니다.
• 동적 데이터 공유 및 삭제 요구 부재: 최근 연구들은 개인화된 데이터 공유를 지원하지만, 사용자가 공유 후 다시 데이터를 삭제하거나 (Right to be Forgotten), 공유된 데이터가 모델에 미친 영향을 제거하는 '언러닝 (Unlearning)' 기능을 지원하지 못합니다.
• 기존 언러닝 방법의 비효율성: 기존 연방 추천 언러닝 방법 (예: FRU, CUFRU) 은 모델 재학습 없이 데이터의 영향을 제거하기 위해 클라이언트나 서버가 대량의 과거 그래디언트 (gradient) 정보를 저장해야 하므로, 저장 오버헤드가 크고 리소스가 제한된 환경에 부적합합니다.

2. 제안 방법론: FedShare

저자들은 위 문제를 해결하기 위해 FedShare라는 새로운 연방 학습 - 언러닝 프레임워크를 제안합니다. 이 프레임워크는 개인화된 데이터 공유와 효율적인 언러닝을 동시에 지원합니다.

A. 학습 단계 (Learning Phase): 개인화된 데이터 공유 및 대조 학습

• 개인화된 데이터 공유: 사용자는 자신의 상호작용 데이터를 '전체 공유', '일부 공유', '전체 비공유' 중 선택하여 서버에 전송할 수 있습니다.
• 서버 측 고차원 그래프 구축: 서버는 공유된 데이터를 기반으로 사용자 - 아이템 이분 그래프 (High-order user-item bipartite graph) 를 구성합니다. 이는 클라이언트의 로컬 1 차원 그래프를 보완하여 고차원 협업 신호를 포착합니다.
• 대조 학습 (Contrastive Learning):
  • 로컬 뷰 (Local View): 클라이언트에서 FedAvg 등을 통해 학습된 아이템 임베딩.
  • 글로벌 뷰 (Global View): 서버의 고차원 그래프에서 도출된 아이템 임베딩.
  • 이 두 뷰를 정렬 (Align) 하여 아이템 표현의 품질을 향상시키고, BPR(Bayesian Personalized Ranking) 손실 함수와 결합하여 모델을 최적화합니다.

B. 언러닝 단계 (Unlearning Phase): 대조적 언러닝 (Contrastive Unlearning)
사용자가 공유한 데이터를 삭제 요청할 때, 전체 모델을 처음부터 재학습하지 않고 효율적으로 영향을 제거합니다.

• 데이터 제거: 서버에서 요청된 데이터를 제거하여 업데이트된 공유 그래프를 생성합니다.
• 새로운 뷰 생성:
  • 새 로컬 뷰: 남은 데이터를 기반으로 연방 학습을 수행하여 얻은 업데이트된 임베딩.
  • 새 글로벌 뷰: 업데이트된 서버 그래프에서 추론된 임베딩.
  • 잊혀진 뷰 (Forgotten Views): 삭제된 데이터를 기반으로 구성한 '잊혀진 그래프'와 **과거의 소수 임베딩 스냅샷 (Historical Embedding Snapshots)**을 사용하여 해당 데이터가 모델에 미친 영향을 재구성한 임베딩.
• 대조적 언러닝 전략:
  • 정렬 (Alignment): 새 로컬 뷰와 새 글로벌 뷰를 일치시켜 남은 데이터에 대한 성능을 유지합니다.
  • 분리 (Separation): 새 로컬 뷰를 '잊혀진 뷰'와 반대 방향으로 밀어내어 (Negative Pair), 삭제된 데이터의 영향을 제거합니다.
  • 저장 효율성: 기존 방법과 달리 대량의 그래디언트 저장 없이 소수의 과거 임베딩 테이블만 유지하여 저장 오버헤드를 획기적으로 줄입니다.

3. 주요 기여 (Key Contributions)

1. 최초의 통합 프레임워크: 연방 추천 시스템에서 개인화된 데이터 공유와 데이터 언러닝 (삭제 요청 및 영향 제거) 을 동시에 지원하는 최초의 연구입니다.
2. 메모리 효율적인 대조적 언러닝: 대량의 과거 그래디언트 저장 없이 소수의 임베딩 스냅샷만 사용하여 언러닝을 수행함으로써 저장 오버헤드를 크게 감소시켰습니다.
3. 성능 향상: 대조 학습을 통해 로컬 및 글로벌 협업 신호를 효과적으로 결합하여 학습 단계와 언러닝 단계 모두에서 우수한 추천 성능을 달성했습니다.

4. 실험 결과 (Results)

MovieLens-1M, Fashion, Video Game 등 3 개의 공개 데이터셋을 통해 실험을 수행했습니다.

• 학습 단계 성능: FedShare 는 기존 연방 추천 시스템 (FedShare-FedAvg, CDCGNNFed, PDC-FRS) 보다 HR@20 및 NDCG@20 지표에서 일관되게 우수한 성능을 보였습니다. 이는 대조 학습을 통한 로컬/글로벌 뷰 정렬이 효과적임을 입증합니다.
• 언러닝 단계 성능:
  • 정확도: 완전 재학습 (Retrain) 기준 (Ground Truth) 에 근접하는 성능을 유지하며, 기존 언러닝 방법 (FRU, CUFRU) 보다 높은 추천 정확도를 기록했습니다.
  • 효율성: 완전 재학습보다 훨씬 빠른 언러닝 시간을 보였습니다.
  • 저장 오버헤드: 기존 방법 (FRU, CUFRU) 이 대량의 그래디언트를 저장해야 하는 반면, FedShare 는 임베딩 테이블만 소량 저장하여 저장 공간을 대폭 절감했습니다 (약 1/5 수준 이하).
• 초기화 분석: 사용자 공유 비율, 대조 학습 가중치, 과거 스냅샷 수 (M), 언러닝 비율 등 다양한 하이퍼파라미터에 대한 민감도 분석을 통해 모델의 견고성을 확인했습니다.

5. 의의 및 결론 (Significance)

이 연구는 연방 추천 시스템의 실용성을 크게 높였습니다.

• 유연한 프라이버시 관리: 사용자의 동적인 프라이버시 선호도를 반영하여 데이터 공유를 유연하게 제어할 수 있게 했습니다.
• GDPR 준수: '잊힐 권리 (Right to be Forgotten)'를 기술적으로 구현하여, 데이터 삭제 요청 시 모델에서 해당 데이터의 영향을 완전히 제거할 수 있음을 증명했습니다.
• 실용성: 고비용의 재학습 없이, 그리고 제한된 저장 공간에서도 효율적으로 언러닝을 수행할 수 있는 방법을 제시함으로써, 실제 산업 환경에 적용 가능한 솔루션을 제공합니다.

한계점 및 향후 과제:
현재 방법은 언러닝 과정에서 남은 사용자의 참여 (통신 및 계산 오버헤드) 가 필요하며, 데이터를 공유하지 않았지만 연방 학습에 참여한 사용자의 언러닝 요청은 지원하지 않습니다. 향후 서버 측 중심의 완전한 언러닝 메커니즘 연구가 필요하다고 언급했습니다.