🤖 machine learning

Onboarding Without Forgetting: Hypernetwork Personalization with Data-Free Replay for Personalized Federated Learning

이 논문은 중앙 하이퍼네트워크, 배치별 마스크, 그리고 서버 측 데이터 프리 리플레이를 활용하여 원시 데이터 공유나 재학습 없이도 기존 클라이언트의 성능을 보존하면서 새로운 클라이언트 배치를 효과적으로 온보딩하는 개인화된 연합 학습 프레임워크인 pFedDSH를 소개한다.

원저자: Thinh Nguyen, Le Huy Khiem, Van-Tuan Tran, Khoa D Doan, Nitesh V Chawla, Kok-Seng Wong

게시일 2026-07-22

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Thinh Nguyen, Le Huy Khiem, Van-Tuan Tran, Khoa D Doan, Nitesh V Chawla, Kok-Seng Wong

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신의 스마트폰, 스마트워치, 그리고 이웃의 태블릿이 서로의 개인적인 사진이나 메시지는 절대 공유하지 않으면서도 함께 똑똑해지기 위해 배우고 싶어 하는 세상을 상상해 보세요. 이것이 바로 **연합 학습(Federated Learning)**의 영역입니다. 이는 컴퓨터가 비밀 데이터를 전혀 넘겨주지 않고도 협력할 수 있는 영리한 방법입니다. 마치 여러 명의 요리사가 비밀 수프 레시피를 완성하려고 노력하는 것과 같습니다. 재료를 중앙 주방으로 보내는 대신(그것은 번거롭고 위험할 수 있습니다), 각자 자신의 집에서 조금씩 요리를 한 뒤, 오직 맛에 대한 노트만을 보내면 총괄 셰프가 그 노트들을 섞어 마스터 레시피를 개선하는 방식입니다.

보통 우리는 이 요리사 그룹이 첫날부터 고정되어 있다고 상상합니다. 하지만 현실 세계에서는 새로운 사람들이 끊임없이 파티에 합류합니다. 예를 들어, 새로운 병원이 의료 연구 네트워크에 참여하거나, 새로운 학교가 문해력 프로그램에 참여할 수 있습니다. 이는 까다로운 상황을 만듭니다. 만약 총괄 셰프가 새로운 요리사들을 만족시키기 위해 계속해서 마스터 레시피를 바꾼다면, 기존 요리사들은 이미 잘 만들고 있던 수프 만드는 법을 잊어버릴 수도 있기 때문입니다. 이것이 성장하는 팀에서 발생하는 '망각(forgetting)'의 문제입니다. 큰 질문은 이것입니다: 어떻게 하면 기존 팀원들이 기술을 잃지 않도록 하면서 새로운 구성원을 환영하고 그들로부터 배울 수 있을까요?

"Onboarding Without Forgetting(망각 없는 온보딩)"이라는 제목의 이 논문은 바로 그 문제를 다룹니다. 연구진은 **점진적 클라이언트 온보딩(Progressive Client Onboarding)**이라는 새로운 시나리오를 도입했습니다. 여기서 과업(예: X-레이에서 폐렴 분류하기)은 그대로 유지되지만, 참여자 그룹은 시간이 지남에 따라 배치 단위로 늘어납니다. 연구진은 좌절스러운 트레이드오프(trade-off)를 발견했습니다. 즉, 새로운 구성원들과 공유 지식을 업데이트하면 기존 구성원들의 성능이 떨어지지만, 기존 구성원들을 보호하기 위해 지식을 동결하면 새로운 구성원들이 새로운 것을 배울 수 없게 되어 그룹의 발전이 멈춘다는 것입니다.

이 문제를 해결하기 위해 저자들은 pFedDSH라는 새로운 방법을 제안합니다. 상상해 보세요, 총괄 셰프에게는 어떤 요리사(기존이든 새로 왔든)에게도 즉석에서 맞춤형 수프 레시피를 만들어 줄 수 있는 마법 같은 "레시피 생성기(하이퍼네트워크)"가 있습니다. 하지만 여기에는 마법 같은 기술이 있습니다. 이 생성기는 "신호등(마스크)" 세트를 사용하여 어떤 부분의 레시피를 기존 요리사들을 위해 잠가둘지, 그리고 어떤 부분을 새로운 요리사들이 수정할 수 있도록 열어둘지를 결정합니다. 이를 통해 기존 요리사들의 레시피가 안전하게 보호됩니다.

더 나아가, 이 시스템은 "유령 주방(데이터 프리 리플레이, data-free replay)"을 사용합니다. 서버는 기존 요리사들의 개인적인 재료를 볼 수 없기 때문에, 실제 재료와 똑같이 보이고 맛이 나는 특별한 합성 재료를 만드는 기술을 사용합니다. 그런 다음 서버는 이 가짜 재료를 사용하여 레시피 생성기를 부드럽게 유도함으로써, 새로운 요리사들로부터 배운 개선 사항이 기존 요리사들을 다시 훈련시킬 필요 없이 조용히 전달되도록 합니다.

연구진은 CIFAR-10 및 Tiny-ImageNet과 같은 이미지 데이터셋을 통해 이 방법을 테스트했습니다. 그 결과, 이 방법은 새로운 클라이언트가 강력하게 시작할 수 있게 해주는 동시에(단독 훈련 대비 2%~~6% 향상), 기존 클라이언트들에게도 새로운 배치가 합류함에 따라 작지만 꾸준한 개선(3%~~6% 이득)을 제공한다는 것을 발견했습니다. 기존 팀의 성능을 해치거나 정체시키는 다른 방법들과 달리, pFedDSH는 모두를 더 나아지게 관리합니다. 이 방식은 통신 속도를 늦추거나 엄청난 양의 추가 컴퓨팅 자원을 요구하지 않으면서도, 원래의 팀원들이 자신들의 레시피를 잊어버리게 만들지 않고도 새로운 친구들을 팀에 온보딩할 수 있음을 증명하며 성공적으로 수행되었습니다.

기술 요약: 망각 없는 온보딩: 데이터 없는 리플레이를 이용한 하이퍼네트워크 개인화 기반 개인화 연합 학습 (Onboarding Without Forgetting: Hypernetwork Personalization with Data-Free Replay for Personalized Federated Learning)

1. 문제 정의: 연합 학습에서의 점진적 클라이언트 온보딩 (PCO-FL)

본 논문은 기존의 개인화 연합 학습(pFL) 및 연합 지속 학습(FCL) 문헌에서 발견된 공백을 식별합니다. 표준 pFL은 정적인 클라이언트 집합을 가정하고, FCL은 순차적인 태스크 변화를 가정하는 반면, 실제 시나리오에서는 고정된 태스크와 레이블 공간 내에서 클라이언트 인구(population)가 시간에 따라 진화하는 경우가 많습니다.

저자들은 이 설정을 **연합 학습에서의 점진적 클라이언트 온보딩(Progressive Client Onboarding in Federated Learning, PCO-FL)**이라고 정의합니다. 이 체제에서는 다음과 같은 특성을 갖습니다:

태스크 안정성: 분류 태스크와 레이블 공간은 일정하게 유지됩니다.
동적 코호트(Dynamic Cohorts): 클라이언트는 시간에 따라 배치( $B_t$ ) 단위로 도착합니다. 일단 온보딩되면, 기존 클라이언트( $C_{<t}$ )는 로컬에서 재학습하지 않으며, 새로운 배치가 합류하는 동안 "동결(frozen)" 상태로 유지됩니다.
핵심 갈등:
1. 선제적 적응 (Proactive Adaptation, PA): 새로운 클라이언트를 위해 공유 모델을 업데이트하면 이들의 성능은 향상되지만(강력한 초기값 제공), 일반적으로 그래디언트 불일치와 용량 충돌로 인해 기존 클라이언트의 정확도가 저하됩니다.
2. 소급적 개선 (Retroactive Improvement, RI): 공유 모델을 동결하는 것은 기존 클라이언트를 보호하지만, 이후 배치에서 습득한 새로운 지식으로부터 혜com을 얻는 것을 방해합니다.

목표는 기존 클라이언트의 로우 데이터를 사용하거나 재학습하지 않고도, 새로운 클라이언트를 위한 PA를 극대화하는 동시에 기존 클라이언트에 대해 비음수(non-negative)의 RI(개선 또는 안정성)를 보장하는 것입니다.

2. 방법론: pFedDSH

이러한 트레이드오프를 해결하기 위해, 저자들은 pFedDSH(데이터 없는 서브-하이퍼네트워크를 통한 개인화 연합 학습)를 제안합니다. 이 프레임워크는 세 가지 통합된 구성 요소로 이루어져 있습니다.

A. 개인화를 위한 중앙 하이퍼네트워크

직접 로컬 모델을 훈련하는 대신, 중앙 서버는 하이퍼네트워크 $H(\cdot; \phi)$ 를 유지합니다.

메커니즘: 각 클라이언트 $c$ 는 임베딩 $e_c$ 로 표현됩니다. 하이퍼네트워크는 베이스 아키텍처에 대한 개인화된 가중치 $\theta_c = H(e_c; \phi)$ 를 생성합니다.
이점: 이를 통해 서버는 개인화를 제어하고, 새로운 클라이언트를 위한 즉각적인 모델을 생성하며, 클라이언트가 하이퍼네트워크 파라미터를 로컬에서 미세 조정할 필요 없이 중앙에서 용량 할당을 관리할 수 있습니다.

B. 배치별 이진 마스킹 (Batch-Specific Binary Masking)

새로운 업데이트가 기존 클라이언트에게 중요한 지식을 덮어쓰는 것을 방지하기 위해, 이 방법은 학습 가능한 이진 마스크를 사용합니다.

용량 할당: 각 온보딩 단계 $t$ 와 레이어 $\ell$ 에 대해, 서버는 마스크 로짓 $z^{(\ell)}_t$ 를 학습합니다. 시그모이드 함수와 높은 스케일 $\gamma$ 를 사용하여 이를 근사 이진 게이트 $g^{(\ell)}_t$ 로 변환합니다.
누적 합집합 (Cumulative Union): 누적 마스크 $m^{(\ell)}_{\le t}$ 는 이전 마스크들과 현재 단계의 게이트 간의 원소별 최댓값(element-wise maximum)으로 유지됩니다.
그래디언트 변조: 가중치는 단계 $t$ 에서 새롭게 활성화된 채널을 포함하는 경우에만 업데이트되도록 그래디언트가 변조됩니다. 만약 특정 연결이 이미 이전 배치에 할당되었다면, 해당 그래디언트는 0으로 처리되어 기존 클라이언트를 위한 용량을 동결하는 동시에, 새로운 용량이 충돌하는 업데이트를 흡수할 수 있도록 합니다.

C. 서버 측 데이터 없는 리플레이 (Server-Side Data-Free Replay)

기존 클라이언트는 재학습하지 않고 로우 데이터도 비공개이므로, 서버는 DeepInversion을 사용하여 데이터를 합성하고 개선 사항을 역방향으로 전파합니다.

합성: 서버는 클라이언트 훈련 단계의 BatchNorm 레이어의 실행 통계량(평균 및 분산)과 일치하는 손실 함수를 최와 함께, 자연스러운 이미지 구조를 보장하기 위한 Total Variation (TV) 및 L2 정규화를 결합하여 합성 이미지 $\tilde{x}$ 를 생성합니다.
소급적 미세 조정: 현재 배치에서 유도된 합성 데이터셋 $S_t$ 를 사용하여 서버는 하이퍼네트워크를 미세 조정합니다. 결정적으로, 서버는 각 이전 배치 $t' < t$ 의 배치별 마스크에 의해 정의된 특정 서브네트워크를 검색하고 해당 파라미터를 업데이트합니다.
결과: 이를 통해 서버는 클라이언트가 로우 데이터를 보유하거나 로컬 훈련을 수행할 필요 없이, 최근 배치에서 얻은 새로운 지식을 기존 클라이언트에게 "가르칠" 수 있습니다.

3. 주요 기여

PCO-FL의 정의: 본 논문은 고정된 태스크를 가지나 클라이언트 인구가 진화하는 상황을 통해, 표준 pFL 및 FCL과 구별되는 PCO-FL 시나리오를 공식적으로 도입하고 분석합니다.
경험적 조사: 통제된 실험을 통해 저자들은 다음을 입증합니다:
- 점진적 집계는 새로운 클라이언트에게는 도움(양의 PA)을 주지만 기존 클라이언트에게는 해악(음의 RI)을 끼칩니다.
- 모델을 동결하는 것은 기존 클라이언트를 보호(RI $\approx$ 0)하지만 지식 전이를 방해합니다.
- 양의 PA와 양의 RI를 동시에 달성하기 위해서는 메커니즘이 필요합니다.
pFedDSH 프레임워크: 하이퍼네트워크, 배치별 마스킹, 데이터 없는 리플레이를 결합하여 온보딩 딜레마를 해결하는 새로운 아키텍처를 제안합니다.
포괄적 평가: 다양한 데이터셋(CIFAR-10, CIFAR-100, Tiny-ImageNet)에 대해 pFedDSH가 기존 pFL, 레이트 클라이언트 조인 하이퍼네트워크, FCL 베이스라인들을 능가함을 광범위한 실험을 통해 보여줍니다.

4. 실험 결과

저자들은 다양한 온보딩 스케줄(2, 5, 11개 배치) 하에서 pFedDSH를 여러 베이스라인(FedPer, FedRep, FedSelect, pFedHN, PeFLL, FedWeIT 등)과 비교 평가합니다.

성능 (PA & RI):
- 기존 클라이언트: pFedDSH는 일관되게 양의 RI(예: 스케줄에 따라 CIFAR-10에서 +3.80% ~ +6.20%)를 달성하는 유일한 방법입니다. 이는 기존 클라이언트가 새로운 배치가 합류함에 따라 실제로 개선됨을 의미합니다. 다른 모든 베이스라인은 상당한 정확도 저하(음의 RI)를 겪습니다.
- 새로운 클라이언트: pFedDSH는 강력한 PA(고립 훈련보다 높은 이득)를 유지하며, 다른 하이퍼네트워크 기반 방법들과 대등하거나 더 나은 성능을 보입니다.
용량 효율성:
- 뉴런 사용량 분석에 따르면, pFedDSH는 모든 배치에 대해 서로 분리된 서브네트워크를 할당하지 않습니다. 대신, 배치 간에 최대 ~40%의 채널을 재사용하며, 필요할 때만 점진적으로 전체 용량을 늘립니다.
효율성:
- 통신: 라운드당 통신 오버헤드는 다른 하이퍼네트워크 방법들과 유사합니다(수 킬로바이트 차이).
- 지연 시간: 서버 측 리플레이가 계산량을 추가하지만, pFedDSH는 배치당 한 번만 실행(분할 상환 비용)되므로, 매 라운드마다 리플레이를 실행하는 방법(HR 등)이나 리플레이를 전혀 하지 않는 방법과 비교했을 때 완만한 지연 시간 증가를 보입니다.

5. 의의 및 주장

본 논문은 클라이언트 참여가 동적인 실제 연합 시스템에 pFedDSH가 실질적인 솔루션을 제공한다고 주장합니다. 그 의의는 다음과 같습니다:

"온보딩 vs 망각" 트레이드오프 해결: 기존 클라이언트의 성능을 희생하지 않고도 새로운 클라이언트를 온보딩하고 시스템의 글로벌 지식을 향상시킬 수 있음을 입증했습니다.
개인정보 보호: 클라이언트의 로우 데이터나 그래디언트 대신 BatchNorm 통계량으로부터 이미지를 합성하는 서버 측 데이터 없는 리플레이를 사용함으로써, 이 방법은 FL의 핵심적인 개인정보 문제를 해결하면서 지식 전이를 용이하게 합니다.
확장성: 마스킹 메커니즘은 모델이 배치 수에 따라 선형적으로 증가하지 않도록 보장하여 장기적인 배포에 적합하게 만듭니다.

저자들은 pFedDSH가 개인화와 지속 학습 사이의 간극을 메우며, 이전에 간과되었던 설정에서 진화하는 클라이언트 코호트를 위한 견고한 프레임워크를 제공한다고 결론짓습니다.