FedDAF: Federated Domain Adaptation Using Model Functional Distance

기술 요약: FedDAF

문제 정의

연합 도메인 적응(Federated Domain Adaptation, FDA)은 데이터 프라이버시를 유지하면서 소스 클라이언트와 협력하여 타겟 클라이언트의 모델 성능을 향상시키는 것을 목표로 합니다. 그러나 기존의 FDA 방식들은 다음과 같은 두 가지 핵심적이고 종종 동시에 간과되는 과제에 직면해 있습니다:

1. 도메인 시프트(Domain Shift): 소스 클라이언트와 타겟 클라이언트 간의 데이터 분포 불일치는 로컬 모델 드리프트를 유발하며, 이는 최적의 글로벌 집계와 타겟에 대한 일반화 성능 저하로 이어집니다.
2. 데이터 희소성(Data Scarcity): 기존의 많은 접근 방식은 타겟 클라이언트가 충분한 라벨 없는 데이터를 보유하고 있다고 가정합니다. 하지만 실제로는 타겟 클라이언트가 심각한 라벨 샘플 부족을 겪는 경우가 많으며, 이로 인해 표준 학습이나 개인화된 연합 학습(Personalized Federated Learning, PFL)이 효과적이지 않게 됩니다.

나아가, 이러한 두 가지 문제를 모두 해결하려고 시도하는 현재의 방법들은 타겟 클라이언트의 목적에 특화된 방식으로 소스 클라이언트로부터 관련 정보를 우선적으로 공유하는 데 실패하는 경우가 많습니다.

방법론: FedDAF

저자들은 FedDAF(Model Functional Distance를 이용한 연합 도메인 적응)를 제안합니다. 이는 데이터가 제한적인 상황에서도 타겟의 특정 목적에 부합하도록 관련 소스 정보를 타겟 모델로 전달하는 것을 극대화하기 위해 설계된 새로운 프레임워크입니다.

핵심 메커니즘: 모델 기능적 거리(Model Functional Distance)

그레디언트 업데이트나 원시 데이터 분포 정렬에 의존하는 방법들과 달리, FedDAF는 모델 기능적 거리를 통해 정량화된 유사성을 바탕으로 글로벌 소스 모델($w^S$)과 타겟 모델($w^T$)을 집계합니다. 이 거리는 다음과 같이 계산됩니다:

1. 평균 그레디언트 필드(Mean Gradient Fields): 서버는 글로벌 소스 모델을 타겟 클라이언트에 브로드캐스트합니다. 타겟 클라이언트는 (비록 제한적일지라도) 타겟 데이터를 사용하여 글로벌 소스 모델과 자신의 로컬 모델에 대한 그레디언트 필드를 계산합니다.
2. 코사인 유사도 및 각도: 두 모델의 평균 그레디언트 필드가 계산됩니다. 이 평균 그레디언트 사이의 코사인 유사도가 계산되며, 이를 통해 두 모델 사이의 각도 $\theta$가 도출됩니다.
3. Gompertz 함수를 통한 정규화: 각도 $\theta$는 Gompertz 함수를 사용하여 유사성 가중치 $\alpha \in [0, 1]$로 정규화됩니다. 이 가중치는 타겟 목적 함수와 비교했을 때 두 모델 사이의 "거리"를 나타냅니다.
4. 적응형 집계(Adaptive Aggregation): 적응된 타겟 모델($w_n$)은 이전 타겟 모델과 글로벌 소스 모델의 가중 결합으로 형성됩니다:
   $$w_n = \alpha w^S_{n-1} + (1 - \alpha) w^T_{n-1}$$
   여기서 $\alpha$는 집계 가중치 역할을 합니다. 만약 두 모델이 타겟 목적 함수에 대해 기능적으로 유사하다면 소스 모델의 기여도가 높아지며, 두 모델이 서로 멀어진다면 타겟 모델이 보존됩니다.

학습 프로토콜

• 타겟 클라이언트: 적응된 모델 $w_n$을 제한된 타겟 데이터에 대한 로컬 학습의 초기값으로 사용합니다. 목표는 글로벌 소스 목적 함수 $F_S$로부터 통제된 거리를 유지하면서 타겟 목적 함수 $F_T$를 최적화하는 것입니다.
• 소스 클라이언트: 각자의 데이터셋에서 표준 로컬 학습을 수행하고, 서버에서 단순 평균화를 통해 글로벌 소스 모델을 업데이트합니다.
• 반복: 이 과정은 $N$번의 통신 라운드 동안 반복됩니다.

주요 기여

본 논문은 세 가지 주요 기여를 설명합니다:

1. 이중 과제 해결: FedDAF는 기존 연구에서 자주 간과되었던 조합인 FDA에서의 도메인 시프트와 제한된 타겟 데이터를 동시에 해결하기 위해 제안되었습니다.
2. 새로운 집계 전략: 모델 기능적 거리를 사용하는 유사성 기반 집계 방법의 도입입니다. 이 지표는 타겟 데이터에서 평가된 평균 그레디언트 필드로부터 도출되며, 샘플이 희소한 상황에서도 신뢰할 수 있는 유사성 측정을 가능하게 합니다.
3. 목적 정렬 최적화(Objective-Aligned Optimization): 이 방법은 적응된 타겟 모델이 글로벌 소스 목적 함수로부터 최적화된 거리에 위치하면서 타겟 목적 함수의 최적점에서 최적화되도록 보장합니다. 이는 타겟의 요구사항에 구체적으로 정렬된 "최대 관련 정보"의 전달을 극대화합니다.

실험 결과

저자들은 통제된 환경과 실제 도메인 시프트 설정 모두에서 실제 데이터셋을 통해 FedDAF를 검증했습니다.

• 데이터셋:
  • 통제된 시프트(Controlled Shift): 다양한 수준의 가우시안 노이즈(도메인 시프트)와 라벨 희소성(학습 데이터의 5%, 25%, 50%)을 적용한 CIFAR-10.
  • 실제 환경 시프트(Real-World Shift): 다양한 도메인 시프트(예: 사진 vs 스케치, 서로 다른 카메라 유형)를 시뮬레이션한 PACS, VLCS, Office Caltech10 데이터셋.
• 베이스라인: FedDAF는 표준 연합 학습(FedAvg), 파인튜닝된 FedAvg, 개인화된 FL 방법(FedDWA), 그리고 기존 FDA 방법(FedGP)과 비교되었습니다.
• 성능:
  • CIFAR-10에서 FedDAF는 모든 데이터 희소성 및 도메인 시프트 수준에서 모든 베이스라인을 일관되게 능가했습니다.
  • 실제 데이터셋(PACS, VLCS, Office Caltech10)에서 FedDAF는 특히 극단적인 데이터 희소성(예: 타겟 학습 샘플의 2%만 사용)이 있는 시나리오에서 기존 FL, PFL 및 FDA 방법보다 우수한 테스트 정확도를 달ek성했습니다.
• 파라미터 분석: 연구 결과, Gompertz 함수의 파라미터 $\mu$가 도메인 시프트 정도에 따라 성능에 영향을 미친다는 것이 밝혀졌으며, 높은 도메인 시프트 하에서는 $\mu=5$가, 낮은 시프트 하에서는 $\mu=1$이 가장 좋은 성능을 보였습니다.

의의 및 주장

본 논문은 FedDAF가 풍부한 타겟 데이터를 가정하는 단계를 넘어선 연합 도메인 적응의 중요한 진전임을 주장합니다. 그 의의는 다음과 같습니다:

• 희소성에 대한 강건성: 타겟 클라이언트가 매우 적은 라벨 샘플을 가진 경우에도 효과적인 적응이 가능하다는 것을 입증하였으며, 이는 중앙 집중식 학습 및 표준 PFL이 실패하는 시나리오입니다.
• 타겟 중심의 적응: 타겟의 고유한 목적을 고려하지 않고 정보를 집계할 수 있는 기존 FDA 방법들과 달리, FedDAF는 타겟의 기능적 거리를 기반으로 집계 가중치를 명시적으로 구축합니다. 이를 통해 "최대 관련 정보"가 타겟 모델에 융합되도록 보장합니다.
• 실제 적용 가능성: 이 방법은 데이터가 격리되어 있고 프라이버시에 민hent하며 라벨이 희소한 의료 영상(예: 유방암 진단)과 같은 실제 분야의 제약 조건을 해결합니다.

저자들은 적응된 타겟 모델을 타겟 목적 함수의 최적점에서 최적화하는 동시에 글로벌 소스 목적 함수로부터 통제된 거리를 유지함으로써, FedDAF가 프라이버시를 보호하는 데이터 희소 환경에서 소스와 타겟 도메인 사이의 간극을 효과적으로 메운다고 결론짓습니다.