EH-FedSAG: Variance-Reduced Federated Learning with Energy-Aware Participation in Energy-Harvesting IoT

기술 요약: "EH-FedSAG: 에너지 수확형 IoT를 위한 분산 감소 기반의 에너지 인지형 연합 학습"

문제 정의
에너지 수확(Energy-Harvesting, EH) 네트워크에서의 연합 학습(Federated Learning, FL)은 에너지 도착의 간헐적이고 확률적인 특성으로 인해 상당한 어려움에 직면해 있습니다. 안정적인 전력을 갖춘 기존의 엣지 디바이스와 달리, EH 디바이스는 환경 에너지원에 의존하므로 시간에 따라 변하는 에너지 가용성을 가집니다. 이는 다음과 같은 이중 레이어의 무작위성을 유발합니다:

1. 불안정한 참여: 디바이스가 특정 라운드에서 로컬 연산 또는 업링크 전송을 수행하기에 충분한 에너지가 부족할 수 있으며, 이로 인해 참여하는 디바이스의 집합이 확률적으로 결정됩니다.
2. 수렴 불안정성: FedAvg와 같은 표준 FL 알고리즘에서 부분적인 참여는 업데이트의 변동성을 초래하여, 종종 사라지지 않는 오차 한계(error floor)와 불안정한 수렴 동작을 발생시킵니다. 이러한 문제는 에너지 제약이 디바이스 참여의 일관성을 더욱 제한하는 EH 시스템에서 더욱 악화됩니다.

기존 연구들이 에너지 인지형 디바이스 선택 및 효율적인 프로토콜을 다루어 왔으나, EH 제약, 에너지 인지형 참여, 그리고 서버 측 메모리 기반의 분산 감소(variance reduction)가 결합된 영향에 대해서는 통합된 프레임워크 내에서 연구된 바 없습니다.

방법론: EH-FedSAG
본 논문은 EH 환경에 적응된 서버 메모리 기반 분산 감소 FL 방법인 EH-FedSAG를 제안합니다. 시스템은 다음과 같은 슬롯 기반 EH 모델 하에서 작동합니다:

• 에너지 역학: 디바이스는 유한한 배터리 용량을 가진 "수확-저장-사용(harvest-store-use)" 패러다임을 따릅니다. 에너지 도착은 i.i.d. 베르누이 프로세스로 모델링됩니다.
• 실행 가능성 제약: 디바이스는 특정 시작 슬롯($s^*$)에서 로컬 훈련($\Omega$ 슬롯)과 전송(1 슬롯)을 모두 수행하기에 충분한 배터리 레벨을 가질 때만 참여할 수 있습니다.
• 디바이스 선택: 서버는 **연령 기반 선택 정책(age-based selection policy)**을 채택합니다. 충분한 에너지를 보유한 디바이스 중, 최근에 선택되지 않은 디바이스(높은 "선택 연령")를 우선시하여 장기적인 공정성을 보장합니다. 직교 채널 제한으로 인해 매 라운드 최대 $M$개의 디바이스를 스케줄링할 수 있습니다.

알고리즘 핵심:
EH-FedSAG는 SAGA(Stochastic Average Gradient Algorithm) 원리를 EH-FL 프로토콜에 통합합니다:

1. 로컬 업데이트: 선택된 디바이스는 $B$ 단계의 로컬 확률적 경사 하강법(SGD)을 수행하고 모델 차이 $\delta_t^{(k)} = w_t - w_{t,B}^{(k)}$를 전송합니다.
2. 서버 메모리: 서버는 각 디바이스 $k$에 대해 가장 최근에 수신된 업데이트를 저장하는 메모리 벡터 $m_t^{(k)}$를 유지합니다.
3. 분산 감소: 단순 평균 대신, 서버는 모든 저장된 메모리의 평균과 현재 활성화된 디바이스로부터 온 신선한 업데이트를 결합하여 분산이 감소된 방향 $v_t$를 계산합니다:
   $$v_t = \bar{m}_t + \frac{1}{|P_t|} \sum_{k \in P_t} (\delta_t^{(k)} - m_t^{(k)})$$
   여기서 $\bar{m}_t$는 모든 저장된 메모리의 평균입니다.
4. 글로벌 업데이트: 글로벌 모델은 이 분산이 감소된 방향을 사용하여 업데이트됩니다. 참여하는 디바이스가 없는 경우 모델은 변경되지 않습니다.

주요 기여

1. 통합 프레임워크: 저자들은 슬롯 단위의 배터리 역학을 명시적으로 모델링하고, 에너지 실행 가능성에 기반한 라운드별 참여 제약을 적용하며, 공정성을 위한 연령 기반 디바이스 선택 메커니즘을 사용하는 에너지 인지형 EH-FL 프레임워크를 제안합니다.
2. 알고리즘 개발: 가변적인 디바이스 가용성 및 부분적 참여로 인한 분산을 완화하기 위해 서버 측 메모리를 활용하는 메모리 기반 EH-FedAvg의 변형인 EH-FedSAG를 개발합니다.
3. 경험적 특성 규명: 두 가지 네트워크 아키텍처(SmallCNN 및 SmallResNet)에 대해 에너지 도착 확률($P_h$)과 데이터 불균질성(디리클레 파라미터 $\alpha$로 제어됨)의 변화에 따른 테스트 정확도와 훈련 라운드 간의 관계를 규명합니다.

실험 결과
제안된 방법은 CIFAR-10 이미지 분류를 위해 $K=100$개의 디바이스와 $M=25$개의 채널을 사용하여 1,000 라운드 동안 vanilla EH-FedAvg 베이스라인과 비교 평가되었습니다.

• 희소한 에너지 하의 성능: 낮은 에너지 도착 확률($P_h = 0.02$)에서 EH-FedAvg는 상당한 진동을 보였습니다. EH-FedSAG는 약 3% 더 높은 테스트 정확도를 달 Achieved 했으며, 참여로 인한 변동성에 대해 더 큰 견고성을 입증했습니다.
• 분산 감소: EH-FedSAG는 EH-FedAvg에 비해 일관되게 실질적으로 낮은 후기 단계 정확도 분산을 달성했습니다. 예를 들어, $P_h = 0.06$일 때, 분산은 0.9401(FedAvg)에서 0.0421(FedSAG)로 감소했습니다.
• 수렴 속도: EH-FedSAG는 $P_h = 0.06$ 시나리오에서 EH-FedAvg보다 약 26% 더 빠르게 안정적인 50% 테스트 정확도 임계값에 도달했습니다.
• Non-I.I.D. 데이터: 불균질한 데이터 분포(낮은 $\alpha$) 하에서 EH-FedAvg는 활성 서브셋의 비대표성으로 인해 급격한 정확도 저하를 겪었습니다. EH-FedSAG는 이전에 활성화되었던 디바이스로부터 저장된 정보를 활용함으로써, 글로벌 업데이트를 현재 활성 디바이스 집합으로부터 효과적으로 분리하여 더 매끄러운 궤적을 유지했습니다.

의의 및 주장
본 논문은 EH-FL에 서버 측 분산 감소를 통합하는 것이 훈련 안정성을 향상시키는 효과적인 전략이라고 주장합니다. EH-FedSAG의 주요 장점은 에너지 가용성이 부족하고 데이터 분포가 독립 동일 분포가 아닌(non-i.i.d.) 경우에 가장 두드러집니다. 사용 불가능한 디바이스로부터 누락된 업데이트를 저장된 메모리로 보완함으로써, 알고리즘은 통신 라운드 전반에 걸쳐 더 일관되고 예측 가능한 모델 성능을 생성합니다. 이는 간헐적인 참여와 제한된 통신 예산으로 인해 조기 종료(early stopping)와 안정적인 성능이 매우 중요한 저전력 IoT 배포 환경에 특히 유익합니다.

저자들은 향후 연구로서 본 프레임워크를 신뢰할 수 없는 무선 링크, EH 제약 조건 하에서의 이론적 수렴 분석, 그리고 계산적으로 이질적인 디바이스 시스템으로 확장할 수 있다고 언급했습니다.