On Signal Peak Power Constraint of Over-the-Air Federated Learning

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 연동 학습 (Federated Learning, FL) 은 데이터 프라이버시를 보호하면서 분산 에지 학습을 가능하게 하는 유망한 프레임워크입니다. 기존 디지털 전송 방식은 대규모 모델 업데이트를 전송할 때 통신 병목 현상을 유발합니다. 이를 해결하기 위해 **공중 계산 (Over-the-Air Computation, AirComp)**이 도입되었으며, 이는 무선 채널의 중첩 (superposition) 특성을 활용하여 아날로그 신호로 직접 로컬 업데이트를 집계합니다.
• 핵심 문제: 기존 AirComp-FL 연구들은 주로 평균 전력 (Average Power) 제약 하에서 최적의 전력 제어 및 MSE(평균 제곱 오차) 최소화를 다루었습니다. 그러나 실제 무선 시스템의 **전력 증폭기 (Power Amplifier, PA)**는 비선형 특성을 가지며, 특정 입력 전력 이상에서는 포화 (Saturation) 되어 동작합니다.
  • 과도한 순간 피크 전력: AirComp 에서 신호 진폭은 그라디언트 값의 분포에 직접적으로 의존하며, 특히 다중 반송파 (OFDM) 시스템은 잘 알려진 높은 피크 - 평균 전력비 (PAPR) 문제를 가집니다.
  • 비선형 영역 동작의 위험: 순간 피크 전력이 증폭기의 선형 영역을 벗어나면 대역 내 (In-band) 왜곡이 발생하여 집계된 그라디언트를 손상시키고, 대역 외 (Out-of-band) 방사가 발생하여 인접 주파수 대역을 간섭할 수 있습니다.
  • 연구 공백: 기존 AirComp-OFDM 연구들은 평균 전력 예산 하에서 MSE 를 최적화하지만, 이러한 **순간 피크 전력 제약 (Instantaneous Peak-Power Constraint)**을 고려하거나 이를 해결하는 방법을 정량화하지 못했습니다.

2. 방법론 (Methodology)

이 논문은 단일 반송파 (Single-carrier) 및 다중 반송파 (OFDM) AirComp-FL 시스템에서 순간 피크 전력 제약을 분석하고, 이를 해결하기 위한 고전적인 방법을 적용하여 성능을 평가합니다.

• 시스템 모델:

  • 단일 반송파: 그라디언트 값이 직접 아날로그 진폭으로 변조됩니다. PAPR 은 전송할 그라디언트 값의 분포에 의해 결정됩니다.
  • 다중 반송파 (OFDM): 그라디언트 값이 부반송파에 할당됩니다. 시간 영역 신호는 IFFT 를 통해 생성되며, 이는 본질적으로 높은 PAPR 을 가집니다.
  • 전력 제어: 기존 연구 (Threshold-based policy) 에 따라 채널 상태가 약한 기기는 최대 전력으로, 강한 채널은 채널 역전 (Channel Inversion) 방식으로 전력을 조절합니다.

• 해결책: 반복적 클리핑 및 필터링 (Iterative Clipping and Filtering, ICF)

  • 신호의 피크 전력을 제한하기 위해 가장 널리 사용되는 방법인 ICF 를 AirComp-FL 에 적용합니다.
  • 절차:
    1. 클리핑 (Clipping): 시간 영역 신호의 진폭이 임계값 ($A_{max}$) 을 초과하면 진폭을 잘라냅니다 (Phase 는 유지).
    2. 변형 (Distortion): 클리핑은 비선형 연산이므로 대역 내 왜곡과 대역 외 방사 (Spectral Regrowth) 를 발생시킵니다.
    3. 필터링 (Filtering): 대역 외 방사를 억제하기 위해 주파수 영역에서 저역 통과 필터 (Low-pass filter) 를 적용합니다.
    4. 반복: 필터링 후 다시 피크가 발생할 수 있으므로, 대역 외 방사가 허용 임계값 이하가 될 때까지 클리핑과 필터링을 반복합니다.

• 시뮬레이션 설정:

  • 데이터셋: CIFAR-10, 모델: LeNet (62,006 파라미터).
  • 환경: 40 개의 사용자 기기 (UE), 자유 공간 경로 손실 및 레일리 페이딩.
  • 전력 제약: 평균 전력 23 dBm, 순간 피크 전력 26 dBm.
  • 비교: 클리핑/필터링 적용 여부에 따른 FL 수렴 성능 및 정확도 변화 분석.

3. 주요 기여 (Key Contributions)

1. 실제적 문제의 제기: AirComp-FL 에서 전력 증폭기의 비선형성으로 인한 순간 피크 전력 제약이 중요한 실용적 문제임을 최초로 지적했습니다.
2. 문제 특성화 및 해결책 평가: 높은 PAPR 이 FL 성능에 실제로 영향을 미치는지 확인하기 위해, 단일 및 다중 반송파 시스템에 대한 상세한 특성을 분석하고, 이를 해결하기 위한 표준 방법인 **ICF(Iterative Clipping and Filtering)**의 적용 및 구현 세부 사항을 제시했습니다.
3. 실증적 평가 결과: LeNet/CIFAR-10 환경에서의 실험을 통해, 클리핑이 모델 수렴에 부정적인 영향을 미칠 수 있음을 입증했습니다. 특히 다중 반송파 시스템과 낮은 잡음 환경에서 성능 저하가 두드러짐을 보였습니다.

4. 실험 결과 (Results)

• PAPR 특성:

  • 클리핑을 적용하지 않으면 PAPR 은 약 35 dB 로 매우 높게 나타났습니다.
  • ICF 를 적용하면 PAPR 은 약 15 dB 수준으로 낮아지지만, 신호 왜곡이 발생합니다.
  • 특이점: 디지털 변조와 달리, 단일 반송파 AirComp 는 전송 값의 진폭에 직접 비례하므로 그라디언트 값이 크면 PAPR 이 무한히 커질 수 있어, 오히려 다중 반송파보다 높은 PAPR 을 보일 수 있음을 발견했습니다.

• 오차 분석 (MSE/TSE):

  • 클리핑은 실제 그라디언트 추정 오차 (TSE) 를 증가시킵니다.
  • 역설적 발견: 다중 반송파 시스템에서 잡음 (Noise) 이 낮을수록 클리핑으로 인한 오차가 더 커집니다. 그 이유는 낮은 잡음 환경에서 최적화 알고리즘이 더 큰 스케일링 팩터 ($\alpha$) 를 사용하게 되어, ICF 로 인한 대역 내 왜곡이 과도하게 증폭되기 때문입니다.

• FL 성능 (정확도):

  • 단일 반송파: 클리핑 적용 시 정확도가 약간 감소하지만, 전반적으로 수렴은 유지됩니다.
  • 다중 반송파 (OFDM): 낮은 잡음 환경 ($\sigma^2_n = -110$ dBm/Hz) 에서 클리핑을 적용하면 **모델이 발산 (Divergence)**하거나 정확도가 급격히 떨어지는 현상이 관찰되었습니다.
  • 정확도 손실: 학습 후반부에는 약 1.5~2% 의 손실이 발생하지만, 학습 초기 (약 50 라운드) 에는 최대 8% 까지 정확도 하락이 발생할 수 있습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 연구의 의의: 본 논문은 AirComp-FL 의 이론적 설계가 실제 하드웨어 제약 (전력 증폭기의 비선형성) 을 무시하고 있음을 지적했습니다. 특히, 낮은 잡음 환경에서 최적화 기법이 오히려 왜곡을 증폭시켜 성능을 저하시킬 수 있다는 역설적인 사실을 발견했습니다.
• 향후 방향:
  • 피크 전력 제약을 고려한 새로운 전력 제어 (Power Control) 알고리즘 개발이 필요합니다.
  • 단일 및 다중 반송파 AirComp-FL 시스템에 적합한 더 나은 PAPR 저감 기술이 요구됩니다.
  • 단순히 평균 전력만 고려하는 기존 접근법의 한계를 보완하여, 실제 배포 가능한 AirComp-FL 시스템 설계를 위한 기초를 마련했습니다.

요약하자면, 이 논문은 AirComp-FL 이 실제 하드웨어의 순간 피크 전력 한계로 인해 심각한 성능 저하 (심지어 발산) 를 겪을 수 있음을 경고하며, 이를 해결하기 위한 기존 방법 (ICF) 의 한계를 분석하고 새로운 연구 방향을 제시했습니다.