Energy-Efficient Federated Learning with Relay-Assisted Aggregation in IIoT Networks

기술 요약: IIoT 네트워크에서의 릴레이 지원 집계 기반 에너지 효율적 연동 학습

문제 제기
본 논문은 기계 서브네트워크 (SN) 내 IIoT 환경에서 연동 학습 (FL) 을 배포하는 데 따른 과제를 다룹니다. FL 은 프라이버시를 보호하는 협력적 학습을 제공하지만, IIoT 에서는 금속 공장 환경에서의 신호 차단 및 다중 경로 페이딩으로 인한 신뢰성 없는 무선 링크, 배터리 구동 장치의 에너지 제한, 그리고 엄격한 지연 시간 제약으로 인해 구현이 어렵습니다. 이러한 문제들은 비동기적 업데이트, 모델 불일치, 그리고 높은 통신 오버헤드를 초래합니다. 기존 솔루션들은 종종 에너지 효율성 (EE), 협력 통신, 그리고 산업용 SN 의 특정 신뢰성 요구사항을 동시에 해결하지 못합니다. 또한, 많은 접근 방식은 동적인 산업 환경에서 비현실적인 완벽한 채널 상태 정보 (CSI) 를 가정합니다.

방법론
저자들은 에지 서버 (ES) 에 직접 연결이 약한 인접 장치들을 위해 기존 SN 들을 디코드 - 포워드 (DF) 릴레이로 활용하는 릴레이 지원 전송 프레임워크를 제안합니다. 방법론은 다음과 같이 구성됩니다:

1. 시스템 모델: 네트워크는 ES 로 직접 전송하는 단호 (single-hop, $N_{1h}$) SN 들과 릴레이 SN 을 경유하는 2 호 (two-hop, $N_{2h}$) 경로를 사용하는 SN 들로 구성된 두 그룹으로 나뉜 SN 들로 구성됩니다. 2 호 시나리오에서 릴레이는 연관된 SN 들로부터 수신한 로컬 모델의 **부분 집계 (partial aggregation)**를 수행한 후, 결합된 업데이트를 ES 로 전달합니다. 이는 2 호 구간을 통해 전송되는 총 데이터 양을 줄입니다.
2. 최적화 문제: 목표는 엄격한 라운드별 지연 시간 제약 ($T_{th}$) 을 준수하면서 모든 참여 SN 의 총 에너지 소비 (연산 + 전송) 를 최소화하는 것입니다. 이 문제는 전송 전력, CPU 주파수, SN 그룹화, 그리고 릴레이 선택을 공동으로 최적화하는 것을 포함합니다.
3. 분해 및 알고리즘:
   • 분해: 비볼록 최적화 문제는 CPU 주파수 최적화, 릴레이 선택/SN 그룹화, 그리고 전송 전력 제어로 하위 문제들로 분해됩니다.
   • SN 그룹화 및 릴레이 선택: **삼분 탐색 (ternary search)**을 사용하는 임계값 기반 알고리즘이 SN 들을 단호 또는 2 호 그룹으로 분류합니다. 총 전송 지연이 지연 시간 제약을 만족할 때까지 가장 약한 링크를 가진 SN 들을 반복적으로 제거하여 참여하는 SN 의 수를 최대화하는 것을 목표로 합니다.
   • 전력 최적화: 에너지 최소화 문제의 비볼록성을 처리하기 위해 저자들은 순차적 매개변수 볼록 근사 (SPCA) 방법을 사용합니다. 이는 비볼록 제약을 볼록 대리식으로 반복적으로 근사하여 정류점을 찾습니다.
   • 불완전 CSI (ICSI): 프레임워크는 최소 평균 제곱 오차 (MMSE) 추정을 사용하여 불완전 CSI 가 있는 시나리오로 확장됩니다. 채널 추정 오차를 고려하기 위한 유효 신호 대 간섭 및 잡음비 (SINR) 식이 유도되며, 결과적으로 발생하는 비볼록 속도 제약을 수용하도록 SPCA 알고리즘이 수정됩니다.
4. 수렴 분석: 논문은 릴레이 지원 방식과 표준 단호 FL 을 비교하는 이론적 수렴 분석을 제공합니다. 이는 릴레이에서의 부분 집계가 유효 기울기 분산과 데이터 이질성 ($\Gamma_{eff}$) 을 감소시켜, 특히 비 IID 데이터 분포 하에서 더 엄격한 수렴 경계로 이어짐을 보여줍니다.

주요 기여

• 새로운 프로토콜: 전용 인프라 없이 기존 SN 을 릴레이로 활용하고 오버헤드를 줄이기 위해 부분 집계를 포함하는 IIoT 를 위한 릴레이 지원 FL 프로토콜 도입.
• 통합 최적화 프레임워크: 완벽한 CSI (PCSI) 와 불완전 CSI (ICSI) 조건 모두에서 작동하는 SPCA 기반의 통합 EE 최적화 프레임워크 개발.
• 알고리즘 설계: 지연 시간을 최소화하고 참여를 최대화하기 위한 최적 SN 분류 및 릴레이 선택을 위한 삼분 탐색 기반 알고리즘 제안과 SPCA 기반 전력 제어 메커니즘 결합.
• 이론적 분석: 단호 접근법 대비 감소된 분산과 이질성의 이점을 강조하는 릴레이 지원 FL 에 대한 수렴 경계 유도.
• 종합적 평가: 수렴 속도, 중단 확률, 그리고 에너지 효율성 측면에서 프레임워크의 성능을 검증하는 광범위한 시뮬레이션.

결과
공장 환경 (100x100 m²) 에서 Fashion-MNIST 데이터셋을 사용한 시뮬레이션 결과는 다음과 같습니다:

• 수렴: 제안된 방법은 "이상적인 FL" 기준과 밀접하게 일치하는 수렴 행동을 달성하며 단호 FL 보다 훨씬 우수한 성능을 보입니다. 1 호 FL 대비 훈련 손실의 정규화된 평균 제곱 오차 (NMSE) 를 10 배 감소시킵니다.
• 중단 확률: 프레임워크는 전송 지연 위반 (중단) 확률을 단호 시나리오의 $10^{-2}$에서 제안된 SPCA 기반 방법을 사용하면 $10^{-6}$으로 크게 낮춥니다.
• 에너지 효율성: 제안된 방식은 상당한 에너지 절감을 달성합니다. 단호 전송 대비 업링크 에너지 소비를 최대 6 배까지 줄입니다. 부분 집계가 없는 2 호 방식 대비 약 3 배의 감소를 달성합니다.
• ICSI 에 대한 강건성: 불완전 CSI 하에서 성능 저하는 제한적입니다. 파일럿 길이 ($L_p$) 를 증가시키면 ICSI 와 PCSI 간의 에너지 격차를 크게 좁히며, $L_p=20$은 완벽한 지식에 비해 무시할 수 있는 저하를 보입니다.
• 확장성: SN 수가 10 에서 200 으로 증가함에 따라 방법은 우수한 에너지 효율성을 유지합니다.

의의 및 주장
본 논문은 산업용 IIoT 네트워크 내에서 FL 훈련을 위해 엄격한 타이밍 제약과 릴레이 지원 TDMA 전송을 통합한 첫 번째 작업이라고 주장합니다. 그 의의는 높은 신뢰성과 빠른 수렴을 보장하면서 에너지 소비와 지연 시간 사이의 균형을 맞출 수 있는 능력에 있습니다. 기존 SN 을 릴레이로 활용하고 부분 집계를 수행함으로써, 전용 릴레이 인프라의 필요성을 제거하고 재구성 가능한 지능형 표면 (RIS) 과 같은 수동적 솔루션에서 흔히 보이는 "이중 경로 손실" 효과를 완화합니다. 저자들은 그들의 접근 방식이 통신이 제한된 환경에서 특히 효과적이며, 스마트 공장의 에너지 효율적인 FL 배포를 위한 확장 가능한 솔루션을 제공한다고 주장합니다. 이 작업은 동기화된 집계를 보장하기 위해 엄격한 지연 시간 제약을 부과하지만, 확률적 동기화 오류나 업데이트의 노후화를 명시적으로 모델링하지는 않았으며, 이를 향후 연구 방향으로 식별합니다.