Non-Convex Over-the-Air Heterogeneous Federated Learning: A Bias-Variance Trade-off

1. Problématique et Contexte

L'apprentissage fédéré (FL) permet à de nombreux appareils d'entraîner un modèle collaboratif sans partager leurs données brutes. Cependant, la mise en œuvre du FL sur des réseaux sans fil rencontre des goulots d'étranglement majeurs dus à la bande passante limitée et au bruit. L'approche Over-the-Air (OTA) a émergé comme une solution évolutive, exploitant la superposition des ondes sur le canal d'accès multiple (MAC) pour agréger les mises à jour de modèles en une seule transmission ("single-shot").

Cependant, les designs OTA-FL existants souffrent de deux limitations critiques dans des scénarios réalistes :

1. Hétérogénéité des canaux : La plupart des travaux supposent des conditions de canal homogènes (pertes de trajet égales) ou imposent une contrainte de biais nul (zero-bias). Dans un environnement hétérogène, forcer un biais nul oblige à inverser le canal du dispositif le plus faible ("weakest link"), ce qui entraîne une variance élevée des mises à jour et une convergence lente.
2. Convexité des objectifs : Les analyses de convergence existantes se concentrent souvent sur des fonctions objectives convexes, alors que les modèles d'apprentissage automatique modernes (réseaux de neurones profonds) sont non convexes.

L'article vise à combler ces lacunes en étudiant le FL OTA avec des objectifs lisses non convexes sous des conditions de canal hétérogènes, en proposant une approche qui accepte un biais structuré pour réduire la variance.

2. Méthodologie

Les auteurs proposent un cadre théorique et algorithmique basé sur la descente de gradient stochastique (SGD) :

• Modèle Système :

  • $N$ appareils transmettent leurs gradients locaux vers une station de base (PS) via un canal MAC à évanouissement de Rayleigh plat.
  • Les appareils utilisent une stratégie de contrôle de puissance par inversion de canal tronquée avec un pré-scaler $\gamma_m$.
  • La station de base utilise un post-scaler $\alpha$ pour estimer le gradient global.

• Approche Biaisée Structurée :

  • Contrairement aux méthodes traditionnelles qui cherchent à annuler le biais, cette méthode permet un biais moyen non nul mais structuré et invariant dans le temps.
  • Ce biais résulte d'une participation moyenne inégale des appareils ($p_m \neq 1/N$), où les appareils avec de meilleurs canaux participent plus fréquemment.
  • Cela permet de minimiser une fonction objectif biaisée $\tilde{F}(w)$, mais avec une variance de mise à jour réduite.

• Analyse de Convergence (Théorème 1) :

  • Les auteurs dérivent une borne de stationarité à temps fini (moyenne du carré de la norme du gradient) pour des objectifs non convexes.
  • La borne révèle explicitement un compromis (trade-off) biais-variance :
    • Réduire le biais (se rapprocher de $p_m = 1/N$) augmente la variance (notamment le bruit de réception et la variance de transmission due aux coupures de canal).
    • Augmenter le biais (en favorisant les bons canaux) réduit la variance mais introduit un biais d'optimisation.

• Optimisation du Contrôle de Puissance (SCA) :

  • Le problème d'optimisation conjointe des pré-scalers $\{\gamma_m\}$ pour minimiser la borne de convergence est non convexe.
  • Les auteurs proposent un algorithme efficace d'Approximation Convexe Séquentielle (SCA).
  • Avantage clé : L'algorithme ne nécessite que l'Information d'État du Canal (CSI) statistique (pertes de trajet à grande échelle) à la station de base, évitant ainsi la surcharge de signalisation liée à la CSI instantanée globale requise par les méthodes précédentes. Les appareils utilisent leur propre CSI instantanée locale pour décider de la transmission.

3. Contributions Clés

1. Analyse Non Convexe : Première analyse de convergence à temps fini pour le FL OTA non convexe sous hétérogénéité de canal, établissant une borne explicite reliant le biais et la variance.
2. Design de Biais Structuré : Introduction d'un mécanisme de biais contrôlé et invariant dans le temps, permettant de surmonter la contrainte du "maillon faible" des designs à biais nul.
3. Algorithme SCA Efficace : Développement d'un algorithme d'optimisation de puissance qui ne dépend que de la CSI statistique, rendant le système plus pratique et évolutif pour les réseaux réels.
4. Validation Expérimentale : Démonstration sur une tâche de classification d'images non convexe (MNIST) montrant que l'approche optimisée surpasse les méthodes de référence.

4. Résultats Expérimentaux

Les expériences ont été menées sur un réseau de 10 appareils avec une distribution de données non i.i.d. (chaque appareil possède des données de deux chiffres spécifiques) et un modèle de réseau de neurones profond (MLP).

• Comparaison : L'approche proposée (SCA) a été comparée à :
  • Ideal FedAvg (agrégation sans bruit, référence idéale).
  • Vanilla OTA-FL (biais nul, nécessite CSI instantanée globale).
  • OPC OTA-Comp (optimisation de puissance avec CSI instantanée globale).
  • Sélecteurs de scheduling (BB-FL).
• Performance :
  • La conception basée sur SCA atteint une convergence plus rapide et une précision finale supérieure par rapport aux designs à biais nul (Vanilla) et aux sélecteurs de scheduling.
  • Elle se rapproche très près des performances de l'OPC OTA-Comp (qui utilise la CSI instantanée globale coûteuse), mais sans nécessiter cette CSI globale à chaque round.
  • L'optimisation du compromis biais-variance permet de réduire le bruit des mises à jour tout en acceptant un petit biais, ce qui accélère la descente vers un minimum local.

5. Signification et Impact

Cet article marque une avancée significative dans la théorie et la pratique du FL sur les réseaux sans fil :

• Changement de paradigme : Il remet en question le dogme selon lequel les mises à jour OTA doivent être strictement non biaisées pour converger. Il démontre que dans des environnements hétérogènes, accepter un biais contrôlé est bénéfique pour la performance globale.
• Praticité : En s'affranchissant de la nécessité d'une CSI instantanée globale (qui est difficile à obtenir à grande échelle), la méthode proposée rend le FL OTA plus viable pour les déploiements réels.
• Généralité : L'extension de l'analyse aux objectifs non convexes rend ces résultats directement applicables aux modèles d'IA modernes (Deep Learning), contrairement aux travaux antérieurs limités aux cas convexes.

En résumé, l'article propose une solution robuste et théoriquement fondée pour accélérer l'apprentissage fédéré sur des réseaux sans fil hétérogènes en exploitant intelligemment le compromis entre biais et variance.