Résumé Technique : Différence d'Énergie des Éléments de Ressource pour l'Apprentissage Fédéré Non Cohérent Over-the-Air

1. Énoncé du Problème

L'Apprentissage Fédéré Over-the-Air (OTA-FL) vise à réduire la latence de liaison montante et la consommation de bande passante en exploitant la superposition d'ondes pour calculer des agrégats (par exemple, des sommes pondérées de mises à jour de modèles) directement dans l'air. Cependant, les schémas OTA-FL conventionnels reposent sur une agrégation analogique cohérente. Ces méthodes nécessitent :

• Une information d'état de canal (CSI) instantanée au niveau des émetteurs.
• Une inversion ou une troncature du canal.
• Un alignement de phase cohérent précis entre les appareils.

Dans des systèmes sans fil pratiques comportant de nombreux clients, des canaux à évanouissement, des décalages d'oscillateurs et des transmissions répétées de grande dimension, le maintien de ces exigences est difficile. Un passage direct à une réception non cohérente (détection d'énergie) présente un obstacle fondamental : les mesures d'énergie sont invariantes aux inversions de signe. Étant donné que les mises à jour de l'apprentissage fédéré (FL) sont des quantités réelles signées, un récepteur non cohérent standard ne peut pas récupérer la somme linéaire signée requise pour l'agrégation de modèles, conduisant à un problème de « perte de signe ».

Les alternatives non cohérentes existantes soit quantifient les mises à jour en signes (vote majoritaire), ce qui entraîne une perte d'information continue, soit reposent sur des modèles complexes de récupération aveugle ou des asymptotiques MIMO massives qui diffèrent de l'estimateur minimal et sans mémoire souhaité pour la FL standard.

2. Méthodologie : Différence d'Énergie des Éléments de Ressource (REED)

L'article propose la Différence d'Énergie des Éléments de Ressource (REED), une primitive d'agrégation non cohérente conçue pour récupérer des sommes signées continues sans CSI instantanée ni alignement de phase.

Mécanisme Central

REED résout le problème de la perte de signe en séparant les composantes positives et négatives d'une mise à jour scalaire avant la transmission :

1. Décomposition : Pour une mise à jour réelle $u_k$, le client la décompose en parties positive et négative : $u_k = [u_k]_+ - [u_k]_-$.
2. Mappage : Ces deux composantes non négatives sont mappées sur des énergies de transmission sur une paire adaptée d'éléments de ressources (RE) orthogonaux.
3. Transmission : Les clients transmettent les symboles $a_{k,+}$ et $a_{k,-}$ sur les deux RE. La puissance de transmission est mise à l'échelle par un gain d'agrégation commun $\eta$ et normalisée par la puissance moyenne du canal à l'échelle du temps lent $\mu_k^2$. Des ditherages de phase aléatoires sont appliqués pour assurer l'indépendance.
4. Réception : Le serveur effectue une détection d'énergie non cohérente sur les deux RE, obtenant $E_+ = |y_+|^2$ et $E_- = |y_-|^2$.
5. Estimation : La somme signée est estimée en soustrayant les deux mesures d'énergie :
   $$\hat{u} = \frac{E_+ - E_-}{\eta}$$

Propriétés Théoriques

Sous évanouissement de Rayleigh et calibration de la puissance moyenne du canal à l'échelle du temps lent adaptée :

• Non-biais : L'estimateur est non biaisé pour la somme signée souhaitée ($E[\hat{u}] = \sum u_k$).
• Variance Exacte : L'article dérive une expression de variance fermée exacte. La variance se compose de « bruit propre non cohérent » (induit par l'évanouissement et la division de la masse) et de termes de bruit du récepteur. Crucialement, la variance sépare ces composantes, permettant une analyse précise.
• Pas de CSI Instantanée : Le schéma ne nécessite qu'une calibration de la puissance moyenne du canal à long terme, éliminant le besoin de CSI instantané (CSIT) ou de compensation de phase.

3. Intégration avec l'Apprentissage Fédéré

Les auteurs intègrent REED dans l'algorithme standard FedAvg avec participation complète des clients.

• Protocole : À chaque tour, les clients effectuent des étapes de descente de gradient stochastique (SGD) locales pour générer des incréments de modèle. Ces incréments sont mis à l'échelle coordonnée par coordonnée et transmis via REED. Le serveur agrège les incréments et met à jour le modèle global.
• Analyse de Convergence : L'article prouve une borne de stationnarité pour l'optimisation non convexe lisse.
  • L'erreur d'agrégation REED est modélisée comme une perturbation additive à moyenne nulle avec un second moment borné.
  • Sous un budget énergétique moyen par client, le gain d'agrégation $\eta$ est planifié comme $\Theta(1/\beta)$ (où $\beta$ est le pas local).
  • Cette planification garantit que la perturbation induite par REED évolue comme $O(\beta^2)$.
  • Par conséquent, le système atteint le taux de stationnarité canonique $O(1/\sqrt{T})$, correspondant au comportement de convergence de FedAvg idéal malgré le bruit non cohérent.

4. Résultats Expérimentaux

Des expériences ont été menées sur les ensembles de données MNIST et Fashion-MNIST utilisant un réseau de neurones convolutif (CNN) avec 10 clients. La configuration a comparé REED à :

1. FedAvg Propre : Agrégation numérique idéale sans bruit.
2. Référence Cohérente CSIT : Un schéma oracle avec CSI instantanée parfaite et alignement de phase.

Constats Clés :

• Régimes IID : Dans des configurations de données indépendantes et identiquement distribuées (IID), REED correspond étroitement aux performances de FedAvg Propre et de la référence Cohérente CSIT. L'écart de performance est négligeable (par exemple, < 0,3 point de pourcentage sur Fashion-MNIST).
• Régimes Hétérogènes : Sous une forte hétérogénéité des données (répartition de Dirichlet avec $\alpha=0,3$), un écart de performance émerge.
  • Sur MNIST, l'écart reste modéré (~0,6 point de pourcentage).
  • Sur Fashion-MNIST, l'écart est plus significatif (~3,17 points de pourcentage), accompagné d'une variance plus élevée entre les exécutions.
• Conclusion sur l'Hétérogénéité : La dégradation dans les contextes hétérogènes est attribuée à l'interaction entre le bruit d'agrégation REED et la dérive accrue des clients. L'article note explicitement que, bien que REED reste stable et convergent, il entraîne une pénalité de précision non négligeable dans les régimes fortement hétérogènes par rapport aux schémas cohérents.

5. Importance et Revendications

L'article positionne REED comme une primitive d'agrégation sans CSI qui comble un vide spécifique entre l'AirComp continu cohérent et l'agrégation non cohérente de signes/vote majoritaire.

• Contribution Principale : REED permet une agrégation signée continue sans CSI instantanée, inversion de canal ni alignement de phase, en utilisant uniquement une calibration de puissance à l'échelle du temps lent.
• Rigueur Théorique : Il fournit une loi de distorsion scalaire exacte et une borne de second moment vectorielle, prouvant que le taux de convergence canonique de FedAvg est préservé sous contraintes énergétiques.
• Positionnement Modeste : Les auteurs déclarent explicitement que REED n'est pas un substitut sans perte à l'AirComp cohérent dans tous les régimes statistiques. Sa valeur réside dans l'offre d'une alternative simple, robuste et théoriquement fondée pour les scénarios où le maintien d'un CSI instantané et d'une cohérence de phase est impraticable, acceptant une distorsion contrôlée qui est minimale dans des contextes bénins (IID) mais visible sous forte hétérogénéité.

L'ouvrage démontre que l'OTA-FL non cohérent est réalisable pour des mises à jour continues, à condition que le système soit conçu avec une compréhension des caractéristiques de bruit spécifiques introduites par l'estimation de différence d'énergie.