EH-FedSAG: Variance-Reduced Federated Learning with Energy-Aware Participation in Energy-Harvesting IoT

Résumé Technique de « EH-FedSAG : Apprentissage Fédéré à Réduction de Variance avec Participation Sensible à l'Énergie dans l'IoT à Récupération d'Énergie »

Énoncé du Problème
L'apprentissage fédéré (FL) dans les réseaux de récupération d'énergie (EH) fait face à des défis importants en raison de la nature intermittente et stochastique des arrivées d'énergie. Contrairement aux dispositifs périphériques conventionnels dotés d'une alimentation stable, les dispositifs EH dépendent de sources d'énergie environnementales, ce qui entraîne une disponibilité énergétique variable dans le temps. Cela introduit une double couche de stochasticité :

1. Participation Instable : Les dispositifs peuvent manquer d'énergie suffisante pour le calcul local ou la transmission montante lors d'un tour donné, ce qui conduit à un sous-ensemble stochastique de dispositifs participants.
2. Instabilité de la Convergence : Dans les algorithmes de FL standards comme FedAvg, la participation partielle introduit une variabilité dans les mises à jour agrégées, ce qui entraîne souvent un plancher d'erreur non nul et un comportement de convergence instable. Ce problème est exacerbé dans les systèmes EH où les contraintes énergétiques limitent davantage la cohérence de la participation des dispositifs.

Bien que des travaux antérieurs aient abordé la sélection de dispositifs sensible à l'énergie et les protocoles efficaces, l'impact combiné des contraintes EH, de la participation sensible à l'énergie et de la réduction de la variance côté serveur basée sur la mémoire n'a pas été étudié au sein d'un cadre unifié.

Méthodologie : EH-FedSAG
Le papier propose EH-FedSAG, une méthode de FL à réduction de variance basée sur la mémoire du serveur, adaptée aux environnements EH. Le système fonctionne selon un modèle EH basé sur des créneaux (slots) où :

• Dynamique Énergétique : Les dispositifs suivent un paradigme « récolter-stocker-utiliser » avec une capacité de batterie finie. Les arrivées d'énergie sont modélisées comme des processus de Bernoulli i.i.d.
• Contraintes de Faisabilité : Un dispositif ne peut participer que si son niveau de batterie à un créneau de départ spécifique ($s^*$) est suffisant pour couvrir à la fois l'entraînement local ($\Omega$ créneaux) et la transmission (1 créneau).
• Sélection de Dispositifs : Le serveur emploie une politique de sélection basée sur l'âge. Parmi les dispositifs disposant d'une énergie suffisante, ceux qui n'ont pas été sélectionnés récemment (âge de sélection plus élevé) sont prioritaires afin d'assurer une équité à long terme. Un maximum de $M$ dispositifs peut être programmé par tour en raison des limitations de canaux orthogonaux.

Cœur Algorithmique :
EH-FedSAG intègre le principe SAGA (Stochastic Average Gradient Algorithm) dans le protocole EH-FL :

1. Mise à jour Locale : Les dispositifs sélectionnés effectuent $B$ étapes de descente de gradient stochastique (SGD) locale et transmettent la différence de modèle $\delta_t^{(k)} = w_t - w_{t,B}^{(k)}$.
2. Mémoire du Serveur : Le serveur maintient un vecteur de mémoire $m_t^{(k)}$ pour chaque dispositif $k$, stockant la mise à jour la plus récemment reçue.
3. Réduction de la Variance : Au lieu d'une moyenne simple, le serveur calcule une direction à variance réduite $v_t$ en combinant la moyenne de toutes les mémoires stockées avec les mises à jour fraîches des dispositifs actuellement actifs :
   $$v_t = \bar{m}_t + \frac{1}{|P_t|} \sum_{k \in P_t} (\delta_t^{(k)} - m_t^{(k)})$$
   où $\bar{m}_t$ est la moyenne de toutes les mémoires stockées.
4. Mise à jour Globale : Le modèle global est mis à jour en utilisant cette direction à variance réduite. Si aucun dispositif ne participe, le modèle reste inchangé.

Principales Contributions

1. Cadre Unifié : Les auteurs proposent un cadre EH-FL sensible à l'énergie qui modélise explicitement la dynamique de batterie au niveau du créneau, impose des contraintes de participation par tour basées sur la faisabilité énergétique, et emploie un mécanisme de sélection de dispositifs basé sur l'âge.
2. Développement d'Algorithme : Ils développent EH-FedSAG, une variante de EH-FedAvg basée sur la mémoire qui exploite la mémoire côté serveur pour atténuer la variance causée par la disponibilité variable des dispositifs et la participation partielle.
3. Caractérisation Empirique : Le papier caractérise la relation entre la précision de test et les tours d'entraînement sous diverses probabilités d'arrivée d'énergie ($P_h$) et hétérogénéité des données (contrôlée par le paramètre de Dirichlet $\alpha$) à travers deux architectures de réseau (SmallCNN et SmallResNet).

Résultats Expérimentaux
La méthode proposée a été évaluée par rapport à une ligne de base EH-FedAvg utilisant la classification d'images CIFAR-10 avec $K=100$ dispositifs et $M=25$ canaux sur 1 000 tours.

• Performance sous Énergie Rare : Sous de faibles probabilités d'arrivée d'énergie ($P_h = 0,02$), EH-FedAvg présente des oscillations significatives. EH-FedSAG a atteint une précision de test environ 3 % plus élevée et a démontré une plus grande robustesse face aux fluctuations induites par la participation.
• Réduction de la Variance : EH-FedSAG a systématiquement atteint une variance de précision en fin de parcours nettement plus faible que EH-FedAvg. Par exemple, à $P_h = 0,06$, la variance est passée de 0,9401 (FedAvg) à 0,0421 (FedSAG).
• Vitesse de Convergence : EH-FedSAG a atteint le seuil de 50 % de précision de test environ 26 % plus rapidement que EH-FedAvg dans le scénario $P_h = 0,06$.
• Données Non-I.I.D. : Sous des distributions de données hétérogènes (faible $\alpha$), EH-FedAvg a subi des chutes brutales de précision dues à la nature non représentative du sous-ensemble actif. EH-FedSAG a maintenu une trajectoire plus fluide en exploitant les informations stockées des dispositifs précédemment actifs, découplant efficacement la mise à jour globale de l'ensemble instantané des dispositifs actifs.

Signification et Revendications
Le papier affirme que l'incorporation de la réduction de la variance côté serveur dans l'EH-FL est une stratégie efficace pour améliorer la stabilité de l'entraînement. L'avantage principal d'EH-FedSAG est plus marqué lorsque la disponibilité de l'énergie est rare et que les distributions de données sont non-indépendantes et identiquement distribuées (non-i.i.d.). En compensant les mises à jour manquantes des dispositifs indisponibles grâce aux mémoires stockées, l'algorithme produit des performances de modèle plus cohérentes et prévisibles à travers les tours de communication. Cela est particulièrement bénéfique pour les déploiements IoT à faible consommation où la participation intermittente et les budgets de communication limités rendent l'arrêt précoce et la performance stable hautement désirables.

Les auteurs notent que les travaux futurs pourraient étendre ce cadre aux liaisons sans fil peu fiables, à l'analyse de convergence théorique sous contraintes EH, et aux systèmes dotés de dispositifs informatiquement hétérogènes.