Résumé technique : FedLBW – Une stratégie de pondération basée sur la perte pour l'apprentissage fédéré sur des données non-IID dans les réseaux sans fil

1. Énoncé du problème

L'apprentissage fédéré (FL) permet l'entraînement collaboratif de modèles sur des clients distribués tout en préservant la confidentialité des données. Cependant, parvenir à une convergence efficace des modèles dans les environnements de réseaux sans fil reste un défi en raison de deux facteurs principaux : les données non indépendantes et identiquement distribuées (non-IID) et les déconnexions fréquentes des clients (dropouts).

Les algorithmes d'agrégation traditionnels, notamment FedAvg, reposent uniquement sur la taille du jeu de données local d'un client pour pondérer les mises à jour. Les auteurs identifient plusieurs limitations critiques de cette approche :

• Biais vers la quantité de données : Elle privilégie les clients possédant de plus grands jeux de données, indépendamment de la qualité ou de la pertinence de leurs modèles locaux.
• Sensibilité aux données non-IID : Dans les environnements hétérogènes, la taille des données ne corrèle pas avec la qualité du modèle, ce qui conduit à des performances globales sous-optimales.
• Susceptibilité aux valeurs aberrantes (outliers) : Des modèles locaux mal entraînés provenant de clients dotés de grands jeux de données peuvent influencer de manière disproportionnée le modèle global, dégradant ainsi les performances générales.
• Absence d'incitation : Les clients ne sont pas incités à améliorer la qualité de l'entraînement local, car leur contribution est déterminée strictement par la taille de leur jeu de données.
• Vulnérabilité aux déconnexions : Les déconnexions des clients dans les réseaux sans fil peuvent provoquer des oscillations autour des points stationnaires, entravant la convergence et la fiabilité du système.

Les solutions existantes, telles que FedProx, FedNova et FedLAW, tentent de traiter l'hétérogénéité via des termes proximaux, la normalisation ou des poids apprenables. Cependant, les auteurs soutiennent que ces méthodes échouent souvent à exploiter pleinement le potentiel de performance des modèles locaux ou peinent dans des scénarios non-IID extrêmes.

2. Méthodologie : FedLBW

Le document propose le Federated Learning with Loss-Based Weighting (FedLBW), une nouvelle stratégie d'agrégation qui remplace la pondération par la taille du jeu de données par une pondération par l'inverse de la perte de validation.

Mécanisme central

Au lieu de pondérer les mises à jour des clients ($w_c$) par le nombre d'échantillons ($n_c$), FedLBW attribue des poids basés sur l'inverse de la perte de validation du modèle local du client ($L_c$).

• Calcul du poids : Le poids du client $c$ au tour $t$ est calculé comme suit :
  $$\beta_c^t = \frac{1/L_c^{t+1}}{\sum_{j \in S_t} 1/L_j^{t+1}}$$
  où $L_c^{t+1}$ est la perte de validation du modèle mis à jour du client.
• Jeu de données proxy : Pour calculer ces pertes de validation, le serveur utilise un petit jeu de données proxy équilibré par classes ($V$). Ce jeu de données est distinct des données des clients et est utilisé exclusivement pour l'évaluation. La perte est calculée comme la perte moyenne de l'entropie croisée sur ce ensemble proxy.
• Agrégation : Le modèle global est mis à jour en agrégeant les modèles des clients pondérés par $\beta_c^t$. Cela garantit que les clients ayant des pertes de validation plus faibles (indiquant une meilleure généralisation sur le proxy) exercent une plus grande influence sur le modèle global.

Flux algorithmique

1. Sélection : Le serveur sélectionne un sous-ensemble de clients ($S_t$) basé sur un ratio de participation des clients (CPR).
2. Entraînement local : Les clients sélectionnés effectuent un entraînement local (SGD) sur leurs données privées pendant $E$ époques.
3. Évaluation de la perte : Les clients renvoient les modèles mis à jour. Le serveur calcule la perte de validation ($L_c$) pour chaque modèle sur le jeu de données proxy côté serveur.
4. Agrégation pondérée : Le serveur agrège les modèles en utilisant les poids d'inverse de perte pour former le nouveau modèle global.

Analyse théorique

Le document fournit une analyse de la convergence pour FedLBW sous participation partielle des clients et objectifs non-convexes. L'analyse introduit un facteur de concentration de poids ($\rho$) pour borner l'écart entre les poids basés sur la perte et les poids uniformes. Les auteurs démontrent que si le ratio entre la perte de validation minimale et maximale ($\delta$) est borné, FedLBW produit un terme de biais plus faible ($G^2(\rho - 1)$) par rapport à FedAvg, soutenant théoriquement une convergence plus rapide et un biais réduit.

3. Principales contributions

Les auteurs résument leurs contributions comme suit :

1. Nouvelle stratégie de pondération : Proposition de FedLBW, qui utilise l'inverse de la perte de validation du modèle local (calculée sur un proxy côté serveur) comme poids d'agrégation, remplaçant la pondération traditionnelle par le nombre d'échantillons.
2. Convergence théorique : Une analyse formelle de la convergence de FedLBW dans le régime de participation partielle et d'époques locales, établissant des bornes sur l'erreur d'optimisation et le bruit.
3. Robustesse empirique : Expériences approfondies sur trois jeux de données (FashionMNIST, CIFAR-10, CIFAR-100) et trois architectures (CNN, ResNet-18, ResNet-34) démontrant des améliorations de performance constantes, particulièrement dans les contextes non-IID extrêmes ($\alpha = 0.1$) et avec de faibles ratios de participation des clients.
4. Résilience aux déconnexions : Démonstration que FedLBW maintient la stabilité et une précision élevée même sous des probabilités de déconnexion extrêmes (jusqu'à 50 %), surpassant à la fois les méthodes conventionnelles (FedAvg) et de pointe (FedLAW).

4. Résultats expérimentaux

Les expériences ont été menées sur un système comprenant 100 clients en utilisant l'échantillonnage de Dirichlet ($\alpha \in \{0.1, 0.3, 0.6\}$) pour simuler des données non-IID.

• Améliorations de la précision : FedLBW a systématiquement surpassé les bases de référence (FedAvg, FedAvgM, FedProx, FedNova, FedLAW, FedDkw).
  • Sur CIFAR-10 avec ResNet-18 dans des conditions non-IID extrêmes ($\alpha=0.1$), FedLBW a atteint une précision de 58,63 %, soit une amélioration de 7,66 % par rapport à FedAvg (50,97 %) et de 9,44 % par rapport à FedLAW.
  • Sur FashionMNIST ($\alpha=0.1$), FedLBW a atteint 83,51 %, dépassant FedAvg de 2,11 %.
  • Sur CIFAR-100 ($\alpha=0.1$), FedLBW a obtenu 39,11 %, surpassant toutes les bases de référence.
• Vitesse de convergence : FedLBW a démontré une convergence plus rapide, particulièrement lors des premiers tours d'entraînement sous des conditions de non-IID élevées, grâce à la priorité donnée aux gradients de haute qualité.
• Résilience aux déconnexions : Sous une probabilité de déconnexion de 50 % sur CIFAR-10, la précision de FedAvg s'est effondrée à 39,81 %, tandis que FedLBW a maintenu 64,40 %, préservant plus de 90 % de sa performance de base.
• Faible participation : Dans des scénarios avec 100 clients au total et seulement 10 % de participation (CPR=0.1), FedLBW a atteint 49,89 % de précision, surpassant nettement FedAvg (43,80 %).
• Sensibilité du proxy : La méthode est restée robuste même lorsque le jeu de données proxy du serveur souffrait de déséquilibre des étiquettes, de décalage de covariables (perturbation de la luminosité) ou de décalage de domaine (images SVHN), bien que la performance soit corrélée à l'alignement (rho de Spearman et FID) entre les distributions du proxy et des clients.

5. Signification et affirmations

Le document affirme que FedLBW offre un mécanisme simple mais puissant pour répondre aux limitations fondamentales de la pondération basée sur la taille des données dans le FL. Sa signification réside dans :

• Gestion des données non-IID : En privilégiant les modèles locaux bien entraînés quel que soit leur volume de données, il atténue efficacement les effets néfastes de l'hétérogénéité des données.
• Atténuation des valeurs aberrantes : Il réduit l'influence des modèles mal entraînés, ce qui est crucial dans les réseaux sans fil où la fiabilité des clients varie.
• Incitant à la qualité : Il crée un lien direct entre la performance du modèle local et la contribution globale, encourageant théoriquement un meilleur entraînement local.
• Adaptabilité au sans-fil : La méthode est présentée comme une solution résiliente spécifiquement pour les environnements de réseaux sans fil, où les déconnexions des clients et l'hétérogénéité des données sont inévitables.

Les auteurs concluent que, bien que FedLBW introduise un léger surcoût computationnel sur le serveur (calcul de la perte de validation sur un proxy), celui-ci est négligeable par rapport aux gains en précision et en vitesse de convergence. Ils positionnent FedLBW comme une approche pratique et évolutive qui améliore la qualité et la robustesse des modèles dans les déploiements réels de l'apprentissage fédéré.