Résumé Technique : Apprentissage Fédéré pour la Généralisation des Caractéristiques avec Contraintes Convexes (FedCONST)

1. Énoncé du Problème

L'apprentissage fédéré (FL) fait face à des défis importants en matière de généralisation dus à l'hétérogénéité des distributions de données des clients. L'article identifie deux modes de défaillance primaires dans les approches standards de FL :

1. Surapprentissage Local (Local Overfitting) : Les modèles locaux ont tendance à surapprendre leurs distributions de données spécifiques et éparses, ce qui limite leur capacité de généralisation à travers la distribution globale des données.
2. Distorsion de l'Agrégation (Aggregation Distortion) : Même lorsque les clients apprennent des caractéristiques transférables, le processus d'agrégation peut distordre ces caractéristiques, les désalignant avec les objectifs globaux et compromettant la performance globale.

Les méthodes existantes, telles que la régularisation (ex: FedProx, MOON) et les techniques de correction (ex: SCAFFOLD), se concentrent sur l'alignement des mises à jour locales avec le modèle global mais négligent souvent la préservation des capacités de généralisation, menant au surapprentissage dans des conditions de données limitées. Inversement, les méthodes axées sur la généralisation locale (ex: FedAlign, FedSAM) échouent souvent à maintenir des objectifs d'optimisation cohérents entre les clients lors de l'agrégation.

2. Méthodologie : FedCONST

Les auteurs proposent FedCONST (Apprentissage Fédéré avec Contraintes Convexes pour la Généralisation du Modèle Global), un cadre qui module de manière adaptative les magnitudes de mise à jour en fonction de la force des paramètres du modèle global. La philosophie centrale est de préserver les caractéristiques bien apprises (fortes) tout en renforçant celles qui sont sous-apprises (faibles).

2.1. Fondement Théorique

La méthode repose sur l'hypothèse que la magnitude des poids sert de proxy pour la force des caractéristiques, de manière analogue au rapport signal sur bruit du gradient (GSNR) utilisé dans la généralisation de domaine.

• Conjecture 1 : Des poids importants indiquent des caractéristiques bien apprises (fortes), tandis que des poids faibles signifient des caractéristiques plus faibles nécessitant un entraînement supplémentaire.
• Corrélation GSNR : L'article cite des travaux antérieurs (Liu et al., Michalkiewicz et al.) établissant une corrélation positive entre la taille des poids et le GSNR. Puisque le calcul direct du GSNR dans le FL est irréalisable en raison des goulots d'étranglement de communication, FedCONST utilise les magnitudes des poids globaux comme un proxy fiable et économique en termes de communication.

2.2. Cadre d'Optimisation Contrainte

FedCONST introduit un cadre d'optimisation contraint appliqué lors de l'entraînement local des clients. L'objectif est de minimiser la perte locale $L_m(W)$ soumise à deux contraintes linéaires convexes :

1. Contrainte d'Orthogonalité : $G_c^l \top (w_c^l - G_c^l) = 0$

   • Ceci garantit que les mises à jour locales sont orthogonales aux paramètres actuels du modèle global ($G_c^l$).
   • Effet : Cela empêche les mises à jour redondantes sur les caractéristiques déjà fortes (bien apprises), préservant ainsi leur stabilité et évitant le surapprentissage.

2. Contrainte de Centralisation : $\mathbf{1}^\top w_c^l = 0$

   • Ceci garantit que la somme des mises à jour pour un vecteur de caractéristiques est nulle.
   • Effet : Cela équilibre l'impact total de la mise à jour, boostant l'apprentissage des caractéristiques faibles (sous-apprises) en empêissant la dominance des caractéristiques fortes.

2.3. Convexité et Agrégation

Un choix de conception critique est que ces contraintes sont linéaires et convexes.

• Stabilité Locale : Les contraintes stabilisent le processus d'entraînement local en réduisant la variance du gradient.
• Préservation de l'Agrégation : Parce que les contraintes sont convexes et partagées entre tous les clients, les bénéfices de généralisation sont préservés après l'étape d'agrégation. L'article soutient que des contraintes non convexes pourraient stabiliser l'entraînement localement mais échoueraient à maintenir l'alignement lors de l'agrégation, tandis que les contraintes convexes garantissent que le modèle agrégé reste dans la "zone de généralisation".

2.4. Algorithme d'Entraînement

Le processus d'entraînement (Algorithme 1) modifie la boucle standard de FedAvg :

1. Le serveur envoie le modèle global $w^k$ aux clients.
2. Les clients effectuent des mises à jour locales où les gradients sont projetés :
   • Centrage : $g \leftarrow C(g) = g - \frac{1}{n}\mathbf{1}^\top g$
   • Projection : $g \leftarrow P_{w^k}(g) = (I - pp^\top)g$, où $p$ est le vecteur de paramètres globaux normalisé.
3. Les modèles locaux mis à jour sont agrégés par le serveur.

3. Principales Contributions

L'article présente trois contributions majeures :

1. Nouveau Cadre : Une approche simple mais efficace qui conserve les caractéristiques bien apprises tout en se concentrant sur celles sous-apprises, introduisant de nouvelles perspectives pour améliorer la généralisation dans le FL.
2. Garantie Théorique et Empirique : Une analyse démontrant que la méthode augmente la généralisation en imposant des probabilités de mise à jour plus élevées sur les caractéristiques sous-apprises tout en préservant les fortes.
3. Performance de l'État de l'Art : Validation sur un large éventail de jeux de données (CIFAR-10, CIFAR-100), de modèles (LeNet-5, ResNet-18) et de niveaux d'hétérogénéité (environnements Cross-Device et Cross-Silo), montrant une supériorité significative sur les méthodes de FL existantes.

4. Résultats Expérimentaux

Les expériences ont été menées sur CIFAR-10 et CIFAR-100 avec différents degrés d'hétérogénéité des données (Dirichlet $\alpha = 0.2$ et $0.5$).

• Performance : FedCONST a systématiquement surpassé les algorithmes de référence (FedAvg, FedProx, MOON, SCAFFOLD, FedDyn, FedSAM).
  • Dans les configurations Cross-Device avec LeNet-5, FedCONST a amélioré la précision jusqu'à +10,95 % par rapport à SCAFFOLD et +8,16 % par rapport à FedAvg.
  • Dans les configurations Cross-Silo, les améliorations étaient similairement significatives, avec ResNet-18 affichant des gains de +10,59 % par rapport à SCAFFOLD.
• Stabilité : La méthode a réduit la variance du gradient par rapport à FedAvg, stabilisant les mises à jour locales dans des environnements de données éparses.
• Diversité de Dérive (Drift Diversity) : Elle a renforcé la diversité de la dérive, garantissant que les clients puissent apprendre efficacement et refléter des caractéristiques uniques malgré les contraintes.
• Analyse du Paysage de Perte (Loss Landscape) :
  • Convexité : L'application des contraintes a entraîné un paysage de perte plus convexe (mesuré par le ratio $|\lambda_{max}/\lambda_{min}|$), éloignant le modèle des points de selle.
  • Consistance : La consistance des clients a été considérablement améliorée, assurant une expérience d'apprentissage plus alignée entre les clients hétérogènes.
• Analyse des Caractéristiques : Les expériences ont confirmé la corrélation entre la magnitude des poids et le GSNR. FedCONST a réussi à augmenter la somme des valeurs GSNR pour les caractéristiques globales, indiquant que les caractéristiques communes généralisables ont été correctement renforcées.

5. Signification et Revendications

L'article affirme que FedCONST aligne efficacement les objectifs locaux et globaux, atténuant le surapprentissage et favorisant une plus forte généralisation à travers divers environnements de FL.

• Motivation : Le travail comble l'écart laissé par les méthodes de FL existantes qui soit se concentrent trop sur l'alignement (négligeant la généralisation), soit sur la généralisation locale (négligeant l'alignement).
• Efficacité : La méthode est mise en avant pour être efficace en termes de communication et sans état (stateless), ne nécessitant aucun cycle de communication supplémentaire au-delà du FedAvg standard.
• Robustesse : En exploitant des contraintes convexes dérivées des magnitudes des poids globaux, la méthode garantit que le processus d'agrégation ne distord pas les capacités de généralisation apprises localement.

Les auteurs positionnent FedCONST comme une solution qui atteint des performances de pointe tout en maintenant une haute efficacité computationnelle et de communication, ce qui le rend adapté à un déploiement réel où les données sont distribuées, déséquilibrées et bruitées.