Résumé Technique : CRAFT (Agrégation Résolue aux Conflits pour l'Entraînement Fédéré)

1. Énoncé du Problème

L'apprentissage fédéré (FL) permet un entraînement collaboratif de modèles à travers des clients décentralisés sans partager de données brutes. Cependant, un goulot d'étranglement fondamental émerge de l'hétérogénéité des données (distributions non-IID), qui provoque des mises à jour locales divergentes. Les méthodes d'agrégation conventionnelles, telles que FedAvg, calculent des moyennes pondérées de ces mises à jour. L'article soutient qu'une moyenne naïve peut produire une direction de mise à jour globale qui améliore l'objectif global tout en entrant en conflit avec des clients spécifiques (c'est-à-dire que le produit scalaire entre la mise à jour globale et la mise à jour locale d'un client est négatif). Ce conflit entraîne une dégradation des performances pour ces clients spécifiques, résultant en de fortes disparités de précision par client et une faible équité, même si la précision globale moyenne est élevée.

Les approches existantes tentent d'atténuer ce problème par la régularisation (FedProx), la normalisation (FedNova), des objectifs soucieux de l'équité (AFL, q-FedAvg) ou des modèles personnalisés. Des méthodes conscientes des conflits (FedFV, FedLF, ConFIG) ont émergé pour manipuler directement la géométrie des mises à jour, mais elles reposent souvent sur des règles heuristiques ou manquent d'intégration d'informations temporelles pour guider la résolution.

2. Méthodologie : Le Cadre CRAFT

CRAFT reformule le problème d'agrégation non pas comme une moyenne pondérée, mais comme un problème de correction géométrique. L'objectif central est de trouver un vecteur de mise à jour globale $g$ qui soit aussi proche que possible d'une direction de référence stable tout en satisfaisant des contraintes strictes d'alignement sans conflit.

2.1 Formulation Principale

Au lieu de reconstruire une mise à jour à partir de zéro (comme dans les méthodes à priori nul) ou simplement de lisser (comme dans les méthodes de momentum), CRAFT résout un problème de moindres carrés contraints ancré sur une référence :

$$\min_{g \in \mathbb{R}^d} \frac{1}{2} \|g - \hat{g}_t\|^2 \quad \text{s.t.} \quad U_t g = \rho_t$$

Où :

• $\hat{g}_t$ est la direction de référence, définie comme la mise à jour globale normalisée de la ronde précédente ($\hat{g}_t = U(g_{t-1})$). Pour la première ronde, $\hat{g}_0 = 0$.
• $U_t$ est la matrice des mises à jour locales normalisées des clients actifs ($u_i = g_i / (\|g_i\| + \epsilon)$).
• $\rho_t$ est le vecteur des cibles d'alignement positives, généralement dérivées des proportions de données des clients ($\rho_i = |D_i| / \sum |D_j|$).
• La contrainte $U_t g = \rho_t$ garantit que la mise à jour globale $g$ a un produit scalaire positif avec la mise à jour normalisée de chaque client participant, assurant ainsi une direction sans conflit.

2.2 Solution Analytique

Le problème est sous-déterminé (dimension du modèle $d \gg$ nombre de clients $m$). CRAFT dérive une solution analytique en utilisant la pseudo-inverse de Moore-Penrose, évitant ainsi la surcharge computationnelle des solveurs itératifs ou de la programmation quadratique. La mise à jour est calculée comme une correction $\Delta_t$ de la référence :

$$g_t = \hat{g}_t + \Delta_t, \quad \text{où} \quad \Delta_t = U_t^\dagger (\rho_t - U_t \hat{g}_t)$$

Cette formulation assure que si la direction de référence satisfait déjà les contraintes, aucune correction n'est appliquée. Sinon, la plus petite correction euclidienne est ajoutée pour imposer l'alignement.

2.3 Adaptation par Couche

Reconnaissant que les réseaux de neurones profonds présentent des dynamiques d'optimisation spécifiques aux couches (par exemple, les couches peu profondes peuvent souffrir de décalages de distribution d'entrée tandis que les couches plus profondes souffrent de biais d'étiquettes), CRAFT met en œuvre une adaptation par couche. Le problème d'optimisation est décomposé en $Q$ sous-problèmes indépendants pour chaque couche $q$, résolvant la correction séparément :
$$g^q_t = \hat{g}^q_t + (U^q_t)^\dagger (\rho_t - U^q_t \hat{g}^q_t)$$
Cela empêche des conflits sévères dans une couche de supprimer des composantes utiles dans d'autres.

2.4 Propriétés Théoriques

L'article fournit une analyse théorique montrant que CRAFT promeut une structure de descente commune. En imposant un alignement non négatif avec toutes les mises à jour des clients, la méthode atténue les conflits. Les auteurs établissent des garanties de convergence en temps fini pour des objectifs non convexes sous des hypothèses standard de régularité et de gradients bornés, démontrant un taux de convergence de $O(1/\sqrt{T})$ comparable à l'optimisation non convexe standard, à condition que le taux d'apprentissage local décroisse de manière appropriée.

3. Contributions Clés

1. Reformulation du Problème : Les auteurs proposent de reformuler l'agrégation fédérée comme un problème de moindres carrés contraints ancré sur une référence plutôt que comme une règle de moyenne pondérée. Cela impose directement un alignement positif entre la mise à jour globale et chaque client.
2. Solution Analytique Efficace : Contrairement aux méthodes itératives de résolution de conflits, CRAFT dérive une solution explicite utilisant la correction de Moore-Penrose, maintenant le calcul côté serveur léger ($O(dm^2 + Qm^3)$).
3. Référence de Type Momentum : L'utilisation de la mise à jour globale de la ronde précédente comme direction de référence permet à CRAFT de préserver la cohérence temporelle et de stabiliser les mises à jour face au bruit d'échantillonnage, la distinguant des méthodes qui projettent vers un vecteur nul.
4. Granularité par Couche : Le cadre traite les conflits à la granularité des couches du modèle, le rendant adapté aux réseaux de neurones profonds où des contraintes vectorielles globales pourraient être trop grossières.
5. Extensibilité en Plug-in : CRAFT est conçu comme un opérateur d'agrégation générique pouvant remplacer la moyenne pondérée dans les pipelines FL personnalisés existants (par exemple, Ditto) sans modifier les mécanismes d'adaptation locale.

4. Résultats Expérimentaux

Des expériences extensives ont été menées sur des benchmarks hétérogènes (FEMNIST, CIFAR-10, CIFAR-100) en utilisant divers modèles (MLP, CNN, ResNet-20/56/110) et des populations de clients (jusqu'à 1000 clients).

• Performance Globale : CRAFT a constamment surpassé les références de l'état de l'art en précision moyenne. Sur CIFAR-10 avec ResNet-20, il a réalisé une amélioration relative de 53,5 % par rapport à ConFIG et une amélioration de 7,8 % par rapport à FedAvgM sur FEMNIST.
• Équité et Disparité : CRAFT a considérablement réduit l'écart-type de la précision par client. Il a amélioré les performances des clients "queue" (les 10 % les plus mauvais) sans sacrifier les clients "tête". Par exemple, sur CIFAR-10, il a amélioré la précision des 10 % les plus mauvais de 221,5 % par rapport à FedLF.
• Convergence : CRAFT a démontré une convergence plus rapide et une précision finale plus élevée, en particulier sur les réseaux profonds où d'autres méthodes saturent souvent tôt ou souffrent de dérive des clients.
• Intégration FL Personnalisé : Lorsqu'intégré dans le cadre Ditto, CRAFT a amélioré la précision de test moyenne de 19,7 % sur CIFAR-10 et de 98,8 % sur CIFAR-100 par rapport à Ditto standard, démontrant sa capacité à améliorer les pipelines personnalisés.

5. Signification et Revendications

L'article revendique que CRAFT offre une nouvelle perspective sur la conception de l'agrégation, passant d'une résolution de conflits heuristique à une approche fondée sur des principes géométriques et des contraintes. Sa signification réside dans :

• Atténuation de l'Hétérogénéité : Il s'attaque directement à la cause racine des problèmes d'équité en FL (mises à jour conflictuelles) plutôt qu'à simplement ajuster les objectifs ou régulariser l'entraînement local.
• Équilibre entre Précision et Équité : Il atteint une précision moyenne élevée tout en réduisant simultanément les disparités de performance, un double objectif souvent difficile à satisfaire avec les méthodes existantes.
• Praticité : La méthode est efficace sur le plan computationnel, ne nécessite aucune communication supplémentaire et est facilement extensible aux cadres FL personnalisés existants.

Les auteurs reconnaissent des limitations, notant que la direction de référence actuelle est un simple prior de type momentum et que les cibles d'alignement sont basées sur les proportions de données. Ils suggèrent que des travaux futurs pourraient explorer des références adaptatives ou des cibles basées sur la progression de l'entraînement et les exigences d'équité. Cependant, le travail actuel établit CRAFT comme un mécanisme d'agrégation robuste et sans conflit pour l'entraînement fédéré hétérogène.