Enhanced Byzantine-Robust Federated Learning Via Truncated-Quadratic Loss for Heterogeneous Data

Énoncé du Problème
L'apprentissage fédéré (FL - Federated Learning) permet l'entraînement de modèles d'apprentissage profond à travers des clients distribués (par exemple, des appareils mobiles, des capteurs) sans partager les données brutes, améliorant ainsi la confidentialité. Cependant, cette architecture distribuée introduit des vulnérabilités face aux attaques byzantines, où des clients malveillants envoient des mises à jour arbitraires pour perturber le processus d'apprentissage. De plus, les scénarios réels de FL impliquent souvent des données hétérogènes (non-IID), où les distributions de données varient considérablement d'un client à l'autre. Les règles d'agrégation robustes existantes, telles que Krum, la Médiane par Coordonnée (CM) et l'Agrégation Fédérée Robuste (RFA), supposent souvent une homogénéité des données et se dégradent en présence d'hétérogénéité. Bien que le Découpage Centré (CC - Centered Clipping) et les agrégateurs basés sur la perte de Huber aient été proposés pour gérer les données hétérogènes, cet article identifie qu'ils souffrent d'un défaut critique : ils produisent des solutions biaisées face à des valeurs aberrantes de grande magnitude, particulièrement dans des conditions de haute hétérogénéité de données ou d'une fraction substantielle de clients byzantins. Ce biais s'accumule au fil des cycles de communication, menant à l'échec de l'apprentissage.

Méthodologie
L'article propose une nouvelle règle d'agrégation robuste basée sur la perte Quadratique Tronquée (TQ - Truncated-Quadratic). La méthodologie suit les étapes suivantes :

1. Analyse Théorique des Méthodes Existantes : Les auteurs utilisent d'abord la théorie de la conjugaison convexe pour démontrer l'équivalence entre le Découpage Centré (CC) et la minimisation de la perte de Huber pour un FL robuste aux attaques byzantines. Ils prouvent que les deux satisfont la robustesse $(f, \kappa)$ mais partagent une limitation commune : elles emploient la norme $\ell_1$ (ou des mécanismes de découpage équivalents) pour résister aux valeurs aberrantes. L'article analyse et démontre théoriquement que cette approche génère un biais qui croît avec l'hétérogénéité des données et la fraction de clients byzantins.
2. Proposition de la Perte Quadratique Tronquée (TQ) : Pour atténuer le biais inhérent à Huber/CC, les auteurs introduisent la fonction de perte TQ. Contrairement à Huber, qui croît linéairement pour les erreurs importantes, la TQ découpe entièrement la perte des valeurs aberrantes une fois qu'elles dépassent un seuil $\tau$. Le problème d'agrégation est formulé comme la minimisation de la somme des pertes TQ sur les mises à jour des clients.
3. Optimisation et Implémentation : Puisque la perte TQ est non lisse et non convexe, les auteurs utilisent la théorie de la conjugaison convexe pour reformuler le problème de minimisation en une forme itérative équivalente (Algorithme 1). Cela permet un calcul efficace où les mises à jour sont découpées en fonction de la distance par rapport à l'agrégat actuel.
4. Estimation des Hyperparamètres : La règle TQ nécessite un paramètre de seuil $\tau_k$ et la connaissance du nombre de clients byzantins ($f$). L'article propose une stratégie d'estimation robuste de la déviation utilisant la Médiane et l'Écart Absolu de la Médiane (MAD) pour estimer la moyenne et la variance des bons clients sans connaissance préalable. De plus, les auteurs analysent le scénario où seule une estimation du nombre de clients byzantins ($\hat{f}$) est disponible, montrant que l'agrégateur reste robuste même si $\hat{f}$ est une surestimation (jusqu'au point de rupture).
5. Intégration de l'Algorithme de FL : L'agrégateur TQ est intégré dans un cadre de FL robuste aux attaques byzantines (Algorithme 2) utilisant le momentum pour réduire la variance du gradient et combattre les attaques couplées temporellement.

Contributions Clés

• Équivalence et Analyse du Biais : L'article établit formellement l'équivalence entre la perte de Huber et le Découpage Centré via la théorie de la conjugaison convexe. Il fournit une analyse théorique montrant que ces deux méthodes produisent des solutions biaisées sous l'effet de l'hétérogénéité et des valeurs aberrantes, expliquant leurs échecs empiriques.
• Agrégateur TQ : Les auteurs proposent l'agrégateur basé sur la TQ, qui atténue efficacement le biais des méthodes existantes en découpant complètement les valeurs aberrantes de grande magnitude.
• Garanties de Robustesse : L'article prouve que l'agrégateur TQ satisfait la robustesse $(f, \kappa)$ avec un point de rupture $\delta_{min} = 0.5$. Il démontre que la TQ atteint un apprentissage optimal d'ordre sous des fonctions de perte non convexes et des données hétérogènes.
• Stratégies d'Estimation Pratiques : Une stratégie d'estimation robuste de la déviation est fournie pour l'hyperparamètre de la TQ, et l'article analyse l'impact de l'estimation du nombre de clients byzantins, montrant que la méthode reste efficace même avec des estimations imparfaites.

Résultats Expérimentaux
L'agrégateur TQ proposé a été évalué sur les jeux de données MNIST, Fashion-MNIST et CIFAR-10 sous diverses conditions :

• Types d'Attaques : La performance a été testée contre six attaques distinctes : Attaque Gaussienne (GA), Inversion de Labels (LF), Inversion de Bits (BF), Manipulation de Produit Intérieur (IPM), MIMIC, et "A Little Is Enough" (ALIE).
• Hétérogénéité : Les expériences ont couvert différents degrés d'hétérogénéité des données ($\rho$).
• Comparaisons : La TQ a été comparée à RFA, CM, TM, Krum, Huber, et l'Agrégation de Correntropy Maximale (MCA), avec et sans étapes de pré-agrégation comme le Bucketing et le Nearest Neighbor Mixing (NNM).

Constats :

• Robustesse Supérieure : La TQ a systématiquement surpassé les agrégateurs concurrents, particulièrement sous une haute hétérogénéité de données et une fraction élevée de clients byzantins (jusqu'à 50 %).
• Atténuation du Biais : Contrairement à Huber et CC, qui présentent une dégradation significative des performances et une accumulation de biais à mesure que le nombre de clients byzantins augmente, la TQ maintient une précision élevée.
• Attaques Mixtes : Dans les scénarios où différents clients byzantins lancent simultanément différents types d'attaques, la TQ surpasse nettement les autres méthodes à travers divers niveaux d'hétérogénéité.
• Robustesse de l'Estimation : Les résultats indiquent que la TQ maintient sa robustesse même lorsque le nombre de clients byzantins est estimé plutôt que connu exactement.

Signification et Revendications
L'article affirme que l'agrégateur TQ proposé améliore la fiabilité des systèmes d'apprentissage fédéré en traitant les modes de défaillance spécifiques des méthodes de pointe actuelles sous l'hétérogénéité des données. En prouvant que la TQ atteint un apprentisme d'erreur optimal d'ordre (s'alignant sur la borne inférieure théorique décrite dans le Lemme 2), les auteurs soutiennent que leur méthode représente une avancée significative dans le domaine du FL robuste aux attaques byzantines. Le travail fournit à la fois la justification théorique de l'échec de Huber/CC dans les contextes hétérogènes et une alternative pratique et robuste qui ne nécessite pas une connaissance précise du nombre de clients malveillants.