Résumé Technique : FedeKD

Énoncé du Problème

L'apprentissage fédéré (FL) permet l'entraînement collaboratif de modèles à travers des clients décentralisés sans partager les données brutes. Cependant, les déploiements réels de FL font face à des défis majeurs dus à l'hétérogénéité des données (distributions non-IID) et à l'asymétrie des modèles. Ces conditions entraînent souvent un transfert négatif, où le savoir partagé entre les clients dégrade les performances locales au lieu de les améliorer.

Les méthodes existantes de distillation de connaissances fédérées (FKD) tentent d'atténuer ce problème en échangeant les sorties de modèles (logits ou représentations) plutôt que les paramètres. Cependant, les approches actuelles souffrent de deux limitations principales :

1. Hypothèse de fiabilité uniforme : Elles supposent généralement que le savoir transféré est uniformément fiable pour tous les échantillons et tous les clients, ignorant la variabilité de la qualité du savoir causée par des décalages de distribution ou des différences architecturales.
2. Dépendance aux données publiques : De nombreuses méthodes reposent sur des ensembles de données publics supplémentaires ou des représentations de données partagées pour stabiliser l'entraînement, ce qui est souvent indisponible ou soulève des préoccupations de confidentialité dans des scénarios pratiques.

Par conséquent, transférer aveuglément le savoir d'un « enseignant » (proxy global) vers un « élève » (modèle privé local) peut introduire des signaux trompeurs, causant une dégradation sévère des performances par rapport à un entraînement local.

Méthodologie : FedeKD

L'article propose FedeKD (Gating basé sur l'énergie pour une distillation de connaissances fédérée robuste), un cadre conçu pour effectuer une estimation de confiance échantillon par échantillon lors du transfert de connaissances, sans nécessiter de données publiques.

Architecture

FedeKD emploie une architecture asymétrique privé-proxy à chaque client :

• Modèle Privé ($f_k$) : Un réseau haute capacité responsable de la tâche principale d'apprentissage local.
• Modèle Proxy ($g_k$) : Un réseau léger utilisé exclusivement pour l'échange de connaissances inter-clients. Tous les modèles proxy partagent une architecture commune.

Processus d'Entraînement

Le cadre fonctionne par étapes séquentielles à chaque round de communication :

1. Distillation Avant Proxy : Chaque client fige son modèle privé et entraîne le proxy local pour imiter les prédictions du modèle privé sur les données locales.
2. Agrégation Proxy : Les proxies locaux sont téléchargés vers le serveur, agrégés en un proxy global, et diffusés à tous les clients.
3. Distillation Arrière Gating par Énergie : Le proxy global guide les mises à jour du modèle privé local. Crucialement, cette étape utilise un mécanisme de gating conscient de la fiabilité pour déterminer combien de confiance accorder à la guidance du proxy pour chaque échantillon spécifique.

Le Mécanisme de Gating Basé sur l'Énergie

L'innovation centrale est la conversion du désaccord privé-proxy en poids de confiance échantillon par échantillon.

• Score d'Énergie ($E(x)$) : Mesure le désaccord entre le modèle privé et le proxy global.
  • Pour la Classification : Utilise une divergence de Kullback-Leibler (KL) symétrique normalisée par l'entropie. Cela normalise le désaccord par l'entropie prédictive totale, garantissant que les contradictions à haute confiance sont pénalisées plus lourdement que les désaccords diffus à haute entropie.
  • Pour la Régression : Utilise l'erreur quadratique entre les prédictions.
• Poids de Confiance ($w_i$) : Les scores d'énergie sont normalisés par lots et passés à travers une porte logistique pour produire des poids de confiance continus :
  $$w_i = \rho(-\beta \tilde{E}_i)$$
  où $\tilde{E}_i$ est l'énergie normalisée par lots et $\beta$ contrôle la netteté.
• Règle de Mise à Jour : Le modèle privé est mis à jour en utilisant une combinaison pondérée de la perte supervisée et de la perte de distillation. Les échantillons avec un désaccord élevé (énergie élevée) reçoivent des poids de confiance plus faibles, réduisant efficacement la connaissance peu fiable, tandis que les échantillons avec un désaccord faible reçoivent des poids plus élevés.

Le mécanisme de gating est relatif au lot, ce qui signifie que la confiance est attribuée en fonction de la manière dont le désaccord d'un échantillon se compare aux autres dans le même mini-lot, plutôt qu'à un seuil global fixe. Les poids sont détachés lors de la rétropropagation pour garantir qu'ils agissent comme des scalaires de fiabilité sans introduire de nouveaux chemins d'optimisation.

Contributions Clés

1. Distillation Arrière Consciente de la Fiabilité : L'article introduit un objectif novateur qui déplace le focus de la manière dont échanger le savoir vers la mesure dans quelle mesure chaque signal transféré doit être crédité. Cela est réalisé sans données publiques en exploitant le désaccord privé-proxy spécifique à la tâche.
2. Cadre Asymétrique Privé-Proxy : La conception sépare l'apprentissage local (modèle privé haute capacité) de la communication (proxy léger), réduisant l'exposition des paramètres sensibles tout en permettant un échange de connaissances robuste.
3. Gating Basé sur l'Énergie : Un mécanisme de gating continu et différentiable qui mappe le désaccord vers des poids de confiance. Il gère à la fois la classification (via une divergence KL calibrée par l'entropie) et la régression (via l'erreur quadratique) au sein d'un cadre unifié.
4. Propriétés Théoriques : Les auteurs établissent que le mécanisme de gating préserve la direction des gradients de distillation (empêchant l'inversion du signal d'apprentissage) et fournit des poids de confiance bornés et non dégénérés.

Résultats Expérimentaux

FedeKD a été évalué sur six ensembles de données réels (quatre classifications : FashionMNIST, CIFAR-10, OCTMNIST, OrganAMNIST ; deux régressions : RetinaMNIST, Diabetic Retinopathy) sous des niveaux variables d'hétérogénéité (contrôlés par le paramètre de concentration de Dirichlet $\alpha$).

• Atténuation du Transfert Négatif : FedeKD a constamment obtenu le transfert négatif moyen ($\Delta_{avg}$) et le pire cas ($\Delta_{worst}$) les plus faibles sur tous les ensembles de données et tous les niveaux d'hétérogénéité. Sous une hétérogénéité sévère ($\alpha=0.1$), il a nettement surpassé des bases de référence comme FedAvg, FedProx, FedDyn et le récent FedType.
• Robustesse : La méthode a démontré une robustesse supérieure dans la queue inférieure de la distribution des performances des clients (P10 $\Delta$ pour la classification) et la queue supérieure de la distribution des erreurs (P90 $\Delta$ pour la régression), indiquant qu'elle protège les clients les plus vulnérables et atténue les erreurs extrêmes.
• Performance Prédictive : Malgré la priorisation de la robustesse, FedeKD a maintenu une précision moyenne des clients et un RMSE compétitifs ou supérieurs par rapport aux bases de référence, prouvant que la réduction du transfert négatif ne se fait pas au détriment des performances prédictives globales.
• Études d'Ablation :
  • Le retrait du mécanisme de gating (« No Gating ») a entraîné un transfert négatif significativement plus élevé, confirmant la nécessité d'un pondération consciente de la fiabilité.
  • Les fonctions d'énergie alternatives (entropie, marge, distance de caractéristiques) étaient moins cohérentes que l'énergie basée sur KL proposée.
  • Le paramètre de netteté du gating $\beta$ et le poids de distillation $\lambda_{kd}$ ont montré des performances optimales dans des plages modérées, équilibrant le compromis entre l'utilisation du savoir partagé et la préservation de l'apprentissage local.

Importance et Revendications

L'article revendique que FedeKD comble un vide fondamental dans le FL hétérogène : l'absence de mécanismes pour évaluer dynamiquement la fiabilité du savoir transféré. En traitant la fiabilité du savoir comme un objet de première classe, FedeKD atténue le transfert négatif sans les risques de confidentialité ou les exigences de données des méthodes existantes.

Les auteurs positionnent FedeKD comme une étape vers un apprentissage fédéré plus robuste et évolutif, en particulier pour les domaines sensibles à la confidentialité comme la santé, où l'hétérogénéité des données est prévalente et où le coût du transfert négatif (par exemple, un mauvais diagnostic) est élevé. Le travail souligne que l'estimation de confiance adaptative et échantillon par échantillon est essentielle pour une collaboration efficace dans des environnements non-IID, allant au-delà de l'hypothèse selon laquelle tous les signaux transférés sont également bénéfiques.

L'article reconnaît des limites, notant que les expériences ont été menées sur des benchmarks publics avec des partitions simulées et que les mesures d'énergie de régression mesurent le désaccord fonctionnel plutôt que l'incertitude calibrée. Des travaux futurs sont suggérés pour se concentrer sur des déploiements multi-sites réels, une évaluation consciente de l'équité et une estimation de confiance adaptative.