🤖 machine learning

Onboarding Without Forgetting: Hypernetwork Personalization with Data-Free Replay for Personalized Federated Learning

Cet article introduit pFedDSH, un cadre d'apprentissage fédéré personnalisé qui utilise un hyperréseau central, des masques spécifiques aux lots et une relecture sans données côté serveur pour intégrer efficacement de nouveaux lots de clients tout en préservant la performance des clients existants sans nécessiter le partage de données brutes ou de réentraînement.

Auteurs originaux : Thinh Nguyen, Le Huy Khiem, Van-Tuan Tran, Khoa D Doan, Nitesh V Chawla, Kok-Seng Wong

Publié 2026-07-22

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Thinh Nguyen, Le Huy Khiem, Van-Tuan Tran, Khoa D Doan, Nitesh V Chawla, Kok-Seng Wong

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un monde où votre smartphone, votre montre connectée et la tablette de votre voisin veulent tous apprendre ensemble pour devenir plus intelligents, mais qu'il leur est interdit de partager leurs photos privées ou leurs messages. C'est le domaine de l'Apprentissage Fédéré (Federated Learning), une manière astucieuse pour les ordinateurs de collaborer sans jamais céder leurs données secrètes. Imaginez cela comme un groupe de chefs essayant de perfectionner la recette d'une soupe secrète. Au lieu d'envoyer leurs ingrédients dans une cuisine centrale (ce qui serait désordonné et risqué), chacun cuisine un petit peu chez soi, renvoie simplement des notes de dégustation, et le chef principal mélange ces notes pour améliorer la recette maîtresse.

Habituellement, nous imaginons que ce groupe de chefs est fixe dès le premier jour. Mais dans le monde réel, de nouvelles personnes rejoignent la fête tout le temps. Peut-être qu'un nouvel hôpital rejoint un réseau de recherche médicale, ou qu'une nouvelle école rejoint un programme de littératie. Cela crée une situation délicate : si le chef principal continue de modifier la recette maîtresse pour satisfaire les nouveaux chefs, les anciens chefs pourraient oublier comment préparer la soupe qu'ils maîtrisaient déjà. C'est le problème de l'« oubli » dans une équipe qui s'agrandit. La grande question est la suivante : Comment accueillir de nouveaux membres et apprendre d'eux sans que l'équipe originale ne perde ses compétences ?

Cet article, intitulé « Onboarding Without Forgetting » (Intégration sans oubli), s'attaque précisément à ce problème. Les chercheurs introduisent un nouveau scénario qu'ils appellent l'Onboarding Progressif de Clients (Progressive Client Onboarding), où la tâche reste la même (comme classer la pneumonie sur des radiographies), mais où le groupe de participants s'agrandit par lots au fil du temps. Ils ont découvert un compromis frustrant : si vous mettez à jour les connaissances partagées du groupe avec de nouveaux membres, les anciens membres deviennent moins performants dans leur travail. Mais si vous figez les connaissances pour protéger les anciens membres, les nouveaux membres ne peuvent rien apprendre de nouveau, et le groupe cesse de progresser.

Pour résoudre cela, les auteurs proposent une nouvelle méthode appelée pFedDSH. Imaginez que le chef principal possède un « générateur de recettes » magique (un hyperréseau) capable de créer instantanément une version personnalisée de la recette de la soupe pour n'importe quel chef, ancien ou nouveau. Mais voici le tour de magie : le générateur utilise un ensemble de « feux de signalisation » (des masques) pour décider quelles parties de la recette sont verrouillées pour les anciens chefs et quelles parties sont ouvertes aux ajustements pour les nouveaux chefs. Cela garantit que les recettes des anciens chefs restent en sécurité.

Mieux encore, le système utilise une « cuisine fantôme » (replay sans données). Puisque le serveur ne peut pas voir les ingrédients privés des anciens chefs, il utilise une technique spéciale pour créer des ingrédients synthétiques et factices qui ressemblent et goûtent exactement comme les vrais. Le serveur utilise ensuite ces faux ingrédients pour guider doucement le générateur de recettes, de sorte que les améliorations apprises des nouveaux chefs soient discrètement transmises aux anciens chefs sans que ces derniers n'aient jamais besoin de se réentraîner ou de partager leurs données.

Les chercheurs ont testé leur méthode sur des ensembles de données d'images comme CIFAR-10 et Tiny-ImageNet. Ils ont constaté que leur méthode permet aux nouveaux clients de démarrer fort (obtenant un gain de 2 % à 6 % par rapport à un entraînement seul) tout en apportant simultanément aux clients existants une amélioration légère mais constante (un gain de 3 % à 6 %) à mesure que de nouveaux lots rejoignent le groupe. Contrairement à d'autres méthodes qui soit nuisent à l'ancienne équipe, soit la laissent stagnante, pFedDSH parvient à rendre tout le monde meilleur. Il y parvient sans ralentir la communication ni nécessiter de quantités massives de puissance de calcul supplémentaire, prouvant que l'on peut effectivement intégrer de nouveaux amis à l'équipe sans faire oublier à l'équipe originale ses propres recettes.

Résumé Technique : Onboarding sans oubli : Personnalisation par hyperréseau avec rejeu sans données pour l'apprentissage fédéré personnalisé

1. Formulation du problème : Onboarding progressif de clients en FL (PCO-FL)

L'article identifie une lacune dans la littérature existante sur l'apprentissage fédéré personnalisé (pFL) et l'apprentissage continu fédéré (FCL). Alors que le pFL standard suppose un ensemble de clients statique et que le FCL suppose des changements de tâches séquentiels, les scénarios réels impliquent souvent un espace de tâches et d'étiquettes fixe où la population de clients évolue au fil du temps.

Les auteurs définissent ce cadre comme l'Onboarding Progressif de Clients en Apprentissage Fédéré (PCO-FL). Dans ce régime :

Stabilité de la tâche : La tâche de classification et l'espace d'étiquettes restent constants.
Cohortes dynamiques : Les clients arrivent par lots ( $B_t$ ) au fil du temps. Une fois intégrés, les clients existants ( $C_{<t}$ ) ne se réentraînent pas localement ; ils restent « gelés » pendant que les nouveaux lots rejoignent le système.
Le conflit central :
1. Adaptation Proactive (PA) : Mettre à jour le modèle partagé avec de nouveaux clients améliore leurs performances (fournissant une initialisation forte), mais dégrade généralement la précision des clients existants en raison du désalignement des gradients et des conflits de capacité.
2. Amélioration Rétroactive (RI) : Geler le modèle partagé protège les clients existants, mais les empêche de bénéficier des nouvelles connaissances acquises par les lots ultérieurs.

L'objectif est de maximiser la PA pour les nouveaux clients tout en garantissant une RI non négative (amélioration ou stabilité) pour les clients existants sans les réentraîner ni accéder à leurs données brutes.

2. Méthodologie : pFedDSH

Pour répondre à ces compromis, les auteurs proposent pFedDSH (Apprentissage fédéré personnalisé via un sous-hyperréseau sans données). Le cadre se compose de trois composants intégrés :

A. Hyperréseau central pour la personnalisation

Au lieu d'entraîner directement des modèles locaux, un serveur central maintient un hyperréseau $H(\cdot; \phi)$ .

Mécanisme : Chaque client $c$ est représenté par un plongement (embedding) $e_c$ . L'hyperréseau génère des poids personnalisés $\theta_c = H(e_c; \phi)$ pour l'architecture de base.
Avantage : Cela permet au serveur de contrôler la personnalisation, de générer des modèles instantanés pour les nouveaux clients et de gérer l'allocation de la capacité de manière centrale sans nécessiter de réglage fin (fine-tuning) local des paramètres de l'hyperréseau par les clients.

B. Masquage binaire spécifique au lot

Pour empêcher les nouvelles mises à jour d'écraser les connaissances critiques pour les clients existants, la méthode utilise des masques binaires apprenables.

Allocation de capacité : Pour chaque étape d'onboarding $t$ et chaque couche $\ell$ , le serveur apprend des logits de masque $z^{(\ell)}_t$ . Une fonction sigmoïde avec une échelle élevée $\gamma$ les convertit en portes quasi-binaires $g^{(\ell)}_t$ .
Union cumulative : Un masque cumulatif $m^{(\ell)}_{\le t}$ est maintenu comme le maximum élément par élément des masques précédents et de la porte de l'étape actuelle.
Modulation du gradient : Les gradients sont modulés de sorte que les poids ne soient mis à jour que s'ils impliquent de nouvelles canaux actifs à l'étape $t$ . Si une connexion a déjà été allouée à un lot précédent, son gradient est mis à zéro, gelant ainsi cette capacité pour les clients existants tout en permettant à la nouvelle capacité d'absorber les mises à jour conflictuelles.

C. Rejeu côté serveur sans données

Puisque les clients existants ne se réentraînent pas et que leurs données sont privées, le serveur utilise DeepInversion pour synthétiser des données et propager les améliorations de manière rétroactive.

Synthèse : Le serveur génère des images synthétiques $\tilde{x}$ en optimisant une fonction de perte qui correspond aux statistiques courantes (moyenne et variance) des couches BatchNorm de la phase d'entraînement des clients, combinée à une régularisation de variation totale (TV) et L2 pour assurer une structure d'image naturelle.
Réglage fin rétroactif : En utilisant l'ensemble de données synthétique $S_t$ dérivé du lot actuel, le serveur affine l'hyperréseau. Crucialement, il récupère le sous-réseau spécifique défini par le masque spécifique au lot de chaque lot précédent $t' < t$ et met à jour ces paramètres.
Résultat : Cela permet au serveur d'« enseigner » aux clients existants les nouvelles connaissances dérivées des lots récents sans exiger que les clients possèdent des données brutes ou effectuent un entraînement local.

3. Contributions clés

Définition de PCO-FL : L'article introduit et analyse formellement le scénario d'Onboarding Progressif de Clients, le distinguant du pFL et du FCL standard par sa tâche fixe mais sa population de clients évolutive.
Investigation empirique : À travers des expériences contrôlées, les auteurs démontrent que :
- L'agrégation progressive aide les nouveaux clients (PA positive) mais nuit aux clients existants (RI négative).
- Le gel du modèle protège les clients existants (RI $\approx$ 0) mais empêche le transfert de connaissances.
- Un mécanisme est nécessaire pour atteindre simultanément une PA positive et une RI positive.
Cadre pFedDSH : La proposition d'une nouvelle architecture combinant des hyperréseaux, du masquage spécifique au lot et du rejeu sans données pour résoudre le dilemme de l'onboarding.
Évaluation complète : Des expériences approfondies montrant que pFedDSH surpasse les pFL traditionnels, les hyperréseaux pour clients rejoignant tardivement, et les bases de comparaison FCL sur plusieurs jeux de données (CIFAR-10, CIFAR-100, Tiny-ImageNet).

4. Résultats expérimentaux

Les auteurs évaluent pFedDSH par rapport à des bases de comparaison (FedPer, FedRep, FedSelect, pFedHN, PeFLL, FedWeIT, etc.) sous différents calendriers d'onboarding (2, 5 et 11 lots).

Performance (PA & RI) :
- Clients existants : pFedDSH est la seule méthode qui obtient une RI positive constante (ex: +3,80% à +6,20% sur CIFAR-10 selon le calendrier), ce qui signifie que les clients existants s'améliorent réellement à mesure que les nouveaux lots rejoignent le système. Toutes les autres méthodes souffrent de baisses de précision significatives (RI négative).
- Nouveaux clients : pFedDSH maintient une forte PA (gains par rapport à un entraînement isolé), comparable ou supérieure aux autres méthodes basées sur les hyperréseaux.
Efficacité de la capacité :
- L'analyse de l'utilisation des neurones montre que pFedDSH n'alloue pas de sous-réseaux disjoints pour chaque lot. Au lieu de cela, il réutilise jusqu'à ~40% des canaux entre les lots, augmentant progressivement la capacité totale uniquement lorsque cela est nécessaire.
Efficacité :
- Communication : La surcharge de communication par round est comparable aux autres méthodes d'hyperréseau (ne différant que de quelques kilo-octets).
- Latence : Bien que le rejeu côté serveur ajoute de la computation, pFedDSH ne l'exécute qu'une seule fois par lot (coût amorti), ce qui entraîne une augmentation modeste de la latence par rapport aux méthodes qui exécutent le rejeu à chaque round (comme HR) ou qui n'utilisent aucun rejeu.

5. Signification et affirmations

L'article affirme que pFedDSH offre une solution pratique pour les systèmes fédérés réels où la participation des clients est dynamique. Sa signification réside dans :

Résolution du compromis « Onboarding vs Oubli » : Il démontre qu'il est possible d'intégrer de nouveaux clients et d'améliorer la connaissance globale du système sans sacrifier la performance des clients en place.
Préservation de la confidentialité : En utilisant le rejeu sans données côté serveur (synthétisant des images à partir des statistiques BatchNorm plutôt qu'à partir de données brutes ou de gradients), la méthode facilite le transfert de connaissances sans exposer les données des clients, répondant ainsi à une préoccupation majeure de confidentialité en FL.
Scalabilité : Le mécanisme de masquage garantit que le modèle ne croît pas linéairement avec le nombre de lots, ce qui le rend évolutif pour un déploiement à long terme.

Les auteurs concluent que pFedDSH comble le fossé entre la personnalisation et l'apprentissage continu dans un cadre auparavant négligé, fournissant un cadre robuste pour les cohortes de clients évolutives dans des domaines sensibles à la confidentialité comme la santé.