Rethinking Federated Unlearning via the Lens of Memorization

Résumé technique : Repenser l'oubli fédéré à travers le prisme de la mémorisation

Énoncé du problème
L'apprentissage fédéré (FL) est de plus en plus tenu de prendre en charge l'oubli machine pour se conformer à des réglementations sur la vie privée telles que le RGPD et le CCPA (le « droit à l'oubli »). Bien que le réentraînement d'un modèle à partir de zéro après la suppression des données d'un client soit la référence pour l'oubli, il engendre des coûts de calcul et de communication prohibitifs. Les approches existantes d'oubli fédéré (FU) tentent d'approximer ce réentraînement en perturbant les représentations, en utilisant des mises à jour historiques ou en appliquant une ascension de gradient. Cependant, les auteurs soutiennent que ces méthodes négligent souvent la distinction critique entre les informations chevauchantes (modèles généralisables partagés entre le client à oublier et les clients restants) et les informations de mémorisation uniques (détails spécifiques au client). Les algorithmes actuels tentent fréquemment d'éliminer l'influence de l'ensemble du jeu de données à oublier, supprimant ainsi involontairement des motifs chevauchants. Cela conduit à un oubli inefficace (échec à supprimer les données mémorisées spécifiques) et à une injustice (dégradation disproportionnée des performances des clients restants qui partagent des motifs similaires avec le client à oublier).

Méthodologie
L'article propose un cadre fondé sur la théorie de l'information et le concept de mémorisation, conduisant au développement du FedMemPrune (Élagage de mémorisation fédéré).

1. Fondement théorique (Décomposition de l'information) :
   Les auteurs formalisent l'oubli en utilisant la Décomposition Partielle de l'Information. Ils définissent l'information apprise par un modèle à partir de l'union des données à oublier ($D_u$) et des données restantes ($D_r$) comme comprenant :

   • Information synergique : Fournie conjointement par $D_u$ et $D_r$.
   • Information redondante/chevauchante ($F_g$) : Partagée entre $D_u$ et $D_r$.
   • Information unique/de mémorisation ($F_m$) : Spécifique à $D_u$.

   Les auteurs soutiennent que le composant synergique est négligeable dans les scénarios d'oubli généraux. Par conséquent, l'objectif de l'oubli ne devrait pas être d'effacer toutes les informations de $D_u$, mais spécifiquement de supprimer les informations uniques de mémorisation ($F_m$) tout en préservant les informations chevauchantes ($F_g$). Supprimer $F_g$ nuit à la généralisation et à l'équité, tandis que supprimer $F_m$ réalise l'« oubli » souhaité sans sacrifier l'utilité.

2. Métrique d'évaluation : Évaluation de mémorisation groupée (GME) :
   Pour pallier le manque de métriques d'évaluation fines, les auteurs introduisent la GME. Cette métrique calcule un score de mémorisation pour chaque exemple du jeu de données à oublier, défini comme la différence de probabilité de classification correcte entre un modèle entraîné sur $D_u \cup D_r$ et un modèle entraîné uniquement sur $D_r$. Les exemples sont ensuite regroupés selon ces scores (par exemple, forte mémorisation vs faible mémorisation). L'efficacité de l'oubli est mesurée par la proximité entre les performances du modèle ayant subi l'oubli sur ces sous-groupes et la référence réentraînée, ciblant spécifiquement la suppression des exemples à forte mémorisation.

3. Algorithme : FedMemPrune :
   FedMemPrune est une approche en trois étapes basée sur l'élagage :

   • Étape 1 (Localisation des paramètres de mémorisation) : L'algorithme identifie les paramètres redondants dans le modèle global. Ceux-ci sont définis comme des paramètres recevant des mises à jour de gradient minimales de la part des clients restants ($D_r$). L'hypothèse est que les paramètres critiques pour $D_r$ encodent des connaissances chevauchantes/généralisables, tandis que les paramètres redondants encodent la mémorisation unique spécifique à $D_u$.
   • Étape 2 (Réinitialisation) : Les paramètres redondants identifiés sont réinitialisés en utilisant la stratégie d'initialisation originale (par exemple, Uniforme de Kaiming), effaçant ainsi efficacement les informations mémorisées.
   • Étape 3 (Ajustement fin) : Le modèle est affiné sur les clients restants ($D_r$) pour restaurer les performances de généralisation et reconstruire les représentations chevauchantes.

Contributions clés

• Changement conceptuel : L'article redéfinit l'oubli fédéré comme un processus de suppression de la mémorisation spécifique au client plutôt que d'effacer toute influence des données, soutenant que les informations chevauchantes doivent être préservées pour maintenir l'utilité du modèle et l'équité.
• Nouvelle métrique : L'introduction de l'Évaluation de mémorisation groupée (GME), qui permet une évaluation au niveau de l'exemple de l'efficacité de l'oubli, distinguant entre l'oubli des données de queue mémorisées et la préservation des données de tête généralisables.
• Algorithme proposé : Le développement de FedMemPrune, qui exploite la redondance des paramètres par rapport aux données restantes pour élaguer sélectivement les informations de mémorisation.

Résultats expérimentaux
Des expériences extensives ont été menées sur CIFAR-10, CIFAR-100 et EMNIST dans des configurations IID et Non-IID, comparant FedMemPrune à des références telles que Halimi et al. (ascension de gradient), Liu et al. (Matrice d'Information de Fisher), FedRecovery, FedAU, FedOSD et NoT.

• Efficacité de l'oubli : FedMemPrune correspond étroitement aux performances de la référence réentraînée, en particulier au sein des sous-groupes à forte mémorisation. Par exemple, sur CIFAR-100 (Non-IID), la méthode a atteint des précisions de classification sur les groupes à forte mémorisation (par exemple, 27,25 % contre 21,74 % pour la référence) nettement plus proches du modèle réentraîné que les autres références, qui échouaient souvent à oublier les données à forte mémorisation ou à oublier excessivement.
• Performance de généralisation : En préservant les informations chevauchantes, FedMemPrune maintient une haute précision de test sur le jeu de données retenu, surpassant souvent les autres références d'oubli et s'approchant de la référence réentraînée (par exemple, 63,33 % sur CIFAR-100 IID).
• Équité : La méthode démontre une équité locale supérieure, minimisant la variance des changements de performance parmi les clients restants. Cela confirme que la préservation des informations chevauchantes empêche une dégradation disproportionnée pour les clients partageant des données avec le client à oublier.
• Efficacité : FedMemPrune atteint les performances cibles en environ 50 % de temps en moins par rapport au réentraînement complet, car il évite la nécessité de réentraîner l'ensemble du modèle à partir de zéro.

Signification et affirmations
Les auteurs affirment que leur travail fournit à la fois des insights théoriques et des stratégies pratiques pour renforcer l'oubli fédéré. En distinguant la mémorisation des informations chevauchantes, ils soutiennent que l'oubli efficace ne doit cibler que la première. L'article affirme que FedMemPrune réalise avec succès un oubli robuste et efficace sans sacrifier l'utilité des connaissances retenues ni l'équité entre les clients. Le travail souligne que les protocoles d'évaluation actuels sont insuffisants et qu'une perspective consciente de la mémorisation est nécessaire pour évaluer et améliorer rigoureusement les mécanismes d'oubli fédéré. Les auteurs soulignent que leur approche est particulièrement adaptée aux scénarios où le jeu de données à oublier n'est pas disponible pendant la phase d'oubli, car elle repose sur les gradients des clients restants pour identifier ce qu'il faut élaguer.