💻 computer science

Detecting Atypical Clients in Federated Learning via Representation-Level Divergence

Cet article propose une métrique légère au niveau de la représentation qui quantifie la divergence des clients dans l'apprentissage fédéré en analysant les modifications des partitions de l'espace d'entrée induites par les activations sur un ensemble de sondage partagé, permettant ainsi la détection efficace de clients atypiques et une agrégation consciente des risques sans recourir à des comparaisons de paramètres ou de gradients.

Auteurs originaux : Cristian Pérez-Corral, Jose I. Mestre, Alberto Fernández-Hernández, Manuel F. Dolz, Enrique S. Quitana-Ortí

Publié 2026-05-22

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Cristian Pérez-Corral, Jose I. Mestre, Alberto Fernández-Hernández, Manuel F. Dolz, Enrique S. Quitana-Ortí

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un groupe d'étudiants (les « clients ») essayant d'apprendre une matière ensemble, mais ne pouvant pas partager leurs carnets personnels en raison de règles de confidentialité. Au lieu de cela, chacun étudie ses propres notes, rédige un résumé de ce qu'il a appris et n'envoie que ce résumé à un enseignant (le « serveur »). L'enseignant combine tous les résumés pour créer un seul manuel amélioré pour tous. C'est l'Apprentissage Fédéré.

Le problème est que tous les étudiants n'ont pas le même type de notes. Certains étudient peut-être à partir d'un manuel, d'autres d'une bande dessinée, et certains peuvent avoir des pages arrachées ou écrites dans une langue différente. Habituellement, cela ne pose pas de problème ; l'enseignant peut mélanger ces différentes perspectives. Mais parfois, un étudiant peut être confus, avoir un carnet cassé, ou essayer d'enseigner quelque chose de complètement faux. Si l'enseignant mélange aveuglément ce « mauvais » résumé avec les bons, le manuel final devient confus ou inutile.

Cet article propose une nouvelle façon pour l'enseignant de repérer quel étudiant envoie un résumé « étrange », sans avoir besoin de lire ses notes privées ni de comparer leurs carnets entiers page par page.

L'Ancienne Méthode vs La Nouvelle Méthode

L'Ancienne Méthode (Comparaison des Paramètres) :
Traditionnellement, l'enseignant vérifie si le résumé d'un étudiant ressemble aux autres en comparant les nombres et les poids spécifiques à l'intérieur du résumé. C'est comme vérifier si deux étudiants ont écrit exactement la même structure de phrase. Le problème est que deux étudiants peuvent écrire des phrases très différentes qui signifient en réalité la même chose, ou écrire des phrases similaires qui signifient des choses très différentes. Il est difficile de dire si la différence est simplement un style différent ou une erreur fondamentale.

La Nouvelle Méthode (L'Analogie de la « Disposition de la Maison ») :
Les auteurs suggèrent d'examiner la structure de l'apprentissage plutôt que les nombres spécifiques.

Imaginez les cerveaux des étudiants comme une immense maison à plusieurs pièces.

L'Espace d'Entrée : C'est la porte d'entrée où les questions (données) entrent.
Les Pièces : Au fur et à mesure qu'une question traverse la maison, elle passe par différentes pièces (couches du réseau de neurones).
Les Interrupteurs : À l'intérieur de chaque pièce, il y a des interrupteurs. Selon la question, certains interrupteurs sont « ALLUMÉS » et d'autres « ÉTEINTS ». Ce motif d'interrupteurs ALLUMÉS/ÉTEINTS crée une « disposition » ou une carte spécifique de la façon dont la maison traite cette question.

La méthode des auteurs fonctionne ainsi :

L'Ensemble de Sondage : L'enseignant donne à chaque étudiant la même petite liste standard de 128 questions d'exercice (un « ensemble de sondage »).
Cartographier la Maison : L'enseignant observe comment la « maison » de chaque étudiant s'illumine lorsqu'il répond à ces questions. Quels interrupteurs sont allumés ? Quelles pièces sont actives ?
La Comparaison : L'enseignant compare la « disposition de la maison » d'un étudiant spécifique à la « disposition de la maison » de la moyenne du groupe.
- Si la maison de l'Étudiant A a une disposition de pièces similaire à celle du groupe, il est normal, même si ses notes spécifiques semblent différentes.
- Si la maison de l'Étudiant B a une disposition complètement différente (par exemple, la cuisine se trouve là où devrait être la chambre), il est atypique.

Ce Qu'ils Ont Découvert

Les chercheurs ont testé cette idée avec deux « classes » différentes (ensembles de données) : l'une avec des images de vêtements et l'autre avec des images d'animaux.

Détection des Différences Naturelles : Lorsque les étudiants avaient naturellement des notes différentes (certains avaient plus d'images de chats, d'autres de chiens), les « dispositions de maison » étaient légèrement différentes mais stables. L'enseignant pouvait voir qu'ils étaient simplement différents, pas cassés.
Détection des « Mauvais » Étudiants : Les chercheurs ont ensuite secrètement donné à un étudiant un carnet corrompu (rempli de bruit ou d'images floues).
- La « disposition de maison » de cet étudiant est devenue chaotique et complètement différente de celle de tout le monde.
- L'enseignant a utilisé un simple tour de mathématiques (un « z-score », qui est comme un « compteur d'étrangeté ») pour signaler cet étudiant. Le compteur a dépassé les limites pour le mauvais étudiant, tout en restant calme pour tous les autres.

Pourquoi Cela Compte

L'essentiel est que cette méthode est légère et interprétable.

Légère : Elle ne nécessite pas de calculs lourds ni de cryptographie complexe. Elle vérifie simplement les « motifs d'interrupteurs » sur une petite liste de questions.
Interprétable : Elle indique à l'enseignant pourquoi un étudiant est signalé : « Votre cerveau organise l'information différemment du groupe », plutôt que de simplement dire « Vos nombres ne correspondent pas ».

En bref, cet article offre à l'Apprentissage Fédéré un nouvel outil pour repérer les étudiants qui sont vraiment confus ou qui agissent étrangement, garantissant que le manuel final du groupe reste fiable, même lorsque chacun apprend à partir de sources différentes.

Résumé Technique : Détection de Clients Atypiques dans l'Apprentissage Fédéré via une Divergence au Niveau des Représentations

Énoncé du Problème

L'apprentissage fédéré (FL) permet l'entraînement collaboratif de modèles à travers des clients distribués sans partager les données brutes, répondant ainsi aux contraintes de confidentialité et de sécurité. Cependant, le FL fait face à des défis majeurs dus à l'hétérogénéité des données (distributions non-i.i.d.), qui conduisent souvent à une convergence instable et à une dégradation des performances globales. Au-delà de l'hétérogénéité statistique bénigne, les déploiements pratiques font face à des risques où les mises à jour des clients dévient en raison de changements de distribution, de dérive des capteurs ou d'entrées anormales.

Les approches actuelles pour détecter de telles déviations reposent souvent sur la comparaison des paramètres du modèle ou des gradients. Les auteurs soutiennent que ces méthodes offrent un aperçu limité de la manière dont différents clients affectent le comportement fonctionnel interne et les frontières de décision du Réseau de Neurones (RN). Il existe un besoin de mécanisme pour distinguer la variabilité attendue causée par des données non-i.i.d. des déviations potentiellement nuisibles qui compromettent la stabilité ou la fiabilité du processus d'agrégation.

Méthodologie

L'article propose une métrique géométrique légère pour quantifier la divergence fonctionnelle entre le modèle local d'un client et le modèle global. Au lieu d'analyser les paramètres, l'approche se concentre sur la partition de l'espace d'entrée induite par les activations.

Motifs d'Activation et Partitionnement de l'Espace d'Entrée :
- Pour un Réseau de Neurones Feedforward (FF) basé sur ReLU, les auteurs définissent des motifs d'activation binaires $a_l(x; \theta)$ pour chaque couche $l$ .
- Ces motifs partitionnent l'espace d'entrée en régions affines par morceaux. Les échantillons partageant le même motif d'activation appartiennent à la même région.
- Les auteurs utilisent un ensemble de sondage $P$ fixe et partagé (un sous-ensemble i.i.d. de données) pour évaluer ces motifs.
Métrique d'Affinité d'Activation :
- Pour une couche donnée $l$ , l'affinité d'activation $K^\theta_l(i, j)$ entre deux échantillons de sondage $x_i$ et $x_j$ est calculée en fonction de la distance de Hamming entre leurs motifs d'activation.
- Cette métrique quantifie la « distance » entre les échantillons en termes de nombre d'hyperplans traversés. Une affinité élevée indique que les échantillons se trouvent dans les mêmes régions ou dans des régions voisines ; une faible affinité indique une séparation par plusieurs hyperplans.
- Cela résulte en une matrice d'affinité $K^\theta_l$ qui capture la manière dont un modèle regroupe les entrées.
Divergence Géométrique Hiérarchique :
- Pour comparer un modèle client ( $\theta_c$ ) avec le modèle global ( $\theta_g$ ), les auteurs calculent la norme de Frobenius de la différence entre leurs matrices d'affinité : $d_l(\theta, \theta') = \|K^\theta_l - K^{\theta'}_l\|_F$ .
- Une divergence hiérarchique ( $D_{hier}$ ) est définie pour tenir compte de la structure des RN. Étant donné que les couches précoces définissent des séparations grossières et que les couches plus profondes les affinent, les écarts dans les couches précoces sont pondérés plus lourdement.
- La formule est :
  $D_{hier}(\theta, \theta') = d_1(\theta, \theta') + \sum_{l=2}^{L} \left( \prod_{r=1}^{l-1} \lambda_r \right) d_l(\theta, \theta')$
  où $\lambda_l = \exp(-\beta d_l)$ agit comme un facteur de pondération à la baisse pour les couches plus profondes si les couches antérieures présentent déjà des différences significatives.
Détection d'Anomalies :
- Dans un contexte FL, la divergence $D_c^{(t)}$ est calculée pour chaque client $c$ à la ronde $t$ .
- Pour identifier les clients atypiques, un score d'outlier robuste (z-score) est calculé en utilisant la médiane et la Déviation Absolue Médiane (MAD) de la distribution de divergence à travers tous les clients.

Contributions Clés

Perspective Géométrique : Introduit une perspective novatrice pour analyser le comportement des clients FL basée sur la structure géométrique induite par les motifs d'activation des RN, plutôt que sur les valeurs des paramètres.
Métrique Légère : Propose une métrique qui quantifie la divergence fonctionnelle en mesurant comment l'entraînement local altère l'organisation de l'espace d'entrée, capturant des différences au-delà des comparaisons au niveau des paramètres.
Signal Interprétable : Démontre que cette métrique fournit un signal interprétable pour surveiller l'hétérogénéité des données et identifier les contributions de clients atypiques.

Résultats Expérimentaux

Les auteurs ont évalué la métrique sur deux scénarios : un MLP sur Fashion-MNIST et un ResNet-18 sur CIFAR-10, en utilisant la Descente de Gradient Stochastique (SGD) avec un partitionnement Dirichlet pour simuler des données non-i.i.d.

Validation de la Métrique (Analyse de l'Hétérogénéité) :
- Les expériences ont fait varier le paramètre Dirichlet $\alpha$ (de $\alpha=10$ proche de i.i.d. à $\alpha=0.1$ hautement hétérogène).
- Résultats : Dans des configurations proches de i.i.d. ( $\alpha=10$ ), les divergences des clients se sont stabilisées rapidement. Dans des configurations hautement hétérogènes ( $\alpha=0.1$ ), la métrique a capturé une augmentation systématique de la divergence et a identifié des clients qui déviaient de manière persistante du modèle global, s'alignant sur l'intuition selon laquelle des distributions de données distinctes induisent des organisations géométriques distinctes.
Identification de Clients Anormaux :
- Un client « décalé » a été simulé en appliquant des perturbations (bruit gaussien, rotations, flous) à l'ensemble de données d'un client tandis que les autres restaient standards.
- Résultats : Le client décalé a systématiquement présenté une divergence géométrique et des z-scores robustes significativement plus élevés que les clients réguliers sur toutes les rondes. Alors que les clients réguliers convergeaient vers des valeurs de divergence stables, le client décalé a maintenu une déviation persistante, indiquant une organisation géométrique fondamentalement différente de l'espace d'entrée. Cela s'est avéré vrai pour les deux architectures et les deux ensembles de données.

Signification et Revendications

L'article revendique que la surveillance de la structure géométrique induite par les RN fournit un signal significatif et interprétable pour évaluer les contributions des clients dans le FL. La métrique proposée distingue efficacement entre des clients hétérogènes stables et ceux dont les mises à jour induisent des changements fonctionnels atypiques.

Les auteurs positionnent ce travail comme un outil pour des stratégies d'agrégation conscientes des risques. En identifiant les clients qui dévient fonctionnellement (plutôt que simplement paramétriquement), le système peut pondérer ou filtrer les mises à jour en fonction de leur comportement fonctionnel. L'article conclut que cette approche ouvre la voie à une agrégation plus éclairée, bien qu'il note que des travaux futurs sont nécessaires pour intégrer directement ce signal dans la boucle d'entraînement et l'appliquer à des contextes à grande échelle ou adversariaux. Le travail est présenté comme complémentaire aux méthodes existantes de confidentialité cryptographique et de robustesse byzantine, offrant un signal de surveillance géométrique plutôt que des garanties cryptographiques formelles.