🤖 machine learning

FMCL: Class-Aware Client Clustering with Foundation Model Representations for Heterogeneous Federated Learning

Le papier propose FMCL, un cadre de regroupement de clients en une seule passe et conscient des classes qui exploite les représentations de modèles de base figés pour construire des signatures sémantiques de clients, améliorant ainsi les performances et la stabilité de l'apprentissage fédéré dans des conditions d'hétérogénéité statistique sans nécessiter de coordination itérative ni de surcharge de communication supplémentaire.

Auteurs originaux : Mahad Ali, Laura J. Brattain

Publié 2026-05-01

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Mahad Ali, Laura J. Brattain

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'enseigner à un groupe de personnes comment reconnaître différents types d'animaux. Dans un monde parfait, chacun aurait un manuel scolaire avec les mêmes images de lions, de tigres et d'ours. Mais dans le monde réel (ce que cet article décrit comme « l'apprentissage fédéré »), chacun possède son propre album photo privé.

Certaines personnes n'ont que des images d'animaux de ferme, d'autres uniquement des images d'animaux de jungle, et certaines ont un mélange. Si vous essayez d'enseigner à tous en même temps en utilisant un seul « professeur global », la leçon devient confuse. L'expert en animaux de ferme pourrait penser qu'un tigre est un chat, et l'expert en jungle pourrait être dérouté par une vache. C'est le problème de l'hétérogénéité statistique : les données de chacun sont différentes, et une approche universelle échoue.

L'Ancienne Méthode : Deviner et Vérifier

Les méthodes précédentes tentaient de résoudre ce problème en regroupant les personnes.

La Méthode du « Gradient » : Ils attendaient que tout le monde commence à apprendre, puis examinaient leurs devoirs (les gradients) pour voir qui était similaire. Le problème ? Les premiers devoirs sont désordonnés et pleins d'erreurs, de sorte que les groupes formés étaient instables.
La Méthode du « Pixel » : Certains examinaient les pixels bruts des images (comme compter combien de pixels rouges se trouvent sur une photo). C'est comme essayer de comprendre une histoire en comptant le nombre de virgules ; cela manque le sens réel.
La Méthode de la « Moyenne » : D'autres prenaient la moyenne des caractéristiques de chacun. C'est comme dire : « La personne moyenne mesure 1,75 m et a les cheveux bruns », ce qui ignore que certaines personnes mesurent 1,95 m et d'autres 1,55 m.

La Nouvelle Solution : FMCL (Le « Bibliothécaire Intelligent »)

Les auteurs proposent un nouveau système appelé FMCL. Imaginez-le comme un Bibliothécaire Intelligent qui utilise une encyclopédie massive et pré-entraînée (appelée Modèle de Fondation) pour organiser les étudiants avant même que la classe ne commence.

Voici comment FMCL fonctionne, étape par étape :

1. La Signature « One-Shot » (Sans Attendre)

Au lieu d'attendre que les étudiants apprennent et fassent des erreurs, le Bibliothécaire Intelligent examine immédiatement leurs albums photo.

L'Outil : Le Bibliothécaire utilise un « Modèle de Fondation Gelé ». Imaginez cela comme une IA super-intelligente qui a déjà lu des millions de livres et vu des millions d'images. Elle sait exactement à quoi ressemble un « lion », non seulement par la couleur, mais par le sens (structure sémantique).
La Signature : Pour chaque étudiant, le Bibliothécaire crée une « Signature Consciente de la Classe ». Elle ne dit pas seulement : « Cet étudiant a 50 photos ». Elle dit : « Cet étudiant a 10 photos de lions, 20 de tigres et 20 d'ours, et voici l'essence exacte de ce qu'ils représentent pour lui ».

2. La Distance « Consciente du Chevauchement » (Éviter les Faux Amis)

C'est l'astuce la plus ingénieuse de l'article.
Imaginez deux étudiants :

Étudiant A a 1 000 photos de lions et 1 photo de tigre.
Étudiant B a 1 photo de lion et 1 000 photos de tigres.

Si vous regardez simplement la photo « moyenne », ils pourraient sembler similaires car ils ont tous deux un lion et un tigre. Mais ils sont en réalité très différents !

La Correction : FMCL utilise un calcul Conscient du Chevauchement. Il vérifie : « Combien partagez-vous vraiment ? » Il réalise que l'Étudiant A se soucie à peine des tigres, et que l'Étudiant B se soucie à peine des lions. Ainsi, il les maintient dans des groupes différents. Cela empêche le système de regrouper des personnes simplement parce qu'elles partagent par hasard une chose minuscule et rare.

3. Le Test de la « Silhouette » (Trouver la Bonne Taille de Groupe)

Habituellement, vous devez deviner : « Devrions-nous avoir 2 groupes ? 3 groupes ? 5 ? »
FMCL possède un Score de Silhouette intégré. Imaginez une piste de danse. Le Score de Silhouette mesure à quel point les gens dansent bien dans leurs propres cercles.

Si les groupes sont trop petits, les gens sont entassés.
Si les groupes sont trop grands, les gens sont éloignés.
Le système scanne automatiquement différentes tailles de groupes et choisit celle où les « danseurs » sont les plus heureux et les plus distincts. Il le fait une seule fois, avant le début de l'entraînement, afin qu'aucun temps supplémentaire ne soit gaspillé pendant le processus d'apprentissage réel.

Les Résultats : Pourquoi Cela Compte

Les auteurs ont testé cela sur trois « albums photo » différents :

Images d'échographie mammaire (BUSI) : Images médicales de masses.
Histologie pulmonaire (LungHist700) : Images microscopiques de tissus pulmonaires.
Imagenette : Un ensemble standard de 10 images naturelles (comme des chiens, des chats et des camions).

Le Résultat :
Dans chaque test, FMCL a été le gagnant clair.

Précision : Il a obtenu les scores les plus élevés pour l'identification des catégories correctes.
Stabilité : Il n'a pas fluctué de manière sauvage comme les anciennes méthodes.
L'Effet « Fondation » : Lorsqu'ils ont pris d'anciennes méthodes (comme PACFL ou FECFL) et leur ont donné le même « Bibliothécaire Intelligent » (Modèle de Fondation) à utiliser, ces anciennes méthodes se sont nettement améliorées. Cela prouve qu'avoir une compréhension profonde et sémantique des données est l'ingrédient secret.

La Conclusion

FMCL est comme une séance de stratégie pré-jeu pour une équipe d'apprenants distribués. Au lieu de les laisser trébucher et débattre de qui appartient à qui, il utilise une IA super-intelligente et pré-entraînée pour comprendre instantanément l'« ambiance » des données de chaque personne. Il les regroupe parfaitement en fonction de ce qu'ils savent réellement, prend en compte le fait que certaines choses sont rares, et détermine automatiquement le meilleur nombre d'équipes.

Le résultat ? Une équipe qui apprend plus vite, fait moins d'erreurs et n'a pas besoin de gaspiller du temps à débattre de qui s'assoit à quelle table.

1. Énoncé du problème

L'apprentissage fédéré (FL) permet un entraînement collaboratif de modèles sans partager de données brutes, mais il souffre considérablement de l'hétérogénéité statistique (données non-IID). Dans des scénarios réels (par exemple, la santé, les appareils mobiles), les distributions de données des clients varient en raison des démographies, des types d'appareils ou des protocoles d'acquisition.

Limitation des modèles globaux : Les méthodes d'agrégation standard comme FedAvg supposent une distribution globale unique, ce qui conduit à des performances sous-optimales lorsque les données des clients divergent.
Limitation du FL regroupé existant (CFL) :
- Méthodes basées sur le gradient (par exemple, CFL, IFCA) : Elles reposent sur un entraînement itératif pour calculer les gradients, qui sont bruyants au début de l'entraînement, instables et nécessitent un réglage des hyperparamètres (seuils) ou une connaissance préalable du nombre de clusters ( $K$ ).
- Méthodes en un seul coup (par exemple, PACFL, FECFL) : Elles utilisent des signatures dérivées des données mais reposent souvent sur des statistiques de pixels bruts (manquant de sens sémantique) ou de simples plongements de caractéristiques moyennes (ignorant la structure distributionnelle intra-classe). Elles dépendent fréquemment de seuils de distance heuristiques et manquent de mécanismes principés pour la sélection automatique des clusters.

2. Méthodologie : Cadre FMCL

Les auteurs proposent FMCL (Regroupement de clients basé sur les modèles fondation), un cadre en un seul coup et conscient des classes qui effectue le regroupement avant le début de l'entraînement fédéré, ne nécessitant aucune communication supplémentaire pendant l'optimisation.

A. Composants principaux

Représentations de Modèles Fondation (FM) :
- FMCL utilise un modèle fondation figé et spécifique au domaine (par exemple, CHIEF pour la pathologie, USFM pour l'échographie, ViT-Tiny pour les images naturelles) pour extraire des plongements sémantiques de haut niveau.
- Contrairement aux pixels bruts ou aux encodeurs initialisés aléatoirement, les FM fournissent des caractéristiques transférables et riches sémantiquement.
Signatures de clients conscientes des classes :
- Au lieu d'un seul plongement global par client, FMCL construit une signature $\mathcal{S}_i$ pour chaque client $i$ qui capture la distribution de chaque classe présente dans son jeu de données local.
- Pour chaque classe $c$ $c$ dans les données du client $i$ $i$ :
  - Plongement moyen ( $\mu_{i,c}$ ) : Le vecteur de caractéristiques moyen des échantillons appartenant à la classe $c$ .
  - Poids de classe ( $w_{i,c}$ ) : La proportion d'échantillons de la classe $c$ par rapport à la taille totale du jeu de données du client.
- Signature : $\mathcal{S}_i = \{ (\mu_{i,c}, w_{i,c}) \}_{c \in \mathcal{C}_i}$ .
Distance cosinus consciente du chevauchement :
- Pour mesurer la similitude entre deux clients ( $i$ et $j$ ), FMCL calcule une distance cosinus pondérée entre leurs plongements conditionnels par classe.
- Pondération : La contribution de chaque classe chevauchante $c$ est pondérée par $\min(w_{i,c}, w_{j,c})$ .
- Échelle de chevauchement : La distance finale est mise à l'échelle inversement par le chevauchement total $\Omega_{ij} = \sum \min(w_{i,c}, w_{j,c})$ $Ω_{ij} = \sum min (w_{i, c}, w_{j, c})$ .
  - Raison d'être : Cela empêche les clients ayant très peu de classes partagées d'apparaître artificiellement similaires simplement parce qu'ils s'accordent sur ces classes éparses. Cela pénalise les paires ayant un soutien d'étiquettes partagé limité.
- Clients non chevauchants : Si les clients ne partagent aucune classe ( $C_{ij} = \emptyset$ ), ils se voient attribuer une grande distance dérivée du 95e/99e percentile des distances observées.
Sélection automatique des clusters :
- FMCL emploie une stratégie pilotée par les données pour déterminer le nombre optimal de clusters ( $K$ ) sans réglage manuel.
- Processus :
  1. Calculer le Coefficient de Variation (CV) des distances hors diagonale dans la matrice par paires pour estimer l'hétérogénéité globale.
  2. Définir une fenêtre de candidats adaptative pour $K$ basée sur le CV.
  3. Effectuer un regroupement hiérarchique pour chaque $K$ dans la fenêtre et évaluer en utilisant le Score de Silhouette.
  4. Sélectionner le $K$ correspondant au maximum local dominant de la courbe de silhouette.

3. Contributions clés

Signatures de clients sémantiques : Introduit une méthode novatrice de construction de signatures utilisant des modèles fondation figés qui modélisent explicitement les distributions conditionnelles par classe, capturant mieux la structure sémantique que les statistiques brutes ou les plongements moyens.
Métrique consciente du chevauchement : Propose une nouvelle métrique de distance qui prend en compte le chevauchement des classes et le poids distributionnel, assurant une mesure de similitude robuste même lorsque les clients ont des distributions de classes éparses ou déséquilibrées.
En un seul coup et agnostique de l'architecture : Le regroupement est effectué une seule fois avant l'entraînement, introduisant zéro surcharge de communication pendant la phase d'optimisation fédérée et restant agnostique à l'architecture du modèle en aval.
Automatisation principée : Fournit un mécanisme déterministe et piloté par les données (analyse de Silhouette guidée par le CV) pour sélectionner le nombre de clusters, éliminant le besoin de réglage manuel des hyperparamètres.

4. Résultats expérimentaux

Les auteurs ont évalué FMCL sur trois jeux de données : BUSI (Échographie mammaire), LungHist700 (Histopathologie pulmonaire) et Imagenette (Images naturelles).

Performance : FMCL a constamment surpassé les bases globales (FedAvg, FedProx) et les méthodes de regroupement antérieures (CFL, PACFL, FECFL) sur toutes les métriques (Précision, Macro-F1, AUC-ROC).
- Exemple (BUSI) : FMCL (Auto-K) a atteint 91,68 % de précision et 88,72 % de F1, dépassant significativement FedAvg (56,34 % de précision) et même les versions améliorées par FM d'autres méthodes de regroupement (par exemple, FECFL (FM) à 73,15 % de précision).
Impact des composants :
- Modèles fondation : Le remplacement des caractéristiques brutes par des plongements FM a considérablement boosté la performance des méthodes existantes (par exemple, PACFL (FM) vs PACFL).
- Conscience du chevauchement : La suppression du terme d'échelle conscient du chevauchement ("FMCL no overlap") a entraîné une dégradation constante des performances, validant l'importance de la métrique de distance proposée.
- Sélection automatique : La variante "Auto-K" a généralement surpassé les paramètres fixes- $K$ , démontrant la robustesse de l'algorithme de sélection.
Stabilité : FMCL a montré un comportement de regroupement plus stable et une convergence plus rapide par rapport aux méthodes itératives basées sur le gradient.

5. Signification

Pont entre les FM et le FL : Ce travail démontre l'utilité pratique des modèles fondation à grande échelle dans le contexte de l'apprentissage fédéré, spécifiquement pour caractériser les distributions de données des clients sans nécessiter de centralisation des données.
Robustesse à l'hétérogénéité : En modélisant explicitement les distributions au niveau des classes et le chevauchement, FMCL aborde les problèmes de "longue traîne" et de "classes éparses" courants dans les déploiements réels de FL hétérogène (par exemple, les sous-types de maladies rares).
Déploiement pratique : La nature en un seul coup du cadre le rend hautement adapté aux scénarios de déploiement où la bande passante de communication est limitée ou où la coordination itérative est irréalisable. Il offre une fondation modulaire et agnostique de l'architecture pour la recherche future à l'intersection des modèles fondation et de l'apprentissage fédéré.