FedSKD: Aggregation-free Model-heterogeneous Federated Learning via Multi-dimensional Similarity Knowledge Distillation for Medical Image Classification

Le papier présente FedSKD, un cadre d'apprentissage fédéré hétérogène sans agrégation centralisée qui utilise une distillation de connaissances multidimensionnelle et une circulation de modèles en boucle pour améliorer la précision personnalisée et la généralisation dans les applications médicales.

L'essentiel

🏥 Le Problème : Des Hôpitaux qui ne se parlent pas

Imaginez que vous avez plusieurs hôpitaux dans différentes régions (Paris, Lyon, Marseille, etc.). Chacun a des milliers de photos de patients (IRM, taches de peau, etc.) pour aider à diagnostiquer des maladies.

Le problème ?

1. La confidentialité : Les lois interdisent de partager ces photos directement d'un hôpital à l'autre. C'est comme si chaque hôpital avait un coffre-fort scellé.
2. Les outils différents : L'hôpital A utilise de très gros ordinateurs puissants et des modèles d'intelligence artificielle complexes. L'hôpital B, plus petit, n'a que de petits ordinateurs et doit utiliser des modèles plus simples.
3. Le désordre des données : Les patients de Paris ne ressemblent pas exactement à ceux de Marseille (différences d'âge, d'origine, de machines utilisées).

L'objectif est d'entraîner une "intelligence collective" pour mieux diagnostiquer, sans jamais ouvrir les coffres-forts et sans obliger tout le monde à utiliser le même ordinateur.

---

🚫 L'Ancienne Méthode : Le Chef d'Orchestre (Centralisé)

Traditionnellement, on utilisait un serveur central (un "Chef d'Orchestre").

• Chaque hôpital envoyait une partie de son cerveau (son modèle) au Chef.
• Le Chef mélangeait tout (comme une salade) et renvoyait une version moyenne.
• Le hic : Si les hôpitaux ont des modèles trop différents (un gros vs un petit), le Chef ne sait pas comment les mélanger. De plus, si le Chef tombe malade (panne), tout s'arrête. C'est aussi risqué pour la vie privée car tout passe par un seul point.

---

✅ La Nouvelle Solution : FedSKD (Le Tour de Table)

Les auteurs proposent FedSKD, une méthode où il n'y a pas de Chef. Les hôpitaux travaillent directement entre eux, comme un tour de table.

1. La Circulation du "Sac à dos" (Round-Robin)

Imaginez un jeu de passe-passe avec un sac à dos magique (le modèle d'IA).

• L'Hôpital A remplit son sac avec ses connaissances locales.
• Il passe le sac à l'Hôpital B.
• L'Hôpital B regarde ce qu'il y a dedans, ajoute ses propres connaissances, et le passe à l'Hôpital C.
• Et ainsi de suite, jusqu'à ce que le sac revienne à A.

L'avantage : Pas besoin de serveur central. Chaque hôpital garde ses données chez lui.

2. Le Défi : Le "Voyageur qui oublie" (Dérive du modèle)

Dans les anciennes méthodes de passe-passe, il y avait un gros problème : l'amnésie.

• Quand l'Hôpital B reçoit le sac de A, il apprend de A.
• Mais quand il le passe à C, il oublie ce qu'il avait appris de A pour se concentrer sur C.
• À la fin, le modèle a oublié les premiers hôpitaux et ne se souvient que du dernier. C'est ce qu'on appelle la dérive du modèle (il change trop de personnalité) et la dilution des connaissances (il perd les infos importantes).

3. La Magie de FedSKD : Le "Miroir à Trois Dimensions" (Distillation de Connaissances)

C'est ici que FedSKD devient génial. Au lieu de simplement copier-coller le sac, chaque hôpital utilise un miroir spécial pour comparer son sac avec celui qu'il reçoit. Ce miroir vérifie trois choses :

• 🔍 Le Miroir de la "Classe" (Batch-wise) : "Est-ce que nous voyons les mêmes groupes de patients ?" (Ex: Est-ce que nous reconnaissons tous les cas d'autisme de la même manière ?).
• 🖼️ Le Miroir des "Détails" (Pixel/Voxel-wise) : "Regardez cette tache de peau ou cette zone du cerveau. Est-ce que nous voyons la même forme ?" Cela assure que les détails fins ne sont pas perdus.
• 🧠 Le Miroir des "Régions" (Region-wise) : "Est-ce que nous comprenons comment les différentes parties du cerveau travaillent ensemble ?" (Comme vérifier si le lobe frontal et le lobe temporal sont connectés logiquement).

Le résultat : Grâce à ce miroir, l'Hôpital B apprend de A sans oublier ce qu'il savait déjà. Il renforce les connaissances au lieu de les effacer. C'est comme si chaque hôpital ajoutait une brique à un mur sans faire tomber les briques précédentes.

---

🏆 Les Résultats : Pourquoi c'est génial ?

Les chercheurs ont testé cette méthode sur deux tâches réelles :

1. Diagnostiquer l'autisme grâce à des images du cerveau (IRM).
2. Détecter le cancer de la peau grâce à des photos de grains de beauté.

Les conclusions :

• Meilleure précision : FedSKD devance toutes les anciennes méthodes, même celles qui utilisent un serveur central.
• Adaptabilité : Chaque hôpital garde son style (son modèle personnalisé) tout en apprenant des autres.
• Robustesse : Même si un hôpital envoie de mauvaises informations (une attaque malveillante), le système résiste mieux que les autres.
• Équité : Le système fonctionne aussi bien pour les hommes que pour les femmes, évitant les biais.

En Résumé

FedSKD, c'est comme un cercle de sagesse médicale. Au lieu de tout centraliser dans une tour de Babel (le serveur), les hôpitaux se passent un livre de recettes. Mais contrairement aux anciennes méthodes où on effaçait les pages précédentes, FedSKD utilise un système de miroirs pour s'assurer que chaque nouvelle recette ajoutée renforce les anciennes, créant une intelligence collective puissante, privée et adaptée à chaque hôpital, qu'il soit grand ou petit.

Résumé technique

1. Problématique

L'apprentissage fédéré (FL) permet de collaborer sur la formation de modèles sans partager les données brutes, ce qui est crucial dans le domaine médical pour respecter la confidentialité (HIPAA, GDPR). Cependant, les approches existantes rencontrent deux obstacles majeurs dans les scénarios réels :

• Hétérogénéité des modèles (MHFL) : Les clients (hôpitaux) ont des ressources de calcul et des besoins spécifiques différents, nécessitant des architectures de modèles hétérogènes. Les méthodes actuelles reposent souvent sur un serveur central pour agréger les poids, ce qui impose des contraintes d'architecture (modèles partiellement identiques) ou nécessite des données publiques, limitant ainsi l'évolutivité et la flexibilité.
• Dérive du modèle et dilution des connaissances (P2P FL) : Les approches pair-à-pair (P2P) sans serveur évitent l'agrégation centrale mais souffrent souvent d'un apprentissage séquentiel. Lorsqu'un modèle unique traverse plusieurs clients avec des distributions de données non-IID (non indépendantes et non identiquement distribuées), il subit une dérive de modèle (adaptation excessive aux nouveaux clients) et une dilution des connaissances (oubli catastrophique des connaissances acquises précédemment).

L'objectif est donc de concevoir un cadre FL pair-à-pair capable de gérer des architectures de modèles totalement hétérogènes tout en empêchant la dérive et la dilution des connaissances, sans dépendre d'un serveur central.

2. Méthodologie : FedSKD

Les auteurs proposent FedSKD, un nouveau cadre d'apprentissage fédéré pair-à-pair (P2P) conçu pour la classification d'images médicales.

A. Architecture Globale et Circulation des Modèles

Contrairement aux méthodes P2P séquentielles classiques qui entraînent un seul modèle global, FedSKD utilise une circulation en boucle fermée (round-robin) de modèles hétérogènes :

• Modèle Adaptatif de Domaine (DAM) : Le modèle local de chaque client, spécialisé dans sa propre distribution de données.
• Modèle de Transit de Connaissances (KTM) : Le modèle reçu d'un client précédent, servant de vecteur de connaissances inter-clients.
• Processus : À chaque tour, un client reçoit un KTM d'un client prédéfini (permutation aléatoire). Il effectue un apprentissage mutuel bidirectionnel entre son DAM local et le KTM reçu, puis transmet son modèle mis à jour au client suivant. Cela crée une chaîne de renforcement des connaissances sans serveur central.

B. Distillation de Connaissances par Similarité Multi-dimensionnelle (SKD)

C'est l'innovation centrale de FedSKD. Pour permettre l'échange de connaissances entre des modèles aux architectures différentes (hétérogènes), la méthode ne compare pas les poids, mais les représentations de caractéristiques (features) à trois niveaux de granularité :

1. Similarité au niveau du lot (Batch-wise SKD - B-SKD) : Aligne les relations sémantiques entre les échantillons au sein d'un mini-lot. Elle capture les corrélations inter-échantillons spécifiques au dataset.
2. Similarité au niveau du pixel/voxel (Pixel/Voxel-wise SKD - P-SKD) : Assure la cohérence spatiale fine des caractéristiques, alignant la compréhension des structures locales et des relations spatiales.
3. Similarité au niveau des régions (Region-wise SKD - R-SKD) : Capture les corrélations sémantiques entre des régions anatomiques ou fonctionnelles prédéfinies (ex: régions du cerveau en IRM).

La fonction de perte totale combine ces trois termes avec la perte de classification standard (Cross-Entropy), permettant une régularisation dans l'espace des caractéristiques qui prévient l'oubli catastrophique.

C. Préservation des Connaissances

Pour éviter que le modèle reçu (KTM) ne soit totalement écrasé par l'adaptation au nouveau client :

• Le tête de prédiction du modèle reçu est gelée (frozen).
• Seul l'extracteur de caractéristiques est affiné (fine-tuned) lors de l'apprentissage mutuel.
• Cela garantit que les connaissances globales acquises précédemment sont préservées tout en permettant l'adaptation locale.

3. Contributions Clés

1. Premier cadre P2P-MHFL : FedSKD est le premier cadre d'apprentissage fédéré pair-à-pair conçu spécifiquement pour la classification d'images médicales avec des architectures de modèles totalement hétérogènes, éliminant le besoin d'un serveur central.
2. Mécanisme SKD Multi-dimensionnel : Introduction d'une nouvelle méthode de distillation par similarité (Batch, Pixel, Région) qui résout efficacement les problèmes uniques du P2P : la dérive du modèle et la dilution des connaissances.
3. Nouveaux Benchmarks Médicaux : Construction de deux ensembles de données fédérés réalistes et géographiquement partitionnés :
   • FedASD : Basé sur l'ensemble de données ABIDE (IRMf pour l'autisme), partitionné par région géographique pour refléter l'hétérogénéité des protocoles d'acquisition.
   • FedSkin : Basé sur Derm7pt (lésions cutanées), partitionné avec des distributions non-IID simulées (Dirichlet).
4. Performance Supérieure : Démonstration que FedSKD surpasse les méthodes de l'état de l'art (homogènes et hétérogènes) en termes de personnalisation locale et de généralisation globale.

4. Résultats Expérimentaux

Les expériences ont été menées sur deux tâches : le diagnostic du trouble du spectre autistique (ASD) et la classification des lésions cutanées.

• Performance Globale : FedSKD obtient les meilleurs résultats (AUC) dans les deux scénarios (Test Local et Test Global).
  • Sur FedASD (Hétérogène) : FedSKD dépasse le meilleur P2P existant (FedCross†) de 5,39 % en test local et 3,44 % en test global.
  • Sur FedSkin (Hétérogène) : FedSKD surpasse FedCross† de 3,14 % à 3,62 % selon les scénarios de non-IID.
• Comparaison avec l'agrégation : FedSKD surpasse également les méthodes basées sur l'agrégation centrale (FedAvg, FedProx, FedBN, FedMRL, pFedAFM), confirmant que l'absence de serveur et la distillation par similarité sont plus efficaces pour gérer l'hétérogénéité des données médicales.
• Robustesse :
  • Attaques par empoisonnement : FedSKD montre une résilience supérieure face aux attaques par inversion d'étiquettes (label flipping) par rapport aux autres méthodes.
  • Équité (Fairness) : Le modèle réduit significativement l'écart de performance entre les groupes démographiques (sexes), améliorant l'équité des résultats.
• Analyse d'ablation : L'étude montre que l'utilisation combinée des trois dimensions de similarité (Batch, Pixel, Région) est cruciale pour la performance optimale. De plus, l'intégration précoce de la distillation (dès le début de l'entraînement) est essentielle pour prévenir la dérive.

5. Signification et Impact

FedSKD représente une avancée paradigmatique pour l'apprentissage fédéré dans le domaine médical :

• Évolutivité et Flexibilité : En supprimant le serveur central et en permettant des architectures totalement hétérogènes, le cadre s'adapte parfaitement aux contraintes réelles des hôpitaux (matériel varié, besoins spécifiques).
• Stabilité de l'Apprentissage : La combinaison de la circulation en boucle fermée et de la distillation multi-dimensionnelle résout le problème fondamental de l'instabilité dans les réseaux P2P (dérive et oubli), rendant l'apprentissage collaboratif robuste même avec des données non-IID complexes.
• Préservation de la Vie Privée : Bien que le cadre soit pair-à-pair, il évite le partage de données brutes. Les auteurs soulignent la nécessité future d'ajouter des mécanismes de cryptage pour protéger les paramètres des modèles eux-mêmes contre les attaques d'inférence.

En conclusion, FedSKD offre une solution robuste, scalable et performante pour le déploiement de l'IA médicale collaborative, permettant une personnalisation accrue tout en maintenant une forte capacité de généralisation inter-institutionnelle.