FedAgain: A Trust-Based and Robust Federated Learning Strategy for an Automated Kidney Stone Identification in Ureteroscopy

1. Problématique et Contexte

L'intelligence artificielle (IA) en imagerie médicale, en particulier pour l'identification des calculs rénaux lors de l'urétéroscopie, fait face à trois défis majeurs qui limitent son déploiement clinique :

• Hétérogénéité des données (Non-IID) : Les données proviennent de multiples hôpitaux avec des équipements, des protocoles d'acquisition et des populations de patients différents, créant des distributions de données non identiques et indépendantes.
• Corruption des images : Les images endoscopiques sont souvent dégradées par des artefacts réels (flou de mouvement, réflexions spéculaires dues à l'humidité, variations d'éclairage, occlusions par des instruments chirurgicaux).
• Confidentialité et Robustesse : La centralisation des données est interdite pour des raisons de confidentialité (RGPD, HIPAA). Le Federated Learning (FL) permet de contourner cela, mais les algorithmes standards (comme FedAvg) sont fragiles face aux clients "bruyants" ou malveillants, ce qui peut dégrader le modèle global.

L'objectif est de développer un système de FL capable de maintenir une haute précision diagnostique tout en étant robuste aux perturbations d'acquisition et aux données hétérogènes, sans compromettre la vie privée des patients.

2. Méthodologie : Le Framework FedAgain

L'article propose FedAgain, une stratégie d'apprentissage fédéré basée sur la confiance (trust-based). Contrairement aux méthodes classiques qui pondèrent les mises à jour des clients uniquement par la taille de leurs jeux de données, FedAgain introduit un mécanisme de double signal pour évaluer la fiabilité de chaque client à chaque round d'entraînement.

Composants Clés :

1. Double Métrique de Confiance :

   • Erreur de Référence (Benchmark Error - $E_k$) : Avant l'entraînement local, le client évalue la performance du modèle global actuel sur son propre jeu de validation. Une erreur élevée indique que la distribution des données du client est peu représentative ou de mauvaise qualité.
   • Divergence des Paramètres ($D_k$) : Après l'entraînement local, la divergence entre les poids mis à jour du client et le modèle global est calculée (norme L2). Une divergence excessive peut indiquer un comportement anormal (bruit, attaque ou sur-apprentissage local).

2. Calcul du Score de Confiance ($T_k$) :
   Le serveur calcule un score de confiance pour chaque client $k$ en combinant ces deux signaux :
   $$T_k = \frac{1}{E_k \cdot D_k + \varepsilon}$$
   Où $\varepsilon$ est une constante pour éviter la division par zéro.

   • Un client avec une faible erreur de référence et une faible divergence (données fiables et mises à jour cohérentes) obtient un score $T_k$ élevé.
   • Un client avec des données corrompues ou des mises à jour aberrantes obtient un score faible.

3. Agrégation Pondérée par la Confiance :
   Les scores sont normalisés pour former des poids d'agrégation $\hat{T}_k$. Le modèle global est mis à jour en effectuant une moyenne pondérée des mises à jour des clients, où les clients peu fiables sont automatiquement pénalisés (poids réduits) sans nécessiter de détection explicite d'anomalies ou de réglages spécifiques aux attaques.

3. Contributions Principales

• Première approche FL pour l'identification des calculs rénaux : C'est la première méthode de FL appliquée à la reconnaissance in-vivo des types de calculs rénaux, explicitement conçue pour gérer la robustesse face à la corruption d'images et à la fiabilité des clients.
• Mécanisme d'agrégation adaptatif (FedAgain) : Une règle d'agrégation simple mais efficace qui utilise l'erreur de benchmark et la divergence des paramètres pour pondérer dynamiquement les contributions des clients, améliorant la résilience dans des environnements Non-IID et corrompus.
• Cadre d'évaluation complet : Implémentation d'une base de code PyTorch reproductible comparant FedAgain à des baselines standards (FedAvg, FedProx) et robustes (FedMedian, Bulyan). L'évaluation couvre sept tests de stress (corruption de 10% à 50%) sur des benchmarks publics (MNIST, CIFAR-10) et trois jeux de données cliniques de calculs rénaux.
• Validation empirique de la robustesse : Démonstration que FedAgain surpasse les méthodes centralisées et locales en termes de précision et de stabilité, même avec des perturbations réalistes (bruit, flou, changement de contraste).

4. Résultats Expérimentaux

Les expériences ont été menées sur trois jeux de données de calculs rénaux (Michel Daudon, Jonathan El-Beze, MyStone) et deux benchmarks standards (MNIST, CIFAR-10), avec des configurations de clients allant de 5 à 20 et des taux de corruption allant jusqu'à 50%.

• Performance sous corruption légère à modérée : FedAgain maintient une stabilité supérieure. Par exemple, avec 30% de clients corrompus, FedAgain conserve une précision d'environ 72-73%, tandis que FedAvg chute significativement.
• Robustesse aux scénarios "Heavy" : Même avec 40% de clients corrompus (niveau de sévérité 5), FedAgain maintient une performance quasi constante (72,89% de précision), démontrant une résilience exceptionnelle là où d'autres méthodes (comme Bulyan ou FedAvg) se dégradent fortement.
• Gestion de l'hétérogénéité (Non-IID) : Dans des scénarios de décalage de labels (Label Skew) et de distribution Dirichlet, FedAgain réduit la variance des performances et surpasse FedAvg de 3 à 7% en précision, tout en restant compétitif par rapport aux méthodes robustes complexes comme FedMedian, mais sans nécessiter de connaître à l'avance le nombre de clients malveillants.
• Évolutivité (Scalability) : À mesure que le nombre de clients augmente (de 5 à 20), FedAgain préserve mieux la qualité du modèle global que FedAvg, l'écart de performance s'élargissant en faveur de FedAgain dans les environnements hétérogènes.

5. Signification et Impact

FedAgain représente une avancée pratique vers le déploiement clinique de l'IA fédérée en imagerie médicale.

• Fiabilité Clinique : En garantissant que les modèles ne sont pas corrompus par des données de mauvaise qualité provenant d'un seul hôpital ou d'un équipement défectueux, la méthode renforce la sécurité des systèmes d'aide au diagnostic.
• Préservation de la Vie Privée : Elle permet de collaborer entre plusieurs institutions sans partager les données brutes, respectant ainsi les réglementations strictes (HIPAA, RGPD).
• Adaptabilité : Le mécanisme de confiance est générique et ne nécessite pas de réglage fin spécifique à un type d'attaque, ce qui le rend applicable à divers domaines médicaux au-delà de l'urologie.

En conclusion, FedAgain offre une solution scalable et robuste pour l'entraînement collaboratif de modèles d'IA, capable de gérer la complexité et la variabilité inhérentes aux données médicales réelles tout en assurant une convergence stable et fiable.