Résumé technique : Modèles à concepts fédérés (F-CMs)

Énoncé du problème

Les modèles à concepts (CM) améliorent l'interprétabilité de l'apprentissage profond en ancrant les prédictions dans des concepts compréhensibles par l'humain. Cependant, leur déploiement pratique est entravé par le coût élevé et la rareté des annotations de concepts au sein de sources de données uniques. Bien que l'apprentissage fédéré (FL) offre un paradigme pour l'entraînement collaboratif entre propriétaires de données distribués sans partager de données brutes, les cadres FL existants sont inadaptés aux CM. Le FL standard suppose une architecture de modèle fixe et partagée, alors que les CM reposent sur une architecture explicitement liée à un ensemble spécifique de concepts et de leurs dépendances. Dans des contextes FL réalistes caractérisés par une hétérogénéité statistique et une non-stationnarité temporelle (par exemple, l'arrivée ou le départ de clients ou une dérive des données), l'ensemble des concepts disponibles et leurs relations structurelles peuvent évoluer. Cela crée un décalage fondamental : le FL standard ne peut pas accommoder les adaptations architecturales requises lorsque de nouveaux concepts ou dépendances émergent, entraînant une perte d'interprétabilité ou la nécessité d'un réentraînement complet coûteux.

Méthodologie : Modèles à concepts fédérés (F-CMs)

Les auteurs proposent les Modèles à concepts fédérés (F-CMs), un cadre conçu pour déployer des CM dans des environnements fédérés évolutifs. Les F-CMs comblent l'écart entre les hypothèses statiques du FL et les espaces de concepts dynamiques grâce à trois mécanismes principaux :

1. Agrégation de graphes :
   Au lieu de supposer une structure globale prédéfinie, le serveur agrège les informations structurelles (graphes orientés acycliques ou DAG) fournies par les clients. Chaque client $k$ soumet une matrice d'adjacence pondérée $A^{(k)}$ représentant sa confiance locale dans les liens entre les variables supervisées. Le serveur construit un DAG global partagé $G_t$ en sommant ces confiances et en appliquant une règle de consensus maximal pour déterminer l'existence et la direction des arêtes. Ce processus gère les structures locales bruyantes ou conflictuelles et garantit que le modèle global reflète la connaissance collective de la fédération.

2. Adaptation dynamique de l'architecture :
   Le CM partagé est décomposé en composants modulaires : un encodeur latent, des encodeurs spécifiques aux concepts et un décodeur de tâche. À mesure que de nouveaux clients rejoignent le système ou que les distributions de données évoluent, introduisant des concepts ou des dépendances jamais vus auparavant, l'architecture s'adapte de manière modulaire :

   • Extension : De nouveaux modules sont instanciés pour les nouveaux concepts.
   • Reconfiguration : Si les dépendances changent (par exemple, une nouvelle arête $C_i \to C_j$), l'entrée du module correspondant est mise à jour.
   • Démarrage à chaud : Les paramètres existants des modules non affectés sont conservés, tandis que les nouveaux paramètres sont initialisés (par exemple, initialisés à zéro ou aléatoirement). Cela évite le réentraînement complet et préserve les connaissances déjà acquises.

3. Optimisation et agrégation spécifiques aux modules :
   Pour gérer la supervision partielle (où un client peut n'annoter qu'un sous-ensemble de concepts), les F-CMs emploient une stratégie d'optimisation masquée. Lors de l'entraînement local, les clients figent les modules pour les variables qu'ils ne supervisent pas. Par conséquent, les mises à jour sont générées uniquement pour les composants supervisés. Le serveur effectue ensuite une agrégation module par module, en moyennant les paramètres de chaque module spécifique uniquement sur le sous-ensemble de clients ayant fourni une supervision pour cette variable. Cela garantit que le modèle global intègre une supervision hétérogène sans obliger les clients à optimiser des concepts qu'ils ne peuvent pas observer.

Contributions clés

L'article présente les F-CMs comme la première méthodologie abordant les espaces de concepts évolutifs sous non-stationnarité temporelle dans le FL en adaptant la structure du modèle plutôt qu'en supposant une architecture fixe. Les contributions spécifiques sont :

• Nouvelle méthodologie : Une approche systématique pour déployer des architectures à base de concepts dans des contextes fédérés réalistes, gérant une supervision de concepts hétérogène, partielle et une non-stationnarité temporelle.
• Flexibilité architecturale : En dépassant l'hypothèse d'architecture fixe du FL standard, les F-CMs permettent à la structure du modèle partagé de s'adapter pendant l'entraînement, facilitant l'intégration de l'interprétabilité architecturale.
• Partage de connaissances respectueux de la vie privée : Réduction de la charge d'annotation au niveau des institutions individuelles en permettant l'agrégation des connaissances sur les concepts entre entités sans partager de données brutes.
• Validation empirique : Instantiation des F-CMs avec quatre architectures de CM distinctes (CBM, CEM, CGM, C2BM) et validation sur des benchmarks de réseaux bayésiens synthétiques et deux ensembles de données d'imagerie médicale réels (SIIM-Pneumothorax et CheXpert).

Résultats expérimentaux

Les auteurs ont évalué les F-CMs par rapport à des bornes supérieures centralisées, à un entraînement localisé, à des variantes fédérées statiques (S-F-CMs) et à des références d'apprentissage de concepts fédérés de l'état de l'art (FedCBM, FCL).

• Précision et couverture : Les F-CMs ont atteint une précision de tâche et une couverture de concepts comparables à un entraînement centralisé avec supervision complète des concepts. En revanche, les références fédérées statiques et les modèles localisés ont subi des baisses de performance significatives et n'ont pas réussi à couvrir les concepts introduits par des clients arrivant tardivement.
• Efficacité des interventions : Les F-CMs ont permis une inférence interprétable et des interventions efficaces sur des concepts non annotés localement dans certaines institutions. Lorsque des concepts de vérité terrain ont fait l'objet d'interventions, les F-CMs ont maintenu une haute précision des étiquettes, démontrant que le modèle exploite avec succès la supervision regroupée pour raisonner sur des concepts qu'il n'a pas observés directement lors de l'entraînement local.
• Efficacité sous non-stationnarité : Dans des scénarios où de nouveaux clients ont introduit des concepts inédits, les F-CMs ont convergé plus rapidement et vers une perte plus faible que les références statiques. Crucialement, les F-CMs n'ont nécessité la mise à jour que d'une petite fraction des paramètres (par exemple, 8 % à 61 % selon le contexte) par rapport à 100 % pour une référence de réentraînement complet (S-F-CMs Reinit), démontrant une haute efficacité d'adaptation.
• Robustesse : Le cadre a montré une robustesse face aux désaccords sémantiques inter-clients et aux perturbations de graphes (bruit dans les DAG fournis par les clients). La stratégie d'agrégation de graphes proposée a efficacement débruité les propositions locales incohérentes.
• Extension multimodale : Une extension de preuve de concept a démontré que les F-CMs peuvent gérer des modalités d'entrée hétérogènes (par exemple, images et texte) tout en partageant un espace de concepts sémantiques commun.

Importance et affirmations

L'article affirme que les F-CMs représentent une étape significative vers la mise à l'échelle de modèles interprétables tout en respectant des contraintes réelles telles que la confidentialité des données, la rareté des annotations et des environnements de déploiement dynamiques. En comblant le fossé entre la nature statique du FL standard et les exigences structurelles des CM, les F-CMs permettent :

1. Inférence interprétable sur des concepts inédits : La capacité de réaliser des prédictions interprétables sur des concepts qui ne sont pas annotés chez un client spécifique, une capacité absente des approches fédérées statiques existantes.
2. Croissance durable de la fédération : Un mécanisme pour intégrer de nouvelles sources de données et types de supervision sans rejeter les connaissances précédemment acquises ou encourir le coût computationnel d'un réentraînement complet.
3. Interprétabilité respectueuse de la vie privée : Une voie pour agréger des connaissances sémantiques de haut niveau entre institutions, réduisant le besoin d'efforts coûteux d'annotation de concepts centralisés.

Les auteurs reconnaissent les limites, notant que les architectures de CM actuelles n'ont pas été conçues à l'origine pour des espaces évolutifs, et que des travaux futurs pourraient se concentrer sur le développement de CM conscients de la fédération avec une plus grande modularité. Ils soulignent également la nécessité d'une analyse plus approfondie de la vie privée concernant les surfaces d'attaque potentielles spécifiques aux modèles fédérés à base de concepts.