Federated Nonlinear System Identification

Ce papier établit des garanties théoriques et valide expérimentalement que l'apprentissage fédéré améliore la convergence de l'identification de systèmes non linéaires par rapport aux approches centralisées, en tirant parti de l'augmentation du nombre de clients et de la sélection judicieuse des fonctions de caractéristiques.

L'essentiel

Le Problème : Apprendre seul dans le noir

Imaginez que vous êtes un mécanicien (un "client") qui doit réparer une machine très complexe, comme un pendule ou un drone. Le problème, c'est que cette machine ne suit pas des règles simples et droites (linéaires) ; elle a des comportements bizarres, courbes et imprévisibles (non-linéaires), comme si elle dansait plutôt que de marcher en ligne droite.

Pour comprendre comment elle fonctionne, vous avez besoin de données : observer comment elle bouge quand vous la poussez.

• L'approche classique (Centralisée) : Tous les mécaniciens envoient leurs carnets de notes à un grand chef unique qui les étudie tous ensemble.
  • Le hic : C'est impossible dans la vraie vie. Les carnets contiennent des secrets (vie privée), et envoyer tout cela prend trop de temps et d'énergie (bande passante).
• L'approche actuelle (Apprentissage seul) : Chaque mécanicien essaie de deviner la formule magique de sa propre machine tout seul.
  • Le hic : Avec peu de données, il se trompe souvent. C'est comme essayer de comprendre la météo en regardant par la fenêtre pendant 5 minutes.

La Solution : Le "Café des Mécaniciens" (Federated Learning)

Les auteurs proposent une troisième voie : l'apprentissage fédéré.

Imaginez un grand café où tous les mécaniciens se réunissent, mais avec une règle stricte : on ne partage jamais ses carnets de notes.

1. Chaque mécanicien reste chez lui et étudie sa propre machine pendant un moment. Il trouve une première idée de la formule magique (le modèle).
2. Il vient au café et dit seulement : "Voici ma meilleure hypothèse de formule."
3. Le chef (le serveur central) prend toutes ces hypothèses, les mélange intelligemment pour créer une "super-formule" moyenne, et la renvoie à tout le monde.
4. Chaque mécanicien reprend cette super-formule, l'affine un peu avec ses propres données, et le cycle recommence.

L'Innovation : Apprendre les "Danses" (Systèmes Non-Linéaires)

Avant, cette méthode ne fonctionnait bien que pour des machines simples qui marchent tout droit (systèmes linéaires). Ce papier est révolutionnaire car il montre comment faire cela pour des machines qui dansent (systèmes non-linéaires).

Pour comprendre ces danses complexes, les auteurs utilisent une astuce mathématique appelée cartographie de caractéristiques (feature map).

• L'analogie : Imaginez que vous regardez un danseur. Si vous ne regardez que ses pieds, c'est flou. Mais si vous projetez ses mouvements sur un mur avec une lumière spéciale (le "feature map"), vous voyez des formes géométriques claires.
• Les auteurs montrent que si on choisit la bonne "lumière" (le bon choix mathématique), on peut transformer la danse complexe en quelque chose de simple à analyser, même si chaque client a une machine légèrement différente des autres.

Les Résultats Magiques

L'étude prouve deux choses étonnantes :

1. Plus il y a de monde, mieux ça marche :
   Imaginez que vous essayez de deviner le poids d'un éléphant. Si vous le touchez une seule fois, vous vous trompez. Si 100 personnes le touchent et partagent leurs sensations, vous obtiendrez une estimation parfaite.
   Le papier démontre mathématiquement que plus le nombre de clients ($M$) augmente, plus l'erreur de prédiction diminue rapidement (comme $1/\sqrt{M}$). En gros, la sagesse de la foule rend chaque machine plus précise, même si les données restent privées.

2. La tolérance aux différences :
   Tous les mécaniciens ne réparent pas exactement la même machine (l'un a un pendule un peu rouillé, l'autre un peu gras). C'est ce qu'on appelle l'hétérogénéité.
   L'étude montre que tant que les machines sont "de la même famille" (comme tous des pendules), le groupe arrive à s'entendre et à apprendre, même s'il y a des petites différences.

En Résumé

Ce papier dit : "Vous n'avez pas besoin de mettre toutes vos données dans un même coffre-fort pour apprendre des systèmes complexes. Si vous travaillez en équipe, en partageant seulement vos idées (et pas vos secrets), vous apprendrez plus vite et plus précisément que si vous travailliez seul."

C'est une victoire pour la vie privée (vos données restent chez vous) et pour la précision (on apprend ensemble). Que ce soit pour des drones, des robots ou des systèmes biologiques, cette méthode permet de construire des modèles intelligents sans jamais violer la confidentialité des utilisateurs.

Résumé technique

Titre : Identification de Systèmes Non Linéaires Fédérés

Auteurs : Omkar Tupe, Max Hartman, Lav R. Varshney, et Saurav Prakash.

1. Problématique

L'identification de systèmes dynamiques est fondamentale pour la théorie du contrôle, la robotique et la physique. Traditionnellement, cette tâche repose sur des approches centralisées où toutes les données sont agrégées sur un serveur. Cependant, dans les applications modernes, les données sont souvent distribuées sur de nombreux appareils (clients), rendant leur centralisation impossible ou indésirable en raison de contraintes de vie privée, de bande passante ou d'énergie.

Bien que l'apprentissage fédéré (Federated Learning - FL) ait été appliqué à l'identification de systèmes linéaires (LTI), il existe un manque de cadres théoriques et pratiques pour les systèmes non linéaires. Ce papier vise à combler ce vide en proposant un cadre pour l'identification fédérée de systèmes dynamiques non linéaires linéairement paramétrés, en particulier les modèles affines par morceaux (PWA).

2. Méthodologie

A. Modélisation du Système

Les auteurs considèrent un cadre où $M$ clients possèdent chacun un système dynamique non linéaire appartenant à une même famille sous-jacente, mais présentant une hétérogénéité. Le modèle pour chaque client $i$ est défini par :
$$x^{(i)}_{t+1} = \theta^{(i)*} \phi(x^{(i)}_t, u^{(i)}_t) + w^{(i)}_t$$
Où :

• $x$ et $u$ sont respectivement l'état et la commande.
• $\phi$ est une application de caractéristiques (feature map) non linéaire connue (ex: polynomiale, trigonométrique).
• $\theta^{(i)*}$ sont les paramètres inconnus spécifiques au client.
• $w$ est un bruit de perturbation.
• L'hétérogénéité entre les clients est modélisée par une borne $\epsilon$ sur la distance entre les paramètres optimaux : $\max_{i,j} \|\theta^{(i)*} - \theta^{(j)*}\| \le \epsilon$.

B. Algorithme FNSysId

Les auteurs proposent l'algorithme FNSysId, une extension de l'algorithme standard FedAvg adaptée à l'identification de systèmes :

1. Initialisation : Le serveur initialise un modèle global $\bar{\theta}_0$.
2. Mise à jour Locale : Chaque client effectue $K_i$ itérations de descente de gradient (ou moindres carrés) sur ses propres données de trajectoire pour mettre à jour son modèle local $\theta^{(i)}$.
3. Agrégation : Les clients envoient leurs modèles mis à jour au serveur, qui calcule la moyenne pondérée pour obtenir le nouveau modèle global $\bar{\theta}_{r+1}$.
4. Boucle : Ce processus se répète sur plusieurs rounds de communication.

C. Hypothèses Théoriques

Pour garantir la convergence, plusieurs hypothèses sont posées :

• Les fonctions de caractéristiques $\phi$ sont réelles-analytiques.
• Le bruit et les entrées suivent des distributions semi-continues.
• Le système est localement stable en entrée-état (LISS).
• Condition d'excitation persistante via la condition BMSB (Block-Martingale Small-Ball), assurant que les matrices de conception sont bien conditionnées.

3. Contributions Clés

1. Cadre Non Linéaire : C'est la première étude proposant un cadre d'apprentissage fédéré pour l'identification de systèmes dynamiques non linéaires basés sur des modèles PWA.
2. Analyse de Convergence : Les auteurs établissent des garanties théoriques sur le taux de convergence. Ils démontrent que l'erreur de convergence diminue à un taux de $\tilde{O}(1/\sqrt{M})$, où $M$ est le nombre de clients.
   • Cela signifie que l'ajout de clients améliore significativement la précision du modèle pour chaque client individuel.
   • L'erreur dépend également de l'hétérogénéité $\epsilon$ : plus les systèmes sont similaires, meilleure est la performance.
3. Validation Expérimentale : L'approche est validée sur des systèmes physiques réels (pendule, quadrotor) et des données synthétiques, montrant une convergence supérieure par rapport à l'apprentissage isolé (single-client).

4. Résultats Expérimentaux

Les expériences ont été menées sur :

• Données Synthétiques : Systèmes avec des termes non linéaires sinusoïdaux.
• Systèmes Physiques :
  • Un pendule (1 état, 1 entrée).
  • Un quadrotor (13 états, 4 entrées).

Observations principales :

• Impact du nombre de clients ($M$) : L'erreur d'estimation décroît plus rapidement à mesure que le nombre de clients participants augmente. La relation entre l'erreur et $\sqrt{M}$ confirme la théorie $\tilde{O}(1/\sqrt{M})$.
• Impact de l'hétérogénéité ($\epsilon$) : Une hétérogénéité élevée (systèmes très différents) dégrade la convergence. Cependant, même avec une hétérogénéité modérée, le fédéré surpasse l'approche isolée.
• Volume de données local : Augmenter le nombre d'échantillons par client ($N_i$) améliore également la précision, mais le gain principal provient de la collaboration entre clients.
• Mises à jour locales ($K_i$) : Un nombre modéré de mises à jour locales réduit la surcharge de communication, mais un nombre excessif peut entraîner une divergence du modèle global.

5. Signification et Perspectives

Ce travail est significatif car il étend les garanties théoriques de l'apprentissage fédéré au-delà des systèmes linéaires, couvrant une classe large de systèmes physiques réels (robotique, mécanique). Il prouve que la collaboration fédérée permet non seulement de préserver la vie privée, mais aussi d'améliorer la précision de l'identification et la robustesse face au bruit, grâce à l'agrégation de données distribuées.

Travaux futurs suggérés :

• Analyse théorique de l'impact des hyperparamètres d'optimisation (nombre d'époques locales).
• Extension aux cas où la fonction de caractéristiques $\phi$ est inconnue et doit être apprise collaborativement.
• Application de la théorie de Koopman pour linéariser des systèmes non linéaires dans un espace de dimension infinie au sein d'un cadre fédéré.
• Établissement de garanties de convergence rigoureuses pour les variantes Stochastic Gradient Descent (SGD).

En résumé, ce papier pose les bases théoriques et pratiques pour une identification de systèmes non linéaires collaborative, efficace et respectueuse de la vie privée.