Résumé technique : Apprentissage fédéré des dynamiques temporelles non linéaires avec interprétabilité inter-client basée sur l'attention graphique

Énoncé du problème

Les systèmes industriels modernes sont de plus en plus surveillés par des capteurs distribués générant des données de séries temporelles de haute dimension à travers plusieurs sous-systèmes interdépendants. Comprendre les interdépendances temporelles entre ces sous-systèmes est crucial pour le diagnostic et le fonctionnement fiable. Cependant, l'apprentissage de ces dynamiques fait face à quatre contraintes significatives dans les déploiements pratiques :

1. Décentralisation et confidentialité : Les données brutes des capteurs ne peuvent pas être partagées en raison de contraintes de confidentialité, de bande passante de communication et de souveraineté des données.
2. Hétérogénéité et modèles fixes : Les sous-systèmes fonctionnent souvent avec des modèles fixes et propriétaires (par exemple, des modèles du constructeur d'origine) qui ne peuvent pas être modifiés ou réentraînés.
3. Non-linéarité : Les systèmes présentent des dynamiques non linéaires fortes, rendant les interdépendances temporelles inter-sous-systèmes dépendantes de l'état et difficiles à interpréter.
4. Interprétabilité : Les approches neuronales existantes manquent souvent de mécanismes structurés pour révéler comment les interactions entre sous-systèmes varient avec l'état de fonctionnement du système.

Le défi central consiste à apprendre un modèle global des interdépendances temporelles inter-client en utilisant uniquement des représentations latentes de faible dimension communiquées par les clients, sans modifier leurs estimateurs internes propriétaires, tout en fournissant une interprétation fondée de ces dynamiques apprises.

Méthodologie

Les auteurs proposent un cadre fédéré où un serveur central apprend un modèle de transition d'état structuré en graphe sur les états latents communiqués par les clients.

1. Modélisation côté client

Chaque client $m$ utilise un filtre de Kalman étendu (EKF) fixe et propriétaire qui estime un état latent local $(\hat{h}^m_t)_c$ à partir d'observations locales $y^m_t$. Pour intégrer des informations inter-client sans modifier l'EKF propriétaire, le client introduit une fonction d'augmentation non linéaire apprenable $\Delta_m(\cdot; \theta_m)$.

• État augmenté : Le client calcule un état augmenté $(\hat{h}^m_t)_a = (\hat{h}^m_t)_c + \Delta_m(y^m_{t-1}; \theta_m)$.
• Dynamiques locales : L'état augmenté évolue selon ses propres dynamiques temporelles $(\tilde{h}^m_t)_a = f_m((\hat{h}^m_{t-1})_a)$, distinctes de l'EKF propriétaire.
• Optimisation : Les clients minimisent une perte de reconstruction locale et mettent à jour $\theta_m$ en utilisant les gradients reçus du serveur.

2. Modélisation côté serveur

Le serveur reçoit les états propriétaires $(\hat{h}^m_t)_c$ et les états augmentés $(\tilde{h}^m_t)_a$ de tous les clients. Il modélise les interdépendances inter-client à l'aide d'un Réseau d'Attention Graphique (GAT).

• Transition d'état : Le serveur prédit l'état futur du client $m$ comme suit :
  $$(\tilde{h}^m_t)_s = \sigma\left(\sum_{n \in \mathcal{N}(m)} \alpha_{mn} W_{mn} (\hat{h}^n_{t-1})_c\right)$$
  où $\alpha_{mn}$ sont les coefficients d'attention et $W_{mn}$ sont des transformations apprenables.
• Fonction de perte : Le serveur minimise l'erreur quadratique moyenne (MSE) entre ses prédictions $(\tilde{h}^m_t)_s$ et les états augmentés des clients $(\tilde{h}^m_t)_a$.
• Communication : Le serveur rétropropage le gradient de perte $\nabla_{(\tilde{h}^m_t)_a} L_s$ vers les clients pour mettre à jour leurs paramètres d'augmentation, créant un couplage bidirectionnel sans partager les données brutes ni les états du serveur.

3. Interprétabilité via les Jacobiennes

Pour répondre à la non-linéarité et au manque d'interprétabilité, l'article établit un lien théorique entre les coefficients d'attention du GAT et la Jacobienne de la fonction de transition d'état apprise.

• Le bloc Jacobien $J_{mn}(t) = \frac{\partial (\tilde{h}^m_t)_s}{\partial (\hat{h}^n_{t-1})_c}$ quantifie comment une perturbation dans l'état passé du client $n$ affecte l'état futur du client $m$.
• Proposition 6.1 dérive une relation sous forme close montrant que $J_{mn}(t)$ dépend du coefficient d'attention $\alpha_{mn}(t)$, de la matrice de poids $W_{mn}$ et de la dérivée de la fonction d'activation $\sigma'$. Cela permet aux coefficients d'attention de servir de proxy pour l'intensité de l'influence temporelle dirigée, modulée par l'état de fonctionnement actuel du système.

Contributions clés

L'article revendique les contributions techniques suivantes :

1. Formalisation : Une formalisation de l'apprentissage fédéré pour les interdépendances temporelles inter-client dans des systèmes d'espace d'état non linéaires avec des modèles clients propriétaires fixes.
2. Architecture : La conception d'un modèle de transition d'état côté serveur paramétré par un GAT qui représente explicitement les interactions dynamiques inter-client sur les états latents communiqués.
3. Interprétabilité : La dérivation de relations analytiques entre les coefficients d'attention et les blocs Jacobiens, permettant une interprétation fondée et dépendante de l'état des interdépendances inter-client. Cela est revendiqué comme la première caractérisation de ce type dans les systèmes non linéaires décentralisés.
4. Garanties de convergence : Preuve théorique que les dynamiques côté serveur apprises et les Jacobiennes convergent vers une oracle centralisée (un système ayant accès à toutes les données brutes) sous des hypothèses spécifiques (par exemple, activation bi-Lipschitz, indépendance de l'état).
5. Validation empirique : Validation sur des ensembles de données industriels synthétiques et réels démontrant la convergence, l'interprétabilité, l'évolutivité et les compromis confidentialité-utilité.

Résultats expérimentaux

Expériences synthétiques

En utilisant un système d'espace d'état non linéaire contrôlé avec des interdépendances de vérité terrain connues :

• Récupération de la structure : Le GAT côté serveur correspondait étroitement aux coefficients d'attention de vérité terrain, surpassant significativement les bases de référence locales uniquement.
• Convergence Jacobienne : Les blocs Jacobiens appris ont convergé vers les Jacobiennes de l'oracle centralisée, validant les bornes théoriques.
• Corrélation : Une forte corrélation empirique a été observée entre les coefficients d'attention et les magnitudes Jacobiennes, soutenant le lien théorique.
• Évolutivité : Le cadre a montré une robustesse face à l'augmentation des dimensions d'observation, mais une perte accrue avec des dimensions latentes plus élevées et un nombre plus important de clients en raison des frais généraux de communication.
• Confidentialité : Le système est resté robuste face à de faibles niveaux de bruit gaussien injecté dans les communications, les performances ne se dégradant qu'à des niveaux de bruit élevés.

Expériences réelles

Évalué sur le référentiel HAI (Hardware-in-the-Loop Augmented Industrial Control System) (traitement de l'eau, dosage chimique, processus de chauffage) :

• Performance : Le modèle proposé a atteint une précision de prédiction client significativement meilleure que les modèles clients propriétaires et une base de référence fédérée préentraînée, s'approchant des performances d'une base de référence centralisée.
• Interprétabilité : La structure d'attention moyennée dans le temps apprise par le serveur correspondait étroitement à celle de la base de référence centralisée.
• Accord Jacobien : Une forte similarité a été trouvée entre les Jacobiennes apprises par le modèle serveur proposé et le modèle centralisé.

Importance et revendications

L'article se positionne comme le premier travail établissant des interdépendances temporelles inter-client interprétables dans des systèmes non linéaires décentralisés. Son importance réside dans le pont qu'il établit entre :

1. Apprentissage préservant la confidentialité : Permettre la collaboration sans partager de données brutes ni modifier les modèles clients propriétaires.
2. Dynamiques non linéaires : Gérer des interactions complexes et dépendantes de l'état que les modèles linéaires ne peuvent pas capturer.
3. Explicabilité : Fournir un mécanisme (via l'analyse Jacobienne-attention) pour comprendre comment et quand les sous-systèmes s'influencent mutuellement, plutôt que de traiter le modèle global comme une boîte noire.

Les auteurs notent des limitations, spécifiquement que le cadre suppose un squelette de graphe connu (matrice d'adjacence) et repose sur des approximations locales du premier ordre pour l'interprétabilité, ce qui peut se dégrader sous une non-linéarité extrême. Ils suggèrent une intégration future avec des méthodes de découverte causale pour apprendre la structure du graphe.