Résumé Technique : MAFL-PdM

Énoncé du Problème

Les environnements de l'Internet des Objets Industriels (IIoT) s'appuient de plus en plus sur la maintenance prédictive (PdM) pour optimiser l'efficacité opérationnelle et estimer la durée de vie utile restante (RUL). Cependant, la collaboration inter-sites est entravée par la souveraineté des données, les contraintes de propriété et les exigences réglementaires (ex: RGPD), qui empêchent la centralisation des données de capteurs brutes. Bien que l'apprentissage fédéré (FL) offre une solution en permettant un entraînement distribué sans partage de données, l'application des protocoles FL standards à des sites industriels hétérogènes présente deux défis critiques :

1. Hétérogénéité des Données (Non-IID) : Les sites industriels diffèrent par leurs types de machines, leurs configurations de capteurs et leurs modèles de dégradation. Les stratégies d'agrégation standard (ex: FedAvg) souffrent souvent d'une convergence instable et d'une qualité de modèle réduite lorsque les mises à jour locales évoluent dans des directions conflictuelles.
2. Adaptation de la Confidentialité : Les cadres FL existants utilisent souvent des paramètres de confidentialité statiques et uniformes. Dans la PdM, où les signatures de défaillance rares sont critiques, l'injection de bruit indiscriminée peut dégrader de manière disproportionnée les motifs sensibles aux défaillances. De plus, les approches actuelles traitent souvent les usines comme des clients passifs plutôt que comme des agents autonomes dotés de contraintes opérationnelles distinctes.

Méthodologie : MAFL-PdM

Le document propose MAFL-PdM, un cadre d'apprentissage fédéré multi-agents conçu pour la PdM personnalisée à travers des sites hétérogènes. L'architecture du système se compose de quatre Agents d'Usine autonomes et d'un Agent Orchestrateur Fédéré.

Composants Clés

1. Architecture du Modèle Local : Chaque Agent d'Usine entraîne un modèle local utilisant un réseau de mémoire à court terme (LSTM) à deux couches avec une attention temporelle. Le modèle prédit la RUL en utilisant une perte Huber pondérée combinée à une régularisation FedProx pour contraindre l'optimisation locale.
2. Agrégation Pilotée par le Clustering (CMFL-PdM) : L'Orchestrateur effectue un clustering K-means (K=2) sur la similitude cosinus des mises à jour de gradients pour regrouper les usines ayant des comportements opérationnels similaires. L'agrégation est effectuée avec une pondération de 80/20 entre les clusters primaires et minoritaires pour éviter l'exclusion des sites minoritaires.
3. Personnalisation Post-Fédération : Après 30 cycles fédérés, chaque Agent d'Usine affine le modèle de consensus global sur ses propres données locales pendant huit époques supplémentaires. Cette étape est cruciale car elle adapte le modèle partagé aux distributions de données locales sans partage supplémentaire de gradients.
4. Comptabilité de la Confidentialité : Le cadre implémente une comptabilité de la confidentialité différentielle (DP) par usine via un comptable de Rényi (Opacus). Cependant, dans la configuration rapportée, l'injection de bruit de gradient est désactivée. Le système suit les budgets de confidentialité ($\epsilon = [3.0, 5.0, 8.0, 7.0]$) mais n'applique pas de garanties formelles de DP dans les expériences actuelles.
5. Sélection Sensible à la Dérive : Les usines surveillent la dérive des données locales à l'aide de tests de Kolmogorov–Smirnov, permettant à l'orchestrateur de prioriser les clients présentant des changements de distribution significatifs.

Jeux de Données

Le cadre est évalué sur deux jeux de données industriels réels et hétérogènes :

• Surveillance des Portes d'Ascenseur : Trois usines (Factories 0–2) utilisant des données de révolution de roulements de porte, d'humidité et de vibration.
• Surveillance des Fluides de Métallurgie : Une usine (Factory 3) utilisant le pH, la conductivité, la concentration et la température.
• Labels RUL : Signaux stochastiques synthétiques générés via une courbe de décroissance exponentielle avec un bruit gaussien additif, normalisés entre [0, 1].

Résultats Clés

Les expériences ont été menées sur cinq graines aléatoires (42–46) comparant MAFL-PdM à l'entraînement centralisé, l'entraînement local uniquement, le FedAvg classique, FedProx et les bases perturbées par le bruit.

• Performance : MAFL-PdM a atteint une RMSE de 0,0498 ± 0,0012 et un score F1 de 0,819 ± 0,016.
  • Il a obtenu une RMSE plus faible que l'entraînement centralisé dans les cinq graines.
  • Il a égalé l'entraînement centralisé sur le score F1 tout en préservant la localité des données.
  • Il a nettement surpassé toutes les bases fédérées (ex: RMSE de Vanilla FedAvg : 0,2444).
• Étude d'Ablation : Une ablation des composants a révélé que la personnalisation post-fédération est responsable de la quasi-totalité du gain de performance.
  • Le retrait de la personnalisation a provoqué une chute du F1 de 0,457, rendant le cadre indiscernable du vanilla FedAvg.
  • Le retrait de l'agrégation sensible au clustering et de la pondération de la perte sensible aux défaillances n'a entraîné que des changements négligeables (baisses de F1 de -0,0019 et -0,0096, respectivement), se situant dans la variation entre les graines.
• Analyse de Clustering : Le mécanisme de clustering K-means n'a pas réussi à récupérer systématiquement la partition de données prévue (Ascenseur vs Métallurgie). Au lieu de cela, il a regroupé les usines selon la difficulté d'ajustement des données (ex: regroupant l'usine 3, à domaine croisé, avec l'usine d'ascenseur 2, la plus difficile à ajuster). Par conséquent, le mécanisme de clustering n'a apporté aucun bénéfice mesurable à cette petite taille de fédération (N=4).

Signification et Revendications

Le document formule les revendications spécifiques suivantes concernant sa contribution et ses limites :

1. Mécanisme Principal : L'étude identifie la personnalisation post-fédération comme le mécanisme critique permettant à la PdM fédérée de fonctionner sur des sites hétérogènes, plutôt que la stratégie d'agrégation ou la pondération de la perte. Elle démontre qu'une initialisation partagée suivie d'un affinement local peut surpasser le regroupement centralisé en erreur de régression (RMSE) tout en égalant ses performances de classification (F1).
2. Résultat Négatif sur le Clustering : Le document rapporte explicitement que l'agrégation sensible au clustering n'a apporté aucun gain mesurable dans ce contexte expérimental spécifique (4 clients, K=2). Il attribue cela à la petite taille de la fédération et à l'instabilité de la partition de clustering, suggérant que le mécanisme nécessite une plus grande échelle pour redistribuer significativement les poids d'agrégation.
3. Position sur la Confidentialité : Les auteurs précisent qu'aucune garantie de confidentialité différentielle formelle n'est revendiquée pour les résultats rapportés. Bien que le cadre inclue la comptabilité de la DP et le suivi du budget, l'injection de bruit de gradient a été désactivée. Les résultats représentent un système qui préserve la localité des données mais ne satisfait pas encore les exigences mathématiques de la DP-SGD (en raison des problèmes liés au découpage par échantillon et aux hypothèses de sous-échantillonnage).
4. Reproductibilité : Le document fournit un pipeline entièrement reproductible, incluant le code, les jeux de données et les scripts pour régénérer tous les tableaux et figures, soulignant les conditions spécifiques sous lesquelles les résultats sont valides.

Limites

Les auteurs reconnaissent plusieurs contraintes :

• Labels Synthétiques : Les labels RUL sont synthétiques, ce qui limite l'applicabilité des résultats au déploiement réel sans validation sur des jeux de données de dégradation basés sur des faits réels.
• Écart de Confidentialité : L'absence d'injection de bruit signifie que le système n'est pas formellement confidentiel (differentially private).
• Échelle : L'évaluation est limitée à quatre usines ; les bénéfices du clustering ne sont pas prouvés à cette échelle.
• Désalignement des Caractéristiques : L'espace de caractéristiques de l'usine 3 (métallurgie) a dû être tronqué pour correspondre aux autres usines, entraînant un désalignement sémantique.
• Significativité Statistique : Avec seulement cinq graines, la comparaison contre l'entraînement centralisé atteint une p-valeur bilatérale de 0,063, manquant de peu le seuil conventionnel de 0,05.