Riepilogo Tecnico: MAFL-PdM

Definizione del Problema

Gli ambienti di Industrial Internet of Things (IIoT) si affidano sempre più alla Manutenzione Predittiva (PdM) per ottimizzare l'efficienza operativa e stimare la Vita Utile Residua (RUL). Tuttavia, la collaborazione cross-site è ostacolata dalla sovranità dei dati, dai vincoli proprietari e dai requisiti normativi (ad es. GDPR), che impediscono la centralizzazione dei dati grezzi dei sensori. Sebbene l'Apprendimento Federato (FL) offra una soluzione permettendo l'addestramento distribuito senza la condivisione dei dati, l'applicazione dei protocolli FL standard a siti industriali eterogenei presenta due sfide critiche:

1. Eterogeneità dei Dati (Non-IID): I siti industriali differiscono per tipi di macchine, configurazioni di rilevamento e modelli di degradazione. Le strategie di aggregazione standard (ad es. FedAvg) spesso soffrono di una convergenza instabile e di una riduzione della qualità del modello quando gli aggiornamenti locali si muovono in direzioni contrastanti.
2. Adattamento della Privacy: Gli attuali framework FL utilizzano spesso impostazioni di privacy statiche e uniformi. Nella PdM, dove le firme di guasti rari sono critiche, l'iniezione indiscriminata di rumore può degradare in modo sproporzionato i pattern sensibili ai guasti. Inoltre, gli approcci attuali trattano le fabbriche come client passivi piuttosto che come agenti autonomi con distinti vincoli operativi.

Metodologia: MAFL-PdM

Il documento propone MAFL-PdM, un framework di Multi-Agent Federated Learning progettato per la PdM personalizzata su siti eterogenei. L'architettura del sistema è composta da quattro Agenti di Fabbrica autonomi e un Agente Orchestratore Federato.

Componenti Core

1. Architettura del Modello Locale: Ogni Agente di Fabbrica addestra un modello locale utilizzando una rete Long Short-Term Memory (LSTM) a due strati con attenzione temporale. Il modello predice la RUL utilizzando una perdita Huber pesata combinata con la regolarizzazione FedProx per vincolare l'ottimizzazione locale.
2. Aggregazione Guidata dal Clustering (CMFL-PdM): L'Orchestratore esegue il clustering K-means (K=2) sulla similarità del coseno degli aggiornamenti dei gradienti per raggruppare le fabbriche con comportamenti operativi simili. L'aggregazione viene eseguita con una ponderazione 80/20 tra il cluster primario e quello minoritario per evitare l'esclusione dei siti minoritari.
3. Personalizzazione Post-Federazione: Dopo 30 round federati, ogni Agente di Fabbrica affina il modello di consenso globale sui propri dati locali per otto epoche aggiuntive. Questo passaggio è fondamentale poiché adatta il modello condiviso alle distribuzioni dei dati locali senza ulteriore condivisione di gradienti.
4. Contabilità della Privacy: Il framework implementa la contabilità della privacy differenziale (DP) per fabbrica utilizzando un contabile Rényi (Opacus). Tuttavia, nella configurazione riportata, l'iniezione di rumore del gradiente è disabilitata. Il sistema traccia i budget di privacy ($\epsilon = [3.0, 5.0, 8.0, 7.0]$) ma non impone garanzie formali di DP negli esperimenti correnti.
5. Selezione Sensibile al Drift: Le fabbriche monitorano il drift locale dei dati utilizzando i test di Kolmogorov–Smirnov, permettendo all'orchestratore di dare priorità ai client con cambiamenti significativi nella distribuzione.

Dataset

Il framework è valutato su due dataset industriali reali eterogenei:

• Monitoraggio Porte Ascensore: Tre fabbriche (Fabbriche 0–2) che utilizzano dati di rivoluzione delle sfere della porta, umidità e vibrazioni.
• Monitoraggio Liquido di Lavorazione dei Metalli: Una fabbrica (Fabbrica 3) che utilizza pH, conducibilità, concentrazione e temperatura.
• Etichette RUL: Segnali stocastici sintetici generati tramite una curva di decadimento esponenziale con rumore gaussiano additivo, normalizzati a [0, 1].

Risultati Chiave

Gli esperimenti sono stati condotti su cinque seed casuali (42–46) confrontando MAFL-PdM contro l'addestramento centralizzato, l'addestramento solo locale, il vanilla FedAvg, FedProx e i baseline perturbati dal rumore.

• Performance: MAFL-PdM ha ottenuto un RMSE di 0.0498 ± 0.0012 e un F1 score di 0.819 ± 0.016.
  • Ha ottenuto un RMSE inferiore rispetto all'addestramento centralizzato in tutti i cinque seed.
  • Ha eguagliato l'addestramento centralizzato sull'F1 score pur preservando la località dei dati.
  • Ha superato significativamente tutti i baseline federati (ad es. Vanilla FedAvg RMSE: 0.2444).
• Studio di Ablazione: Un'ablazione dei componenti ha rivelato che la personalizzazione post-federazione è responsabile di quasi tutto il guadagno di performance.
  • Rimuovere la personalizzazione ha causato un calo dell'F1 di 0.457, rendendo il framework indistinguibile dal vanilla FedAvg.
  • Rimuovere l'aggregazione consapevole del clustering e la ponderazione della perdita sensibile ai guasti ha prodotto cambiamenti trascurabili (cali di F1 di -0.0019 e -0.0096, rispettivamente), rientrando nella variazione seed-to-seed.
• Analisi del Clustering: Il meccanismo di clustering K-means non è riuscito a recuperare costantemente la partizione dei dataset prevista (Ascensore vs. Lavorazione Metalli). Inveve, ha raggruppato le fabbriche in base alla difficoltà di adattamento ai dati (ad es. raggruppando la Fabbrica 3 cross-domain con la Fabbrica 2 dell'ascensore, la più difficile da adattare). Di conseguenza, il meccanismo di clustering non ha contribuito alcun beneficio misurabile a questa piccola dimensione di federazione (N=4).

Significato e Rivendicazioni

Il documento presenta le seguenti rivendicazioni specifiche riguardanti il suo contributo e i suoi limiti:

1. Meccanismo Primario: Lo studio identifica la personalizzazione post-federazione come il meccanismo critico che consente alla PdM federata di funzionare tra siti eterogenei, piuttosto che la strategia di aggregazione o la ponderazione della perdita. Dimostra che un'inizializzazione condivisa seguita da un fine-tuning locale può superare l'unione centralizzata in termini di errore di regressione (RMSE) pur eguagliandola nelle prestazioni di classificazione (F1).
2. Risultato Negativo sul Clustering: Il documento riporta esplicitamente che l'aggregazione consapevole del clustering non ha fornito alcun guadagno misurabile in questo specifico setting sperimentale (4 client, K=2). Ciò è attribuito alle piccole dimensioni della federazione e all'instabilità della partizione del clustering, suggerendo che il meccanismo richieda una scala maggiore per ridistribuire significativamente i pesi di aggregazione.
3. Posizione sulla Privacy: Gli autori sono espliciti nel dichiarare che non viene rivendicata alcuna garanzia formale di privacy differenziale per i risultati riportati. Sebbene il framework includa la contabilità della DP e il tracciamento del budget, l'iniezione di rumore del gradiente è stata disabilitata. I risultati rappresentano un sistema che preserva la località dei dati ma non soddisfa ancora i requisiti matematici della DP-SGD (a causa di problemi con il clipping per campione e le assunzioni di sottocampionamento).
4. Riproducibilità: Il documento fornisce una pipeline completamente riproducibile, inclusi codice, dataset e script per rigenerare tutte le tabelle e le figure, evidenziando le condizioni specifiche in cui valgono i risultati.

Limitazioni

Gli autori riconoscono diverse limitazioni:

• Etichette Sintetiche: Le etichette RUL sono sintetiche, il che limita l'applicabilità dei risultati alla distribuzione reale senza validazione su dataset di degradazione con ground-truth.
• Gap della Privacy: La mancanza di iniezione di rumore significa che il sistema non è formalmente differenzialmente privato.
• Scala: La valutazione è limitata a quattro fabbriche; i benefici del clustering non sono provati a questa scala.
• Disallineamento delle Feature: Lo spazio delle feature della Fabbrica 3 (lavorazione metalli) ha dovuto essere troncato per corrispondere agli altri, risultando in un disallineamento semantico.
• Significatività Statistica: Con solo cinque seed, il confronto contro l'addestramento centralizzato raggiunge un p-value bilaterale di 0.063, mancando appena la soglia convenzionale di 0.05.