Towards Uncertainty-Aware Federated Granger Causal Learning

Sintesi Tecnica: Verso l'Apprendimento Federato di Causalità di Granger Consapevole dell'Incertezza

Enunciato del Problema
Nei sistemi industriali distribuiti, come le reti elettriche intelligenti e le catene di approvvigionamento, i sottosistemi interagiscono attraverso dipendenze fisiche e operative strettamente accoppiate, formando una struttura causale decentralizzata. Identificare queste interazioni causali cross-client (causalità di Granger) è fondamentale per la diagnosi dei guasti e la mitigazione dei rischi. Tuttavia, i vincoli di sovranità dei dati impediscono la condivisione dei dati grezzi delle serie temporali tra i client. Sebbene la Causalità di Granger Federata (FedGC) sia stata introdotta per recuperare queste interazioni senza condivisione di dati, i metodi esistenti restituiscono solo stime puntuali deterministiche. Questa mancanza di incertezza calibrata lascia gli operatori senza una base principiale per distinguere le interazioni cross-client genuine dai bordi spurii, specialmente in presenza di effetti legati a campioni finiti e rumore eterogeneo.

Metodologia
Il documento propone un framework FedGC Consapevole dell'Incertezza che caratterizza come l'incertezza si propaga attraverso il ciclo di feedback accoppiato client-server dell'architettura FedGC. La metodologia si basa su un modello spazio-stato lineare tempo-invariante (LTI) in cui i client osservano feature partizionate verticalmente.

1. Decomposizione dell'Incertezza: Gli autori partizionano gli elementi stocastici in due fonti:

   • Incertezza Aleatoria: Rumore irriducibile intrinseco nei dati dei client (rumore di misura e di processo).
   • Incertezza Epistemica: Incertezza derivante dalla casualità dei parametri del modello (priori iniziali per le matrici di augmentazione dei client $\theta_m$ e matrici causali del server $\hat{A}_{mn}$).

2. Analisi della Propagazione: Il contributo tecnico centrale è la derivazione di ricorrenze di covarianza in forma chiusa che tracciano la propagazione dell'incertezza attraverso quattro canali distinti:

   • Entro-Client: Evoluzione della varianza dei parametri del client ($\Sigma^t_{\theta_m}$) e della varianza dello stato ($\Sigma^t_{h_m}$).
   • Entro-Server: Evoluzione della varianza dei parametri del server ($\Sigma^t_{A_{mn}}$).
   • Da-Client-a-Server: Propagazione dell'incertezza dello stato del client al server.
   • Da-Server-a-Client: Propagazione dell'incertezza del gradiente del server indietro al client.

   Crucialmente, l'analisi identifica quattro termini di cross-covarianza precedentemente non riconosciuti ($\Omega^t_m, \Lambda^t_m, \Gamma^t_{mn}, \Psi^t_{mn}$) che accoppiano il rumore dei dati e le incertezze dei parametri attraverso l'architettura.

3. Caratterizzazione dello Stato Stazionario: Sotto lievi condizioni di stabilità (raggio spettrale delle matrici di guadagno < 1), gli autori dimostrano che il sistema converge a uno stato stazionario. Una scoperta teorica centrale è che l'incertezza allo stato stazionario dipende esclusivamente dalle statistiche dei dati dei client (incertezza aleatoria) ed è indipendente dai priori epistemici iniziali. Man mano che l'addestramento converge, l'influenza della casualità iniziale dei parametri decade, lasciando il rumore dei dati come unico motore del comportamento allo stato stazionario.

4. Utilità a valle: Sfruttando la covarianza asintotica $\Sigma^\infty_{A_{mn}}$, gli autori costruiscono una procedura di test di ipotesi post-addestramento. Questo test valuta la significatività dei bordi inferiti ($H_0: A_{mn} = 0$) utilizzando le deviazioni standard derivate, permettendo la potatura statistica dei bordi spurii.

Contributi Chiave

• Fondamento Teorico: La prima formalizzazione della quantificazione dell'incertezza nell'apprendimento federato partizionato verticalmente per sistemi dinamici accoppiati, distinguendo esplicitamente tra effetti aleatori ed epistemici.
• Ricorrenze in Forma Chiusa: Derivazione di espressioni esplicite per la propagazione dell'incertezza, identificando quattro nuovi termini di cross-covarianza che governano l'interazione tra dati dei client, parametri dei client e parametri del server.
• Garanzie di Convergenza: Stabilimento di condizioni di convergenza basate sul raggio spettrale che producono soluzioni in forma chiusa per le varianze allo stato stazionario sia ai nodi client che a quelli server.
• Indipendenza dai Priori: Dimostrazione che l'incertezza asintotica è determinata esclusivamente dalla distribuzione dei dati dei client, rendendo l'incertezza del modello finale indipendente dall'inizializzazione.
• Selezione Statistica dei Bordi: Sviluppo di un framework di test di ipotesi che utilizza l'incertezza derivata per distinguere i bordi causali genuini dal rumore, affrontando una limitazione chiave della FedGC deterministica.

Risultati Sperimentali
Il framework è stato validato su dataset sintetici e tre dataset industriali reali: HAI (HIL-based Augmented ICS), TEP (Tennessee Eastman Process) e SMD (Server Machine Dataset).

• Validazione della Teoria: Gli esperimenti hanno confermato che la propagazione dell'incertezza prevista corrisponde alle dinamiche teoriche attraverso vari regimi di rumore. I risultati hanno dimostrato che le covarianze allo stato stazionario non sono influenzate dalla varianza dei priori iniziali dei parametri, validando l'indipendenza dall'incertezza epistemica.
• Scoperta Causale: Su dati sintetici con verità fondamentale nota, la FedGC Consapevole dell'Incertezza ha ridotto significativamente i Falsi Positivi (FP) rispetto alla "FedGC Vanilla" (che recupera tutti i bordi veri ma ne predice molti spurii) mantenendo zero Falsi Negativi. Ha superato le linee di base come FedPC, FedDAG e NOTEARS-ADMM, che non sono riusciti a modellare efficacemente le interazioni cross-client.
• Analisi della Causa Radice: Su dataset reali, il metodo proposto ha migliorato l'accuratezza nel localizzare le cause radice delle anomalie (misurata tramite AC@k) rispetto alle linee di base, dimostrando l'utilità pratica dei grafi causali inferiti.

Significato e Affermazioni
Il documento afferma di fornire il primo fondamento teorico per l'analisi delle incertezze nell'apprendimento federato di causalità di Granger. Il suo significato principale risiede nella trasformazione della FedGC da uno strumento di stima puntuale deterministica a un framework statisticamente principiato. Dimostrando che l'incertezza allo stato stazionario è guidata esclusivamente dalle caratteristiche dei dati piuttosto che dall'inizializzazione, gli autori forniscono una base difendibile per gli operatori per fidarsi o respingere le interazioni cross-client inferite. Il meccanismo di test di ipotesi proposto offre un metodo rigoroso per filtrare i bordi spurii, affrontando direttamente la sfida di identificare strutture causali affidabili in ambienti partizionati verticalmente e con silos di dati.

Limitazioni
Gli autori riconoscono che i risultati teorici si basano su dinamiche lineari tempo-invarianti e assunzioni di rumore gaussiano. Sebbene le estensioni a modelli non lineari (tramite EKF e Processi Gaussiani) siano discusse strutturalmente, garanzie di convergenza rigorose e la proprietà di stato stazionario "solo aleatorio" non sono state formalmente stabilite per il regime non lineare. Inoltre, si assume l'indipendenza dei parametri del server tra le righe dei blocchi, il che potrebbe non valere in sistemi con confondenti latenti condivisi. Infine, il test di ipotesi si basa sulla covarianza asintotica e non sono stati derivati limiti per campioni finiti che quantificano il divario tra l'incertezza al momento dell'addestramento e quella allo stato stazionario.