Federated Causal Representation Learning in State-Space Systems for Decentralized Counterfactual Reasoning

1. Il Problema

Il paper affronta una sfida critica nei sistemi industriali complessi e interconnessi (come raffinerie, reti idriche o impianti chimici), composti da asset distribuiti geograficamente ma strettamente accoppiati attraverso processi fisici e input di controllo.

Le principali difficoltà identificate sono:

• Interdipendenza Causale: Un cambiamento nei controlli di un nodo (cliente) può propagarsi causalmente ad altri, influenzando prestazioni e sicurezza. È necessario rispondere a domande controfattuali: "Come cambierebbe l'output del cliente A se il cliente B modificasse il proprio input?".
• Vincoli di Privacy e Dati: I dati grezzi (misure ad alta dimensionalità) sono proprietari, sensibili e non possono essere centralizzati a causa di normative sulla privacy e limiti di banda.
• Modelli Proprietari: Ogni cliente possiede già un modello locale (spesso un filtro di Kalman) basato sui propri dati, che non può essere modificato o sostituito.
• Limiti dell'Approccio Tradizionale: La causalità di Granger (GC) è puramente predittiva e non intervenzionale; non può rispondere a domande controfattuali e confonde la dinamica intrinseca del sistema con gli effetti degli input esterni.

2. Metodologia

Gli autori propongono un framework di Apprendimento Federato per l'Apprendimento di Rappresentazioni Causali in sistemi a spazio di stato lineari (LTI - Linear Time Invariant).

A. Formulazione del Sistema

Il sistema è modellato come una rete di $M$ clienti, ciascuno con uno stato latente $h_t$, un input di controllo $u_t$ e una misura $y_t$.

• Ipotesi Chiave: La matrice di uscita $C$ è a blocchi diagonali (ogni cliente osserva solo il proprio stato), ma le matrici di transizione di stato $A$ e di input $B$ hanno blocchi fuori diagonale che rappresentano le interdipendenze tra i clienti.
• Obiettivo: Stimare i blocchi fuori diagonale ($A_{mn}, B_{mn}$) per calcolare l'effetto medio del trattamento (ATE) senza condividere i dati grezzi.

B. Architettura Federata

Il framework utilizza un approccio ibrido che preserva i modelli proprietari dei clienti:

1. Lato Cliente (Modello Proprietario + Augmentazione):

   • Ogni cliente mantiene il proprio modello proprietario (es. Filtro di Kalman) che stima lo stato locale basandosi solo sui dati locali.
   • Viene introdotto un Modello Cliente Augmentato con parametri apprendibili ($\theta_m, \phi_m$). Questi parametri servono a "disentangled" (separare) la dinamica endogena (propagazione dello stato passato) dagli effetti esogeni (input di controllo di altri clienti).
   • Il cliente non invia i dati grezzi $y_t$, ma solo stime di stati latenti a bassa dimensionalità e input al server.

2. Lato Server:

   • Il server agisce come coordinatore. Riceve le stime degli stati latenti e gli input dai clienti.
   • Stimare esplicitamente i blocchi globali fuori diagonale ($\hat{A}_{mn}, \hat{B}_{mn}$) che catturano le interdipendenze causali tra i nodi.
   • Calcola una funzione di perdita globale basata sulla discrepanza tra le previsioni del server e le stime aggiornate dei clienti.

3. Meccanismo di Disentanglement:

   • Il server invia gradienti ai clienti. I clienti aggiornano i loro parametri locali ($\theta_m, \phi_m$) combinando i gradienti locali con quelli del server.
   • Viene introdotto un termine di penalità (con parametro $\xi$) nella funzione di perdita del server per forzare la separazione tra gli effetti endogeni ($A_{mn}$) ed esogeni ($B_{mn}$). Questo è cruciale per rispondere correttamente alle domande controfattuali.

C. Inference Controfattuale

Una volta addestrato il modello:

• Server: Può calcolare l'effetto di un intervento $do(u_n = u')$ sullo stato di un altro cliente $m$ utilizzando la formula derivata: $ATE = C_{mm} B_{mn} (u' - u)$.
• Cliente: Può rispondere a domande controfattuali a livello di misura, stimando come cambierebbe il proprio output se gli input aggregati degli altri clienti cambiassero, sfruttando i parametri appresi localmente.

3. Contributi Chiave

1. Primo Framework per Ragionamento Controfattuale Decentralizzato: Il lavoro è il primo a permettere di rispondere a domande "Cosa succederebbe se..." in un setting federato senza centralizzare i dati.
2. Applicazione del Framework Abduction-Action-Prediction (AAP): Formalizzano l'uso del framework di Pearl in un contesto federato per derivare l'effetto medio del trattamento (ATE) in sistemi a spazio di stato.
3. Separazione Causale (Disentanglement): Progettano uno schema di ottimizzazione iterativa che garantisce teoricamente la separazione tra la dinamica autoregressiva (stato) e gli input esogeni, requisito fondamentale per la causalità.
4. Garanzie Teoriche:
   • Convergenza: Dimostrano che il framework federato converge a un "oracolo centralizzato" (un modello che avrebbe accesso a tutti i dati grezzi) fino a un bias di ricostruzione controllato.
   • Privacy: Forniscono garanzie di Differential Privacy (DP), quantificando il rumore necessario da aggiungere ai messaggi scambiati per proteggere i dati dei clienti.
5. Identificabilità Causale: Mostrano che, sebbene i parametri strutturali non siano univocamente recuperabili (problema di identificabilità), la funzione di trasferimento (che codifica la causalità) è unica e viene appresa correttamente.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su dati sintetici e su dataset reali di sistemi di controllo industriale (HAI e SWaT).

• Dati Sintetici:
  • Il modello federato supera il modello proprietario isolato nella previsione e nella capacità di inferenza controfattuale.
  • La perdita globale e i residui dei clienti convergono rapidamente.
  • Viene dimostrata la capacità di disentanglement: i parametri appresi dai clienti isolano correttamente gli effetti degli input esterni.
  • L'analisi della funzione di trasferimento mostra che il modello decentralizzato preserva la struttura dinamica stabile del sistema reale.
• Dati Reali (HAI e SWaT):
  • Applicazione su un testbed di generazione di energia a vapore (HAI) e un impianto di trattamento delle acque (SWaT).
  • Il framework dimostra scalabilità e robustezza su sistemi con molteplici nodi e dati ad alta dimensionalità.
  • I risultati confermano l'applicabilità pratica per la pianificazione di interventi proattivi in scenari industriali reali.
• Privacy: L'analisi teorica e le simulazioni confermano che è possibile ottenere garanzie di privacy senza compromettere eccessivamente l'accuratezza del modello.

5. Significato e Impatto

Questo lavoro rappresenta un passo avanti significativo nell'integrazione tra Apprendimento Automatico Federato, Inferenza Causale e Sistemi di Controllo Industriale.

• Sicurezza Operativa: Permette agli operatori industriali di simulare scenari di guasto o di intervento ("what-if") su scala di rete senza violare la privacy o condividere dati sensibili.
• Superamento dei Limiti della Causalità Predittiva: Sposta il paradigma dalla semplice previsione (Granger) alla vera comprensione causale e intervenzionale in ambienti distribuiti.
• Scalabilità e Privacy: Offre una soluzione praticabile per sistemi con vincoli stringenti di comunicazione e privacy, dimostrando che l'intelligenza collettiva può essere raggiunta senza la centralizzazione dei dati grezzi.

In sintesi, il paper fornisce un metodo matematicamente fondato e praticamente validato per costruire modelli causali collaborativi in reti industriali complesse, abilitando decisioni più sicure e proattive.