On the Sharp Input-Output Analysis of Nonlinear Systems under Adversarial Attacks

Sintesi Tecnica: Analisi Netta Input-Output di Sistemi Non Lineari sotto Attacchi Avversari

Formulazione del Problema
Questo articolo affronta la sfida di identificare la mappatura input-output di sistemi dinamici non lineari generici in presenza di disturbi avversari. Il sistema è modellato come un sistema dinamico non lineare parzialmente osservabile:
$$x_{t+1} = f(x_t, u_t, w_t), \quad y_t = g(x_t, u_t)$$
dove $x_t$ è lo stato, $u_t$ è l'input di controllo, $w_t$ è un disturbo avversario e $y_t$ è l'osservazione. A differenza della letteratura esistente, che assume prevalentemente input gaussiani, disturbi indipendenti e identicamente distribuiti (i.i.d.) o rumore a media nulla, questo lavoro considera un contesto significativamente più ampio:

1. Input Non Gaussiani e con Media Non Nulla: Gli input di controllo non sono limitati a distribuzioni gaussiane o medie nulle.
2. Disturbi Avversari Correlati e con Media Non Nulla: Il disturbo $w_t$ può essere correlato con l'intera storia delle informazioni del sistema e possedere una media non nulla.
3. Osservabilità Parziale: L'apprendista osserva solo $y_t$, non lo stato completo $x_t$.

L'obiettivo primario è apprendere la matrice $G^*$ che governa la mappatura dalla storia troncata dell'input $(u_t, \dots, u_{t-\tau})$ all'osservazione $y_t$, nonostante la presenza di questi disturbi generalizzati.

Metodologia
Gli autori propongono un framework che riformula il problema dell'identificazione di sistemi non lineari in un problema di stima con parametrizzazione lineare utilizzando un'approssimazione a memoria finita.

1. Parametrizzazione Lineare tramite Funzioni di Base: Sfruttando il teorema di Stone-Weierstrass e le proprietà di approssimazione universale, il comportamento input-output non lineare viene approssimato come una combinazione lineare di funzioni di base $\Phi(\cdot)$ applicate alla storia dell'input:
   $$y_t \approx G^* \cdot \Phi(u_t, \dots, u_{t-\tau}) + \text{residui}$$
   I residui includono errori di approssimazione, effetti degli stati passati "lontani" e l'effetto cumulativo dei disturbi sull'intervallo di memoria.

2. Modello di Attacco Avversario Probabilistico: L'articolo introduce un vincolo specifico sull'avversario. Sebbene l'avversario possa progettare $w_t$ utilizzando l'intera storia delle informazioni $\sigma\{x_0, \dots, x_t\}$ quando si verifica un attacco, si assume che gli attacchi siano sparsi. Nello specifico, ad ogni istante $t$, un attacco avviene con probabilità $p$, dove $p < \frac{1}{2\tau}$. Ciò implica che, con alta probabilità, il sistema sperimenta una sequenza di $\tau$ passi temporali consecutivi senza attacchi, permettendo l'osservazione della dinamica input-output "pulita".

3. Stimatore della Norma $\ell_2$: Gli autori propongono di stimare $G^*$ utilizzando uno stimatore di minimizzazione della norma $\ell_2$ (minimi quadrati):
   $$\hat{G}_T = \arg \min_{G} \sum_{t=\tau}^{T-1} \| y_t - G \cdot \Phi(U^{(\tau)}_t) \|_2^2$$
   L'analisi dimostra che, nonostante la presenza di attacchi avversari di grande magnitudo e media non nulla, lo stimatore della norma $\ell_2$ può recuperare con successo $G^*$ a condizione che la probabilità di attacco soddisfi la condizione di sparsità.

Contributi Chiave e Risultati

• Assunzioni Generalizzate: Il lavoro estende la teoria dell'identificazione dei sistemi oltre i sistemi lineari e le standard assunzioni sul rumore (Gaussiano, media nulla, i.i.d.) per includere sistemi non lineari Lipschitz-continui con input non gaussiani e con media non nulla e disturbi avversari correlati.
• Limite di Errore di Stima Ottimale: L'articolo dimostra che l'errore di stima dello stimatore della norma $\ell_2$ è limitato da $O(\rho^\tau)$, dove $\rho \in (0,1)$ è il fattore di contrazione della dinamica del sistema $f$. Questo limite decade esponenzialmente con la lunghezza della memoria dell'input $\tau$.
• Limite Inferiore di Corrispondenza: Per stabilire la precisione (sharpness) del risultato, gli autori costruiscono un'istanza del problema in cui qualsiasi stimatore subisce un errore di $\Omega(\rho^\tau)$. Ciò prova che il limite superiore derivato è ottimale e non può essere migliorato nel caso peggiore sotto il dato modello avversario.
• Superiorità della Norma $\ell_2$: L'analisi mostra che lo stimatore della norma $\ell_2$ raggiunge un limite di errore più stretto rispetto agli stimatori della norma $\ell_1$ o $\ell_\infty$ in questo specifico contesto. Altre norme introducono fattori aggiuntivi dipendenti dalla dimensione dell'osservazione $r$, mentre il limite della norma $\ell_2$ è indipendente da $r$.
• Validazione Sperimentale: Esperimenti numerici su sistemi non lineari sintetici e su un modello reale di dinamica di oscillazione di una rete elettrica validano i risultati teorici. I risultati dimostrano che lo stimatore della norma $\ell_2$ converge alla mappatura reale, mentre i minimi quadrati standard (che assumono rumore a media nulla) falliscono in condizioni avversarie.

Significato e Rivendicazioni
L'articolo sostiene di fornire la prima analisi netta (sharp) input-output per sistemi non lineari generici e parzialmente osservabili sotto assunzioni significativamente generalizzate riguardanti input e disturbi. La sua importanza primaria risiede nell'aver stabilito limiti di errore di stima ottimali per l'identificazione dei sistemi sotto attacchi avversari probabilistici.

Gli autori sottolineano che il loro lavoro offre garanzie teoriche per migliorare la sicurezza e la resilienza dell'apprendimento di sistemi non lineari complessi (come reti elettriche e veicoli autonomi) in ambienti avversari realistici. Caratterizzando la classe di problemi in cui l'identificazione accurata è possibile (specificamente quando la probabilità di attacco è sparsa rispetto alla lunghezza della memoria), il lavoro colma il divario tra l'identificazione dei sistemi teorica e i requisiti pratici di sicurezza nei sistemi cyber-fisici. Il lavoro rimane modesto riguardo alle direzioni future, osservando che l'estensione di questi risultati ad approcci non parametrici che coinvolgono l'ottimizzazione a dimensione infinita rimane una questione aperta.