Antagonistic Control: Foundations, Scalability and Nonlinearity

Nel mondo dei sistemi ingegneristici, dalle reti elettriche ai veicoli autonomi, esiste una costante tensione tra prestazioni e sicurezza. Gli ingegneri progettano questi sistemi per operare senza intoppi, mantenendo variabili come temperatura, tensione o velocità entro limiti di sicurezza. Tuttavia, questi stessi sistemi sono vulnerabili ad attori malintenzionati che potrebbero tentare di disturbarli. La sfida principale risiede nel comprendere quanto danno possa causare un attaccante senza essere scoperto. Immaginate un sistema di sicurezza che suona un allarme solo quando la lettura di un sensore supera una specifica soglia. L'obiettivo di un attaccante è spingere il sistema verso il caos pur mantenendo quelle letture dei sensori abbastanza silenziose da evitare l'attivazione dell'allarme. Questo crea un complesso gioco del gatto e del topo in cui l'attaccante cerca di massimizzare il danno nascosto rimanendo al contempo sotto il radar.

Un team di ricercatori ha sviluppato un nuovo modo per calcolare lo scenario peggiore per questo tipo di attacco. Hanno studiato sistemi in cui un avversario inietta un segnale per aumentare il costo medio di determinati output — essenzialmente il danno totale o lo scostamento dal normale funzionamento — assicurando al contempo che altri output, che fungono da occhi e orecchie del sistema, rimangano entro un limite sicuro e delimitato. Questo quadro copre una vasta gamma di problemi del mondo reale, tra cui come misurare la resilienza di una rete contro intrusioni furtive o come progettare controllori che possano resistere a disturbi estremamente aggressivi. I ricercatori hanno scoperto che la risposta alla domanda "quanto può peggiorare la situazione?" dipende fortemente dalla natura del sistema e dal tipo di segnali che l'attaccante è autorizzato a utilizzare.

Per i sistemi lineari standard, i ricercatori hanno scoperto che il danno peggiore può talvolta essere infinito. Ciò accade quando il sistema presenta una specifica debolezza strutturale: se l'attaccante può influenzare il danno nascosto più velocemente di quanto il sistema possa reagire ai sensori, può causare una crescita illimitata del danno mentre i sensori rimangono silenziosi. Il documento fornisce un test matematico preciso per identificare queste vulnerabilità. Se un sistema viene trovato vulnerabile in questo modo, i ricercatori offrono una soluzione costruttiva: mostrano come modificare i loop di feedback interni del sistema, essenzialmente aggiungendo uno strato di integrazione, per correggere il difetto e garantire che il danno rimanga finito. Questa non è solo una curiosità teorica; rivela un limite fondamentale nel modo in cui alcuni sistemi rilevano gli attacchi. Se la struttura è errata, nessuna quantità di monitoraggio può catturare un attacco che sfrutta questo specifico disallineamento temporale.

Quando il sistema è vincolato a essere "positivo" — ovvero tutti i suoi stati interni, input e output rimangono non negativi, il che è comune nei processi fisici come il flusso di fluidi o le concentrazioni chimiche — i ricercatori hanno trovato un modo per rendere i calcoli molto più veloci. I metodi standard per analizzare questi sistemi diventano computazionalmente impossibili man mano che il sistema cresce, poiché il numero di calcoli richiesti cresce con il quadrato della dimensione del sistema. Il team ha sviluppato un nuovo approccio in cui la complessità cresce solo linearmente con la dimensione del sistema. Ciò significa che, anche per reti molto grandi, possono calcolare l'impatto peggiore in modo efficiente. Hanno dimostrato questo con un esempio specifico di un sistema positivo dove un attaccante, limitato all'iniezione di soli segnali positivi, poteva causare una perdita di prestazioni di esattamente 46,67 unità. Senza questo nuovo metodo, calcolare un numero simile per un sistema su larga scala sarebbe proibitivamente difficile.

I ricercatori hanno anche affrontato sistemi che non sono lineari ma seguono regole polinomiali, che sono più complessi e possono modellare una varietà più ampia di comportamenti del mondo reale. Per questi, hanno esteso i loro metodi per utilizzare un tipo diverso di programma di ottimizzazione. Sebbene non siano sempre riusciti a trovare il numero esatto del caso peggiore per questi sistemi complessi, sono stati in grado di calcolare un limite superiore affidabile — una garanzia che il danno non supererà mai un certo valore. In un esempio numerico riguardante un sistema polinomiale, hanno dimostrato che aumentando la complessità del loro calcolo, potevano restringere questo limite da 0,2507 a 0,2501, provando che il loro metodo può avvicinarsi arbitrariamente alla risposta reale.

Il lavoro evidenzia anche una distinzione critica nel modo in cui definiamo le capacità dell'attaccante. I ricercatori hanno dimostrato che se un attaccante è autorizzato a usare segnali che alla fine si interrompono ma possono essere arbitrariamente grandi nel breve termine, il danno potrebbe essere finito. Tuttavia, se l'attaccante è autorizzato a usare segnali che sono semplicemente limitati in energia ma possono persistere indefinitamente, il danno può diventare illimitato. Questa distinzione espone una vulnerabilità strutturale che l'analisi standard potrebbe mancare. In un caso studio specifico che coinvolge un processo a quattro serbatoi, i ricercatori hanno scoperto che il danno massimo era di circa 19,7 unità se il segnale di attacco si interrompeva infine, ma diventava infinito se l'attaccante poteva utilizzare una diversa classe di segnali. Ciò suggerisce che la definizione di ciò che un attaccante è capace di fare è importante tanto quanto il design stesso del sistema.

In definitiva, questo articolo fornisce un toolkit unificato per la valutazione della sicurezza. Offre metodi esatti per i casi semplici, metodi scalabili per i grandi sistemi positivi e limiti robusti per i complessi sistemi non lineari. I ricercatori non si sono limitati a identificare i problemi; hanno fornito gli strumenti per misurarli e, nel caso di difetti strutturali, i progetti per risolverli. Traducendo questi complessi problemi di teoria del controllo in programmi di ottimizzazione risolvibili, hanno dato agli ingegneri un modo per quantificare il rischio di attacchi furtivi e progettare sistemi che siano intrinsecamente più resilienti. I risultati non sono solo teorici; sono stati testati su esempi numerici, confermando che i metodi funzionano nella pratica e possono rivelare debolezze nascoste che altrimenti passerebbero inosservate.