Antagonistic Control: Foundations, Scalability and Nonlinearity

In de wereld van technische systemen, van elektriciteitsnetten tot autonome voertuigen, bestaat er een constante spanning tussen prestaties en beveiliging. Ingenieurs ontwerpen deze systemen om soepel te functioneren, waarbij variabelen zoals temperatuur, spanning of snelheid binnen veilige grenzen worden gehouden. Deze systemen zijn echter ook kwetsbaar voor kwaadwillende actoren die proberen ze te verstoren. De kernuitdaging ligt in het begrijpen van hoeveel schade een aanvaller kan aanrichten zonder opgemerkt te worden. Stel je een beveiligingssysteem voor dat een alarm laat afgaan wanneer een sensorwaarde een specifieke drempel overschrijdt. Het doel van een aanvaller is om het systeem in chaos te storten, terwijl die specifieke sensorwaarden stil genoeg worden gehouden om het alarm niet te laten afgaan. Dit creëert een complex kat-en-muisspel waarbij de aanvaller probeert de verborgen schade te maximaliseren terwijl hij onder de radar blijft.

Een team onderzoekers heeft een nieuwe manier ontwikkeld om het slechtst denkbare scenario voor dit soort aanvallen te berekenen. Ze bestudeerden systemen waarbij een tegenstander een signaal injecteert om de gemiddelde kosten van bepaalde outputs te verhogen—in essentie de totale schade of afwijking van de normale werking—terwijl ervoor wordt gezorgd dat andere outputs, die fungeren als de ogen en oren van het systeem, binnen een veilige, begrensde limiet blijven. Dit kader beslaat een breed scala aan echte problemen, zoals het meten van de veerkracht van een netwerk tegen sluipende indringers of het ontwerpen van controllers die bestand zijn tegen de meest agressieve verstoringen. De onderzoekers ontdekten dat het antwoord op de vraag "hoe erg kan het worden?" sterk afhangt van de aard van het systeem en het type signalen dat de aanvaller mag gebruiken.

Voor standaard, lineaire systemen ontdekten de onderzoekers dat de slechtst denkbare schade soms oneindig kan zijn. Dit gebeurt wanneer een systeem een specifieke structurele zwakte heeft: als de aanvaller de verborgen schade sneller kan beïnvloeden dan het systeem kan reageren op de sensoren, kan de aanvaller de schade onbeperkt laten groeien terwijl de sensoren stil blijven. Het artikel biedt een precieze wiskundige test om deze kwetsbaarheden te identificeren. Als een systeem wordt aangetroffen die op deze manier kwetsbaar is, bieden de onderzoekers een constructieve oplossing: ze laten zien hoe men de interne feedbackloops van het systeem kan wijzigen, wat in feite het toevoegen van een laag van integratie inhoudt, om de fout te herstellen en ervoor te zorgen dat de schade eindig blijft. Dit is niet slechts een theoretische curiositeit; het onthult een fundamentele beperking in hoe sommige systemen aanvallen detecteren. Als de structuur fout is, kan geen enkele monitoring een aanval vangen die deze specifieke timing-mismatch exploiteert.

Wanneer het systeem wordt beperkt tot "positief" te zijn—wat betekent dat alle interne toestanden, inputs en outputs niet-negatief blijven, wat gebruikelijk is bij fysieke processen zoals vloeistofstroom of chemische concentraties—vonden de onderzoekers een manier om de berekeningen veel sneller te maken. Standaardmethoden voor het analyseren van deze systemen worden computationeel onmogelijk naarmate het systeem groter wordt, omdat het aantal berekeningen dat vereist is, groeit met het kwadraat van de grootte van het systeem. Het team ontwikkelde een nieuwe aanpak waarbij de complexiteit slechts lineair groeit met de grootte van het systeem. Dit betekent dat zij zelfs voor zeer grote netwerken de slechtst denkbare impact efficiënt kunnen berekenen. Ze demonstreerden dit met een specifiek voorbeeld van een positief systeem waarbij een aanvaller, beperkt tot het injecteren van enkel positieve signalen, een prestatieverlies van exact 46,67 eenheden kon veroorzaken. Zonder deze nieuwe methode zou het berekenen van een dergelijk getal voor een grootschalig systeem ondoenlijk moeilijk zijn.

De onderzoekers pakten ook systemen aan die niet lineair zijn maar polynoomregels volgen, die complexer zijn en een breder scala aan realistische gedragingen kunnen modelleren. Hiervoor breidden ze hun methoden uit door gebruik te maken van een ander type optimalisatieprogramma. Hoewel ze niet altijd het exacte slechtst denkbare getal voor deze complexe systemen konden vinden, konden ze wel een betrouwbare bovengrens berekenen—een garantie dat de schade nooit een bepaalde waarde zal overschrijden. In een numeriek voorbeeld met een polynomiaal systeem lieten ze zien dat door de complexiteit van hun berekening te verhogen, ze deze bovengrens konden aanscherpen van 0,2507 naar 0,2501, waarmee bewezen werd dat hun methode willekeurig dicht bij het ware antwoord kan komen.

Het werk benadrukt ook een cruciaal onderscheid in hoe we de capaciteiten van de aanvaller definiëren. De onderzoekers toonden aan dat als een aanvaller signalen mag gebruiken die uiteindelijk stoppen maar op de korte termijn willekeurig groot kunnen zijn, de schade eindig kan zijn. Echter, als de aanvaller signalen mag gebruiken die slechts begrensd zijn in energie maar onbeperkt kunnen voortduren, kan de schade onbegrensd worden. Dit onderscheid legt een structurele kwetsbaarheid bloot die standaardanalyse mogelijk mist. In één specifieke casestudy betreffende een proces met vier tanks, vonden de onderzoekers dat de maximale schade ongeveer 19,7 eenheden was als het aanvalssignaal uiteindelijk stopte, maar dat dit oneindig werd als de aanvaller een andere klasse signalen kon gebruiken. Dit suggereert dat de definitie van wat een aanvaller in staat is, net zo belangrijk is als het ontwerp van het systeem zelf.

Uiteindelijk biedt dit artikel een verenigde toolkit voor veiligheidsbeoordeling. Het biedt exacte methoden voor eenvoudige gevallen, schaalbare methoden voor grote positieve systemen, en robuuste grenzen voor complexe niet-lineaire systemen. De onderzoekers hebben niet alleen problemen geïdentificeerd; ze hebben ook de instrumenten geleverd om deze te meten en, in het geval van structurele gebreken, de blauwdrukken om ze te herstellen. Door deze complexe regeltheoretische problemen te vertalen naar oplosbare optimalisatieprogramma's, hebben ze ingenieurs een manier gegeven om het risico op sluipende aanvallen te kwantificeren en systemen te ontwerpen die inherent veerkrachtiger zijn. De resultaten zijn niet alleen theoretisch; ze zijn getest op numerieke voorbeelden, wat bevestigt dat de methoden in de praktijk werken en verborgen zwakheden kunnen onthullen die anders onopgemerkt zouden blijven.