⚡ electrical engineering

Deception Against Data-Driven Linear-Quadratic Control

Dit artikel presenteert een methode waarbij een verdediger, met kennis van de systeemdynamica, een bedrieglijke invoer toepast om een onwetende aanvalslader ertoe te brengen een suboptimale aanval te leren, wat numeriek wordt opgelost via een blok-gewijze succesieve over-relaxatie-algoritme.

Oorspronkelijke auteurs: Filippos Fotiadis, Aris Kanellopoulos, Kyriakos G. Vamvoudakis, Ufuk Topcu

Gepubliceerd 2026-02-20

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Filippos Fotiadis, Aris Kanellopoulos, Kyriakos G. Vamvoudakis, Ufuk Topcu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, maar onzichtbare vijand hebt die probeert een vliegtuig te laten crashen. Deze vijand kent de regels van het vliegtuig niet, maar hij is slim genoeg om te leren hoe het werkt door te kijken naar wat er gebeurt. Hij verzamelt data, analyseert patronen en probeert uiteindelijk de perfecte manier te vinden om het vliegtuig uit balans te brengen.

Nu komt de verdediger (de piloot of het beveiligingssysteem) in beeld. De verdediger kent het vliegtuig uit zijn duim en ziet de vijand aankomen. In plaats van de vijand gewoon te blokkeren (wat vaak niet werkt als de vijand slim is), kiest de verdediger voor een slimme truc: bedrog.

Hier is hoe dit werkt, vertaald naar alledaagse termen:

1. De "Valse Spiegel" (De Deceptie)

Stel je voor dat de vijand een spiegel gebruikt om te kijken hoe het vliegtuig reageert op zijn aanval. De verdediger doet alsof hij de spiegel een beetje vervormt. Hij voegt een heel klein, bijna onzichtbaar signaal toe aan het vliegtuig.

Voor de vijand: Het lijkt alsof het vliegtuig heel anders reageert dan het eigenlijk doet. Het is alsof je in een spiegelkabinet loopt en denkt dat je links moet gaan, terwijl je eigenlijk rechts moet.
Het doel: De verdediger wil dat de vijand, na al die data te hebben verzameld, een foute conclusie trekt. De verdediger wil dat de vijand denkt: "Ah, ik moet het vliegtuig zo aansturen!" terwijl die aansturing eigenlijk heel veilig en onschuldig is.

2. De "Valse Leermeester"

De vijand is een student die probeert een examen te halen (de perfecte aanval). De verdediger is de leraar die de antwoorden kent, maar de student een verkeerd studiemateriaal geeft.

De verdediger weet precies welke "lezingen" (data) de student gaat bekijken.
Door een klein beetje "ruis" of een valse instructie toe te voegen, zorgt de verdediger ervoor dat de student een andere formule leert.
De student denkt dat hij de perfecte aanval heeft gevonden, maar in werkelijkheid heeft hij een formule geleerd die het vliegtuig juist stabiel houdt of slechts heel lichtjes schudt, in plaats van het neer te halen.

3. De Wiskundige "Dans" (Het Algorithmische Probleem)

Het lastige aan dit spelletje is dat de verdediger niet zomaar iets kan verzinnen. Als hij te veel doet, merkt de vijand dat er iets mis is. Als hij te weinig doet, leert de vijand toch de verkeerde aanval.

De auteurs van dit paper hebben een heel slim recept (een algoritme) bedacht om precies te berekenen hoeveel "vervorming" er nodig is.

Het is als het zoeken naar de perfecte temperatuur in een oven: als het te heet is, verbrandt de taart (het vliegtuig crasht of de leugen wordt ontdekt). Als het te koud is, blijft de taart rauw (de aanval werkt nog steeds).
Ze gebruiken een wiskundige methode die lijkt op het stapsgewijs afstemmen van een radio. Je draait heel langzaam aan de knop (de verdediging) tot het geluid (de aanval van de vijand) precies op het juiste, onschadelijke station staat.

4. Wat hebben ze bewezen?

De onderzoekers hebben niet alleen een idee bedacht, maar ze hebben ook wiskundig bewezen dat hun methode werkt.

Ze hebben laten zien dat hun "radio-knop" altijd naar het juiste station zal draaien, zolang je maar geduldig genoeg bent.
Ze hebben het getest op een digitaal model van een echt vliegtuig (de ADMIRE). Zelfs als de vijand heel slim is en probeert het vliegtuig te destabiliseren, lukt het de verdediger om de vijand te misleiden. De vijand denkt dat hij een ramp veroorzaakt, maar in werkelijkheid blijft het vliegtuig vliegen.

Samenvattend

Dit paper gaat over het slimmer maken van de verdediging door de vijand te laten denken dat hij slimmer is dan hij is.

In plaats van een muur te bouwen (wat de vijand misschien kan omzeilen), geeft de verdediger de vijand een verkeerde kaart. De vijand loopt dan moeiteloos naar de plek die de verdediger wil, in plaats van naar de plek waar hij schade wil aanrichten. Het is een meesterlijke vorm van psychologische oorlogsvoering, vertaald naar wiskunde en vliegtuigbesturing.

Titel: Bedrog tegen datagedreven lineair-kwadratische regeling

Auteurs: Filippos Fotiadis, Aris Kanellopoulos, Kyriakos G. Vamvoudakis, Ufuk Topcu.

1. Probleemstelling

Het artikel adresseert een beveiligingsuitdaging in datagedreven lineair-kwadratische regeling (LQR). In dit scenario heeft een aanvaller (adversary) de intentie om de optimale aanval op een dynamisch systeem te leren, maar mist hij de kennis van de systeemdynamica (de matrices $A$ , $B_u$ , $B_a$ ). De aanvaller moet daarom data verzamelen en een datagedreven methode gebruiken om de optimale aanwinst (gain) $K^*$ te berekenen.

De verdediger (defender) kent de systeemdynamica en is zich bewust van de kwaadaardige intenties van de aanvaller. Het doel van de verdediger is niet om de aanval volledig te blokkeren, maar om bedrog (deception) toe te passen. De verdediger injecteert een speciaal ontworpen, misleidend signaal in het systeem om de data die de aanvaller verzamelt te vervalsen. Hierdoor wordt de aanvaller gedwongen om te convergeren naar een voorgeselecteerde, suboptimale aanvalsgewicht $\bar{K}$ (bijvoorbeeld een veel minder schadelijke aanval of zelfs een nul-aanval), in plaats van de optimale, destructieve aanval $K^*$ .

Het kernprobleem is het vinden van de optimale bedriegingswinst $\Lambda$ (een feedback-matrix) die de leerprocessen van de aanvaller zo stuurt dat de uiteindelijke geleerde aanval zo dicht mogelijk bij het doelwit $\bar{K}$ ligt, terwijl de stabiliteit van het gesloten systeem behouden blijft.

2. Methodologie

A. Wiskundige Formulering

Het systeem wordt gemodelleerd als een continu-tijd lineair systeem. De verdediger voegt een signaal $u(t) = \Lambda x(t)$ toe. Dit verandert de interne dynamica van het systeem voor de aanvaller van $A$ naar $A + B_u\Lambda$ .
De optimale aanval die de aanvaller leert, wordt bepaald door een Algebraïsche Riccati-vergelijking (ARE) die afhankelijk is van $\Lambda$ . De verdediger formuleert dit als een beperkt optimalisatieprobleem:

Doelfunctie: Minimaliseer de afstand (Frobenius-norm) tussen de geleerde aanval $K_u(\Lambda)$ en het doelwit $\bar{K}$ , plus een regularisatieterm om de grootte van $\Lambda$ te beperken (om stabiliteit en nominale prestaties te waarborgen).
Beperkingen: De ARE die de dynamica van de aanvaller beschrijft moet een stabiele oplossing hebben.

B. Analytische Karakterisering

De auteurs tonen aan dat de optimale oplossing voor dit probleem voldoet aan een stelsel van gekoppelde matrixvergelijkingen:

Een Algebraïsche Riccati-vergelijking (ARE) voor de waarde-matrix $P_u$ .
Een Lyapunov-vergelijking voor een Lagrange-multiplicator $\Pi$ .
Een expliciete formule voor de bedriegingswinst $\Lambda$ die afhangt van $P_u$ en $\Pi$ .

Omdat deze vergelijkingen niet-lineair en sterk gekoppeld zijn, is een analytische oplossing onmogelijk.

C. Numerieke Oplossing: Block Successive Over-Relaxation (SOR)

Om het stelsel op te lossen, ontwikkelen de auteurs een iteratief algoritme, een variant van de Block Successive Over-Relaxation (SOR) methode:

Start met een initiële schatting van $\Lambda$ .
Los de ARE op voor $P_u$ (gegeven $\Lambda$ ).
Los de Lyapunov-vergelijking op voor $\Pi$ (gegeven $P_u$ en $\Lambda$ ).
Update $\Lambda$ met behulp van de afgeleide formule en een stapgrootte $\omega$ .
Herhaal tot convergentie.

Het artikel bevat een strikt wiskundig bewijs dat dit algoritme convergeert naar een stationair punt van de optimalisatie, mits bepaalde voorwaarden voor stabiliteit en stapgroottes worden voldaan.

3. Belangrijkste Bijdragen

Nieuw Kader voor Bedrog: Het introduceert een uniek kader waarin een verdediger de leerdynamiek van een datagedreven aanvaller actief manipuleert door de systeemdynamica tijdelijk te vervalsen. Dit verschilt van traditionele "Moving Target Defense" (die dynamiek willekeurig verandert) en van "Poisoning" (die data corrupteert zonder noodzakelijkerwijs een specifiek convergentiedoelwit te hebben).
Analytische Karakterisering: De optimale bedriegingsstrategie wordt gekarakteriseerd als de oplossing van een stelsel gekoppelde ARE en Lyapunov-vergelijkingen.
Convergentiebewijs: In tegenstelling tot eerdere werk (zoals een voorgaande versie van dit artikel), bieden de auteurs nu een theoretisch bewijs voor de convergentie van het voorgestelde iteratieve algoritme.
Robuustheid: Het artikel analyseert de robuustheid van de methode wanneer de verdediger de kostenmatrices ( $Q, R$ ) van de aanvaller niet exact kent, en toont aan dat de methode nog steeds effectief is.
Toepassing op Maximale Regelaars: Het behandelt het complexere geval van het bedriegen van een maximerende regelaar (de aanvaller), wat theoretisch uitdagender is dan het bedriegen van een minimerende regelaar (de verdediger) vanwege mogelijke onbegrensde waardefuncties.

4. Resultaten en Simulaties

De methode werd getest op een lineair gemodelleerd ADMIRE-vliegtuig (een benchmark in de luchtvaartregeling).

Case 1 (Prestatie-verminderende aanval): De aanvaller probeerde een aanval te leren die de stabiliteit verstoort. De verdediger slaagde erin de aanvaller te misleiden naar een aanval die aanzienlijk minder schadelijk was. De simulaties toonden aan dat de kostenfunctie daalde en de bedriegingswinst convergeerde. De energie van de systeemtoestand onder de bedekte aanval was aanzienlijk lager dan onder de nominale aanval.
Case 2 (Destabiliserende aanval): In een scenario waarbij de optimale aanval het systeem zou destabiliseren (instabiel), slaagde de verdediger erin de aanvaller te leiden naar een stabiele, suboptimale aanval. Hoewel dit meer iteraties vereiste vanwege de initiële instelling, bleek het systeem stabiel te blijven.
Robuustheid: Zelfs wanneer de verdediger de gewichtsmatrices van de aanvaller verkeerd inschatte, bleef de bedriegingsstrategie effectief in het onderdrukken van de aanval.
Vergelijking met bestaande leeralgoritmen: De simulaties toonden aan dat verschillende bestaande datagedreven leeralgoritmen (zoals die van Vrabie et al. en Jiang et al.) allemaal convergeren naar de door de verdediger beoogde suboptimale aanval, wat de onafhankelijkheid van de bedriegingsstrategie van het specifieke leeralgoritme van de aanvaller bevestigt.

5. Betekenis en Conclusie

Dit onderzoek biedt een fundamentele doorbraak in de beveiliging van datagedreven controlesystemen. Het toont aan dat informatie-voordeel (het kennen van de dynamica) kan worden gebruikt om een aanvaller niet alleen te vertragen, maar strategisch naar een veilige, vooraf bepaalde uitkomst te sturen.

De belangrijkste implicaties zijn:

Proactieve Verdediging: Verdedigers hoeven niet alleen reactief te zijn; ze kunnen de leeromgeving van de aanvaller actief vormgeven.
Theoretische Onderbouwing: Het biedt de eerste wiskundige garanties voor de convergentie van dergelijke bedriegingsstrategieën in lineair-kwadratische settings.
Toekomstperspectief: De methode vormt een basis voor toekomstig onderzoek naar bedrog in niet-lineaire datagedreven controlesystemen, hoewel dit aanzienlijk complexer zal zijn.

Kortom, het papier demonstreert dat door slimme manipulatie van de data die een aanvaller ziet, een verdediger de "intelligentie" van de aanvaller kan herschrijven om de eigen veiligheid te waarborgen.