⚡ electrical engineering

Deception Against Data-Driven Linear-Quadratic Control

Die vorgestellte Arbeit entwickelt einen numerischen Algorithmus, der es einem Verteidiger ermöglicht, durch gezielte Täuschungseingaben einen lernenden Angreifer dazu zu bringen, suboptimale Angriffsstrategien für ein lineares quadratisches System zu erlernen, anstatt die optimale Lösung zu finden.

Ursprüngliche Autoren: Filippos Fotiadis, Aris Kanellopoulos, Kyriakos G. Vamvoudakis, Ufuk Topcu

Veröffentlicht 2026-02-20

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Filippos Fotiadis, Aris Kanellopoulos, Kyriakos G. Vamvoudakis, Ufuk Topcu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Grundproblem: Der unsichtbare Spion

Stell dir vor, du hast ein hochmodernes Flugzeug (oder ein autonomes Auto), das automatisch fliegt. Ein böswilliger Hacker (der „Angreifer") möchte dieses Flugzeug sabotieren. Aber er kennt die inneren Mechanismen des Flugzeugs nicht. Er kann nicht einfach die Schrauben lösen; er muss lernen, wie das Flugzeug funktioniert, indem er Daten beobachtet, während es fliegt.

Sobald er genug Daten gesammelt hat, berechnet er den perfekten Weg, um das Flugzeug zu destabilisieren oder zu stürzen. Das ist wie ein Dieb, der versucht, den besten Weg zu finden, um in ein Haus einzubrechen, indem er erst mal nur durch die Fenster schaut, um die Bewegungsmuster der Bewohner zu verstehen.

Die Lösung: Der Trick des Verteidigers

Jetzt kommt der Verteidiger ins Spiel. Er kennt das Flugzeug perfekt (er hat den Bauplan). Er weiß, dass der Hacker gerade Daten sammelt. Anstatt den Hacker einfach zu blockieren (was oft unmöglich ist), beschließt der Verteidiger, den Hacker zu täuschen.

Stell dir das wie einen Taschenspieler vor:
Der Verteidiger führt eine kleine, unsichtbare Handbewegung aus, während er dem Hacker Daten zeigt. Er verändert die Realität ein klein wenig, aber nur so, dass der Hacker es nicht merkt.

Der Verteidiger füttert das System mit einem „falschen Signal" (einem deceptiven Input). Für das Flugzeug ist das wie ein kleiner Windstoß, der es leicht ablenkt. Für den Hacker sieht es aber so aus, als wäre das das normale Verhalten des Flugzeugs.

Das Ziel: Den Dieb in die Irre führen

Das Geniale an diesem Papier ist nicht nur, dass der Verteidiger den Hacker verwirrt, sondern dass er ihn gezielt in die Irre führt.

Normalerweise: Der Hacker lernt den perfekten, zerstörerischen Angriff.
Mit dem Trick: Der Verteidiger manipuliert die Daten so, dass der Hacker glaubt, der beste Weg, das Flugzeug zu zerstören, sei eigentlich ein sehr harmloser Weg.

Es ist, als würde der Verteidiger dem Hacker eine Landkarte geben, auf der der Weg zum Schatz (dem Erfolg des Angriffs) durch einen Sumpf führt, der nur ein paar nasse Füße macht. Der Hacker denkt: „Aha, das ist der beste Weg!", und läuft genau dorthin. In Wirklichkeit tut er dem Flugzeug aber kaum einen Schaden.

Wie funktioniert das mathematisch? (Ohne Mathe-Formeln)

Die Forscher haben herausgefunden, dass man diesen perfekten Täuschungs-Trick nicht einfach „raten" kann. Es ist wie das Lösen eines sehr komplexen Puzzles, bei dem sich alle Teile gegenseitig beeinflussen.

Die Gleichung: Sie haben eine mathische Formel entwickelt, die beschreibt, wie stark der Verteidiger das Signal verzerren muss, damit der Hacker genau das lernt, was der Verteidiger will.
Der Algorithmus (Der Rechen-Trick): Da diese Formel zu kompliziert ist, um sie mit einem Bleistift zu lösen, haben sie einen cleveren Computer-Algorithmus entwickelt (ein „Block-Successive-Over-Relaxation"-Verfahren).
- Vereinfacht gesagt: Der Computer probiert eine Täuschung aus, schaut, wie der Hacker darauf reagiert, korrigiert die Täuschung, probiert es wieder, und macht das so lange, bis er die perfekte Täuschung gefunden hat.
- Die Forscher haben bewiesen, dass dieser Prozess immer funktioniert und nicht ins Unendliche läuft.

Das Ergebnis im Test

Sie haben das an einem Modell eines echten Kampfflugzeugs getestet.

Ohne Täuschung: Der Hacker lernt einen Angriff, der das Flugzeug fast zum Absturz bringt.
Mit Täuschung: Der Hacker lernt einen Angriff, der das Flugzeug nur leicht wackeln lässt. Die Energie, die für den Angriff aufgewendet wird, ist winzig im Vergleich zum echten Angriff.

Warum ist das wichtig?

In einer Welt, in der KI und Daten alles steuern (von Stromnetzen bis zu Autos), ist es gefährlich, wenn Angreifer aus Daten lernen können. Dieses Papier zeigt einen Weg, wie wir diese Daten nicht nur schützen, sondern sie aktiv nutzen, um den Angreifer zu täuschen.

Zusammenfassend:
Statt den Angreifer zu bekämpfen, indem man ihn aussperrt, gibt man ihm eine gefälschte Realität, in der er glaubt, er habe gewonnen, während er in Wirklichkeit nur harmloses Spielzeug spielt. Es ist der ultimative „Taschenspieler-Trick" für Cyber-Sicherheit.

Titel und Kontext

Das Paper untersucht das Konzept der Täuschung (Deception) im Bereich der datengesteuerten linearen-quadratischen Regelung (LQR). Es adressiert ein Szenario, in dem ein Angreifer versucht, eine optimale Angriffspolicy für ein System zu lernen, dessen Dynamiken ihm unbekannt sind. Ein Verteidiger, der über vollständige Kenntnis der Systemdynamiken verfügt, nutzt diesen Informationsvorteil, um durch das Einspeisen eines täuschenden Signals (Deceptive Input) den Lernprozess des Angreifers zu manipulieren.

Problemstellung

Szenario: Ein Angreifer versucht, einen optimalen linearen-quadratischen Angriff $K^*$ zu berechnen, der die Systemstabilität stört, ohne dabei die eigene Angriffsmagnitude zu stark zu erhöhen. Da der Angreifer die Systemmatrizen ( $A, B_a$ ) nicht kennt, muss er diese aus gemessenen Daten ableiten (Systemidentifikation) oder direkt datengesteuerte Methoden anwenden.
Verteidiger-Strategie: Der Verteidiger kennt die Systemdynamiken und das Ziel des Angreifers. Er fügt einen zusätzlichen Zustandsrückführungs-Input $u(t) = \Lambda x(t)$ in das geschlossene Regelkreis-System ein.
Ziel: Der Verteidiger möchte den Parameter $\Lambda$ so wählen, dass der Angreifer, basierend auf den verzerrten Daten, eine vorab festgelegte, suboptimale und weniger schädliche Angriffspolicy $\bar{K}$ lernt, anstatt der optimalen, zerstörerischen Policy $K^*$ .
Herausforderung: Die Beziehung zwischen dem täuschenden Gain $\Lambda$ und dem vom Angreifer gelernten Gain $K_u(\Lambda)$ ist nichtlinear und implizit, da sie über die Lösung einer modifizierten algebraischen Riccati-Gleichung (ARE) definiert ist.

Methodik

1. Mathematische Formulierung

Das Problem wird als eingeschränktes Optimierungsproblem formuliert. Der Verteidiger minimiert eine Kostenfunktion $J(\Lambda, P_u)$ , die zwei Ziele abwägt:

Die Distanz zwischen dem vom Angreifer gelernten Gain $K_u(\Lambda)$ und dem gewünschten Ziel-Gain $\bar{K}$ (gemessen im Frobenius-Norm).
Die Größe des täuschenden Inputs $\Lambda$ (reguliert durch einen Term $\text{tr}(\Lambda^T \Gamma \Lambda)$ ), um die Stabilität des nominalen Systems zu wahren.

Die Lösung dieses Problems führt auf ein gekoppeltes System aus:

Einer algebraischen Riccati-Gleichung (ARE) für die Matrix $P_u$ .
Einer Lyapunov-Gleichung (LE) für eine Hilfsmatrix $\Pi$ .
Einer algebraischen Gleichung zur Berechnung von $\Lambda$ .

2. Numerische Lösung: Block Successive Over-Relaxation (SOR)

Da das gekoppelte Gleichungssystem analytisch schwer lösbar ist, schlagen die Autoren einen numerischen Algorithmus vor:

Algorithmus: Ein Block Successive Over-Relaxation (SOR)-Verfahren (eine Variation des Gauss-Seidel-Verfahrens).
Ablauf:
1. Start mit einem initialen Gain $\Lambda_0$ .
2. Lösen der ARE für $P_u$ (gegeben $\Lambda_i$ ).
3. Lösen der Lyapunov-Gleichung für $\Pi$ (gegeben $P_u$ und $\Lambda_i$ ).
4. Aktualisierung von $\Lambda$ basierend auf den neuen Werten.
5. Wiederholung bis zur Konvergenz.
Theoretische Fundierung: Das Paper beweist, dass dieser Algorithmus im Wesentlichen ein Gradientenabstiegsverfahren auf der reduzierten Kostenfunktion ist. Unter bestimmten Bedingungen (insbesondere bezüglich der Stabilität und der Wahl der Regularisierungsmatrix $\Gamma$ ) wird die Konvergenz des Algorithmus zu einem stationären Punkt (und unter strengeren Bedingungen zu einem Minimum) mathematisch bewiesen.

Wichtige Beiträge

Neues Deception-Paradigma: Im Gegensatz zu klassischen LQR-Spielen, bei denen alle Spieler den Modells kennen, nutzt dieser Ansatz die Informationsasymmetrie aus. Der Verteidiger nutzt sein Wissen, um den Lernprozess des Angreifers aktiv zu steuern, ohne dessen spezifischen Lernalgorithmus zu kennen. Dies unterscheidet sich auch von „Moving Target Defense", die nur die Dynamik ändert, ohne das Lernziel gezielt vorzugeben.
Charakterisierung der Lösung: Die optimale Täuschung wird als Lösung eines gekoppelten Systems aus ARE und Lyapunov-Gleichung charakterisiert.
Konvergenzbeweis: Im Gegensatz zu früheren Vorarbeiten (die nur Simulationen zeigten) liefert dieses Paper einen strengen mathematischen Beweis für die Konvergenz des vorgeschlagenen iterativen Algorithmus.
Robustheitsanalyse: Das Paper analysiert die Robustheit der Methode, wenn die Kostenmatrizen des Angreifers ( $Q, R$ ) vom Verteidiger falsch eingeschätzt werden. Es wird gezeigt, dass die Täuschung auch in solchen Fällen effektiv bleibt, insbesondere wenn das Ziel $\bar{K} = 0$ ist.
Erweiterung auf Minimierungsprobleme: Das Framework wird auch auf das duale Problem angewendet, bei dem ein Verteidiger lernt und ein Angreifer versucht, ihn zu täuschen (was als einfacheres, konvexeres Problem behandelt wird).

Ergebnisse und Simulationen

Die Autoren validieren ihren Ansatz an einem linearisierten ADMIRE-Flugzeugmodell:

Fall 1 (Leistungsverschlechternder Angriff): Der Angreifer versucht, die Stabilität zu stören. Der Verteidiger manipuliert die Daten so, dass der Angreifer einen fast null-lautenden Angriff lernt.
- Ergebnis: Der Algorithmus konvergiert nach ca. 3500 Iterationen. Der gelernte Angriff ist signifikant schwächer als der optimale Angriff, was zu einer deutlich geringeren Zustandsenergie (State Energy) führt.
- Robustheit: Auch bei falschen Annahmen über die Gewichtungsmatrizen des Angreifers bleibt die Täuschung wirksam.
Fall 2 (Destabilisierender Angriff): Der Angreifer würde ohne Täuschung ein instabiles System erzeugen (da $R$ $R$ sehr klein gewählt wurde).
- Ergebnis: Durch die Täuschung lernt der Angreifer einen Angriff, der das System stabil hält (obwohl suboptimal). Dies zeigt, dass die Methode auch in kritischen Szenarien, in denen der optimale Angriff das System zerstören würde, einen stabilen Zustand erzwingen kann.
Lernverhalten: Simulationen mit verschiedenen Lernalgorithmen (z.B. basierend auf [34], [35]) zeigen, dass der Angreifer unabhängig vom spezifischen Algorithmus immer zur vom Verteidiger gewünschten, suboptimalen Policy konvergiert.

Bedeutung und Ausblick

Sicherheitsimplikation: Die Arbeit zeigt, dass datengesteuerte Kontrollsysteme anfällig für gezielte Täuschung sind, wenn der Angreifer keine Modellkenntnis hat. Gleichzeitig bietet sie einen Weg für Verteidiger, diese Schwachstelle proaktiv zu nutzen, um Angriffe zu entschärfen.
Theoretischer Fortschritt: Die Verbindung von Täuschungsstrategien mit der Theorie der algebraischen Riccati-Gleichungen und die Bereitstellung von Konvergenzbeweisen für iterative Lösungsverfahren in diesem Kontext ist ein wichtiger theoretischer Schritt.
Zukunft: Die Autoren sehen Potenzial in der Erweiterung auf nichtlineare datengesteuerte Regelungsprobleme, was jedoch mathematisch und rechnerisch deutlich anspruchsvoller wäre (z.B. durch partielle Differentialgleichungen statt Riccati-Gleichungen).

Zusammenfassend bietet das Paper einen rigorosen Rahmen, um die Lernprozesse von Angreifern in cyber-physischen Systemen durch gezielte Datenmanipulation zu steuern und so die Systemresilienz zu erhöhen.