⚡ electrical engineering

Learning Robust Control Lyapunov Functions through Lipschitz Neural Networks

Dieses Paper schlägt ein neuartiges Framework vor, das Lipschitz-neuronale Netze mit expliziten höheren Ablegungsschranken und einen GPU-beschleunigten Branch-and-Bound-Algorithmus nutzt, um gemeinsam robuste Lyapunov-Funktionen für die Regelung sowie stabilisierende Regler für nichtlineare Systeme zu lernen, die zustandsabhängigen additiven Störungen unterliegen.

Ursprüngliche Autoren: Shiqing Wei, Prashanth Krishnamurthy, Farshad Khorrami

Veröffentlicht 2026-07-07

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Shiqing Wei, Prashanth Krishnamurthy, Farshad Khorrami

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Einem Roboter beibringen, in einem Sturm aufrecht zu bleiben

Stellen Sie sich vor, Sie versuchen, einem Roboter (wie einem Balancierstab oder einem selbstfahrenden Auto) beizubringen, wie er stabil bleibt. Der Roboter benötigt ein „Regelwerk“, um zu wissen, wie er reagieren soll, wenn etwas schiefgeht. In der Ingenieurwissenschaft wird dieses Regelwerk als Lyapunov-Funktion bezeichnet. Betrachten Sie es als eine digitale „Energiekarte“. Wenn der Roboter dieser Karte folgt, weiß er, dass er sich – solange er sich in eine bestimmte Richtung bewegt – der Sicherheit (Stabilität) nähert, anstatt umzukippen.

Doch das echte Leben ist chaotisch. Der Roboter könnte unerwarteten Wind, rutschige Böden oder defekte Teile erleben. Dies sind Störungen. Die meisten alten Methoden zur Erstellung dieser Regelwerke gehen davon aus, dass die Welt perfekt und vorhersehbar ist. Wenn eine plötzliche Windböe auftrifft, könnten diese alten Regelwerke versagen und der Roboter könnte abstürzen.

Dieses Paper stellt einen neuen, robusteren Weg vor, um Robotern beizubringen, selbst dann stabil zu bleiben, wenn die Welt chaotisch ist.

Das Problem: Die „Perfekte-Welt“-Falle

Seit Jahrzehnten nutzen Ingenieure Mathematik, um zu beweisen, dass ein Roboter sicher ist. Aber wenn sie Neuronale Netze (Computergehirne, die aus Daten lernen) verwenden, um diese Sicherheitskarten zu erstellen, entsteht ein neues Problem: die Verifizierung.

Da das Computergehirn so komplex und nichtlinear ist (es folgt keiner geraden Linie), ist es unglaublich schwer, mathematisch zu beweisen, dass es niemals einen Fehler machen wird. Es ist, als würde man versuchen zu beweisen, dass ein Labyrinth keine Sackgassen hat, ohne jeden einzelnen Pfad abzulaufen. Wenn man es nicht beweisen kann, kann man dem Roboter sein Leben nicht anvertrauen.

Die Lösung: Die „Lipschitz“-Beschränkung

Die Autoren schlagen vor, einen speziellen Typ von neuronalem Netz zu verwenden, ein Lipschitz-Neuronales Netz (LNN).

Die Analogie: Stellen Sie sich vor, Sie wandern durch einen nebligen Wald.

Standard-Neuronale Netze sind wie ein Wanderer, der plötzlich teleportieren oder in einem Bruchteil einer Sekunde 30 Meter weit springen kann. Es ist schwer vorherzusagen, wo er als Nächstes sein wird.
Lipschitz-Neuronale Netze sind wie ein Wanderer, dem es streng untersagt ist, schneller als eine bestimmte Geschwindigkeitsbegrenzung zu laufen. Egal wie sich das Gelände verändert, er kann für jeden Schritt nur eine bestimmte Distanz zurücklegen.

Indem sie das Computergehirn dazu zwingen, dieses „Tempolimit“ einzuhalten (mathematisch als Lipschitz-Konstante bezeichnet), können die Autoren exakt berechnen, wie stark sich der Output in Abhängigkeit vom Input verändern kann. Dies macht das Netzwerk kontrollierbar genug, um es zu verifizieren.

Die Innovation: Die „Krümmung“ der Karte sehen

Der größte Durchbruch des Papers liegt darin, wie sie prüfen, ob die Sicherheitskarte korrekt ist.

Die meisten bisherigen Methoden prüften die Karte nur mit Informationen nullter Ordnung (nur die Höhe des Geländes betrachtend) oder erster Ordnung (nur die Steigung betrachtend).

Der alte Weg: Stellen Sie sich vor, Sie versuchen die Form eines Hügels zu erraten, indem Sie nur einen einzelnen Punkt und die unmittelbare Steigung betrachten. Wenn der Hügel steil abknickt, könnten Sie sich irren. Dies führt zu „konservativen“ Ergebnissen – das heißt, der Computer sagt: „Ich kann mir nicht zu 100 % sicher sein, dass dies sicher ist“, selbst wenn es das tatsächlich ist. Er ist übervorsichtig.
Der neue Weg: Die Autoren haben eine Methode entwickelt, um die Hesse-Matrix (wie die Steigung krümmt) und sogar die Ableitungen dritter Ordnung (wie sich die Krümmung ändert) zu betrachten.
- Die Analogie: Anstatt nur die Steigung zu betrachten, nutzen sie eine High-Tech-Drohne, um die gesamte Kurve des Hügels zu kartieren. Sie wissen genau, wie der Boden sich biegt. Dies ermöglicht es ihnen, viel engere und präzisere Grenzen um die „Sicherheitszone“ zu ziehen.

Der Motor: Eine GPU-gestützte „Suche und Vernichtung“

Um diese komplexen Karten zu verifizieren, haben die Autoren einen Branch-and-Bound (BnB)-Algorithmus entwickelt.

Die Analogie: Stellen Sie sich vor, Sie suchen eine verlorene Münze in einem riesigen, dunklen Lagerhaus.

Die alte Methode (CPU-basiert): Sie laufen langsam durch jede einzelne Gasse und prüfen jeden Zentimeter des Bodens. Das dauert ewig.
Die neue Methode (GPU-basiert): Sie haben ein Team von Suchern (die auf einer leistungsstarken Grafikkarte, oder GPU, laufen), die das Lagerhaus in riesige Sektionen aufteilen können.
1. Sie betrachten eine Sektion.
2. Mithilfe ihrer „Krümmungskarten“ (Hesse-Schranken) stellen sie fest: „Hey, dieser ganze Abschnitt ist zu hoch gelegen, um die Münze zu enthalten. Wir können diesen Bereich ignorieren!“
3. Sie schneiden diesen Abschnitt sofort aus der Suche heraus.
4. Sie tauchen nur in die kleinen, vielversprechenden Bereiche ein.

Da sie die höhere Mathematik (die Krümmung) nutzen, können sie riesige Teile des Lagerhauses sofort ausschließen. Dies macht den Verifizierungsprozess exponentiell schneller als bisherige Methoden.

Die Ergebnisse: Was haben sie bewiesen?

Das Team hat dies an sechs verschiedenen „Robotern“ getestet, darunter:

Ein invertiertes Pendel (ein Stab, der auf einem Wagen balanciert).
Ein Einrad.
Ein Cartpole.
Eine 2D-Drohne (Quadcopter).
Ein Roboterarm (SCARA).

Die Erkenntnisse:

Robustheit: Ihre Methode konnte erfolgreich Sicherheitskarten erstellen, die auch funktionieren, wenn der Roboter von „Störungen“ (simulierter Wind oder Rauschen) getroffen wird.
Geschwindigkeit: Ihr neuer Verifizierungsalgorithmus war signifikant schneller als aktuelle Industriestandards (wie dReal oder $\alpha,\beta$ -CROWN). In einigen Fällen dauerten alte Methoden Stunden oder liefen in den Speicherüberlauf, während ihre Methode in Sekunden fertig war.
Sicherheit: Sie haben mathematisch bewiesen, dass ihre gelernten Controller die Roboter innerhalb einer spezifischen „Sicherheitszone“ stabil halten, selbst wenn die Welt versucht, sie aus dieser Zone zu drücken.

Zusammenfassung

In diesem Paper geht es darum, Computern beizubringen, unzerbrechliche Sicherheitsregeln für Roboter zu erstellen. Dies gelang ihnen durch:

Die Beschränkung des Computergehirns auf ein vorhersagbares „Tempolimit“ (Lipschitz).
Die Nutzung fortgeschrittener Mathematik, um die „Krümmung“ der Sicherheitskarte zu verstehen, nicht nur die Steigung.
Den Einsatz einer superschnellen, parallelen Suchmaschine (auf einer GPU), die unmögliche Bereiche sofort ausschließt, um die Sicherheit der Karte zu beweisen.

Das Ergebnis ist ein System, das lernen kann, komplexe Maschinen zu steuern und mathematisch garantiert, dass sie nicht abstürzen, selbst wenn die Umgebung unordentlich und unvorhersehbar ist.

Technische Zusammenfassung: Lernen robuster Control Lyapunov-Funktionen durch Lipschitz-Neuronale Netze

Problemstellung
Die vorliegende Arbeit befasst sich mit der Herausforderung, stabilisierende Regler für nichtlineare dynamische Systeme zu entwerfen, die additiven Störungen unterliegen. Während Lyapunov-Funktionen ein grundlegendes Werkzeug für die Stabilitätsanalyse sind, bleibt deren automatischer Konstruktion für allgemeine nichtlineare Systeme ein offenes Problem. Bestehende computergestützte Methoden, wie Sum-of-Squares (SOS) oder Lineare Matrix-Ungleichungen (LMI), kämpfen oft mit der Skalierbarkeit oder der Verallgemeinerbarkeit. Darüber hinaus konzentrieren sich jüngere Deep-Learning-Ansätze, die Control Lyapunov-Funktionen (CLFs) mittels neuronaler Netze lernen, typischerweise auf exakte Dynamiken ohne Störungen oder verlassen sich auf Verifikationsmethoden, die rechenintensiv und konservativ sind (z. B. durch die Verwendung ausschließlich von Informationen nullter Ordnung). Die spezifische Herausforderung besteht darin, eine robuste Control Lyapunov-Funktion (RCLF) und einen entsprechenden Zustandsrückführungsregler zu lernen, der eine gleichmäßige endliche Bestimmtheit (Uniform Ultimate Boundedness, UUB) in Gegenwart zustandsabhängiger additiver Störungen garantiert und gleichzeitig sicherstellt, dass die Verifikation dieser Bedingungen rechnerisch handhabbar bleibt.

Methodik
Das vorgeschlagene Framework integriert Lipschitz-Neuronale Netze (LNNs) mit einem hochgradigen Branch-and-Bound (BnB)-Verifikationsalgorithmus.

Lipschitz-Neuronale Netze (LNNs):
Die Autoren verwenden LNNs, um die RCLF ( $V_{\theta_1}$ ) und den stabilisierenden Regler ( $\pi_{\theta_2}$ ) gemeinsam zu lernen. Im Gegensatz zu Standardnetzwerken erzwingen LNNs eine vordefinierte Lipschitz-Konstante durch spezifische Schichtparametrisierungen (z. B. Spektralnormierung, orthogonale Schichten oder Sandwich-Schichten). Diese Beschränkung ist entscheidend, da sie die Ableitung expliziter, enger Schranken für höhere Ableitungen (Hesse-Matrix und Ableitungen dritter Ordnung) des Netzwerkausgangs in Bezug auf seinen Eingang ermöglicht. Die RCLF wird als verschobener Netzwerkausgang definiert, um die Gleichgewichtsbedingung $V(0)=0$ zu gewährleisten.
Trainingsalgorithmus:
Der Trainingsprozess minimiert eine zusammengesetzte Verlustfunktion über einen abgetasteten Zustandsraum und dessen Rand. Die Verlustterme erzwingen:
- Positive Definitheit: Sicherstellung, dass $V(x) > 0$ für $x \neq 0$ gilt.
- Abnahbedingung: Sicherstellung, dass die zeitliche Ableitung $\dot{V}$ außerhalb einer kleinen Kugel um den Ursprung negativ ist, wobei die Störung unter Berücksierung der ungünstigsten Störung berücksichtigt wird. Dies beinhaltet die obere Begrenzung des Störungsterms unter Verwendung der bekannten Störungsschrankenfunktion $\epsilon(x)$ und der Lipschitz-Konstanten des Netzwerks und der Systemdynamik.
- Rand und Abdeckung: Förderung der Tatsache, dass die Sublevel-Menge von $V$ einen maximalen Teil des Zustandsraums abdeckt und auf dem Rand einen konsistenten Wert beibehält.
  Das Verfahren initialisiert die Parameter mithilfe von Linear-Quadratic-Regulator (LQR)-Lösungen und verfeinert diese iterativ, wobei die Parameter gespeichert werden, die die größte empirisch verifizierte vorwärts-invariante Region liefern.
Hochgradige Verifikation (Branch-and-Bound):
Ein neuartiger GPU-freundlicher BnB-Algorithmus wird zur formalen Verifikation der gelernten RCLF eingeführt. Im Gegensatz zu traditionellen Solvern (z. B. dReal), die auf Schranken nullter Ordnung basieren, oder SMT-Solvern, die vor Skalierbarkeitsproblemen leiden, nutzt diese Methode die Glattheit der LNNs.
- Ableitungen höherer Ordnung: Die Autoren leiten explizite Spektralnorm-Schranken für die Hesse-Matrix und Ableitungen dritter Ordnung von LNNs her. Diese Schranken werden verwendet, um enge untere und obere Schranken auf den Netzwerkausgang mittels Taylor-Entwicklungen (bis zur zweiten Ordnung) zu konstruieren.
- Algorithmen-Effizienz: Durch die Einbeziehung von Informationen erster und zweiter Ordnung erzeugt der Algorithmus signifikant engere Einschlüsse der Funktionswerte innerhalb der Suchrechtecke. Dies ermöglicht eine aggressivere Beschneidung (Pruning) des Suchraums im Vergleich zu Methoden nullter Ordnung.
- Komplexität: Das Paper etabliert Worst-Case-Zeitkomplexitätsschranken und zeigt, dass die Anzahl der evaluierten Rechtecke polynomiell mit der Systemdimension skaliert und invers proportional zur Toleranz ist, in der Praxis jedoch durch die engeren Schranken drastisch reduziert wird.

Wesentliche Beiträge

Neuartiges Framework: Ein vereinheitlichter Ansatz zum Lernen robuster CLFs und stabilisierender Regler für nichtlineare Systeme mit additiven, zustandsabhängigen Störungen unter Verwendung von LNNs.
Ableitungsschranken: Die Etablierung expliziter Spektralnorm-Schranken für die Hesse-Matrix und Ableitungen dritter Ordnung von LNNs. Diese Schranken sind enger als jene, die allein aus Informationen nullter oder erster Ordnung abgeleitet werden, und adressieren die Nichtkonvexität der Lyapunov-Verifikation.
GPU-freundliche Verifikation: Die Entwicklung eines GPU-freundlichen BnB-Algorithmus, der diese Ableitungen höherer Ordnung nutzt und die Batch-Evaluierung auf GPUs unterstützt. Dies beschleunigt den Verifikationsprozess im Vergleich zu CPU-basierten SMT-Solvern erheblich.
Empirische Validierung: Umfangreiche Simulationen an sechs dynamischen Systemen (Invertiertes Pendel, Unicycle, System dritter Ordnung, Cartpole, 2D-Quadrotor und SCARA-Arm) demonstrieren die Fähigkeit der Methode, Stabilität zu verifizieren und bestehende Werkzeuge (dReal, $\alpha,\beta$ -CROWN) in Bezug auf Geschwindigkeit und Skalierbarkeit zu übertreffen.

Ergebnisse
Das Paper präsentiert Simulationsergebnisse im Vergleich zum vorgeschlagenen Verfahren gegenüber dReal (CPU-basierter SMT) und $\alpha,\beta$ -CROWN (GPU-basierte Schrankenpropagation).

Verifikationsgeschwindigkeit: Der vorgeschlagene GPU-basierte BnB-Algorithmus übertrifft dReal konsistent und reduziert die Verifikationszeit oft von Stunden (oder Timeouts) auf Sekunden, selbst bei Systemen mit höheren Zustandsdimensionen (z. B. SCARA-Arm mit $n_x=8$ ).
Skalierbarkeit: Während dReal Schwierigkeiten hat, Systeme mit mehr als 2–3 Schichten innerhalb einer angemessenen Zeit zu verifizieren, verifiziert die vorgeschlagene Methode erfolgreich Netzwerke mit bis zu 4 Schichten.
Vorwärts-invariante Regionen: Die gelernten Regler erreichen signifikant größere vorwärts-invariante Regionen im Vergleich zu Standard-LQR und nicht-robusten neuronalen CLF-Ansätzen (NLC). Für das invertierte Pendel erreichte die vorgeschlagene Methode ein Verhältnis der vorwärts-invarianten Region von ca. 75 %, verglichen mit ca. 23 % bei LQR.
Robustheit: Die Verifikation bestätigt, dass die gelernten Regler die UUB-Bedingung erfüllen und Trajektorien trotz Störungen innerhalb eines begrenzten Bereichs halten.

Bedeutung und Ansprüche
Das Paper behauptet, dass seine primäre Bedeutung darin liegt, die Lücke zwischen der Ausdrucksstärke von Deep Learning und den strengen Anforderungen der robusten Regelungs-Verifikation zu schließen. Durch die Nutzung der spezifischen Struktur von Lipschitz-Netzwerken zur Ableitung von Schranken höherer Ableitungen ermöglichen die Autoren einen Verifikationsprozess, der sowohl mathematisch rigoros als auch rechentechnisch effizient ist.

Die Autoren stellen explizit klar, dass ihr Framework nicht die Stabilität für ein unbekanntes Modell ohne bekannte Fehlerschranke zertifiziert; vielmehr bietet es eine deterministische Garantie der Robustheit gegenüber einem zertifizierten Modellfehler oder einer beschränkten Störung. Die Arbeit hebt hervor, dass LNNs zwar eine geringere Ausdrucksstärke als unbeschränkte Netzwerke haben mögen, dieser Kompromiss jedoch durch die Fähigkeit zur effizienten Verifikation höherer Ordnung gerechtfertigt ist, was für sicherheitskritische Regelungsanwendungen essenziell ist. Das Paper schließt mit dem Schluss, dass dieser Ansatz die formale Verifikation robuster, gelernter Regler für komplexe nichtlineare Systeme praktisch machbar macht.