Safe and Robust Domains of Attraction for Discrete-Time Systems: A Set-Based Characterization and Certifiable Neural Network Estimation

Dieser Beitrag stellt ein neuartiges Framework vor, das auf einer mengentheoretischen Charakterisierung von Domänen der Attraktion basiert und durch den Einsatz von physik-informierten neuronalen Netzen sowie formaler Verifikation robuste und sichere Schätzungen für diskrete nichtlineare Systeme mit Unsicherheiten ermöglicht.

Das Wesentliche

🛡️ Das unsichtbare Schutzschild: Wie KI sichere Grenzen für chaotische Systeme findet

Stell dir vor, du steckst ein Spielzeugauto in einen riesigen, unebenen Raum voller Hindernisse. Das Auto hat einen Motor, der manchmal ein bisschen verrückt spielt (das ist die Unsicherheit oder der Störungsvektor). Deine Aufgabe ist es, herauszufinden: Von welchen Startpunkten aus kann das Auto garantiert sicher zum Ziel fahren, ohne gegen eine Wand zu krachen oder den Motor zu verlieren?

Diese sichere Startzone nennt man in der Fachsprache den Domänen der Attraktion (DOA).

Das Problem ist: Bei einfachen, geraden Linien ist das leicht zu berechnen. Aber bei echten, komplexen Systemen (wie einem Flugzeug im Sturm oder einem Roboterarm) ist das wie der Versuch, die Form einer Wolke zu beschreiben, während sie sich ständig verändert. Herkömmliche Methoden sind oft zu vorsichtig (sie sagen: "Nur dieser winzige Punkt ist sicher") oder zu rechenintensiv (sie brauchen Jahre für die Berechnung).

Diese neue Studie von Mohamed Serry und seinem Team bietet eine clevere Lösung, die Künstliche Intelligenz (KI) mit strenger Mathematik verbindet.

1. Die neue Landkarte: Der "Wert" eines Ortes

Statt nur zu raten, wo die Grenzen liegen, erfinden die Autoren eine neue Art von Landkarte.

• Die alte Methode: Man versucht, eine starre, glatte Schale um das Ziel zu legen (wie eine Eierschale). Das funktioniert oft nicht, weil die echten Grenzen gezackt und unregelmäßig sind.
• Die neue Methode: Sie erstellen eine Art "Gefahren-Wert" für jeden Punkt im Raum.
  • Ist der Punkt nah am Ziel und sicher? Der Wert ist niedrig (wie ein grüner Lichtpunkt).
  • Ist der Punkt weit weg oder gefährlich? Der Wert wird hoch (wie ein rotes Warnsignal).
  • Wenn der Wert unendlich wird, bist du außerhalb der sicheren Zone.

Diese Karte wird durch eine mathematische Gleichung (eine Art "Zukunfts-Formel") definiert, die sagt: "Der Wert eines Ortes ist die Summe aus der aktuellen Gefahr plus dem Wert des Ortes, an dem du als Nächstes landest."

2. Der KI-Trainer: Physik-informiertes Lernen

Jetzt kommt die KI ins Spiel. Anstatt die KI einfach nur mit Daten zu füttern und zu hoffen, dass sie etwas lernt, geben ihr die Autoren die Regeln des Spiels direkt mit.

• Das Training: Die KI (ein neuronales Netz) lernt nicht nur, die Karte zu zeichnen, sondern muss sich auch an die physikalischen Gesetze halten. Sie muss die oben genannte "Zukunfts-Formel" (Bellman-Gleichung) erfüllen.
• Die Analogie: Stell dir vor, du lehrst einen Schüler, wie man Schach spielt.
  • Normales Lernen: Du zeigst ihm tausende Partien, und er merkt sich die Züge.
  • Dieses Lernen: Du gibst ihm die Schachregeln und sagst: "Du darfst nur Züge machen, die den Regeln entsprechen, und du musst versuchen, den König zu schützen." Die KI lernt die Logik hinter der Sicherheit, nicht nur die Muster.

Dadurch wird die KI sehr effizient und kann auch in hochkomplexen, mehrdimensionalen Räumen (wie bei Robotern mit vielen Gelenken) eine gute Karte zeichnen.

3. Der Sicherheits-Check: Der "Polizist"

Das ist der wichtigste Teil: Eine KI kann manchmal lügen oder Fehler machen. Wenn die KI sagt "Hier ist es sicher", wollen wir das zu 100 % beweisen können.

Dafür nutzen die Autoren einen formalen Verifikator (einen digitalen Polizisten).

• Die KI schlägt eine sichere Zone vor.
• Der Polizist prüft jeden möglichen Fall (auch die extremsten Störungen und Unsicherheiten) mathematisch exakt.
• Nur wenn der Polizist grünes Licht gibt, wird die Zone als "zertifiziert sicher" markiert.

Das ist wie bei einem Flugzeug: Der Ingenieur (die KI) entwirft die Tragfläche, aber der strenge Prüfer (der Verifikator) muss garantieren, dass sie bei jedem Sturm hält, bevor das Flugzeug fliegt.

4. Warum ist das so cool? (Die Ergebnisse)

Die Autoren haben das an vier verschiedenen Beispielen getestet, von Stromnetzen bis zu Roboterarmen.

• Ergebnis: Ihre Methode findet viel größere sichere Zonen als alte Methoden. Sie ist weniger vorsichtig, aber trotzdem absolut sicher.
• Der Vergleich: Wenn man die KI ohne die Unsicherheiten trainiert (als ob der Wind nie wehen würde), denkt sie, sie könne viel weiter fliegen. Aber sobald der Wind weht, kracht sie. Die neue Methode trainiert die KI mit dem Wind im Kopf. Das Ergebnis ist eine Zone, die zwar etwas kleiner ist als die "Traum-Zone" ohne Wind, aber wirklich sicher ist, wenn der Wind weht.

Zusammenfassung in einem Satz

Die Forscher haben eine Methode entwickelt, bei der eine KI eine Landkarte der Sicherheit für chaotische Systeme zeichnet, indem sie die Gesetze der Physik direkt in ihr Lernen einbaut, und ein mathematischer Polizist dann garantiert, dass diese Karte auch unter den schlimmsten Bedingungen nicht lügt.

Das ist ein riesiger Schritt hin zu autonomen Systemen, die wir wirklich vertrauen können – sei es in selbstfahrenden Autos, Robotern oder Stromnetzen.

Technische Zusammenfassung

1. Problemstellung

Das Paper adressiert das Problem der genauen Schätzung des sicheren und robusten Anziehungsbereichs (Domain of Attraction, DOA) für diskrete, nichtlineare, unsichere dynamische Systeme.

• Ziel: Bestimmung der Menge aller Anfangszustände, von denen aus alle Trajektorien garantiert zu einem vorgegebenen robust invarianten Set (RIS) konvergieren, während sie zu allen Zeitpunkten innerhalb eines definierten sicheren Bereichs (State Constraints) bleiben und alle zulässigen Unsicherheiten (Störungen) berücksichtigt werden.
• Herausforderungen:
  • Herkömmliche Methoden basieren oft auf festen Lyapunov-Funktionen (z. B. quadratisch), die zu konservativen Unterschätzungen führen, insbesondere bei komplexen Geometrien durch Zustandsbeschränkungen.
  • Gitterbasierte numerische Methoden (Grid-based) sind für hochdimensionale Systeme rechnerisch zu teuer und liefern keine formalen Garantien aufgrund von Diskretisierungsfehlern.
  • Sum-of-Squares (SOS)-Optimierung ist auf polynomielle Systeme beschränkt.
  • Bestehende lernbasierte Ansätze (Neural Networks) berücksichtigen oft Unsicherheiten nicht explizit oder liefern keine verifizierbaren Garantien für den DOA unter Unsicherheit.

2. Methodik

Die Autoren schlagen einen neuartigen Rahmen vor, der drei Hauptkomponenten integriert: eine theoretische mengenbasierte Charakterisierung, physik-informiertes Deep Learning und formale Verifikation.

A. Theoretische Grundlage: Mengenbasierte Wertfunktionen

Anstatt Wertfunktionen auf Punkten zu definieren, werden diese auf metrischen Räumen kompakter Mengen definiert.

• Uniforme $\ell_p$-Stabilität: Das RIS wird als uniform lokal $\ell_p$-stabil angenommen (eine Verallgemeinerung von exponentieller und polynomialer Stabilität).
• Wertfunktionen ($V$ und $W$): Es werden neue Wertfunktionen eingeführt, die als unendliche Summe über die erreichbaren Mengen (Reachable Sets) definiert sind.
  • $V(X) = \sum_{k=0}^{\infty} \Psi(R(X, k))$, wobei $\Psi$ eine Funktion ist, die die Distanz zum RIS und die Verletzung von Sicherheitsgrenzen bestraft.
  • $W(X) = 1 - \exp(-V(X))$.
• Charakterisierung: Der sichere robuste DOA entspricht genau den Sublevel-Sets dieser Funktionen (d. h., $x$ gehört zum DOA, wenn $V(\{x\}) < \infty$).
• Bellman-Gleichungen: Die Autoren leiten Bellman-artige (Zubov-artige) Funktionalgleichungen für diese Wertfunktionen her. Diese Gleichungen beschreiben die Dynamik der Wertfunktionen über die erreichbaren Mengen und ermöglichen eine iterative Berechnung.

B. Physik-informiertes Neuronales Netzwerk (PINN)

Um diese Wertfunktionen in hochdimensionalen Räumen zu approximieren, wird ein neuronales Netzwerk (NN) verwendet.

• Embedding: Da die Bellman-Gleichung mengenbasierte Operatoren ($F(\{x\})$, die erreichbare Menge aus einem Punkt) enthält, wird eine Einbettung $T$ eingeführt, die Mengen (z. B. Hyper-Intervalle oder Polytope) in einen endlichdimensionalen Raum abbildet.
• Trainingsverlust: Der Verlustfunktion besteht aus zwei Teilen:
  1. Datengetrieben: Minimierung des Fehlers zwischen dem NN-Ausgang und einer approximativen Ground-Truth-Wertfunktion (berechnet über eine endliche Anzahl von Trajektorien).
  2. Physik-informiert: Minimierung des Residuums der abgeleiteten Bellman-Gleichung. Das NN wird direkt so trainiert, dass es die Funktionalgleichung erfüllt.
• Dies stellt sicher, dass das gelernte NN die zugrundeliegende Systemdynamik und Unsicherheiten respektiert.

C. Verifizierbare Schätzung (Formal Verification)

Da NN-Approximationen inhärente Fehler aufweisen, reicht das Training allein nicht für garantierte Sicherheit aus.

• Verifikationsverfahren: Es wird ein Verfahren entwickelt, das existierende formale Verifikationstools (wie $\alpha,\beta$-CROWN oder dReal) nutzt.
• Schrittweise Erweiterung:
  1. Start mit einem kleinen, bekannten sicheren ROA (z. B. einer Ellipse basierend auf einer klassischen Lyapunov-Funktion).
  2. Verifikation der Bedingung, dass das NN (als robuste Lyapunov-Funktion) innerhalb eines bestimmten Niveaus ($\omega_1$) die Sicherheitsbedingungen erfüllt und die Trajektorien in den nächsten Schritt innerhalb eines höheren Niveaus ($\omega_2$) bleiben.
  3. Durch formale Verifikation werden die Parameter $\omega_1$ und $\omega_2$ so gewählt, dass der resultierende Sublevel-Satz des NN ein zertifizierter sicherer ROA ist.

3. Wichtige Beiträge

1. Neue theoretische Charakterisierung: Einführung von Wertfunktionen auf Räumen kompakter Mengen, die den sicheren robusten DOA exakt charakterisieren, ohne restriktive Annahmen über Lipschitz-Stetigkeit oder Beschränktheit des sicheren Sets (außer Offenheit).
2. Verallgemeinerung der Stabilität: Die Methode gilt für Systeme mit uniformer $\ell_p$-Stabilität, was exponentielle und polynomialen Stabilität als Spezialfälle einschließt.
3. Physik-informiertes Lernen für Unsicherheit: Entwicklung eines Trainingsframeworks, das die Bellman-Gleichung für unsichere Systeme direkt in den Lernprozess integriert, anstatt nur nominale Dynamiken zu betrachten.
4. Zertifizierbarkeit: Einbindung formaler Verifikationstools, um aus den NN-Approximationen mathematisch garantierte Schätzungen des DOA zu gewinnen, die sowohl Sicherheit (State Constraints) als auch Robustheit (gegenüber Unsicherheiten) garantieren.
5. Überwindung von Limitierungen: Die Methode funktioniert für nicht-polynomielle Systeme und hohe Dimensionen, wo SOS-Methoden oder Gitter-basierte Ansätze versagen.

4. Ergebnisse

Die Methode wurde an vier numerischen Beispielen getestet, darunter:

• Ein gestörtes zweimodulares Stromnetz.
• Ein unsicheres nichtlineares System mit lokaler polynomialer Stabilität.
• Ein starrer Stab mit Gravitation und gesättigtem Drehmoment.
• Ein rationales unsicheres System.

Vergleich und Performance:

• Robustheit: Im Gegensatz zu nominal trainierten NNs (die Unsicherheiten ignorieren) liefert der vorgeschlagene Ansatz konsistente und zertifizierbare DOA-Schätzungen auch unter starken Unsicherheiten. Nominal trainierte NNs scheiterten in einigen Fällen an der Verifikation unter Unsicherheit.
• Größe des DOA: Der vorgeschlagene Ansatz liefert größere zertifizierbare DOAs als optimierte ellipsoide Schätzungen und Methoden, die auf parameterabhängigen Lyapunov-Funktionen basieren.
• Vergleich mit SOS: Da die Systeme nicht-polynomiell sind, waren SOS-Methoden nicht direkt anwendbar, was die Allgemeingültigkeit des Ansatzes unterstreicht.
• Rechenzeit: Die Trainings- und Verifikationszeiten sind mit bestehenden nominalen Ansätzen vergleichbar. Der Hauptkostenfaktor ist die Berechnung der erreichbaren Mengen für das Training, was jedoch durch den Trade-off zwischen Genauigkeit und Rechenaufwand handhabbar ist.

5. Bedeutung und Ausblick

Dieses Paper stellt einen bedeutenden Fortschritt in der Sicherheitsanalyse nichtlinearer unsicherer Systeme dar.

• Theoretische Tiefe: Es verbindet die klassische Theorie der Stabilität (Bellman-Gleichungen, Zubov-Methode) mit modernem Deep Learning und formaler Verifikation.
• Praktische Relevanz: Die Fähigkeit, große, sichere und robuste Anziehungsbereiche für komplexe, nicht-polynomielle Systeme zu berechnen und zu zertifizieren, ist entscheidend für den sicheren Einsatz von KI-gesteuerten Regelungssystemen in kritischen Anwendungen (z. B. Robotik, Energieversorgung, autonome Fahrzeuge).
• Zukunft: Die Autoren planen, den Ansatz auf kontinuierzeitliche Systeme, Null-Kontrollierbarkeitsregionen und effizientere Verifikationsalgorithmen zu erweitern.

Zusammenfassend bietet das Paper einen rigorosen, skalierbaren und verifizierbaren Rahmen, der die Lücke zwischen theoretischer Stabilitätsanalyse und praktischer, datengetriebener Schätzung von Sicherheitsbereichen schließt.