Predictive Zonotope Reduction: Precise Runtime Monitoring under Uncertainty

Roboter, die sich in der realen Welt bewegen, verlassen sich auf Sensoren, um ihre Umgebung zu verstehen. Diese Sensoren sind jedoch nie perfekt. Eine Kamera könnte bei Nebel Schwierigkeiten haben, oder ein Entfernungsmesser könnte aufgrund von elektrischem Rauschen flackern. Wenn ein Roboter eine Entscheidung basierend auf diesen unvollkommenen Messwerten trifft, riskiert er, eine Aktion zu unternehmen, die entweder zu vorsichtig oder gefährlich leichtsinnig ist. Um Roboter sicher zu halten, verwenden Ingenieure ein Sicherheitssystem namens Runtime-Monitor. Dieses System fungiert wie ein wachsamer Wächter, der das Verhalten des Roboters ständig gegen einen Satz von Regeln prüft, um sicherzustellen, dass er innerhalb sicherer Grenzen bleibt. Die Herausforderung liegt darin, die unsichere Position des Roboters darzustellen. Wenn der Monitor davon ausgeht, dass sich der Roboter an genau einem Punkt befindet, übersieht er möglicherweise eine Gefahr, die direkt außerhalb dieses Punktes lauert. Wenn er hingegen annimmt, dass sich der Robket überall in einem riesigen Bereich befinden könnte, wird er zu oft Alarm schlagen und den Roboter unnötigerweise stoppen lassen. Das Ziel ist es, eine Darstellung zu finden, die präzise genug ist, um nützlich zu sein, aber einfach genug, um schnell berechnet werden zu können.

Eine mathematische Form namens Zonotop ist zu einem beliebten Werkzeug für diese Aufgabe geworden. Stellen Sie sich eine Wolke möglicher Standorte für den Roboter vor, geformt wie ein gestreckter, mehrdimensionaler Ballon. Während sich der Roboter bewegt und neue Sensormesswerte erhält, wächst diese Wolke und verändert ihre Form. Das Problem ist, dass jede neue Information die Komplexität der Wolke erhöht, was die Berechnung immer schwieriger macht. Schließlich wird die Wolke so groß, dass der Computer, der den Monitor ausführt, nicht mehr mithalten kann, insbesondere wenn der Roboter auf einem kleinen, batteriebetriebenen Gerät läuft. Um dies zu lösen, müssen Ingenieure die Wolke periodisch verkleinern, einen Prozess, der als Reduktion bezeichnet wird. Sie tun dies, indem sie die komplexe Form durch eine etwas größere, einfachere Form ersetigen, die dennoch alle möglichen Standorte enthält. Der Haken dabei ist, dass es viele verschiedene Möglichkeiten gibt, diese Wolke zu verkleinern, und jede Methode ein anderes Ergebnis liefert. Einige Methoden eignen sich besser darin, die Form in bestimmten Situationen kompakt zu halten, während andere in anderen Situationen besser funktionieren. Traditionell haben Ingenieure sich für eine Methode entschieden und sind mit dieser die gesamte Reise lang gefahren, obwohl sich die beste Wahl während der Bewegung des Roboters ändert.

Forscher des CISPA Helmholtz Center for Information Security und der Technischen Universität München haben einen neuen Ansatz entwickelt, der verändert, wie diese Entscheidung getroffen wird. Anstatt an einer einzigen Methode festzuhalten, behandelt ihr System, genannt Predictive Zonotope Reduction, die Wahl der Art und Weise, wie die Wolke verkleinert wird, als eine Sequenz von Entscheidungen. Es fragt nicht nur: „Was ist der beste Weg, die Wolke jetzt zu verkleinern?“, sondern: „Was ist der beste Weg, sie jetzt und dann auch in den nächsten Schritten zu verkleinern, um die Gesamtform so kompakt wie möglich zu halten?“ Um dies zu beantworten, nutzt das System eine Technik, die aus der Robotiksteuerung entlehnt ist, bei der ein Computer einige Schritte im Voraus plant, um die Konsequenzen seiner aktuellen Handlung zu sehen. Es simuliert verschiedene Pfade und untersucht, wie jede Wahl der Verkleinerungsmethode die Form der Wolke in der nahen Zukunft beeinflussen würde. Durch das Vorausschauen kann das System eine Methode wählen, die im jetzigen Moment vielleicht nicht perfekt ist, aber die Wolke so vorbereitet, dass sie später viel genauer ist.

Das Ausführen dieser komplexen Simulationen in Echtzeit ist für viele Roboter jedoch zu langsam. Um das System für die praktische Anwendung schnell genug zu machen, haben die Forscher ein kleines Computerprogramm entwickelt, das die Entscheidungsfindung des langsamen, sorgfältigen Planers nachahmt. Sie verwendeten einen Prozess namens Policy Distillation, bei dem ein neuronales Netzwerk, das als „Schüler“ fungiert, vom „Lehrer“-Planer lernt. Das Schüler-Netzwerk muss nicht die Zukunft simulieren; es betrachtet einfach die aktuelle Form der Wolke und ordnet die verfügbaren Verkleinerungsmethoden von der besten zur schlechtesten ein. Dies ermöglicht es dem System, hochwertige Entscheidungen fast augenblicklich zu treffen. Um sicherzustellen, dass das System robust bleibt, haben sie mehrere dieser Schüler-Netzwerke zu einer Gruppe kombiniert, die über die beste Wahl abstimmt. Wenn die Gruppe unsicher ist, springt ein Backup-Planer ein, um die endgültige Entscheidung zu treffen. Diese Kombination aus Vorausschauen, Lernen aus Erfahrung und Abstimmen für die Sicherheit ermöglicht es dem System, auf sehr bescheidener Hardware, wie etwa einem Raspberry Pi 5, zu laufen, während es gleichzeitig eine hohe Präzision beibehält.

Die Forscher testeten ihr neues System an einem simulierten fünfgelenkigen Roboterarm, der sich in einer virtuellen Umgebung bewegt. Sie programmierten den Arm so, dass er sich bewegt, während seine Sensoren realistischen Fehlern ausgesetzt waren, die das Rauschen in realen Geräten imitieren. Sie ließen den Arm hunderte verschiedene Bewegungen durchführen und verglichen ihr neues dynamisches System mit älteren Methoden, die eine einzige, feste Art der Wolkenverkleinerung verwendeten. Die Ergebnisse waren beeindruckend. Das neue System reduzierte die Anzahl der Fehlalarme um eine signifikante Spanne. In den Tests lösten die alten, festen Methoden die Notwendigkeit eines Sicherheitsstopps fast 30 Prozent der Zeit aus, obwohl der Roboter tatsächlich sicher war. Das neue prädiktive System senkte diese Rate auf weniger als 2 Prozent. Das bedeutet, dass der Roboter freier und selbstbewusster agieren konnte, da er wusste, dass der Sicherheitsmonitor nicht grundlos Alarm schlug. Das System erreichte dies bei einer Geschwindigkeit von 100 Mal pro Sekunde, was schnell genug ist, um mit den rasanten Bewegungen eines echten Roboters Schritt zu halten.

Die Studie enthüllte auch etwas Überraschendes darüber, wie diese Verkleinerungsmethoden zusammenwirken. Die Forscher fanden heraus, dass die Methode, die für sich genommen am besten abschnitt, nicht immer diejenige war, die von ihrem intelligenten System am häufigsten gewählt wurde. Tatsächlich wählte das System häufig eine Methode, die allein betrachtet oft schlecht war. Dies geschah, weil das intelligente System verstand, dass die Verwendung einer anderen Methode zuerst die Wolke so umgestalten konnte, dass die „schlechte“ Methode später sehr gut funktionieren würde. Es war eine Lektion in Timing und Sequenz: Der beste Zug ist nicht immer der stärkste isoliert betrachtet, sondern derjenste, der die beste Zukunft vorbereitet. Durch das dynamische Wechseln zwischen den Methoden hielt das System die Unsicherheitswolke viel kompakter, als es eine einzelne Methode allein jemals erreichen könnte.

Diese Arbeit zeigt, dass Sicherheitssysteme für Roboter nicht statisch sein müssen. Indem Ingenieure das Management von Unsicherheit als ein dynamisches, vorausschauendes Problem behandeln, können sie Monitore schaffen, die sowohl sicherer als auch effizienter sind. Die Fähigkeit, diese fortgeschrittenen Berechnungen auf kleiner, kostengünstiger Hardware auszuführen, öffnet die Tür für mehr Roboter, die sicher in komplexen, unvorhersehbaren Umgebungen operieren können. Die Forscher zeigten, dass ein Roboter mit dem richtigen Ansatz seine eigene Unsicherheit besser verstehen kann, was zu weniger Fehlern und einer zuverlässigeren Leistung in der realen Welt führt.