NeuroStrata: Harnessing Neurosymbolic Paradigms for Improved Design, Testability, and Verifiability of Autonomous CPS

Stellen Sie sich vor, Sie bauen ein superintelligentes Roboterauto, das sich selbst durch eine chaotische Stadt navigieren muss. Im Moment verlassen sich die meisten dieser Autos auf „neuronale Netze“ – denken Sie an einen riesigen, supertalentierten, aber leicht chaotischen Künstler. Dieser Künstler ist großartig darin, ein Stoppschild oder einen Fußgänger zu erkennen, aber er arbeitet nach Bauchgefühl und Wahrscheinlichkeiten. Manchmal, wenn das Licht genau richtig auf das Schild fällt oder ein seltsames neues Objekt erscheint, könnte der Künstler verwirrt sein und sagen: „Ist das ein Stoppschild oder ein riesiger roter Donut?“ Da er nur rät, ist es schwer zu beweisen, dass das Auto niemals einen Fehler machen wird. Das ist ein großes Problem für die Sicherheit.

Hier kommt NeuroStrata ins Spiel, eine neue Idee eines Forscherteams, das einen strengen, logischen Manager geben möchte, um diesen chaotischen Künstler zu kontrollieren.

Das Problem mit dem bloßen „Raten“

Das Paper weist darauf hin, dass aktuelle selbstfahrende Systeme wie ein Team sind, bei dem sowohl das „Wahrnehmungsteam“ (die Augen) als auch das „Planungsteam“ (das Gehirn) lediglich basierend auf Mustern, die sie zuvor gesehen haben, raten. Wenn das Auto auf eine Situation stößt, die es nicht in seinen Trainingsdaten hatte – wie ein „Long Tail“-Szenario, in dem ein Bus etwas Seltsames macht – könnte es versagen. Traditionelle Werkzeuge zur Überprüfung, ob diese Systeme sicher sind, betrachten oft nur kleine, lokale Teile und übersehen dabei das große Ganze. Sie verlassen sich auf Wahrscheinlichkeiten, was bedeutet, dass sie kein hartes, unumstößliches Versprechen abgeben können, dass das Auto sicher ist.

Die NeuroStrata-Lösung: Ein Team aus Künstlern und Architekten

Die Autoren schlagen NeuroStrata vor, ein Framework, das das Beste aus zwei Welten kombiniert: das flexible Lernen von neuronalen Netzen (der Künstler) und die strikte, unbrechbare Logik der symbolischen KI (der Architekt).

Stellen Sie sich das wie eine Baustelle vor.

• Das neuronale Netz ist die Crew, die einen unordentlichen Haufen Ziegel sehen und feststellen kann: „Hey, das sieht wie eine Wand aus.“ Es ist großartig darin, mit unordentlichen Realdaten wie Kameras und LiDAR umzuge-hen.
• Das symbolische System ist der Architekt, der die Baupläne hält. Der Architekt rät nicht; er weiß zur Gewissheit, dass „eine Wand vertikal sein muss“ und „ein Auto nicht durch eine Wand fahren kann“.

NeuroStrata bringt diese beiden zusammen in einer Hierarchie. Es ist nicht nur ein großes Gehirn; es ist ein geschichtetes System:

1. Obere Ebene (Der Architekt): Diese Ebene nutzt reine Logik, um große Entscheidungen zu treffen, wie zum Beispiel: „Das Auto muss auf der Straße bleiben.“ Dieser Teil ist zu 100 % deterministisch, was bedeutet, dass er bei gleichen Regeln immer das Gleiche tut. Es ist wie ein strenges Regelwerk, das mathematisch als sicher bewiesen werden kann.
2. Mittlere und untere Ebene (Die Crew): Diese Schichten nutzen die neuronalen Netze, um die unordentlichen Details zu handhaben, wie zum Beispiel: „Ist das ein Fußgänger oder eine Plastiktüte?“ Aber hier ist der Clou: Der Architekt überprüft ständig die Arbeit der Crew. Wenn die Crew sagt: „Das ist ein Fußgänger“, prüft der Architekt die Regeln: „Ist ein Fußgänger mitten in der Kreuzung erlaubt?“ Wenn die Vermutung der Crew gegen die Regeln verstögt, fängt das System dies ab.

Wie es lernt und sich anpasst

Der coolste Teil ist, wie sie miteinander kommunizieren. Es ist eine Einbahnstraße in beide Richtungen.

• Top-Down: Der Architekt gibt der Crew strikte Anweisungen. „Fahre nicht durch rote Ampeln.“
• Bottom-Up: Wenn die Crew etwas Neues sieht (wie einen Bus, der einen seltsamen Tanz aufführt), kann sie die Regeln des Architekten vor Ort aktualisieren. Das System nutzt eine Technik namens „differenzierbare Programm-Induktion“, was eine schicke Art zu sagen ist, dass der Roboter sein eigenes Regelbuch leicht umschreiben kann, um neue Situationen zu bewältigen, ohne seine Sicherheitsgarantien zu verlieren.

Was sie tatsächlich getan haben (und was nicht)

Die Autoren behaupten nicht, dass sie ein perfektes, selbstfahrendes Auto gebaut haben, das man morgen kaufen kann. Sie befinden sich noch in der Phase der „frühen Ergebnisse“.

Sie führten ein spezielles Experiment namens LASER durch, um zu sehen, ob diese Idee funktioniert. Sie trainierten ein neuronales Netz, um Videoszenen zu verstehen, aber diesmal zeigten sie ihm nicht nur Bilder; sie zwangen es, strikte logische Regeln zu befolgen, die in „temporaler Logik“ (einer Sprache zur Beschreibung von Ereignissen über die Zeit) geschrieben sind.

• Das Ergebnis: In ihren Tests verbesserte diese neue Methode die Fähigkeit des Roboters, Beziehungen zwischen Objekten vorherzusagen. Beispielsweise erreichte es auf einem Datensatz namens OpenPVSG einen Recall@10-Wert von 53,98 %. Das klingt technisch, bedeutet aber, dass es 30,55 % besser war als die alten, voll überwachten Methoden darin, zu erraten, wie Objekte miteinander in Beziehung stehen.
• Der Haken: Sie testeten es auch auf einem massiven Datensatz von 87.000 Video-Bildunterschrift-Paaren. Als sie versuchten, das Modell auf neuen, ungesehenen Daten anzuwenden, schnitt es fast genauso gut ab, wie es auf den Daten, mit denen es trainiert wurde (ein Unterschied von nur -0,52 %). Dies deutet darauf hin, dass das System gut generalisiert, aber denken Sie daran, dass dies immer noch eine Simulation und eine spezifische Fallstudie ist, kein vollumfänglicher Einsatz in der realen Welt.

Der Weg nach vorn

Das Paper skizziert einen Sechs-Schritte-Plan, um dies real werden zu lassen. Sie wollen:

1. KI verwenden, um mehr seltsame „Edge-Case“-Trainingsdaten zu generieren (wie einen Bus, der auf dem Gehweg fährt), damit der Roboter lernt, mit dem Unerwarteten umzugehen.
2. Spezielle Sprachen (DSLs) entwickeln, die Ingenieure nutzen können, um diese Sicherheitsregeln leicht zu schreiben.
3. Werkzeuge bauen, die die Arbeit des Roboters in Echtzeit überprüfen können, während er fährt.
4. Schließlich von Computersimulationen (wie dem Spiel CARLA) zu echten Autos, Drohnen und Robotern übergehen.

Sie arbeiten derzeit mit Industriepartnern zusammen und planen Seminare, um dies zu verwirklichen, aber für den Moment ist NeuroStrata ein vielversprechender Entwurf. Es legt nahe, dass wir, indem wir unserer KI einen strengen logischen Manager zur Überwachung ihrer kreativen Vermutungen geben, endlich in der Lage sein könnten, autonome Systeme zu bauen, die nicht nur intelligent, sondern wirklich sicher und vertrauenswürdig sind. Das Paper deutet an, dass dies der Weg nach vorn ist, aber die Reise von einer „vielversprechenden Idee“ zu einem „gelösten Problem“ ist noch unter Konstruktion.