NeuroStrata: Harnessing Neurosymbolic Paradigms for Improved Design, Testability, and Verifiability of Autonomous CPS

Stel je voor dat je een super-slimme robotauto bouwt die zichzelf door een chaotische stad moet leiden. Op dit moment vertrouwen de meeste van deze auto's op "neurale netwerken" — denk aan deze als een gigantische, supergetalenteerde maar lichtelijk chaotische kunstenaar. Deze kunstenaar is geweldig in het herkennen van een stopbord of een voetganger, maar het werkt op basis van onderbuikgevoel en waarschijnlijkheid. Soms, als het licht precies zo op het bord valt, of als er een vreemd nieuw object verschijnt, kan de kunstenaar in de war raken en zeggen: "Is dat een stopbord of een gigantische rode donut?" Omdat het gokt, is het moeilijk te bewijzen dat de auto 10 de kans heeft om nooit een fout te maken. Dat is een groot probleem voor de veiligheid.

Maak kennis met NeuroStrata, een nieuw idee van een team onderzoekers die een strikte, logische manager willen geven aan die chaotische kunstenaar.

Het probleem met alleen maar "gokken"

Het artikel wijst erop dat huidige zelfrijdende systemen lijken op een team waar zowel het "perceptie"-team (de ogen) als het "planning"-team (het brein) simpelweg gokken op basis van patronen die ze eerder hebben gezien. Als de auto een situatie tegenkomt die hij niet eerder in zijn trainingsdata is tegengekomen — zoals een "long tail"-scenario waarbij een bus iets vreemds doet — kan het systeem falen. Traditionele hulpmiddelen om te controleren of deze systemen veilig zijn, kijken vaak alleen naar kleine, lokale onderdelen, waardoor het grote plaatje wordt gemist. Ze vertrouwen op waarschijnlijkheid, wat betekent dat ze geen harde, ijzersterke belofte kunnen doen dat de auto veilig is.

De NeuroStrata-oplossing: Een team van kunstenaars en architecten

De auteurs stellen NeuroStrata voor, een framework dat het beste van twee werelden combineert: het flexibele leervermogen van neurale netwerken (de kunstenaar) en de strikte, onbreekbare logica van symbolische AI (de architect).

Denk aan een bouwplaats.

• Het Neurale Netwerk is de ploeg die naar een rommelige stapel bakstenen kan kijken en kan concluderen: "Hé, dat ziet eruit als een muur." Het is geweldig in het omgaan met rommelige, echte wereldgegevens zoals camera's en LiDAR.
• Het Symbolische Systeem is de architect die de blauwdrukken vasthoudt. De architect gokt niet; hij weet met zekerheid dat "een muur verticaal moet zijn" en "een auto niet door een muur kan rijden."

NeuroStrata brengt deze twee samen in een hiërarchie. Het is niet zomaar één groot brein; het is een gelaagd systeem:

1. Hoog niveau (De Architect): Deze laag gebruikt pure logica om grote beslissingen te nemen, zoals "De auto moet op de weg blijven." Dit deel is 100% deterministisch, wat betekent dat het altijd hetzelfde doet bij dezelfde regels. Het is als een strikt regelboek dat wiskundig bewezen kan worden als veilig.
2. Midden- en laag niveau (De Ploeg): Deze lagen gebruiken de neurale netwerken om de rommelige details af te handelen, zoals "Is dat een voetganger of een plastic zak?" Maar hier komt de crux: de Architect controleert voortdurend het werk van de Ploeg. Als de Ploeg zegt: "Dat is een voetganger," controleert de Architect de regels: "Is een voetganger toegestaan in het midden van de kruising?" Als de gok van de Ploeg de regels overtreedt, vangt het systeem dit op.

Hoe het leert en zich aanpast

Het coolste deel is hoe ze met elkaar communiceren. Het is een tweerichtingsverkeer.

• Top-down: De Architect geeft de Ploeg strikte instructies. "Rijd niet door rode lichten heen."
• Bottom-up: Als de Ploeg iets nieuws ziet (zoals een bus die een vreemde dans uitvoert), kan het de regels van de Architect ter plekke bijwerken. Het systeem gebruikt een techniek genaamd "differentiable program induction", wat een chique manier is om te zeggen dat de robot zijn eigen regelboek lichtjes kan herschrijven om nieuwe situaties aan te pakken zonder de veiligheidsgaranties te verliezen.

Wat ze daadwerkelijk hebben gedaan (en wat niet)

De auteurs beweren niet dat ze een perfecte zelfrijdende auto hebben gebouwd die je morgen kunt kopen. Ze bevinden zich nog in de fase van "vroege resultaten".

Ze voerden een specifiek experiment uit genaamd LASER om te zien of dit idee werkt. Ze trainden een neuraal netwerk om videoscènes te begrijpen, maar dit keer lieten ze het niet alleen naar plaatjes kijken; ze dwongen het om strikte logische regels te volgen die geschreven zijn in "temporal logic" (een taal voor het beschrijven van gebeurtenissen in de tijd).

• Het resultaat: In hun tests verbeterde deze nieuwe methode het vermogen van de robot om relaties tussen objecten te voorspellen. Bijvoorbeeld, op een dataset genaamd OpenPVSG behaalde het een 53.98% Recall@10 score. Dat klinkt technisch, maar het betekent dat het 30.55% beter was dan de oude, volledig gesuperviseerde methoden in het raden hoe objecten zich tot elkaar verhouden.
• De adder onder het gras: Ze testten het ook op een enorme dataset van 87.000 video-caption paren. Wanneer ze probeerden het model te gebruiken op nieuwe, ongeziene data, presteerde het bijna even goed als op de data waarop het getraind was (een verschil van slechts -0.52%). Dit suggereert dat het systeem goed is in generaliseren, maar onthoud: dit is nog steeds een simulatie en een specifieke casus, geen grootschalige implementatie in de echte wereld.

De weg vooruit

Het paper schetst een zesstappenplan om dit werkelijkheid te maken. Ze willen:

1. AI gebruiken om meer vreemde "edge-case" trainingsdata te genereren (zoals een bus die op de stoep rijdt), zodat de robot leert omgaan met het onverwachte.
2. Speciale talen (DSL's) creëren die ingenieurs kunnen gebruiken om deze veiligheidsregels gemakkelijk te schrijven.
3. Tools bouwen die het werk van de robot in realtime kunnen controleren terwijl hij rijdt.
4. Eindelijk overstappen van computersimulaties (zoals het spel CARLA) naar echte auto's, drones en robots.

Ze werken momenteel samen met industriële partners en plannen seminars om dit van de grond te krijgen, maar voorlopig is NeuroStrata een veelbelovend blauwdruk. Het suggereert dat door onze AI een strikte logische manager te geven die over zijn creatieve gokjes waakt, we eindelijk autonome systemen kunnen bouwen die niet alleen slim zijn, maar ook echt veilig en betrouwbaar. Het paper suggereert dat dit de weg vooruit is, maar de reis van "veelbelovend idee" naar "opgelost probleem" is nog volop in aanbouw.