⚡ electrical engineering

Inverse Safety Filtering: Inferring Constraints from Safety Filters for Decentralized Coordination

Deze paper introduceert een online methode voor decentrale multi-agent coördinatie die veiligheidsbeperkingen van andere agenten infereert door hun gefilterde acties te observeren, wat het mogelijk maakt om veilig samen te werken zonder dure communicatiekanalen.

Oorspronkelijke auteurs: Minh Nguyen, Jingqi Li, Gechen Qu, Claire J. Tomlin

Gepubliceerd 2026-04-06

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Minh Nguyen, Jingqi Li, Gechen Qu, Claire J. Tomlin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je met een groep vrienden een zware bank door een smal gangpad moet dragen. Je ziet de obstakels (zoals een kaptafel of een muur), maar je vriend aan de andere kant van de bank ziet ze niet. In een ideale wereld zou je tegen hem schreeuwen: "Pas op, links is een muur!" Maar wat als jullie geen praten kunnen? Of wat als de verbinding slecht is?

Dit is precies het probleem dat deze wetenschappelijke paper oplost, maar dan met robots.

Hier is een simpele uitleg van wat ze hebben bedacht, vertaald naar alledaags taal:

1. Het Grote Geheim: "Ik beweeg anders, dus er is iets in de weg"

Normaal gesproken sturen robots hun commando's naar elkaar: "Ga naar punt A." Maar in deze paper laten de robots elkaar niet vertellen waar de obstakels zijn. In plaats daarvan kijken ze naar hoe de andere robot beweegt.

Stel je voor dat je vriend de bank draagt. Plotseling maakt hij een kleine, zachte bocht naar rechts, terwijl hij eigenlijk rechtuit wilde gaan.

Jouw gedachte: "Hé, hij wilde rechtuit, maar hij boog af. Dat betekent dat er iets in de weg zit dat hij niet wil raken."
De robot: De robot kijkt naar de "veiligheidsfilter" van zijn vriend. Dit is een onzichtbare regelaar die de robot dwingt om veilig te blijven. Als de robot zijn plan moet aanpassen om veilig te blijven, ziet de andere robot die aanpassing en kan hij terugrekenen waar het obstakel moet zitten.

Het is alsof je naar iemands voetstappen kijkt en kunt zeggen: "Ah, hij is hier een beetje omgedraaid, dus daar moet een pootje van een stoel staan."

2. De Wiskundige "Magie" (Maar dan simpel)

De auteurs gebruiken een slimme wiskundige truc. Ze weten precies hoe de "veiligheidsregels" van de robots werken.

Stap 1: Ze kijken naar het verschil tussen wat de robot wilde doen en wat hij moest doen.
Stap 2: Ze gebruiken een formule (een soort wiskundig spiegelbeeld) om te berekenen: "Als de robot hier een bocht maakte om veilig te blijven, dan moet het obstakel hier staan."

Ze hebben bewezen dat dit werkt, zelfs als er meerdere obstakels zijn of als de robots in een groepje (formatie) lopen. Het is alsof je een puzzel oplost waarbij je alleen de randen ziet, maar toch de hele afbeelding kunt reconstrueren.

3. Het "Wisselstelsel" (Wie vertelt wie?)

In een groep van veel robots is het lastig als iedereen tegelijkertijd probeert te raden wat de ander ziet. Dus hebben ze een slim systeem bedacht: De Ronde Tafel.

Op moment 1 is Robot A de "leermeester" (hij weet waar de obstakels zijn) en Robot B is de "leerling".
Robot A loopt en maakt zijn bochten. Robot B kijkt toe en leert: "Oké, daar zit een muur."
Op moment 2 wisselen ze van rol. Nu is Robot B de leermeester (misschien heeft hij een nieuw obstakel gezien) en Robot A de leerling.

Zo leren ze elkaar constant bij, zonder ooit een woord te hoeven spreken.

4. Wat hebben ze getest?

Ze hebben dit niet alleen op papier uitgeschreven, maar ook echt gedaan:

In de computer: Ze lieten honderden robots in een virtuele wereld spelen. De robots die deze nieuwe methode gebruikten, botsten bijna nooit en leerden snel waar de obstakels waren.
In het echt: Ze deden het met twee echte hond-achtige robots (quadrupeds) van het merk Unitree.
- De ene robot wist waar de muren waren.
- De andere robot wist het niet.
- De robot die het niet wist, keek naar de bewegingen van de eerste robot en kon zo veilig door een smalle doorgang lopen zonder te botsen.

Waarom is dit belangrijk?

Vroeger moesten robots met elkaar praten om veilig te zijn. Als de verbinding wegviel, was het gevaarlijk. Met deze methode kunnen robots onafhankelijk van elkaar veilig samenwerken, zelfs als ze elkaar niet kunnen horen. Ze "lezen" elkaars gedrag als een boek.

Kort samengevat:
Deze paper laat zien hoe robots door naar elkaars voetstappen te kijken, elkaars geheimen (obstakels) kunnen ontdekken. Het is een manier om samen te werken zonder te hoeven praten, gebaseerd op het slimme principe: "Als je uitwijkt, weet ik waar het gevaar zit."

Titel

Inverse Safety Filtering: Het Afleiden van Beperkingen uit Veiligheidsfilters voor Gedecentraliseerde Coördinatie

1. Probleemstelling

Veilige coördinatie van multi-agent systemen (bijv. robotteams) in onzekere omgevingen is een uitdaging, vooral wanneer communicatiekanalen beperkt, onbetrouwbaar of afwezig zijn. Traditionele centrale planning is vaak onpraktisch door bandbreedtebeperkingen en rekenkundige bottlenecks. Gedecentraliseerde planning lost dit op, maar introduceert het probleem van asymmetrische informatie: agenten hebben verschillende kennis over de omgeving (bijv. sommige agenten kennen obstakels, anderen niet).

De kernvraag is: Hoe kunnen gedecentraliseerde agenten veilig coördineren zonder expliciete communicatie en met onvolledige informatie?
Bestaande methoden gaan vaak ervan uit dat agenten de beperkingen van teamgenoten al kennen, of ze vereisen offline demonstraties (zoals Inverse Reinforcement Learning). Er is een gebrek aan methoden die online, modelgebaseerd beperkingen kunnen afleiden uit de acties van andere agenten.

2. Methodologie

Het paper introduceert een methode om beperkingen (zoals obstakelposities) te infereren door te kijken naar hoe andere agenten hun nominale besturing aanpassen via Safety Filters gebaseerd op Control Barrier Functions (CBF).

A. Het Inverse Probleem

In plaats van een agent te laten plannen op basis van bekende beperkingen, observeert een "lerende" agent de afwijking ( $\Delta u$ ) tussen de nominale besturing ( $u_{nom}$ ) en de veilig gefilterde besturing ( $u_{safe}$ ) van een "demonstrerende" agent. Deze afwijking wordt veroorzaakt door de activering van een veiligheidsbeperking.

B. Afleiding van Beperkingen (Inversie)

De auteurs benutten de optimaliteitsvoorwaarden (KKT-voorwaarden) van het veiligheidsfilter om de beperkingen terug te rekenen:

Enkele Actieve Beperking (Obstakels): Als er slechts één CBF-beperking actief is (bijv. obstakelvermijding), leiden de auteurs een gesloten-formule oplossing af voor de parameter van de beperking (bijv. de positie van een obstakel $\theta$ ). Dit is mogelijk omdat de gradiënt van de kwadratische barrière direct gerelateerd is aan de besturingsafwijking.
Meerdere Actieve Beperkingen: Wanneer zowel obstakelvermijding als formatiebehoud (formation keeping) tegelijkertijd actief zijn, wordt het systeem onderbepaald. Hiervoor ontwikkelen ze een wiskundig bewezen convergerende Newton-solver (gebaseerd op geregulariseerde kleinste-kwadraten) om de parameters numeriek te schatten.

C. Gedecentraliseerde Coördinatie Framework

Om dit in een multi-agent setting toe te passen zonder communicatie, gebruiken ze een Round-Robin-framework:

Op elk tijdstip fungeert één agent als "demonstrator" en de rest als "leerders".
De demonstrator handelt op basis van zijn privé-informatie (obstakels).
De leerders observeren de acties van de demonstrator, leiden de beperkingen af en voegen deze toe aan hun eigen veiligheidsset.
Veiligheidsgarantie: Het paper bewijst dat als de demonstrator een "opgeblazen" veiligheidsstraal gebruikt (die rekening houdt met de formatieafstand), de leerders altijd veilig blijven, zelfs voordat ze de beperking hebben afgeleid.

D. Robuustheid voor Bewegende Obstakels

Voor bewegende obstakels (of andere teams) wordt een Robuuste CBF gebruikt. Dit houdt rekening met de worst-case snelheid van het obstakel door de veiligheidsstraal te vergroten met $\Delta t \cdot v_{max}$ , waardoor de agenten veilig kunnen navigeren zonder de exacte snelheid van het obstakel te kennen.

3. Belangrijkste Bijdragen

Bewezen Convergentie: Een methode om beperkingen af te leiden uit veiligheidsfilters die wiskundig bewezen convergeert naar de ware beperking, mits de activeringsafstand voldoende groot is.
Generalisatie: Uitbreiding van de inferentiemethode naar filters met meerdere actieve beperkingen (obstakels + formatie) via een Newton-solver.
Gedecentraliseerd Framework: Een complete planning- en inferentiestructuur die veilige samenwerking mogelijk maakt zonder directe communicatie, inclusief formele veiligheidsgaranties.
Hardware Validatie: Succesvolle implementatie op echte hardware (Unitree Go2 viervoeters), wat de real-time toepasbaarheid bewijst.

4. Resultaten

De methode is gevalideerd via Monte Carlo-simulaties en hardware-experimenten:

Simulaties:
- De voorgestelde KKT-methode (gesloten-formule) en Newton-solver presteerden aanzienlijk beter dan bestaande methoden zoals "Input Matching" (IM) en niet-CBF cirkelvormige beperkingen.
- Kwaliteit: De KKT-methode bereikte een 90% succesrate in het ontdekken van obstakels (tegenover 0-19% voor baselines) met een verwaarloosbare inferentiefout.
- Veiligheid: Er waren bijna geen botsingen (0.1 ± 0.6) in vergelijking met andere methoden die vaak faalden.
- Convergentiegebied: De Newton-methode heeft een groot convergentiegebied, wat betekent dat hij robuust is tegenover initiële schattingen, terwijl baselines vaak divergeren.
Hardware Experimenten (Viervoeters):
- Twee Unitree Go2 robots navigeerden succesvol rond obstakels en door nauwe doorgangen.
- De voorste robot (die niets wist van obstakels) leerde deze in real-time af uit de bewegingen van de achterste robot (die de obstakels kende).
- De systemen handhaafden formatie en vermijden botsingen zonder communicatie.

5. Betekenis en Impact

Dit werk is significant omdat het een brug slaat tussen veiligheidskritieke controle (CBF) en online leerprocessen in een gedecentraliseerde setting.

Communicatievrij: Het elimineert de noodzaak voor dure of onbetrouwbare communicatiekanalen, wat essentieel is voor zwermen van robots in ruwe omgevingen.
Veiligheid: Het biedt formele garanties dat agenten veilig blijven, zelfs tijdens het leerproces.
Scalabiliteit: De methode schaalbaar naar grotere teams en complexe scenario's met bewegende obstakels.

Kortom, het paper toont aan dat agenten niet alleen veilig kunnen handelen, maar ook actief kunnen "leren" van de veiligheidsbeslissingen van hun teamgenoten, wat leidt tot robuustere en efficiëntere multi-agent systemen.