Collaborative Altruistic Safety in Coupled Multi-Agent Systems

Titel: Collaboratieve Altruïstische Veiligheid in Gekoppelde Multi-Agent Systemen

Auteurs: Brooks A. Butler, Xiao Tan, Aaron D. Ames, en Magnus Egerstedt.

1. Probleemstelling

De veiligheid van multi-agent systemen (zoals robotzwermen of cyber-fysieke systemen) is een complex vraagstuk, vooral wanneer agenten dynamisch gekoppeld zijn. In dergelijke systemen beïnvloeden de beslissingen van naburige agenten elkaars dynamiek en veiligheid.

• Uitdaging: Traditionele veiligheidsbenaderingen gebruiken vaak een globale veiligheidsdoelstelling of losse, individuele veiligheidsbeperkingen. Echter, wanneer agenten individuele veiligheidsrandvoorwaarden hebben maar onderhevig zijn aan koppelingskrachten van buren (bijv. formatiebehoud versus obstakelontwijken), kan het voldoen aan alle lokale beperkingen tegelijkertijd leiden tot onhaalbare oplossingen (infeasibility).
• Kernvraag: Hoe kunnen agenten samenwerken om de algehele veiligheid van het systeem te waarborgen, zelfs als dit betekent dat een agent tijdelijk zijn eigen veiligheidsmarge opoffert om een kritieker buur te redden?

2. Methodologie

De auteurs ontwikkelen een raamwerk dat ecologische principes van altruïsme combineert met geavanceerde regeltechnieken voor veiligheid.

A. Gekoppelde Veiligheidscondities (CCBF)

Het paper bouwt voort op Control Barrier Functions (CBF). Voor dynamisch gekoppelde systemen introduceren ze Collaborative Control Barrier Functions (CCBF).

• Dynamiek: Het systeem wordt gemodelleerd als $\dot{x}_i = f_i(x_i, x_{N_i^+}) + g_i(x_i)u_i$, waarbij de dynamiek van agent $i$ afhangt van zijn eigen toestand en die van zijn buren.
• Hoog-orde CBF: Om de invloed van buren te modelleren, wordt een tweede-orde CBF-candidaat $h_i^+$ geformuleerd. Dit houdt rekening met de afgeleiden van de veiligheidsfunctie, inclusief de bijdrage van de ingang van buren.
• Distributie: De veiligheidsvoorwaarde wordt vertaald naar een lokaal oplosbaar optimalisatieprobleem. Agenten communiceren met hun 2-hop buren om een gedistribueerde oplossing te vinden die voldoet aan de globale veiligheidsvereisten.

B. Altruïstische Veiligheid en Hamilton's Regel

Het centrale innovatieve element is de introductie van altruïstische veiligheid, geïnspireerd door de ecologische Hamilton's Rule ($r_{ij}B_j \geq C_i$).

• Veiligheidsgerelateerdheid ($r_{ij}$): In plaats van genetische verwantschap, definiëren de auteurs een "veiligheidsgerelateerdheid" gebaseerd op de veiligheidskritikaliteit van een agent.
  • Een agent krijgt een gewicht $w_i$ dat toeneemt naarmate hij dichter bij zijn veiligheidsgrens komt (bepaald door $h_i(x_i)$).
  • $r_{ij} = w_j / w_i$. Als agent $i$ veel kritieker is dan agent $j$, is $r_{ij}$ klein, wat betekent dat agent $j$ bereid moet zijn risico's te nemen voor $i$.
• Altruïstische Voorwaarde: Agent $i$ mag zijn eigen veiligheidsbeperkingen verzwakken als de som van de voordelen voor zijn buren (gewogen naar hun kritikaliteit) groter is dan zijn eigen kosten:
  $$\sum_{j \in N_i^-} r_{ij} B_{ij}(u_i) \geq C_i(u_i)$$
  Hierbij is $C_i$ de kosten voor agent $i$ en $B_{ij}$ het voordeel voor buur $j$.

C. Gedistribueerde Optimalisatie

De methode wordt geïmplementeerd via een gedistribueerd kwadratisch optimalisatieprobleem.

• Standaardaanpak: Minimaliseer de afwijking van de nominale input onder de CCBF-beperkingen.
• Altruïstische aanpak: Voeg de altruïstische lineaire ongelijkheid (afgeleid van Hamilton's regel) toe aan de constraints van het optimalisatieprobleem.
• Resultaat: Dit creëert een nieuw verzameling van haalbare veilige acties ($U_i^a$) die groter is dan de standaard verzameling ($U_i^s$) voor agenten met hoge prioriteit, mits hun buren bereid zijn om "altruïstisch" te handelen.

3. Belangrijkste Bijdragen

1. Verbeterde CCBF Synthese: De auteurs verbeteren de bestaande methoden voor het synthetiseren van collaboratieve CBF-condities voor dynamisch gekoppelde systemen met lokaal gedefinieerde veiligheidsbeperkingen. Ze tonen aan dat dit probleem oplosbaar is binnen bestaande gedistribueerde optimalisatiekaders.
2. Altruïstisch Veiligheidsraamwerk: Ze introduceren een nieuw concept waarbij agenten hun eigen veiligheidsmarges opofferen om kritieker buren te ondersteunen, gebaseerd op een dynamisch berekende "veiligheidsgerelateerdheid".
3. Verhoogde Haalbaarheid: Wiskundig wordt aangetoond (via Theorema 1) dat het opnemen van altruïstische condities de verzameling van haalbare veilige acties vergroot voor agenten met hoge veiligheidsprioriteit, zonder de veiligheid van het totale systeem te compromitteren.

4. Resultaten en Simulaties

De effectiviteit wordt aangetoond via simulaties in een vereenvoudigd formatiecontrolescenario (twee agenten met 1D-dynamiek).

• Scenario: Agenten moeten binnen een veilige straal blijven terwijl ze door koppelingskrachten (formatiebehoud) worden geduwd naar de onveilige zone.
• Vergelijking:
  • Standaard CCBF: Zonder altruïsme kunnen de agenten conservatief reageren, wat leidt tot een grotere afstand tot de veiligheidsgrens of onhaalbaarheid als de druk te groot wordt.
  • Altruïstische CCBF: In de simulatie wordt agent 2 als kritieker gedefinieerd ($\eta_2 \gg \eta_1$). Agent 1 past zijn beweging aan (offert zijn eigen marge op) om agent 2 veilig te houden.
• Observatie: De altruïstische aanpak resulteert in een grotere verzameling van haalbare veilige acties voor de kritieke agent (agent 2). De simulatie toont aan dat beide agenten veilig blijven, maar dat het systeem flexibeler reageert op bedreigingen door de samenwerking.

5. Betekenis en Toekomstperspectief

Dit paper biedt een fundamentele verschuiving in hoe veiligheid in multi-agent systemen wordt benaderd: van strikte individuele of globale optimalisatie naar een contextuele, relationele veiligheid.

• Significantie: Het lost het probleem van onhaalbaarheid op in complexe, gekoppelde systemen door een mechanisme te bieden waarbij agenten "samenwerken" om de kritiekste knopen in het netwerk te beschermen.
• Toepassingen: Hoewel getest op formatiecontrole, is het raamwerk toepasbaar op complexe domeinen zoals slimme netwerken (smart grids), autonome voertuigen in druk verkeer, en grote cyber-fysieke systemen waar falen van één kritieke component catastrofaal kan zijn.

Samenvattend stelt dit paper een wiskundig onderbouwd, biologisch geïnspireerd raamwerk voor dat de robuustheid en haalbaarheid van veiligheidsregeling in multi-agent systemen aanzienlijk verbetert door altruïstisch gedrag te formaliseren.