⚡ electrical engineering

Learning Probabilistic Responsibility Allocations for Multi-Agent Interactions

Deze paper introduceert een methode om een probabilistisch model te leren dat de toewijzing van verantwoordelijkheid tussen meerdere agenten voorspelt door gebruik te maken van een conditionele variatie-automatische encoder en een differentieerbare optimalisatielaag, waardoor inzicht wordt verkregen in sociaal conform gedrag op het INTERACTION-dataset.

Oorspronkelijke auteurs: Isaac Remy, Caleb Chang, Karen Leung

Gepubliceerd 2026-04-16

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Isaac Remy, Caleb Chang, Karen Leung

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je in een drukke supermarkt loopt. Iedereen heeft een doel: jij wilt naar de melk, de ander naar de broodjes. Maar jullie moeten ook veilig langs elkaar heen lopen zonder te botsen.

Soms laat jij even je karretje zakken zodat iemand anders kan passeren. Soms doet die ander dat voor jou. Soms wachten jullie allebei even af. De vraag is: wie is er eigenlijk "verantwoordelijk" om even een stapje terug te doen?

Dit is precies waar dit wetenschappelijke artikel over gaat. De onderzoekers (van de Universiteit van Washington en NVIDIA) hebben een slimme manier bedacht om te leren hoe mensen in interactie met elkaar beslissen wie er moet wijken. Ze noemen dit het leren van "waarschijnlijke verantwoordelijkheidsverdelingen".

Hier is een uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Egoïstische" Auto

Stel je een zelfrijdende auto voor die alleen maar naar zijn eigen doel kijkt. Hij wil zo snel mogelijk naar huis. Als er een ander voertuig aankomt, botst hij misschien, omdat hij niet begrijpt dat hij soms even moet wachten.

Mensen doen dit niet. We hebben een ongeschreven regelboekje in ons hoofd: "Ik laat deze bus even passeren omdat hij zwaar is," of "Ik rem af omdat die fietser er onzeker uitziet." We delen de verantwoordelijkheid voor veiligheid.

De onderzoekers willen dat computers dit ook leren. Maar het is lastig, want mensen doen niet altijd hetzelfde. Soms wijkt de ene auto, soms de andere. Het is onzeker en veelzijdig.

2. De Oplossing: Een "Magische Koffer" (De CVAE)

Om dit te leren, gebruiken ze een soort kunstmatige intelligentie die ze een CVAE noemen. Laten we dit vergelijken met een magische koffer of een chefs receptenboek.

De Invoer (De Situatie): De computer kijkt naar de situatie (de "scène"): waar staan de auto's, hoe snel gaan ze, wie komt er aan?
De Magische Koffer (Het Latente Ruimte): In plaats van één vast antwoord te geven ("Auto A moet remmen"), heeft de computer een koffer vol met mogelijke antwoorden.
- Vergelijking: Stel je voor dat je een kok bent. Je hebt een recept (de situatie). In plaats van één gerecht te koken, heb je een koffer met ingrediënten. Je kunt kiezen: maak je een soep (Auto A remt hard) of een salade (Auto B remt zachtjes)? Beide zijn goede antwoorden, afhankelijk van de sfeer.
De Output (De Verantwoordelijkheid): De computer haalt een "recept" uit de koffer. Dit recept vertelt elke auto hoeveel hij moet afwijken van zijn eigen plan om veilig te blijven. Dit noemen ze de verantwoordelijkheidsverdeling.

3. Hoe Leren Ze Dit Zonder Antwoorden?

Het grootste probleem is: we hebben geen lijstje met de "juiste" verantwoordelijkheid. We zien alleen wat de auto's doen (hun beweging), niet wat ze voelden of beslisten.

De onderzoekers gebruiken een slimme truc, vergelijkbaar met het raden van een puzzel door het eindresultaat te bekijken:

De computer gokt een "verantwoordelijkheids-recept" (bijv. "Auto A is 80% verantwoordelijk, Auto B is 20%").
Hij simuleert: "Als we dit recept volgen, hoe bewegen de auto's dan?"
Hij kijkt of die beweging lijkt op wat er in de echte wereld is gebeurd (de data).
Als het niet klopt, past hij het recept aan.

Het is alsof je probeert te raden welke ingrediënten een kok heeft gebruikt door te proeven van het eindgerecht. Je ziet niet het recept, maar je kunt wel afleiden wat er in moet hebben gezeten om dat resultaat te krijgen.

4. Wat Vonden Ze? (De Resultaten)

Ze testten dit op echte data van verkeerssituaties (een dataset genaamd INTERACTION).

Het werkt: De computer leert dat in sommige situaties de ene auto meer moet wijken dan de andere, en dat dit verandert naarmate de situatie verandert.
Het is voorspelbaar maar flexibel: De computer kan meerdere mogelijke uitkomsten zien (multimodaal). Hij begrijpt dat er niet één juiste manier is om te rijden, maar een paar goede manieren.
Interessant inzicht: In een test met drie auto's op een kruising zag de computer precies wat een mens ook zou denken:
- De auto die als eerste aankwam, had minder "verantwoordelijkheid" om te wijken (hij kon gewoon doorrijden).
- De auto die later aankwam, had meer "verantwoordelijkheid" om te wachten.
- De computer zag zelfs dat de verantwoordelijkheid kon "wippen" (soms wijkt de ene, soms de andere), net als bij mensen.

Samenvatting in één zin

Dit artikel laat zien hoe we computers kunnen leren om niet alleen te kijken naar hun eigen doel, maar om een intuïtief gevoel te ontwikkelen voor wie er in een drukke situatie even moet wijken, zodat ze veilig en beleefd met elkaar kunnen omgaan, net als mensen in een supermarkt.

Het is een stap richting zelfrijdende auto's die niet alleen slim zijn, maar ook sociaal.

Titel: Het Leren van Probabilistische Verantwoordelijkheidsallocaties voor Multi-Agent Interacties

Auteurs: Isaac Remy, Caleb Chang, en Karen Leung (Universiteit van Washington en NVIDIA).

1. Probleemstelling

Bij het ontwerpen van mensgerichte autonome systemen (zoals zelfrijdende auto's) is het niet voldoende om menselijk gedrag alleen te voorspellen; men moet ook begrijpen hoe mensen met elkaar interageren. Menselijk gedrag wordt niet alleen bepaald door individuele doelen, maar ook door gedeelde beperkingen (zoals veiligheid) en sociale normen.

De kernvraag is: Hoe verdelen mensen de "verantwoordelijkheid" onder elkaar? Dit wordt gedefinieerd als de mate waarin een agent afwijkt van zijn gewenste gedrag (bijv. zijn gewenste snelheid of koers) om de veiligheid van anderen te waarborgen.

Bestaande methoden gebruiken vaak deterministische modellen die één vaste verantwoordelijkheid toekennen. Dit is echter ontoereikend omdat menselijk gedrag multimodaal is (er zijn meerdere geldige manieren om een situatie op te lossen) en contextafhankelijk. Er is geen "ground truth" (ware waarde) voor verantwoordelijkheid beschikbaar in datasets, wat het leren van dit concept uitdagend maakt.

2. Methodologie

De auteurs stellen een probabilistisch raamwerk voor om een verdeling over verantwoordelijkheidsallocaties te leren, in plaats van een enkel punt. De aanpak combineert diepe generatieve modellen met differentieerbare optimalisatie.

A. Definitie van Verantwoordelijkheid via CBF's

Het model bouwt voort op Control Barrier Functions (CBF's). Een CBF is een wiskundige methode om veilige besturingen te garanderen.

In een multi-agent setting wordt een "veiligheidsfilter" gebruikt dat de gewenste besturing ( $u_{des}$ ) van agents minimaliseert aanpast om botsingen te voorkomen.
De verantwoordelijkheidsvector ( $\gamma$ ) fungeert als een wegingsparameter in de optimalisatie. Een hogere $\gamma_i$ betekent dat agent $i$ minder verantwoordelijk is (het kost meer "energie" voor hen om af te wijken), terwijl een lagere $\gamma_i$ aangeeft dat ze meer bereid zijn om af te wijken voor de gemeenschappelijke veiligheid.
Het probleem wordt geformuleerd als een differentieerbare kwadratische programmering (QP): minimaliseer de afwijking van de gewenste besturing, gewogen door $\gamma$ , onder de CBF-beperkingen.

B. Probabilistisch Leren met Conditional Variational Autoencoders (CVAE)

Omdat er geen labels zijn voor $\gamma$ , wordt een Conditional Variational Autoencoder (CVAE) gebruikt:

Conditionering: De scene-context $s$ (historische trajecten, staten van agents) wordt als input gebruikt.
Latente Ruimte: Een continue latente variabele $z$ (Gaussisch verdeeld) wordt gebruikt om de multimodale onzekerheid te vangen.
Decoder: De decoder bestaat uit twee delen:
- Een neurale netwerklag die $z$ omzet naar een verantwoordelijkheidsvector $\gamma = g_\phi(z)$ .
- Een differentieerbare optimalisatielaag (de CBF-safety filter) die $\gamma$ en de scene omzet naar voorspelde besturingen $\hat{u}$ .
Trainingsdoel: Het model wordt getraind om de kansverdeling $p(\gamma|s)$ zo te leren dat de via de safety filter gegenereerde besturingen $\hat{u}$ zo goed mogelijk overeenkomen met de waargenomen besturingen $u$ in de dataset. De loss-functie is gebaseerd op de Evidence Lower Bound (ELBO).

C. Architectuur: Sequence-to-Sequence Transformer

Om complexe, tijdsvariabele scenario's met een wisselend aantal agents te hanteren, gebruiken de auteurs een Transformer-architectuur (geïnspireerd door AgentFormer).

Dit maakt het mogelijk om agents die de scene in- en uitgaan te verwerken.
Het model is permutatie-invariant (de volgorde van agents maakt niet uit).
Het leert een verdeling over verantwoordelijkheden voor een reeks van agenten op basis van hun geschiedenis.

3. Belangrijkste Bijdragen

Probabilistische Formulering: Een nieuwe methode om verantwoordelijkheid als een kansverdeling te modelleren, wat de inherente multimodale onzekerheid van menselijke interacties beter vastlegt dan deterministische modellen.
Integratie van Differentieerbare Optimalisatie: Een innovatieve architectuur die een CVAE koppelt aan een CBF-safety filter. Hierdoor kan het model indirect verantwoordelijkheid leren zonder directe labels, door de gegenereerde besturingen te vergelijken met waarnemingen.
Schaalbaarheid: Een transformer-based model dat werkt met wisselende aantallen agents en complexe, tijdsafhankelijke scenario's.
Interpreteerbaarheid: Het model biedt inzicht in waarom agents bepaalde keuzes maken, door de verantwoordelijkheidsverdeling te analyseren in plaats van alleen de voorspelde trajecten.

4. Resultaten

De methode is geëvalueerd op zowel synthetische data als het real-world INTERACTION dataset (drone-opnames van verkeerskruisingen).

Synthetische Data: Het model slaagde erin om de onderliggende bimodale verdeling van verantwoordelijkheid te reconstrueren en produceerde nauwkeurige besturingsverdelingen die overeenkwamen met de ground truth.
INTERACTION Dataset (Real-world):
- Voorspellende Prestaties: Het model presteerde aanzienlijk beter dan een heuristiek die alleen de gewenste snelheid volgt (lage Average Displacement Error en Miss Rate). Het presteerde vergelijkbaar met of beter dan een model dat direct besturingen voorspelt zonder verantwoordelijkheidslaag.
- Interpretatie: De analyse van de voorspelde $\gamma$ -verdelingen toonde intuïtief correcte patronen. Bijvoorbeeld: een auto die later arriveert op een kruising krijgt een hogere verantwoordelijkheid (lagere $\gamma$ ) om te stoppen of te vertragen, terwijl een auto die al langere tijd aanwezig is, een lagere verantwoordelijkheid behoudt.
- Ablatiestudies: Het bleek dat bepaalde activeringsfuncties (zoals softmax) te sterk neigen naar uniforme verdelingen, terwijl functies zoals tanh of clip negatieve waarden toelaten, wat essentieel is voor het modelleren van situaties waar agents juist minder dan hun gewenste besturing willen uitvoeren.

5. Significantie en Toekomstperspectief

Dit werk biedt een fundamenteel nieuw perspectief op het modelleren van sociale interacties in autonoom rijden. In plaats van alleen te kijken naar wat een agent doet (het traject), legt het uit hoe agents de verantwoordelijkheid voor veiligheid onderling verdelen.

Betrouwbaarheid: Door de probabilistische aard kunnen autonome systemen rekening houden met verschillende mogelijke sociale normen en onzekerheid, wat leidt tot veiliger en voorspelbaarder gedrag.
Toepassingen: Het model kan worden gebruikt om sociale normen te leren, te testen of autonome agents zich conformeren aan menselijke verwachtingen, en om "wat-zou-er-gebeurd-zijn" (counterfactual) scenario's te simuleren.
Toekomst: De auteurs wijzen op de noodzaak om meer diverse agents (voetgangers, fietsers) en complexe weggeometrieën te integreren, en om betere methoden te ontwikkelen om irrelevante agents te filteren op basis van dynamische bereikbaarheid in plaats van alleen afstand.

Kortom, deze paper introduceert een wiskundig onderbouwde, interpreteerbare en probabilistische aanpak om de sociale dynamiek van verantwoordelijkheid in multi-agent systemen te leren en te benutten.