Learning Probabilistic Responsibility Allocations for Multi-Agent Interactions

Titolo: Apprendimento di Allocazioni Probabilistiche di Responsabilità per Interazioni Multi-Agente

1. Problema e Contesto

La progettazione di sistemi autonomi centrati sull'umano richiede non solo la previsione del comportamento umano, ma anche la comprensione dei principi che governano le interazioni sociali, come la sicurezza condivisa e le norme sociali.
Il problema centrale affrontato è la allocazione della responsabilità: capire quanto ogni agente (es. un veicolo) è disposto a deviare dal proprio controllo desiderato (la sua politica ideale) per garantire la sicurezza degli altri agenti nell'ambiente.

• Limiti degli approcci precedenti: I lavori precedenti (es. [1]) hanno modellato la responsabilità come una mappatura deterministica. Tuttavia, il comportamento umano è intrinsecamente multimodale (può esserci più di un modo "corretto" di comportarsi in una data situazione) e dipendente dal contesto. Un modello deterministico non riesce a catturare questa incertezza e la variabilità delle interazioni umane.
• Obiettivo: Sviluppare un modello probabilistico che apprenda una distribuzione sulle allocazioni di responsabilità basata su dati reali, permettendo di rappresentare l'incertezza multimodale nelle interazioni multi-agente.

2. Metodologia

L'approccio proposto combina la teoria del controllo (Control Barrier Functions) con l'apprendimento profondo generativo (Conditional Variational Autoencoders - CVAE).

A. Definizione della Responsabilità tramite CBF

La responsabilità è definita in termini di Control Barrier Functions (CBF).

• Un CBF garantisce che un sistema rimanga in un insieme sicuro.
• In un contesto multi-agente, viene formulato un problema di ottimizzazione (filtro di sicurezza) che proietta i controlli desiderati degli agenti ($u^{des}$) in controlli sicuri ($u$).
• La responsabilità è codificata in un vettore di pesi $\gamma = [\gamma_1, \dots, \gamma_N]$.
  • Un $\gamma_i$ alto indica che l'agente $i$ è meno disposto a deviare dal suo controllo desiderato (meno responsabile per la sicurezza condivisa).
  • Un $\gamma_i$ basso indica che l'agente è disposto a deviare significativamente (più responsabile).
• Il paper estende il lavoro precedente da coppie di agenti a scenari con N agenti, decomponendo il vincolo di sicurezza in vincoli CBF a coppie ($C(N, 2)$) e risolvendo un problema di programmazione quadratica differenziabile.

B. Modello Generativo Probabilistico (CVAE)

Poiché non esistono etichette di "responsabilità" a terra (ground truth), il modello deve apprendere la distribuzione $p(\gamma | s)$ (distribuzione di responsabilità condizionata alla scena $s$) indirettamente, attraverso i controlli osservati $u$.

• Architettura: Viene utilizzato un Conditional Variational Autoencoder (CVAE).
  • Input (Condizione): La scena $s$ (stati, traiettorie passate degli agenti).
  • Latente: Una variabile latente $z$ (distribuzione Gaussiana) che cattura l'incertezza multimodale.
  • Decoder: Trasforma $z$ in una distribuzione di responsabilità $\gamma$ tramite un layer neurale $g_\phi(z)$, e successivamente passa $\gamma$ attraverso il filtro di sicurezza differenziabile (il problema di ottimizzazione CBF) per generare i controlli previsti $\hat{u}$.
• Obiettivo di apprendimento: Minimizzare la discrepanza tra i controlli osservati nel dataset e i controlli indotti dal modello, massimizzando contemporaneamente la verosimiglianza (ELBO) della distribuzione latente.

C. Gestione di Scenari Complessi (Transformer)

Per gestire scenari con un numero variabile di agenti e sequenze temporali lunghe, l'architettura CVAE è integrata con un Transformer (ispirato ad AgentFormer):

• Gestisce l'ingresso e l'uscita di agenti dalla scena.
• È invariante alla permutazione (l'ordine degli agenti non conta).
• Codifica la storia delle traiettorie per prevedere la responsabilità al tempo $T$.

3. Contributi Chiave

1. Formulazione Probabilistica: Introduzione di un modello di allocazione della responsabilità probabilistico che estende i lavori precedenti deterministici, catturando l'incertezza multimodale intrinseca nelle interazioni umane.
2. Architettura Ibrida: Sviluppo di un modello "sequence-to-sequence" basato su Transformer e CVAE, che integra un layer di ottimizzazione differenziabile (CBF safety filter) per mappare le responsabilità latenti in controlli fisici osservabili.
3. Validazione Empirica: Dimostrazione dell'efficacia del modello sia su dati sintetici (dove la distribuzione vera è nota) che sul dataset reale INTERACTION (traffico stradale), fornendo intuizioni interpretabili sui pattern di interazione.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su due dataset:

• Dati Sintetici: Un problema di "corridoio" con due agenti. Il modello CVAE (con spazio latente Gaussiano) ha dimostrato di poter ricostruire con successo una distribuzione bimodale di responsabilità, generando controlli che corrispondevano alla distribuzione di ground truth.
• Dataset INTERACTION: Dati reali di traffico raccolti da droni.
  • Performance Predittiva: Il modello ha ottenuto un errore di spostamento medio (ADE) e un tasso di errore (Miss Rate) superiori rispetto a un'euristica basata sul controllo desiderato e paragonabili o migliori rispetto a modelli che prevedono direttamente i controlli senza il filtro di responsabilità.
  • Analisi Qualitativa: Il modello ha appreso intuizioni coerenti con il senso comune. Ad esempio, in un incrocio, l'auto che arriva per ultima (verde) mostra una distribuzione di responsabilità che si sposta verso valori più bassi (maggiore responsabilità) man mano che si avvicina, mentre l'auto che è già presente (rossa) mantiene una responsabilità più alta (meno deviazione necessaria).
  • Ablazione: È stato testato l'impatto di diverse funzioni di attivazione per $\gamma$. Modelli che vincolano $\gamma$ a essere non negativo (es. clip o softmax) hanno mostrato una tendenza a sovrastimare responsabilità uniformi, mentre l'uso di tanh (che permette valori negativi, indicando una maggiore propensione a deviare) ha migliorato la capacità di catturare casi limite e comportamenti più dinamici.

5. Significato e Implicazioni

• Interpretabilità: A differenza dei modelli "black-box" per la previsione di traiettorie, questo approccio offre una lente interpretabile (la responsabilità) per comprendere perché gli agenti agiscono in un certo modo.
• Progettazione di Sistemi Autonomi: Fornisce un metodo per progettare agenti autonomi che non solo prevedono il comportamento umano, ma comprendono le dinamiche sociali di compromesso e sicurezza.
• Flessibilità: La natura probabilistica permette di gestire scenari ambigui dove non esiste una singola risposta "giusta", rendendo i sistemi più robusti e adattabili.
• Limiti e Futuro: Il lavoro evidenzia che i dataset reali attuali sono spesso bias verso scenari a velocità costante. I futuri lavori mirano a incorporare geometrie stradali complesse, segnali visivi e a migliorare il filtraggio degli agenti rilevanti basandosi sulla dinamica di raggiungibilità.

In sintesi, il paper propone un avanzamento significativo nella modellazione delle interazioni multi-agente, spostando il focus dalla semplice previsione della traiettoria alla comprensione profonda delle dinamiche di responsabilità che guidano tali traiettorie, utilizzando un framework matematicamente fondato e probabilisticamente robusto.