Learning Probabilistic Responsibility Allocations for Multi-Agent Interactions

1. Problématique et Contexte

La conception de systèmes autonomes centrés sur l'humain nécessite non seulement de prédire le comportement des autres agents, mais aussi de comprendre les principes régissant leurs interactions. Dans les environnements interactifs (comme la conduite automobile), le comportement humain est façonné par des objectifs individuels et des contraintes partagées (notamment la sécurité).

Le problème central abordé par les auteurs est la modélisation de l'allocation de responsabilité. La responsabilité est définie ici comme la mesure dans laquelle un agent s'écarte de sa politique de contrôle désirée (son objectif égoïste) pour accommoder les autres et maintenir la sécurité collective.

• Limites des approches précédentes : Les travaux antérieurs (ex: [1]) utilisaient des modèles déterministes pour mapper un état de la scène à une allocation de responsabilité fixe. Or, le comportement humain est intrinsèquement multimodal et incertain (un agent peut choisir de céder le passage ou de maintenir sa vitesse selon le contexte).
• Défi technique : Il n'existe pas d'étiquettes de vérité terrain ("ground truth") pour la responsabilité. On observe les états et les contrôles (trajectoires), mais pas directement la "responsabilité" sous-jacente qui a généré ces contrôles.

2. Méthodologie

Les auteurs proposent une approche probabiliste apprenant une distribution sur les allocations de responsabilité conditionnée au contexte de la scène, en combinant l'apprentissage profond génératif et l'optimisation différentiable.

A. Définition de la Responsabilité via les Fonctions de Barrière de Contrôle (CBF)

Le cadre repose sur les Control Barrier Functions (CBF).

• Une CBF définit un ensemble d'états sûrs. Pour garantir la sécurité, les agents doivent appliquer des contrôles qui respectent une inégalité CBF.
• L'article étend le concept de filtre de sécurité CBF à un système multi-agents ($N$ agents). Au lieu de considérer un agent unique face à des obstacles, ils formulent un problème d'optimisation quadratique (QP) où chaque agent $i$ a un vecteur de responsabilité $\gamma_i$.
• Interprétation de $\gamma$ : Un $\gamma_i$ élevé signifie qu'il est "coûteux" pour l'agent $i$ de s'écarter de son contrôle désiré (il est moins responsable). Un $\gamma_i$ faible indique une plus grande volonté de dévier pour assurer la sécurité (plus responsable).
• Le filtre de sécurité projette les contrôles désirés ($u^{des}$) vers des contrôles sûrs ($u$) en minimisant la déviation pondérée par $\gamma$.

B. Modélisation Probabiliste avec CVAE

Pour apprendre la distribution $p(\gamma | s)$ (responsabilité conditionnée à la scène $s$) sans étiquettes de $\gamma$, les auteurs utilisent un Auto-encodeur Variationnel Conditionnel (CVAE) :

1. Variables Latentes : Ils introduisent une variable latente $z$ (distribution gaussienne) pour capturer l'incertitude multimodale.
2. Architecture :
   • Encodeur : Prend la scène passée ($s$) et les contrôles observés ($u$) pour inférer la distribution a posteriori $q_\phi(z|s, u)$.
   • Décodeur : Génère l'allocation de responsabilité $\gamma$ à partir de $z$ via un réseau de neurones $g_\phi(z)$.
   • Couche d'Optimisation Différentiable : Les $\gamma$ générés sont passés dans le filtre de sécurité CBF (résolution du QP) pour produire les contrôles prédits $\hat{u}$.
3. Fonction de Coût : L'objectif est de maximiser la vraisemblance des contrôles observés. Le modèle apprend indirectement la distribution de $\gamma$ en minimisant l'écart entre les contrôles observés et les contrôles induits par le filtre CBF utilisant les $\gamma$ prédits.

C. Architecture Transformer (AgentFormer)

Pour gérer des scènes complexes avec un nombre variable d'agents et des séquences temporelles :

• Ils utilisent une architecture Transformer inspirée d'AgentFormer.
• Cela permet de gérer l'invariance par permutation (l'ordre des agents n'a pas d'importance) et de modéliser les interactions dynamiques entre un grand nombre d'agents entrant et sortant de la scène.
• Le modèle prend en entrée l'historique des trajectoires et prédit la distribution de responsabilité pour l'instant présent.

3. Contributions Clés

1. Formulation Probabiliste : Extension des modèles de responsabilité déterministes vers une formulation probabiliste capable de capturer l'incertitude et la multimodalité des interactions humaines.
2. Apprentissage Indirect par Optimisation : Développement d'une architecture CVAE intégrant une couche d'optimisation différentiable (le filtre CBF) pour apprendre des variables latentes non observables ($\gamma$) à partir de données de contrôle observables.
3. Modèle Séquence-à-Séquence : Conception d'un modèle basé sur Transformer capable de traiter des scènes multi-agents dynamiques avec un nombre variable d'entités.
4. Validation Empirique : Démonstration de l'efficacité sur des données synthétiques et réelles, fournissant des insights interprétables sur les schémas d'interaction.

4. Résultats Expérimentaux

Les expériences ont été menées sur deux ensembles de données :

• Données Synthétiques :

  • Un scénario de "corridor" à deux agents avec une distribution bimodale de vérité terrain.
  • Résultat : Le CVAE à espace latent continu a réussi à reconstruire fidèlement la distribution bimodale de la responsabilité et les contrôles induits, validant la capacité du modèle à capturer l'incertitude multimodale.

• Données Réelles (Dataset INTERACTION) :

  • Données de conduite collectées par drone à une intersection complexe.
  • Métriques : Évaluation via l'erreur de déplacement moyen (ADE) et le taux de manque (Miss Rate) des trajectoires prédites.
  • Performances : Le modèle probabiliste surpasse largement les heuristiques basées sur le contrôle désiré ($u^{des}$) et se compare favorablement à un modèle prédisant directement les contrôles sans filtre de sécurité.
  • Analyse des Activations : L'étude ablation montre que l'utilisation d'une fonction d'activation tanh (permettant des valeurs négatives pour $\gamma$) est cruciale. Les modèles contraints à des valeurs positives (softmax, clip) ont tendance à sur-ajuster vers des allocations uniformes, manquant ainsi les cas où un agent doit être "moins responsable" (valeur négative de $\gamma$) pour maintenir sa trajectoire.
  • Interprétabilité : L'analyse qualitative confirme que le modèle apprend des comportements intuitifs. Par exemple, dans un scénario à trois voitures, le modèle attribue une responsabilité croissante (baisse de $\gamma$) à la voiture arrivant en dernier, tandis que la voiture arrivant en premier conserve une faible responsabilité (haute $\gamma$), ce qui correspond aux normes sociales de conduite.

5. Signification et Perspectives

• Signification : Ce travail propose un nouveau paradigme pour comprendre les interactions multi-agents. Au lieu de simplement prédire "où" ira un agent, il explique "pourquoi" il s'écarte de son objectif (la responsabilité). Cela permet de concevoir des systèmes autonomes plus socialement conformes et fiables, capables de raisonner sur les normes sociales implicites.
• Limites et Futur :
  • Le dataset réel utilisé (INTERACTION) est biaisé vers des vitesses constantes, limitant la diversité des allocations de responsabilité observées.
  • La sélection des agents pertinents se fait actuellement par une heuristique de distance ; des méthodes basées sur la "reachability" (accessibilité) pourraient être plus robustes.
  • Travaux futurs : Intégration de la géométrie routière complexe, des panneaux de signalisation, et application de ces modèles pour analyser ou améliorer les politiques de robots existantes via des scénarios contrefactuels.

En résumé, cet article réussit à transformer un concept théorique de sécurité (CBF) en un outil d'apprentissage profond capable de quantifier et de prédire la responsabilité humaine dans des interactions complexes, offrant ainsi une voie prometteuse pour l'IA sociale.