Résumé Technique : ECoSim : Fine-Tuning de Données Efficace pour la Simulation de Trafic Contrôlable

Énoncé du Problème

La simulation de trafic contrôlable est essentielle pour tester les systèmes de conduite autonome (AV), permettant la création de scénarios « et si » ciblés pour sonder les défaillances des systèmes et valider la sécurité. Cependant, les approches existantes présentent des limitations significatives :

1. Le guidage au moment de l'inférence (par exemple, l'optimisation basée sur le gradient) offre de la flexibilité mais impose une charge de calcul élevée et repose sur des objectifs soigneusement conçus.
2. Le conditionnement direct via le réentraînement nécessite des données appariées à grande échelle et un réentraînement coûteux pour chaque nouvelle modalité de contrôle (par exemple, texte, croquis), échouant souvent à se généraliser à travers différentes architectures de modèles.
3. Rareté des données : La plupart des méthodes existantes peinent à générer des scénarios contrefactuels contrôlables à travers divers contextes sans ensembles de données annotés massifs, laissant la capacité de synthétiser des interactions de longue traîne sous-explorée.

Le défi central est de permettre un contrôle multimodal (croquis, comportement latent, texte) pour les modèles de trafic préentraînés de pointe (à la fois par diffusion et autorégressifs) en utilisant un minimum de données de contrôle appariées tout en préservant le prior génératif du modèle de base et le réalisme en boucle fermée.

Méthodologie

Les auteurs proposent ECoSim, un cadre d'adaptation de contrôle léger et efficace en termes de données qui gèle le squelette (backbone) du modèle de trafic préentraîné et apprend de petits adaptateurs de contrôle.

1. Architecture : Modulation Linéaire par Caractéristiques (FiLM)

Le cadre injecte des signaux de conditionnement dans les caractéristiques intermédiaires d'un squelette gelé en utilisant des couches FiLM.

• Mécanisme : Pour une carte de caractéristiques intermédiaire $h^{(l)}$ à la couche de décodage $l$, l'encodage de contrôle $z_i$ (dérivé de la modalité d'entrée) prédit les paramètres affines $\gamma^{(l)}$ et $\beta^{(l)}$ via des MLP légers :
  $$\text{FiLM}(h^{(l)}; z_i) = \gamma^{(l)}(z_i) \odot h^{(l)} + \beta^{(l)}(z_i)$$
• Initialisation d'Identité : Un choix de conception critique est d'initialiser $\gamma \approx 1$ et $\beta \approx 0$. Cela garantit que le modèle adapté se comporte initialement de manière identique au modèle de base, évitant ainsi les erreurs cumulatives qui déstabilisent les simulations de trafic en boucle fermée lors des premières phases d'entraînement.
• Indépendant de la Modalité : Le même mécanisme d'adaptateur fonctionne à travers les squelettes basés sur la diffusion (VBD) et autorégressifs (SMART).

2. Représentations de Contrôle Multimodales

Le cadre prend en charge trois modalités de contrôle distinctes, chacune étant mappée vers un espace de conditionnement unifié :

• Croquis (Sketch) : Points de passage (waypoints) de trajectoire dans le référentiel local de l'agent, encodés via un encodeur temporel.
• Texte : Commandes en langage naturel (par exemple, « tourner à gauche ») traitées par un modèle DistilBERT adapté avec LoRA.
• Latent (BehaviorVAE) : Un espace latent de comportement sensible au contexte appris via un VAE conditionnel (CVAE). Cet encodeur traite le contexte de la scène et les trajectoires des agents pour extraire des codes latents compacts ($z_i$) représentant des motifs d'interaction de haut niveau (par exemple, céder le passage, fusionner) sans annotation manuelle.

3. Fine-Tuning en Boucle Fermée

Pour assurer la stabilité dans les interactions multi-agents, les adaptateurs sont entraînés sous simulation en boucle fermée :

• Modèles de Diffusion : Utilise un paradigme « planifier–sélectionner–exécuter » où plusieurs déroulements (rollouts) candidats sont générés, et celui qui est le plus proche de la vérité terrain est sélectionné pour les mises à jour de l'adaptateur.
• Modèles Autorégressifs : Optimise un objectif d'entropie croisée sur des historiques d'états conjoints générés dynamiquement, biaisant l'échantillonnage vers des trajectoires alignées avec le signal de contrôle.

4. Transfert de Scénario Sensible au Contexte

Pour permettre la génération de contrefactuels et de la longue traîne sans spécification manuelle, les auteurs introduisent un pipeline de récupération :

• Correspondance de Contexte : Les agents interrogés sont encodés, et des agents similaires provenant du jeu de données sont récupérés sur la base des plongements (embeddings) de contexte de la scène.
• Transfert : Les signaux de contrôle (croquis ou latents) de ces agents correspondants sont transférés à la scène cible. Cela permet des Déroulements Contrefactuels (générer des futurs alternatifs comme des demi-tours ou des arrêts) et une Synthèse de Longue Traîne (injecter des comportements rares comme des insertions agressives dans de nouveaux contextes compatibles).

Contributions Clés

1. Adaptation de Contrôle Efficace en Données : Un cadre qui ajoute une contrôlabilité multimodale aux modèles de trafic préentraînés (diffusion et autorégressifs) en utilisant seulement 1 % des données de contrôle appariées.
2. Efficacité d'Échantillonnage : Démontre que les adaptateurs FiLM initialisés par identité atteignent une contrôlabilité compétitive avec un minimum de supervision (seulement 500 scénarios, soit 0,1 % des données) tout en gardant le squelette gelé.
3. Transfert Sensible au Contexte : Un mécanisme permettant la génération de scénarios contrefactuels et de longue traîne réalistes en récupérant et en transférant des comportements de scènes compatibles, plutôt que de forcer des contrôles arbitraires.
4. Indépendance de l'Architecture : La méthode se généralise à travers différents paradigmes génératifs (diffusion et autorégressif) sans modifier les architectures de base.

Résultats Expérimentaux

Évalué sur le Waymo Open Sim Agents Challenge (WOSAC) en utilisant le Waymo Open Motion Dataset (WOMD) :

• Contrôlabilité : Le cadre réduit l'erreur de déplacement moyenne minimale (mADE) jusqu'à 83 % sur les modèles autorégressifs et 65 % sur les modèles de diffusion par rapport aux bases non conditionnées, en utilisant seulement 1 % des données.
• Préservation du Réalisme : Malgré une forte injection de contrôle, le score Meta de WOSAC (une mesure du réalisme de la conduite) s'améliore ou reste stable. Par exemple, le contrôle par croquis sur SMART-tiny-CLSFT a amélioré le score Meta de 0,7728 à 0,7984.
• Mise à l'échelle des Données : Les performances plafonnent autour de 10 % des données, égalant les performances d'un fine-tuning LoRA sur l'ensemble des données. Le contrôle latent est le plus efficace en données, atteignant une performance proche de la référence avec seulement 0,01 % des données.
• Génération Contrefactuelle : Dans les déroulements contrefactuels, les contrôles par Croquis et Latent ont atteint des taux de succès de manœuvre d'environ 70 % avec un faible Control ADE, tout en maintenant des métriques de sécurité (collisions/sortie de route) comparables aux bases non conditionnées.
• Synthèse de Longue Traîne : Le transfert sensible au contexte a considérablement réduit les taux de collision (de 0,3175 à 0,1574) par rapport à une sélection de contexte aléatoire lors de la synthèse de comportements rares comme les « insertions serrées » ou les « demi-tours agressifs ».

Signification et Revendications

L'article affirme qu'ECoSim ouvre de nouvelles possibilités pour la simulation de trafic contrôlable en déplaçant le paradigme d'un réentraînement gourmand en données vers une adaptation légère et efficace en termes de données.

• Efficacité : Il prouve qu'une contrôlabilité de haute qualité ne nécessite pas de jeux de données appariés massifs ; le prior génératif des modèles préentraînés peut être préservé et orienté avec un minimum de supervision.
• Sécurité et Réalisme : En utilisant un entraînement en boucle fermée et une initialisation d'identité, la méthode évite l'instabilité souvent observée lors du forçage de signaux de contrôle sur des systèmes multi-agents complexes.
• Polyvalence : Le cadre permet la génération de scénarios diversifiés, spécifiés par l'utilisateur (des croquis simples aux interactions de longue traîne complexes), essentiels pour tester la robustesse des systèmes AV, tout en maintenant le réalisme physique et comportemental du modèle de trafic sous-jacent.

Les auteurs notent des limites dans la gestion des contrôles irréalisables ou ambigus où les instructions de l'utilisateur entrent en conflit avec le contexte du trafic, suggérant des travaux futurs dans le fine-tuning par apprentissage par renforcement (RL) ou le guidage par inférence pour mieux équilibrer la fidélité du contrôle et la sécurité.