Résumé Technique : ScenePilot

Énoncé du Problème

Les scénarios critiques pour la sécurité sont essentiels pour évaluer les systèmes de conduite autonome (CA), mais ils sont extrêmement rares dans les logs de conduite naturaliste, ce qui rend nécessaire des tests de stress basés sur la simulation. Les méthodes existantes de génération de scénarios traitent généralement les agents environnants comme des adversaires entraînés à provoquer des collisions. Cependant, ces approches souffrent de deux limitations principales :

1. Invalidité Physique : Les méthodes qui ne modélisent pas explicitement les limites physiques véhicule-route génèrent souvent des accidents « visuellement extrêmes » mais physiquement insolubles (par exemple, nécessitant une décélération infinie). Ces échecs testent la robustesse numérique plutôt que de révéler des déficiences réelles dans la pile d'autonomie.
2. Sur-dépendance aux Contraintes Uniques :
   • Les méthodes contraintes par la physique restreignent les agents à des comportements physiquement réalisables, mais elles tendent souvent à se concentrer sur des manœuvres extrêmes repoussant les limites physiques, manquant ainsi le régime plus large d'interactions qui sont physiquement solubles mais provoquent néanmoins des défaillances de la CA.
   • Les méthodes contraintes par la politique orientent la génération vers la limite de capacité d'un contrôleur spécifique. Bien qu'exploitables pour diagnostiquer cette pile spécifique, elles ancrent la génération à une limite dépendante du contrôleur et échouent à révéler à quel point la CA opère près des limites physiques fondamentales de l'environnement.

L'article soutient que le régime le plus informatif est la « bande frontière » : des scénarios qui sont physiquement solubles en principe (des dynamiques admissibles existent pour éviter la collision) mais qui provoquent toujours la défaillance de la pile d'autonomie déployée en raison de ses limitations spécifiques.

Méthodologie : ScenePilot

ScenePilot est un cadre guidé par la faisabilité et piloté par la frontière, conçu pour cibler cette bande frontière. Il formule la génération de scénarios comme un processus de décision markovien (MDP) multi-objectif contraint utilisant l'apprentissage par renforcement (RL).

1. Formulation à Double Signal

Le cadre dissocie la faisabilité physique de la capacité de la politique de la CA en utilisant deux signaux par étape :

• Score de Faisabilité Physique ($\sigma$) : Dérivé d'une variante de la limite physique du modèle de Sécurité Sensible à la Responsabilité (RSS). Contrairement au RSS standard qui inclut des temps de réaction conservateurs, cette variante calcule la distance théorique de limite de freinage basée sur la décélération maximale faisable.
  • $\sigma \geq 0$ : L'image est physiquement faisable (une collision peut être évitée par un freinage ou un braquage admissible).
  • $\sigma < 0$ : L'image est physiquement infaisable (la collision est inévitable).
  • Le score agrège les marges longitudinales et latérales, tenant compte de la géométrie du véhicule et du temps jusqu'à la collision (TTC), pour déterminer si des manœuvres orthogonales peuvent prévenir une collision.
• Prédicteur de Risque CA ($\Phi$) : Un réseau critique léger appris en ligne qui estime le risque de sécurité instantané du véhicule égo. Il est entraîné via un façonnage de récompense basé sur les potentiels pour fournir un signal dense et différentiable de la probabilité de collision, indépendant de la politique d'un contrôleur spécifique.

2. Optimisation Multi-Objectif Contrainte

L'objectif est de maximiser le risque CA ($J_\phi$) tout en maintenant la faisabilité physique ($J_\sigma \geq \epsilon$). L'objectif est formulé comme suit :
$$\max_{\pi} J_\phi(\pi) \quad \text{sous contrainte} \quad J_\sigma(\pi) \geq \epsilon$$
où $\epsilon$ est une variable de contrôle qui balaye le seuil de faisabilité.

3. Mécanismes Clés

• Protection Consciente de la Faisabilité au Niveau de l'Étape : Pour empêcher la politique de dériver vers des régions physiquement infaisables ou d'ignorer les violations proches de la frontière, les auteurs introduisent un masque de protection. Si une violation de faisabilité est présente ou imminente ($h_t > 0$), la mise à jour de la politique priorise l'avantage de faisabilité ($A_\sigma$) ; sinon, elle optimise le risque ($A_\phi$). Cela garantit que l'agent reste près de la frontière sans s'effondrer dans des artefacts infaisables.
• Balayage du Seuil de Faisabilité : Le système emploie un calendrier en forme de Gaussienne pour $\epsilon$, commençant près de la limite physique et augmentant progressivement la marge. Cela permet à l'agent d'explorer un spectre de la bande frontière plutôt que de s'effondrer sur un ensemble unique et étroit de manœuvres extrêmes.

Contributions Clés

1. Formulation de la Bande Frontière : Une formulation novatrice qui dissocie la faisabilité physique de la capacité de la politique de la CA, ciblant explicitement le régime où les interactions sont physiquement solubles mais politiquement infaisables.
2. Générateur Adversarial Contraint : Un cadre RL multi-objectif couplant un score dérivé de la physique ($\sigma$) et un prédicteur de risque appris en ligne ($\Phi$), utilisant une protection au niveau de l'étape et un balayage de seuil pour concentrer les échantillons dans la bande faisable proche de la frontière.
3. Validation Empirique : Démonstration que ScenePilot génère des scénarios avec des taux de collision plus élevés tout en préservant la validité physique, et que le réglage fin adversarial sur ces scénarios améliore systématiquement la robusteur en aval.

Résultats Expérimentaux

Les expériences ont été menées sur le benchmark SafeBench dans le simulateur CARLA.

• Criticité de Sécurité : Comparé aux références de l'état de l'art (incluant Learning-to-Collide, AdvSim, ChatScene et SCENGE), ScenePilot a atteint le taux de collision moyen (CR) le plus élevé de 0,893 et le score global (OS) le plus bas de 0,476 sur huit scénarios de trafic de base.
• Transférabilité : Les scénarios générés sont restés efficaces à travers des piles CA hétérogènes, incluant CARLA Autopilot, AIM-BEV, TransFuser, BehaviorAgent et divers contrôleurs RL profonds (SAC, PPO, TD3). ScenePilot a augmenté le CR moyen de 0,380 (référence KING) à 0,490 sur le scénario de virage à gauche non protégé.
• Validité Physique : L'analyse a montré que ScenePilot produisait significativement moins d'images physiquement invalides que ChatScene, confirmant que ses échecs ne dépendent pas de comportements physiquement impossibles.
• Utilité en Aval : Le réglage fin adversarial d'une politique égo utilisant des scénarios générés par ScenePilot a réduit le taux de collision en aval de 0,854 (pré-entraîné) à 0,072, surpassant le réglage fin avec des scénarios d'autres générateurs.
• Couverture : La méthode a couvert une plus large portion de la bande « faisable physiquement mais infaisable pour la CA » (mesurée par le Score de Couverture de l'Écart) par rapport aux références, évitant l'effondrement vers des régimes trop doux ou trop extrêmes.

Signification et Revendications

L'article revendique que ScenePilot fournit un outil d'évaluation plus rigoureux pour la conduite autonome en isolant les écarts de compétence — des défaillances qui découlent des limitations de la pile d'autonomie actuelle plutôt que de contraintes physiques inévitables. En se concentrant sur la « bande frontière », la méthode génère des scénarios qui sont :

• Informatifs : Ils révèlent des faiblesses algorithmiques réelles plutôt que des cas limites numériques.
• Actionnables : Ils fournissent des données d'entraînement ciblées qui améliorent la robustesse des systèmes déployés.
• Généralisables : Ils restent exigeants à travers diverses architectures de contrôleurs.

Les auteurs positionnent ce travail comme une étape vers une assurance de sécurité systématique qui va au-delà de la simple maximisation des défaillances pour explorer l'espace nuancé entre la possibilité physique et la capacité algorithmique.