Risk-Aware Rulebooks for Multi-Objective Trajectory Evaluation under Uncertainty

Cet article propose un formalisme de règles axé sur le risque pour évaluer les trajectoires de systèmes dans des environnements incertains, en modélisant explicitement les interactions système-environnement et en garantissant une cohérence logique des préférences grâce à une relation d'ordre, comme l'illustre un exemple de conduite autonome.

L'essentiel

Imaginez que vous conduisez une voiture autonome dans une ville très animée. Le but est simple : arriver à destination rapidement et confortablement. Mais la route est pleine d'imprévus : des piétons distraits, d'autres conducteurs qui dépassent la vitesse limite, ou des enfants qui pourraient courir sur la chaussée sans regarder.

Comment la voiture décide-t-elle quoi faire ? Doit-elle freiner brusquement pour éviter un risque minime ? Doit-elle continuer à rouler vite pour ne pas gêner le trafic, même si cela augmente légèrement le danger ?

C'est exactement le problème que résout ce papier de recherche. Les auteurs proposent une nouvelle façon de penser la prise de décision pour les robots et les voitures autonomes, qu'ils appellent des « Règlements Sensibles au Risque ».

Voici une explication simple, avec quelques analogies pour mieux comprendre :

1. Le problème : Le chaos des choix

Avant, les systèmes essayaient de tout mettre dans une seule équation mathématique géante. C'était comme essayer de comparer des pommes et des oranges en les transformant en jus : on perdait la nuance.

• Le dilemme : Parfois, respecter une règle (comme ne pas dépasser 50 km/h) entre en conflit avec une autre (comme ne pas bloquer le trafic). Et parfois, on ne peut pas tout respecter en même temps.
• L'incertitude : La voiture ne sait pas exactement ce que va faire le piéton. Va-t-il traverser ? Va-t-il rester sur le trottoir ?

2. La solution : Le « Carnet de Règles » (Rulebook)

Les auteurs imaginent que la voiture possède un carnet de règles (comme un code de la route très détaillé), mais avec une astuce géniale :

• La hiérarchie : Toutes les règles ne se valent pas. Éviter un accident mortel (règle n°1) est bien plus important que de rester parfaitement centré dans sa voie (règle n°2). C'est comme dans un jeu vidéo : si vous devez choisir entre perdre une vie ou perdre quelques points de score, vous sacrifiez les points.
• La flexibilité : Certaines règles ne sont pas comparables. Est-il plus important de protéger un animal ou de protéger un objet ? Parfois, on ne peut pas dire lequel est "mieux", et le système le reconnaît.

3. La nouveauté : Ajouter le « Risque » et l'« Incertitude »

C'est ici que le papier devient révolutionnaire. Dans les anciennes méthodes, on évaluait la voiture après l'action, une fois que tout s'était produit.

• L'analogie du Météo : Imaginez que vous devez décider de sortir votre parapluie.
  • Ancienne méthode : Vous sortez, il pleut, vous êtes mouillé. Vous dites : « Oh, j'aurais dû prendre mon parapluie ». (C'est trop tard).
  • Nouvelle méthode (Risk-Aware) : Avant de sortir, vous regardez le ciel. Il y a 90% de chance qu'il fasse beau, mais 10% de chance d'un orage violent.
  • Le nouveau système dit : « Si je sors sans parapluie, j'ai un risque de 10% de me mouiller. Si je prends le parapluie, je suis sûr de rester au sec, mais je suis lourd. »
  • Le système calcule ce risque pour chaque option (trajectoire) avant même de bouger.

4. Comment ça marche en pratique ?

Le système ne se contente pas de dire « C'est dangereux ». Il utilise des mesures de risque (comme des outils de prévision) :

• Le pire des cas : « Et si le piéton traverse maintenant ? »
• La moyenne : « En général, les piétons sont prudents. »
• Le risque extrême : « Y a-t-il une petite chance que ça tourne très mal ? »

Chaque règle du carnet (ex: « Ne pas percuter », « Rester dans la voie ») a son propre seuil de tolérance.

• Pour la règle « Ne pas tuer », le seuil est zéro. Même un risque infime est inacceptable.
• Pour la règle « Confort des passagers », on peut accepter un peu plus de risque (un freinage un peu sec).

5. Le résultat : Des décisions expliquables

Le plus beau de cette méthode, c'est qu'elle permet d'expliquer pourquoi la voiture a pris une décision.

• Exemple : La voiture a décidé de freiner brusquement.
• Explication : « J'ai freiné non pas parce que j'étais sûr qu'un piéton allait traverser, mais parce que la règle "Ne pas tuer" est si importante que même un risque de 0,1% de collision était trop élevé par rapport au risque de gêner le trafic. »

Cela évite les décisions mystérieuses des intelligences artificielles. On peut tracer le chemin de la décision : « J'ai choisi l'option A parce qu'elle est meilleure sur la règle la plus importante, même si elle est un peu moins bonne sur les règles secondaires. »

En résumé

Ce papier propose de donner aux robots un carnet de règles intelligent qui comprend :

1. L'importance de chaque règle (la vie avant le confort).
2. L'incertitude du monde réel (on ne sait pas ce qui va arriver).
3. Le calcul du risque avant d'agir.

C'est comme passer d'un conducteur qui réagit aux accidents à un conducteur qui prévoit les scénarios possibles, pèse le pour et le contre en fonction de ce qui est le plus important, et peut expliquer clairement pourquoi il a pris telle ou telle décision. C'est une étape cruciale pour rendre les voitures autonomes plus sûres et plus dignes de confiance.

Résumé technique

Voici un résumé technique détaillé du papier « Risk-Aware Rulebooks for Multi-Objective Trajectory Evaluation under Uncertainty » (Livrets de règles conscients du risque pour l'évaluation de trajectoires multi-objectifs sous incertitude), rédigé en français.

1. Problématique

Les systèmes autonomes critiques pour la sécurité, tels que les véhicules autonomes, doivent satisfaire simultanément des exigences de sécurité multiples (évitement de collisions, respect du code de la route) et optimiser des objectifs de performance (temps de trajet, confort). Cependant, ces exigences entrent souvent en conflit, et il est parfois impossible de les satisfaire toutes simultanément.

Les défis majeurs identifiés sont :

• Incertitude environnementale : Les interactions entre le système et son environnement (ex: comportement des piétons ou d'autres véhicules) sont imprévisibles et non exogènes ; la trajectoire du système influence la distribution des réponses de l'environnement.
• Hétérogénéité des objectifs : Les règles ont des importances inégales (hiérarchie) et certaines peuvent être incomparables (ex: sécurité des biens vs sécurité des animaux).
• Limites des approches existantes : Les logiques temporelles (STL, LTL) traitent souvent toutes les exigences dans une seule formule, masquant les relations complexes. Les « rulebooks » (livrets de règles) précédents permettent une hiérarchie et une incomparabilité, mais se limitent à une évaluation a posteriori (après exécution), sans capacité à comparer des trajectoires candidates avant l'exécution sous incertitude.

2. Méthodologie

L'auteur propose une extension du formalisme des « rulebooks » pour intégrer l'incertitude et le risque dès la phase de planification.

A. Formalisme des Rulebooks (Rappel)

Un rulebook est défini comme un couple $\mathcal{R} = \langle \mathcal{R}, \preceq \rangle$, où $\mathcal{R}$ est un ensemble de règles (fonctions de violation) et $\preceq$ est un préordre définissant leur importance relative. Ce préordre permet trois relations :

1. Priorité stricte : $r_1 > r_2$ (ex: éviter une collision > utiliser les clignotants).
2. Incomparabilité : Ni $r_1 \preceq r_2$ ni $r_2 \preceq r_1$.
3. Égalité de rang : $r_1 \sim r_2$.

Ce formalisme induit un préordre sur les réalisations (trajectoires système + environnement) en comparant les violations selon la hiérarchie des règles.

B. Modélisation de l'Interaction Système-Environnement

Contrairement aux modèles où l'environnement est un bruit exogène, ce papier modélise l'interaction comme une fonction $E : \mathcal{T} \times \Omega \to \mathcal{E}$.

• $\mathcal{T}$ : Ensemble des trajectoires du système.
• $\Omega$ : Espace de probabilité des scénarios environnementaux.
• Pour une trajectoire système $\tau$, l'environnement réagit selon une variable aléatoire $E_\tau(\omega)$.
• Ainsi, chaque règle $r$ induit une variable aléatoire de coût $r_\tau(\omega) = r(\tau, E_\tau(\omega))$.

C. Règles Conscientes du Risque (Risk-Aware Rules)

Pour évaluer une trajectoire $\tau$ avant l'exécution, chaque règle $r$ est équipée d'une mesure de risque $\rho_r$ (ex: Espérance, VaR, CVaR, pire cas) et d'un seuil $\gamma_r$.
La règle consciente du risque $r_{risk}$ est définie comme :
$$r_{risk}(\tau) = \max\{\rho_r(r_\tau) - \gamma_r, 0\}$$

• Si $r_{risk}(\tau) = 0$, la trajectoire est considérée sûre par rapport à cette règle.
• Différentes règles peuvent utiliser différentes mesures de risque (ex: CVaR pour la sécurité, Espérance pour le confort).

D. Construction du Préordre sur les Trajectoires

L'ensemble des règles induites $\mathcal{R}_{risk}$ hérite du préordre original. Une relation de préordre $\preceq_{\mathcal{R}_{risk}}$ est définie sur l'ensemble des trajectoires $\mathcal{T}$ :

• $\tau \preceq_{\mathcal{R}_{risk}} \tau'$ si, pour toute règle où $\tau$ est plus risqué que $\tau'$, il existe une règle de priorité supérieure où $\tau'$ est plus risqué que $\tau$.
• Cela garantit l'absence de cycles de préférences (A > B > C > A est impossible).

3. Contributions Clés

1. Extension du formalisme des rulebooks à l'incertitude : Passage d'une évaluation déterministe a posteriori à une évaluation probabiliste a priori en intégrant des mesures de risque.
2. Modélisation explicite de l'interaction : Prise en compte du fait que la trajectoire du système modifie la distribution des comportements environnementaux.
3. Preuve de cohérence (Préordre) : Démonstration mathématique que le formalisme induit un préordre sur l'ensemble des trajectoires, assurant que la notion de « trajectoire optimale » est bien définie et cohérente.
4. Propriétés de rationalité des compromis (Trade-offs) :
   • Preuve que toute trajectoire optimale satisfait des compromis rationnels : si une trajectoire alternative améliore strictement une règle, elle doit nécessairement dégrader une règle de priorité égale ou supérieure avec une probabilité non nulle.
   • Cela justifie théoriquement le choix d'une trajectoire même si elle n'est pas parfaite sur tous les critères.
5. Explicabilité : Le formalisme permet de tracer la raison du choix d'une trajectoire jusqu'aux comparaisons au niveau des règles, clarifiant comment l'incertitude et les priorités influencent la décision.

4. Résultats et Validation

Le papier illustre la méthode via un exemple de véhicule autonome (VA) face à des piétons :

• Scénario : Un VA se déplace à 15 m/s avec des piétons sur le trottoir. L'environnement est incertain (comportement erratique, traversée imprévue).
• Trajectoires candidates :
  • $\tau_1$ : Maintien de la vitesse (comportement humain standard).
  • $\tau_2$ : Ralentissement confortable.
  • $\tau_3$ : Freinage d'urgence (arrêt complet).
  • $\tau_4$ : Maintien de la vitesse avec changement de voie latéral.
• Règles : $r_1$ (Évitement collision), $r_2$ (Maintien de voie), $r_3$ (Flux de trafic), $r_4$ (Confort).
• Analyse des résultats :
  • Le choix de la trajectoire optimale dépend fortement du choix de la mesure de risque et du seuil pour la règle de sécurité ($r_1$).
  • Exemple 1 : Avec une mesure de risque VaR à un niveau faible (tolérance au risque plus élevée), $\tau_1$ peut être optimal car le risque de collision est jugé acceptable.
  • Exemple 2 : Avec une mesure de risque plus stricte (ex: CVaR ou VaR à niveau très élevé), $\tau_3$ ou $\tau_4$ deviennent optimaux car ils éliminent le risque de collision, même au prix de violations sur des règles de confort ou de flux.
  • Le formalisme montre qu'il n'existe pas de trajectoire « universellement meilleure », mais que le choix optimal est fonction des préférences de risque explicites.

5. Signification et Impact

• Fondement théorique pour la prise de décision : Ce travail fournit une base mathématique rigoureuse pour les compromis (trade-offs) dans les systèmes autonomes sous incertitude, allant au-delà des simples contraintes probabilistes (chance constraints).
• Explicabilité et confiance : En rendant explicites les compromis entre règles hiérarchisées et incertitudes, le système peut expliquer pourquoi une trajectoire a été choisie (ex: « J'ai freiné car le risque de collision dépasse le seuil acceptable, ce qui justifie la perte de confort »).
• Généralité : Le formalisme englobe diverses approches existantes (logique temporelle robuste, contraintes stochastiques, optimisation multi-objectifs) en un cadre unifié.
• Applications futures : Ouvre la voie à de nouveaux algorithmes de planification, de contrôle et de vérification compatibles avec des règles conscientes du risque, essentiels pour la certification des systèmes autonomes.

En résumé, ce papier propose un cadre formel robuste permettant de raisonner sur les trajectoires de systèmes autonomes en intégrant explicitement l'incertitude environnementale, la hiérarchie des objectifs et les mesures de risque, tout en garantissant la cohérence logique des décisions prises.