Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control

Cet article présente un cadre de contrôle probabiliste sûr pour l'interaction humain-robot qui combine les fonctions de barrière de contrôle et le contrôle du risque conforme pour fournir des garanties formelles de sécurité, en ajustant dynamiquement les marges de sécurité afin de réduire significativement les collisions tout en maintenant une efficacité de navigation.

L'essentiel

Imaginez que vous conduisez une voiture autonome dans une rue très animée, remplie de piétons qui marchent, s'arrêtent, changent de direction ou traversent soudainement. Le défi pour la voiture est double : elle doit être sûre (ne jamais percuter personne) mais aussi efficace (ne pas s'arrêter complètement par peur de tout le monde, ce qui bloquerait la circulation).

C'est exactement le problème que résout cette recherche. Voici une explication simple de leur solution, en utilisant des analogies du quotidien.

1. Le Problème : Le "Dilemme du Paranoïaque" vs. Le "Téméraire"

Dans le passé, les robots avaient deux options pour gérer l'incertitude humaine :

• L'approche "Paranoïaque" (Méthode classique) : Le robot imagine le pire scénario possible à chaque instant. S'il y a un doute sur la trajectoire d'un piéton, il se fige ou freine brusquement. C'est très sûr, mais le robot devient inutilisable car il est trop prudent.
• L'approche "Téméraire" (Méthode rapide) : Le robot ignore les incertitudes et suit son chemin. C'est efficace, mais si un piéton fait un mouvement imprévu, le robot peut percuter.

Les chercheurs se sont demandé : Comment faire en sorte que le robot soit prudent seulement quand c'est nécessaire, et détendu quand c'est sûr ?

2. La Solution : Le "Radar de Risque" (Conformal Risk Control)

L'équipe a créé un système intelligent qu'on pourrait appeler un "Radar de Risque Dynamique". Voici comment cela fonctionne, étape par étape :

A. La "Zone de Sécurité" (Les CBF)

Imaginez que le robot est entouré d'une bulle invisible. Si cette bulle touche un humain, c'est un accident.

• Traditionnellement, cette bulle a une taille fixe.
• Ici, la taille de la bulle change en temps réel.

B. Le "Météo-Prévisionniste" (L'IA d'apprentissage)

Le robot utilise une intelligence artificielle entraînée sur des milliers d'heures de vidéos de piétons réels. Cette IA ne prédit pas exactement où ira le piéton (car c'est impossible), mais elle prédit l'incertitude.

• Analogie : C'est comme un météorologue qui ne dit pas "il va pleuvoir à 14h02", mais "il y a 80% de chances de pluie, donc emportez un parapluie".

C. Le "Réglage du Parapluie" (Conformal Risk Control - CRC)

C'est le cœur de la découverte. Le système utilise une méthode statistique appelée Conformal Risk Control (CRC).

• Imaginez que vous ajustez la taille de votre parapluie en fonction de la force du vent.
• Si le robot sent que le comportement humain est très imprévisible (le "vent" est fort), il agrandit sa bulle de sécurité. Il ralentit, s'écarte, et devient très prudent.
• Si le robot sent que le comportement humain est prévisible (le "vent" est calme), il rétrécit sa bulle. Il peut alors avancer plus vite et plus directement, sans risquer d'ennuyer les piétons.

3. Comment ça marche en pratique ? (L'Analogie du Chauffeur de Taxi)

Prenons l'exemple d'un chauffeur de taxi expérimenté :

1. Situation calme : Il voit un piéton marcher droit sur un trottoir. Le chauffeur sait que ce piéton va continuer tout droit. Le taxi passe près du trottoir sans ralentir. (Faible incertitude = Bulle petite).
2. Situation chaotique : Il voit un groupe d'enfants jouer près de la route, ou un piéton qui regarde son téléphone et hésite. Le chauffeur sait qu'il ne peut pas prédire leur mouvement. Il ralentit immédiatement et s'écarte davantage. (Forte incertitude = Bulle grande).

Ce papier propose un robot qui fait exactement cela, mais avec des mathématiques rigoureuses qui garantissent qu'il ne se trompera pas trop souvent.

4. Les Résultats : Moins de collisions, plus de fluidité

Les chercheurs ont testé leur robot dans des simulations complexes :

• Contre les méthodes "Paranoïaques" : Le robot de cette étude est beaucoup plus fluide et rapide. Il ne s'arrête pas pour rien.
• Contre les méthodes "Téméraires" : Il ne percute personne.
• Le résultat clé : Le robot a réussi à trouver le juste milieu. Il est aussi sûr que les méthodes les plus prudentes, mais aussi efficace que les méthodes les plus rapides.

En résumé

Cette recherche donne aux robots une sorte d'"intuition mathématique". Au lieu d'avoir peur de tout ou de tout ignorer, le robot apprend à mesurer son niveau d'inquiétude en temps réel.

• Peu d'incertitude ? -> "Je peux passer vite."
• Beaucoup d'incertitude ? -> "Je ralentis et je m'écarte."

C'est une avancée majeure pour permettre aux robots de vivre parmi nous de manière naturelle, sûre et efficace, sans être des obstacles immobiles ni des dangers imprévisibles.

Résumé technique

Résumé Technique : Planification Sûre pour l'Interaction Humain-Robot via le Contrôle de Risque Conforme

1. Problématique

Le déploiement de robots autonomes dans des environnements humains (conduite autonome, robots de service) se heurte à un défi fondamental : garantir la sécurité face à l'imprévisibilité du comportement humain.

• Complexité de l'incertitude : Le comportement humain est multimodal (plusieurs trajectoires possibles, ex. passer à gauche ou à droite) et dépend de l'historique des interactions.
• Limites des approches existantes :
  • Les méthodes basées sur des hypothèses distributionnelles simples (ex. Gaussienne) sont souvent insuffisantes pour capturer la complexité réelle.
  • Les méthodes d'échantillonnage (ex. MPPI) gèrent mieux les distributions complexes mais manquent de garanties formelles de sécurité et peuvent être coûteuses en calcul.
  • Les fonctions de barrière de contrôle (CBF) classiques, bien que théoriquement sûres, deviennent trop conservatrices ou inefficaces lorsqu'elles ne tiennent pas compte de l'incertitude stochastique des agents humains.

L'objectif est de développer un cadre de contrôle qui offre des garanties formelles de sécurité probabiliste sans être excessivement conservateur, en adaptant dynamiquement la marge de sécurité en fonction de l'incertitude contextuelle.

2. Méthodologie

L'approche proposée combine les Fonctions de Barrière de Contrôle (CBF) avec le Contrôle de Risque Conforme (Conformal Risk Control - CRC) pour créer un filtre de sécurité adaptatif.

A. Fondements Théoriques

• CBF et Discrétisation : Le système est modélisé comme une dynamique discrète avec une loi de commande à maintien d'ordre zéro (Zero-Order Hold). Une version robuste de la CBF est définie pour garantir la sécurité sur l'intervalle de temps entre deux pas de discrétisation, en tenant compte d'une marge de robustesse $\eta$.
• Incertitude Stochastique : Comme la politique de l'humain $u_H$ est inconnue et stochastique, le robot ne peut pas optimiser directement la contrainte CBF déterministe. Au lieu de cela, l'objectif est de satisfaire la contrainte de sécurité avec une haute probabilité ($1-\gamma$).

B. Intégration du Contrôle de Risque Conforme (CRC)
Le cœur de la méthode réside dans l'utilisation du CRC pour quantifier l'erreur de prédiction des valeurs de barrière de sécurité.

1. Certificats de Barrière : On définit une barrière réelle $B(x_k, u_k)$ et une barrière prédite $\hat{B}(\hat{x}_k, \hat{u}_k)$. L'erreur de prédiction est $|B - \hat{B}|$.
2. Marge de Sécurité Dynamique ($\lambda$) : Au lieu d'utiliser une marge fixe, le système apprend une marge $\lambda$ qui dépend du contexte. Cette marge agit comme un tampon : plus l'incertitude est grande, plus $\lambda$ est élevé, restreignant davantage l'espace de contrôle admissible.
3. Algorithme de Calibration (Offline) :
   • Des trajectoires d'interaction sont simulées en utilisant une politique humaine apprise (sur des données réelles de piétons) et une politique nominale du robot.
   • Le CRC est appliqué pour calculer la marge optimale $\hat{\lambda}$ qui garantit que le risque d'erreur de prédiction dépasse cette marge avec une probabilité inférieure à un seuil $\alpha$.
   • Une fonction de perte pondérée géométriquement est utilisée pour gérer les dépendances temporelles (non-exchangeabilité des données).
4. Filtre de Sécurité en Ligne (Online) :
   • Un modèle prédictif (réseau LSTM) apprend à mapper le contexte actuel (états du robot et de l'humain, distance, valeur de barrière prédite) à la marge de sécurité $\lambda$ appropriée.
   • À chaque pas de temps, le robot résout un problème d'optimisation quadratique (QP) minimisant l'écart par rapport à la commande nominale, sous la contrainte que la probabilité de sécurité soit $\ge 1-\gamma$.

3. Contributions Clés

1. Cadre de Contrôle Sûr Novel : Première utilisation du CRC pour quantifier l'incertitude dans les contraintes de sécurité théoriques (CBF) pour des systèmes humains-robots.
2. Garanties Formelles : Établissement de liens théoriques rigoureux entre la quantification de l'incertitude via CRC et les garanties de sécurité probabiliste pour chaque pas de temps.
3. Algorithme d'Adaptation Dynamique : Développement d'un algorithme "assumption-light" (peu d'hypothèses) qui ajuste la conservatisme du robot en temps réel selon le contexte d'interaction, sans supposer de stationnarité des données.
4. Validation Empirique : Mise en œuvre pratique validée sur des données réelles de piétons, démontrant une gestion efficace des dépendances temporelles.

4. Résultats Expérimentaux

Les expériences ont été menées sur des scénarios d'interaction humain-robot (single-agent et multi-agent) en utilisant des données de piétons réels.

• Comparaison avec les Baselines :

  • CBF-QP (Sans incertitude) : Très efficace mais dangereux (taux de collision élevé : ~38% en multi-agent).
  • Fixed CRC-SF (Marge fixe) : Très sûr mais excessivement conservateur, entraînant un taux de réussite de la tâche (atteinte de l'objectif) très faible (~31%).
  • MPPI (Échantillonnage) : Bonnes performances mais sans garanties formelles et taux de collision élevé.
  • Online CRC-SF (Proposé) : Atteint le meilleur compromis.
    • Sécurité : Réduction drastique des collisions (3% en multi-agent, 2% en single-agent) par rapport aux méthodes non adaptées.
    • Efficacité : Taux de réussite élevé (84,8% en multi-agent) bien supérieur à la méthode à marge fixe.
    • Comportement : Le robot adopte un comportement proactif (ralentir, attendre) uniquement lorsque l'incertitude est élevée, et reste efficace lorsque le contexte est clair.

• Analyse Qualitative : Les visualisations montrent que le filtre CRC-SF évite les collisions en "attendant" que l'incertitude se résolve, tandis que le CBF-QP, ignorant l'incertitude, tente de traverser et entre en collision.

5. Signification et Impact

Ce travail représente une avancée majeure pour la sécurité des robots en environnement humain :

• Équilibre Sécurité/Efficacité : Il résout le dilemme classique où la sécurité accrue se fait au détriment de la performance (conservatisme excessif). Le système devient "intelligent" sur le risque : il est prudent quand il faut l'être, et agile quand c'est sûr.
• Généralisation : L'utilisation de données réelles et de modèles d'apprentissage (diffusion, LSTM) permet d'appliquer ces garanties à des comportements humains complexes et non stationnaires.
• Garanties Théoriques : Contrairement aux méthodes d'apprentissage par renforcement ou d'échantillonnage purement empiriques, cette approche offre des bornes mathématiques sur la probabilité de violation de sécurité, ce qui est crucial pour le déploiement de systèmes critiques.

En conclusion, l'approche CRC-CBF propose un cadre robuste et adaptable pour la planification robotique, permettant aux robots de naviguer en toute sécurité parmi les humains en quantifiant et en contrôlant activement le risque de prédiction.