⚡ electrical engineering

Safety with Agency: Human-Centered Safety Filter with Application to AI-Assisted Motorsports

Ce papier propose un filtre de sécurité centré sur l'humain (HCSF) pour l'autonomie partagée qui améliore la sécurité dans des scénarios de conduite extrême sans compromettre l'agence ou le confort de l'utilisateur, en utilisant une fonction de valeur de sécurité apprise pour appliquer des interventions minimales et fluides.

Auteurs originaux : Donggeon David Oh, Justin Lidard, Haimin Hu, Himani Sinhmar, Elle Lazarski, Deepak Gopinath, Emily S. Sumner, Jonathan A. DeCastro, Guy Rosman, Naomi Ehrich Leonard, Jaime Fernández Fisac

Publié 2026-02-12

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Donggeon David Oh, Justin Lidard, Haimin Hu, Himani Sinhmar, Elle Lazarski, Deepak Gopinath, Emily S. Sumner, Jonathan A. DeCastro, Guy Rosman, Naomi Ehrich Leonard, Jaime Fernández Fisac

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : Le "Copilote Paniqueur"

Imaginez que vous conduisez une voiture de course ultra-puissante sur un circuit. Vous êtes à fond, vous prenez des virages serrés, vous vivez l'adrénaline. Soudain, une intelligence artificielle (IA) installée dans la voiture décide que vous allez trop vite.

Le problème des systèmes actuels, c'est qu'ils agissent comme un passager qui, au moment où vous allez toucher le mur, attrape violemment le volant et écrase les freins d'un coup sec.

Résultat : Vous êtes surpris, vous perdez le contrôle, vous avez l'impression d'être un simple spectateur dans votre propre voiture, et l'expérience devient stressante et désagréable. C'est ce que les chercheurs appellent la "surprise de l'automatisation".

La Solution : Le "Copilote Bienveillant" (HCSF)

Les chercheurs de Princeton et de Toyota ont inventé un nouveau type de filtre de sécurité qu'ils appellent le HCSF (Human-Centered Safety Filter).

Au lieu d'être un passager qui panique et qui prend le contrôle brutalement, imaginez que ce nouveau système est comme un coach de conduite invisible et ultra-sensible.

1. L'analogie du "Filet de Sécurité Invisible"

Plutôt que d'attendre que vous soyez sur le point de percuter le mur pour intervenir, ce système crée une sorte de "bulle de sécurité" autour de la voiture. Il ne vous empêche pas de piloter, il vous guide juste pour que vos actions restent à l'intérieur de cette bulle.

2. L'analogie de la "Main de Velours"

C'est la grande innovation : au lieu de remplacer votre mouvement par le sien, l'IA utilise une "main de velours".

Si vous tournez trop brusquement, l'IA ne va pas arracher le volant de vos mains. Elle va simplement ajouter une minuscule pression, une correction presque imperceptible, pour lisser votre trajectoire.
C'est comme si vous marchiez sur une corde raide et qu'un guide vous tenait par la main : il ne vous porte pas, il vous aide juste à garder l'équilibre sans que vous ne sentiez sa présence de manière brutale.

Comment ça marche (sans entrer dans les maths compliquées) ?

Les chercheurs ont utilisé une technique où l'IA apprend par l'expérience (comme un enfant qui apprend à ne pas tomber) dans un simulateur de course ultra-réaliste (Assetto Corsa).

L'IA apprend à reconnaître les situations dangereuses sans même avoir besoin de connaître les lois physiques complexes de la voiture. Elle observe simplement : "Si je fais ça, est-ce que je reste en sécurité ?". Une fois qu'elle a appris, elle est capable de surveiller vos mouvements en temps réel et de ne corriger que le strict nécessaire pour que vous restiez sur la piste, tout en vous laissant la sensation de piloter vous-même.

Les résultats : Un pilote heureux et en sécurité

Ils ont testé cela avec 83 personnes réelles. Le verdict est sans appel :

Sécurité maximale : Les accidents et les sorties de piste ont presque disparu.
Contrôle préservé : Contrairement aux anciens systèmes, les conducteurs ont eu l'impression de garder le contrôle (ce qu'on appelle l' "agence humaine"). Ils ne se sont pas sentis "combattus" par la machine.
Confort et Plaisir : La conduite était beaucoup plus fluide, moins saccadée, et les pilotes étaient globalement beaucoup plus satisfaits de leur expérience.

En résumé

Ce papier propose de passer d'une IA "dictatrice" (qui prend le pouvoir quand elle a peur) à une IA "partenaire" (qui vous soutient discrètement pour que vous soyez le meilleur pilote possible, sans jamais vous voler la vedette).

C'est une étape cruciale pour le futur : que ce soit pour des voitures de course ou pour des voitures autonomes sur nos routes, l'idée est que la machine doit nous aider, pas nous remplacer.

Résumé Technique : Filtre de Sécurité Centré sur l'Humain (HCSF)

1. Problématique (Le Problème)

Dans les systèmes d'autonomie partagée (où l'humain et l'IA collaborent), l'intégration de l'IA pour améliorer la sécurité pose un défi majeur : l'équilibre entre la sécurité et l'agentivité humaine.

Les filtres de sécurité conventionnels (comme le Last-Resort Safety Filter - LRSF) interviennent de manière abrupte et discontinue lorsqu'un danger immédiat est détecté. Ces interventions brutales ignorent l'intention de l'opérateur humain, ce qui entraîne :

La surprise de l'automatisation (automation surprise) : l'humain est déconcerté par le changement soudain de comportement du système.
Une perte de contrôle perçue : l'agentivité (le sentiment de maîtrise) est diminuée.
Un inconfort physique : des corrections saccadées (jerk élevé) qui nuisent à l'expérience utilisateur.

L'objectif est donc de concevoir un filtre capable de garantir la sécurité sans sacrifier le confort, la satisfaction ou le sentiment de contrôle de l'humain.

2. Méthodologie (L'Approche)

Les auteurs proposent le Human-Centered Safety Filter (HCSF), une approche innovante basée sur la théorie de la contrôlabilité et l'apprentissage par renforcement.

A. Fondements Mathématiques :

Analyse de l'atteignabilité Hamilton-Jacobi (HJ) : Le système utilise une fonction de valeur de sécurité $V(x)$ pour définir l'ensemble maximal de sécurité.
Q-CBF (State-Action Control Barrier Function) : Contrairement aux méthodes classiques qui nécessitent un modèle dynamique explicite du système (modèle de commande affine), les auteurs introduisent une fonction de valeur état-action $Q(x, u)$ . Cette fonction permet d'imposer une contrainte de sécurité sans connaître la dynamique du système (approche model-free).
Optimisation de l'intervention minimale : Le filtre résout un problème d'optimisation à chaque pas de temps pour trouver l'action $u$ qui est la plus proche possible de l'action humaine $u_{human}$ , tout en respectant la contrainte $Q(x, u) \geq \gamma V(x)$ . Cela permet des interventions douces et progressives ("nudges") plutôt que des corrections brutales.

B. Apprentissage et Implémentation :

Apprentissage par Renforcement (RL) : La fonction $Q$ est apprise de manière scalable via des interactions avec un système "boîte noire" (black-box) en utilisant l'algorithme Soft Actor-Critic (SAC).
Application : Le système est déployé dans le simulateur de course haute fidélité Assetto Corsa, gérant des dimensions d'état élevées (133 dimensions).
Interface Homme-Machine (IHM) : Pour améliorer la transparence, des indices visuels (flèches sur l'écran) indiquent à l'humain la direction et l'ampleur des corrections effectuées par l'IA.

3. Contributions Clés

Premier filtre de sécurité CBF entièrement "model-free" : Capacité à garantir la sécurité sans modèle dynamique préalable, ce qui est crucial pour les systèmes complexes et réels.
Nouveau cadre de sécurité centré sur l'humain : Introduction de la contrainte Q-CBF qui minimise l'écart avec l'intention humaine.
Validation en environnement haute fidélité : Première application et évaluation d'un filtre de sécurité dans un contexte de sport automobile partagé avec des pilotes humains réels.

4. Résultats (L'Expérimentation)

Une étude utilisateur massive impliquant 83 participants a été menée pour comparer le HCSF au LRSF (filtre classique) et à une conduite sans assistance.

Robustesse : Le HCSF maintient un taux de défaillance (sortie de piste, collisions) proche de zéro, égalant ou dépassant la robustesse du LRSF.
Agentivité (Agency) : Le HCSF réduit considérablement l'ampleur des modifications d'entrée par rapport au LRSF. Les pilotes rapportent un sentiment de contrôle comparable à celui d'une conduite sans assistance.
Confort : Les mesures de "jerk" (accélération brusque) et de différence de commande sont nettement plus faibles avec le HCSF, offrant une expérience de conduite beaucoup plus fluide.
Satisfaction : Le HCSF obtient des scores de satisfaction globale significativement plus élevés que les deux autres groupes. Les utilisateurs le jugent plus prévisible, digne de confiance et compétent.

5. Signification et Impact

Ce travail marque une avancée majeure pour les systèmes d'assistance à la conduite (ADAS) et la robotique collaborative. En prouvant qu'il est possible de garantir une sécurité rigoureuse tout en préservant l'agentivité humaine, les auteurs ouvrent la voie à des IA qui ne sont plus perçues comme des "interrupteurs de secours" intrusifs, mais comme des copilotes transparents, fluides et dignes de confiance.