🤖 AI

CADET: Physics-Grounded Causal Auditing and Training-Free Deconfounding of End-to-End Driving Planners

Le document présente CADET, un cadre de travail sans réentraînement qui audite, évalue et répare la dépendance fallacieuse dans les planificateurs de conduite autonome de bout en bout préentraînés en identifiant et en déconfolant les raccourcis causaux sans nécessiter de réentraînement du modèle.

Auteurs originaux : Zikun Guo

Publié 2026-06-15

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zikun Guo

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un robot à conduire une voiture en lui montrant des milliers d'heures de vidéos filmées depuis le tableau de bord d'un expert humain. Le robot apprend par imitation : « Quand l'humain freine, je freine. »

Le problème, comme l'explique cet article, est que le robot est un peu un « tricheur ». Il ne se contente pas d'apprendre pourquoi l'humain a freiné (par exemple, « il y a un feu rouge devant ») ; il apprend aussi des coïncidences. Il pourrait apprendre que « chaque fois qu'il y a un type spécifique de boîte aux lettres sur le bord de la route, l'humain freine ». Dans les vidéos d'entraînement, cette boîte aux lettres apparaissait juste avant chaque arrêt. Le robot pense que la boîte aux lettres cause l'arrêt, alors qu'elle n'a rien à voir avec la conduite.

C'est ce qu'on appelle la confusion causale. Le robot s'appuie sur des « corrélations spécieuses » — des indices qui sont présents par hasard mais qui n'ont aucune importance réelle. Cela est dangereux car si le robot voit cette boîte aux lettres dans une nouvelle situation où il ne devrait pas s'arrêter, il pourrait freiner brusquement et provoquer un accident.

L'article présente un nouvel outil appelé CADET (Causal Auditing and Deconfounding at Test-time) pour corriger cela sans avoir à réentraîner le robot. Voici comment il fonctionne, en utilisant des analogies simples :

1. Le Problème : Les « mauvaises habitudes » du robot

Les voitures autonomes actuelles sont évaluées selon la proximité de leur trajectoire par rapport à celle de l'expert (une métrique appelée « erreur L2 »). Mais c'est comme noter un élève uniquement sur son score final à un examen, sans vérifier s'il a triché. Une voiture peut conduire parfaitement parce qu'elle suit la route, mais si elle réagit aussi secrètement à un panneau publicitaire qui n'a rien à voir avec le trafic, le score à l'examen semble bon, mais la voiture est en réalité peu fiable.

2. La Solution : La boîte à outils en trois étapes de CADET

CADET est un système « sans réentraînement ». Il n'a pas besoin de réapprendre au robot. Au lieu de cela, il agit comme un auditeur intelligent qui observe le robot conduire et vérifie sa logique en temps réel.

Étape A : Le « Détective de la Physique » (Score PCR)

L'auditeur pose deux questions sur chaque objet que le robot voit (une voiture, un arbre, une boîte aux lettres) :

À quel point le robot se soucie-t-il de cet objet ? (Si nous faisons semblant que l'objet n'est pas là, le plan de conduite du robot change-t-il ?)
La physique dit-elle que cet objet est important ? (Est-il sur la route ? Est-il en mouvement vers nous ? Est-ce un piéton ?)

L'analogie : Imaginez que le robot est un détective.

Le contrôle de l'« Influence » : « Si je retire ce suspect de la scène du crime, est-ce que l'histoire change ? »
Le contrôle de la « Physique » : « Ce suspect est-il même capable de commettre le crime ? » (par exemple, une boîte aux lettres ne peut pas rouler sur une voiture ; un arbre ne peut pas freiner).

Si le robot se soucie profondément d'un objet (influence élevée) mais que la physique indique que cet objet ne peut pas affecter la voiture (score de physique faible), l'auditeur le signale comme une corrélation spécieuse. C'est comme si le robot s'obsédait pour une boîte aux lettres qui n'a aucune raison de faire partie de son processus de décision.

Étape B : Le « Test de Stress » (Benchmark Contrefactuel)

L'auditeur exécute ensuite une série de scénarios de type « et si » pour voir à quel point le robot est robuste.

Test Spécieux : « Que se passe-t-il si nous cachons toutes les boîtes aux lettres ? » Un bon robot ne devrait pas changer sa conduite.
Test Causal : « Que se passe-t-il si la voiture devant pile sur ses freins ? » Un bon robot doit réagir.
Test de Changement : « Et s'il fait nuit au lieu de jour ? » Le robot devrait conduire de la même manière si la route est la même.

Cela crée un « score de robustesse » pour dire si le robot est réellement intelligent ou s'il se contente de mémoriser des motifs.

Étape C : Le « Bouton Muet » (Masquage Causal au moment du Test)

C'est la partie réparation. Lorsque le robot conduit réellement sur la route, CADET agit comme un filtre.

Si le robot commence à accorder trop d'attention à une « boîte aux lettres » (un indice spécieux), CADET coupe le son de ce signal.
Il dit au robot : « Ignore cette boîte aux lettres. Concentre-toi uniquement sur les voitures et les piétons qui, selon la physique, sont dangereux. »
Le robot recalcule ensuite sa trajectoire en utilisant uniquement les « vraies » causes.

3. Les Résultats : Qu'ont-ils trouvé ?

Les auteurs ont testé cela sur un système de conduite autonome pré-entraîné appelé SparseDrive en utilisant des données du monde réel.

La Bonne Nouvelle : Le robot est principalement intelligent. Il prête attention aux vraies voitures et aux piétons environ 9,5 fois plus qu'il ne prête attention aux objets non pertinents.
La Mauvaise Nouvelle : Dans des moments spécifiques, l'obsession du robot pour un objet « spécieux » (comme un panneau publicitaire lointain) était tout aussi forte que sa réaction à une vraie voiture. Il s'appuyait sur une coïncidence aussi lourdement que sur un danger réel.
La Surprise : Lorsqu'ils ont utilisé CADET pour « couper le son » de ces mauvaises habitudes, la trajectoire de conduite du robot a légèrement changé pour être plus sûre, mais les scores de test standards (erreur L2) n'ont pas changé du tout.

La Grande Leçon : La façon standard dont nous testons les voitures autonomes (en mesurant la proximité de la trajectoire par rapport à l'expert) est aveugle à ce genre de confusion. Une voiture peut avoir un score de test parfait mais être encore en train de s'appuyer sur une pensée magique (comme « les boîtes aux lettres provoquent le freinage »). CADET prouve que nous avons besoin de nouvelles façons de tester si le robot réfléchit logiquement, et pas seulement s'il a l'air correct.

Résumé

CADET est un outil qui audite le cerveau d'une voiture autonome sans la réentraîner. Il utilise les lois de la physique comme un « filtre de vérité » pour repérer quand la voiture réagit à un bruit de fond non pertinent. Il coupe ensuite ces mauvaises réactions en temps réel, rendant la voiture plus sûre et plus logique, tout en fonctionnant sur une puce informatique standard.

Résumé Technique : CADET – Audit Causal Fondé sur la Physique et Déconfusion Sans Réentraînement des Planificateurs de Conduite de Bout en Bout

1. Énoncé du Problème

Les planificateurs de conduite autonome de bout en bout (E2E), entraînés par apprentissage par imitation sur de vastes ensembles de données enregistrées, sont sujets à la confusion causale. Ces modèles exploitent souvent des corrélations spécieuses — des raccourcis statistiques où des éléments de la scène (par exemple, des façades de bâtiments spécifiques, des objets au bord de la route) coïncident avec les actions de l'expert dans les données d'entraînement, mais ne déterminent pas causalement ces actions. Bien que de tels modèles puissent atteindre de faibles erreurs de déplacement (L2) en boucle ouverte et des taux de collision bas, leur dépendance à des indices non causaux compromet leur fiabilité dans des scénarios de longue traîne ou de décalage de distribution.

Les métriques d'évaluation actuelles (déplacement L2, taux de collision) sont dominées par le statut de l'ego et ne parviennent pas à détecter si un planificateur repose sur des indices spécieux. De plus, les remèdes existants, tels que l'entraînement par intervention causale (ex. CausalVAD), nécessitent de réentraîner de grands modèles et ne peuvent ni auditer ni réparer les planificateurs qui sont déjà déployés. Il existe une lacune critique concernant les outils sans réentraînement capables d'auditer, de tester et de réparer la dépendance spécieuse dans les planificateurs E2E préentraînés sans mise à jour des paramètres.

2. Méthodologie : Le Cadre CADET

CADET (Causal Auditing and Deconfounding at Test-time) est un cadre sans réentraînement conçu pour auditer, évaluer et réparer la dépendance spécieuse dans les planificateurs E2E gelés. Il fonctionne entièrement via des passages avant sur un seul GPU et comprend trois composantes principales :

A. Score de Dépendance Causale Fondé sur la Physique (PCR)

Pour distinguer les agents causaux véritables des corrélats spécieux, CADET fusionne trois signaux en un score par requête ( $PCR_i$ ) :

Influence du Modèle ( $\tilde{I}_i$ ) : Mesure le changement de la trajectoire planifiée lorsqu'un agent spécifique est ablati (supprimé). Une influence élevée indique que le modèle dépend de cet agent.
Prior Géométrique-Physique ( $\rho_i$ ) : Un ancrage externe, indépendant de la distribution, dérivé des sorties du module de perception (boîte 3D, vitesse, classe, confiance). Il calcule la plausibilité physique d'un agent influençant la décision en se basant sur :
- Le temps avant collision (TTC).
- La pertinence du corridor de circulation (chevauchement de trajectoire).
- L'état dynamique vs statique.
- La confiance de la détection.
- Fonction : Agit comme une « porte dure ». Si un agent est physiquement plausible ( $\rho_i$ est élevé), il est protégé contre le signalement comme étant spécieux, quel que soit son influence sur le modèle.
Stabilité Inter-Environnements ( $\sigma_i$ ) : Mesure la variance de l'influence du modèle à travers différents environnements (ex. météo, moment de la journée). Une variance élevée signale une dépendance spécieuse locale que le prior physique pourrait manquer.

Le score final est calculé par $PCR_i = \tilde{I}_i \cdot (1 - \rho_i) \cdot (1 + \lambda \sigma_i)$ , sous réserve d'une porte dure qui empêche de signaler les agents physiquement plausibles.

B. Benchmark de Robustesse Contrefactuelle

CADET introduit un protocole standardisé pour quantifier la dépendance aux facteurs spécieux versus causaux en utilisant trois familles de perturbations et les métures correspondantes :

Perturbation Spécieuse : Suppression d'agents physiquement non pertinents. Métrique : Indice de Stabilité Causale (CSI) (mesure la stabilité du plan ; plus élevé est mieux).
Perturbation de Lien Causal : Modification d'agents causaux (ex. un véhicule de tête qui freine). Métrique : Indice de Réponse Causale (CRI) (mesure la direction de la réponse correcte ; plus élevé est mieux).
Perturbation de Décalage de Distribution : Application de changements de style (ex. jour vers nuit) tout en préservant la structure causale. Métrique : Score de Cohérence Causale (CCS) (mesure la cohérence du plan ; plus élevé est mieux).

C. Masquage Causal au Moment du Test (TCM)

Lors de l'inférence, CADET supprime les requêtes spécieuses signalées (celles ayant un $PCR_i$ élevé et un $\rho_i$ faible) et replanifie en utilisant uniquement les agents causaux restants. Cela agit comme une intervention $do(\cdot)$ approximative, supprimant la confusion spécieuse lors du déploiement avec un surcoût négligeable et sans réentraînement.

3. Contributions Clés

Audit Causal Fondé sur la Physique (PCR) : Un score sans réentraînement et indépendant du modèle qui identifie la dépendance spécieuse en fusionnant l'influence par perturbation avec un prior géométrique-physique. Il sert d'arbitre externe rigide indépendant des statistiques des données d'entraînement.
Benchmark de Robustesse Contrefactuelle : Un protocole standardisé avec trois familles de perturbations et des métriques (CSI, CRI, CCS) pour quantifier l'étendue de la dépendance spécieuse dans les planificateurs préentraînés.
Déconfusion Sans Réentraînement (TCM) : Une méthode pour supprimer les requêtes spécieuses signalées lors de l'inférence, améliorant la robustesse contrefactuelle sans réentraînement ni mise à jour de paramètres.
Reproductibilité : L'ensemble du pipeline est uniquement basé sur l'inférence, s'exécute sur un seul GPU de 16 Go et est publié en tant que boîte à outils open-source.

4. Résultats Expérimentaux

Les auteurs ont évalué CADET dans deux contextes : un benchmark synthétique contrôlé (SpurGen) et un audit en conditions réelles d'un planificateur SparseDrive préentraîné sur nuScenes.

SpurGen (Synthétique) : Dans un benchmark où le statut spécieux/causal est connu par construction, les bases à signal unique ont échoué :
- Influence seule : Rappel élevé mais précision faible (0,35–0,39) car elle ne peut distinguer entre les agents causaux et les raccourcis spécieux présentant une influence élevée.
- Physique seule : Faible précision (<0,20) car elle signale tous les objets physiquement non plausibles, y compris les distracteurs bénins que le modèle ignore.
- Invariance seule : Faible précision et rappel en raison de l'échec de l'hypothèse de fidélité (les corrélations spécieuses globales apparaissent invariantes).
- CADET (PCR) : A atteint une précision de 0,942 et un rappel de 0,886 (F1 : 0,913), isolant avec succès les dépendances spécieuses en exigeant à la fois une influence élevée et une implausibilité physique.
nuScenes (Audit en conditions réelles) :
- Le planificateur SparseDrive préentraîné s'est révélé être majoritairement causal (influence 9,5× plus élevée pour les agents causaux par rapport aux spécieux).
- Cependant, dans des trames spécifiques, l'agent physiquement non pertinent le plus influent affectait le plan aussi fortement qu'un agent causal moyen.
- Effet du TCM : L'application du TCM a supprimé la dépendance spécieuse, faisant passer l'Indice de Stabilité Causale (CSI) d'environ 0,47 à environ 0,96.
- Aveuglement L2 : Crucialement, bien que le TCM ait considérablement modifié le comportement causal du planificateur, l'erreur de déplacement L2 en boucle ouverte est restée pratiquement inchangée (1,90 $\to$ 1,98). Cela démontre empiriquement que les métriques de déplacement standard sont aveugles à la robustesse causale.

5. Signification et Revendications

L'article affirme que CADET répond à une lacune critique dans le déploiement des systèmes autonomes E2E : l'incapacité d'auditer et de réparer la confusion causale dans des modèles gelés, déjà déployés.

Changement Méthodologique : Les auteurs soutiennent que le déplacement L2 en boucle ouverte est insuffisant pour évaluer les planificateurs E2E car il est dominé par le statut de l'ego et insensible au fait que le planificateur raisonne sur des indices causaux ou spécieux. Ils proposent que des métriques de robustesse causale (comme le CSI et les statistiques d'influence par agent) doivent accompagner l'erreur de déplacement.
Utilité Pratique : Contrairement aux méthodes causales antérieures qui nécessitent un réentraînement, CADET offre un mécanisme de diagnostic et de réparation immédiat et sans réentraînement. Il permet aux développeurs d'identifier la dépendance « cachée » à des caractéristiques spécieuses (ex. un panneau publicitaire ou une boîte aux lettres spécifique) qui pourraient mener à des échecs dans des scénarios de longue traîne.
Limites : Les auteurs notent modestement que CADET dépend de la qualité du module de perception en amont ; si le détecteur échoue, le prior physique est compromis. De plus, bien qu'il améliore la fiabilité via un ancrage physique, il ne fournit pas de garantie mathématique de séparation des causes réelles des corrélats spécieux globaux sous toutes les conditions de défaillance de fidélité.

En résumé, CADET fournit un outil nécessaire pour la phase d'« audit et de réparation » de la conduite E2E, démontant que des planificateurs performants peuvent encore abriter de graves confusions causales localisées que les métriques standard ne parviennent pas à détecter.