Résumé Technique : Comment les VLA échouent différemment

Énoncé du Problème

Bien que les modèles Vision-Language-Action (VLA) aient fait progresser la manipulation robotique, le comportement de leurs sorties au niveau des commandes motrices reste largement inexploré. Les pratiques de déploiement actuelles reposent souvent sur des hypothèses implicites selon lesquelles les modèles « bons » produisent des actions sûres, les mécanismes de sécurité se limitant fréquemment à de simples vérifications de bornes ou à des limites de vitesse (par exemple, dans OpenVLA, pi0 et LeRobot). Cependant, aucune caractérisation systématique n'existe concernant :

1. À quoi ressemblent réellement les actions VLA au niveau moteur.
2. Si différentes architectures VLA produisent des signatures de défaillance distinctes.
3. Quels signaux de surveillance prédisent de manière fiable l'échec de la tâche à travers différentes familles d'architectures.

Les solutions de sécurité existantes nécessitent souvent l'accès au modèle, un réentraînement ou des modèles de dynamique, limitant ainsi leur applicabilité en tant qu'outils de déploiement général.

Méthodologie

Les auteurs introduisent SafeContract, une boîte à outils de surveillance d'actions sans réentraînement et en boîte noire, conçue pour faire respecter les contraintes et détecter les défaillances sans accès au modèle ni réentraînement. Le système fonctionne avec une surcharge minimale (<13 µs par étape d'inférence) et utilise la prédiction conforme pour établir des bornes de sécurité basées sur les données.

Composants Clés :

• Contrats de Sécurité : Définissent des bornes par articulation ($l, u$) et des limites de vitesse ($v_{max}$). L'application consiste à rogner les actions sur les bornes et à limiter la vitesse, avec une étape de re-rogne pour assurer la cohérence.
• Calibration Conforme : Au lieu de seuils ajustés manuellement, le système divise les épisodes de démonstration (80/20) pour calculer des scores de non-conformité. Il fixe les bornes au quantile $(1-\alpha)(1 + 1/n)$, garantissant une couverture sur un échantillon fini (par exemple, 97,9 % pour $\alpha=0,05$) tout en restant plus serrée que les bornes heuristiques de $4\sigma$.
• Métriques de Surveillance : Cinq métriques de santé par épisode sont calculées et corrélées avec la réussite de la tâche via l'aire sous la courbe ROC (AUROC) :
  1. Taux d'Inversion de Direction : Fraction des paires étape/articulation où le signe de l'action change.
  2. RMS du Jerk : Racine carrée de la moyenne des carrés de la troisième dérivée de la trajectoire d'action.
  3. Cohérence de la Quantité de Mouvement : Similarité cosinus entre les deltas d'action consécutifs.
  4. Rapport d'Énergie Spectrale : Fraction de l'énergie du signal dans les basses fréquences.
  5. Détection d'Arrêt : Étapes consécutives avec un déplacement inférieur à un seuil.
• Détection de Décalage : Les valeurs p conformes alimentent un détecteur CUSUM pour identifier les décalages de distribution avec des bornes formelles de fausses alarmes.

Configuration Expérimentale

L'étude évalue trois architectures VLA distinctes sur deux tâches en utilisant des protocoles d'évaluation identiques :

• Architectures :
  • VQ-BeT : Jetons discrets (VQ-VAE + Transformateur de Comportement).
  • Politique de Diffusion : Débruitage continu (DDPM).
  • ACT : Découpage d'actions continu.
• Tâches et Échelle :
  • PushT : Manipulation 2D (n=400 épisodes au total ; 200 par architecture).
  • ALOHA : Manipulation bimanuelle à 14 degrés de liberté (n=50 épisodes pour ACT).
• Total des Épisodes : 450.

Résultats Clés

1. Le Taux d'Inversion de Direction est un Prédicteur Universel

Le taux d'inversion de direction est le seul moniteur qui prédit de manière cohérente l'échec sur les trois architectures et les deux tâches.

• Scores AUROC : 0,93 (VQ-BeT), 0,79 (Diffusion) et 0,91 (ACT).
• Signification : Un taux d'inversion élevé indique une oscillation de la politique plutôt qu'une progression, servant de signature d'hésitation indépendante de l'architecture.

2. La Surveillance du Jerk Suit un Gradient Discret-vers-Continu

Le jerk (taux de changement de l'accélération) est prédictif uniquement pour les architectures à jetons discrets, montrant un gradient clair basé sur le mécanisme de génération d'action :

• VQ-BeT (Discret) : AUROC = 0,88. Un jerk élevé résulte des sauts de quantification entre les entrées du dictionnaire.
• ACT (Découpé) : AUROC = 0,69. Un jerk modéré provient des limites des blocs.
• Diffusion (Continu) : AUROC = 0,41. Le débruitage itératif lisse les trajectoires, rendant le jerk non prédictif (proche du hasard).

3. La Surveillance de Vitesse est Non Prédictive et Souvent Trompeuse

Bien qu'étant le mécanisme de sécurité le plus courant dans le code de déploiement, le comptage des violations de vitesse échoue à prédire l'échec de la tâche :

• Scores AUROC : Varient de 0,41 à 0,69 sur toutes les architectures.
• Découverte Critique : Pour Diffusion et ACT, la surveillance de vitesse fournit pratiquement aucun signal prédictif (AUROC de 0,41 et 0,52 respectivement). Dans le cas de Diffusion, les épisodes avec plus de violations de vitesse avaient légèrement plus de chances de réussir, car les épisodes réussis impliquent des mouvements plus larges et plus confiants.
• Implication : Les vérifications de vitesse ne peuvent pas distinguer entre des actions « sûres mais incorrectes » et des actions « sûres et correctes » dans les VLA de la famille continue.

4. Signatures de Défaillance Spécifiques à l'Architecture

L'étude établit un « motif à deux familles » :

• Famille Discrete (par exemple, VQ-BeT) : Échoue via des mouvements saccadés et oscillatoires. Les prédicteurs forts incluent le jerk, le taux d'inversion et la variation totale.
• Famille Continue (par exemple, Diffusion, ACT) : Échoue via des erreurs comportementales (mauvaises actions qui semblent physiquement valides). Les prédicteurs forts sont le taux d'inversion et la cohérence de la quantité de mouvement ; les moniteurs de jerk et spectraux sont inefficaces.

5. Application Sans Dégradation

SafeContract a fait respecter avec succès les contraintes de sécurité sans dégradation statistiquement significative de la tâche (p de Fisher > 0,68 pour toutes les architectures). Le système a détecté des milliers de violations (par exemple, 1 847 pour VQ-BeT, 4 758 pour ACT) tout en maintenant des taux de réussite comparables aux bases de référence non surveillées, validant ainsi l'efficacité de la calibration conforme.

Importance et Revendications

L'article revendique fournir la première preuve empirique systématique que les architectures VLA échouent de manière fondamentalement différente et prévisible au niveau moteur.

• Inadéquation Architecturale : L'étude démontre qu'une approche de surveillance « universelle » est inefficace. Plus précisément, la dépendance à la vérification de vitesse — une pratique industrielle standard — s'avère aveugle aux modes de défaillance des VLA de la famille continue.
• Sélection Adaptée à l'Architecture : Les auteurs soutiennent que le choix du moniteur doit correspondre à la famille architecturale du VLA. Les modèles discrets nécessitent une surveillance du jerk et de l'inversion, tandis que les modèles continus nécessitent une surveillance de l'inversion et de la cohérence de la quantité de mouvement.
• Utilité Pratique : En utilisant SafeContract, les praticiens peuvent déployer des moniteurs sans réentraînement et calibrés de manière conforme, capables de détecter des signatures de défaillance spécifiques au mécanisme de génération de leur modèle, comblant ainsi une lacune critique dans la sécurité de déploiement des robots fondés sur des modèles de base.

L'article conclut que si la correction sémantique nécessite une surveillance au niveau de la perception, la surveillance de l'espace d'action constitue une couche de défense nécessaire et distincte qui doit être adaptée à l'architecture VLA spécifique pour être efficace.