💻 computer science

TBD-VLA: Temporal Block Diffusion Vision Language Action Model

TBD-VLA est un nouveau cadre de Vision-Langage-Action discret qui combine la génération par blocs autorégressifs avec la diffusion discrète masquée pour atteindre à la fois une vitesse d'inférence élevée et une forte cohérence temporelle dans les tâches de manipulation robotique.

Auteurs originaux : Sung-Wook Lee, Xuhui Kang, Yen-Ling Kuo

Publié 2026-06-09

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sung-Wook Lee, Xuhui Kang, Yen-Ling Kuo

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous enseigniez à un robot comment cuisiner un repas complexe, comme l'assemblage d'un sandwich. Le robot doit regarder les ingrédients (vision), comprendre votre commande vocale (langage), puis bouger ses bras pour prendre le pain, étaler le beurre de cacahuète et déposer la gelée (actions).

Le papier présente une nouvelle façon d'apprendre aux robots à faire cela, appelée TBD-VLA. Pour comprendre pourquoi c'est spécial, regardons comment les robots apprennent habituellement par rapport à la façon dont cette nouvelle méthode fonctionne.

L'ancienne méthode : Le robot lent, étape par étape

La plupart des robots actuels pensent comme une personne écrivant une phrase lettre par lettre. Ils décident du premier mouvement, puis du deuxième, puis du troisième, et ainsi de suite.

Le problème : C'est très lent. Si le robot doit planifier 100 petits mouvements pour ramasser une tasse, il doit « réfléchir » 100 fois de suite. Le temps qu'il finisse de réfléchir, la tasse a pu bouger, ou le robot est simplement trop lent pour réagir en temps réel.
L'alternative : Certains chercheurs ont essayé de faire réfléchir le robot par « blocs » (comme écrire un mot entier d'un coup) pour accélérer les choses. Mais cela rendait souvent le robot maladroit car il oubliait comment les mouvements se connectent entre eux au fil du temps. C'est comme écrire une phrase où les mots sont rapides, mais où la grammaire est brisée.

La nouvelle méthode : TBD-VLA (Le chef de la « Diffusion par Blocs »)

Les auteurs ont créé un système qui combine le meilleur des deux mondes. Ils l'appellent Temporal Block Diffusion (Diffusion Temporelle par Blocs). Voici comment cela fonctionne en utilisant une analogie simple :

1. La stratégie du « Bloc » (La fiche de recette)
Au lieu de penser à chaque mouvement de doigt individuellement, le robot divise la tâche en blocs (comme des pages dans une recette).

Entre les blocs : Le robot réfléchit aux blocs un par un (Page 1, puis Page 2). Cela garantit que l'histoire fait sens et que les étapes suivent un ordre logique.
À l'intérieur d'un bloc : Une fois qu'il a décidé de travailler sur la « Page 1 », il détermine tous les mouvements de cette page en même temps.

2. La stratégie de la « Diffusion » (La gomme et le crayon)
Comment le robot détermine-t-il les mouvements à l'intérieur d'un bloc si rapidement ? Il utilise une technique appelée Diffusion Discrète.

Imaginez que le robot commence avec une feuille de papier vierge où toutes les instructions sont cachées (masquées).
Il fait une « supposition » de tous les mouvements d'un coup.
Ensuite, il regarde sa supposition, voit quelles parties sont fausses, et « efface » les mauvaises suppositions tout en gardant les bonnes.
Il répète ce processus quelques fois, affinant l'ensemble du bloc de mouvements simultanément jusqu'à ce que l'image soit claire.

Le résultat : Le robot est rapide car il n'a pas besoin de réfléchir à chaque étape de manière séquentielle. Il pense par groupes, en affinant le groupe entier ensemble.

Le superpouvoir du « Chunking en Temps Réel »

Le papier met en avant une fonctionnalité géniale appelée Real-Time Chunking (RTC) (Tronçonnage en Temps Réel).

Le scénario : Imaginez que le robot est en train de verser du lait (Action A). Pendant qu'il le fait, il doit commencer à réfléchir à ce qu'il va faire ensuite (Action B).
Le problème : Habituellement, le robot doit attendre que l'Action A soit terminée à 100 % avant de pouvoir commencer à réfléchir à l'Action B. Cela crée un « décalage » ou un délai.
La solution TBD-VLA : Parce que ce modèle est entraîné pour « remplir les blancs » (un processus appelé in-painting), il peut regarder l'action qu'il est en train d'accomplir et dire : « Je sais ce que je fais maintenant, donc je peux commencer à deviner ce qui vient après pendant que je réalise la tâche actuelle. »
L'analogie : C'est comme un musicien jouant une chanson. Au lieu d'attendre que la chanson entière se termine avant de penser à la note suivante, il est déjà en train de fredonner la ligne suivante pendant que ses doigts jouent la ligne actuelle. Cela rend le robot beaucoup plus rapide et réactif.

Qu'ont-ils prouvé ?

Les chercheurs ont testé le cerveau de ce robot de deux manières :

En simulations : Ils ont placé le robot dans un monde virtuel avec de nombreuses tâches différentes (comme empiler des blocs ou déplacer des objets). Le TBD-VLA était plus rapide et plus efficace que les méthodes précédentes, même lorsque le robot était « distrait » par des changements d'éclairage ou d'angles de caméra.
Dans le monde réel : Ils l'ont testé sur un vrai bras robotique (un Franka Research 3) effectuant des tâches de table comme mettre du pain dans un grille-pain ou transférer un liquide.
- Le résultat : Le TBD-VLA a réussi environ 67 % du temps dans des situations réelles difficiles et changeantes, tandis que la précédente meilleure méthode n'a réussi qu'environ 50 % du temps.
- Vitesse : Il était également nettement plus rapide, prenant moins d'un dixième de seconde pour prendre une décision, ce qui est assez rapide pour un contrôle en temps réel.

Résumé

Le TBD-VLA est une nouvelle façon pour les robots de planifier leurs mouvements. Au lieu de réfléchir lentement étape par étape, ou de réfléchir vite mais maladroitement, il réfléchit par groupes d'étapes qu'il affine tous ensemble. Cela permet au robot d'être à la fois intelligent (compréhension de la séquence d'événements) et rapide (réaction en temps réel), ce qui le rend bien meilleur pour gérer des tâches complexes dans le monde réel.

Résumé Technique : TBD-VLA (Modèle de Vision-Langage-Action par Diffusion de Blocs Temporels)

Énoncé du Problème

Les modèles Vision-Language-Action (VLA) visent à mapper les observations visuelles et les instructions en langage naturel vers des actions robotiques exécutables. Un défi central dans ce domaine est de trouver l'équilibre entre la cohérence temporelle et l'efficacité de l'inférence.

Limitations de l'autorégression : Les modèles VLA actuels basés sur des jetons discrets génèrent des actions jeton par jeton. Bien que cela capture bien les dépendances temporelles, la nature séquentielle entraîne une latence d'inférence élevée, ce qui les rend inadaptés au contrôle robotique en boucle fermée à haute fréquence.
Limitations du décodage parallèle : Des approches récentes tentent d'améliorer la vitesse via le décodage parallèle ou des têtes de flow-matching. Cependant, ces méthodes manquent souvent de mécanismes explicites pour modéliser les dépendances temporelles entre les blocs d'actions, ce qui peut compromettre la cohérence des trajectoires à long terme.
Le fossé : Il existe un besoin pour un cadre capable d'unifier l'efficacité du décodage parallèle avec la structure temporelle inhérente aux séquences d'actions, sans découpler l'épine dorsale du Modèle de Vision-Langage (VLM) du processus de génération d'actions.

Méthodologie : TBD-VLA

Les auteurs proposent TBD-VLA, un cadre VLA basé sur des jetons discrets qui formule la génération d'actions comme une diffusion discrète par blocs. Cette approche partitionne les séquences d'actions en blocs temporels, permettant un décodage parallèle au sein des blocs tout en maintenant une génération autorégressive entre les blocs.

1. Architecture du Modèle et Tokenisation

Épine dorsale (Backbone) : Le modèle utilise une épine dorsale VLM (spécifiquement Qwen3-VL 2B dans les expériences) augmentée de jetons spéciaux pour le masquage, les espaces réservés (placeholders) et les actions.
Discrétisation : Les caractéristiques d'action (proprioception et sorties de contrôle) sont discrétisées en bacs (bins) et tokenisées à l'aide d'un vocabulaire partagé. Un bloc d'action $A_t$ est représenté comme une séquence de jetons.
Structure de Bloc Temporel : L'horizon d'action est divisé en $K$ blocs de taille $m$ . La probabilité de la séquence d'action est factorisée sur ces blocs :
$p(a_{1:H_p} | o, g) = \prod_{k=0}^{K-1} p_\theta(a_{km+1:(k+1)m} | o, g, a_{1:km})$

2. Pipeline d'Entraînement

Le processus d'entraînement adapte l'objectif de prédiction du prochain jeton du VLM au paradigme de la diffusion discrète via trois mécanismes clés :

Décalage de Jetons au Niveau Temporel (Temporal-Level Token Shift) : Pour s'aligner sur la nature autorégressive du VLM, le modèle est entraîné de telle sorte que les jetons du bloc d'action actuel prédisent le bloc d'action suivant. Cela comble le fossé entre la diffusion auto-reconstructive et la modélisation de séquence causale.
Diffusion de Bloc Discrète :
- Processus Direct (Forward Process) : Les blocs d'actions propres sont corrompus par un masquage aléatoire des jetons.
- Processus Inverse (Reverse Process) : Le modèle prédit les jetons propres pour un bloc $k$ conditionné par un bloc "prédicteur décalé" $z_k$ . Pour le premier bloc, $z_k$ est une ancre de masques ; pour les blocs suivants, $z_k$ consiste en les blocs précédents propres.
- Fonction de Perte : L'objectif est la moyenne de l'entropie croisée sur les jetons d'action masqués.
Masquage d'Attention à Double Configuration (Doubled-Layout Attention Masking) : Pour gérer simultanément le parallélisme intra-bloc et l'autorégression inter-bloc, l'entrée d'entraînement concatène la séquence propre et la séquence bruitée. Un masque d'attention personnalisé permet au modèle d'être attentif aux blocs propres précédents et au bloc bruité actuel en un seul passage, accélérant considérablement l'entraînement.

3. Stratégie d'Inférence

Décodage par Bloc : Lors de l'inférence, les blocs d'actions sont générés séquentiellement. À l'intérieur de chaque bloc, les jetons sont affinés en parallèle sur $n_d$ étapes de diffusion discrète.
Décodage à la Demande (Decode-as-Needed) : Au lieu de générer l'horizon complet, la politique ne décode que le nombre de blocs requis pour l'horizon de déploiement actuel ( $K_{exec}$ ), réduisant ainsi le nombre total d'étapes de débruitage.
Mise en Cache KV (Prefix KV Caching) : Les états clé-valeur pour les entrées visuelles, les prompts et les blocs d'actions précédemment générés sont mis en cache pour éviter les calculs redondants lors des étapes itératives de débruitage.
Échantillonnage par Espérance (Expectation Sampling) : Plut lieu de sélectionner le jeton le plus probable (argmax), le modèle décode des valeurs d'action scalaires en calculant l'espérance sur la distribution complète des jetons prédits, fournissant un signal plus fin.
Découpage en Temps Réel (Real-Time Chunking - RTC) : Pour atténuer la latence dans le contrôle en boucle fermée, TBD-VLA supporte l'exécution asynchrone. Il fige la queue des actions précédemment générées (correspondant à la fenêtre de latence d'inférence) et les utilise comme contexte pour l' "in-painting" des prochains blocs d'actions. Cela s'aligne sur l'objectif d'entraînement consistant à compléter des blocs d'actions partiellement engagés.

Contributions Clés

Cadre TBD-VLA : Un nouveau cadre VLA qui combine le décodage d'actions parallèle avec l'autorégression temporelle via la diffusion de blocs discrets.
Schéma d'Entraînement : Un pipeline spécifique intégrant le décalage de jetons temporel et le masquage d'attention à double configuration pour entraîner efficacement la diffusion par bloc sur des épines dorsales VLM.
Évaluation Complète : Des expériences approfondies démontrant une forte généralisation et une robustesse à travers plusieurs benchmarks de simulation (LIBERO, SimplerEnv) et des tâches de manipulation en monde réel.

Résultats Expérimentaux

Les auteurs ont évalué TBD-VLA par rapport aux modèles de pointe (ex: $\pi0.5$ , GR00T-N1, OpenVLA-OFT) dans des environnements de simulation et réels.

Simulation (LIBERO) : TBD-VLA a atteint un taux de succès moyen de 97,6 % sur le benchmark LIBERO, surpassant les méthodes SOTA précédentes. Sous des délais d'inférence (latence simulée), TBD-VLA avec RTC a maintenu un taux de succès de 93,2 %, surpassant nettement les bases sans RTC (qui chutait à 72,3 %).
Robustesse (LIBERO-Plus) : Le modèle a démontré une grande robustesse face aux perturbations (disposition des objets, angle de vue de la caméra, éclairage), atteignant un taux de succès moyen de 83,0 %, dépassant la deuxième meilleure méthode de 15,1 %.
Transfert au Monde Réel :
- SimplerEnv : TBD-VLA a atteint un succès de 66,8 % sur les tâches Widow-X et 91,0 % sur les tâches Google Robot (correspondance visuelle), surpassant la plupart des bases.
- Manipulation Physique : Dans des tâches de manipulation sur table réelle (ex: "Everything in Bin", "Load Toaster"), TBD-VLA a atteint un taux de succès moyen de 67,1 % à travers les scénarios de perturbation, contre 50,0 % pour la base $\pi0.5$ .
Efficacité : Le modèle a atteint une latence d'inférence de 0,086s (sur un GPU NVIDIA RTX A40) avec des optimisations (mise en cache KV, compilation), ce qui est compétitif avec les autres modèles VLA rapides tout en conservant la cohérence temporelle.

Signification et Revendications

L'article affirme que TBD-VLA offre une voie évolutive vers des modèles VLA discrets, rapides et temporellement conscients. En unifiant l'autorégression temporelle et le décodage parallèle, le cadre répond au compromis entre vitesse d'inférence et cohérence de l'action.

Les auteurs soulignent que la modélisation temporelle explicite permet l'exécution asynchrone (via RTC), ce qui est crucial pour le contrôle en temps réel. Les résultats suggèrent que la diffusion par bloc est une direction prometteuse pour améliorer la généralisation et la robustesse des politiques robotiques sans sacrifier l'efficacité requise pour le contrôle en boucle fermée.

Le document reste modeste quant à ses limites, notant qu'il se concentre sur l'adoption de la diffusion par bloc au sein de VLA et laisse comme travail futur l'exploration de stratégies d'entraînement alternatives (ex: co-entraînement avec des objectifs auxiliaires) et une interprétation plus profonde de la manière dont les représentations VLM se transforment en actions exécutables. Il reconnaît également que, bien que robuste, le modèle peut encore échouer dans des conditions extrêmes hors distribution (ex: changements importants de l'angle de vue de la caméra dans les tâches de transfert de liquide).