💻 computer science

VerNav: Verifier-First Low-Latency Vision-and-Language Navigation

VerNav est un cadre de travail axé sur le vérificateur pour la navigation vision-langage qui réduit considérablement la latence de l'étape de décision en remplaçant la génération autorégressive par étape par une vérification d'actions par lots et un générateur adaptatif basé sur l'entropie, tout en employant un schéma d'alignement en deux étapes pour maintenir des performances de navigation compétitives sur le benchmark R2R.

Auteurs originaux : Zhixin Wang, Chengzheyi Yao, Leyuan Liu, Xiaosong Zhang, Yongzhao Zhang

Publié 2026-09-02

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Zhixin Wang, Chengzheyi Yao, Leyuan Liu, Xiaosong Zhang, Yongzhao Zhang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un robot essayant de se frayer un chemin à travers une maison qu'il n'a jamais vue auparavant, guidé uniquement par une phrase parlée telle que « va à la cuisine, tourne à gauche au niveau de la chaise bleue, et arrête-toi ». C'est le défi de la navigation vision-langage. Le robot doit observer son environnement, comprendre les paroles de l'humain et décider exactement de son prochain mouvement. Pendant longtemps, les chercheurs ont tenté de résoudre ce problème en dotant le robot d'un cerveau puissant qui se parle à lui-même à chaque étape. Avant de faire un mouvement, le robot générait un long flux de pensées, expliquant son raisonnement, vérifiant son environnement et planifiant son prochain tour. Bien que cette pensée explicite aide le robot à comprendre des instructions complexes, elle est incroyablement lente. Tout comme un humain qui verbalise chaque étape d'une marche se déplacerait beaucoup plus lentement qu'un autre qui marche simplement, un robot qui génère un paragraphe complet de raisonnement avant chaque pas met trop de temps à prendre une décision. Dans le monde réel, où la vitesse est cruciale, ce délai rend la technologie impraticable.

Une équipe de chercheurs de l'Université de science et technologie électronique de Chine a proposé une autre façon d'aborder ce problème. Ils suggèrent qu'au lieu de forcer le robot à écrire une longue histoire avant chaque mouvement, il devrait d'abord vérifier rapidement une liste de mouvements possibles et choisir le meilleur. Ils appellent leur nouveau système VerNav. L'idée centrale est de remplacer la génération lente et étape par étape de pensées par un processus de vérification rapide. Au lieu de demander au cerveau du robot d'inventer un nouveau chemin à partir de zéro, le système présente un ensemble de directions disponibles — comme « avancer », « tourner à gauche » ou « s'arrêter » — et demande au cerveau de simplement dire « oui » ou « non » à chacune d'elles. Cela permet au robot d'évaluer toutes ses options à la fois, plutôt qu'une par une. En faisant cela, le système réduit le temps nécessaire pour prendre une décision de plus de dix fois par rapport aux méthodes traditionnelles, tout en maintenant le robot sur la bonne voie.

Cependant, le simple fait de vérifier les options rapidement ne suffit pas. Les chercheurs ont découvert que s'ils utilisaient uniquement cette méthode de vérification rapide, le robot deviendrait confus et commettrait des erreurs, particulièrement dans des situations délicates. Le vérificateur rapide est bon pour écarter les mauvaises idées, mais il a parfois du mal à choisir la meilleure idée lorsque les options se ressemblent beaucoup. Pour corriger cela, l'équipe a ajouté un filet de sécurité intelligent. Ils ont construit un système qui surveille la confiance du robot. Si le robot est sûr de la direction à prendre, il s'en tient à la méthode de vérification rapide. Mais si le robot est incertain — ce qui est indiqué par un haut niveau de confusion parmi les choix possibles — le système fait une pause et demande à un moteur de pensée plus puissant et plus lent de fournir un résumé bref et ciblé de la situation. Ce résumé agit comme un indice rapide pour aider le vérificateur rapide à prendre la bonne décision. De cette façon, le robot n'utilise la puissance de pensée lente et coûteuse que lorsqu'il en a absolument besoin, gardant ainsi l'ensemble du processus rapide et efficace.

Pour s'assurer que ce système de vérification rapide fonctionne réellement pour la navigation, les chercheurs ont dû lui apprendre à juger les mouvements correctement. Ils ont développé un processus d'entraînement en deux étapes. D'abord, ils ont appris au système à reconnaître quels mouvements immédiats sont meilleurs que les autres, l'aidant ainsi à préférer les actions qui le rapprochent de l'objectif. Ensuite, ils ont laissé le système pratiquer la navigation de chemins entiers, en le récompensant non seulement pour la destination finale, mais aussi pour chaque petit pas ayant permis de progresser. Cet entraînement a permis de garantir que le vérificateur rapide ne se contentait pas de choisir des mouvements aléatoires, mais apprenait à suivre les instructions avec précision sur de longues distances. Lors de tests sur un ensemble standard de tâches de navigation, le nouveau système a performé aussi bien que les meilleurs robots existants utilisant une pensée lourde et lente, mais il a pris des décisions en une fraction du temps. Les résultats montrent qu'en vérifiant les options rapidement et en faisant appel à la pensée profonde uniquement quand cela est nécessaire, les robots peuvent naviguer dans des environnements complexes beaucoup plus vite sans perdre leur chemin.

Résumé Technique : VerNav

Énoncé du Problème
La navigation visuelle et linguistique (Vision-and-Language Navigation - VLN) nécessite qu'un agent incarné traverse des environnements 3D non vus en suivant des instructions en langage naturel. Bien que les approches récentes basées sur les grands modèles de langage (LLM) utilisent un raisonnement explicite (par exemple, la Chaîne de Pensée ou Chain-of-Thought) pour améliorer la compréhension des instructions et l'ancrage sémantique, elles souffrent d'une latence significative lors de l'étape de décision. Cette latence provient de la génération autorégressive à chaque étape de navigation qui accumule un temps substantiel, dont une grande partie est redondante (par exemple, la répétition de l'entrée ou des formats génériques). Le défi central abordé est de savoir comment maintenir un chemin de décision à faible latence tout en invoquant l'inférence générative coûteuse uniquement lorsque les décisions sont incertaines.

Méthodologie
Les auteurs proposent VerNav, un cadre axé sur le vérificateur (verifier-first) conçu pour minimiser la latence tout en préservant la performance de navigation. Le système se compose de trois composants clés :

Interface d'Action Priorité au Vérificateur (Verifier-First Action Interface) :
Au lieu de générer le raisonnement et les actions de manière autorégressive, VerNav utilise un vérificateur de score d'action. À chaque étape temporelle, le système construit un ensemble de requêtes par lots (batched), une pour chaque action candidate exécutable. Le vérificateur, conditionné par l'instruction, l'historique de navigation et les observations visuelles (converties en texte), produit un score binaire « Oui » ou « Non » (logit) indiquant si l'action aide à l'accomplissement de la tâche. L'action ayant le logit « Oui » le plus élevé est sélectionnée. Cette vérification par lots remplace la génération par étape, réduisant considérablement le temps d'inférence.
Cadre de Collaboration Basé sur l'Entropie :
Pour combler l'écart de performance entre la vérification brute et la génération complète, VerNav introduit un générateur adaptatif qui produit des preuves d'état compactes (résumant les indices visuo-sémantiques et la progression de la route) uniquement lorsque le vérificateur est incertain.
- Mécanisme de Déclenchement : Le système calcule l'entropie normalisée des scores d'actions candidates du vérificateur. Une entropie élevée indique que le vérificateur manque de préférence claire entre les candidats (ce qui arrive souvent dans des états complexes ou lorsque l'agent est hors trajectoire).
- Flux Adaptatif : Si l'entropie dépasse un seuil, le générateur adaptatif est invoqué pour produire des preuves d'état ( $z_t$ ). Ces preuves sont réinjectées dans la requête de vérification pour un nouveau score. Si l'entropie est faible, le système suit le chemin original avec le vérificateur seul, évitant ainsi une génération inutile.
Alignement du Vérificateur en Deux Étapes :
Pour garantir que les scores du vérificateur s'alignent sur les préférences de navigation, les auteurs proposent un schéma d'entraînement en deux étapes :
- Alignement Statique (Optimisation des Préférences du Vérificateur - VPO) : Inspirée de l'optimisation de préférence directe (DPO), cette étape entraîne le vérificateur sur des paires d'actions choisies/rejetées dans un même contexte de décision. Elle encourage le vérificateur à attribuer des scores plus élevés aux actions qui suivent la route annotée ou qui permettent de se rétablir après une déviation.
- Raffinement Dynamique (Fine-Tuning par Renforcement au Niveau de l'Étape - RFT) : Puisque la navigation est une tâche à long horizon, l'alignement statique est insuffisant. Cette étape optimise le vérificateur sur des déploiements induits par la politique en utilisant des récompenses denses au niveau de l'étape. Les récompenses sont basées sur le progrès local (par exemple, réduire la distance vers la cible, découvrir de nouveaux points de repère) et pénalisent les boucles redondantes (revisiter des points de vue), combinées aux avantages de succès au niveau de l'épisode.

Contributions Clés

Interface de Faible Latence Priorité au Vérificateur : La formulation de la sélection d'action VLN comme une vérification par lots sur des candidats exécutables, fournissant un chemin de décision des ordres de grandeur plus rapide que la génération autorégressive.
Collaboration Basée sur l'Entropie : Un mécanisme qui coordonne un vérificateur et un générateur adaptatif, n'invoquant le générateur que pour les décisions à haute entropie (incertaines) afin de fournir des preuves d'état compactes.
Alignement du Vérificateur Statique et Dynamique : Un pipeline d'entraînement combinant la VPO pour l'alignement local des préférences d'action et le fine-tuning par renforcement au niveau de l'étape pour l'optimisation dynamique au niveau de la trajectoire.
Évaluation Efficacité-Performance : Démonstration empirique que le cadre atteint une performance de navigation compétitive tout en réduisant considérablement la latence.

Résultats Expérimentaux
Les expériences ont été menées sur le benchmark Room-to-Room (R2R) (splits val-seen et val-unseen) en utilisant l'architecture Qwen2.5-3B.

Réduction de la Latence : Le chemin de décision du vérificateur seul de VerNav atteint une latence moyenne de décision de 0,08 seconde par étape. Cela représente une réduction de plus de 10× par rapport aux méthodes VLN représentatives basées sur les LLM autorégressifs (ex: NavCoT à 0,98s, NavGPT à 3,52s, DiscussNav à 21,13s).
Performance de Navigation :
- Sur R2R val-unseen, le modèle VerNav entraîné avec VPO et RFT atteint un taux de succès (SR) de 39,63 % et un succès pondéré par la longueur du chemin (SPL) de 34,13 %. Cette performance est compétitive avec les agents basés sur les LLM de pointe (ex: NavCoT : 40,23 % SR ; NavGPT : 34 % SR).
- Sur R2R val-seen, le modèle atteint un SR de 43,10 %.
Analyse des Composants :
- Impact de l'Entraînement : Passer d'un vérificateur brut (0,38 % SR) à la VPO (37,25 % SR), puis ajouter la RFT (39,63 % SR), démontre la nécessité de l'alignement en deux étapes.
- Génération Adaptative : L'analyse montre que le déclencheur d'entropie concentre avec succès les appels du générateur sur les trajectoires difficiles (les chemins échoués présentent une entropie et plus d'appels). L'ajout de preuves d'état pour ces étapes incertaines améliore le SR de 6,0 à 8,0 points de pourcentage par rapport au chemin avec le vérificateur seul.

Signification
L'article affirme que VerNav offre une voie pratique vers une navigation basée sur les LLM à faible latence. En découplant l'interface de décision de la génération autorégressive complète, il démontre que la navigation de haute performance ne nécessite pas un raisonnement coûteux à chaque étape. Au lieu de cela, une approche privilégiant la vérification, augmentée par une génération de preuves sélective déclenchée par l'entropie et un entraînement d'alignement spécialisé, peut atteindre des résultats compétitifs avec un surcoût computationnel considérablement réduit. Cela remet en question l'hypothèse prédominante selon laquelle la génération de raisonnement explicite étape par étape est nécessaire pour une VLN efficace, suggérant que la sélection par vérification est une alternative viable et efficace.

Articles similaires