🤖 AI

Mixture of Horizons in Action Chunking

Ce document propose le Mixture of Horizons (MoH), une stratégie « plug-and-play » qui réorganise les blocs d'actions en segments dotés d'horizons variables afin d'optimiser simultanément la prospective à long terme et la précision à court terme, surmontant ainsi le compromis inhérent aux modèles Vision-Langage-Action et atteignant des performances de pointe avec des capacités d'inférence dynamiques.

Auteurs originaux : Dong Jing, Gang Wang, Jiaqi Liu, Weiliang Tang, Zelong Sun, Yunchao Yao, Zhenyu Wei, Yunhui Liu, Zhiwu Lu, Mingyu Ding

Publié 2026-06-01

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Dong Jing, Gang Wang, Jiaqi Liu, Weiliang Tang, Zelong Sun, Yunchao Yao, Zhenyu Wei, Yunhui Liu, Zhiwu Lu, Mingyu Ding

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le problème central : Le dilemme de l'objectif (« Zoom Lens »)

Imaginez que vous conduisez une voiture. Pour conduire en toute sécurité, vous avez besoin de deux choses à la fois :

Une vision à long terme : Vous devez regarder loin devant sur la route pour voir arriver un virage afin de commencer à tourner tôt.
Une précision à court terme : Vous devez regarder de près le tableau de bord et la route immédiate juste devant votre pare-chocs pour éviter de heurter un nid-de-poule ou un écureuil.

L'article soutient que les cerveaux de robots actuels (appelés modèles Vision-Langage-Action) ont du mal à faire les deux en même temps. Ils sont forcés de choisir un « niveau de zoom » (que les auteurs appellent un Horizon) :

S'ils dézooment (Horizon Long) : Ils sont excellents pour planifier des tâches complexes à plusieurs étapes (comme « aller à la cuisine, ouvrir le frigo et prendre du lait »). Mais, ils deviennent maladroits dans les mouvements petits et immédiats. Ils pourraient heurter des objets parce qu'ils ne regardent pas assez attentivement les détails.
S'ils zooment (Horizon Court) : Ils sont très précis dans les mouvements immédiats. Mais, ils se perdent dans la vue d'ensemble. Ils pourraient attraper le lait mais oublier d'ouvrir le frigo d'abord, ou se perdre dans une longue séquence d'étapes.

Auparavant, les ingénieurs devaient choisir un seul niveau de zoom pour l'ensemble du robot. S'ils choisissaient le mauvais, le robot échouait à certaines tâches.

La solution : Le « Mixture of Horizons » (MoH)

Les auteurs proposent une correction astucieuse appelée Mixture of Horizons (MoH). Au lieu de forcer le robot à choisir un seul niveau de zoom, ils lui permettent d'utiliser plusieurs niveaux de zoom en même temps.

Imaginez cela comme une équipe de trois experts debout à côté du robot, regardant tous la même scène mais avec des objectifs différents :

L'Expert A regarde 10 étapes devant lui (court terme).
L'Expert B regarde 20 étapes devant lui (moyen terme).
L'Expert C regarde 30 étapes devant lui (long terme).

Le cerveau du robot (l'« Action Transformer ») demande conseil aux trois experts simultanément. Ensuite, un « Gardien » intelligent et minuscule (une simple couche linéaire) écoute les trois et décide : « Pour ce moment précis, le conseil de l'Expert A est le meilleur pour tourner le volant, mais le conseil de l'Expert C est le meilleur pour savoir où conduire ensuite. »

Le robot combine ensuite ces opinions en une seule action parfaite.

Comment cela fonctionne en pratique

Traitement Parallèle : Le robot n'a pas besoin de faire fonctionner trois cerveaux différents. Il exécute un seul cerveau qui traite les trois « niveaux de zoom » exactement au même moment. C'est très rapide et cela ne ralentit pas le robot.
Le Gardien : C'est un composant minuscule et léger (seulement 2 000 paramètres supplémentaires) qui apprend comment mélanger les conseils. Il apprend que pour un « chemin long et sinueux », il doit faire plus confiance à l'expert à long terme. Pour un « passage étroit », il doit faire plus confiance à l'expert à court terme.
Inférence Dynamique (la fonction d'« auto-correction ») :
- L'article introduit une astuce intéressante où le robot vérifie si tous les experts sont d'accord.
- Si les experts sont tous d'accord sur les 10 prochaines étapes, le robot exécute avec confiance les 10 étapes d'un coup (en se déplaçant rapidement).
- Si les experts commencent à être en désaccord (par exemple, si le robot approche d'un point de décision délicat), le robot s'arrête plus tôt, réévalue et planifie à nouveau.
- Analogie : Imaginez que vous marchez dans une forêt. Si le chemin est droit et dégagé, vous faites de grandes enjambées. Si vous rencontop un embranchement ou un fourré épais, vous vous arrêtez, vous regardez autour de vous et faites des pas plus petits et prudents. Le robot fait cela automatiquement, ce qui le rend à la fois plus rapide et plus sûr.

Les résultats : Pourquoi c'est important

Les auteurs ont testé cela sur des robots effectuant des tâches comme plier des serviettes, verser du lait ou empiler des blocs.

Meilleur partout : Le robot est devenu meilleur tant pour les tâches courtes et précises (comme verser du lait sans en renverser) que pour les tâches longues et complexes (comme mettre un stylo dans un tiroir et le fermer).
Aucun compromis : Il a résolu le dilemme de l'objectif (« Zoom Lens »). Le robot n'a plus besoin de sacrifier la précision pour la planification, ou la planification pour la précision.
Vitesse : Parce qu'il peut faire de plus grandes enjambées lorsqu'il est confiant, le robot termine les tâches 2,5 fois plus vite que les méthodes précédentes sans commettre plus d'erreurs.
Prêt à l'emploi : Cette méthode peut être ajoutée à presque n'importe quel cerveau de robot existant sans avoir besoin de reconstruire tout le système.

Résumé

L'article présente une façon de donner aux robots une « vision multi-objectifs ». Au lieu de les forcer à choisir entre voir la vue d'ensemble ou voir les petits détails, le robot utilise les deux simultanément. Un « mélangeur » intelligent combine ces vues pour prendre des décisions qui sont à la fois prévoyantes et précises, permettant aux robots de se déplacer plus vite et plus intelligemment dans le monde réel.

Résumé Technique : Mixture of Horizons dans l'Action Chunking

1. Énoncé du Problème

Les modèles Vision-Language-Action (VLA) ont démontré des capacités remarquables pour exécuter des tâches robotiques complexes en prédisant des séquences d'actions futures (action chunks) conditionnées par des observations visuelles et des instructions linguistiques. Un choix de conception critique dans ces modèles est la longueur du chunk d'action, ou horizon ( $H$ ).

Le papier identifie un compromis inhérent lors de la sélection d'un horizon unique et fixe :

Horizons Longs : Améliorent la planification à long terme et la prospective, menant à de meilleures performances sur les tâches nécessitant des trajectoires étendues (ex: manipulation multi-étapes). Cependant, ils dégradent souvent le contrôle local fin et la précision motrice immédiate.
Horizons Courts : Permettent un contrôle précis à haute fréquence et produisent des taux de réussite plus élevés sur les tâches à court horizon. Cependant, ils manquent du contexte global nécessaire pour une planification complexe à long horizon.

Les approches existantes reposent généralement sur un horizon fixe choisi de manière heuristique, ce qui impose un goulot d'étranglement à la généralisation. Un horizon unique ne peut pas optimiser simultanément la prospective à long terme et la précision à court terme, ce qui limite l'adaptabilité du modèle à travers diverses suites de tâches.

2. Méthodologie : Mixture of Horizons (MoH)

Pour atténuer ce compromis, les auteurs proposent la Mixture of Horizons (MoH), une stratégie "plug-and-play" qui intègre plusieurs horizons d'action au sein d'un seul modèle.

Architecture Centrale

MoH réorganise un chunk d'action standard de longueur $H$ en plusieurs segments avec différents horizons $\mathcal{H} = \{h_1, \dots, h_N\}$ (où $h_N = H$ ).

Traitement Parallèle : Le modèle traite ces chunks tronqués en parallèle en utilisant un transformer d'action partagé. Pour garantir l'efficacité computationnelle, les chunks sont complétés (padding) à la longueur $H$ et traités avec des masques d'attention spécifiques à chaque horizon qui invalident les positions $k > h$ . Le backbone du Modèle Vision-Language (VLM) est calculé une seule fois, et le lightweight action transformer gère les horizons parallèles avec un surcoût négligeable.
Fusion par Porte (Gated Fusion) : Une tête de porte linéaire légère (ajoutant seulement ~2k paramètres) fusionne les prédictions des différents horizons. Pour chaque pas de temps $k$ , la porte calcule des poids $\alpha_{t,k,h}$ pour les horizons valides ( $k \le h$ ) et produit une prédiction fusionnée finale :
$\hat{a}_{t,k} = \sum_{h \in \mathcal{H}: k \le h} \alpha_{t,k,h} \hat{a}^{(h)}_{t,k}$
Objectif d'Entraînement : La perte totale combine la perte sur les prédictions fusionnées ( $L_{mix}$ ), la somme des pertes sur les prédictions d'horizons individuelles ( $L_{ind}$ ), et une perte d'équilibre ( $L_{bal}$ ). La perte d'équilibre, inspirée de la littérature sur le "mixture-of-experts", encourage le réseau de porte à utiliser tous les horizons de manière uniforme, empêchant le modèle de s'effondrer vers un horizon préféré unique.

Inférence Dynamique via le Consensus Cross-Horizon

MoH permet un schéma d'inférence dynamique qui adapte la longueur d'exécution en fonction de la confiance de la prédiction :

Mécanisme : À chaque pas de temps, le modèle traite les prédictions des différents horizons comme des "votants". Il calcule le désaccord (ex: distance $\ell_1$ ) entre l'action fusionnée et les actions spécifiques à chaque horizon.
Auto-troncation : Le système exécute un préfixe du chunk d'action tant que le désaccord reste en dessous d'un seuil dépendant des données (dérivé des $n$ premières étapes) et qu'un nombre suffisant d'horizons restent actifs.
Bénéfice : Cela permet au robot d'exécuter des séquences d'actions plus longues lors de mouvements fluides et à faible risque (consensus élevé) et de replanifier plus fréquemment lors de points de décision critiques ou de manipulations de précision (faible consensus), améliorant ainsi la stabilité et le débit (throughput).

3. Contributions Clés

Analyse Systématique : Le papier fournit une étude systématique révélant le compromis fondamental entre la prospective à long terme et la précision à court terme dans l'action chunking des VLA, démontrant que les horizons fixes mènent à des performances sous-optimales à travers différents types de tâches.
Stratégie MoH : Il introduit une méthode universelle et à faible surcoût pour fusionner plusieurs horizons. MoH est compatible avec les politiques de flow-matching (ex: $\pi_0$ , $\pi_0.5$ ) et les politiques de régression/classification en une étape, nécessitant des changements architecturaux minimaux.
Inférence Dynamique : Les auteurs proposent un mécanisme d'inférence dynamique basé sur le consensus qui améliore la stabilité et l'efficacité de l'exécution, atteignant un débit jusqu'à $2,5\times$ supérieur aux baselines tout en maintenant ou en améliorant les taux de réussite.

4. Résultats Expérimentaux

Les auteurs ont évalué MoH sur des modèles basés sur le flux ( $\pi_0$ , $\pi_0.5$ , StarVLA) et un modèle basé sur la régression ( $\pi_{reg}$ ) à travers plusieurs benchmarks :

Benchmark LIBERO : MoH a systématiquement amélioré les performances sur les quatre suites de tâches (Spatial, Object, Goal, Long). Notamment, $\pi_0.5$ avec MoH a atteint un taux de réussite moyen de 99 % après seulement 30k itérations, établissant un nouveau record de l'état de l'art sur ce benchmark. Il a efficacement atténué le compromis, améliorant les tâches à long horizon (ex: +3,2 % sur la suite Long pour $\pi_0$ ) sans sacrifier les performances à court horizon.
RoboTwin 2.0 : MoH a amélioré les taux de réussite dans les configurations "faciles" (en domaine) et "difficiles" (domaine randomisé), démontrant une robustesse et une généralisation accrues.
RoboCasa : Dans des environnements domestiques moins saturés et diversifiés, MoH a produit des gains constants (moyenne +3,4 %) par rapport au modèle de base GR00T.
Expériences en Monde Réel : Déployé sur un manipulateur à 7 degrés de liberté (7-DoF), MoH a montré des gains constants dans des tâches allant du placement d'objets à court horizon à la fermeture de tiroirs à long horizon et à la manipulation fine d'objets déformables (pliage de serviette).
Études d'Ablation :
- Densité d'Horizon : Un ensemble d'horizons modérément dense (ex: stride $d=3$ ) a fourni des performances optimales, équilibrant les gains avec le coût computationnel.
- Diversité vs Ensemble : Les gains ont été attribués à la diversité des horizons plutôt qu'à un effet d'ensemble générique ; l'utilisation d'horizons identiques n'a produit que des améliorations négligeables.
- Gating (Porte) : La fusion par porte apprenable a surpassé la simple moyenne uniforme, et la perte d'équilibre était cruciale pour prévenir l'effondrement de la porte.

5. Signification et Revendications

Le papier affirme que MoH offre une solution fondée sur des principes à une limitation critique des architectures VLA actuelles : l'incapacité d'optimiser simultanément la planification à long terme et la fidélité du contrôle à court terme.

Efficacité Plug-and-Play : La méthode est efficace sur le plan computationnel, introduisant un surcoût minimal en entraînement et en inférence grâce à la nature légère du transformer d'action et à l'utilisation de paramètres partagés.
Généralisabilité : MoH n'est pas lié à un type de politique spécifique (flow-matching ou régression) ni à un backbone, ce qui le rend largement applicable à la communauté VLA.
Adaptabilité Dynamique : En permettant le consensus cross-horizon, MoH facilite un contrôle en boucle fermée adaptatif, permettant aux robots d'ajuster dynamiquement leur horizon de planification en fonction de l'incertitude et de la complexité de la tâche.

Les auteurs soulignent que, bien que MoH améliore considérablement la prédiction d'action et la stabilité d'exécution, il ne traite pas directement les limitations de la perception visuelle ou du suivi d'instructions, qui restent des défis distincts pour les modèles VLA. Ce travail positionne MoH comme une étape fondamentale vers des systèmes d'IA incarnée (embodied AI) plus robustes et scalables.