⚡ electrical engineering

Perceptive Humanoid Parkour: Chaining Dynamic Human Skills via Motion Matching

Ce papier présente Perceptive Humanoid Parkour (PHP), un cadre modulaire qui combine l'appariement de mouvements pour la composition de compétences et l'apprentissage par renforcement piloté par la perception afin de permettre aux robots humanoïdes d'exécuter de manière autonome des tâches de parkour complexes et à long horizon avec une adaptabilité dynamique dans des environnements réels.

Auteurs originaux : Zhen Wu, Xiaoyu Huang, Lujie Yang, Yuanhang Zhang, Xi Chen, Pieter Abbeel, Rocky Duan, Angjoo Kanazawa, Carmelo Sferrazza, Guanya Shi, C. Karen Liu

Publié 2026-05-08

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zhen Wu, Xiaoyu Huang, Lujie Yang, Yuanhang Zhang, Xi Chen, Pieter Abbeel, Rocky Duan, Angjoo Kanazawa, Carmelo Sferrazza, Guanya Shi, C. Karen Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez enseigner à un robot d'être un athlète de parkour. L'objectif n'est pas seulement de le faire marcher, mais de le faire courir, sauter, franchir des murs et grimper des obstacles avec la même fluidité qu'un humain. Cet article, intitulé "Perceptive Humanoid Parkour", décrit une nouvelle méthode pour apprendre à un robot Unitree G1 (une machine à forme humaine) à faire exactement cela.

Voici l'histoire de la manière dont ils l'ont fait, décomposée en concepts et analogies simples.

1. Le Problème : « L'Amnésie » du Robot

Auparavant, les robots étaient bons pour marcher sur un sol plat ou des escaliers simples. Mais le parkour est chaotique. Il nécessite d'enchaîner différents mouvements : courir, puis sauter, puis attraper un mur, puis se hisser, puis rouler vers le bas.

Le problème est que les robots apprennent généralement une astuce à la fois. Si vous apprenez à un robot à sauter, il ne sait pas comment passer de la course au saut de manière fluide. C'est comme enseigner à un pianiste à jouer une seule note parfaitement, puis lui demander de jouer un morceau entier sans savoir comment déplacer ses doigts d'une note à l'autre. De plus, les robots ont du mal à « voir » l'obstacle et à décider quel mouvement utiliser (par exemple : « Dois-je passer par-dessus cette petite boîte ou grimper ce mur haut ? »).

2. La Solution : La « Playlist » de Correspondance de Mouvements

Pour résoudre le problème de la « transition », les chercheurs ont utilisé une technique appelée Correspondance de Mouvements (Motion Matching).

L'Analogie : Imaginez un DJ avec une immense playlist de mouvements de parkour humain (course, franchissement, grimpe). Au lieu d'essayer de composer une nouvelle chanson à partir de zéro, le DJ regarde ce que le robot fait en ce moment même et trouve instantanément le clip suivant parfait dans la playlist qui correspond.
Fonctionnement : Le système examine la vitesse et la position actuelles du robot. Il recherche dans une base de données de mouvements humains le cadre exact où un humain passerait naturellement de la course au franchissement d'un mur. Il assemble ces clips pour créer un long « film de référence » fluide de ce que le robot devrait faire.
Le Résultat : Cela crée un plan à « long horizon ». Le robot ne pense pas seulement à la prochaine étape ; il pense à toute la course, assurant que la transition d'un sprint à une escalade de mur semble naturelle et fluide.

3. L'Entraînement : Le Gymnase « Maître-Élève »

Une fois qu'ils ont les « films de référence », ils doivent enseigner au cerveau du robot (sa politique) comment exécuter réellement ces mouvements en utilisant uniquement ses yeux (une caméra de profondeur) et ses capteurs corporels.

Le Maître (L'Expert) : D'abord, ils entraînent des robots « Maîtres » dans une simulation informatique ultra-rapide. Ces maîtres possèdent des « super-pouvoirs » (informations privilégiées) comme savoir exactement où ils se trouvent dans le monde et connaître la physique parfaite du sol. Ils apprennent à suivre les films de référence parfaitement.
L'Élève (Le Vrai Robot) : Le vrai robot n'a pas de super-pouvoirs. Il n'a qu'une caméra et ses propres capteurs corporels. Pour enseigner à l'élève, les chercheurs ont utilisé un processus en deux étapes :
1. Imitation (DAgger) : L'élève tente de copier les mouvements du Maître.
2. Apprentissage par Renforcement (L'Entraîneur) : C'est la touche secrète. La simple imitation ne suffisait pas car les mouvements de parkour (comme un saut en hauteur) nécessitent une explosion soudaine et puissante d'énergie. Si l'élève copie simplement le mouvement moyen du Maître, cela pourrait être trop faible pour franchir le mur. Ainsi, ils ont ajouté un « Entraîneur » (AR) qui dit : « As-tu franchi le mur ? Si oui, super ! Si non, essaie plus fort. » Cela pousse l'élève à apprendre les explosions de puissance nécessaires que la simple copie ne capture pas.

4. Le Résultat : Le Robot Devient un Pro du Parkour

Les chercheurs ont testé cela sur un vrai robot Unitree G1 dans le monde réel. Voici ce qu'il a accompli :

Vitesse : Il peut courir et franchir des obstacles à environ 3 mètres par seconde (environ 10,8 km/h).
Hauteur : Il peut grimper un mur de 1,25 mètre de haut (96 % de la hauteur propre du robot). Pour mettre cela en perspective, si un humain mesure 1,80 mètre, ce robot grimpe un mur de 1,80 mètre.
Adaptabilité : Le robot peut gérer un parcours complexe avec plusieurs obstacles. Si vous déplacez un obstacle pendant que le robot court, il voit le changement, recalcul et ajuste son saut ou son escalade en temps réel sans tomber.
Transfert Zero-Shot : Le robot a appris entièrement dans la simulation informatique puis est passé directement dans le monde réel sans avoir besoin de réapprendre quoi que ce soit.

Résumé de la Magie

L'article affirme qu'en combinant la Correspondance de Mouvements (pour créer des plans longs et fluides) avec un pipeline d'entraînement Maître-Élève (pour apprendre la puissance physique nécessaire à l'exécution de ces plans), ils ont créé un robot capable de naviguer de manière autonome dans des environnements complexes remplis d'obstacles.

Ce n'est pas seulement de la marche ; c'est de la course, du franchissement, de l'escalade et du roulement avec un niveau d'agilité qu'un robot humanoïde ne pouvait auparavant pas réaliser seul. Le robot a essentiellement appris à « lire » l'environnement et à « chorégraphier » sa propre course de parkour en temps réel.

Résumé technique : Parkour humanoïde perceptif (PHP)

Énoncé du problème

Bien que les récentes avancées aient permis aux robots humanoïdes de réaliser une marche stable sur des terrains variés, reproduire l'agilité, l'adaptabilité et l'expressivité des mouvements humains hautement dynamiques reste un défi majeur. Plus précisément, exécuter du parkour dans des environnements complexes nécessite :

Une robustesse de bas niveau : Contrôler un espace d'actions de haute dimension pour des manœuvres riches en contacts (par exemple, grimper des murs, franchir des obstacles) en quelques fractions de seconde.
Une prise de décision pilotée par la perception : Coupler étroitement l'extéroception (vision) avec le contrôle pour s'adapter aux variations environnementales et aux perturbations imprévues.
Une composition de compétences à long horizon : Consolider des compétences diverses et hautement dynamiques en une seule politique visuomotrice capable de transitions fluides à travers des parcours d'obstacles complexes.

Un goulot d'étranglement principal réside dans la rareté des données de mouvement humain hautement dynamiques. La capture de manœuvres rapides et riches en contacts produit généralement des ensembles de données clairsemés (souvent une ou deux démonstrations par compétence), ce qui est insuffisant pour apprendre des tâches à long horizon nécessitant une riche variation des distances d'approche, du timing et des transitions fluides entre des compétences hétérogènes.

Méthodologie

Les auteurs présentent le Parkour Humanoïde Perceptif (PHP), un cadre modulaire intégrant des priors de mouvement humain, une composition de compétences à long horizon et un contrôle perceptif. Le pipeline se compose de trois étapes principales :

1. Composition adaptative de compétences par appariement de mouvement

Pour pallier la rareté des données et le besoin de transitions diverses, les auteurs utilisent l'appariement de mouvement comme module de synthèse hors ligne.

Compétences atomiques : Les données de mouvement humain sont réorientées vers le robot (Unitree G1) à l'aide d'OmniRetarget pour créer une bibliothèque de compétences de parkour atomiques (par exemple, franchir, grimper).
Composition : Au lieu de concevoir manuellement des transitions entre chaque paire de compétences, le système compose des trajectoires cinématiques à long horizon en enchaînant des segments de locomotion avec des compétences atomiques selon une structure Locomotion → Compétence → Locomotion.
Mécanisme : L'appariement de mouvement effectue une recherche du plus proche voisin dans un espace de caractéristiques (incluant la trajectoire future, les positions des pieds et la vitesse de la racine) pour assembler des fragments de mouvement. Cela « densifie » la bibliothèque de mouvements clairsemée, générant des transitions diverses à travers des distances d'approche, des orientations et des timings variables.
Randomisation : La géométrie et la pose des obstacles sont randomisées autour des trajectoires synthétisées pour exposer la politique à des variations sans invalider le mouvement de référence sous-jacent.

2. Pipeline d'entraînement enseignant-élève

Le cadre utilise un processus d'entraînement en deux étapes pour transférer les compétences de la simulation vers la réalité :

Entraînement de l'enseignant (RL privilégié) : Des politiques expertes pour des compétences uniques sont entraînées en simulation en utilisant l'apprentissage par renforcement (RL) avec des récompenses de suivi de mouvement. Ces experts reçoivent des observations privilégiées (par exemple, la position et la vitesse globales du bassin) pour apprendre des comportements de récupération et corriger la dérive, ce qui est crucial pour les tâches riches en contacts où de petites erreurs s'accumulent rapidement.
Distillation de l'élève (DAgger + RL) : Une politique élève unique, basée sur la profondeur, est distillée à partir de plusieurs enseignants. Les auteurs soutiennent que l'apprentissage par imitation pur (DAgger) est insuffisant pour des compétences hautement dynamiques car il ne favorise pas explicitement les bursts de couple de grande amplitude nécessaires au succès (par exemple, la phase de « tirage » lors d'une escalade).
- Objectif hybride : L'élève est entraîné à l'aide d'une fonction de perte combinée : $L = \lambda_{PPO} L_{PPO} + \lambda_{D} L_{D}$ .
- Rôle du RL : La composante PPO fournit un signal axé sur le succès qui encourage l'exploitation d'actions à fort couple nécessaires pour franchir les obstacles, tandis que DAgger fournit une régularisation pour prévenir des comportements non naturels.
- Curriculum : Un curriculum de démarrage déplace progressivement le poids de DAgger vers PPO pour stabiliser l'entraînement.

3. Transfert Sim-to-Real en zéro-shot

La politique élève est entraînée en utilisant la détection de profondeur embarquée (simulée via Nvidia WARP) et la proprioception. Elle ne reçoit qu'une commande de vitesse 2D discrète et des images de profondeur, permettant la sélection et l'exécution autonomes de compétences (pas, escalade, franchissement, roulade) sans étiquettes de compétences explicites lors de l'inférence.

Contributions clés

Composition cinématique efficace des compétences : Un pipeline qui enchaîne des mouvements humains réorientés en des trajectoires à long horizon diverses via l'appariement de mouvement, surmontant la rareté des données de mouvement dynamique.
Cadre d'entraînement évolutif : Une architecture enseignant-élève qui distille plusieurs experts privilégiés en une seule politique basée sur la profondeur, utilisant un objectif hybride DAgger et RL pour gérer les exigences de couple élevé des compétences dynamiques.
Transfert Sim-to-Real réussi en zéro-shot : Démonstration d'un parkour hautement dynamique sur un robot physique Unitree G1, incluant l'escalade de murs jusqu'à 1,25 m (96 % de la hauteur du robot) et la traversée de parcours d'obstacles complexes multi-éléments avec adaptation en boucle fermée.

Résultats expérimentaux

Le cadre a été validé sur un humanoïde Unitree G1 (1,3 m de hauteur, 29 degrés de liberté) aussi bien en simulation que dans le monde réel.

Agilité de niveau humain : Le robot a réussi à grimper un mur de 1,25 m en 3,63 secondes, un rythme comparable à celui d'un pratiquant de parkour humain effectuant la même manœuvre. Il a également exécuté un franchissement de type « chat » au-dessus d'un obstacle de 0,4 m à des vitesses allant jusqu'à 3,41 m/s et a réalisé des atterrissages après une chute de 1,25 m.
Traversée à long horizon : Le robot a traversé de manière autonome un parcours de parkour continu de 60 secondes impliquant plusieurs obstacles et transitions de compétences (pas, escalade, franchissement) sans supervision explicite multi-obstacles pendant l'entraînement.
Adaptabilité : Le système a démontré une adaptation en boucle fermée à des perturbations d'obstacles en temps réel (déplacements aléatoires d'environ 0,5 m), ajustant le timing d'approche et la sélection de manœuvre pour compléter la traversée.
Études d'ablation :
- Densité de l'appariement de mouvement : Une couverture dense des distances d'approche était critique ; des données clairsemées (par exemple, uniquement des distances extrêmes) ont conduit à des échecs dans des scénarios intermédiaires.
- RL dans la distillation : Le retrait de la composante RL (utilisation de DAgger uniquement) a provoqué une baisse significative des performances, en particulier sur les obstacles élevés où le robot n'a pas réussi à générer les bursts de couple nécessaires pour la phase de tirage.
- Lignes de base : La méthode proposée a nettement surpassé les lignes de base utilisant un façonnage de récompense pur (suivi de vitesse), des données de mouvement non composées et un entraînement de bout en bout basé sur la profondeur sans distillation.

Importance et affirmations

L'article affirme que PHP représente une approche de l'état de l'art pour le parkour agile, adaptatif et à corps entier dans le monde réel. Son importance réside dans :

Combler le fossé : Le transfert réussi de compétences humaines hautement dynamiques et riches en contacts vers des humanoïdes, un domaine où les travaux antérieurs ont été largement limités à des tâches moins dynamiques comme l'escalade d'escaliers ou la marche sur des terrains épars.
Efficacité des données : Démontrer que l'appariement de mouvement peut synthétiser efficacement des références à long horizon à partir de données humaines clairsemées, permettant l'apprentissage de chaînes de compétences complexes sans ensembles de données massifs.
Robustesse : Prouver qu'une politique visuomotrice unique peut sélectionner et transitionner de manière autonome entre des compétences diverses basées sur la perception embarquée, gérant à la fois les changements environnementaux statiques et dynamiques.

Les auteurs notent des limitations, notamment l'absence actuelle de compréhension sémantique de la scène (reposant uniquement sur la profondeur géométrique) et les contraintes matérielles (force limitée des mains pour des manœuvres d'escalade ou de suspension extrêmes). Ils suggèrent que les travaux futurs pourraient intégrer des signaux de conditionnement plus riches (par exemple, le langage) et une perception améliorée pour réduire l'ambiguïté perceptive à haute vitesse.