Make Tracking Easy: Neural Motion Retargeting for Humanoid Whole-body Control

Probleemstelling

Humanoid robots hebben diverse motorische vaardigheden nodig om zich aan te passen aan complexe menselijke omgevingen. Een grote bottleneck bij het overbrengen van menselijke bewegingsdata (bijv. van SMPL-modellen of motion capture) naar robots is de kinematische en dynamische kloof.

Traditionele methoden voor bewegingsoverdracht (motion retargeting) zijn vaak gebaseerd op optimalisatie (zoals Inverse Kinematics - IK of GMR). Het paper identificeert twee fundamentele beperkingen van deze benaderingen:

1. Niet-convexe optimalisatie: Het probleem is inherent niet-convex, wat leidt tot het vastlopen in lokale optima. Dit veroorzaakt fysieke artefacten zoals plotselinge sprongen in gewrichten (joint jumps), zelfkruisingen (self-penetration) en glijdende voeten.
2. Ruispropagatie: Menselijke data bevat vaak ruis (bijv. door de grond heen lopen of tijdsjitter). Geometrische optimalisatiemethoden hebben geen bewustzijn van fysieke haalbaarheid en propageren deze fouten mechanisch ("garbage in, garbage out"), wat downstream controllers dwingt tot compensatiegedrag of instabiliteit veroorzaakt.

Methodologie

De auteurs stellen NMR (Neural Motion Retargeting) voor, een raamwerk dat het probleem herschrijft van een statische, frame-voor-frame geometrische optimalisatie naar het leren van een dynamische mapping tussen bewegingsdistributies. De aanpak bestaat uit drie hoofdblokken:

1. Clustered-Expert Physics Refinement (CEPR) Data-pijplijn

Om het "kip-en-ei"-probleem op te lossen (het hebben van hoogwaardige robotdata om een retargeter te trainen, zonder dat de retargeter al bestaat), ontwikkelen de auteurs een hiërarchische data-pijplijn:

• Fase 1: Fysiek bewuste curatie: Ruwe SMPL-data wordt gefilterd op semantische consistentie (bijv. verwijdering van bewegingen met te veel versnelling of zwevende voeten).
• Fase 2: Kinematische retargeting en filtering: Een geoptimaliseerde IK-methode (GMR) wordt gebruikt voor een eerste mapping. Resultaten worden streng gefilterd op gewrichtscontinuïteit, zelfkruisingen en zwevende voeten.
• Fase 3: Fysiek gebaseerde verfijning:
  • Clustering: Bewegingen worden gegroepeerd in semantische clusters (bijv. springen, lopen) met behulp van een VAE en TMR (Text-Motion Retrieval) om homogene distributies te creëren.
  • Expert Policies: Voor elke cluster wordt een parallel Reinforcement Learning (RL) expert beleid getraind in een fysica-simulatie (MuJoCo) om de robot de beweging fysiek correct na te bootsen.
  • Resultaat: Dit genereert ongeveer 30.000 hoogwaardige, fysiek consistente paren van menselijke SMPL-sequenties en robotbewegingen die dienen als "ground truth" voor het neural network.

2. Neural Motion Retargeting Netwerk

• Architectuur: Een niet-autoregressief CNN-Transformer-model.
• Input/Output: Het model neemt menselijke SMPL-sequenties als input en voorspelt direct de haalbare robotbewegingen (joint posities, snelheden, oriëntaties).
• Mechanisme: Het gebruikt een 1D-ResNet encoder, gevolgd door een Transformer met bidirectionele zelf-attentie. Dit stelt het model in staat om globale temporele context te gebruiken om ruis te onderdrukken en lokale artefacten te corrigeren, in plaats van alleen frame-voor-frame te kijken.

3. Twee-staps Trainingsstrategie

• Stap 1 (Kinematische vooropleiding): Training op een groot scala aan kinematische data (zonder fysieke garanties) om een brede dekking van bewegingsstijlen te leren.
• Stap 2 (Fysieke verfijning): Fine-tuning op de kleinere, maar fysiek gevalideerde CEPR-dataset. Dit zorgt ervoor dat het model de uitgangsverdeling verschuift naar de fysiek haalbare manifold van de robot en upstream ruis (zoals SMPL-jitter) impliciet filtert.

Kernbijdragen

1. NMR Framework: Een nieuw raamwerk dat bewegingsoverdracht behandelt als een distributiemapping in plaats van een optimalisatieprobleem, waardoor lokale minima en fysieke artefacten worden vermeden.
2. CEPR Pijplijn: Een innovatieve methode om schaalbare, hoogwaardige mens-robot dataparen te genereren via clustering en parallelle RL-experts, wat de noodzaak van handmatige datacollectie omzeilt.
3. Fysiek Bewust Netwerk: Een Transformer-architectuur die in staat is om ruis in de brondata te filteren en fysiek haalbare bewegingen te genereren zonder een fysica-simulator tijdens de inferentie.
4. Validatie op Unitree G1: Uitgebreide experimenten die aantonen dat de methode superieur is aan state-of-the-art baselines (GMR, PHUMA).

Resultaten

Experimenten op de Unitree G1 humanoid robot (met taken zoals vechtkunsten, dansen en lopen) tonen de volgende verbeteringen:

• Eliminatie van Joint Jumps: NMR bereikte 0 joint jumps (0%), vergeleken met 56 bij GMR en 12 bij PHUMA.
• Vermindering Zelfkruisingen: Een reductie van 54% in zelfkruisingen ten opzichte van GMR.
• Gewrichtslimieten: Schendingen van hardware-gewrichtslimieten werden teruggebracht tot 16,80% (ongeveer de helft van PHUMA).
• Downstream Performance: RL-beleidsstrategieën getraind op NMR-referenties convergeren sneller en bereiken hogere beloningen en succespercentages bij het volgen van bewegingen.
• Robuustheid: NMR kan abnormale ruis in de originele SMPL-data (bijv. door pose-schattingsfouten) impliciet filteren, terwijl traditionele methoden deze fouten direct doorgeven aan de robot.

Betekenis en Impact

Dit werk biedt een schaalbare oplossing voor de "embodiment gap" tussen mensen en humanoid robots. Door de afhankelijkheid van complexe, niet-convexe optimalisatie te doorbreken en over te stappen op een datagedreven, fysiek bewuste aanpak, wordt het mogelijk om robuuste, veilige en vloeiende bewegingen te genereren voor complexe dynamische taken. Dit versnelt de ontwikkeling van robotbeheersingsstrategieën en opent de weg voor het gebruik van grote hoeveelheden menselijke bewegingsdata in de robotica, zonder dat de robot fysiek onhaalbare of gevaarlijke bewegingen uitvoert.