💻 computer science

Learning Athletic Humanoid Tennis Skills from Imperfect Human Motion Data

Deze paper introduceert LATENT, een systeem dat atletische tennisvaardigheden voor humanoïde robots leert door imperfecte menselijke bewegingsfragmenten te combineren en corrigeren, wat resulteert in een robuust beleid dat succesvol is getest op de Unitree G1-robot in echte rally's.

Oorspronkelijke auteurs: Zhikai Zhang, Haofei Lu, Yunrui Lian, Ziqing Chen, Yun Liu, Chenghuai Lin, Han Xue, Zicheng Zeng, Zekun Qi, Shaolin Zheng, Qing Luan, Jingbo Wang, Junliang Xing, He Wang, Li Yi

Gepubliceerd 2026-03-17

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Zhikai Zhang, Haofei Lu, Yunrui Lian, Ziqing Chen, Yun Liu, Chenghuai Lin, Han Xue, Zicheng Zeng, Zekun Qi, Shaolin Zheng, Qing Luan, Jingbo Wang, Junliang Xing, He Wang, Li Yi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot wilt leren tennissen. Niet zomaar een robot die een bal op een muur slaat, maar een mensachtige robot die met een echte mens kan rallyen, snel over het veld moet rennen en de bal precies moet raken terwijl hij met 50 km/uur op hem afkomt.

Dat klinkt als een droom, maar het is een enorme uitdaging. Waarom? Omdat het moeilijk is om perfecte video's te maken van een mens die tennist. Een echte tenniswedstrijd is chaotisch: je rent over heel het veld, de camera's verliezen je soms uit het oog, en de bewegingen van je pols (cruciaal voor de slag) zijn zo snel en subtiel dat ze bijna onmogelijk perfect op te nemen zijn.

De onderzoekers van dit paper, genaamd LATENT, hebben een slimme oplossing bedacht. In plaats van te wachten op perfecte data, gebruiken ze onvolmaakte data.

Hier is hoe ze het doen, vertaald naar alledaagse termen:

1. De "Schets" in plaats van het "Meesterwerk"

Stel je voor dat je wilt leren schilderen. Normaal gesproken zou je een perfect schilderij van een meester willen kopiëren. Maar wat als je alleen maar losse schetsen hebt? Een schets van een hand die een penseel vasthoudt, een schets van een been dat beweegt, maar geen compleet schilderij van het hele schilderproces.

De onderzoekers hebben precies dit gedaan. Ze hebben geen volledige tenniswedstrijden opgenomen. In plaats daarvan hebben ze vijf amateur-tennissers gevraagd om losse, korte bewegingen te doen:

Een forehand slaan.
Een backhand slaan.
Zijwaarts lopen.
Overstappen.

Deze bewegingen zijn "onvolmaakt": ze zijn niet perfect gemeten (de pols is misschien wazig) en het is geen compleet spel. Maar het zijn wel de bouwstenen (de "primitieve vaardigheden") die nodig zijn om te tennissen.

2. De "Geheime Code" (Latente Ruimte)

De robot moet nu leren hoe hij deze losse schetsen moet combineren. De onderzoekers hebben een slim systeem bedacht dat ze een Latente Ruimte noemen.

De Analogie: Denk aan een muzikant die een doos met losse noten heeft. De robot leert eerst hoe hij die losse noten (de schetsen) kan spelen. Maar de robot heeft een "geheime code" nodig om te weten welke noot hij moet spelen op welk moment.
De robot leert een compacte "geheime taal" van bewegingen. In plaats van elke spierbeweging apart te programmeren, denkt de robot in termen van: "Ik moet nu een 'forehand-beweging' doen" of "Ik moet nu 'zijwaarts schuiven'".

3. De "Bewegingsbarrière" (Het Geniale Detail)

Hier komt het slimste deel. Omdat de originele data onvolmaakt was (bijvoorbeeld: de polsbeweging was niet scherp genoeg), zou de robot kunnen proberen de "geheime code" te hacken. Hij zou kunnen proberen de bewegingen op een manier te combineren die wel werkt, maar er heel onnatuurlijk uitziet (alsof hij trilt of krampachtig beweegt).

Om dit te voorkomen, hebben ze een Latent Action Barrier (een bewegingsbarrière) bedacht.

De Analogie: Stel je voor dat je een kind leert fietsen. Je geeft hem een fiets, maar je zorgt dat de wielen niet te ver naar links of rechts kunnen draaien. Het kind kan nog steeds sturen en leren, maar hij kan niet over de rand van de weg fietsen en vallen.
De "barrière" zorgt ervoor dat de robot alleen bewegingen kiest die binnen de "natuurlijke grenzen" van de menselijke schetsen blijven. Hij mag de pols corrigeren (om de bal goed te raken), maar hij mag niet uit de pas lopen met zijn benen. Dit zorgt voor bewegingen die eruitzien als die van een echte atleet.

4. De "Simulatie-Training" (De Virtuele Tennisbaan)

Voordat de robot de echte wereld in gaat, traint hij in een virtuele wereld (MuJoCo). Maar deze wereld is niet perfect.

De onderzoekers maken de simulatie moeilijker dan de realiteit. Ze veranderen willekeurig de zwaartekracht, de wrijving van de ballen en de snelheid van de wind.
De Analogie: Het is alsof je een atleet traint in een storm, met een zware jas aan en op een gladde vloer. Als hij dat overleeft, zal hij op een normale dag met een normale bal geen enkele moeite hebben.
Door deze "chaos" in de training, wordt de robot zo robuust dat hij de echte wereld aankan.

Het Resultaat: De Unitree G1

Uiteindelijk hebben ze dit getest op een echte mensachtige robot (de Unitree G1).

De robot kon met een mens rallyen.
Hij kon de bal raken die met hoge snelheid (meer dan 50 km/u) op hem afkwam.
Hij kon verschillende slagen maken (forehand, backhand) en de bal terugspelen naar specifieke plekken.

Kort samengevat:
De onderzoekers hebben bewezen dat je geen perfecte data nodig hebt om een robot te leren tennissen. Als je slimme "bouwstenen" hebt en een systeem dat de robot helpt om die bouwstenen op een natuurlijke manier te combineren (zonder dat hij de regels van de natuurkunde of de menselijke anatomie breekt), dan kan een robot binnenkort misschien wel meedoen in de Wimbledon-finale.

Het is een beetje alsof je iemand leert dansen door alleen maar losse pasjes te laten oefenen, en dan een slimme choreograaf (de AI) erbij haalt die zorgt dat die pasjes vloeiend en mooi samenkomen tot een prachtige dans, zelfs als de originele pasjes niet helemaal perfect waren.

Titel: LATENT: Het Leren van Atletische Menselijke Tennisvaardigheden van Imperfecte Menselijke Bewegingsdata

1. Het Probleem

Het nabootsen van atletische sportvaardigheden op humanoïde robots is een grote uitdaging vanwege de vereiste voor hoge dynamiek, snelle reacties en extreme precisie. In het specifiek geval van tennis moeten robots snel over het veld bewegen (snelheden > 6 m/s), reageren op ballen met hoge snelheden (15–30 m/s) en de bal raken binnen een contactduur van slechts enkele milliseconden.

De huidige aanpakken stuiten op twee hoofdproblemen:

Gebrek aan perfecte data: Het verzamelen van complete, nauwkeurige menselijke tennisbewegingen uit echte wedstrijden is extreem moeilijk en duur vanwege de grote bewegingsomvang en de subtiele polsbewegingen.
Beperkingen van bestaande methoden: Bestaande methoden die gebruikmaken van kinematische data (zoals Vid2Player3D) vereisen complexe pipelines en onrealistische fysieke aannames (zoals onbeperkte koppelkrachten of residuale krachten) om artefacten te corrigeren, wat een robuuste overdracht naar de echte wereld (sim-to-real) verhindert. Direct imiteren via tele-operatie is onhaalbaar vanwege de snelheid en complexiteit.

2. Methodologie: LATENT

De auteurs stellen LATENT (Learns Athletic humanoid TEnnis skills from imperfect human motioN daTa) voor. Het kernidee is dat "imperfecte" data (fragmenten van primitieve vaardigheden in plaats van complete wedstrijden) voldoende priors biedt om natuurlijke bewegingsstijlen te behouden, mits deze gecorrigeerd en samengesteld worden door een leerproces.

Het systeem bestaat uit drie fasen:

A. Collectie van Imperfecte Menselijke Data
In plaats van volledige wedstrijden, verzamelen de auteurs korte bewegingsfragmenten van primitieve vaardigheden (forehand, backhand, zijwaartse shuffle, crossover-stap) van amateurs in een optisch motion capture-systeem.

Imperfectie: De data is onnauwkeurig (vooral polsbewegingen tijdens het slaan) en incompleet (geen kennis over hoe deze vaardigheden in een tenniswedstrijd gebruikt moeten worden).
Retargeting: De menselijke bewegingen worden overgezet naar de humanoïde robot (Unitree G1).

B. Constructie van een Corrigeerbare Latente Actieruimte
Om de imperfecties aan te pakken, wordt een hiërarchisch controle-systeem opgezet:

Motion Tracker Pre-training: Een RL-beleid (tracker) wordt getraind om de imperfecte data na te bootsen. Cruciaal hierbij is dat de besturingssignalen voor de pols (waar de racket wordt vastgehouden) tijdens het trainen worden verwijderd en willekeurige verstoringen worden toegevoegd. Dit dwingt de tracker om robuust te zijn tegen pols-variabiliteit.
Online Distillatie met Variational Bottleneck: Een student-netwerk (Encoder-Decoder) leert een compacte, continue latente representatie van deze primitieve vaardigheden via online distillatie.
- Er wordt gebruikgemaakt van een leerbare conditionele prior $P(z_p|s_t)$ in plaats van een vaste verdeling, om de statie-afhankelijke actie-distributie te vangen.
- Een Latent Action Barrier (LAB) wordt geïntroduceerd. Dit beperkt het verkenningsspace van het hoog-niveau beleid tot een "veilig" gebied rondom de prior-middelpunt (gemeten via Mahalanobis-afstand). Dit voorkomt dat het beleid suboptimale, onnatuurlijke bewegingen "hackt" door de latente ruimte te misbruiken, terwijl het toch ruimte laat voor correcties.

C. Hoog-niveau Beleid (High-Level Policy)
Een planner (gebaseerd op PPO) leert om de primitieve vaardigheden uit de latente ruimte te combineren en te corrigeren om de tennisbal terug te slaan.

Hybride Controle: Het beleid geeft twee outputten: een latente actie (voor het lichaam) en directe correctie-commando's voor de pols. Omdat de latente ruimte robuust is ontworpen, kan het beleid de pols vrij aanpassen zonder de stabiliteit van het onderlichaam te verstoren.
Sim-to-Real Transfer: Om de overdracht naar de echte wereld mogelijk te maken, worden dynamische randomisatie (wrijving, massa, luchtweerstand van de bal) en observatieruis (ruis in positie/snelheidsschatting van de bal) toegepast tijdens het trainen in de simulator.

3. Belangrijkste Bijdragen

LATENT Framework: Een nieuw systeem dat atletische tennisvaardigheden leert van imperfecte, fragmentarische menselijke data, wat de dataverzameling aanzienlijk vereenvoudigt.
Novel Designs voor Latente Ruimtes:
- Een ontwerp dat compatibel is met potentiële correcties (vooral voor de pols).
- De Latent Action Barrier (LAB): Een mechanisme om de verkenning van het RL-beleid te beperken tot een natuurlijk gebied, wat zorgt voor een balans tussen taakprestatie en het behoud van menselijke bewegingsstijlen.
Real-World Deploy: Succesvolle implementatie op de Unitree G1 humanoïde robot, met het vermogen om stabiele multi-shot rallies (meerdere slagen op rij) met menselijke spelers te onderhouden.
Robuuste Sim-to-Real: Bewijs dat dynamische randomisatie en observatieruis voldoende zijn voor een succesvolle overdracht zonder complexe systeemidentificatie.

4. Resultaten

De methode is geëvalueerd in simulatie (MuJoCo) en in de echte wereld.

Simulatie: LATENT overtreft bestaande baselines (zoals PPO, MotionVAE, AMP, ASE, PULSE) significant.
- Success Rate (SR): 96,52% voor forehand en 82,10% voor backhand (tegenover ~71% voor de beste concurrent PULSE).
- Kwaliteit: Lagere afstandsfouten (DE), soepelere bewegingen (Smth) en lager koppel (Torque), wat aangeeft dat de bewegingen natuurlijker en fysiek haalbaarder zijn.
Ablatie-studies:
- Zonder polscorrectie daalt de success rate drastisch.
- Zonder LAB (Latent Action Barrier) leert het beleid "hacken" (onstabiele, trillende bewegingen) en presteert het slechter.
Echte Wereld:
- De robot kan stabiel rallies spelen met mensen.
- Success Rate in de echte wereld: 90,90% (forehand) en 77,78% (backhand).
- Vergelijkingen tonen aan dat zowel dynamische randomisatie als observatieruis essentieel zijn voor deze prestaties.

5. Betekenis en Conclusie

Dit werk is een doorbraak in het gebied van humanoïde sportrobots. Het toont aan dat men niet afhankelijk hoeft te zijn van perfecte, complete datasets van professionele atleten om complexe, atletische vaardigheden te leren. Door slimme architectuur (corrigeerbare latente ruimte + LAB) en robuuste trainingstechnieken, kunnen robots leren om dynamische taken uit te voeren met een menselijke bewegingsstijl.

De methode biedt een veelbelovend pad voor toekomstige toepassingen in andere sporten (zoals voetbal of parkour) waar het verzamelen van perfecte menselijke data eveneens onhaalbaar is. De succesvolle deploy op de Unitree G1 bewijst dat dit niet alleen theoretisch, maar ook praktisch haalbaar is voor real-world interacties.