🤖 machine learning

RLDX-1 Technical Report

Het artikel introduceert RLDX-1, een algemeen toepasbaar robotbeleid gebaseerd op de Multi-Stream Action Transformer (MSAT)-architectuur, dat heterogene modaliteiten en gespecialiseerde systeemontwerpen integreert om bestaande Vision-Language-Action-modellen aanzienlijk te overtreffen in complexe, contactrijke en dynamische real-world vaardige manipulatieopdrachten.

Oorspronkelijke auteurs: Dongyoung Kim, Huiwon Jang, Myungkyu Koo, Suhyeok Jang, Taeyoung Kim, Beomjun Kim, Byungjun Yoon, Changsung Jang, Daewon Choi, Dongsu Han, Donguk Lee, Heeseung Kwon, Hojin Jeon, Jaehyun Kang, Jaekyoun

Gepubliceerd 2026-05-06

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Dongyoung Kim, Huiwon Jang, Myungkyu Koo, Suhyeok Jang, Taeyoung Kim, Beomjun Kim, Byungjun Yoon, Changsung Jang, Daewon Choi, Dongsu Han, Donguk Lee, Heeseung Kwon, Hojin Jeon, Jaehyun Kang, Jaekyoung Bae, Jihyuk Lee, Jimin Lee, John Won, Joonwoo Ahn, Junhyeong Park, Junyoung Sung, Kyungmin Lee, Minseong Han, Minsung Yoon, Sejune Joo, Seonil Son, Seungcheol Park, Seunggeun Cho, Seungjun Moon, Seungku Kim, Yonghoon Dong, Yongjin Cho, Youngchan Kim, Chang Hwan Kim, Dohyeon Kim, Hazel Lee, Heecheol Kim, Hensen Ahn, Hyungkyu Ryu, Hyunsoo Choi, Hyunsoo Shin, Jaeheon Jung, Jaewoo Kim, Jinwook Kim, Joochul Chang, Joonsoo Kim, Junghun Park, Jungwoo Park, Junho Cho, Junhyeok Park, Junwon Lee, Kangwook Lee, Kwanghoon Kim, Kyoungwhan Choe, Manoj Bhadu, Nayoung Oh, Sangjun Kim, Sangwoo Kim, Seunghoon Shim, Seunghyun Kim, Seungjun Lee, Seungyup Ka, Sungryol Yang, Wook Jung, Yashu Shukla, Yeonjae Lee, Yeonwoo Bae, Jinwoo Shin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot hebt gebouwd die ontzettend slim is in het lezen van instructies en het bekijken van afbeeldingen. Het weet wat een "bek" is, wat "gieten" betekent, en kan er vloeiend over praten. Dit is als een robot met een PhD in theorie, maar zonder ervaring in de echte wereld. Als je het vraagt om een bal te vangen die over een transportband beweegt, of om een gloeilamp te draaien zonder hem te breken, kan het bevriezen omdat het beweging, geheugen of aanraking niet begrijpt.

Het artikel introduceert RLDX-1, een nieuwe robot"hersenen"ontworpen om dit op te lossen. Denk aan RLDX-1 niet alleen als een slimme lezer, maar als een meesterhandwerker die drie nieuwe superkrachten combineert met zijn bestaande intelligentie:

1. De Superkrachten: Beweging, Geheugen en Aanraking

Bewegingsbewustzijn (De "Jogger"):
De meeste robots kijken naar een stilstaande foto en raden wat ze als volgende moeten doen. Maar de echte wereld beweegt. Als een doos over een transportband schuift, is een statische foto nutteloos. RLDX-1 is als een jongleur die niet alleen naar de bal kijkt; het bekijkt de hele video van de bal die door de lucht vliegt. Het begrijpt snelheid en richting, waardoor het bewegende objecten kan vangen die andere robots missen.
Lange-termijngeheugen (De "Sherlock Holmes"):
Sommige taken kosten tijd. Stel je een schelpenspel voor waarbij een mens een kubus onder een van de drie bekers verbergt, wegloopt en vervolgens de robot vraagt om deze te vinden. Een robot met alleen "kortetermijngeheugen" ziet de bekers, maar vergeet welke de mens heeft aangeraakt. RLDX-1 houdt een "notitieboekje" bij van wat er seconden of minuten geleden is gebeurd. Het onthoudt de reeks gebeurtenissen, waardoor het raadsels kan oplossen die vereisen dat je terugkijkt naar het verleden.
Fysieke Sensing (De "Zachte Hand"):
Visie is geweldig, maar je kunt niet zien wat er in een stopcontact zit of voelen hoe hard je een breekbaar eitje knijpt. RLDX-1 kan "voelen" via zijn sensoren. Het leest het koppel (draaikracht) in zijn gewrichten en tactiele (aanrakings) signalen van zijn huid. Dit is als een persoon met een blinddoek die precies kan vertellen wanneer een stekker in een stopcontact zit of wanneer een eitje op het punt staat te barsten, en direct zijn greep aanpast.

2. De Training: Hoe het het leerde

Je kunt een robot deze vaardigheden niet alleen leren door het een paar video's te laten zien. RLDX-1 heeft een driefasentrainingskamp doorlopen:

Fase 1: De Generalist (Pre-training): Het keek naar miljoenen video's van verschillende robots (armen, handen, humanoïden) die eenvoudige dingen deden. Dit gaf het een breed begrip van hoe de wereld werkt.
Fase 2: De Specialist (Mid-training): Hier leerde het zijn nieuwe superkrachten. Het oefende specifiek met de modules voor "beweging", "geheugen" en "aanraking". Om dit te doen, gebruikten de onderzoekers een slimme truc: ze gebruikten AI-videogeneratoren om duizenden nieuwe, zeldzame scenario's te creëren (zoals een robot die soep giet in een keuken die niet bestaat) en gebruikten vervolgens wiskunde om uit te rekenen wat de robot had moeten doen. Dit vulde de gaten waar echte werelddata ontbrak.
Fase 3: De Verfijning (Post-training): Tot slot oefende het op specifieke taken uit de echte wereld en leerde van zijn eigen fouten. Als het een bek niet kon oppakken, probeerde het het opnieuw, waarbij het een versterkende leermethode gebruikte die werkt als een coach die directe feedback geeft om de prestaties te verbeteren.

3. De Snelheid: Rijden op een Snelweg

Zelfs de slimste hersenen zijn nutteloos als ze te traag zijn. Als een robot 0,1 seconde nodig heeft om na te denken, kan de wereld zijn veranderd tegen de tijd dat het handelt. Het artikel legt uit dat RLDX-1 is geoptimaliseerd om 1,6 keer sneller te werken dan standaard systemen.

De Analogie: Stel je een bezorger voor die bij elk verkeerslicht stopt om een kaart te controleren (standaard verwerking). RLDX-1 is als een bestuurder die de hele route vooraf heeft ingetekend, precies weet welke lichten groen zullen worden, en er zonder stoppen doorheen rijdt. Dit stelt het in staat om in real-time te reageren, zelfs op snel bewegende assemblagelijnen.

4. De Resultaten: De Pudding is het Bewijs

De onderzoekers testten RLDX-1 op twee manieren tegen andere top-tier robothersenen (zoals $\pi0.5$ en GR00T N1.6):

In Simulatie (Het Videospel): RLDX-1 sloeg de anderen consequent in complexe keukentaken en uitdagingen met bewegende objecten.
In de Echte Wereld (De Test):
- De Transportband: Wanneer objecten snel bewogen, slaagde RLDX-1 87,5% van de tijd, terwijl de volgende beste robot bijna 70% van de tijd faalde.
- Het Schelpenspel: Toen het werd gevraagd om een verborgen object te vinden op basis van geheugen, had RLDX-1 het 91,7% van de tijd goed. De anderen gokten willekeurig en hadden het slechts ongeveer 30% van de tijd goed.
- De Gloeilamp: Toen het werd gevraagd om een gloeilamp te draaien totdat het brandde, leerde RLDX-1 het te doen in minder pogingen dan een menselijke trainer kon demonstreren.

Samenvatting

RLDX-1 is een robotbeleid dat verder gaat dan alleen "zien en begrijpen" naar handelen met behendigheid. Door een krachtige visuele hersenen te combineren met gespecialiseerde modules voor beweging, geheugen en aanraking, en door te trainen op een enorme mix van echte en door AI gegenereerde data, bereikt het menselijke vaardigheid in complexe, dynamische en delicate taken waar eerdere robots mee worstelden. Het is een belangrijke stap naar robots die echt naast ons kunnen werken in de rommelige, bewegende en tastbare echte wereld.

Technische Samenvatting: RLDX-1

Probleemstelling

Hoewel Vision-Language-Action-modellen (VLAs) aanzienlijke vooruitgang hebben geboekt in "veelzijdige intelligentie"—het vermogen om diverse visuele scènes te begrijpen, taalinstrukties te volgen en te generaliseren over taken—hebben ze vaak moeite met complexe manipulatietaken uit de echte wereld die bredere functionele capaciteiten vereisen. Specifiek missen bestaande VLAs expliciete mechanismen voor bewegingsbewustzijn (handelen in dynamische omgevingen met bewegende objecten), langetermijngeheugen (redeneren over uitgebreide interactiegeschiedenissen die verder gaan dan korte-termijnframes) en fysieke waarneming (het afleiden van contactkrachten en -momenten onder occlusie of subtiele visuele veranderingen). Deze beperkingen belemmeren de inzet van generalistische robots in dynamische, contactrijke en langdurige scenario's.

Methodologie

De auteurs introduceren RLDX-1, een robuust beleid voor algemeen doel dat is ontworpen voor menselijke, behendige manipulatie. Het systeem integreert diverse functionele capaciteiten in een uniek raamwerk dat architectuur, data, training en inferentie omvat.

1. Neuronale Architectuur: Multi-Stream Action Transformer (MSAT)

RLDX-1 is gebaseerd op een flow-matching VLA-architectuur, maar breidt deze uit met drie belangrijke functionele modules en een nieuw transformer-ontwerp:

Bewegingsbewustzijn: De Vision-Language Model (VLM)-backbone wordt uitgebreid met een Motion Module die ruimte-tijd zelfgelijkheid (STSS) integreert in de visuele encoder om temporele dynamiek te vangen. Bovendien worden vorige videoframes gecomprimeerd tot één contexttoken om de temporele context efficiënt te modelleren.
Langetermijngeheugen: Een expliciete Memory Module onderhoudt een wachtrij van vorige cognitieve kenmerken, waardoor het model kan redeneren over langetermijnobservatiegeschiedenissen (bijvoorbeeld voor schelpspellen of meerstaps taken).
Fysieke Waarneming: Een dedicated Physics Stream verwerkt fysieke signalen (koppel en tactiele data) gescheiden van visuele en taalinput. Deze stream voorspelt toekomstige fysieke signalen naast acties, wat het model aanmoedigt contactdynamiek te internaliseren.
MSAT-architectuur: Om deze heterogene modaliteiten te verwerken, stellen de auteurs de Multi-Stream Action Transformer voor. Deze wijst dedicated streams toe aan Cognitie (visueel/taal), Actie (proprioceptie/ruisende acties) en Fysica (tactiel/koppel). Deze streams wisselen interactie uit via gezamenlijke self-attention, terwijl ze modaliteitsspecifieke parameters behouden, waardoor cross-modale informatieuitwisseling mogelijk is zonder de representatietrouw te verliezen.

2. Trainingsdata en -pijplijn

De trainingsstrategie vertrouwt op een pijplijn in drie fasen en een diverse data-mix:

Data Bronnen: Het model wordt getraind op een combinatie van (a) grote publieke datasets uit de echte wereld (Open-X-Embodiment, DROID, Galaxea, Agibot World, enz.), (b) interne data van de ALLEX-humanoid en sensor-verrijkte Franka Research 3 (FR3)-platforms, en (c) synthetische data.
Generatie van Synthetische Data: Om data-schaarste voor zeldzame behendige scenario's aan te pakken, maken de auteurs gebruik van een pijplijn met video-generatieve modellen (Image-to-Video) om scènes en taken te verrijken. Dit wordt gevolgd door actielabeling via een Inverse Dynamics Model (IDM) en een strikt tweestaps filterproces: Video Kwaliteitsfiltering (met VLM's) en Bewegingsconsistentie-Filtering (waarbij simulatorrollouts worden vergeleken met gegenereerde video's).
Training in Drie Fasen:
1. Pre-training: Getraind op diverse multi-embodiment-data om algemene manipulatiepriors te leren.
2. Mid-training: Gespecialiseerde training op embodiment-specifieke data (ALLEX en FR3) om functionele capaciteiten (beweging, geheugen, fysica) in te brengen met behulp van interne en synthetische data.
3. Post-training: Taalspecifieke fine-tuning, optioneel versterkt met Reinforcement Learning (RL) met een door VLM afgeleide criticus (RECAP-raamwerk) om de prestaties op uitdagende taken te verfijnen.

3. Inferentie-Optimalisatie

Om real-time besturing op echte robots mogelijk te maken, implementeren de auteurs een tweestaps inferentie-optimalisatiepijplijn:

Graph Capture Optimalisatie: Converteert het model naar een statische CUDA Graph om kernel-startoverhead en grafieksfragmentatie te elimineren.
Kernel Optimalisatie: Ontwerpt aangepaste gefuseerde kernels (bijvoorbeeld het fuseren van RMSNorm, RoPE en attention) om het dataverkeer te verminderen en de uitvoeringsefficiëntie te verbeteren bij workloads met korte prefills.
Deze optimalisaties verlagen de latentie per stap van ~71,2 ms naar 43,7 ms op een NVIDIA RTX 5090, wat een 1,63× snelheidswinst oplevert.

Belangrijkste Resultaten

RLDX-1 is geëvalueerd op simulatiebenchmarks en experimenten uit de echte wereld op de OpenArm-, ALLEX- en Franka Research 3-platforms, en presteerde beter dan state-of-the-art baselines zoals $\pi0.5$ en GR00T N1.6.

Simulatiebenchmarks: RLDX-1 behaalde de hoogste successpercentages over alle benchmarks, waaronder LIBERO (97,8%), RoboCasa Kitchen (70,6%) en GR-1 Tabletop (58,7%). Opmerkelijk is dat het superieure robuustheid toonde in LIBERO-Plus en SIMPLER-varianten in vergelijking met baselines.
Veelzijdigheid in de Echte Wereld (OpenArm): Op taken die instruktievolging en generalisatie naar onbekende objecten/taken vereisten, presteerde RLDX-1 aanzienlijk beter dan baselines, met 54,2% op onbekende objecten versus 37,5% voor $\pi0.5$ .
Functionele Capaciteiten (ALLEX & FR3):
- Bewegingsbewustzijn: Op transportbandtaken met variërende snelheden behaalde RLDX-1 een gemiddeld successpercentage van 86,8%, terwijl baselines instortten tot ~40% of faalden bij onbekende snelheden.
- Langetermijngeheugen: In taken als "Object-in-Box Selection" en "Schelpspel" behaalde RLDX-1 successpercentages van respectievelijk 91,7% en 91,7%, terwijl baselines presteerden dicht bij een willekeurige kans (~30-50%).
- Fysieke Waarneming: In contactrijke taken zoals "Plug Insertion" en "Egg Pick-and-Place" gebruikte RLDX-1 koppel- en tactiele feedback om successpercentages van 33,3% en 61,1% te behalen, wat aanzienlijk beter is dan baselines die moeite hadden met contactkrachten.
Inferentieprestaties: De geoptimaliseerde pijplijn behaalde een snelheidswinst van 1,63×, wat real-time inzet mogelijk maakt.

Betekenis en Claims

Het artikel stelt dat RLDX-1 een belangrijke stap voorwaarts is naar betrouwbare VLAs voor complexe, contactrijke en dynamische behendige manipulatie in de echte wereld. Door verder te gaan dan "veelzijdige intelligentie" en expliciet bewegingsbewustzijn, langetermijngeheugen en fysieke waarneming te integreren in een uniek end-to-end architectuur, adresseert RLDX-1 kritieke gaten in huidige generalistische robotbeleid.

De auteurs benadrukken dat hun aanpak niet zomaar een schaalvergroting is van bestaande VLA-modellen, maar een structurele integratie van functionele capaciteiten die noodzakelijk zijn voor menselijke manipulatie. Het succes van de synthetische datapijplijn in het verrijken van data uit de echte wereld en de effectiviteit van de trainingsprocedure in drie fasen tonen een schaalbare weg aan naar de inzet van generalistische beleid op diverse embodimenten. De resultaten op de ALLEX-humanoid, waar RLDX-1 ~90% succes behaalt op functionele taken in vergelijking met ~40% voor frontier-modellen, onderstrepen het vermogen van het model om robots met hoge DoF te besturen onder diverse functionele eisen.