💻 computer science

Diffusion Policy for Coordinated Control of a Nonholonomic Mobile Base and Dual Arms in Door Opening and Passing

Dit artikel presenteert een op diffusie gebaseerde visuele motorische besturingsbeleid dat een niet-holonomische mobiele basis met dubbele armen in staat stelt om robuust en gecoördineerd de complexe, lang-horizontale taak van het openen van zware zelfsluitende deuren en het passeren ervan uit te voeren, en dat traditionele toestandsmachine-benaderingen overtreft in generalisatie en omgang met verstoringen.

Oorspronkelijke auteurs: Shangqun Yu, Matthew En, Daniel Wu, Sangjun Park, Ziyi Zhou, Seyed Fakoorian, Donghyun Kim

Gepubliceerd 2026-05-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Shangqun Yu, Matthew En, Daniel Wu, Sangjun Park, Ziyi Zhou, Seyed Fakoorian, Donghyun Kim

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een robot voor die probeert door een zware, zelfsluitende deur te lopen die je open moet trekken. Voor een mens is dit eenvoudig: je pakt het handvat, draait eraan, trekt de deur wijd open, houdt hem met één hand open terwijl je erdoorheen stapt, en wisselt misschien van hand als dat nodig is. Maar voor een robot is dit een nachtmerrie. Het moet zijn wielen (die niet makkelijk zijwaarts kunnen bewegen), zijn twee armen en zijn ogen coördineren, allemaal terwijl het vecht tegen een deur die van nature dicht wil slaan.

Dit artikel presenteert een nieuw "brein" voor een robot dat dit probleem oplost met een methode die een Diffusiebeleid wordt genoemd. Hieronder wordt uitgelegd hoe dit werkt, in eenvoudige bewoordingen:

Het Probleem: De Strijd van de "Toestandsmachine"

Traditioneel leerden programmeurs robots dit door een strikt "recept" of stroomschema (een toestandsmachine) te schrijven. Dit zou zeggen: "Stap 1: Draai aan de knop. Stap 2: Trek de deur open. Stap 3: Loop erdoorheen."

De Tekortkoming: Als de deur zwaarder is dan verwacht, of als de robot uitglijdt, of als het handvat een andere kleur heeft, raakt de robot in de war. Het is alsof je een recept volgt dat zegt "voeg zout toe", maar niet vertelt wat je moet doen als je per ongeluk de zoutvaatje laat vallen. De robot bevriest dan of crasht, omdat de echte wereld rommelig en onvoorspelbaar is.

De Oplossing: De "Diffusie"-Kunstenaar

De auteurs vervingen het strikte recept door een Diffusiebeleid. Denk hierbij niet aan een robot die een kaart volgt, maar aan een kunstenaar die leren schilderen door naar een meester te kijken.

Leren door te kijken (Imitatie): In plaats van precies te worden verteld wat hij moet doen, keek de robot 100 keer toe hoe mensen (of een computersimulatie van een mens) de taak uitvoerden. Het zag hoe ze reikten, draaiden, trokken en erdoorheen liepen.
Het "Denoising"-proces: Stel je voor dat de robot kijkt naar een zeer wazig, statisch beeld op een tv-scherm. Het "Diffusie"-gedeelte is als het langzaam opklaren van de statische storing, stap voor stap, om een duidelijk beeld te onthullen van welke actie als volgende moet worden ondernomen.
- Het begint met een willekeurige gok (de statische storing).
- Het kijkt naar wat het ziet (de deur, het handvat, zijn eigen armen).
- Het "maakt de gok schoon" om deze gladder en nauwkeuriger te maken.
- Het herhaalt dit reinigingsproces zeer snel (100 keer tijdens het trainen, maar slechts 10 keer tijdens het daadwerkelijke bewegen) om precies te beslissen hoe het zijn armen en wielen moet bewegen.

Waarom Dit Speciaal Is

Het artikel benadrukt drie belangrijkste superkrachten die deze robot heeft verworven:

De "Zwitsers zakmes"-Coördinatie: De meeste robots behandelen lopen en grijpen als aparte taken. Deze robot leerde ze op exact hetzelfde moment te doen. Het is als een jongleur die leerde over een slappe koord te lopen terwijl het gooit, in plaats van eerst te leren lopen en daarna te leren gooien. Het coördineert naadloos zijn wielen en twee armen om de deur open te trekken en erdoorheen te stappen.
De "Herstelreflex": Dit is het meest indrukwekkende deel. In de echte wereld gaat er van alles mis. De onderzoekers testten dit door de deur handmatig dicht te duwen terwijl de robot probeerde deze open te maken.
- Oude Robot: Zou waarschijnlijk panikeren, stoppen, of proberen een deur open te trekken die nu dicht is, wat leidt tot een crash.
- Deze Robot: Het merkte op dat de deur bewoog (met zijn ogen), besefte dat zijn plan verkeerd was, en "her-schilderde" direct zijn actie. Het stopte met trekken, paste zijn greep aan en begon de openende beweging helemaal opnieuw. Het had geen mens nodig om op de "reset"-knop te drukken; het repareerde zichzelf.
Aanpassen aan Verandering: De robot werd getraind op deuren van verschillende kleuren en onder verschillende lichtomstandigheden. Omdat het het concept van het openen van een deur leerde in plaats van een specifieke deur te memoriseren, werkte het even goed op een rode deur als op een blauwe, of in fel zonlicht als in gedempt licht.

Het Resultaat

Het team bouwde een echte robot met twee armen (een "RealMan"-platform) en testte deze.

In Simulatie: De robot slaagde 10 op 10 keer, zelfs wanneer de deurkleur veranderde of het licht verschuift.
In het Echte Leven: De robot opende succesvol zware, zelfsluitende deuren en liep erdoorheen. Toen de onderzoekers midden in de taak met de deur knoeiden, herstelde de robot zich en voltooide het werk.

De Conclusie

Dit artikel bewijst dat je geen complexe, breekbare reeks regels hoeft te schrijven om een robot een moeilijke fysieke taak aan te leren. In plaats daarvan kan een robot, door een "diffusie"-methode te gebruiken die leert van voorbeelden en voortdurend zijn acties verfijnt zoals een kunstenaar een schets opklaart, leren om complexe uitdagingen uit de echte wereld aan te pakken—zoals het openen van een koppige deur—zelfs wanneer er dingen misgaan.

Technische Samenvatting: Diffusiebeleid voor Gecoördineerde Besturing van een Nonholonomisch Mobiel Onderstel en Dubbele Armen bij Het Openen en Passeren van Deuren

Probleemstelling
Het artikel behandelt de complexe uitdaging om een robot met dubbele armen, gemonteerd op een nonholonomisch mobiel onderstel, in staat te stellen zware, zelfsluitende (gedempte) trekkende deuren te openen en erdoorheen te bewegen. Deze taak wordt gekenmerkt door planning op lange horizon, strakke coördinatie tussen locomotie en manipulatie, en interacties met veel contactpunten. Specifiek moet de robot een handvat draaien, de deurspleet verbreden, de deur tegen een zelfsluitend mechanisme houden, indien nodig van arm wisselen, en door de opening navigeren terwijl de benodigde vrijheid wordt behouden.

Traditionele modelgebaseerde benaderingen vertrouwen op toestandsautomaten en handgemaakte trajecten die overgaan tussen handmatig gedefinieerde fasen (bijvoorbeeld eerst draaien en dan trekken). Deze methoden missen robuustheid en falen in het generaliseren naar diverse real-world omstandigheden zonder uitgebreide engineering. Hoewel recente op leren gebaseerde methoden (behavior cloning, reinforcement learning) alternatieven bieden, zijn ze vaak afhankelijk van geabstraheerde staatrepresentaties, vereisen meerdere submodules, of zijn beperkt tot vereenvoudigde scenario's (bijvoorbeeld ongedempte duwdeuren). Geen enkel bestaand visueel-actie model heeft succesvol gelijktijdige coördinatie van een nonholonomisch onderstel en dubbele armen gedemonstreerd voor de volledige taak van het passeren van een gedempte trekkende deur, uitsluitend gebruikmakend van visuele en proprioceptieve inputs.

Methodologie
De auteurs stellen een end-to-end diffusiegebaseerd visuo-motorisch besturingsbeleid ( $\pi_\theta(a|s)$ ) voor dat ruwe observaties (RGB-afbeeldingen en proprioceptieve data) direct afbeeldt op continue acties.

Dataverzameling:
- Hardware: Expertdemonstraties werden verzameld met behulp van een RealMan-platform met dubbele armen, uitgerust met een teleoperatiekit, waarbij joint-posities en multi-view RGB-afbeeldingen werden opgenomen.
- Simulatie: Er werd een bewegingsplanner op basis van fasen ontwikkeld om diverse referentietrajecten te genereren. Dit systeem combineert Inverse Kinematica (IK) voor manipulatie met dubbele armen met Model Predictive Control (MPC) voor de beweging van het nonholonomische onderstel. Een scheduler in de taakruimte leidt de robot door sleutelframes (reiken, draaien, trekken, vasthouden).
- Randomisatie: Om robuustheid te waarborgen, bevat de trainingsdata domeinrandomisatie van lichtomstandigheden, deuren/handvatkleuren en de initiële basispositie van de robot ten opzichte van de deur.
Beleidarchitectuur:
- Input: Het beleid conditioneert op een stapel van de meest recente observaties ( $T_o = 3$ ), die latente vectoren bevatten van drie onafhankelijke ResNet-18-encoders (één per cameraview), geconcentreerd met proprioceptieve staatdata.
- Ruggengraat: Een 1D U-Net met FiLM (Feature-wise Linear Modulation) conditionering dient als diffusieruggengraat.
- Output: Het model voorspelt een toekomstige actieserie ( $T_p = 16$ stappen). Tijdens uitvoering voert de robot de eerste $T_a = 8$ stappen uit voordat het opnieuw plant op basis van nieuwe observaties.
- Inferentie: Het beleid werkt door een Gaussisch ruisvector te ontdoen van ruis tot een actieserie. Hoewel getraind met 100 ontdoofde stappen, ontdekten de auteurs dat inferentie kon worden uitgevoerd met zo weinig als 10 stappen zonder prestatieverlies, wat de latentie aanzienlijk verlaagde.
Optimalisatie: Om real-time besturing op de onboard Jetson AGX Orin te bereiken, pasten de auteurs Low-Rank Adaptation (LoRA) toe met kwantisatie en optimaliseerden ze de stroomconfiguratie van het systeem om frequentie-drosseling te voorkomen.

Belangrijkste Bijdragen

Trajectgeneratie op basis van fasen: Een pijplijn die IK en MPC combineert met gerandomiseerde testscenario's om de automatische generatie van diverse referentietrajecten voor training mogelijk te maken.
End-to-end Diffusiecontroller: De ontwikkeling van een unificerend beeld-naar-actie coördinatiecontroller gebaseerd op diffusiebeleid, die modelcomplexiteit en inferentietijd in evenwicht brengt om taken op lange horizon te hanteren.
Validatie in de Wereld: Experimentele validatie op een fysieke mobiele manipulator met dubbele armen, waarbij het vermogen van het beleid wordt aangetoond om gecoördineerde deuropeningstaken uit te voeren en te herstellen van externe verstoringen, uitsluitend gebruikmakend van visie en proprioceptie.

Resultaten

Simulatie: Het diffusiebeleid behaalde een succespercentage van 100% (10/10) bij het openen en passeren van gedempte trekkende deuren in simulatie.
- Ablatiestudies: Het gebruik van afzonderlijke encoders voor elke cameraview was cruciaal; een uniforme encoder verlaagde het succes tot 0/10. Het verminderen van de ontdoofde stappen tot 30 of zelfs 10 behield hoge prestaties, terwijl verdere vermindering de resultaten verslechterde.
- Baselines: Het voorgestelde diffusiebeleid presteerde beter dan de baselines. ACT (Action Chunking with Transformers) behaalde 8/10 succes maar faalde om 100% te bereiken, waarschijnlijk door overfitting op dominante visuele patronen in gerandomiseerde omgevingen. SmolVLA faalde volledig (0/10), toegeschreven aan zijn pretraining op kleinere datasets voor manipulatoren.
Hardware-implementatie: Het beleid voerde de volledige taakreeks succesvol uit op het RealMan-platform.
- Herstel van Verstoringen: Een belangrijke bevinding was de robuustheid van het beleid tegen externe verstoringen. Toen de deur tijdens de openingsreeks handmatig opnieuw werd gesloten, detecteerde de robot de verandering via visuele feedback, stopte de huidige beweging, paste zijn houding aan en hervatte de openingsreeks in plaats van te falen of af te wijken.
- Latentie: Door model- en hardware-optimalisatie bereikte het systeem een lage-latentie uitvoering die voldoende is voor real-time basisbesturing en doorgang.

Betekenis en Claims
Het artikel claimt dat diffusiegebaseerde beleid een veelbelovend paradigma bieden voor complexe real-world manipulatie taken die strakke coördinatie vereisen tussen perceptie, manipulatie en navigatie. In tegenstelling tot traditionele methoden die vertrouwen op breekbare toestandsautomaten of uitgebreide engineering vereisen voor specifieke deurtypen, leert deze aanpak een unificerend beleid direct uit demonstraties. De auteurs benadrukken dat het resulterende systeem niet alleen hoge succespercentages bereikt in moeilijke scenario's met gedempte trekkende deuren, maar ook een kritiek vermogen demonstreert voor implementatie in de echte wereld: het vermogen om externe verstoringen autonoom te detecteren en zich daarvan te herstellen. Deze veerkracht, bereikt zonder expliciete modellering van verstoringen, onderscheidt de voorgestelde methode van zowel traditionele modelgebaseerde benaderingen als andere op leren gebaseerde kaders die vaak geen herstelmechanismen hebben zodra ze verstoord zijn.