🤖 AI

Learning Native Continuation for Action Chunking Flow Policies

Het artikel introduceert Legato, een trainings-tijd voortzettingsmethode voor op acties gebaseerde Vision-Language-Action-modellen die stroomdynamica herschikt en gebruikmaakt van gerandomiseerde schema-conditioning om soepelere, consistentere trajecten te produceren, waardoor het bestaande Real-Time Chunking-benaderingen overtreft in real-world manipulatie-taken.

Oorspronkelijke auteurs: Yufeng Liu, Hang Yu, Juntu Zhao, Bocheng Li, Di Zhang, Mingzhu Li, Wenxuan Wu, Yingdong Hu, Junyuan Xie, Junliang Guo, Dequan Wang, Yang Gao

Gepubliceerd 2026-05-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yufeng Liu, Hang Yu, Juntu Zhao, Bocheng Li, Di Zhang, Mingzhu Li, Wenxuan Wu, Yingdong Hu, Junyuan Xie, Junliang Guo, Dequan Wang, Yang Gao

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot leert een complexe taak uit te voeren, zoals water van het ene kopje naar het andere gieten. Hiervoor gebruikt de robot een "hersenen" (een Vision-Language-Action-model) dat de scène bekijkt en bepaalt wat er als volgende moet gebeuren.

Deze hersenen zijn echter traag. Ze kunnen niet snel genoeg denken om elke milliseconden een nieuwe instructie aan de robot te geven. Daarom gebruiken ingenieurs een truc genaamd "Action Chunking". In plaats van één instructie per keer te geven, voorspelt het hersenmodel een hele "chunk" van toekomstige bewegingen (bijvoorbeeld de volgende 2 seconden beweging) in één keer.

Het probleem: de "stottering"

Het artikel identificeert een groot gebrek in hoe deze chunks momenteel aan elkaar worden geregen.

Stel je voor dat je door een gang loopt. Je zet een stap, dan nog een. Als je je volgende drie stappen allemaal in één keer plant, loop je misschien soepel. Maar wanneer je die drie stappen hebt voltooid en de volgende drie moet plannen, moet je hersenen pauzeren, opnieuw evalueren en een nieuw plan beginnen.

Bij huidige robots veroorzaakt deze pauze een "stottering" of een "hik" op de grens waar één chunk eindigt en de volgende begint. De robot kan dan:

Aarzelen (een fractie van een seconde bevriezen).
Plotseling in een andere richting jerken.
Van gedachten veranderen over welke hand hij moet gebruiken of welk object hij moet grijpen.

Het artikel noemt dit "spurious multimodal switching". In gewone taal: de robot raakt in de war op de overgangspunten en begint te waveren tussen verschillende mogelijke acties, waardoor de beweging onnatuurlijk en jerky lijkt.

De oude oplossing: "Real-Time Chunking" (RTC)

Eerdere pogingen om dit op te lossen, genaamd Real-Time Chunking (RTC), waren als een post-it-herinnering.

Wanneer de robot een chunk afrondt, kijkt het systeem naar de laatste paar bewegingen die het heeft gemaakt.
Het dwingt de nieuwe chunk om precies daar te beginnen waar de oude is geëindigd.
Het gebrek: Dit is een externe regel die na het denken van de robot wordt toegepast. Het is alsof je een schilder zegt: "Zorg dat je volgende penseelstreek aansluit op de vorige," maar de schilder heeft niet geleerd hoe je ze op een natuurlijke manier aansluit. De robot blijft intern in de war, wat leidt tot aarzeling en jerky bewegingen.

De nieuwe oplossing: "Legato"

De auteurs stellen een nieuwe methode voor genaamd Legato (genoemd naar een muzikale term die "soepel verbonden" betekent).

In plaats van alleen een regel aan het einde toe te voegen, leert Legato de hersenen van de robot hoe ze de punten moeten verbinden terwijl het leert.

Hier is hoe het werkt, met een creatieve analogie:

1. De analogie van "Oefenen met steunwieltjes"
Stel je voor dat je een kind leert fietsen.

Oude manier (RTC): Je laat ze fietsen, en als ze wankelen aan het einde van een bocht, pak je het stuur vast en forceer je ze recht. Ze leren om op jou te vertrouwen om de wankeling te corrigeren.
Legato-methode: Je leert ze om het evenwicht te voelen tijdens de bocht. Je geeft ze een "schema" van hoeveel ondersteuning ze op elke seconde van de bocht nodig hebben. Naarmate ze verder de bocht in gaan, laat je ze langzaam los, maar begeleid je ze de hele tijd soepel.

2. De "soepele helling" versus de "harde muur"
Legato gebruikt een "schema-vormige" begeleiding.

Wanneer de robot een nieuwe chunk start, weet het precies waarmee de vorige chunk is geëindigd.
Legato vertelt de robot: "Voor het eerste deel van deze nieuwe chunk moet je de vorige route exact volgen."
Vervolgens zegt het langzaam: "Oké, je mag nu een beetje afdrijven en je eigen keuzes maken."
Tot slot: "Nu ben je vrij om de rest van de beweging te plannen."

Dit creëert een soepele helling van vrijheid in plaats van een harde muur waar de robot plotseling moet schakelen.

3. De "ingebouwde vaardigheid"
Het belangrijkste deel van Legato is dat het de interne "stroom" van de robot verandert. Het herschikt de wiskunde in de hersenen van de robot zodat het verbinden van chunks een natuurlijk onderdeel is van hoe het denkt.

Het dwingt de robot niet alleen om te matchen met het verleden; het leert de robot dat consistent blijven met het verleden het eenvoudigste en meest logische pad is om te nemen.
Dit voorkomt dat de robot aarzelt of heen en weer springt tussen verschillende ideeën (multimodal switching).

De resultaten

De onderzoekers testten dit op echte robots die vijf verschillende taken uitvoerden: kommen stapelen, dingen gieten, objecten oppakken, laden openen en handdoeken vouwen.

Soepelere bewegingen: De robots van Legato bewogen als een stromende waterstroom, terwijl de oude methode bewoog als een reeks jerky stappen.
Snellere voltooiing: Omdat de robots niet aarzelden of bevriezen bij de "chunk-grenzen", voltooiden ze taken ongeveer 10% sneller.
Minder verwarring: De robots hielden zich aan hun plan (bijvoorbeeld "Ik zal mijn linkerhand gebruiken") in plaats van heen en weer te waveren.

Samenvatting

Denk aan Action Chunking als een robot die een reeks foto's maakt om zijn beweging te plannen.

Het probleem: De foto's sluiten niet perfect aan, waardoor de film trilt.
De oude oplossing: Je probeert de foto's achteraf aan elkaar te plakken (RTC), maar het trillen blijft bestaan.
Legato: Je leert de camera hoe de foto's moet nemen, zodat ze tijdens het schieten van nature perfect aansluiten. Het resultaat is een soepele, continue film waarin de robot met vertrouwen en gratie beweegt.

Technische Samenvatting: Legato – Het Leren van Native Continuatie voor Actie-Chunking Flow Policies

1. Probleemstelling

Vision Language Action (VLA)-modellen worden steeds vaker ingezet in robotica in de echte wereld met behulp van actie-chunking, een strategie waarbij het model een reeks toekomstige actievectoren voorspelt in één enkele inferentiestap. Hoewel chunking de inferentiekosten amortiseert en controle met hoge frequentie mogelijk maakt, introduceert het een fundamenteel nadeel: discontinuïteiten aan de chunk-grenzen.

Deze discontinuïteiten ontstaan door twee primaire factoren:

Inferentievertraging: De tijd die nodig is om de volgende chunk te berekenen, veroorzaakt een gat tussen de uitvoering van de huidige chunk en de generatie van de volgende.
Intrinsieke Multimodaliteit: Flow-based policies vertonen vaak multimodale distributies, wat leidt tot "spurious multimodal switching" waarbij het beleid abrupt van beoogde actiemodus verandert tussen chunks.

Bestaande oplossingen zoals Real-Time Chunking (RTC) proberen dit te mitigeren door inferentie-tijd inpainting toe te passen, waarbij nieuwe chunks gedeeltelijk worden beperkt om te overlappen met eerdere acties. RTC is echter een extern mechanisme dat alleen tijdens de inferentie wordt toegepast. Omdat het beleid zelf niet is getraind om deze continuatie te hanteren, blijft het vatbaar voor aarzeling, abrupte richtingsveranderingen en trajecten die niet intrinsiek glad zijn. Het artikel stelt dat stabiele chunk-uitvoering vereist dat chunk-continuatie een native, geleerde eigenschap van het beleid is.

2. Methodologie: Legato

De auteurs stellen Legato voor, een trainingstijd continuatiekader voor op actie-chunking gebaseerde flow-based VLA-policies. Legato internaliseert het continuatiemechanisme door de geleerde flow-dynamica te herschikken om consistentie te garanderen tussen training en inferentie onder per-stap begeleiding.

Kerncomponenten

Legato adresseert twee kritieke vereisten voor effectieve continuatie:

Per-Stap Begeleiding: Begeleiding moet herhaaldelijk worden toegepast over alle denoising-stappen, niet alleen bij initialisatie.
Training-Inferentie Consistentie: De dynamica die tijdens training wordt geleerd, moet overeenkomen met de dynamica die tijdens inferentie wordt gebruikt.

A. Schemagevormde Begeleiding

Legato introduceert een begeleidingsschema $\omega \in [0, 1]^H$ over de horizon van de actie-chunk $H$ . Dit schema wordt gedefinieerd door drie parameters:

$d$ : De inferentievertraging (volledige begeleidingsprefix).
$s$ : De uitgevoerde lengte per cyclus.
$r$ : De afrem-lengte waarbij de begeleidingssterkte afneemt.
Deze voldoen aan $r + s + d = H$ .

In plaats van de prefix hard af te klemmen (zoals bij Training-time RTC), gebruikt Legato een glad schema: het verankert het begin van de chunk aan bekende acties (ground truth tijdens training, prefix van de vorige chunk tijdens inferentie) en laat de begeleidingssterkte geleidelijk afnemen tot nul. Dit wordt bereikt via een actie-ruis mix:
$\epsilon_{eff} = (1 - \omega) \odot \epsilon + \omega \odot A$
waarbij $\epsilon$ ruis is en $A$ de referentie-actie.

B. Herschikken van Flow-dynamica

Standaard flow matching traint een snelheidsveld $u_{FM}$ om ruis naar acties te transporteren. Het toepassen van per-stap begeleiding tijdens inferentie induceert echter een ander dynamisch systeem. Om het train-test-mismatch te elimineren, leidt Legato de exacte continue-tijd dynamica af die wordt geïnduceerd door herhaalde per-stap begeleiding en herformuleert het doel-snelheidsveld tijdens training.

Het netwerk wordt getraind om een gewijzigde doel-snelheid $v_{target}$ te voorspellen:
$v_{target}(t, A, \epsilon, \omega) = (1 - \kappa \odot (1 - t)) \odot (A - \epsilon)$
waarbij $\kappa = \omega / \Delta t$ . Dit stelt het beleid in staat om native schema-gevormde begeleiding te ondersteunen zonder externe ingreep tijdens inferentie.

C. Geconditioneerde Randomisatie van Schema's

Om te kunnen omgaan met variërende inferentielatenties over hardware en runtime-optimalisaties, randomiseert Legato de schemaparameters ( $d, r$ ) tijdens training. Het beleid wordt expliciet geconditioneerd op het schema $\omega$ (aangehecht als een feature). Dit stelt één enkel model in staat om zich aan te passen aan verschillende inferentievertragingen en de afweging tussen trajectgladheid en overlap-consistentie tijdens inferentie te controleren zonder opnieuw te trainen.

3. Belangrijkste Bijdragen

Legato Kader: Een trainingstijd continuatiekader dat per-stap, schema-gevormde begeleiding mogelijk maakt terwijl strikte training-inferentie-consistentie wordt behouden door flow-dynamica te herschikken.
Geconditioneerde Randomisatie van Schema's: Een mechanisme om variërende inferentievertragingen te ondersteunen en flexibele controle over trajectgladheid te bieden, waardoor het model kan generaliseren over verschillende hardware- en latentiecondities.
Empirische Validatie: Uitgebreide experimenten in de echte wereld die aantonen dat het leren van continuatie als een native beleidseigenschap inferentie-tijd correctiemethoden overtreft.

4. Experimentele Resultaten

De auteurs hebben Legato geëvalueerd op vijf manipulatietaakken in de echte wereld (schalen stapelen, schenken, oppakken en plaatsen, laden openen, handdoek vouwen) met behulp van een robot met twee armen.

Prestatiemetingen

Taakvoltooiingstijd: Legato behaalde consistent kortere voltooiingstijden (ongeveer 10% verbetering) in vergelijking met RTC.
Trajectgladheid: Legato produceerde aanzienlijk gladdere trajecten, wat blijkt uit lagere NSPARC-waarden (Negative Spectral Arc Length) en Overlap RMSE-waarden.
Spurious Multimodal Switching: Legato verminderde aarzeling en abrupte richtingsveranderingen, wat leidde tot meer consistente grijpdoelen en armselecties.

Comparatieve Analyse

vs. RTC: Legato presteerde beter dan RTC op alle vijf de taken qua snelheid en gladheid.
vs. Training-Time RTC: Legato presteerde beter dan een baseline die harde prefix-beperkingen toepast tijdens training. De auteurs schrijven dit toe aan Legato's herschikking van flow-dynamica, die beter aansluit bij het effectieve denoising-gedrag van herhaalde begeleiding.
Generalisatie: De methode toonde robuustheid over verschillende VLA-backbones ( $\pi_0$ , $\pi_0.5$ , Gr00t N1.6) en variërende inferentievertragingen.

5. Betekenis en Claims

Het artikel stelt dat Legato een verschuiving vertegenwoordigt van het behandelen van continuïteit in actie-chunking als een externe, inferentie-tijd correctie naar een native, geleerde eigenschap van het beleid.

Intrinsieke Gladheid: Door de flow-dynamica te herschikken, zorgt Legato ervoor dat het beleid inherent begrijpt hoe het moet overgaan tussen chunks, waardoor de "trillingen" en aarzeling die geassocieerd zijn met multimodal switching worden verminderd.
Efficiëntie: De reductie in aarzeling en richtingsveranderingen vertaalt zich direct naar snellere taakvoltooiingstijden in scenario's uit de echte wereld.
Aanpasbaarheid: Het gebruik van geconditioneerde randomisatie van schema's stelt één enkel model in staat om te worden ingezet in diverse hardware-omgevingen met verschillende inferentielatenties, een kritieke vereiste voor praktische robotische implementatie.

De auteurs concluderen dat hoewel huidige formuleringen denoising-stappen beperken tot specificaties tijdens training, de voorgestelde methode succesvol aantoont dat het leren van continuatie-dynamica superieur is aan het afdwingen van harde beperkingen, en een robuust pad biedt naar soepelere en efficiëntere robotische controle in de echte wereld.