Hyper-DP3: Frequency-Aware Right-Sizing of 3D Diffusion Policies for Visuomotor Control

Technische Samenvatting: Hyper-DP3 (HDP3)

Probleemstelling
Huidige diffusie-gebaseerde visuomotorische beleid voor robotmanipulatie, met name die uitbreiden naar 3D-puntenwolken (zoals DP3), lijden aan aanzienlijke overdimensionering. Deze methoden erven doorgaans architecturen van beeldgeneratie, waarbij zware conditionele decoders (zoals U-Net of DiT) worden gebruikt en meerdere denoising-stappen (vaak 10–100) vereist zijn tijdens de inferentie. De auteurs stellen dat dit ontwerp niet overeenkomt met de aard van robotactietrajecten. In tegen tegenover perceptuele signalen (beelden), die rijke hoogfrequente details bevatten, zijn robotactietrajecten zeer vloeiend en temporeel coherent. Gevolgelijk brengen bestaande benaderingen onnodige computationele latentie en parameteroverhead met zich mee zonder een evenredig voordeel in de controleprestaties te bieden.

Methodologie
De voorgestelde oplossing, Hyper-DP3 (HDP3), heroverweegt het ontwerp van het diffusiebeleid vanuit een frequentiedomein-perspectief. De methodologie bestaat uit drie kerncomponenten:

1. Frequentiedomein-analyse:
   De auteurs analyseren robotactietrajecten met behulp van de Discrete Cosine Transform (DCT). Ze demonstreren dat de energie van deze trajecten overweldigend geconcentreerd is in de laagste frequentiemodi. Specifiek verklaren hun experimenten dat de eerste twee DCT-modi bijna 98,5% van de totale energie beslaan, waarbij de eerste modus alleen al 93,2% bevat. Dit geeft aan dat robotacties op een laagdimensionale manifold liggen in het frequentiedomein.

2. Theoretische rechtvaardiging voor twee-staps inferentie:
   Voortbouwend op de observatie van de dominantie van lage frequenties, biedt het artikel een theoretische bovengrens voor de fout van de optimale denoiser. De analyse laat zien dat de gemiddelde kwadratische fout (MSE) van de optimale estimator begrensd wordt door de dimensie van de laagfrequente subspace en de residuele hoogfrequente energie. Omdat de hoogfrequente energie verwaarloosbaar is, verzadigt de fout snel. De auteurs leiden af dat voor dergelijke data een twee-staps DDIM (Denoising Diffusion Implicit Models) sampler voldoende is om de decoderingsfout naar een niveau te drijven dat een verwaarloosbaar effect heeft op de closed-loop uitvoering. De resterende hoogfrequente fout wordt van nature weggefilterd door de low-level controller van de robot.

3. Lichtgewicht Architectuur (Diffusion Mixer):
   Gesterkt door de bevinding dat het scoreveld voor actie-denoising eenvoudiger is dan dat voor hoogdimensionale perceptuele signalen, vervangt HDP3 de zware U-Net/DiT decoders door een Diffusion Mixer (DiM) decoder.

   • Structuur: De DiM is gebaseerd op de MLP-Mixer architectuur. Het verwerkt de ruisende traject-tokens door af te wisselen tussen temporele MLPs (het aggregeren van informatie over de tijd) en kanaal-MLPs (het aggregeren over de feature-dimensies).
   • Conditionering: Het integreert observatiecondities (3D-puntenwolken en robot-proprioceptieve staten) via FiLM (Feature-wise Linear Modulation) lagen met gated residual-verbindingen.
   • Efficiëntie: Dit ontwerp maakt efficiënte informatiefusie mogelijk met een drastisch verminderd aantal parameters, wat twee-staps inferentie ondersteunt zonder dat consistency distillation of MeanFlow training nodig is.

Belangrijkste Bijdragen

• Frequentiedomein-inzicht: Het artikel stelt vast dat robotactietrajecten sterk laagfrequentie-dominant zijn, wat een fundamentele mismatch onthult in bestaande 3D-diffusiebeleid die vertrouwen op decoders in de stijl van beeldgeneratie en multi-step sampling.
• Theoretische Analyse: Het biedt een bewijs in het frequentiedomein dat aantoont dat de denoising-fout snel verzadigt voor vloeiende trajecten, wat de toereikendheid van zeer weinig reverse stappen (specifiek twee) rechtvaagt voor effectieve actiegeneratie.
• Modelontwerp: De auteurs stellen HDP3 voor, een "pocket-scale" 3D-diffusiebeleid met een lichtgewicht DiM-decoder. Dit model ondersteunt efficiënte twee-staps DDIM-inferentie.
• Empirische Validatie: Het ontwerp wordt gevalideerd op synthetische data, drie simulatiebenchmarks (RoboTwin2.0, Adroit, MetaWorld) en real-world taken, waarbij wordt aangetoond dat hoge prestaties kunnen worden behaald met een fractie van de parameters van eerdere methoden.

Experimentele Resultaten

• Prestaties: Over RoboTwin2.0, Adroit en MetaWorld behaalt HDP3 state-of-the-art prestaties. Op RoboTwin2.0 behaalt het bijvoorbeeld een gemiddeld succespercentage van 63,2% (wat de vorige beste, DP3, met 8,0 procentpunt overtreft). Op Adroit en MetaWorld behaalt het een gemiddeld succespercentage van 78,4%, waarmee het de sterke baseline MP1 (76,7%) overtreft.
• Efficiëntie: HDP3 gebruikt minder dan 1% van de parameters van eerdere 3D-diffusiegebaseerde beleid (bijv. 2,52M parameters versus 255,8M voor DP3).
• Latentie: Dankzij het compacte model en de twee-staps inferentie bereikt HDP3 een aanzienlijk lagere inferentie-latentie (4,50 ms) vergeleken met eerdere methoden (bijv. DP3 op 51,4 ms). Hoewel sommige one-step methoden (Flow Policy, MP1) een lage latentie hebben, behouden zij enorme parameteraantallen (256M).
• Real-World Transfer: In real-world experimenten op een AgileX Piper robot presteerde HDP3 gemiddeld 15,3% beter in succespercentage dan de DP3-baseline, wat de sim-to-real transferbaarheid valideert ondanks de vereenvoudigde architectuur.

Betekenis en Claims
Het artikel claimt dat het ontwerp van diffusiebeleid voor robotica onnodig beperkt is door beeldgeneratie-paradigma's. Door het intrinsieke laagfrequente karakter van robottrajecten te erkennen, laat HDP3 zien dat:

1. Complexiteitsreductie Mogelijk is: Het scoreveld voor actie-denoising is aanzienlijk eenvoudiger dan voor perceptuele signalen, wat lichte architecturen mogelijk maakt.
2. Sampling Acceleratie Natuurlijk is: Voor vloeiende trajecten biedt multi-step denoising een afnemend rendement; twee stappen zijn theoretisch en empirisch voldoende.
3. Efficiëntie Geen Kwaliteit Opoffert: Een model met <1% van de parameters van voorheen SOTA-methoden kan superieure prestaties en lagere latentie leveren, wat real-time, on-device implementatie op hulpbron-beperkte robotplatforms haalbaar maakt.

De auteurs concluderen dat HDP3 een verschuiving vertegenwoordigt naar het "juist dimensioneren" (right-sizing) van diffusiebeleid, waarbij modelcapaciteit en inferentiestappen worden afgestemd op de werkelijke informatiewaard van robotische controletaken.