Information Filtering via Variational Regularization for Robot Manipulation

Technische Samenvatting: Informatiefiltering via Variatiele Regularisatie voor Robotmanipulatie

Probleemstelling
Diffusiegebaseerde visuele motorische beleidsvormen die 3D-visuele representaties (bijvoorbeeld puntswermen) gebruiken, hebben state-of-the-art prestaties bereikt in robotmanipulatie. Deze systemen maken echter doorgaans gebruik van een aanzienlijke architecturale asymmetrie: een compacte, informatierijke scène-encoder gekoppeld aan een overdimensioneerde denoising-decoder (zoals U-Net of DiT met ongeveer 250 miljoen parameters). Hoewel grote decoders de modelcapaciteit vergroten, suggereert empirisch bewijs dat ze redundantie en taak-irrelevante ruis introduceren in intermediaire feature-blokken. De auteurs veronderstellen dat deze "ruizige" informatie de besluitvorming verslechtert, terwijl de interne representaties van deze decoders onderbelicht blijven als bron van prestatiebeperking.

Methodologie
Het artikel stelt Variatiele Regularisatie (VR) voor, een plug-and-play-module die is ontworpen om adaptief ruis uit intermediaire decoder-features te filteren. De methodologie verloopt in drie fasen:

1. Ruisidentificatie: De auteurs valideren eerst de aanwezigheid van ruis via ablatiestudies tijdens de inferentie.

   • Voor U-Net-architecturen leidt het willekeurig maskeren van backbone-features tijdens de inferentie vaak tot verbeterde slagingspercentages, wat aangeeft dat deze features voor specifieke taken meer ruis dan signaal bevatten.
   • Voor DiT-architecturen verbetert het verkleinen of overslaan van intermediaire lagen (specifiek lagen 4–8 in een 12-laags model) op vergelijkbare wijze de prestaties, wat suggereert dat deze lagen ruizige feature-updates introduceren.

2. Variatiele Regularisatiemodule: Om dit aan te pakken, wordt VR ingevoegd na de ruizige intermediaire lagen (na de laatste downsampling-fase in U-Net en na intermediaire lagen in DiT).

   • De module behandelt de ruizige features $Z$ als een latente variabele en legt een context-geconditioneerde Gaussische verdeling op $p_\theta(\hat{Z}|Z, C)$, waarbij $C$ de compacte scène-context is.
   • Het voorspelt een gemiddelde $\mu_\theta(Z, C)$ en standaardafwijking $\sigma_\theta(Z, C)$ met behulp van MLP's, gemoduleerd door de context via een FiLM-laag.
   • De gefilterde representatie $\hat{Z}$ wordt verkregen via de reparameterisatietrick: $\hat{Z} = \mu_\theta + \sigma_\theta \odot \epsilon$.
   • Een KL-divergentie-regularisator wordt toegevoegd aan de verliesfunctie om de verdeling van $\hat{Z}$ te stimuleren overeen te komen met een standaardnormale prior, dienend als een adaptieve informatiebottleneck.

3. Theoretische Rechtvaardiging: De auteurs bieden een theoretische onderbouwing met behulp van het Variatiele Informatie Bottleneck (VIB)-kader. Zij tonen aan dat het minimaliseren van de voorgestelde verliesfunctie (denoising-verlies + KL-regularisator) gelijkwaardig is aan het maximaliseren van de Evidence Lower Bound (ELBO) van het informatiebottleneck-doel. Dit garandeert theoretisch dat de module taak-irrelevante informatie filtert terwijl signalen die cruciaal zijn voor voorspelling behouden blijven.

Belangrijkste Bijdragen

• Empirische Ontdekking: Het artikel identificeert en kwantificeert dat intermediaire features in grote diffusie-decoders (U-Net en DiT) vaak taak-irrelevante ruis bevatten, wat blijkt uit prestatiewinst wanneer deze features tijdens de inferentie worden gemaskeerd of overgeslagen.
• Nieuwe Module: De introductie van Variatiele Regularisatie (VR), een context-geconditioneerde variatiele bottleneck die intermediaire features adaptief filtert zonder architecturale wijzigingen aan de backbone te vereisen.
• Theoretische Link: Een principiële afleiding die het VR-doel verbindt met het Variatiele Informatie Bottleneck, en theoretische garanties biedt voor informatiefiltering.
• State-of-the-Art Prestaties: De methode behaalt nieuwe state-of-the-art resultaten op meerdere benchmarks, met verbeteringen ten opzichte van het basis-DP3-beleid.

Experimentele Resultaten
De auteurs hebben VR geëvalueerd op drie simulatie-benchmarks (RoboTwin2.0, Adroit, MetaWorld) en een real-world implementatie:

• RoboTwin2.0: VR verbeterde het gemiddelde slagingspercentage van DP3-UNet van 56,6% naar 63,8% (+7,2) en van DP3-DiT van 62,7% naar 67,0% (+4,3).
• Adroit: Met slechts 10 expertdemonstraties verbeterde VR het gemiddelde SR5 van DP3-UNet van 68,6% naar 73,7% en van DP3-DiT van 70,4% naar 73,8%.
• MetaWorld: VR verbeterde consistent het gemiddelde SR5 voor beide backbones (bijvoorbeeld DP3-UNet van 63,1% naar 68,1%).
• Real-World: In een taak met het stapelen van koppen verhoogde VR het slagingspercentage van 73,3% naar 86,7% (+13,4).
• Ablatie: Experimenten bevestigden dat contextinjectie cruciaal is voor de prestaties van VR en dat VR andere regularisatietechnieken zoals dropout, breedtereductie en de standaard Informatie Bottleneck overtreft.

Betekenis
Het artikel beweert dat door de overdimensioneerde decoder niet als een black box te behandelen, maar als een bron van potentiële ruis, de prestaties aanzienlijk kunnen worden verbeterd via adaptieve filtering. De betekenis ligt in het aantonen dat "groter niet altijd beter is" bij diffusiegebaseerde manipulatie; in plaats daarvan leidt het expliciet modelleren en filteren van intermediaire representaties via een variatiele bottleneck tot robuustere en effectievere beleidsvormen. De methode wordt gepresenteerd als een eenvoudige, plug-and-play-oplossing die generalisatie en slagingspercentages verbetert over diverse manipulatietaken en decoder-architecturen.