Information Filtering via Variational Regularization for Robot Manipulation

Sintesi Tecnica: Filtraggio delle Informazioni tramite Regularizzazione Variazionale per la Manipolazione Robotica

Enunciato del Problema
Le politiche visuomotorie basate sulla diffusione che utilizzano rappresentazioni visive 3D (ad esempio, nuvole di punti) hanno raggiunto prestazioni all'avanguardia nella manipolazione robotica. Tuttavia, questi sistemi impiegano tipicamente una significativa asimmetria architetturale: un encoder di scena compatto e ricco di informazioni accoppiato a un decoder denoising sovradimensionato (come U-Net o DiT con circa 250 milioni di parametri). Sebbene i decoder di grandi dimensioni aumentino la capacità del modello, le prove empiriche suggeriscono che introducono ridondanza e rumore non pertinente al compito nei blocchi delle caratteristiche intermedie. Gli autori ipotizzano che queste informazioni "rumorose" degradino il processo decisionale, eppure le rappresentazioni interne di tali decoder rimangono poco esplorate come fonte di limitazione delle prestazioni.

Metodologia
Il documento propone la Regularizzazione Variazionale (VR), un modulo plug-and-play progettato per filtrare adattivamente il rumore dalle caratteristiche intermedie del decoder. La metodologia procede in tre fasi:

1. Identificazione del Rumore: Gli autori validano inizialmente la presenza di rumore attraverso studi di ablazione durante l'inferenza.

   • Per le architetture U-Net, mascherare casualmente le caratteristiche del backbone durante l'inferenza spesso migliora i tassi di successo, indicando che queste caratteristiche contengono più rumore che segnale per compiti specifici.
   • Per le architetture DiT, ridurre la scala o saltare i livelli intermedi (in particolare i livelli 4–8 in un modello a 12 livelli) migliora similmente le prestazioni, suggerendo che questi livelli introducono aggiornamenti di caratteristiche rumorosi.

2. Modulo di Regularizzazione Variazionale: Per affrontare ciò, la VR viene inserita dopo i livelli intermedi rumorosi (dopo la fase finale di downsampling in U-Net e dopo i livelli intermedi in DiT).

   • Il modulo tratta le caratteristiche rumorose $Z$ come una variabile latente e impone una distribuzione gaussiana condizionata dal contesto $p_\theta(\hat{Z}|Z, C)$, dove $C$ è il contesto compatto della scena.
   • Predice una media $\mu_\theta(Z, C)$ e una deviazione standard $\sigma_\theta(Z, C)$ utilizzando MLP, modulati dal contesto tramite un livello FiLM.
   • La rappresentazione filtrata $\hat{Z}$ è ottenuta tramite il trucco di riparametrizzazione: $\hat{Z} = \mu_\theta + \sigma_\theta \odot \epsilon$.
   • Un regolarizzatore di divergenza KL viene aggiunto alla funzione di perdita per incoraggiare la distribuzione di $\hat{Z}$ a corrispondere a un prior normale standard, agendo come un collo di bottiglia informativo adattivo.

3. Giustificazione Teorica: Gli autori forniscono una fondazione teorica utilizzando il framework del Collo di Bottiglia Informativo Variazionale (VIB). Dimostrano che la minimizzazione della funzione di perdita proposta (perdita di denoising + regolarizzatore KL) è equivalente alla massimizzazione del Limite Inferiore dell'Evidenza (ELBO) dell'obiettivo del collo di bottiglia informativo. Questo garantisce teoricamente che il modulo filtra le informazioni non pertinenti al compito preservando i segnali critici per la previsione.

Contributi Chiave

• Scoperta Empirica: Il documento identifica e quantifica che le caratteristiche intermedie nei decoder di diffusione di grandi dimensioni (U-Net e DiT) contengono spesso rumore non pertinente al compito, come dimostrato dai guadagni di prestazioni quando queste caratteristiche vengono mascherate o saltate durante l'inferenza.
• Modulo Innovativo: L'introduzione della Regularizzazione Variazionale (VR), un collo di bottiglia variazionale condizionato dal contesto che filtra adattivamente le caratteristiche intermedie senza richiedere modifiche architetturali al backbone.
• Collegamento Teorico: Una derivazione rigorosa che collega l'obiettivo VR al Collo di Bottiglia Informativo Variazionale, fornendo garanzie teoriche per il filtraggio delle informazioni.
• Prestazioni all'Avanguardia: Il metodo ottiene nuovi risultati all'avanguardia su molteplici benchmark, migliorando la politica di base DP3.

Risultati Sperimentali
Gli autori hanno valutato la VR su tre benchmark di simulazione (RoboTwin2.0, Adroit, MetaWorld) e su un dispiegamento nel mondo reale:

• RoboTwin2.0: La VR ha migliorato il tasso di successo medio di DP3-UNet dal 56,6% al 63,8% (+7,2) e di DP3-DiT dal 62,7% al 67,0% (+4,3).
• Adroit: Utilizzando solo 10 dimostrazioni di esperti, la VR ha migliorato la SR5 media di DP3-UNet dal 68,6% al 73,7% e di DP3-DiT dal 70,4% al 73,8%.
• MetaWorld: La VR ha migliorato costantemente la SR5 media per entrambi i backbone (ad esempio, DP3-UNet dal 63,1% al 68,1%).
• Mondo Reale: In un compito di impilamento di tazze, la VR ha aumentato il tasso di successo dal 73,3% all'86,7% (+13,4).
• Ablazione: Gli esperimenti hanno confermato che l'iniezione del contesto è fondamentale per le prestazioni della VR e che la VR supera altre tecniche di regolarizzazione come dropout, riduzione della larghezza e Collo di Bottiglia Informativo standard.

Significato
Il documento afferma che trattando il decoder sovradimensionato non come una scatola nera ma come una fonte di potenziale rumore, le prestazioni possono essere significativamente potenziate attraverso un filtraggio adattivo. Il significato risiede nel dimostrare che "più grande non è sempre meglio" nella manipolazione basata sulla diffusione; invece, modellare esplicitamente e filtrare le rappresentazioni intermedie tramite un collo di bottiglia variazionale porta a politiche più robuste ed efficaci. Il metodo è presentato come una soluzione semplice, plug-and-play, che migliora la generalizzazione e i tassi di successo su compiti di manipolazione diversi e architetture di decoder.