Information Filtering via Variational Regularization for Robot Manipulation

Resumen Técnico: Filtrado de Información mediante Regularización Variacional para Manipulación Robótica

Enunciado del Problema
Las políticas visuomotoras basadas en difusión que utilizan representaciones visuales 3D (por ejemplo, nubes de puntos) han logrado un rendimiento de vanguardia en la manipulación robótica. Sin embargo, estos sistemas emplean típicamente una asimetría arquitectónica significativa: un codificador de escena compacto y rico en información emparejado con un decodificador de eliminación de ruido sobredimensionado (como U-Net o DiT con ~250M de parámetros). Aunque los decodificadores grandes aumentan la capacidad del modelo, la evidencia empírica sugiere que introducen redundancia y ruido irrelevante para la tarea en los bloques de características intermedios. Los autores hipotetizan que esta información "ruidosa" degrada la toma de decisiones, y sin embargo, las representaciones internas de estos decodificadores permanecen poco exploradas como fuente de limitación del rendimiento.

Metodología
El artículo propone Regularización Variacional (VR), un módulo plug-and-play diseñado para filtrar adaptativamente el ruido de las características intermedias del decodificador. La metodología procede en tres etapas:

1. Identificación del Ruido: Los autores validan primero la presencia de ruido mediante estudios de ablación en tiempo de inferencia.

   • Para arquitecturas U-Net, enmascarar aleatoriamente las características del backbone en tiempo de inferencia a menudo mejora las tasas de éxito, lo que indica que estas características contienen más ruido que señal para tareas específicas.
   • Para arquitecturas DiT, reducir la escala o saltar capas intermedias (específicamente las capas 4–8 en un modelo de 12 capas) mejora similarmente el rendimiento, lo que sugiere que estas capas introducen actualizaciones de características ruidosas.

2. Módulo de Regularización Variacional: Para abordar esto, VR se inserta después de las capas intermedias ruidosas (después de la etapa final de submuestreo en U-Net y después de las capas intermedias en DiT).

   • El módulo trata las características ruidosas $Z$ como una variable latente e impone una distribución gaussiana condicionada al contexto $p_\theta(\hat{Z}|Z, C)$, donde $C$ es el contexto de escena compacto.
   • Predice una media $\mu_\theta(Z, C)$ y una desviación estándar $\sigma_\theta(Z, C)$ utilizando MLPs, moduladas por el contexto a través de una capa FiLM.
   • La representación filtrada $\hat{Z}$ se obtiene mediante el truco de reparametrización: $\hat{Z} = \mu_\theta + \sigma_\theta \odot \epsilon$.
   • Se añade un regularizador de divergencia KL a la función de pérdida para fomentar que la distribución de $\hat{Z}$ coincida con una priori normal estándar, actuando como un cuello de botella de información adaptativo.

3. Justificación Teórica: Los autores proporcionan una fundamentación teórica utilizando el marco del Cuello de Botella de Información Variacional (VIB). Demuestran que minimizar la función de pérdida propuesta (pérdida de eliminación de ruido + regularizador KL) es equivalente a maximizar el Límite Inferior de Evidencia (ELBO) del objetivo del cuello de botella de información. Esto garantiza teóricamente que el módulo filtra la información irrelevante para la tarea mientras preserva las señales críticas para la predicción.

Contribuciones Clave

• Descubrimiento Empírico: El artículo identifica y cuantifica que las características intermedias en decodificadores de difusión grandes (U-Net y DiT) a menudo contienen ruido irrelevante para la tarea, evidenciado por las ganancias de rendimiento cuando estas características se enmascaran o saltan en la inferencia.
• Módulo Novel: La introducción de la Regularización Variacional (VR), un cuello de botella variacional condicionado al contexto que filtra adaptativamente las características intermedias sin requerir cambios arquitectónicos en el backbone.
• Vínculo Teórico: Una derivación principista que conecta el objetivo de VR con el Cuello de Botella de Información Variacional, proporcionando garantías teóricas para el filtrado de información.
• Rendimiento de Vanguardia: El método logra nuevos resultados de vanguardia en múltiples puntos de referencia, superando la política base DP3.

Resultados Experimentales
Los autores evaluaron VR en tres puntos de referencia de simulación (RoboTwin2.0, Adroit, MetaWorld) y una implementación en el mundo real:

• RoboTwin2.0: VR mejoró la tasa de éxito promedio de DP3-UNet del 56.6% al 63.8% (+7.2) y de DP3-DiT del 62.7% al 67.0% (+4.3).
• Adroit: Utilizando solo 10 demostraciones de expertos, VR mejoró el SR5 promedio de DP3-UNet del 68.6% al 73.7% y de DP3-DiT del 70.4% al 73.8%.
• MetaWorld: VR mejoró consistentemente el SR5 promedio para ambos backbones (por ejemplo, DP3-UNet del 63.1% al 68.1%).
• Mundo Real: En una tarea de apilamiento de tazas, VR aumentó la tasa de éxito del 73.3% al 86.7% (+13.4).
• Ablación: Los experimentos confirmaron que la inyección de contexto es crítica para el rendimiento de VR y que VR supera a otras técnicas de regularización como dropout, reducción de ancho y el Cuello de Botella de Información clásico.

Significado
El artículo afirma que al tratar al decodificador sobredimensionado no como una caja negra sino como una fuente de ruido potencial, el rendimiento puede mejorarse significativamente mediante un filtrado adaptativo. El significado radica en demostrar que "más grande no siempre es mejor" en la manipulación basada en difusión; en cambio, modelar y filtrar explícitamente las representaciones intermedias a través de un cuello de botella variacional conduce a políticas más robustas y efectivas. El método se presenta como una solución simple, plug-and-play que mejora la generalización y las tasas de éxito en diversas tareas de manipulación y arquitecturas de decodificador.