Resumen Técnico: Modelo de Acción Geométrica para el Aprendizaje de Políticas Robóticas

Planteamiento del Problema

El desarrollo de políticas de manipulación robótica generalistas requiere modelos que puedan seguir instrucciones en lenguaje natural mientras razonan sobre las complejas interacciones entre objetos, cámaras y acciones robóticas en un espacio físico 3D. Si bien los modelos recientes de Visión-Lenguaje-Acción (VLA) y de Mundo-Video-Acción (WAM) aprovechan modelos fundacionales a gran escala para obtener sesgos semánticos o temporales, operan principalmente sobre fotogramas de imagen 2D o espacios latentes derivados de 2D. En consecuencia, las claves geométricas 3D críticas —como la profundidad, la escala y la oclusión— permanecen implícitas. Esta limitación dificulta la generalización ante cambios ambientales, particularmente respecto a los estados iniciales del robot y los puntos de vista de la cámara. Los intentos existentes por incorporar la geometría 3D suelen tratar a los Modelos Fundacionales Geométricos (GFM) meramente como extractores de características estáticas o destilan sus características en los backbones de los VLA, fallando al no reaprovechar la estructura geométrica multicapa del GFM como el propio sustrato temporal y generador de acciones de la política.

Metodología: El Modelo de Acción Geométrica (GAM)

Los autores proponen el Modelo de Acción Geométrica (GAM), una política de manipulación condicionada por el lenguaje que reaprovecha directamente un Modelo Fundacional Geométrico (GFM) preentrenado como un sustrato compartido para la percepción, la predicción temporal y la decodificación de acciones.

Arquitectura Central

El GAM opera dividiendo un GFM preentrenado (por ejemplo, DA3) en una capa intermedia $L_s$ e insertando un Predictor de Futuro Causal entre las capas superficiales y profundas. El marco funciona en tres etapas secuenciales:

1. Codificación de Observaciones: Las capas superficiales del GFM ($E_{\le L_s}$) actúan como un codificador de observaciones. Procesan observaciones RGB multivista para extraer características geométricas latentes, produciendo una secuencia de estados latentes geométricos por cada paso de tiempo.
2. Predicción de Futuro Causal: En la capa de división, se inserta un predictor de transformador causal ($g_\phi$). Este toma los tokens geométricos latentes actuales, concatenados con tokens que representan las instrucciones de la tarea (vía un codificador de texto congelado), estados propioceptivos e historial de acciones. Utilizando una atención de auto-bloque causal, este predictor pronostica dos salidas simultáneamente:
   • Tokens geométricos latentes futuros ($\tilde{Z}^{(L_s)}_{t+1}$).
   • Un token de acción siguiente predicho ($\tilde{a}_t$).
     Este diseño permite que el modelo aprenda el modelado de mundo condicionado por el lenguaje con una modificación arquitectónica mínima, ya que solo el predictor insertado necesita aprender la fusión de lenguaje, propiocepción e historial de acciones con las características del GFM.
3. Propagación de Características y Decodificación: Los tokens futuros predichos y el token de acción se dirigen a través de los bloques profundos restantes del GFM ($D_{>L_s}$). Los bloques profundos, originalmente preentrenados para decodificar características superficiales en geometría 3D, se reaprovechan para decodificar los tokens futuros predichos. Esta etapa produce:
   • Geometría Futura: Decodificada mediante la cabeza de profundidad del GFM hacia mapas de profundidad futuros alineados con la acción.
   • Fragmento de Acción (Action Chunk): Decodificado mediante una cabeza de acción ligera en comandos de pose delta o de articulación ejecutables.

Objetivo de Entrenamiento

La política se entrena de extremo a extremo utilizando una función de pérdida multitarea:
$$\mathcal{L}_{total} = \lambda_{act}\mathcal{L}_{act} + \lambda_{feat}\mathcal{L}_{feat} + \lambda_{depth}\mathcal{L}_{depth}$$

• Pérdida de Acción ($\mathcal{L}_{act}$): Regresión $\ell_1$ entre el fragmento de acción decodificado y las acciones expertas.
• Pérdida de Características ($\mathcal{L}_{feat}$): Alinea los tokens latentes futuros predichos con los tokens latentes del siguiente fotograma real (extraídos de un GFM congelado) para anclar el predictor a las transiciones geométricas temporales.
• Pérdida de Profundidad ($\mathcal{L}_{depth}$): Supervisa los mapas de profundidad futuros decodificados contra la profundidad futura real (o etiquetas pseudo en entornos del mundo real) utilizando penalizaciones de escala invariante y de coincidencia de gradientes.

Contribuciones Clave

1. Arquitectura Unificada: El GAM introduce una arquitectura de backbone compartido único que combina el modelado de mundo temporal, la predicción de espacio de características latentes y un sustrato de modelo fundacional geométrico.
2. Predicción de Espacio de Tokens Compartido: Los autores demuestran que la acción y la geometría pueden predecirse dentro de una secuencia de tokens autorregresiva compartida. Una sola pasada hacia adelante produce tanto los tokens de acción como los tokens de la escena futura, decodificados por cabezales ligeros, en lugar de depender de cabezales separados o procesos de difusión.
3. Reaprovechamiento de los GFM: A diferencia de trabajos previos que utilizan los GFM como extractores estáticos, el GAM reaprovecha explícitamente los bloques profundos del GFM para decodificar los tokens futuros predichos, aprovechando plenamente los sesgos geométricos del modelo para el modelado de mundo dinámico.

Resultados Experimentales

Los autores evaluaron el GAM a través de diversos entornos de simulación (LIBERO, LIBERO-Plus) y pruebas de manipulación robótica en el mundo real.

• Rendimiento vs. Baselines: El GAM logra tasas de éxito comparables o superiores a las de los baselines actuales a escala de modelos fundacionales (VLA y WAM), utilizando significativamente menos parámetros (1.4B frente a 7B+).
• Robustez: El GAM demuestra una robustez superior ante perturbaciones fuera de la distribución. Notablemente, en el escenario de perturbación de cámara de LIBERO-Plus, el GAM supera al mejor baseline por 9.7 puntos porcentuales.
• Eficiencia: El GAM logra una latencia de inferencia de un solo paso hacia adelante de 6.9 ms (aprox. 145 Hz), lo que es aproximadamente 55 veces más rápido que las políticas basadas en difusión como Cosmos-Policy.
• Transferencia al Mundo Real: En experimentos del mundo real que involucran cuatro tareas de manipulación, el GAM superó sustancialmente a los baselines (incluyendo $\pi0.5$ y Spatial Forcing), manteniendo la robustez bajo perturbaciones de cámara donde otros modelos tuvieron dificultades.

Significado y Reivindicaciones

El artículo afirma que el GAM representa un paso significativo hacia las políticas robóticas generalistas al resolver las ambigüedades espaciales inherentes a los modelos fundacionales centrados en 2D. Al integrar la dinámica del mundo geométrico directamente en la vía predictiva de la política, el GAM logra un equilibrio entre alta precisión, robustez ante cambios ambientales y eficiencia computacional. Los autores postulan que su enfoque demuestra que la acción y la geometría pueden modelarse eficazmente en un espacio latente compartido, permitiendo que un solo backbone maneje la percepción, la predicción del estado futuro y el control.

Los autores reconocen las limitaciones, señalando que la capacidad de razonamiento de lenguaje y de sentido común del modelo está limitada por el codificador de texto congelado utilizado, lo que sugiere que la integración de un modelo de lenguaje grande o un módulo de razonamiento externo es una dirección natural para trabajos futuros.