Resumen Técnico: OA-WAM: Modelo de Acción Mundial con Direccionalidad de Objetos para Manipulación Robusta de Robots

1. Declaración del Problema

Los modelos existentes de Visión-Lenguaje-Acción (VLA) y Modelos de Acción Mundial (WAM) han logrado altas tasas de éxito en los estándares de manipulación al escalar los modelos base y los datos. Sin embargo, estos modelos suelen fallar ante perturbaciones modestas de la escena (por ejemplo, cambios en la disposición de los objetos, el punto de vista de la cámara, la iluminación o el estado inicial del robot). Los autores diagnostican esta fragilidad como una falta de direccionalidad de objetos.

En los WAMs holísticos, el estado mundial predicho se representa como imágenes de fotograma completo, flujos de tokens de video o latentes globales. Aunque estas representaciones capturan la evolución de la escena, entrelazan la identidad de un objeto objetivo con su contexto circundante dentro del flujo de tokens. Cuando la geometría de la escena cambia, el decodificador de acciones lucha por aislar el objeto específico nombrado en la instrucción, lo que conduce a una "deriva" donde la política actúa sobre el objeto incorrecto o falla en generalizar. Los enfoques centrados en objetos actuales a menudo dependen del descubrimiento dinámico de ranuras (por ejemplo, Atención de Ranuras), que es sensible a la oclusión y el desorden, o codifican la identidad, la apariencia y la pose en un solo vector, fallando en desacoplar "qué objeto actuar" de "qué es ese objeto actualmente".

2. Metodología: OA-WAM

Los autores proponen OA-WAM (Modelo de Acción Mundial con Direccionalidad de Objetos), que reformula la predicción del mundo como predicción de estado de ranura por objeto. La arquitectura impone una separación estricta entre la identidad del objeto y el contenido variable en el tiempo a nivel de tensor.

2.1 Tokenización con Direccionalidad de Objetos

Cada fotograma se descompone en $N+1$ ranuras (1 ranura de robot, $N$ ranuras de objetos). Cada vector de ranura $s^t_k$ se construye concatenando:

• Dirección de Identidad ($addr_k$): Un vector congelado de 32 dimensiones calculado una vez por episodio a partir de la etiqueta de lenguaje y la característica inicial de DINOv3. Nunca se actualiza durante el episodio.
• Contenido Variable en el Tiempo ($cnt^t_k$): Un vector de 256 dimensiones actualizado en cada paso a partir de las máscaras de SAM 3 y las características de DINOv3, que representa el estado actual del objeto (apariencia, pose).
• Incrustaciones Auxiliares: Índice del fotograma ($\pi^t$) y etiquetas de rol ($\rho_k$).

Estas ranuras se proyectan en un espacio oculto de 4096 dimensiones mediante un adaptador de ranura aprendible y se fusionan con tokens de texto, imagen-VQ, propiocepción y acciones pasadas en una secuencia causal por bloques procesada por un tronco transformador estilo Chameleon de 7B.

2.2 Atención con Direccionalidad de Objetos (La Restricción OA)

La innovación arquitectónica central es una restricción libre de parámetros aplicada en cada capa del transformador para asegurar que el decodificador de acciones atienda al objeto correcto basándose únicamente en su identidad, no en su apariencia o contexto actual. Esto se logra mediante dos operaciones:

1. Proyección de Clave Solo-Dirección: Para las posiciones de tipo ranura, la proyección de clave ($K$) lee solo las primeras 32 dimensiones (el subvector $addr$) del flujo residual. Las proyecciones de consulta ($Q$) y valor ($V$) utilizan el estado oculto completo. Esto fuerza a que la atención entre ranuras se enrute basándose únicamente en la identidad.
2. Reinicio de Dirección por Capa: Un gancho de avance sobrescribe las primeras 32 dimensiones del flujo residual en las posiciones de ranura con la $addr_k$ almacenada en caché después de cada bloque del transformador. Esto evita que la dirección de identidad se desvíe o se corrompa por actualizaciones de contenido en el flujo residual.

2.3 Cabezas de Predicción

El modelo realiza un solo paso hacia adelante para generar:

• Cabeza Mundial: Regresa el estado del siguiente fotograma para cada ranura, prediciendo tanto el contenido ($\hat{c}^{t+1}$) como la pose ($\hat{p}^{t+1}$). Esto proporciona supervisión auxiliar para la consistencia temporal.
• Cabeza de Acción: Un MLP de ajuste de flujo que decodifica un fragmento de acción continua de 16 pasos a partir de un token de consulta de acción aprendible ($[ACT\_Q]$).
• Cabeza Auxiliar de Imagen-VQ: Reutiliza la cabeza de lenguaje del tronco para predecir los tokens VQ del siguiente fotograma, ayudando en el preentrenamiento sin nuevos parámetros.

2.4 Entrenamiento

El modelo se entrena en tres etapas:

1. Etapa 0: Preentrenamiento del tronco de 7B en un corpus mixto (imagen-texto web + datos de robots) con la restricción OA aplicada.
2. Etapa I: Alineación del adaptador de ranura y la cabeza mundial sobre los pesos congelados del tronco.
3. Etapa II: Ajuste fino completo del sistema utilizando LoRA en el tronco y entrenamiento de la cabeza de acción. La pérdida combina el ajuste de flujo de acción, el MSE de predicción del mundo y regularizadores auxiliares para la invarianza de permutación de distractores y la alineación de roles.

3. Contribuciones Clave

1. Formulación de la Direccionalidad de Objetos: El artículo identifica la falta de interfaces de objetos estables y consultables como la causa raíz de los fallos de robustez en los WAMs existentes bajo perturbaciones geométricas.
2. Desacoplamiento Arquitectónico: OA-WAM introduce un mecanismo a nivel de tensor (dirección congelada + enrutamiento solo-dirección) que desacopla estructuralmente "qué objeto actuar" de "qué es ese objeto", sin introducir tokens extra ni depender del descubrimiento dinámico de ranuras.
3. Robustez de Vanguardia: El modelo logra nuevos resultados SOTA en los ejes geométricos del estándar LIBERO-Plus, que prueba específicamente la robustez ante cambios en la disposición, la cámara y el estado inicial del robot.

4. Resultados Experimentales

Los autores evalúan OA-WAM en tres estándares: LIBERO, SimplerEnv y LIBERO-Plus.

• Estándares Convencionales: OA-WAM iguala o supera las líneas base SOTA de VLA y WAM en tareas dentro de la distribución.
  • LIBERO: 97.8% de éxito promedio (vs. 97.2% para VLA-JEPA).
  • SimplerEnv (WidowX): 79.3% de éxito promedio (vs. 76.0% para CoWVLA).
• Robustez (LIBERO-Plus): OA-WAM establece un nuevo SOTA en los ejes geométricos más alineados con la hipótesis (Cámara, Inicio del Robot, Disposición).
  • Geo-Promedio (Cámara/Robot/Disposición): 84.3%, una mejora de +4.8% sobre $\pi0.5$.
  • Ejes Específicos: 80.5% en Cámara (+4.7% sobre Cosmos-Policy) y 89.6% en Inicio del Robot.
  • Ruido del Sensor: El modelo se queda atrás en ruido del sensor (-17.1% vs. el mejor anterior), lo que los autores atribuyen a fallos en la pila de percepción aguas arriba (extracción de ranuras) y no a la política en sí.
• Validación del Mecanismo:
  • Ablación: Eliminar la restricción OA (máscara o gancho de reinicio) causa una caída drástica en la robustez geométrica (por ejemplo, -13.3% en Cámara) mientras deja el rendimiento dentro de la distribución mayormente inalterado, confirmando que el sesgo es específico de OOD.
  • Intervención Causal: Cuando la dirección de la ranura objetivo se intercambia con la dirección de un distractor durante la inferencia, la trayectoria de OA-WAM se desplaza hacia el nuevo objetivo con una alineación de coseno de 0.87. En contraste, todas las líneas base holísticas muestran una alineación $\le 0.09$, demostrando que las acciones de OA-WAM se basan en el subespacio de dirección explícito.

5. Significado y Afirmaciones

El artículo afirma que organizar explícitamente un modelo del mundo como estados de objetos direccionables es un camino efectivo hacia la manipulación robótica robusta bajo perturbaciones de la escena. Al anclar la selección de objetivos a un vector de identidad congelado y fundamentado en el lenguaje, OA-WAM convierte la robustez en una propiedad estructural de la arquitectura en lugar de un resultado de la diversidad de datos de entrenamiento.

Los autores enfatizan que este enfoque proporciona una "interfaz intervenible a nivel de objeto" donde la política puede consultar de manera fiable los objetos relevantes para la tarea independientemente de cómo se reorganice la escena. Reconocen limitaciones, señalando que el enfoque es actualmente solo de simulador y que el rendimiento se degrada cuando la pila de percepción congelada falla (por ejemplo, bajo ruido de sensor pesado o para objetos transparentes/ocluidos), pero argumentan que la contribución arquitectónica aísla con éxito el mecanismo de enrutamiento de las etapas de percepción y política.