Beyond Task Success: Behavioral and Representational Diagnostics for WAM and VLA

Resumen Técnico: Más allá del éxito de la tarea: Diagnósticos conductuales y de representación para WAM y VLA

Planteamiento del problema
Las políticas de visión-lenguaje-acción (VLA) se han convertido en un paradigma dominante para la manipulación robótica de propósito general, mapeando observaciones e instrucciones directamente a acciones. Sin embargo, la mayoría de los VLA son fundamentalmente predictores reactivos que no modelan explícitamente cómo evolucionan las escenas. Los Modelos de Mundo-Acción (WAM, por sus siglas en inglés) han surgido como una alternativa, acoplando la generación de acciones con la predicción futura (por ejemplo, imaginar estados futuros o predecir observaciones futuras). Aunque trabajos previos han comparado WAMs y VLAs basándose en las tasas finales de éxito de la tarea, sigue sin estar claro si la predicción futura en los WAMs conduce a mejoras conductualmente significativas más allá de simplemente aumentar las tasas de éxito. Específicamente, se desconoce si los WAMs simplemente añaden un módulo de predicción o si cambian fundamentalmente el comportamiento del robot (por ejemplo, suavidad del movimiento, selectividad del objetivo) y las representaciones internas de formas que sean accionables para el control.

Metodología
Los autores introducen un marco de diagnóstico agnóstico al modelo que evalúa WAMs y VLAs a través de dos lentes complementarias: diagnósticos de despliegue conductual y análisis del espacio de características mediante autoencoders dispersos (SAE).

1. Análisis de despliegue conductual:
   En lugar de depender únicamente de las tasas de éxito, el marco mide:

   • Dinámica de la acción: Suavidad (delta, aceleración, jerk), consistencia en los límites de los fragmentos (chunks) y tasas de fallo de bajo movimiento (para distinguir fallos suaves de un control exitoso).
   • Interacción con objetos: Progreso del objeto objetivo (final y acumulado), reversiones de progreso y estabilidad de distractores (movimiento no deseado de objetos que no son el objetivo).
   • Costo de ejecución: Latencia de inferencia, rendimiento (throughput) y uso de memoria de la GPU.

2. Análisis del espacio de características (SAEs):
   Para caracterizar las representaciones internas, los autores entrenan Autoencoders Dispersos (SAE) sobre las activaciones latentes (flujos visuales, futuros y de acción) de varios modelos. Definen un conjunto de métricas para clasificar las características en tres categorías:

   • Memorizadas: Específicas de episodios u objetos particulares.
   • Reactivas-Generales: Describen la observación actual o la fase de ejecución (por ejemplo, el agarre).
   • Predictivas-Generales: Proporcionan evidencia sobre estados o acciones futuras (por ejemplo, alta consistencia futura, estabilidad del horizonte o predictibilidad de la acción).
   • Métricas clave: Se introducen la Puntuación de Consistencia Futura (FCS), la Estabilidad del Horizonte (HS) y la Predictibilidad de la Acción (AP) para detectar específicamente la estructura orientada al futuro.

Configuración Experimental
El estudio evalúa 7 políticas a través de dos entornos de referencia (LIBERO y RoboTwin2.0):

• VLAs: $\pi0$, $\pi0.5$, X-VLA.
• WAMs:
  • Conjuntos/Paralelos: Cosmos Policy (predice el futuro y la acción simultáneamente).
  • Secuenciales: LingBot-VA (imagina estados futuros antes de actuar).
  • Auxiliares/Solo para entrenamiento: FastWAM, VLA-JEPA (utilizan la predicción futura solo durante el entrenamiento).

Resultos Clave

1. Las tasas de éxito enmascaran diferencias conductuales:
   En LIBERO, donde las tasas de éxito son altas para la mayoría de los modelos, los diagnósticos conductuales revelan diferencias significativas. Los WAMs generalmente producen un control más suave (menor aceleración, jerk y saltos en los límites) y exhiben un mejor comportamiento a nivel de objeto, incluyendo un progreso de objetivo más fuerte y una reducción de la perturbación de objetos distractores.

2. Dependencia de la arquitectura:

   • WAMs Secuenciales (LingBot-VA): Muestran la estructura predictiva más clara en el análisis SAE (mayor porcentaje de características predictivas en los flujos futuros) y logran las mejores métricas a nivel de objeto (menor perturbación de objetos erróneos, mayor AUC de progreso).
   • WAMs Conjuntos (Cosmos): Exhiben una fuerte selectividad de objeto y baja perturbación de distractores, pero codifican la información futura de manera más entrelazada (alto número de características memorizadas/reactivas en lugar de características predictivas distintas).
   • WAMs Auxiliares (FastWAM, VLA-JEPA): Muestran resultados mixtos. FastWAM comprime la información futura, resultando en un comportamiento más cercano a los VLAs directos con mayor perturbación de distractores. VLA-JEPA retiene más estructura predictiva y una interacción con objetos más limpia que FastWAM.
   • VLAs Directos: Dominan en las características reactivas pero muestran una baja estructura predictiva. A menudo exhiben mayores reversiones de progreso y perturbación de distractores en comparación con los WAMs.

3. Compromisos de tiempo de ejecución:
   Los WAMs incurren en un costo de despliegue no trivial. Los WAMs secuenciales (LingBot-VA) tienen la mayor latencia de inferencia debido a la imaginación explícita del futuro. Los WAMs conjuntos son más rápidos que los secuenciales pero más lentos que los VLAs directos. Los WAMs auxiliares son más eficientes pero pueden sacrificar los beneficios conductuales de la modelización futura explícita.

4. Correlación Característica-Comportamiento:
   El análisis SAE revela que los modelos con mayores proporciones de características predictivas-generales (particularmente en los flujos futuros) se correlacionan con una mejor selectividad del objeto objetivo y una ejecución más suave. Eliminar las estadísticas de los SAE predictivos de las sondas conductuales degrada significamente la predicción de los resultados a nivel de tarea (éxito, transporte, progreso del objetivo), pero tiene efectos mixtos en las métricas de suavidad de bajo nivel.

Significancia y Reivindicaciones
El artículo argumenta que el éxito de la tarea por sí solo es una métrica insuficiente para evaluar las políticas robóticas. Los autores afirman que:

• Los WAMs ofrecen ventajas conductuales más allá de las tasas de éxito, específicamente en la suavidad del movimiento, la selectividad del objetivo y la estabilidad de los distractores.
• Estas mejoras conductuales están vinculadas a la presencia de representaciones internas orientadas al futuro. Los WAMs secuenciales exponen la estructura predictiva más clara, mientras que los diseños conjuntos y auxiliares varían en cómo preservan o comprimen esta información.
• Existe un compromiso fundamental entre la accionabilidad de las representaciones futuras y la eficiencia de la inferencia. Si bien la modelización futura explícita mejora la calidad del control, aumenta el costo computacional.
• El diseño futuro de los WAM debe centrarse en preservar representaciones futuras accionables (por ejemplo, mediante la imaginación ligera en tiempo de inferencia o la predicción latente) en lugar de tratar la predicción futura únicamente como una pérdida auxiliar de entrenamiento, para equilibrar el rendimiento con la capacidad de despliegue.

Los autores señalan modestamente que su evidencia respecto al vínculo entre representaciones y comportamiento es asociativa en lugar de causal, y que sus hallazgos están actualmente limitados a entornos de simulación y puntos de control públicos. Enfatizan que el trabajo futuro debe abordar cómo hacer que la predicción futura sea lo suficientemente eficiente para el control de bucle cerrado sin perder sus beneficios conductuales.