Resumen Técnico: WorldArena 2.0: Extensión de la Evaluación de Modelos Mundiales Encarnados en Modalidad, Funcionalidad y Plataforma

Declaración del Problema

Los modelos mundiales se han convertido en un paradigma central para la inteligencia encarnada, permitiendo a los agentes predecir futuros condicionados por la acción y razonar sobre la dinámica ambiental. Sin embargo, las evaluaciones existentes para modelos mundiales encarnados (EWM) adolecen de tres limitaciones críticas que obstaculizan la evaluación de modelos cada vez más integrales:

1. Limitación de Modalidad: Las evaluaciones predominantes se confinan a entornos de solo visión, pasando por alto la naturaleza multimodal de las interacciones encarnadas, donde la retroalimentación táctil es esencial para resolver dinámicas ricas en contacto y la fricción física.
2. Limitación de Funcionalidad: Las evaluaciones aguas abajo se limitan en gran medida a la planificación en bucle abierto o a la evaluación de políticas estáticas. Rara vez investigan la capacidad de un modelo mundial para servir como un entorno de aprendizaje por refuerzo (RL) interactivo que apoye la mejora iterativa de la política mediante rodadas imaginadas.
3. Limitación de Plataforma: Los resultados de las evaluaciones se obtienen casi exclusivamente en simulación. Sigue sin estar claro si un rendimiento sólido en entornos virtuales controlados se traduce en un despliegue en el mundo real, dejando la brecha simulación-realidad en gran parte sin examinar.

Metodología

Para abordar estas limitaciones, los autores introducen WorldArena 2.0, una evaluación ampliada que expande sistemáticamente la evaluación de EWM a lo largo de tres dimensiones coordinadas: modalidad, funcionalidad y plataforma.

1. Extensión de Modalidad: Evaluación Visuo-táctil

WorldArena 2.0 extiende la evaluación desde solo visión hacia modalidades visuo-táctiles.

• Pipeline Estandarizado: Basado en el simulador UniVTAC, los autores proponen un pipeline estandarizado para actualizar modelos mundiales de solo visión a modelos visuo-táctiles sin cirugía arquitectónica. Esto implica tres módulos:
  • Un VAE Táctil que codifica mapas de deformación táctil y los alinea en el espacio latente de video.
  • Un Modelo Mundial de Dos Corrientes Visuo-táctil que realiza la eliminación de ruido sincronizada tanto para la predicción de video como para la táctil.
  • Una Cabeza de Difusión de Acción que infiere acciones futuras basándose en los latentes visuo-táctiles predichos.
• Métricas de Evaluación: Los modelos se evalúan en la calidad de la predicción táctil (PSNR, SSIM) y en las tasas de éxito funcional en tareas de manipulación aguas abajo (por ejemplo, Insertar HDMI, Levantar Botella).

2. Extensión de Funcionalidad: Modelos Mundiales como Entornos de RL

La evaluación avanza más allá de la predicción fuera de línea para evaluar los modelos mundiales como entornos de RL interactivos en línea.

• Marco de Trabajo: Los autores formalizan un pipeline de RL en bucle cerrado donde el modelo mundial aproxima el kernel de transición del entorno ($\hat{P}_\phi$). El marco comprende cuatro componentes:
  • Entorno de Modelo Mundial: Predice la siguiente observación dado el estado actual y la acción.
  • Modelo de Recompensa: Predice recompensas inmediatas (probado con diseños basados en Proxy, basados en VLM y basados en Similitud).
  • Modelo de Política: Genera acciones condicionadas a las observaciones.
  • Módulo de Optimización: Actualiza los parámetros de la política (por ejemplo, mediante GRPO) para maximizar la recompensa esperada.
• Proceso: El modelo mundial reemplaza al simulador en configuraciones tradicionales de RL. Las políticas se entrenan mediante interacción iterativa con el modelo mundial, y las políticas resultantes se despliegan para medir las tasas de éxito en tareas del mundo real o de simulación de alta fidelidad.

3. Extensión de Plataforma: Simulación a Realidad Cruzada de Encarnación

WorldArena 2.0 introduce un pipeline de evaluación graduada que abarca tres plataformas distintas para evaluar la generalización cruzada de encarnación:

• RoboTwin 2.0: Un entorno de simulación bimanual escalable con aleatorización de dominio extensa (tareas: Ajustar Botella, Hacer Sonar Campana).
• LIBERO: Una evaluación estructurada para manipulación de un solo brazo con cambios de conocimiento procedimental (tarea: Encender la Estufa).
• AgileX Split-Type ALOHA: Una plataforma de prueba robótica real equipada con brazos de 6 grados de libertad PiPER (tareas: Verter Agua, Limpiar Mesa).
• Protocolos de Evaluación: Los modelos se prueban como Motores de Datos Encarnados (generando datos sintéticos para el entrenamiento de políticas) y como Planificadores de Acción Encarnados (prediciendo directamente secuencias de acción en bucle cerrado).

Resultados Clave

Los autores realizaron experimentos extensos en 12 modelos mundiales encarnados de última generación a través de las plataformas definidas.

• Rendimiento Visuo-táctil:
  • Los modelos mundiales de propósito general (por ejemplo, Wan2.2) demostraron una calidad de predicción táctil superior en comparación con los modelos encarnados especializados, logrando un 100% de éxito en la tarea "Insertar HDMI".
  • Sin embargo, tareas de largo horizonte como "Levantar Botella" revelaron limitaciones; mientras que un modelo ACT de referencia logró un 80% de éxito, los modelos mundiales cayeron al 0%, lo que indica que los modelos actuales luchan con el control de fuerza sostenido en horizontes largos a pesar de una percepción táctil mejorada.
• Utilidad como Entorno de RL:
  • Las políticas entrenadas utilizando modelos mundiales (por ejemplo, WoVR, Ctrl-World) lograron un rendimiento comparable al entrenamiento con simulador de verdad fundamental en tareas de corto horizonte (Hacer Sonar Campana), pero mostraron resultados variables en tareas de largo horizonte.
  • Entre los modelos de recompensa, los modelos de recompensa basados en Proxy (que utilizan backbones ResNet) demostraron ser los más robustos, superando a los enfoques basados en VLM y basados en similitud, que sufrieron por falta de ajuste fino o dependencia de la precisión de la predicción.
• Correlaciones Cruzadas entre Plataformas:
  • Calidad Perceptiva: La calidad visual, la calidad del movimiento y la adherencia a la física mostraron correlaciones fuertes entre las plataformas de simulación (RoboTwin y LIBERO).
  • Brecha Simulación-Realidad: Se observó una desconexión significativa entre el rendimiento en simulación y en el mundo real. Mientras que las clasificaciones en simulación correlacionaron moderadamente, las tasas de éxito en las tareas cayeron drásticamente en las evaluaciones del mundo real. Solo unos pocos modelos lograron tasas de éxito no nulas en tareas del mundo real, y todos permanecieron muy por debajo de los requisitos de despliegue práctico.
  • Transferencia Funcional: El éxito de la tarea correlacionó positivamente entre simuladores, pero disminuyó significativamente al compararse con el rendimiento en el mundo real, confirmando que las métricas basadas en simulación no son proxies confiables para la viabilidad de despliegue en el mundo real.

Significado y Afirmaciones

El artículo afirma que WorldArena 2.0 proporciona un banco de pruebas riguroso y estandarizado que rastrea el progreso hacia modelos mundiales encarnados verdaderamente generales. Su significado principal radica en:

1. Estandarización: Pionera en protocolos estandarizados para evaluar modelos mundiales visuo-táctiles y utilizar modelos mundiales como entornos de RL en línea, áreas que anteriormente carecían de evaluaciones consistentes.
2. Verificación de la Realidad: Al introducir la evaluación robótica en el mundo real, la evaluación expone una sustancial "brecha de usabilidad simulación-realidad", demostrando que un alto rendimiento en simulación de alta fidelidad no garantiza competencia en el mundo real.
3. Evaluación Integral: Avanza el campo más allá del realismo visual para evaluar el anclaje físico, la utilidad interactiva y la robustez cruzada entre plataformas, proporcionando una base más realista para el desarrollo de inteligencia encarnada.

Los autores concluyen que, aunque los modelos actuales muestran promesa en la captura de dinámicas multimodales y en el apoyo a la optimización de políticas, persisten desafíos significativos para cerrar la brecha entre el entrenamiento simulado y la ejecución física en el mundo real.