Resumen Técnico: Descubriendo la vulnerabilidad de los modelos de Visión-Lenguaje-Acción ante fallos físicos a nivel de articulación

Planteamiento del problema

El despliegue de modelos de Visión-Lenguaje-Acción (VLA) en sistemas robóticos reales enfrenta una brecha crítica de robustez: si bien estos modelos demuestran una fuerte generalización ante variaciones semánticas y perceptivas, a menudo carecen de robustez frente a fallos en el lado de la encarnación (embodiment-side faults). Específicamente, las políticas VLA asumen que el cuerpo del robot convierte fielmente las acciones predichas en los movimientos pretendidos. Sin embargo, los robots del mundo real son susceptibles a fallos físicos a nivel de articulación, tales como la degradación de los actuadores, fallos de hardware, límites impuestos por seguridad, daños por colisión y fricción inducida por el desgaste.

Estos fallos alteran la interfaz acción-movimiento, interrumpiendo la relación de bucle cerrado aprendida entre las acciones comandadas, el movimiento realizado y las observaciones subsiguientes. A diferencia del ruido de acción convencional (que perturba directamente la salida de la política), los fallos físicos a nivel de articulación cambian la capacidad cinemática o dinámica del propio robot. En consecuencia, la misma acción comandada puede resultar en diferentes estados realizados dependiendo de la articulación afectada y la severidad del fallo. Esto conduce a un desajuste de ejecución de bucle cerrado, donde el robot se desvía de la trayectoria de estado nominal esperada por la política VLA, lo que potencialmente causa fallos irrecuperables incluso si la tarea sigue siendo físicamente factible.

Metodología: J-PARC

Para abordar esta vulnerabilidad, los autores proponen el Calibrador Residual Consciente de Fallos Físicos a Nivel de Articulación (J-PARC, por sus siglas en inglés), un marco ligero diseñado para operar sobre una política VLA congelada sin necesidad de realizar un ajuste fino (fine-tuning) del modelo base.

Arquitectura Central

J-PARC funciona como un módulo de corrección residual que ajusta los componentes traslacionales de la salida de acción del VLA basándose en el contexto de ejecución inferido.

1. Contexto de Entrada: El módulo observa la dinámica reciente de las articulaciones y el historial de ejecución ($H_t$), que incluye las acciones base, los estados del efector final/pinza y la diferencia entre las acciones comandadas y las ejecutadas.
2. Inferencia del Régimen de Fallo: Un codificador pre-entrenado ($g_\psi$) procesa el movimiento reciente de las articulaciones para inferir un régimen de fallo de articulación latente ($u_t$). Este codificador está entrenado para detectar la presencia de un fallo y clasificar la articulación específica afectada, pero permanece congelado durante la fase de entrenamiento del residual.
3. Predicción del Residual: Un calibrador residual basado en transformadores ($f_\theta$) toma como entrada el bloque de acción base, el historial de ejecución y el régimen de fallo inferido. Predice un bloque residual ($R_{\theta,t}$) específicamente para los comandos traslacionales del brazo ($\Delta x, \Delta y, \Delta z$).
4. Corrección de la Acción: La acción ejecutada final es la suma de la acción VLA base y el residual predicho. Los comandos de rotación y de la pinza de la política base se preservan para evitar reconfiguraciones articulares innecesarias.

Estrategia de Entrenamiento

J-PARC utiliza un enfoque de objetivo residual guiado por referencia:

• Recolección de Datos: El sistema empareja ejecuciones de referencia libres de fallos con ejecuciones bajo condiciones de articulación bloqueada partiendo desde el mismo estado inicial.
• Generación del Objetivo: Un mecanismo "maestro" compara el estado de ejecución con fallo frente a la trayectoria de referencia libre de fallos. Si la desviación excede un umbral, se calcula el residual objetivo para redirigir el efector final hacia el punto de referencia (waypoint) libre de fallos. Si la desviación está dentro de un "tubo de demostración", el residual objetivo es cero.
• Optimización: El calibrador residual se entrena para minimizar el error cuadrático medio entre su residual predicho y el objetivo generado por el maestro, mientras que la política VLA base y el codificador de fallos permanecen congelados.

Contribuciones Clave

1. Identificación de la Vulnerabilidad: El artículo establece los fallos físicos a nivel de articulación (bloqueo, límites de rango, aumento de fricción) como un desafío de robustez crítico y distinto para el despliegue de VLA, separado del ruido perceptual o del espacio de comandos.
2. Análisis de Efectos Heterogéneos: A través de un análisis exhaustivo, los autores demuestran que los efectos de los fallos son dependientes de la articulación. Las tareas se degradan de forma heterogénea según la articulación afectada y su uso en la tarea. Además, las caídas de rendimiento ocurren incluso en escenarios factibles (por ejemplo, aumento de fricción), lo que indica que el problema no es meramente la inviabilidad física, sino un desajuste de ejecución de bucle cerrado.
3. Marco J-PARC: La propuesta de un marco de calibración residual ligero que infiere regímenes de fallo latentes a partir del historial de ejecución y adapta las acciones en consecuencia, preservando el comportamiento de la política base en entornos libres de fallos.
4. Validación Empírica: Experimentos en el benchmark LIBERO y en hardware real (Trossen WidowX AI) muestran que J-PARC mejora significativamente las tasas de éxito bajo fallos de articulación, manteniendo el rendimiento en condiciones nominales.

Resultados Experimentales

Los autores evaluaron J-PARC en dos arquitecturas base VLA congeladas (OpenVLA-OFT y $\pi_0.5$) a través de las suites de benchmark LIBERO.

• Fallos de Articulación Bloqueada: Bajo condiciones de articulación bloqueada, J-PARC mejoró la tasa de éxito promedio del 42.3% al 46.8% (OpenVLA-OFT) y del 48.4% al 55.2% ($\pi_0.5$). Notablemente, superó a líneas base como la Cinemática Inversa Restringida (CIK) y RobustVLA, que no lograron mejorar el rendimiento de manera consistente o incluso lo degradaron.
• Fallos de Fricción no Vistos: Crucialmente, J-PARC fue entrenado solo con datos de articulación bloqueada. Al ser probado en aumento de fricción articular (un modo de fallo diferente no visto durante el entrenamiento), aun así mejoró las tasas de éxito promedio (por ejemplo, del 46.4% al 55.1% para OpenVLA-OFT), demostrando la generalización a desajustes de ejecución no vistos.
• Preservación de Entornos Libres de Fallos: En entornos sin fallos, J-PARC preservó el rendimiento de la política base, confirmando que el módulo residual no interfiere con la operación nominal.
• Validación en el Mundo Real: En un robot físico realizando una tarea de recogida y colocación de un cuenco, la política base falló completamente bajo bloqueos de articulación, mientras que J-PARC tuvo éxito en la mayoría de los ensayos al mantener la trayectoria del efector final cerca de la ruta de referencia libre de fallos.

Significado y Reivindicaciones

El artículo argumenta que la robustez del lado de la encarnación es una condición necesaria para el despliegue fiable de VLA, no simplemente una preocupación secundaria de hardware. Los autores afirman que:

• Los métodos actuales de robustez centrados en el ruido de acción o las perturbaciones perceptivas son insuficientes para manejar fallos físicos persistentes que alteran la dinámica del robot.
• El desajuste entre las acciones comandadas y los movimientos realizados se acumula con el tiempo, lo que requiere una calibración de acción adaptativa que condicione sobre el contexto de ejecución actual en lugar de restricciones estáticas.
• J-PARC ofrece una solución práctica y ligera que mejora la robustez sin el costo computacional de realizar un ajuste fino de los grandes modelos VLA ni la necesidad de extensos datos de entrenamiento adversario.

Los autores mantienen la modestia respecto a las limitaciones, señalando que su validación en el mundo real está actualmente restringida a articulaciones específicas (4 y 5) y una sola tarea debido a restricciones de seguridad, y que el método actualmente depende del acceso a trayectorias de referencia libres de fallos para el entrenamiento. Se sugiere como trabajo futuro explorar la construcción automática de referencias y espacios de acción más amplios.