Early Warning Signals for OpenVLA Failure under Visual Distribution Shift

Resumen Técnico: Señales de Alerta Temprana para el Fallo de OpenVLA bajo Desplazamiento de la Distribución Visual

Planteamiento del Problema
Los modelos de Visión-Lenguaje-Acción (VLA), como OpenVLA, integran percepción, fundamentación lingüística y control en una única política. Aunque son efectivos, sus modos de fallo son difíciles de diagnosticar una vez que las condiciones visuales cambian. Un pequeño error perceptual puede conducir a un sistema de bucle cerrado hacia una trayectoria irrecuperable mucho antes de que el fallo final sea observable. Este artículo aborda una pregunta diagnóstica restringida: ¿contienen las activaciones de alimentación directa (feedforward) internas de una política OpenVLA fija información linealmente decodificable respecto al fallo de la tarea a corto plazo bajo desplazamientos de la distribución visual? El estudio se centra en si monitores ligeros pueden detectar estas señales sin necesidad de reentrenar la política misma.

Metodología
Los autores evalúan OpenVLA en el benchmark de manipulación LIBERO-10. La configuración experimental involucra los siguientes componentes:

• Desplazamientos Visuales: La prueba de estrés principal es la oclusión, donde se aplica un parche negro a la imagen de entrada durante la inferencia. Esto reduce la observabilidad manteniendo fijas las instrucciones de lenguaje, la dinámica del simulador y las condiciones de éxito. Los desplazamientos secundarios incluyen el cambio de color global y el jitter de la cámara, evaluados sin reajustar los monitores.
• Recolección de Datos: La política es fija. Durante la ejecución, se registran las activaciones internas para 100 episodios por condición (limpio vs. ocluido).
• Definición de Fallo: Se define un fallo como aquel que ocurre dentro de un horizonte de $K=15$ pasos ($y^{(K)}_{e,t} = \mathbb{I}[0 \le \tau_e - t \le K]$). Los episodios exitosos sirven como ejemplos negativos.
• Monitores de Activación: Los autores extraen los estados ocultos de la proyección descendente MLP de capas específicas del transformador (8, 10 y 16). Se ajustan dos tipos de monitores tras la recolección:
  1. Dirección de Diferencia de Media: Una proyección lineal basada en la diferencia normalizada entre las medias de las activaciones de los episodios fallidos y exitosos.
  2. Sonda Logística: Un clasificador de regresión logística ligero entrenado para predecir el fallo dentro del horizonte de $K$ pasos.
• Políticas de Advertencia: Para probar la utilidad en tiempo de ejecución, las puntuaciones de los monitores se calibran en ejecuciones limpias (usando el umbral del percentil 95) y se aplican a ejecuciones ocluidas. Las políticas incluyen "no-op" (no hacer nada), "abortar" y "mantener última acción".

Resultos Clave

1. Inducción de Fallo: La oclusión crea con éxito una distribución de fallos, reduciendo las tasas de éxito de OpenVLA del 57% (limpio) al 17% (ocluido) en 100 episodios.
2. Decodificabilidad de las Señales de Fallo: Bajo oclusión, el fallo a corto plazo es linealmente decodificable a partir de las activaciones de alimentación directa.
   • La sonda logística en la Capa 16 logra un AUROC de 0.972 y un AUPRC de 0.352 para predecir el fallo dentro de 15 pasos.
   • Esto supera significativamente a la línea base de la dirección de diferencia de media (AUROC 0.654) y a la línea base de desacuerdo de acción (AUROC 0.496, esencialmente aleatoria).
3. Dependencia de la Capa: La capacidad de decodificar señales de fallo no es uniforme en toda la profundidad de la red. La Capa 16 es la más fuerte entre las capas probadas (8, 10, 16). La Capa 8 sigue siendo informativa, mientras que la Capa 10 es más débil. Este comportamiento no monotónico sugiere que la Capa 16 captura el estado relevante para la acción sin que la señal colapse hacia la interfaz de acción final.
4. Transferibilidad:
   • Cambio de Color: No produjo fallos, sirviendo como un control benigno.
   • Jitter de la Cámara: Indujo fallos. El monitor entrenado para oclusión funcionó por encima del azar (AUROC 0.689–0.725), lo que sugiere que la señal no es un detector puro de oclusión, aunque el rendimiento disminuyó significamente en comparación con el escenario de oclusión.
5. Comportamiento en Tiempo de Ejecución: Cuando se calibran en datos limpios, los monitores mantienen tasas de activación de advertencia bajas (2.63%–4.92%) en ejecuciones limpias, lo que indica que no se activan constantemente durante la operación nominal.

Afirmaciones y Significancia
El artículo realiza afirmaciones diagnósticas modestas en lugar de proponer un mecanismo de seguridad completo:

• Existencia de la Señal: Los estados internos de OpenVLA contienen una estructura relevante para el fallo bajo desplazamientos perceptuales controlados. Esta información es accesible mediante sondas lineales ligeras ajustadas tras la recolección de las ejecuciones.
• Especificidad de la Capa: La señal de fallo está localizada, siendo la Capa 16 la que muestra la mayor decodificabilidad entre las capas probadas.
• Generalización Parcial: La señal no es exclusiva de la oclusión (como evidencian los resultados de jitter), pero no demuestra una robustez amplia ante todos los desplazamientos.
• Limitaciones: El estudio establece explícitamente que no establece:
  • Un mecanismo causal (no identifica neuronas o cabezales de atención específicos).
  • Generalización de tareas no vistas (los resultados son de monitoreo de la misma distribución).
  • Un sistema de recuperación desplegable (las políticas de advertencia probadas son intervenciones diagnósticas, no mecanismos de recuperación completos).
  • La optimalidad global de la Capa 16 (el barrido fue disperso).

Conclusión
El trabajo demuestra que la información relevante para el fallo está presente en las activaciones internas de OpenVLA durante la ejecución en bucle cerrado bajo desplazamiento visual. Aunque los resultados actuales son limitados a entornos controlados y no prueban una recuperación causal, establecen que los monitores de activación ligeros pueden exponer señales de fallo sin reentrenar la política. Los autores sugieren que el trabajo futuro debería centrarse en divisiones agrupadas por episodios, evaluaciones de tareas no vistas, barridos de capas más densos y el desarrollo de políticas de recuperación reales más allá de las simples acciones de abortar o mantener.