Resumen Técnico: ProbeAct

Planteamiento del Problema

Los modelos de Visión-Lenguaje-Acción (VLA), si bien demuestran un sólido rendimiento dentro de sus distribuciones de entrenamiento, exhiben una fragilidad fundamental cuando se exponen a perturbaciones fuera de la distribución (OOD), tales como cambios en la iluminación, alteraciones en los puntos de vista de la cámara o variaciones en el estado inicial. Análisis recientes sugieren que esta fragilidad surge de un sobreajuste a las trayectorias nominales de entrenamiento mediante el aprendizaje por imitación conductual (behavioral cloning). En consecuencia, cuando las escenas de prueba divergen de las condiciones de entrenamiento, la cabeza de acción del VLA falla al no lograr fundamentar dinámicamente las acciones en el contexto visual actual. En su lugar, omite el razonamiento espacial activo y reproduce ciegamente una secuencia cinemática memorizada.

Crucialmente, este fallo se manifiesta como un desacoplamiento entre la percepción latente y la ejecución motora: el backbone visual del VLA a menudo mantiene representaciones espaciales precisas del objeto objetivo dentro de sus estados ocultos intermedios, pero la cabeza de acción colapsa hacia una trayectoria memorizada. Los métodos de recuperación en tiempo de ejecución existentes suelen depender de módulos de razonamiento externos, símbolos visuales adicionales o reproyección 3D explícita, lo que introduce una carga estructural significativa y requiere infraestructura de detección suplementaria.

Metodología: PROBEACT

Los autores proponen PROBEACT, un marco de intervención en tiempo de inferencia y libre de entrenamiento, diseñado para detectar y recuperarse de fallos de agarre y colocación en políticas VLA preentrenadas sin modificar los pesos ni requerir demostraciones adicionales. El marco opera como un sistema de bucle cerrado compuesto por tres componentes acoplados:

1. Percepción: Sonda de Estado Oculto Multi-Objetivo

En lugar de depender de sensores 3D externos, PROBEACT extrae coordenadas espaciales 3D estables directamente de los estados ocultos intermedios del VLA congelado.

• Arquitectura: Un MLP ligero de múltiples cabezales mapea características espaciales reducidas mediante PCA (específicamente de la capa 8 del VLA) a hasta $K$ posiciones de objetos con sus respectivos puntajes de confianza.
• Entrenamiento: La sonda se entrena utilizando una pérdida de emparejamiento bipartito con emparejamiento húngaro para manejar un número variable de objetos.
• Inferencia: Para asegurar la consistencia temporal en el control, el sistema emplea un emparejamiento húngaro en línea sobre el eje temporal, asignando nuevas predicciones a las trazas de objetos existentes basándose en la minimización del desplazamiento euclidiano por pares. Esto genera estimaciones de posición 3D temporalmente estables sin modelos de visión externos.

2. Lógica: Máquina de Estados Cinemáticos Agnóstica al Objeto

La detección de fallos es impulsada por cambios de estado relativos y sincronización cinemática entre la propiocepción del robot y los objetivos fundamentados por la sonda, evitando hiperparámetros específicos de la tarea.

• Fases: El sistema monitorea seis fases mecánicas (Acercamiento, Monitoreo, Agarre, Post-Agarre, Colocación).
• Mecanismo de Detección: Un agarre exitoso se verifica mediante el desplazamiento vertical sincrónico del efector final y el objeto objetivo.
• Modos de Fallo: El sistema detecta "Agarres vacíos duros" (el gripper se cierra sobre la nada) y "Agarres vacíos suaves" (el efector final se eleva mientras el objeto permanece estacionario). También detecta caídas durante el transporte mediante un colapso cinemático abrupto. Estas detecciones activan una intervención inmediata.

3. Control: Filtro de Función de Barrera de Control (CBF) Jerárquico

Para corregir los fallos, PROBEACT emplea una estrategia jerárquica de dos niveles para minimizar la intervención asegurando la seguridad.

• Recuperación Sin Estado: Para un fallo inicial, el sistema ejecuta un simple retroceso (push-back), permitiendo que el VLA intente la autocorrección.
• Restricción CBF Con Estado: Si el robot falla nuevamente en la misma región espacial, el sistema diagnostica una "trampa de memoria" e instancia una zona de Función de Barrera de Control (CBF) persistente en la coordenada del fallo.
• Proyección de Acción: El filtro CBF resuelve un Programa Cuadrático de mínima intervención para proyectar la acción nominal del VLA ($u_{vla}$) sobre un conjunto seguro ($H$). Esto se formula como una corrección de forma cerrada que desvía la trayectoria lejos de la zona de fallo mientras preserva la intención cinemática base. El filtro se omite durante las fases de agarre y transporte para permitir la interacción física y se purga dinámicamente tras la finalización de la tarea.

Contribuciones Clave

1. Intervención Libre de Entrenamiento: PROBEACT es un marco de bucle cerrado ligero que extrae referencias geométricas 3D robustas directamente de los estados ocultos del VLA congelado, eliminando la necesidad de sensores visuales externos o carga estructural.
2. Recuperación Agnóstica al Objeto: El marco acopla una máquina de estados cinemáticos con un filtro CBF jerárquico. Esto traduce la sincronización espacial relativa en una proyección de acción de forma cerrada, rescatando autónomamente las políticas de bucles de fallo catastróficos sin modificar los pesos de la política.
3. Eficacia en Tiempo de Inferencia: Una evaluación extensa demuestra mejoras consistentes en la tasa de éxito a través de diversas perturbaciones visuales y espaciales, logradas enteramente en tiempo de inferencia sin demostraciones adicionales o módulos de razonamiento externos.

Resultados Experimentales

El marco fue evaluado en el benchmark LIBERO-plus, que cubre siete categorías de perturbación (Fondo, Luz, Cámara, Robot, Ruido, Diseño/Layout, Lenguaje).

• Ganancias de Rendimiento: Aplicado al modelo OpenVLA-OFT, PROBEACT mejoró la tasa de éxito general del 69.6% al 74.1%, superando a todos los demás VLA evaluados (incluyendo variantes de $\pi0$, RT-2 y UniVLA).
• Desplazamientos Espaciales: Las mejoras más significativas se observaron bajo cambios de distribución geométrica (Estados Iniciales del Robot y Puntos de Vista de la Cámara). Esto valida la hipótesis de que PROBEACT intercepta eficazmente las patologías de "Agarre Fantasma" donde la cabeza de acción colapsa hacia una media memorizada a pesar de una percepción latente precisa.
• Generalización a Modelos de Ajuste Fino (Fine-Tuned): PROBEACT fue probado en OpenVLA-OFT-mixdata, un modelo explícitamente ajustado con datos de LIBERO-plus. El marco aún proporcionó ganancias consistentes (por ejemplo, +6.8% en la categoría de Objeto), indicando que el ajuste fino mitiga pero no elimina los fallos inducidos por la memorización, y que PROBEACT es ortogonal a los remedios del lado de los datos.
• Eficiencia: En tareas donde el baseline tiene éxito, PROBEACT añade solo ~6 pasos (5% de sobrecarga). En tareas rescatadas, completa la recuperación en ~197 pasos, significativamente más rápido que el tiempo de espera de 600 pasos del baseline. En general, PROBEACT promedia menos pasos (255) que el baseline (275) en todo el benchmark.
• Análisis de Error: En episodios de fallo, el punto final de la acción derivó 34.9 cm de la verdad de campo (ground truth), mientras que la sonda de estado oculto se mantuvo precisa (12.4 cm), confirmando la asimetría entre la percepción latente intacta y la ejecución motora fallida.

Significancia y Reivindicaciones

El artículo afirma que PROBEACT demuestra que la robustez de los VLA está frecuentemente limitada no por la degradación perceptiva, sino por una asimetría fundamental entre el razonamiento espacial latente intacto y la ejecución motora sobreajustada. Al aprovechar la información ya presente en los estados ocultos del VLA, el marco actúa como una "red de seguridad universal".

Los autores posicionan a PROBEACT como una solución modular, plug-and-play, que es ortogonal a los procesos de entrenamiento existentes. Ofrece un camino hacia una manipulación robótica más segura sin los costos prohibitivos de reentrenar modelos fundacionales o desplegar compleja infraestructura de detección externa. El trabajo sugiere que las intervenciones mínimas, con restricciones geométricas, pueden rescatar eficazmente a las políticas congeladas de las trampas de memoria OOD.

Limitaciones: Los autores reconocen que la validación actual está limitada a un benchmark simulado con dinámica de cuerpo rígido idealizada. Se requiere trabajo futuro para evaluar la transferibilidad de simulación a realidad (sim-to-real) de la máquina de estados cinemáticos, particularmente respecto a fenómenos físicos estocásticos como la fricción de contacto variable y el ruido de los sensores en hardware real.