Your Model Already Knows: Attention-Guided Safety Filter for Vision-Language-Action Models

Resumen Técnico: Tu modelo ya lo sabe: Filtro de seguridad guiado por atención para modelos de Visión-Lenguaje-Acción

Declaración del Problema

Los modelos de Visión-Lenguaje-Acción (VLA) han logrado un éxito significativo en la manipulación robótica de extremo a extremo, pero a menudo operan como políticas de caja negra sin restricciones que carecen de garantías formales de seguridad. Un modo de fallo crítico es la colisión con objetos irrelevantes para la tarea en entornos dinámicos. Las soluciones de seguridad existentes suelen depender de modelos de Visión-Lenguaje (VLM) externos para identificar obstáculos y sus ubicaciones. Sin embargo, consultar un VLM es computacionalmente costoso, lo que impide la ejecución en tiempo real dentro del bucle de control. En consecuencia, los enfoques actuales suelen realizar la identificación de obstáculos solo una vez durante la inicialización del episodio. Esta estrategia de "solo al inicio" resulta ineficaz en entornos dinámicos donde los objetos se mueven, los humanos entran en el espacio de trabajo o la relación espacial del robot con los obstáculos cambia, lo que vuelve el filtro de seguridad obsoleto e ineficaz.

Metodología

Los autores proponen KNOWS (Knowledge-driven, No-retraining, Online Wrapper for Safety), un marco de seguridad sin entrenamiento que aprovecha las señales perceptivas internas de una política VLA congelada para permitir la evitación de colisiones en tiempo real. El flujo de trabajo consta de cuatro componentes principales:

1. Política VLA Congelada: Una política VLA preentrenada ($\pi_\theta$) genera acciones candidatas basadas en entradas visuales y lingüísticas. El modelo en sí no es modificado ni ajustado (fine-tuned).
2. Seguimiento de Obstáculos de Baja Latencia: Al inicio del episodio, un modelo de segmentación (YOLOE ajustado) identifica los objetos manipulables. El sistema ajusta un elipsoide envolvente de volumen mínimo (MVEE) a cada objeto. Durante el tiempo de ejecución, en lugar de reajustar los elipsoides, el sistema rastrea los centroides de los objetos mediante máscaras de segmentación y actualiza sus poses, manteniendo una representación geométrica ligera de la escena.
3. Identificación de Objetos Basada en la Atención: La innovación central reside en extraer la intención de la política directamente de sus mecanismos de atención internos.
   • Los autores identifican que un pequeño subconjunto de cabezas de atención dentro del VLA congelado atiende consistentemente al objeto que la política pretende manipular.
   • Específicamente, extraen mapas de atención de una capa y cabeza específica (por ejemplo, Capa 12, Cabeza 3 en $\pi_{0.5}$) durante el paso hacia adelante (forward pass) estándar.
   • Acumulan la densidad de atención a lo largo de una ventana deslizante de pasos recientes, proyectando la masa de atención sobre las máscaras de los objetos.
   • El objeto con la mayor densidad de atención acumulada se identifica como el objetivo (target). Todos los demás objetos rastreados se tratan como obstáculos.
   • Este proceso ocurre en cada paso de control, actualizando dinámicamente el conjunto de obstáculos sin necesidad de modelos de percepción externos.
4. Filtro de Seguridad CBF-QP: Una Función de Barrera de Control (CBF) basada en Programación Cuadrática (QP) toma la acción candidata y el conjunto de obstáculos por paso. Proyecta la acción sobre un conjunto seguro, asegurando que el elipsoide del efector final permanezca separado de todos los elipsoides de los obstáculos. Si no existe una acción segura, el sistema activa una parada de emergencia.

Contribuciones Clave

• Identificación de Señales Internas: El artículo demuestra que una política VLA congelada codifica inherentemente señales de identificación de objetivos fiables y por paso dentro de un pequeño subconjunto de sus cabezas de atención, eliminando la necesidad de VLM externos o entrenamiento adicional.
• Marco KNOWS: La propuesta de un envoltorio (wrapper) de seguridad en línea, sin entrenamiento, que combina la identificación de objetivos basada en la atención con un rastreador de objetos ligero y un filtro CBF-QP. Esto permite actualizaciones continuas de las restricciones de seguridad a la tasa de control (20 Hz).
• Rendimiento en Entornos Dinámicos: La extensión del benchmark SafeLIBERO para incluir obstáculos móviles adversarios, proporcionando un banco de pruebas riguroso para filtros de seguridad en tiempo real.
• Correlatos de Inferencia: El descubrimiento de que la misma densidad de atención utilizada para la identificación de objetivos también sirve como un fuerte predictor del éxito de la tarea (AUC 0.89 cuando se restringe a episodios tempranos), lo que sugiere que la atención interna porta información más allá del filtrado de seguridad inmediato.

Resultados Experimentales

El marco fue evaluado en SAFELIBERO, una versión de seguridad aumentada del benchmark LIBERO, a través de cuatro suites (SPATIAL, OBJECT, GOAL, LONG) y tres niveles de seguridad (Estático Nivel I/II, Dinámico Nivel III).

• Escenarios Estáticos (Niveles I y II): KNOWS rinde de forma comparable a una línea de base "oráculo" que utiliza el estado privilegiado del simulador para identificar objetivos en la inicialización. Reduce significamente las tasas de colisión en comparación con las políticas sin filtrar, manteniendo tasas de éxito de la tarea similares a la línea de base "Naive" de solo inicio.
• Escenarios Dinámicos (Nivel III): En entornos con obstáculos móviles, la línea de base de solo inicio falla a medida que su asignación de objetivos se vuelve obsoleta. KNOWS supera sustancialmente a esta línea de base, reduciendo la tasa de colisión en un promedio del 43%.
• Sobrecarga de Tiempo Real: El método opera dentro del presupuesto de control de 20 Hz (50 ms por paso). La extracción de la atención añade una sobrecarga insignificante (0.8 ms) ya que reutiliza el forward pass existente. La sobrecarga total del envoltorio es de aproximadamente 49 ms, dominada por el modelo de segmentación y el procesamiento de profundidad, no por la lógica de seguridad en sí.
• Precisión de Identificación de Objetivos: La cabeza de atención seleccionada (Capa 12, Cabeza 3) distingue de forma fiable el objeto objetivo del destino y otros objetos, con la densidad de atención en el objetivo mostrando una alta especificidad (AUC 0.89) en comparación con el azar (AUC 0.55) para objetos irrelevantes.

Significancia y Reclamaciones

El artículo afirma que la fundamentación perceptiva necesaria para el filtrado de seguridad en tiempo real ya es latente dentro de las políticas VLA. Al explotar las propiedades de enrutamiento estructural de la autoatención de múltiples cabezas, KNOWS proporciona una capa de seguridad mínimamente invasiva que:

1. Elimina el cuello de botella de latencia de las consultas a VLM externos, permitiendo actualizaciones de seguridad continuas en entornos dinámicos.
2. No requiere reentrenamiento ni supervisión, lo que lo hace aplicable a cualquier política VLA basada en transformadores congelada.
3. Ofrece un ciclo de refuerzo positivo: Dado que el filtro de seguridad depende de la calidad de los mapas de atención de la política base, las mejoras en el backbone de VLA subyacente se traducen directamente en un filtrado de seguridad más robusto sin ingeniería adicional.

Los autores concluyen que, si bien su implementación actual se centra en la seguridad del efector final y depende de la calidad del módulo de percepción subyacente, el enfoque demuestra que "tu modelo ya lo sabe" para evitar colisiones si sabes cómo leer sus señales internas.