ActDistill: General Action-Guided Self-Derived Distillation for Efficient Vision-Language-Action Models

1. El Problema

Los modelos de Visión-Lenguaje-Acción (VLA) han demostrado una flexibilidad y capacidad de generalización impresionantes en robótica, integrando percepción, cognición y ejecución. Sin embargo, su despliegue práctico en entornos reales (robots físicos) está limitado por:

• Alto costo computacional y latencia: Sus arquitecturas grandes y las frecuentes interacciones cruzadas entre modalidades generan una sobrecarga de procesamiento que impide el tiempo real.
• Limitaciones de las estrategias de eficiencia actuales: Métodos existentes (como poda de tokens, salidas tempranas o diseño de arquitecturas ligeras) se centran principalmente en redundancias visuales o lingüísticas. Ignoran una propiedad fundamental de los sistemas VLA: la transformación progresiva de representaciones ricas de visión-lenguaje en señales de acción compactas y ejecutables.
• Pérdida de información crítica: Las técnicas de compresión actuales a menudo eliminan capas intermedias cruciales para esta transformación, provocando una discontinuidad semántica entre la percepción y el control, lo que degrada la estabilidad de la política.

2. Metodología: ActDistill

ActDistill es un marco de destilación auto-derivada guiado por la acción que transfiere la capacidad de predicción de acciones de un modelo VLA completo (maestro) a un modelo ligero (estudiante). Su enfoque central es alinear la compresión del modelo con el proceso de transformación de "Visión-Lenguaje a Acción" (VL-to-Action).

Los componentes clave son:

• Encapsulamiento Estructurado en Grafos (Graph-Structured Encapsulation):

  • El modelo maestro organiza sus representaciones intermedias en grafos relacionales dinámicos.
  • Los nodos representan características de tokens y las aristas capturan dependencias contextuales.
  • Se utiliza un mecanismo de Top-K para retener solo las conexiones más relevantes (vecinos más cercanos), creando una topología dispersa que aísla las señales relevantes para la manipulación del ruido de fondo.
  • Esto genera "cápsulas semánticas" estructuradas que preservan la jerarquía de transformación necesaria para la acción.

• Destilación Auto-Derivada Guiada por Acción (Action-Guided Self-Derived Distillation):

  • En lugar de simplemente comprimir el maestro, el estudiante reconstruye el proceso de toma de decisiones bajo la guía de priors de acción.
  • Se define una función de pérdida compuesta por:
    • Pérdida Semántica: Alinea las representaciones del estudiante con las cápsulas estructuradas del maestro (similitud de instancia y preservación relacional).
    • Pérdida de Acción: Asegura que las predicciones de acción del estudiante sean precisas y estables, utilizando una triple pérdida MSE que incluye la acción real, la predicción del maestro y la progresión desde capas anteriores.

• Enrutamiento Dinámico (Dynamic Router):

  • Se introduce un enrutador que, condicional a los requisitos de la acción (basado en la entrada visual y lingüística), selecciona adaptativamente qué capas del modelo ejecutar.
  • El enrutador aprende a identificar qué capas son críticas para la predicción de la acción y cuáles son redundantes.
  • Durante la inferencia, solo se ejecutan las capas seleccionadas, eliminando la necesidad de componentes auxiliares (grafos, cabezales de predicción del maestro), resultando en un modelo final ligero y rápido.

3. Contribuciones Clave

1. Nuevo Paradigma de Eficiencia: ActDistill es el primer marco que alinea explícitamente la compresión del modelo con el proceso de transformación VL-to-Action, en lugar de depender solo de redundancias visuales o lingüísticas.
2. Arquitectura Técnica Innovadora:
   • Introducción de un encapsulamiento en grafos para preservar la transformación jerárquica de representaciones a acciones.
   • Desarrollo de un mecanismo de enrutamiento dinámico guiado por la acción que activa selectivamente las rutas de computación críticas.
3. Validación Exhaustiva: Demostración experimental en modelos VLA heterogéneos (autoregresivos como OpenVLA y basados en difusión como CogACT) y en múltiples benchmarks de manipulación robótica, logrando un equilibrio superior entre precisión y eficiencia.

4. Resultados Experimentales

Los experimentos se realizaron en los benchmarks LIBERO y SIMPLER, comparando con métodos de última generación (VLA-Cache, EfficientVLA, MoLe-VLA, etc.).

• Rendimiento de Tarea: ActDistill logra tasas de éxito comparables o superiores a los modelos VLA completos.
  • En LIBERO, alcanzó un 73.95% de éxito promedio (solo 1% menos que OpenVLA completo) y superó a los baselines en tareas de largo horizonte.
  • En SIMPLER, mantuvo un rendimiento casi idéntico al modelo base CogACT (74.08% vs 74.75%).
• Eficiencia Computacional:
  • Reducción de FLOPs: Más del 50% de reducción en operaciones de punto flotante.
  • Aceleración: Hasta 1.67x de velocidad de inferencia (latencia reducida de ~48ms a ~28ms en algunos casos).
  • Despliegue Real: En pruebas con un brazo robótico ARX5, ActDistill mantuvo una tasa de éxito del 62.5% (igual que el modelo completo) pero redujo el tiempo de inferencia de 10.2s a 6.3s (1.62x más rápido), superando significativamente a otros métodos de caché que perdían precisión.
• Análisis de Ablación: Confirmó que tanto el encapsulamiento en grafos como la pérdida guiada por acción son esenciales; sin ellos, el rendimiento cae drásticamente.

5. Significado e Impacto

ActDistill establece un nuevo paradigma para la inteligencia corporal eficiente (embodied intelligence). Su importancia radica en:

• Viabilidad del Despliegue Real: Permite ejecutar modelos VLA complejos en hardware con recursos limitados sin sacrificar la precisión de la tarea, resolviendo el cuello de botella de la latencia.
• Comprensión de la Transformación VL-to-Action: Demuestra que la eficiencia en robótica no debe lograrse ignorando la estructura de la tarea, sino preservando y optimizando específicamente las capas críticas para la generación de acciones.
• Generalidad: Al ser compatible con arquitecturas autoregresivas y basadas en difusión, ofrece una solución escalable para una amplia gama de modelos VLA futuros.

En resumen, ActDistill transforma la eficiencia de los modelos VLA de un problema de "recorte ciego" a un proceso de "optimización semántica guiada por la acción", permitiendo robots más rápidos, eficientes y capaces de operar en tiempo real.