Resumen Técnico: Ω-QVLA

Enunciado del Problema

Los modelos Visión-Lenguaje-Acción (VLA) integran percepción, razonamiento y control en una única política, utilizando típicamente una arquitectura base de modelo de lenguaje grande (LLM) y una cabeza de acción basada en difusión (DiT). Aunque prometedores para el control de robots generalistas, estos modelos son prohibitivamente costosos para su despliegue en el dispositivo debido a sus conteos de parámetros de miles de millones y a sus requisitos de memoria.

Los esfuerzos existentes de cuantización post-entrenamiento (PTQ) han fallado en proporcionar una solución completa para los modelos VLA. El trabajo previo típicamente comprime la arquitectura base LLM mientras deja la cabeza de acción DiT en precisión completa (FP16) o emplea esquemas de precisión mixta. Esta vacilación se deriva de la creencia de que la cabeza de acción DiT es inherentemente demasiado sensible a la cuantización uniforme de bajo bit. A diferencia de la generación de lenguaje, donde los errores de cuantización pueden ser imperceptibles, los errores en la cabeza de acción producen señales de control continuas que interfieren directamente con los actuadores físicos. En un entorno de bucle cerrado, las perturbaciones inducidas por la cuantización se amplifican por las fuerzas de contacto y la dinámica física, lo que lleva a una propagación acumulativa de errores y al fallo de la tarea. En consecuencia, ningún método previo ha cuantizado con éxito la cabeza de acción DiT completa de un modelo VLA a una precisión uniforme de bajo bit.

Metodología: Ω-QVLA

Los autores proponen Ω-QVLA, el primer marco de PTQ libre de entrenamiento capaz de comprimir tanto la arquitectura base de lenguaje como toda la cabeza de acción DiT de un modelo VLA a una precisión uniforme W4A4 (4 bits para pesos, 4 bits para activaciones). El marco elimina la necesidad de asignación de precisión mixta mediante dos innovaciones centrales:

1. Rotación Compuesta SVD·Hadamard

Para abordar el desequilibrio de energía a nivel de canal y los valores atípicos de activación, los autores introducen una estrategia de rotación de dos niveles aplicada antes de la cuantización:

• Rotación SVD: Se calcula una descomposición en valores singulares (SVD) sobre la matriz de pesos $W = U\Sigma V^\top$. La matriz de rotación $R_{SVD} = U$ se aplica para igualar la energía por fila de los pesos. Esto transforma el espacio de pesos de tal manera que la energía de cada fila está controlada directamente por el espectro singular, eliminando la concentración de energía inducida por las coordenadas.
• Rotación Hadamard: Dado que la rotación SVD se deriva únicamente de los pesos, no garantiza la uniformidad en el espacio de activación. Para abordar esto, los autores componen la rotación SVD con una matriz Hadamard normalizada $H$. La rotación compuesta $R = R_{SVD} \cdot H$ actúa como una matriz de mezcla uniforme que redistribuye la energía de cualquier canal dominante uniformemente a través de todos los canales de salida.
• Implementación por Bloques: Para evitar la sobrecarga computacional y de memoria de una matriz de rotación densa $C_{in} \times C_{in}$, el método aproxima la rotación en bloques. Los canales se reordenan mediante una permutación en zigzag basada en las normas de las columnas de los pesos para asegurar que los canales de alta norma y baja norma se distribuyan uniformemente a través de los bloques, evitando la concentración de valores atípicos dentro de una sola partición.

2. Escalado de Activación DiT por Paso

El escalado estático estándar es subóptimo para los modelos DiT porque las magnitudes de activación fluctúan significativamente a través del proceso de eliminación de ruido de múltiples pasos.

• Deriva del Rango Dinámico: Los autores observan que las estadísticas de activación se desvían a través de los pasos de eliminación de ruido, particularmente en las capas que reciben entradas condicionadas por el tiempo (por ejemplo, proyecciones QKV que siguen a AdaLayerNorm).
• Calibración por Paso: En lugar de una única escala estática, Ω-QVLA emplea una tabla de escalas precalculada, por paso, por capa y por canal. Esta tabla se deriva de trayectorias de calibración y se recupera durante la inferencia para absorber la deriva del rango dinámico. Esto permite que el cuantizador se adapte a los rangos de activación cambiantes en cada paso de tiempo específico.

Contribuciones Clave

1. Cuantización Unificada W4A4: Ω-QVLA es el primer marco libre de entrenamiento que cuantiza uniformemente toda la pila VLA (arquitectura base LLM + cabeza de acción DiT) a W4A4, desafiando la suposición de que la cabeza de acción no puede sobrevivir a la cuantización uniforme de bajo bit.
2. Mecanismo de Rotación Compuesta: La introducción de una rotación compuesta SVD·Hadamard que iguala simultáneamente la energía de los pesos por canal y difunde los valores atípicos residuales de activación, abordando las limitaciones de usar transformaciones SVD o Hadamard de forma aislada.
3. Calibración por Paso: El desarrollo de un mecanismo de escalado de activación por paso específicamente para modelos DiT para manejar la deriva del rango dinámico dependiente del paso de tiempo, lo cual es crítico para mantener la estabilidad en los procesos iterativos de eliminación de ruido.

Resultados Experimentales

El marco fue evaluado en el benchmark LIBERO utilizando dos políticas VLA de última generación: Pi 0.5 y GR00T N1.5.

• Rendimiento en Simulación:

  • Pi 0.5: Logró una tasa de éxito promedio en tareas del 98.0% bajo cuantización W4A4, superando ligeramente su referencia FP16 (97.1%).
  • GR00T N1.5: Logró una tasa de éxito promedio del 87.8%, igualando su referencia FP16 (87.0%).
  • Comparación: Estos resultados superan significativamente a las líneas base previas de cuantización completa W4A4 (por ejemplo, SmoothQuant, DuQuant, QuantVLA), que a menudo fallaron en mantener el rendimiento al cuantizar las capas de atención DiT. Por ejemplo, en Pi 0.5, QuantVLA logró solo un 82.0% de éxito, mientras que Ω-QVLA alcanzó el 98.0%.
  • Eficiencia de Memoria: El marco redujo la huella de memoria estática en un 71.3% en comparación con FP16, con una sobrecarga de metadatos negligible (~90 MB para Pi 0.5).

• Manipulación en el Mundo Real:

  • Se realizaron experimentos en una plataforma ARX R5 de doble brazo con cinco tareas de manipulación bimanual (por ejemplo, Agarrar Taza, Doblar Toalla).
  • Rendimiento: Ω-QVLA logró una puntuación de progreso promedio de 51.0, superando la línea base FP16 (49.6). Por el contrario, la línea base QuantVLA colapsó a 25.0.
  • Análisis Cualitativo: Las pruebas en el mundo real confirmaron que Ω-QVLA produce trayectorias de manipulación suaves y precisas. Los métodos de línea base exhibieron movimientos bruscos del efector final y picos frecuentes en las dimensiones de acción, lo que llevó a fallos en la tarea a lo largo de horizontes largos.

Significado y Afirmaciones

El artículo afirma que Ω-QVLA revierte la creencia predominante de que la cabeza de acción DiT es demasiado sensible para ser cuantizada uniformemente. Al abordar directamente las fuentes de inestabilidad —el desequilibrio de energía a nivel de canal y la deriva del rango dinámico por paso de eliminación de ruido—, los autores demuestran que una precisión unificada W4A4 es suficiente para el despliegue de alto rendimiento de VLA.

Los autores enfatizan que su enfoque requiere ningún reentrenamiento y elimina la complejidad de la asignación de precisión mixta. Los resultados sugieren que la compresión efectiva de VLA requiere una optimización holística y consciente de la acción, en lugar de la transferencia directa de técnicas de cuantización centradas en el lenguaje. Si bien la evaluación actual se limita a arquitecturas base basadas en DiT y benchmarks específicos, el trabajo establece una nueva línea base para el control de robots en el dispositivo, permitiendo el despliegue de políticas VLA a gran escala en hardware con restricciones estrictas de memoria y latencia.