Mix-QVLA: Task-Evidence-Aware Mixed-Precision Quantization of Vision-Language-Action Models

Resumen Técnico: Mix-QVLA

Planteamiento del Problema
Los modelos de visión-lenguaje-acción (VLA) unifican la percepción, el razonamiento lingüístico y el control robótico en una única política, permitiendo la manipulación condicionada por el lenguaje. Sin embargo, sus sustanciales requisitos de memoria y computación dificultan su despliegue en plataformas robóticas con recursos limitados. Aunque la cuantización post-entrenamiento (PTQ) de precisión mixta de bajo bit ofrece una vía para la compresión, los métodos de cuantización de VLA existentes sufren una limitación crítica: estiman principalmente la sensibilidad de las capas basándose en la desviación de la acción final.

Los autores argumentan que una pequeña desviación en el comando de movimiento final no garantiza que el modelo cuantizado haya preservado la "estructura de evidencia" interna que sustenta la decisión de la política de precisión completa. Por el contrario, una gran desviación no revela dónde falló la computación. Los métodos existentes no examinan si la cuantización interrumpe la evidencia relevante para la tarea a través de las etapas internas de la política (por ejemplo, el anclaje visual o el razonamiento lingüístico), lo que podría conducir a un anclaje de la tarea incorrecto incluso cuando el movimiento resultante parece fluido.

Metodología
El artículo propone Mix-QVLA, un marco de PTQ de precisión mixta consciente de la evidencia de la tarea, diseñado para preservar la trayectoria de decisión interna de los modelos VLA. La metodología procede en tres etapas principales:

1. Sensibilidad de la Evidencia de la Tarea por Capa:

   • Decisión de Referencia: El marco ancla la evaluación de la cuantización a una secuencia de tokens de acción ($y^*$) de precisión completa fija, generada por el modelo de precisión completa ($\theta_{FP}$).
   • Análisis de Fronteras: Evalúa la preservación de la evidencia en cuatro fronteras funcionales: la salida del codificador de visión, la salida del proyector, la representación de la política de lenguaje y la representación de la cabeza de acción.
   • Mapeo de Evidencia: Para cada frontera, calcula un mapa de evidencia de la tarea ($E$) ponderado por gradientes, combinando las activaciones de la frontera normalizadas con los gradientes del objetivo de log-probabilidad de forzado de profesor (teacher-forced). Esto identifica las características que son tanto activas como influyentes para la decisión de referencia.
   • Medición de la Distorsión: El método compara los mapas de evidencia de precisión completa y cuantificados utilizando dos métricas:
     • Masa de Evidencia: La fuerza total de la evidencia que sustenta la decisión.
     • Distribución de Atribución: La asignación espacial de la evidencia a través de tokens/canales (medida mediante la divergencia de Jensen–Shannon).
   • Agregación: Estas distorsiones se agregan en una puntuación de sensibilidad por capa utilizando un objetivo de "cuello de botella suave" (soft-bottleneck), lo que asegura que una frontera fuertemente degradada influya significativamente en la puntuación final sin ser diluida por otras fronteras.

2. Sensibilidad de la Evidencia de la Tarea Temporal:

   • Reconociendo que las políticas VLA se desarrollan a lo largo de trayectorias, Mix-QVLA trata la sensibilidad como dependiente del tiempo. Mapea las muestras de calibración al progreso de la trayectoria normalizado ($\rho \in [0, 1]$) y calcula puntuaciones de sensibilidad por fase.
   • La puntuación de sensibilidad temporal final para una capa se deriva de la degradación máxima observada en cualquier fase de la trayectoria, capturando las capas que se vuelven críticas solo en etapas específicas de la ejecución.

3. Asignación de Bits de Precisión Mixta:

   • El marco formula la asignación de bits como un problema de optimización restringida. Minimiza la degradación combinada de la evidencia de la tarea y la sensibilidad temporal sujeto a presupuestos de tamaño de modelo y BitOps.
   • Una variable de asignación binaria determina el ancho de bits para cada capa, resuelta mediante un solucionador de branch-and-bound. La asignación resultante es fija tras la calibración y se aplica durante la inferencia.

Contribuciones Clave

• Marco Mix-QVLA: Un nuevo marco de PTQ que estima la sensibilidad de las capas basándose en la preservación de la evidencia relevante para la tarea a través de fronteras funcionales y pasos temporales de la trayectoria, en lugar de depender únicamente de la desviación de la acción final.
• Análisis de Evidencia de la Tarea a Nivel de Frontera: Un enfoque de diagnóstico que mide cómo la cuantización interrumpe la trayectoria de decisión interna de VLA, proporcionando estimaciones de sensibilidad por capa que distinguen entre la pérdida de masa de evidencia y la redistribución de la atribución.
• Análisis de Sensibilidad Consciente del Tiempo: Un mecanismo que captura la importancia dependiente de la fase, distinguiendo entre capas que son consistentemente frágiles y aquellas que son sensibles solo durante etapas de ejecución específicas.
• Validación Empírica: Evaluación extensiva en políticas de estilo OpenVLA demostrando una mejor estimación de la sensibilidad y mejores compromisos de precisión-eficiencia en comparación con los criterios de cuantización basados solo en la acción.

Resultados Experimentales
Los autores evaluaron Mix-QVLA en el benchmark LIBERO utilizando políticas OpenVLA y OpenVLA-OFT.

• Rendimiento: En OpenVLA-OFT, Mix-QVLA redujo el uso de memoria de 15.4 GB (BF16) a 4.1 GB bajo cuantización W4A4 manteniendo una tasa de éxito promedio del 96.3% (frente al 97.1% del modelo de precisión completa).
• Comparación: Mix-QVLA superó consistentemente o igualó a los métodos de vanguardia (incluyendo SmoothQuant, OmniQuant, QVLA y DyQ-VLA) en la tasa de éxito promedio, logrando menores huellas de memoria y mayores aceleraciones de inferencia (hasta 1.52×).
• Ablación: Los experimentos confirmaron que combinar la sensibilidad de la evidencia de la tarea con la sensibilidad temporal produce los mejores resultados (76.3% de éxito promedio en OpenVLA), mientras que depender de una sola señal resulta en un rendimiento inferior.

Significado y Reivindicaciones
El artículo afirma que Mix-QVLA aborda una brecha fundamental en la cuantización de VLA: la desconexión entre la precisión de la acción final y la integridad del proceso de toma de decisiones interno. Al medir y preservar explícitamente la "evidencia" que sustenta una decisión de precisión completa, Mix-QVLA permite un despliegue de bajo bit más robusto. Los autores afirman que su método mejora el compromiso entre precisión y eficiencia para el despliegue de VLA de bajo bit, permitiendo una reducción significativa de la memoria y la aceleración sin comprometer las tasas de éxito de la tarea.

Limitaciones
Los autores señalan modestamente que la evaluación actual está limitada a políticas de estilo OpenVLA y tareas de simulación LIBERO, lo que requiere una validación adicional en despliegues de robots reales y otras arquitecturas. Además, la puntuación de evidencia de la tarea requiere pasadas de calibración adicionales fuera de línea, y la implementación actual utiliza una asignación de bits fija en lugar de un cambio dinámico por paso de tiempo. Finalmente, los mapas de evidencia sirven como señales de diagnóstico más que como garantías causales del éxito de la tarea.