Revisiting Parameter Redundancy in Vision-Language-Action Models: Insights from VLM-to-VLA Adaptation

Resumen Técnico: Revisitando la Redundancia de Parámetros en Modelos de Visión-Lenguaje-Acción

Declaración del Problema
Los modelos de Visión-Lenguaje-Acción (VLA) han avanzado la inteligencia encarnada mediante la adaptación de modelos de Visión-Lenguaje (VLM) preentrenados a gran escala para tareas de control robótico. Sin embargo, estos modelos heredan escalas de parámetros masivas, lo que crea cargas computacionales y de almacenamiento significativas. Los esfuerzos actuales de optimización de eficiencia, particularmente el recorte de parámetros (parameter pruning), enfrentan un cuello de botella crítico: los modelos VLA exhiben una sensibilidad extrema a la eliminación de parámetros. Incluso un recorte moderado suele provocar un "abismo de rendimiento" (performance cliff), lo que requiere mecanismos de recuperación post-hoc como el Ajuste Fino Supervisado (SFT) o la Adaptación de Bajo Rango (LoRA) para restaurar la funcionalidad.

Los autores desafían el paradigma de ingeniería prevalente que trata esta degradación del rendimiento como un costo inevitable del recorte. Argumentan que la dependencia generalizada de la recuperación enmascara un problema fundamental: si un modelo recortado debe volver a aprender para funcionar, los parámetros eliminados probablemente no eran redundantes, sino vitales. Esto plantea la cuestión de si los criterios de recorte actuales eliminan indiscriminadamente parámetros críticos que experimentan una reorganización funcional durante el proceso de adaptación de VLM a VLA.

Metodología
El artículo propone un marco de diagnóstico que redefine el recorte de VLA no como un objetivo de optimización, sino como una intervención controlada para analizar los roles funcionales de los parámetros. La metodología consta de tres componentes principales:

1. Cuantificación de las Señales de Adaptación: Los autores definen la divergencia relativa de parámetros ($\Delta W$) entre los pesos del VLM preentrenado ($W^{VLM}$) y los pesos del VLA adaptado ($W^{VLA}$). Visualizan la distribución espacial de esta divergencia a través de diferentes módulos (Codificadores de Visión, Backbones de Lenguaje y Proyectores Cross-Modales) para identificar patrones estructurados en lugar de ruido aleatorio.
2. Recorte Controlado como Sonda de Diagnóstico: Para establecer un vínculo causal entre las señales de divergencia y la importancia funcional, los autores introducen un protocolo de evaluación "libre de recuperación". Aplican el recorte directamente al modelo sin un ajuste fino posterior. Comparan dos estrategias:
   • Recorte de mayor diferencia (Highest-difference pruning): Eliminar parámetros con el mayor $|\Delta W|$.
   • Recorte de menor diferencia (Lowest-difference): Eliminar parámetros con el menor $|\Delta W|$.
     Al observar el impacto inmediato en las tasas de éxito de la tarea (SR), determinan qué señales de divergencia se correlacionan con la redundancia.
3. Esquema de Recorte Conjunto Multi-Módulo: Basándose en el descubrimiento de que las señales de redundancia varían significamente entre módulos (heterogeneidad modular), diseñan una estrategia de recorte diferenciada. Este esquema aplica reglas de recorte específicas a los Codificadores de Visión, los Backbones de Lenguaje y los Proyectores basándose en sus características de divergencia únicas, con el objetivo de reducir los parámetros sin desencadenar un colapso del rendimiento.

Contribuciones Clave

1. Marco de Diagnóstico: Los autores introducen un nuevo marco que trata el recorte como una intervención controlada para vincular causalmente la divergencia inducida por la adaptación con la importancia funcional de los parámetros, desacoplando la identificación de la redundancia de la recuperación del rendimiento.
2. Revelación de la "Trampa de la Recuperación": El estudio demuestra que la dependencia prevalente de la recuperación post-recorte oculta la eliminación indiscriminada de parámetros vitales. Muestran que las señales de $\Delta W$ exhiben una fuerte heterogeneidad modular, lo que significa que una estrategia de recorte uniforme es ineficaz.
3. Estrategia de Recorte Libre de Recuperación: Proponen un esquema de recorte conjunto multi-módulo que aprovecha las señales de adaptación para lograr una compresión significativa (reducción de parámetros del 12% al 30%) manteniendo aproximadamente el 90% del rendimiento original, enteramente sin ajuste fino o compensación post-recorte.

Resultados Experimentales
El enfoque fue evaluado en el benchmark LIBERO utilizando dos pares de modelos representativos: OpenVLA (basado en Prismatic/Llama-2) y $\pi0.5$ (basado en PaLI-Gemma).

• Validación de Hipótesis:
  • Hipótesis I: Los experimentos confirmaron que los modelos que requieren recuperación tras el recorte probablemente perdieron parámetros vitales. Los modelos recortados usando estrategias de "Menor diferencia" colapsaron inmediatamente (ej. 0.0% SR) pero se recuperaron tras el ajuste fino con LoRA, probando que los parámetros eliminados no eran redundantes.
  • Hipótesis II y III: La utilidad de las señales $\Delta W$ varía según el módulo. Por ejemplo, en el DINOv2 de OpenVLA, el recorte de cabezales de atención de mayor diferencia causó colapso, mientras que el recorte de canales FFN de menor diferencia también causó colapso. Por el contrario, en el módulo del Proyector, ambas estrategias llevaron al colapso, indicando que es un cuello de botella frágil que requiere protección.
  • Hipótesis IV: El esquema multi-módulo propuesto redujo con éxito los parámetros sin necesidad de recuperación.
• Métricas de Rendimiento:
  • OpenVLA: La configuración "Moderada" redujo los parámetros de 7.5B a 6.2B (12.4GB de memoria) manteniendo una tasa de éxito promedio del 62.3% en LIBERO, comparado con un fallo catastrófico (1.0% SR) para métodos base como LLM-Pruner bajo las mismas condiciones libres de recuperación.
  • $\pi0.5$: La configuración "Moderada" redujo la memoria de 7.3GB a 5.6GB, manteniendo una tasa de éxito promedio del 89.0% (frente a una base de 96.9%), mientras que los criterios existentes resultaron en un colapso total del rendimiento.

Significancia y Reivindicaciones
El artículo afirma proporcionar un nuevo camino para desplegar políticas robóticas eficientes y robustas en entornos con recursos limitados. Al cambiar el enfoque de "cómo recortar más y recuperar" a "cómo identificar la verdadera redundancia mediante señales de adaptación", los autores demuestran que los modelos VLA contienen una redundancia significativa y estructurada que puede eliminarse de forma segura sin mecanismos de recuperación costosos. El estudio sugiere que comprender la evolución de los parámetros desde la percepción general hacia la acción encarnada es crucial para el despliegue eficiente de VLA, ofreciendo una alternativa con principios frente al paradigma actual de "recortar y luego recuperar".