Revisiting Parameter Redundancy in Vision-Language-Action Models: Insights from VLM-to-VLA Adaptation

Resumo Técnico: Revisitando a Redundância de Parâmetros em Modelos de Visão-Linguagem-Ação

Declaração do Problema
Os modelos de Visão-Linguagem-Ação (VLA) avançaram a inteligência incorporada ao adaptar Modelos de Visão-Linguagem (VLMs) de grande escala para tarefas de controle robótico. No entanto, esses modelos herdam escalas massivas de parâmetros, criando encargos computacionais e de armazenamento significativos. Os atuais esforços de otimização de eficiência, particularmente a poda de parâmetros (pruning), enfrentam um gargalo crítico: os modelos VLA exibem uma sensibilidade extrema à remoção de parâmetros. Mesmo uma poda moderada frequentemente leva a um "abismo de desempenho" (performance cliff), necessitando de mecanismos de recuperação pós-hoc, como o Ajuste Fino Supervisionado (SFT) ou a Adaptação de Baixo Rank (LoRA), para restaurar a funcionalidade.

Os autores desafiam o paradigma de engenharia predominante que trata essa degradação de desempenho como um custo inevitável da poda. Eles argumentam que a dependência generalizada de recuperação mascara um problema fundamental: se um modelo podado deve reaprender a funcionar, os parâmetros removidos eram provavelmente vitais e não redundantes. Isso levanta a questão de se os critérios de poda atuais removem indiscriminadamente parâmetros críticos que passam por um processo de reorganização funcional durante o processo de adaptação de VLM para VLA.

Metodologia
O artigo propõe um framework de diagnóstico que reformula a poda de VLA não como um objetivo de otimização, mas como uma intervenção controlada para analisar os papéis funcionais dos parâmetros. A metodologia consiste em três componentes principais:

1. Quantificação de Sinais de Adaptação: Os autores definem a divergência relativa de parâmetros ($\Delta W$) entre os pesos do VLM pré-treinado ($W^{VLM}$) e os pesos do VLA adaptado ($W^{VLA}$). Eles visualizam a distribuição espacial dessa divergência através de diferentes módulos (Codificadores de Visão, Backbones de Linguagem e Projetores Cross-Modais) para identificar padrões estruturados em vez de ruído aleatório.
2. Poda Controlada como Sonda Diagnóstica: Para estabelecer um elo causal entre os sinais de divergência e a importância funcional, os autores introduzem um protocolo de avaliação "livre de recuperação". Eles aplicam a poda diretamente ao modelo sem ajuste fino subsequente. Eles comparam duas estratégias:
   • Poda de maior diferença: Removendo parâmetros com o maior $|\Delta W|$.
   • Poda de menor diferença: Removendo parâmetros com o menor $|\Delta W|$.
     Ao observar o impacto imediato nas taxas de sucesso da tarefa (SR), eles determinam quais sinais de divergência correlacionam-se com a redundância.
3. Esquema de Poda Conjunta Multi-Módulo: Com base na descoberta de que os sinais de redundância variam significativamente entre os módulos (heterogeneidade modular), eles projetam uma estratégia de poda diferenciada. Este esquema aplica regras de poda específicas aos Codificadores de Visão, Backbones de Linguagem e Projetores com base em suas características únicas de divergência, visando reduzir parâmetros sem desencadear o colapso de desempenho.

Principais Contribuições

1. Framework de Diagnóstico: Os autores introduzem um novo framework que trata a poda como uma intervenção controlada para ligar causalmente a divergência induzida pela adaptação com a importância funcional do parâmetro, desacoplando a identificação de redundância da recuperação de desempenho.
2. Revelação da "Armadilha da Recuperação": O estudo demonstra que a dependência predominante de recuperação pós-poda oculta a remoção indiscriminada de parâmetros vitais. Eles mostram que os sinais de $\Delta W$ exibem forte heterogeneidade modular, o que significa que uma estratégia de poda uniforme é ineficaz.
3. Estratégia de Poda Livre de Recuperação: Eles propõem um esquema de poda conjunta multi-módulo que aproveita os sinais de adaptação para alcançar uma compressão significativa (redução de 12%–30% de parâmetros) enquanto mantém aproximadamente 90% do desempenho original, inteiramente sem ajuste fino ou compensação pós-poda.

Resultados Experimentais
A abordagem foi avaliada no benchmark LIBERO usando dois pares de modelos representativos: OpenVLA (baseado em Prismatic/Llama-2) e $\pi0.5$ (baseado em PaLI-Gemma).

• Validação de Hipóteses:
  • Hipótese I: Experimentos confirmaram que modelos que exigem recuperação após a poda provavelmente perderam parâmetros vitais. Modelos podados usando estratégias de "Menor-diferença" colapsaram imediatamente (ex: 0.0% SR), mas recuperaram-se após o ajuste fino via LoRA, provando que os parâmetros removidos não eram redundantes.
  • Hipóteses II & III: A utilidade dos sinais de $\Delta W$ varia por módulo. Por exemplo, no DINOv2 do OpenVLA, a poda das cabeças de atenção de maior diferença causou colapso, enquanto a poda dos canais FFN de menor diferença também causou colapso. Por outro lado, no módulo Projetor, ambas as estratégias levaram ao colapso, indicando que este é um gargalo frágil que requer proteção.
  • Hipótese IV: O esquema multi-módulo proposto reduziu com sucesso os parâmetros sem necessidade de recuperação.
• Métricas de Desempenho:
  • OpenVLA: A configuração "Moderada" reduziu os parâmetros de 7.5B para 6.2B (12.4GB de memória) mantendo uma taxa de sucesso média de 62.3% no LIBERO, comparado a uma falha catastrófica (1.0% SR) para métodos de linha de base como o LLM-Pruner sob as mesmas condições livres de recuperação.
  • $\pi0.5$: A configuração "Moderada" reduziu a memória de 7.3GB para 5.6GB, mantendo uma taxa de sucesso média de 89.0% (em comparação com a linha de base de 96.9%), enquanto os critérios existentes resultaram em colapso total de desempenho.

Significância e Alegações
O artigo afirma fornecer um novo caminho para implantar políticas robóticas eficientes e robustas em ambientes com recursos limitados. Ao mudar o foco de "como podar mais e recuperar" para "como identificar a verdadeira redundância via sinais de adaptação", os autores demonstram que os modelos VLA contêm redundância estruturada significativa que pode ser removida com segurança sem mecanismos de recuperação caros. O estudo sugere que compreender a evolução dos parâmetros da percepção geral para a ação incorporada é crucial para a implantação eficiente de VLA, oferecendo uma alternativa principista ao atual paradigma de "podar-então-recuperar".