Resumo Técnico: O Ajuste Fino de Modelos de Visão-Linguagem-Ação Requer Menos Camadas do que se Pensa

Declaração do Problema

Modelos de Visão-Linguagem-Ação (VLA), como o $\pi_0$ e o GR00T-N1.5, revolucionaram a manipulação robótica ao aproveitar o pré-treinamento massivo em conjuntos de dados de vídeo-robô para gerar políticas de controle contínuo. No entanto, essas arquiteturas de estado da arte (SOTA) geralmente abrangem bilhões de parâmetros, criando gargalos computacionais severos. Esses gargalos manifestam-se como custos de hardware proibitivos durante o ajuste fino (fine-tuning) subsequente, alta latência operacional e uma pesada sobrecarga de largura de banda de memória que restringe a inferência de borda em tempo real.

As estratégias de otimização existentes enfrentam três limitações críticas:

1. Escopo Estreito: Muitos métodos visam bases autoregressivas de tokens de texto mais antigas (ex: OpenVLA) em vez de fundações modernas de controle contínuo.
2. Ineficiência de Treinamento: Métodos livres de treinamento (ex: poda de tokens, cache) frequentemente aceleram a inferência, mas falham em reduzir o custo computacional da fase de ajuste fino subsequente, que é dispendiosa.
3. Complexidade Arquitetural: Métodos adaptativos ao treinamento (ex: roteamento dinâmico, saída precoce/early exiting) introduzem módulos auxiliares e objetivos de treinamento complexos, alterando a estrutura central do modelo e criando fricção com algoritmos de aprendizado subsequentes.

A questão central abordada é se camadas redundantes podem ser removidas antes do ajuste fino sem sacrificar o desempenho da política.

Metodologia: Poda de Camadas Guiada por CKA (CLP)

Os autores propõem o CLP, um pipeline de compressão estrutural que é inteiramente livre de treinamento e não requer módulos de roteamento auxiliares. A ideia central é que os backbones de VLA modernos exibem uma severa redundância representacional camada a camada, onde blocos de transformadores consecutivos produzem representações de tokens altamente correlacionadas.

O framework CLP opera da seguinte forma:

1. Diagnóstico de Redundância: Usando um conjunto de calibração compacto amostrado de episódios de treinamento, o método realiza uma única passagem direta (forward pass) para extrair representações de estados ocultos.
2. Medição de Similaridade: Ele emprega o Alinhamento de Kernel Centrado (CKA) para quantificar a similaridade representacional entre camadas adjacentes. O CKA foi escolhido por sua invariância a transformações ortogonais e escala isotrópica, tornando-o robusto para identificar redundâncias estruturais.
3. Identificação de Camadas: Pontuações altas de CKA entre camadas consecutivas indicam uma transformação de características mínima. O método agrega camadas redundantes adjacentes em blocos contíguos.
4. Poda Estática: Dentro de cada bloco redundante, todas as camadas exceto a camada "âncora funcional" inicial são permanentemente removidas. Este processo é aplicado independentemente tanto ao backbone do Modelo de Visão-Linguagem (VLM) quanto à cabeça de política de controle contínuo.
5. Adaptação Subsequente: O modelo comprimido resultante é ajustado finamente na tarefa alvo usando o objetivo de treinamento nativo. Não são necessários processos de destilação ou modificações arquiteturais.

Principais Contribuições

• Adaptação Acessível de VLAs de SOTA: O artigo demonstra que fundações de controle contínuo de estado da arte ($\pi_0$, GR00T-N1.5) podem ser ajustadas finamente com profundidade substancialmente reduzida, diminuindo os custos de memória, treinamento e inferência sem introduzir módulos de roteamento auxiliar ou de saída precoce.
• Compressão de Backbone Pré-Ajuste Fino: A introdução do CLP, um framework simples baseado em calibração que identifica e remove blocos de transformadores representacionalmente redundantes usando CKA antes da adaptação subsequente.
• Validação de Multi-Embodiment Diversificada: Avaliações extensas em três benchmarks de simulação (LIBERO, RoboCasa, SimplerEnv) e 10 tarefas de manipulação no mundo real abrangendo quatro corpos robóticos (UR10, UR5, braço único ALOHA, bimanual ALOHA).

Resultados Experimentais

Os autores validam o CLP em configurações de simulação e no mundo real, relatando os seguintes achados principais:

• Eficiência de Compressão: O CLP reduz a profundidade do modelo em até 50% e os parâmetros treináveis em 25–37% em diferentes backbones ($\pi_0$, GR00T-N1.5, SmolVLA).
  • Velocidade de Treinamento: Alcança uma redução de 40–50% no tempo de treinamento (ex: 1.94$\times$ mais rápido em tarefas do mundo real).
  • Velocidade de Inferência: Entrega até 30% de inferência em tempo real mais rápida.
  • FLOPs: Reduz o custo computacional em até 50% (ex: redução de 49,3% para o GR00T-N1.5).
• Retenção de Desempenho: Apesar da poda significativa, a arquitetura simplificada iguala ou supera o desempenho dos modelos base de escala total.
  • Em simulação (LIBERO), o CLP mantém taxas de sucesso competitivas enquanto reduz os parâmetros treináveis em ~30%.
  • Em implantações no mundo real, o CLP melhora as taxas médias de sucesso (ex: de 73,5% para 75,9% no GR00T-N1.5) e supera os modelos completos em tarefas específicas como servir guardanapos (+20%) e posicionamento de chave de fenda (+15%).
• Efeito de Regularização: Em regimes de escassez de dados, a compressão estrutural atua como um regularizador eficaz. Por exemplo, restringir o treinamento a 10% dos dados do LIBERO elevou as taxas de sucesso de 77,7% para 84,6% com o CLP, superando tanto o baseline completo quanto métodos de roteamento dinâmico como o MoLe-VLA.
• Comparação com Baselines: O CLP supera os métodos de poda de tokens livres de treinamento (que não reduzem os custos de ajuste fino) e os métodos adaptativos ao treinamento (que adicionam complexidade) tanto em eficiência quanto em eficiência de amostragem.

Significância e Alegações

O artigo alega que VLAs avançados requerem significativamente menos camadas do que o assumido anteriormente. Ao revelar uma "característica arquitetural altamente não trivial" de severa redundância camada a camada, o trabalho oferece um paradigma altamente eficiente em termos de computação para o aprendizado robótico escalável.

Os autores enfatizam que sua abordagem é "estruturalmente limpa", evitando a fricção de pipelines de roteamento dinâmico ou destilação. Eles argumentam que remover camadas redundantes não apenas acelera o treinamento e a inferência, mas também regulariza implicitamente o modelo, prevenindo o sobreajuste (overfitting) em regimes de baixos dados. As descobertas sugerem uma mudança em relação à suposição de que arquiteturas de VLA em constante crescimento são necessárias, apontando, em vez disso, para políticas de fundação mais eficientes e sustentáveis que podem ser adaptadas com overhead computacional mínimo.