Mix-QVLA: Task-Evidence-Aware Mixed-Precision Quantization of Vision-Language-Action Models

Resumo Técnico: Mix-QVLA

Definição do Problema
Modelos de visão-linguagem-ação (VLA) unificam percepção, raciocínio de linguagem e controle robótico em uma única política, permitindo a manipulação condicionada por linguagem. No entanto, seus requisitos substanciais de memória e computação dificultam a implantação em plataformas robóticas com recursos limitados. Embora a quantização pós-treinamento (PTQ) de precisão mista de baixa bit ofereça um caminho para compressão, os métodos existentes de quantização de VLA sofrem de uma limitação crítica: eles estimam primariamente a sensibilidade da camada com base no desvio da ação final.

Os autores argumentam que um pequeno desvio no comando de movimento final não garante que o modelo quantizado tenha preservado a "estrutura de evidência" interna que sustenta a decisão da política de precisão total. Inversamente, um grande desvio não revela onde a computação falhou. Os métodos existentes falham em examinar se a quantização interrompe a evidência relevante para a tarefa através das etapas internas da política (por exemplo, fundamentação visual, raciocínio de linguagem), o que pode levar a uma fundamentação de tarefa incorreta, mesmo quando o movimento resultante parece suave.

Metodologia
O artigo propõe o Mix-QVLA, um framework de PTQ de precisão mista consciente da evidência da tarefa, projetado para preservar o caminho de decisão interno dos modelos VLA. A metodologia procede em três estáções principais:

1. Sensibilidade de Evidência de Tarefa por Camada:

   • Decisão de Referência: O framework ancora a avaliação de quantização a uma sequência de tokens de ação fixa de precisão total ($y^*$) gerada pelo modelo de precisão total ($\theta_{FP}$).
   • Análise de Fronteira: Ele avalia a preservação da evidência em quatro fronteiras funcionais: saída do codificador de visão, saída do projetor, representação da política de linguagem e representação da cabeça de ação.
   • Mapeamento de Evidência: Para cada fronteira, ele computa um mapa de evidência de tarefa ponderado por gradiente ($E$) combinando ativações de fronteira normalizadas com gradientes do objetivo de log-probabilidade de forçamento de professor (teacher-forced). Isso identifica características que são simultaneamente ativas e influentes para a decisão de referência.
   • Medição de Distorção: O método compara mapas de evidência de precisão total e quantizados usando duas métricas:
     • Massa de Evidência: A força total da evidência de suporte à decisão.
     • Distribuição de Atribuição: A alocação espacial da evidência entre tokens/canais (medida via divergência de Jensen–Shannon).
   • Agregação: Essas distorções são agregadas em um escore de sensibilidade por camada usando um objetivo de "gargalo suave" (soft-bottleneck), que garante que uma fronteira fortemente degradada influencie significativamente o escore final sem ser diluída por outras fronteiras.

2. Sensibilidade de Evidência de Tarefa Temporal:

   • Reconhecendo que as políticas VLA se desenrolam ao longo de trajetórias, o Mix-QVLA trata a sensibilidade como dependente do tempo. Ele mapeia amostras de calibração para o progresso da trajetória normalizado ($\rho \in [0, 1]$) e computa escores de sensibilidade por fase.
   • O escore de sensibilidade temporal final para uma camada é derivado da degradação máxima observada em qualquer fase da trajetória, capturando camadas que se tornam críticas apenas em estágios específicos de execução.

3. Alocação de Precisão Mista:

   • O framework formula a alocação de bits como um problema de otimização restrita. Ele minimiza a combinação de degradação de evidência de tarefa e sensibilidade temporal sujeito a orçamentos de tamanho de modelo e BitOps.
   • Uma variável de atribuição binária determina a largura de bits para cada camada, resolvida via um resolvedor branch-and-bound. A alocação resultante é fixa após a calibração e aplicada durante a inferência.

Principais Contribuições

• Framework Mix-QVLA: Um novo framework de PTQ que estima a sensibilidade da camada com base na preservação da evidência relevante para a tarefa através de fronteiras funcionais e passos de trajetória, em vez de depender apenas do desvio da ação final.
• Análise de Evidência de Tarefa em Nível de Fronteira: Uma abordagem diagnóstica que mede como a quantização interrompe o caminho de decisão interno do VLA, fornecendo estimativas de sensibilidade por camada que distinguem entre perda de massa de evidência e redistribuição de atribuição.
• Análise de Sensibilidade Consciente do Tempo: Um mecanismo que captura a importância dependente da fase, distinguindo camadas que são consistentemente frágeis daquelas que são sensíveis apenas durante estágios específicos de execução.
• Validação Empírica: Avaliação extensiva em políticas do tipo OpenVLA demonstrando melhor estimativa de sensibilidade e melhores equilíbrios entre precisão e eficiência em comparação com critérios de quantização baseados apenas em ação.

Resultos Experimentais
Os autores avaliaram o Mix-QVLA no benchmark LIBERO usando as políticas OpenVLA e OpenVLA-OFT.

• Desempenho: No OpenVLA-OFT, o Mix-QVLA reduziu o uso de memória de 15,4 GB (BF16) para 4,1 GB sob quantização W4A4, mantendo uma taxa de sucesso média de 96,3% (comparado a 97,1% para o modelo de precisão total).
• Comparação: O Mix-QVLA superou consistentemente ou igualou métodos de estado da arte (incluindo SmoothQuant, OmniQuant, QVLA e DyQ-VLA) em taxa de sucesso média, alcançando menores pegadas de memória e maiores acelerações de inferência (até 1,52×).
• Ablação: Experimentos confirmaram que a combinação da sensibilidade de evidência de tarefa com a sensibilidade temporal produz os melhores resultados (76,3% de sucesso médio no OpenVLA), enquanto depender de apenas um desses sinais resulta em menor desempenho.

Significância e Alegações
O artigo afirma que o Mix-QVLA aborda uma lacuna fundamental na quantização de VLA: a desconexão entre a precisão da ação final e a integridade do processo interno de tomada de decisão. Ao medir e preservar explicitamente a "evidência" que sustenta uma decisão de precisão total, o Mix-VLA permite uma implantação de baixo bit mais robusta. Os autores afirmam que seu método melhora o equilíbrio precisão-eficiência para a implantação de baixo bit em VLA, permitindo uma redução significativa de memória e aceleração sem comprometer as taxas de sucesso da tarefa.

Limitações
Os autores observam modestamente que a avaliação atual é limitada a políticas do tipo OpenVLA e tarefas de simulação LIBERO, exigindo validação adicional em implantações de robôs reais e outras arquiteturas. Além disso, o escore de evidência de tarefa requer passagens de calibração offline adicionais, e a implementação atual usa uma alocação de bits fixa em vez de alternância dinâmica por passo de tempo. Finalmente, os mapas de evidência servem como sinais diagnósticos, não como garantias causais de sucesso da tarefa.