Resumo Técnico: Premover – Controle Rápido Visão-Linguagem-Ação Agindo Antes que as Instruções Sejam Completas

Declaração do Problema

As políticas atuais de Visão-Linguagem-Ação (VLA) são tipicamente avaliadas sob a suposição de que a instrução completa do usuário está disponível antes de o robô iniciar o cálculo. No entanto, em implantações do mundo real, os usuários requerem vários segundos para digitar ou falar um pedido. Durante este intervalo de "prefixo em streaming", a política VLA permanece ociosa, criando uma lacuna substancial de latência. Em benchmarks como o LIBERO, este intervalo de entrada representa aproximadamente 39% do tempo total de interação (média de ~17,7 segundos de tempo ocioso por episódio).

Pesquisas existentes de eficiência focam na redução da latência de inferência após o recebimento da instrução (por exemplo, por meio de portas de saída antecipada ou poda de tokens). Esses métodos não abordam o tempo ocioso durante a entrada do usuário. O desafio central é utilizar este intervalo para computação sem comprometer a segurança ou o sucesso: agir muito cedo com uma instrução incompleta arrisca comprometer o robô com o alvo errado, enquanto aguardar a instrução completa perde o benefício de latência.

Metodologia: Premover

O Premover é um módulo leve projetado para operar sobre uma espinha dorsal VLA congelada (especificamente $\pi0.5$ nos experimentos). Ele converte o intervalo de entrada ocioso em pré-computação útil introduzindo dois componentes acoplados: um Mapa de Foco e um Portão de Prontidão de Ação.

1. Mapa de Foco Visão-Linguagem

O primeiro desafio é determinar onde atender dada uma instrução parcial (por exemplo, "pegue o ketchup..."). Uma espinha dorsal congelada, treinada por imitação de ação, frequentemente dispersa a atenção por regiões de fundo em vez de localizar o referente de um prompt parcial.

• Mecanismo: O Premover anexa duas pequenas cabeças de projeção treináveis (uma para patches de imagem, outra para tokens de linguagem) a uma camada intermediária da espinha dorsal congelada. Essas cabeças mapeiam estados ocultos em um espaço latente compartilhado.
• Cálculo: Calcula-se a similaridade de cosseno entre os embeddings de patches de imagem e os tokens de linguagem em streaming atuais. A similaridade máxima sobre a sequência de tokens gera uma pontuação de probabilidade por patch, formando um Mapa de Foco.
• Supervisão: Este mapa é supervisionado usando máscaras de segmentação de objetos-alvo renderizadas por simulador por meio de uma perda de Entropia Cruzada Binária (BCE) balanceada por classe.
• Injeção: Para influenciar a espinha dorsal congelada sem re treiná-la, o Mapa de Foco é usado para reponderar os tokens de imagem para o próximo passo de inferência ($t+1$). Um parâmetro de escala de piso $\alpha$ interpola entre o mapa de foco e um peso uniforme, preservando o contexto da cena (por exemplo, evitação de obstáculos) enquanto amplifica regiões relevantes para a instrução.

2. Portão de Prontidão de Ação

O segundo desafio é determinar quando a instrução parcial é informativa o suficiente para agir.

• Mecanismo: O sistema calcula uma Pontuação de Prontidão de Ação ($r_t$) com base na concentração do Mapa de Foco. Mede-se a diferença entre a probabilidade média dos top-$K$ patches e a probabilidade média global. Uma pontuação alta indica que o prefixo localizou um alvo específico; uma pontuação baixa indica atenção dispersa.
• Lógica de Decisão: Um limiar escalar treinável $\tau$ atua como um portão. A política executa ações apenas quando $r_t \geq \tau$.
• Supervisão: O limiar é treinado usando um rótulo binário indicando se o objeto-alvo apareceu no prefixo atual. Uma perda BCE escalada por temperatura é aplicada para tornar a decisão diferenciável.

Treinamento

Ambos os componentes são treinados conjuntamente em uma única passagem direta. Os parâmetros da espinha dorsal permanecem congelados; os gradientes fluem apenas através das duas cabeças de projeção e do limiar de prontidão. Isso constitui menos de 1% dos parâmetros totais da espinha dorsal, permitindo adaptação eficiente sem retreinamento em grande escala.

Contribuições Principais

1. Reenquadramento do Tempo Ocioso: O artigo argumenta que o intervalo de entrada do usuário é um recurso utilizável para computação, e não tempo morto, propondo um regime onde as políticas ancoram a atenção visual a prefixos em streaming.
2. Arquitetura Leve: O Premover alcança isso adicionando parâmetros treináveis mínimos (duas cabeças de projeção e um escalar) a uma VLA congelada, preservando exatamente os pesos pré-treinados.
3. Design de Duplo Componente: Separa explicitamente o problema de onde focar (Mapa de Foco) de quando agir (Portão de Prontidão), abordando o compromisso entre execução antecipada e segurança.
4. Protocolo de Avaliação em Streaming: Os autores introduzem um protocolo de avaliação em streaming que simula a chegada de tokens em tempo real sincronizada com uma taxa padrão de digitação (52,24 PPM), fornecendo uma métrica de latência mais realista do que os baselines completos de prompt padrão.

Resultados Experimentais

O método foi avaliado no conjunto LIBERO (Espacial, Objeto, Objetivo, LIBERO-10) e VLA-arena (suites Nível-1) usando a espinha dorsal $\pi0.5$.

• Taxa de Sucesso: O Premover iguala a taxa de sucesso do baseline de prompt completo no LIBERO (95,1% vs. 95,0%) e supera significativamente o "Premovering Naive" (que age imediatamente em cada token e colapsa para 66,4%). No VLA-arena, ele preserva 30,9% de sucesso comparado aos 33,0% do prompt completo, enquanto o Premovering Naive cai para 27,0%.
• Redução de Latência:
  • No LIBERO, o Premover reduz o tempo de relógio de ponta a ponta médio de 34,0s para 29,4s (uma redução de 13,6%).
  • No VLA-arena, reduz o tempo de relógio em aproximadamente 10,3%.
• Estudos de Ablação:
  • O Portão de Prontidão sozinho recupera 21,9 pontos percentuais de taxa de sucesso sobre o streaming naive, demonstrando seu papel crítico na prevenção de ação prematura.
  • O Mapa de Foco adiciona 6,7 pontos percentuais adicionais, melhorando a desambiguação de distratores.
  • A escala de piso $\alpha$ é robusta em uma faixa de valores, com $\alpha=0,2$ selecionado como ótimo para equilibrar a amplificação do alvo e a retenção do contexto da cena.

Significado e Alegações

O artigo alega que o Premover representa um passo importante em direção a aplicações VLA do mundo real eficientes e responsivas. Seu significado principal reside em demonstrar que:

1. O tempo de entrada do usuário é um recurso: A latência pode ser reduzida realizando computação durante o intervalo de digitação em vez de aguardar a conclusão.
2. Modulação leve é suficiente: Não é necessário retreinamento complexo para permitir ancoragem antecipada; um pequeno módulo pode modular efetivamente uma política congelada para lidar com instruções em streaming.
3. Segurança por meio de portões: Um critério de prontidão aprendido permite que o sistema aja cedo sem os modos de falha catastrófica associados à execução antecipada ingênua.

Os autores reconhecem limitações, observando que a supervisão do Mapa de Foco atualmente depende de máscaras renderizadas por simulador (não diretamente disponíveis em robôs reais) e que as cabeças de projeção são treinadas por benchmark em vez de transferidas zero-shot. Sugere-se trabalho futuro para abordar a ancoragem em robôs reais por meio de detectores de vocabulário aberto e para lidar com dinâmicas de prefixo não monotônicas (por exemplo, revisões do usuário).