Beyond Task Success: Behavioral and Representational Diagnostics for WAM and VLA

Resumo Técnico: Além do Sucesso da Tarefa: Diagnósticos Comportamentais e Representacionais para WAM e VLA

Definição do Problema
As políticas de visão-linguagem-ação (VLA) tornaram-se um paradigma dominante para a manipulação robótica de propósito geral, mapeando observações e instruções diretamente para ações. No entanto, a maioria das VLAs é fundamentalmente preditora reativa, que não modela explicitamente como as cenas evoluem. Os Modelos de Mundo-Ação (WAMs) surgiram como uma alternativa, acoplando a geração de ação com a previsão futura (por exemplo, imaginar estados futuros ou prever observações futuras). Trabalhos anteriores que compararam WAMs e VLAs basearam-se apenas nas taxas de sucesso final da tarefa, mas permanece incerto se a previsão futura nos WAMs leva a melhorias comportamentais significativas além do simples aumento das taxas de sucesso. Especificamente, não se sabe se os WAMs apenas adicionam um módulo de previsão ou se eles mudam fundamentalmente o comportamento do robô (por exemplo, suavidade do movimento, seletividade de alvo) e as representações internas de formas que sejam acionáveis para o controle.

Metodologia
Os autores introduzem um framework de diagnóstico agnóstico ao modelo que avalia Wamos e VLAs através de duas lentes complementares: diagnósticos de rollout comportamental e análise de espaço de características de autoencoder esparso (SAE).

1. Análise de Rollout Comportamental:
   Em vez de depender apenas das taxas de sucesso, o framework mede:

   • Dinâmica de Ação: Suavidade (delta, aceleração, jerk), consistência de fronteira de chunk e taxas de falha de baixo movimento (para distinguir falhas suaves de controle bem-sucedido).
   • Interação com Objetos: Progresso do objeto-alvo (final e acumulado), reversões de progresso e estabilidade de distratores (movimento não pretendido de objetos não-alvo).
   • Custo de Tempo de Execução: Latência de inferência, vazão (throughput) e uso de memória GPU.

2. Análise de Espaço de Características (SAEs):
   Para caracterizar as representações internas, os autores treinam Autoencoders Esparsos (SAEs) em ativações latentes (fluxos visuais, futuros e de ação) de vários modelos. Eles definem um conjunto de métricas para classificar as características em três categorias:

   • Memorizadas: Específicas para episódios ou objetos particulares.
   • Reativas-Gerais: Descrevem a observação atual ou a fase de execução (ex: agarrar).
   • Preditivas-Gerais: Fornecem evidências sobre estados ou ações futuras (ex: alta consistência futura, estabilidade de horizonte ou preditividade de ação).
   • Métricas Chave: O Score de Consistência Futura (FCS), Estabilidade de Horizonte (HS) e Preditividade de Ação (AP) são introduzidos para detectar especificamente a estrutura orientada ao futuro.

Configuração Experimental
O estudo avalia 7 políticas através de dois benchmarks (LIBERO e RoboTwin2.0):

• VLAs: $\pi0$, $\pi0.5$, X-VLA.
• WAMs:
  • Conjuntos/Paralelos: Cosmos Policy (prevê o futuro e a ação juntos).
  • Sequenciais: LingBot-VA (imagina estados futuros antes de agir).
  • Auxiliares/Apenas para Treinamento: FastWAM, VLA-JEPA (usam a previsão futura apenas durante o treinamento).

Principais Resultados

1. Taxas de Sucesso Mascaram Diferenças Comportamentais:
   No LIBERO, onde as taxas de sucesso são altas para a maioria dos modelos, os diagnósticos comportamentais revelam diferenças significativas. Os WAMs geralmente produzem um controle mais suave (menor aceleração, jerk e saltos de fronteira) e exibem melhor comportamento ao nível do objeto, incluindo maior progresso do alvo e redução da perturbação em objetos distratores.

2. Dependência de Arquitetura:

   • WAMs Sequenciais (LingBot-VA): Mostram a estrutura preditiva mais clara na análise de SAE (maior porcentagem de características preditivas nos fluxos futuros) e alcançam as melhores métricas de nível de objeto (menor perturbação de objeto errado, maior AUC de progresso).
   • WAMs Conjuntos (Cosmos): Exibem forte seletividade de objeto e baixa perturbação de distratores, mas codificam informações futuras de maneira mais emaranhada (alto número de características memorizadas/reativas em vez de características preditivas distintas).
   • WAMs Auxiliares (FastWAM, VLA-JEPA): Mostram resultados mistos. O FastWAM comprime a informação futura, resultando em um comportamento mais próximo das VLAs diretas, com maior perturbação de distratores. O VLA-JEPA retém mais estrutura preditiva e uma interação com objetos mais limpa que o FastWAM.
   • VLAs Diretas: Dominam em características reativas, mas mostram baixa estrutura preditiva. Elas frequentemente exibem maiores reversões de progresso e perturbação de distratores em comparação aos WAMs.

3. Compromissos de Tempo de Execução:
   Os WAMs incorrem em um custo de implantação não trivial. Os WAMs sequenciais (LingBot-VA) possuem a maior latência de inferência devido à imaginação futura explícita. Os WAMs conjuntos são mais rápidos que os sequenciais, mas mais lentos que as VLAs diretas. Os WAMs auxiliares são mais eficientes, mas podem sacrificar os benefícios comportamentais da modelagem futura explícita.

4. Correlação Característica-Comportamento:
   A análise de SAE revela que modelos com proporções mais altas de características preditivas-gerais (particularmente nos fluxos futuros) correlacionam-se com melhor seletividade de objeto-alvo e execução mais suave. Remover as estatísticas de SAE preditivas das sondagens comportamentais degrada significamente a predição de resultados de nível de tarefa (sucesso, transporte, progresso do alvo), mas tem efeitos mistos nas métricas de suavidade de baixo nível.

Significância e Alegações
O artigo argumenta que o sucesso da tarefa por si só é uma métrica insuficiente para avaliar políticas robóticas. Os autores afirmam que:

• Os WAMs oferecem vantagens comportamentais além das taxas de sucesso, especificamente em suavidade de movimento, seletividade de alvo e estabilidade de distrator.
• Essas melhorias comportamentais estão ligadas à presença de representações internas orientadas ao futuro. Os WAMs sequenciais expõem a estrutura preditiva mais clara, enquanto os designs conjuntos e auxiliares variam na forma como preservam ou comprimem essa informação.
• Existe um compromisso fundamental entre a acionabilidade das representações futuras e a eficiência de inferência. Embora a modelagem futura explícita melhore a qualidade do controle, ela aumenta o custo computacional.
• O design futuro de WAM deve focar em preservar representações futuras acionáveis (por exemplo, via imaginação de tempo de inferência leve ou predição latente) em vez de tratar a previsão futura apenas como uma perda auxiliar de treinamento, para equilibrar desempenho com capacidade de implantação.

Os autores observam modestamente que sua evidência sobre o vínculo entre representações e comportamento é associativa, não causal, e que seus achados são atualmente limitados a benchmarks de simulação e checkpoints públicos. Eles enfatizam que o trabalho futuro deve abordar como tornar a previsão futura eficiente o suficiente para o controle de malha fechada sem perder seus benefícios comportamentais.