Resumo Técnico: OneVLA – Um Framework Unificado para Tarefas Incorporadas

Problema

Os atuais modelos de Visão-Linguagem-Ação (VLA) para inteligência incorporada enfrentam uma limitação arquitetural fundamental: eles são tipicamente restritos a domínios de tarefa única (navegação ou manipulação) ou exigem variantes de modelos específicas para cada tarefa. Embora modelos cross-task como o UniVLA tenham tentado transferir conhecimento entre diferentes embodiments robóticos, eles ainda dependem de cabeças de ação separadas ou configurações de modelo específicas para diferentes tarefas. Essa fragmentação impede o desenvolvimento de agentes robóticos verdadeiramente de propósito geral, capazes de interpretar semântica de linguagem natural e interagir fisicamente com seus arredores de forma fluida através de diversos domínios. O artigo identifica duas questões fundamentais: (1) Um modelo VLA unificado pode realizar tanto navegação quanto manipulação sem variantes específicas de tarefa? e (2) Essas duas tarefas fundamentais podem se beneficiar mutuamente através do treinamento conjunto para melhorar o desempenho geral?

Metodologia

Os autores propõem o OneVLA, uma arquitetura VLA unificada projetada para gerar tanto respostas de linguagem quanto ações robóticas para navegação e manipulação dentro de um único framework.

1. Arquitetura Unificada

• Codificador Unificado de Visão-Linguagem: O modelo utiliza um backbone compartilhado composto por um Vision Transformer de 32 camadas (processando imagens RGB multi-view) e um modelo de linguagem Transformer de 36 camadas (usando GQA). As características visuais são projetadas na dimensão oculta do modelo de linguagem ($d_h=2048$) para criar uma representação multimodal unificada.
• Decodificação Baseada em Tokens: Para lidar com saídas duplas, o vocabulário é expandido com tokens especiais <text>...</text> e <action>...</action>. Isso permite que o modelo gere de forma autorregressiva uma resposta de texto explicando a compreensão da tarefa, seguida pela sequência de ação, em uma única passagem de forward.
• Cabeça de Ação Unificada: A inovação central é uma única cabeça de ação que concatena as dimensões de ação de navegação e manipulação em um espaço unificado de 11 dimensões:
  • Navegação ($a_{navi} \in \mathbb{R}^4$): Distribuição de probabilidade discreta para comandos (frente, virar à esquerda, virar à direita, parar).
  • Manipulação ($a_{mani} \in \mathbb{R}^7$): Controle de end-effector de 7-DOF contínuo ($\Delta x, \Delta y, \Delta z, \Delta roll, \Delta pitch, \Delta yaw, g$).
• Mecanismo de Flow-Matching: A cabeça de ação emprega um processo de difusão de flow-matching para prever sequências de ações futuras. Ela aprende a prever um campo de velocidade minimizando o objetivo de flow-matching, utilizando um codificador de ação, um backbone DiT com cross-attention e um decodificador de ação.
• Pesagem Específica de Tarefa: Para acomodar espaços de ação heterogêneos, o modelo utiliza máscaras de peso específicas de tarefa durante o treinamento. Essas máscaras garantem que apenas as dimensões de ação relevantes contribuam para o cálculo da perda para uma determinada amostra, permitindo o aprendizado simultâneo sem alternância arquitetural.

2. Estratégia de Treinamento Progressivo em Múltiplos Estágios

Para facilitar uma forte transferência positiva e reforço mútuo, os autores utilizam uma estratégia de treinamento em três estágios:

• Estágio 1 (Fundação de Manipulação): Treina exclusivamente em datasets de manipulação e dados gerais de VQA para estabelecer habilidades de manipulação robustas e compreensão visão-linguagem.
• Estágio 2 (Transferência Cross-Task): Introduz dados de navegação no treinamento conjunto enquanto retém dados de manipulação e VQA. Este estágio aproveita a cabeça de ação unificada para aprender ambas as tarefas simultaneamente, permitindo a transferência de conhecimento entre domínios.
• Estágio 3 (Melhoria de Raciocínio): Integra dados de Chain-of-Thought (CoT) para refinar as capacidades de raciocínio do modelo e a qualidade da tomada de decisão em ambas as tarefas.

3. Função de Perda

O modelo é treinado de ponta a ponta usando uma função de perda composta:
$$L_{total} = \lambda_{vlm}L_{vlm} + \lambda_{text}L_{text} + \lambda_{action}L_{action}$$

• $L_{vlm}$: Cross-entropy padrão para alinhamento visão-linguagem geral.
• $L_{text}$: Predição do próximo token para a fase de texto de raciocínio (incluindo tokens de fronteira).
• $L_{action}$: Perda de flow-matching calculada com máscaras de peso específicas de tarefa para lidar com saídas heterogêneas.

Principais Contribuições

1. Arquitetura Unificada: Proposta do OneVLA, o primeiro framework VLA capaz de realizar tanto tarefas de navegação quanto de manipulação sem exigir variantes de modelos específicas para cada tarefa.
2. Componentes Inovadores: Introdução de uma cabeça de ação unificada com flow-matching e uma estratégia de treinamento progressivo em múltiplos estágios que facilita o efetivo melhoramento mútuo entre diferentes domínios de tarefas.
3. Evidência Empírica de Benefício Mútuo: Experimentos abrangentes demonstrando que o treinamento conjunto em navegação e manipulação leva a melhorias significativas de desempenho para ambas as tarefas em comparação com o treinamento de tarefa única.
4. Novo Paradigma: Quebra das barreiras arquiteturais entre domínios de tarefas independentes para estabelecer um novo paradigma para sistemas robóticos de propósito geral.

Resultados Experimentais

Os autores avaliaram o OneVLA em benchmarks simulados e do mundo real, comparando-o com modelos especializados de tarefa única e modelos cross-task existentes.

• Benchmarks Simulados:

  • Navegação (VLN-CE): O OneVLA alcançou performance de estado da arte (SOTA), atingindo 68,6% no dataset R2R e 58,2% no dataset RxR. Isso superou significativamente o UniVLA (47,1% e 26,3% respectivamente) e modelos de navegação especializados como o StreamVLN.
  • Manipulação (SimplerEnv): O OneVLA alcançou uma taxa de sucesso média de 64,5%, superando o UniVLA-Mani (35,4%) e o modelo de manipulação SOTA $\pi0$-Fast (48,3%).
  • Eficiência: Notavelmente, o modelo OneVLA de 3B parâmetros superou todos os modelos de tarefa específica de 7B parâmetros, demonstrando a eficiência do design unificado.

• Experimentos no Mundo Real:

  • Utilizando um braço robótico Franka Research 3 e uma plataforma de robô móvel, o OneVLA alcançou 78,8% de sucesso em tarefas de manipulação e 77,5% em tarefas de navegação.
  • Estes resultados representam melhorias de 16,3% e 35,0% respectivamente sobre o UniVLA em configurações do mundo real, confirmando a capacidade do modelo de generalizar além da simulação.

• Estudos de Ablação:

  • Treinamento de Múltiplos Estágios: Comparado ao treinamento de estágio único, a estratégia de três estágios melhorou o desempenho de R2R em 12,5% e o de SimplerEnv em 18,3%.
  • Treinamento Conjunto: O treinamento conjunto melhorou o desempenho sobre o treinamento de tarefa única em 7,3% (R2R) e 5,5% (SimplerEnv), validando a hipótese de que representações compartilhadas beneficiam ambos os domínios.
  • Horizonte de Ação: Um horizonte de ação de 5 passos de tempo foi considerado o equilíbrio ideal entre modelagem temporal e precisão de predição.

Significância e Alegações

O artigo afirma que o OneVLA pavimenta o caminho para sistemas robóticos verdadeiramente de propósito geral ao unificar capacidades incorporadas essenciais (navegação e manipulação) em um único framework coeso. Os autores sustentam que esta abordagem não é apenas arquiteturalmente mais elegante — eliminando a necessidade de variantes específicas de tarefa — mas também superior em desempenho. Ao demonstrar que o treinamento conjunto leva a melhorias de desempenho mútuas, este trabalho sugere que uma abordagem unificada é essencial para avançar a inteligência incorporada em direção à Inteligência Artificial Geral (AGI). O modelo e o código fonte são liberados publicamente para apoiar novas pesquisas nesta direção.