DriveStack-VLA: Render-Teacher Alignment for BEV-Based DeepStack Vision-Language-Action Model

Com base no artigo fornecido, aqui está um resumo técnico detalhado do DriveStack-VLA.

Definição do Problema

Os modelos de condução Vision-Language-Action (VLA) existentes aproveitam o conhecimento de mundo e as capacidades de raciocínio de grandes modelos de Visão-Linguagem (VLMs) pré-treinados para prever trajetórias de condução a partir de imagens multi-visão e comandos de linguagem. No entanto, esses modelos sofrem com a falta de inteligência espacial orientada à condução. As abordagens atuais baseiam suas políticas principalmente em tokens de imagens de perspectiva e priors de linguagem, que são dependentes do ponto de vista e falham em codificar explicitamente a geometria métrica e a estrutura da cena em visão superior (top-down) necessária para um planejamento de movimento preciso.

Essa limitação manifesta-se em duas áreas principais:

1. Geometria Visual Fraca: As políticas dependem de pistas de aparência 2D em vez de representações geométricas robustas, tornando-as vulneráveis a lacunas de cobertura perceptual em demonstrações de especialistas.
2. Desalinhamento Perceptual: Embora imagens sintéticas ou rasterizadas possam fornecer estruturas geométricas mais limpas e contrafatuais diversos, a mistura direta delas com imagens reais introduz um gap de domínio. Os métodos existentes frequentemente falham em garantir que o decodificador de ação atenda às mesmas pistas relevantes para o planejamento (ex: faixas, agentes) tanto nos domínios reais quanto nos sintéticos.

Metodologia: DriveStack-VLA

Os autores propõem o DriveStack-VLA, um framework de treinamento unificado de três estágios construído sobre um backbone de VLM de grande escala (especificamente o Qwen3-VL-4B). O framework integra um planejador multimodal de LLM com um stack visual aprimorado para abordar gargalos de geometria, dataset e amostragem de trajetória.

1. Componentes de Modelagem Visual Dupla
Para fortalecer o ancoramento espacial, o modelo emprega dois mecanismos específicos:

• Injeção BEV DeepStack: Os autores injetam representações de Bird-Eye-View (BEV) diretamente no decodificador do LLM usando uma conexão do tipo "DeepStack". Um codificador BEV (baseado em BEVFormer) extrai um mapa de características de visão superior, que é projetado em tokens e concatenado com os tokens das câmeras de perspectiva em camadas específicas do decodificador. Isso fornece ao LLM priors geométricos métricos estáveis para contextos de longo alcance.
• Alinhamento Render-Teacher: Para aproveitar os benefícios das imagens rasterizadas sem introduzir desvio de domínio, os autores tratam as imagens rasterizadas como uma modalidade "professora" (teacher). Eles alinham o foco perceptual das imagens reais com o das imagens rasterizadas através de duas perdas:
  • Alinhamento de Token de Câmera Mascarado: Uma máscara suave guiada por renderização reduz o peso dos tokens de fundo (que costumam ser pretos em imagens rasterizadas) durante o alinhamento de características, garantindo que o modelo foque em agentes e faixas de primeiro plano.
  • Destilação de Atenção Ação-para-Visão: A distribuição de atenção dos tokens de ação para os tokens visuais na passagem da imagem real é destilada da passagem da imagem rasterizada, forçando o modelo a atender a pistas críticas de segurança nas imagens reais assim como faz com os dados sintéticos mais limpos.

2. Pipeline de Treinamento de Três Estágios

• Estágio 1: Ajuste Fino Supervisionado (SFT): O ator é treinado usando os componentes de modelagem visual dupla descritos acima. O modelo aprende a gerar tokens de ação a partir de imagens multi-visão, instruções e estados do ego.
• Estágio 2: Ajuste Fino por Reforço (RFT): Para melhorar a qualidade das trajetórias amostradas, os autores aplicam a Otimização de Política Relativa de Grupo (GRPO). A política é atualizada com base em uma recompensa conjunta composta por uma recompensa de condução (avaliando colisão-livre, margens de segurança e conformidade com a área dirigível) e uma recompensa de formato (garantindo a decodificabilidade estrita dos tokens de ação).
• Estágio 3: Pontuação e Refinamento (Self-Critic): Um módulo crítico leve é treinado para classificar trajetórias candidatas e refinar condicionalmente a melhor delas.
  • Cabeça de Pontuação (Scoring Head): Reutiliza os estados ocultos da última camada do LLM para produzir uma pontuação de qualidade para as trajetórias candidatas.
  • Cabeça de Refinamento (Refinement Head): Se a pontuação da melhor candidata estiver abaixo de um limite, esta cabeça prevê um resíduo limitado para refinar a trajetória, evitando a necessidade de loops lentos de gerar-criticar-reescrever durante a inferência.

Principais Contribuições

1. Framework DriveStack-VLA: Um framework de condução VLA unificado que aborda simultaneamente o ancoramento geométrico, a cobertura de dataset e a amostragem de trajetória.
2. Injeção BEV DeepStack: Um método inovador para incorporar priors geométricos de visão superior diretamente no decodificador do LLM, melhorando a estabilidade do planejamento de longo alcance.
3. Alinhamento Render-Teacher: Uma técnica para alinhar a atenção visual-ação entre imagens reais e rasterizadas, permitindo que o modelo se beneficie do aumento geométrico sintético sem sofrer de desalinhamento de domínio.
4. Self-Critic Leve: Um módulo que permite o ranking de trajetórias e o refinamento condicional sem geração de texto redundante ou loops de inferência complexos.

Resultados Experimentais

Os autores avaliaram o DriveStack-VLA tanto em benchmarks de log-condução real quanto em simulações de malha fechada (closed-loop):

• NAVSIMv1: Alcançou 91.6 PDMS (Predictive Driver Model Score) com RFT, superando todos os métodos baseados em VLM anteriores e estabelecendo um novo estado da arte.
• NAVSIMv2: Alcançou 91.0 EPDMS (Extended Predictive Driver Model Score) com o filtro de penalidade humana habilitado, estabelecendo um novo estado da arte em ambas as configurações de avaliação.
• Bench2Drive (Closed-Loop): Alcançou uma pontuação de condução de 79.49 e uma taxa de sucesso de 56.36%, demonstrando forte transferibilidade para simulações urbanas complexas sem a necessidade de RFT.
• Navhard: Manteve um desempenho robusto (34.9 EPDMS) neste benchmark desafiador envolvendo cenários fora da distribuição (out-of-distribution).

Significância e Alegações

O artigo afirma que o DriveStack-VLA consegue preencher a lacuna entre as capacidades de raciocínio de grandes modelos de linguagem e os requisitos espaciais rigorosos da condução autônoma. Ao injetar características BEV e alinhar o foco perceptual entre dados reais e sintéticos, o modelo supera as limitações de "geometria visual fraca" das abordagens VLA anteriores. Os autores enfatizam que seu método alcança resultados quantitativos de estado da arte tanto em benchmarks de malha aberta (NAVSIM) quanto de malha fechada (Bench2Drive), validando que uma arquitetura VLA unificada pode lidar efetivamente com tarefas de planejamento críticas para a segurança quando equipada com estratégias apropriadas de ancoramento geométrico e alinhamento.