SimScale: Learning to Drive via Real-World Simulation at Scale

Resumo Técnico: SIMSCALE

1. O Problema

O desenvolvimento de sistemas de direção autônoma totalmente autônomos exige que os modelos tomem decisões racionais em uma vasta gama de cenários, incluindo casos críticos de segurança e situações fora da distribuição (OOD - Out-of-Distribution). No entanto, os dados do mundo real coletados a partir de demonstrações de motoristas humanos são dominados por cenários comuns e seguros. Casos raros, perigosos ou complexos são sub-representados nos conjuntos de dados reais.

Consequentemente, planejadores treinados apenas nesses dados tendem a ficar confinados à distribuição de condução humana, lutando para generalizar para situações raras ou nunca vistas, o que leva a deslocamentos de distribuição (distribution shift) e confusão causal durante a implantação. A simples escala de dados reais é ineficiente para alcançar sistemas autônomos prontos para implantação, pois coletar dados de "cantos" (casos extremos) é caro e perigoso.

2. Metodologia

O trabalho propõe o SimScale, um sistema de aprendizado sim-real escalável que sintetiza dados de simulação de alta fidelidade a partir de logs de direção existentes, preenchendo as lacunas de dados do mundo real. A metodologia baseia-se em três pilares principais:

• Motor de Simulação 3DGS (3D Gaussian Splatting):

  • Utiliza uma reconstrução baseada em 3DGS a partir de dados reais para criar um ambiente de renderização fotorealista.
  • Permite o controle temporal das trajetórias do veículo ego e de outros agentes, gerando observações multiview de alta fidelidade a partir de novas perspectivas.
  • O processo é dividido em blocos espaço-temporais para eficiência computacional, separando o fundo estático e os agentes móveis.

• Geração de Trajetórias de "Pseudo-Especialistas":

  • O sistema perturba a trajetória original do veículo ego (ex: desvios de faixa, interações próximas) para criar estados iniciais fora da distribuição (OOD).
  • Para cada estado perturbado, o sistema gera uma demonstração viável ("pseudo-especialista") para servir como supervisão. São comparadas duas estratégias:
    1. Baseada em Recuperação (Recovery-based): Busca uma trajetória humana existente no vocabulário que recupere o veículo para o comportamento humano padrão (conservador).
    2. Baseada em Planejador (Planner-based): Utiliza um planejador privilegiado (que tem acesso a informações globais) para gerar a trajetória ótima, explorando soluções que podem não ser estritamente humanas, mas são viáveis e seguras.
  • O ambiente de simulação é reativo: outros agentes (pedestres, carros) interagem com o ego de forma responsiva usando modelos como IDM (Intelligent Driver Model), aumentando a diversidade e o realismo.

• Co-treinamento Sim-Real Escalável:

  • Os modelos são treinados com uma mistura de dados reais e dados simulados.
  • A estratégia mantém a quantidade de dados reais fixa enquanto aumenta progressivamente os dados simulados (amostras não sobrepostas).
  • O sistema é agnóstico ao modelo, sendo aplicado a três paradigmas de planejamento: regressão (LTF), difusão (DiffusionDrive) e pontuação de vocabulário (GTRS-Dense).

3. Principais Contribuições

• Framework de Simulação Escalável: Uma pipeline automatizada que gera milhões de cenários de simulação a partir de logs reais, cobrindo estados OOD com demonstrações viáveis.
• Descoberta sobre "Pseudo-Especialistas": A análise revela que especialistas exploratórios (baseados em planejador) são superiores aos especialistas de recuperação para escalonamento de dados, pois oferecem maior diversidade de soluções viáveis em cenários complexos.
• Propriedades de Escalonamento (Scaling Laws): O trabalho demonstra que o desempenho do planejador escala de forma previsível e suave com o aumento dos dados de simulação, mesmo sem novos dados reais.
• Importância da Modelagem Multimodal: Planejadores com capacidades de modelagem multimodal (como modelos de difusão) mostram propriedades de escalonamento de dados muito mais encorajadoras do que modelos de regressão única, que sofrem de confusão de modos quando expostos a supervisão diversificada.
• Relevância da Reatividade: Simulações com agentes reativos (que respondem ao ego) são significativamente mais eficazes do que simulações não reativas para melhorar a robustez.

4. Resultados

Os experimentos foram conduzidos nos benchmarks NAVSIM-v2 (navhard e navtest), utilizando métricas como EPDMS (End-to-End Planning Driving Metric Score).

• Desempenho em navhard (Cenários Críticos):
  • O co-treinamento sim-real produziu melhorias significativas em robustez e generalização.
  • O modelo GTRS-Dense (baseado em pontuação) atingiu um novo estado da arte (SOTA) com 48.0 EPDMS, uma melhoria de +8.6 pontos em relação à linha de base sem simulação.
  • Modelos mais fracos (LTF e DiffusionDrive) também se beneficiaram enormemente, com ganhos superiores a 20% em alguns casos.
• Desempenho em navtest (Generalização Geral):
  • Melhorias consistentes de até +2.9 pontos foram observadas em todos os modelos, demonstrando melhor desempenho em condições diversas e em larga escala.
• Análise de Escalonamento:
  • Curvas de escalonamento mostram que o uso de especialistas exploratórios e a modelagem multimodal permitem que o desempenho continue a crescer com mais dados de simulação, evitando o platô de saturação observado em abordagens conservadoras.
  • O uso de apenas sinais de recompensa (sem trajetórias de especialistas) para planejadores baseados em pontuação também mostrou-se altamente eficaz, sugerindo que "a recompensa é tudo o que você precisa" nesses contextos específicos.

5. Significância

O SimScale representa um avanço crucial para a direção autônoma ao resolver o problema da escassez de dados de casos extremos.

• Viabilidade Econômica e de Segurança: Permite "amplificar" o valor de conjuntos de dados reais existentes, gerando milhões de cenários de treinamento críticos sem a necessidade de coletar novos dados no mundo real, o que é perigoso e custoso.
• Validação de Escalonamento: Estabelece que a simulação baseada em dados reais (com renderização neural e agentes reativos) pode seguir leis de escalonamento previsíveis, oferecendo um caminho claro para melhorar a robustez de sistemas autônomos através da escala de dados.
• Impacto na Comunidade: O código e os dados de simulação foram liberados, permitindo que a comunidade pesquise e valide métodos de escalonamento de dados e aprendizado sim-real.

Em resumo, o SimScale demonstra que a simulação de alta fidelidade, combinada com estratégias inteligentes de geração de especialistas e co-treinamento, é uma solução viável e escalável para superar as limitações de dados do mundo real e alcançar a autonomia total.