Resumo Técnico: Route2Step – Separando o Progresso Semântico da Execução Local em VLN

Declaração do Problema

A Navegação Visão-Linguagem em ambientes contínuos (VLN-CE) exige que um agente siga uma instrução de rota em linguagem natural executando uma sequência de ações de baixo nível baseadas em observações visuais egocêntricas. Os navegadores existentes baseados em Modelos de Visão-Linguagem (VLM) tipicamente empregam uma política unificada que mapeia o contexto linguístico e visual diretamente para ações de baixo nível. Embora eficaz sob condições de trajetória correta (on-path), essa abordagem funde duas capacidades distintas: rastreamento de progresso semântico (identificar qual subinstrução está ativa no momento) e execução local (determinar como se mover para cumprir essa instrução).

Quando um agente se desvia da trajetória do especialista, os métodos de aprendizado corretivo padrão (ex: relabeling estilo DAgger) fornecem a próxima ação ótima para recuperar a trajetória. No entanto, esses rótulos de ação não distinguem entre dois modos de falha:

1. Erro de Progresso Semântico: O agente está tentando executar a subinstrução errada (ex: tentando "sair do quarto" quando já está no corredor).
2. Erro de Execução Local: O agente está tentando a subinstrução correta, mas falhando em executar os movimentos necessários corretamente.

Consequentemente, políticas unificadas frequentemente falham em corrigir o estado semântico subjacente, levando a erros persistentes onde o agente continua a tomar decisões baseadas em uma compreensão incorreta de seu progresso, mesmo que as ações individuais sejam momentaneamente corrigidas.

Metodologia: Route2Step

Os autores propõem o Route2Step, um framework de níveis separados que desacopla o rastreamento de progresso semântico da geração de ações através de uma interface explícita de nível de passo. O framework consiste em dois módulos treinados independentemente:

1. Interface Semântica–Execução

Em vez de uma política monolítica, o Route2Step introduz uma interface de estado $(s_t, m_t)$:

• $s_t$ (Subinstrução Ativa): O segmento específico da instrução global que está sendo executado no momento.
• $m_t$ (Estado de Execução): Um estado binário indicando se o agente está em um estado Normal (seguindo o caminho) ou em um estado de Recuperação (desviado e requerendo execução corretiva).

2. Arquitetura de Módulos

• Módulo de Análise de Instrução (MIA): Recebe a instrução global e o histórico visual completo. Ele prevê a subinstrução ativa $s_t$ e o estado de execução $m_t$. Este módulo é responsável pelo "onde estamos" na rota.
• Módulo de Geração de Ação (MAG): Recebe a instrução global, a interface prevista $(s_t, m_t)$ e uma janela de observações recentes. Ele gera blocos de ação local baseados na subinstrução específica e no estado de execução atual. Este módulo é responsável pelo "como se mover".

3. Construção de Supervisão de Nível de Passo (E-SPA)

Um desafio crítico é obter supervisão de nível de passo para datasets como o R2R, que fornecem apenas instruções de nível de rota. Os autores introduzem o E-SPA (Alinhamento de Caminho Semântico de Minimização de Energia), um procedimento offline que alinha subinstruções finas com segmentos de trajetória contíguos sem necessidade de anotação temporal manual.

• Função de Custo: O E-SPA minimiza uma função de custo que combina compatibilidade visual-textual ($C_{sem}$), consistência de ação ($C_{act}$), regularização de duração ($C_{dur}$) e ancoragem baseada em geometria ($C_{anchor}$, ex: para escadas).
• Programação Dinâmica: As fronteiras ideais para os segmentos de subinstrução são encontradas via programação dinâmica, criando pares alinhados (subinstrução, segmento de trajetória).
• Waypoints: O ponto final de cada segmento alinhado serve como um waypoint semântico (posição e direção) para avaliar o progresso.

4. Estratégia de Treinamento de Níveis Separados

O processo de treinamento utiliza rollouts induzidos pela política para gerar dados corretivos, atribuindo supervisão com base no nível de erro:

• Supervisão de Nível de Estado (para o MIA): Todos os históricos induzidos pela política (incluindo desvios) são usados para supervisionar a previsão da subinstrução ativa e do estado de execução. A subinstrução ativa é preservada até que seu waypoint semântico seja fisicamente alcançado, independentemente do caminho do agente. Isso permite que o MIA aprenda um rastreamento de progresso robusto a partir de dados fora da trajetória (off-path).
• Supervisão Seletiva de Nível de Ação (para o MAG): Rótulos de ação direta do especialista são introduzidos apenas para estados rotulados como Recuperação, onde o agente falha repetidamente em completar a correta subinstrução ativa. Isso garante que a supervisão de ação foque em falhas persistentes de execução local sem sobrescrever o estimador de progresso semântico.

Contribuições Principais

1. Formulação de Níveis Separados: O artigo reformula o aprendizado corretivo de VLN, distinguindo entre supervisão de nível de estado (corrigindo o progresso semântico) e supervisão seletiva de nível de ação (corrigindo a execução local).
2. Framework Route2Step: Uma arquitetura de dois módulos com uma interface explícita que impede que atualizações de nível de ação corrompam as estimativas de progresso semântico.
3. E-SPA: Um método inovador para derivar alinhamentos de subinstrução–trajetória de nível de passo a partir de demonstrações de nível de rota do R2R, permitindo supervisão fina sem anotação manual adicional.
4. Validação Empírica: Demonstrações de que a separação desses níveis melhora o desempenho de navegação e a robustez, validadas através de estudos de ablação, transferência de política cruzada e implantações robóticas no mundo real.

Resultados Experimentais

O método foi avaliado nos benchmarks R2R-CE e RxR-CE Val-Unseen.

• Ganhos de Desempenho: No R2R-CE, o Route2Step melhorou a Taxa de Sucesso (SR) de 48,1% para 55,3% e o Sucesso Ponderado pelo Comprimento do Caminho (SPL) de 43,3% para 48,2%.
• Eficiência de Supervisão: O modelo alcançou esses ganhos usando 190K amostras corretivas de nível de estado, mas exigiu apenas 11,5K estados com supervisão direta de ação. Em contraste, abordagens DAgger convencionais usando 200K rótulos de ação atingiram um desempenho inferior (49,8% SR).
• Robustez: Avaliações controladas fora da trajetória mostraram que a correção de nível de estado melhorou significativamente a precisão da subinstrução ativa estrita sob desvios espaciais (ex: +10,51 pontos no FG-R2R), tendo efeito mínimo na precisão dentro da trajetória (on-path).
• Transferibilidade: Injetar a subinstrução ativa prevista do MIA em quatro políticas VLN existentes congeladas (NaVid, Uni-NaVid, NaVILA, StreamVLN) melhorou seu SR e SPL sem treinamento adicional, provando que a interface é transferível.
• Implantação no Mundo Real: O sistema foi implantado em um robô Unitree GO2 em diversos ambientes internos e externos (laboratórios, parques, cafés) sem ajuste fino no mundo real. Ele completou com sucesso 19 de 33 tentativas autônomas, demonstrando aplicabilidade prática além da simulação.

Significância e Alegações

O artigo afirma que o principal gargalo nos agentes atuais de VLN-CE é a fusão do progresso semântico com a execução local, o que é exacerbado pelo aprendizado corretivo padrão que trata todos os estados fora da trajetória como simples erros de ação.

Ao separar explicitamente esses níveis, o Route2Step permite que o agente:

1. Manter o Fundamento Semântico: Identificar corretamente a subinstrução atual mesmo quando o agente está perdido, evitando o "drift" (deriva) do entendimento semântico.
2. Recuperação Direcionada: Aplicar supervisão de ação do especialista apenas quando o agente está preso em uma tarefa conhecida como correta, em vez de confundir o agente com rótulos de ação que poderiam implicar uma mudança no objetivo pretendido.

Os autores concluem que expor o progresso semântico como uma interface explícita é uma estratégia mais eficaz para navegação de longo horizonte do que políticas unificadas, oferecendo um caminho para agentes incorporados (embodied) mais robustos e interpretáveis. O trabalho enfatiza que essa melhoria é alcançada não escalando dados ou o tamanho do modelo, mas reestruturando o objetivo de aprendizado para alinhar-se aos distintos requisitos temporais e semânticos da navegação.