Resumo Técnico: FlowMo-WM

Definição do Problema

Modelos de mundo visuais condicionais por ação padrão frequentemente assumem que o movimento futuro é determinado primariamente por entradas de controle imediatas. No entanto, em cenários do mundo real envolvendo veículos de superfície aquáticos e objetos flutuantes, os estados futuros são significativamente influenciados pelo momento do objeto (inércia) e pelo drift ambiente oculto (ex: correntes de água, vento) que não são diretamente observáveis a partir de um único quadro visual.

Abordagens atuais enfrentam dificuldades nesses cenários porque:

1. Observabilidade Parcial: Uma única imagem revela a pose, mas não o estado completo (velocidade, momento ou fluxo da corrente) necessário para prever a evolução futura.
2. Dinâmicas Ocultas: O drift e o momento são variáveis latentes que devem ser inferidas a partir do histórico de ações e observações, contudo, muitos modelos existentes não separam explicitamente a dinâmica controlável das variações exógenas do ambiente.
3. Erro de Longo Horizonte: Pequenos erros na estimativa do momento oculto ou do drift acumulam-se ao longo do tempo, levando a imprecisões significativas em planejamento e predição de longo horizonte, mesmo que as predições de curto prazo pareçam precisas.

Metodologia: FlowMo-WM

Os autores propõem o FlowMo-WM, um modelo de mundo latente visual treinável de ponta a ponta, projetado para inferir o movimento centrado no objeto e o drift ambiente oculto sem supervisão direta de campos de fluxo ou sensores de velocidade.

Arquitetura

O modelo fatoriza o histórico de imagem-ação em dois ramos temporais distintos:

1. Estado de Histórico Curto ($z_t$): Um estado latente derivado dos $K_z=8$ pares mais recentes de imagem-ação. Este ramo captura o movimento centrado no objeto, incluindo pose, movimento do tipo velocidade, atraso do atuador e resposta de controle recente.
2. Contexto de Histórico Longo ($c_t$): Um contexto latente derivado de um histórico mais longo e com saltos (stride) (32 passos com stride de 4). Este ramo resume influências exógenas que variam lentamente, especificamente o drift ambiente oculto inferido a partir das discrepâncias acumuladas entre o movimento comandado e o observado.

Transição Latente e Design de Resíduo

A inovação central reside na função de transição latente, que utiliza uma transição residual de contexto zero para separar a dinâmica base dos efeitos de drift:
$$z_{t+1} = z_t + F_\theta(z_t, a_t) + R_\theta(z_t, a_t, c_t) - R_\theta(z_t, a_t, 0)$$

• $F_\theta$: Modela a dinâmica base condicionada à ação.
• $R_\theta$: Modela os efeitos de drift dependentes do contexto.
• Subtração de Contexto Zero: Ao subtrair $R_\theta(z_t, a_t, 0)$, o modelo garante que, quando o contexto $c_t$ é zerado, a contribuição do drift seja exatamente removida. Isso permite estudos de ablação limpos onde o componente de drift pode ser isolado sem alterar a lógica de transição base.

Treinamento e Entradas

• Entradas: O modelo recebe apenas imagens RGB top-down limpas (concatenadas com mapas de coordenadas) e históricos de ação. Ele não recebe vetores de fluxo, alvos de velocidade, sensores de corrente ou estados privilegiados do simulador.
• Alvos: O modelo prevê poses normalizadas futuras ($x, y, \cos\theta, \sin\theta$) em vez de reconstruir imagens futuras.
• Função de Perda: O treinamento minimiza uma perda de rollout de pose de 60 passos, combinada com reconstrução de pose atual e perdas de delta de movimento.

Principais Contribuições

1. Formulação: Uma formulação de modelagem de mundo visual onde o momento do objeto e o transporte ambiental são inferidos apenas a partir do histórico imagem-ação, sem rótulos explícitos de fluxo.
2. Fatoração: Uma novel arquitetura de fatoração temporal curto/longo acoplada a uma transição residual de contexto zero, separando efetivamente a dinâmica controlável do drift ambiente que varia lentamente.
3. Avaliação: Avaliação abrangente em tarefas de veículos de superfície aquáticos afetados por fluxo, incluindo predição de malha aberta, planejamento baseado em amostragem, ablações de contexto em tempo de predição e análise de representação via sondas lineares congeladas.

Resultados Experimentais

O modelo foi avaliado em um simulador 2D aquático com morfologias de veículos randomizadas (barcos de dois propulsores e triangulares), parâmetros físicos e dez famílias diversas de campos de fluxo (ex: uniforme, vórtice, cisalhamento, turbulento).

Precisão de Predição

• Desempenho de Longo Horizonte: O FlowMo-WM supera significativamente os baselines pareados por parâmetros (LeWorldModel, PlaNet/RSSM, TD-MPC2) em predição de longo horizonte.
  • No horizonte 20: O FlowMo-WM alcançou um erro de posição de 0.151 contra 0.223 do baseline mais próximo (TD-MPC2).
  • No horizonte 60: O FlowMo-WM alcançou 0.344 contra 0.426 do baseline mais próximo (PlaNet/RSSM).
  • Isso representa aproximadamente 32% e 19% de menor erro de posição, respectivamente.
• Ablações de Contexto:
  • Zerando o Contexto: Remover o contexto inferido ($c_t=0$) aumentou drasticamente os erros (pos@60 subiu para 0.840), confirmando que o contexto é crítico para a estabilidade sob drift.
  • Embaralhando o Contexto: Usar o contexto de uma amostra diferente degradou ainda mais o desempenho (pos@60 subiu para 1.100), provando que o modelo depende do contexto específico inferido em vez de apenas uma capacidade latente genérica.

Desempenho de Planejamento

• Taxa de Sucesso: Em tarefas de planejamento downstream (atingir alvos, manutenção de posição, waypoints), o FlowMo-WM alcançou uma taxa de sucesso de 98.5% em todos os episódios, superando outros modelos de mundo aprendidos (91.0%–93.1%).
• Eficiência: Os planejadores do FlowMo-WM exigiram menos energia e menos passos para atingir objetivos comparados aos baselines, particularmente em condições de fluxo desafiadoras.
• Robustez: O barco triangular (mais atuado) foi menos sensível às variações de fluxo do que o barco de dois propulsores (subatuado), mas o FlowMo-WM manteve alto desempenho em ambas as morfologias.

Análise de Representação

• Decodificação de Momento: Sondas lineares congeladas mostraram que o momento é linearmente decodificável do estado latente combinado ($R^2 = 0.667$), apesar de a velocidade nunca ter sido um alvo de treinamento.
• Codificação de Drift: O fluxo local e o drift não foram trivialmente decodificáveis linearmente, sugerindo que o ramo de contexto codifica um código latente útil para a tarefa para predição, em vez de armazenar um vetor físico direto da corrente.

Significância e Alegações

O artigo afirma que o FlowMo-WM aborda um modo de falha específico em modelos de mundo visuais condicionais por ação: a incapacidade de considerar o momento oculto e o drift ambiente.

• Escopo Modesto: Os autores declaram explicitamente que os experimentos atuais são limitados a observações renderizadas top-down limpas em um simulador 2D. Eles reconhecem que estender isso para vídeo do mundo real exigiria lidar com mudanças de viewpoint, desordem (clutter), incerteza de segmentação e perturbações 3D.
• Limites de Generalização: Não se espera que o modelo tenha sucesso se o fluxo ambiente exceder a autoridade de controle do veículo ou se as características do fluxo caírem fora da distribuição de treinamento.
• Insight Central: Os resultados sugerem que, para ambientes físicos abertos, os modelos de mundo visuais devem representar não apenas o controle comandado, mas também como os objetos continuam se movendo devido à inércia e como o entorno não observado os transporta. O contexto ambiente inferido é funcionalmente necessário para uma predição estável de longo horizonte em tais ambientes.