Resumo Técnico: Diagnóstico de Modelos de Mundo JEPA com Consistência Preditiva Condicionada à Ação

Declaração do Problema

Arquiteturas preditivas de embedding conjunto (JEPAs) aprendem modelos de mundo prevendo representações de alvos em um espaço latente compacto, em vez de reconstruir pixels brutos. Embora esse design evite a modelagem de detalhes visuais irrelevantes, ele não oferece qualquer garantia inerente de que as representações aprendidas sejam robustas a perturbações visuais. Existe uma lacuna crítica nos diagnósticos atuais: distâncias ao nível do codificador ou métricas de transição única falham em capturar como as perturbações visuais se propagam através de rollouts de múltiplos passos. Especificamente, uma perturbação pode fazer com que a trajetória prevista divirja significamente da trajetória limpa, alterando previsões condicionadas à ação e custos de planejamento, mesmo que as representações codificadas iniciais pareçam semelhantes. O problema central é determinar o quão distantes as trajetórias previstas de um histórico limpo e de sua visão visualmente perturbada se tornam quando projetadas para o futuro sob a mesma sequência de ações.

Metodologia

Consistência Preditiva Condicionada à Ação (ACPC)

Os autores introduzem a Consistência Preditiva Condicionada à Ação (ACPC) como uma métrica de diagnóstico. A ACPC mede a divergência entre duas trajetórias previstas: uma gerada a partir de um histórico limpo ($h$) e outra a partir de uma visão visualmente perturbada ($\tilde{h}$), ambas projetadas para o futuro sob uma mesma sequência de ações registrada ($a$).

• Mecanismo: Um codificador congelado mapeia $h$ e $\tilde{h}$ para estados latentes $z$ e $\tilde{z}$. Um preditor condicionado à ação, também congelado, projeta esses estados para o futuro por $H$ passos.
• Métrica: A ACPC calcula a distância euclidiana ponderada das trajetórias latentes dos rollouts limpos e perturbados.
• Limites Teóricos: O artigo prova que a ACPC limita a mudança na previsão de erro de predição induzida pela perturbação (Proposição 1). Além disso, ao avaliar sequências de ações candidatas para planejamento, a ACPC limita a mudança nos custos previstos (Proposição 2). Esses limites são válidos para pares individuais sem exigir suposições distributivas ou de suavidade.

Diagnósticos Compostos: IR e SR

Para resumir a ACPC em um checkpoint de modelo, os autores definem duas medidas complementares:

1. Raio de Invariância (IR): Este resume a sensibilidade de rollouts pareados a perturbações visuais. É computado como o quantil (ex: 90º) dos valores de ACPC normalizados através de muitos âncoras de histórico. Um IR mais baixo indica que as visões perturbadas permanecem próximas de seus contrapartes limpas.
2. Taxa de Separação (SR): Este verifica se o modelo preserva distinções entre diferentes estados. Mede a fração de pares de estados diferentes cujas distâncias de rollout excedem o IR mais uma margem. Um SR mais alto indica que estados distintos permanecem distinguíveis após o rollout.

Os autores enfatizam que o IR isoladamente é insuficiente porque uma representação colapsada (onde todos os estados mapeiam para o mesmo ponto) resultaria em um IR baixo, mas falharia em suportar o controle. Por outro lado, um SR alto sozinho não garante robustez a perturbações. Um checkpoint robusto deve exibir tanto um baixo IR quanto um alto SR.

Protocolo de Avaliação

A metodologia é avaliada na família LeWM (Learning World Models) e na arquitetura PLDM em quatro tarefas de controle visual (TwoRoom, PushT, Reacher, OGBench-Cube).

• Perturbações: Os experimentos utilizam ruído Gaussiano, desfoque Gaussiano (blur) e redimensionamento de imagem.
• Triagem: Uma "triagem de checkpoint" é definida usando limiares para IR relativo (comparado a uma linha de base não aumentada) e SR. Um checkpoint passa se demonstrar redução de sensibilidade (baixo IR relativo) enquanto mantém a separação de estados (alto SR).

Principais Contribuições

1. Introdução da ACPC: O artigo propõe a ACPC, um diagnóstico de par que compara trajetórias previstas de históricos limpos e perturbados sob ações compartilhadas. Diferente de trabalhos anteriores focados em distâncias de codificador ou predições de passo único, a ACPC captura efeitos ao nível de rollout.
2. Limites Teóricos: Os autores fornecem provas por amostra mostrando que a ACPC limita a mudança no erro de predição de múltiplos passos e a mudança nos custos de planejamento previstos. Esses limites explicam por que a ACPC é informativa sobre falhas de planejamento subsequentes.
3. Estrutura de Diagnóstico (IR e SR): O artigo define o Raio de Invariância e a Taxa de Separação para resumir a ACPC em um checkpoint. Esta estrutura protege explicitamente contra o colapso de representação enquanto mede a sensibilidade a mudanças visuais.
4. Validação Empírica:
   • Nível de Par: Demonstra-se que a ACPC prevê mudanças no erro de predição e no "regrete de seleção" (custo extra) incorrido quando um planejador (CEM) seleciona um plano diferente devido à perturbação.
   • Nível de Checkpoint: Em quatro tarefas, checkpoints com menor IR e maior SR geralmente correspondem a um melhor sucesso de planejamento sob ruído visual.
   • Generalização: O padrão de baixo IR e alto SR é válido para uma arquitetura diferente (PLDM) e estende-se a perturbações não Gaussianas (blur e resize).

Resultados

• Erro de Predição e Custo de Planejamento: Em experimentos de validação cruzada, adicionar a ACPC de múltiplos passos a modelos de regressão reduziu significamente o erro ao prever o desvio no erro de predição e o custo extra de mudanças de plano do CEM, superando baselines que usavam apenas deslocamentos de codificador ou ACPC de um passo.
• Identificação de Recuperação: No LeWM, limiares de IR e SR selecionados em um subconjunto de tarefas identificaram com sucesso checkpoints que recuperaram o desempenho de planejamento em tarefas não vistas sob ruído Gaussiano.
• Detecção de Colapso de Representação: Em um estudo de caso onde ocorreu colapso de representação (devido a pesos de treinamento específicos), o IR permaneceu baixo (indicando baixa sensibilidade), mas o SR caiu para quase zero, identificando corretamente a falha em manter distinções de estado.
• Arquitetura e Perturbação Cruzada: A tendência diagnóstica (menor IR, maior SR correlacionando-se com melhor desempenho) foi observada no PLDM. Além disso, a mudança na pontuação conjunta IR-SR ($\Delta S$) correlacionou-se com ganhos de sucesso de planejamento sob blur e resize, sugerindo que a métrica não é limitada ao ruído Gaussiano.

Significância e Alegações

O artigo afirma que a Consistência Preditiva Condicionada à Ação fornece um diagnóstico necessário para modelos de mundo que vai além da análise estática de representação. Ao projetar pares de observações para o futuro sob as mesmas ações, a ACPC revela como as perturbações visuais se propagam através do modelo de dinâmica, ligando diretamente a estabilidade da representação ao desempenho do planejamento.

Os autores asseveram que:

• A ACPC de múltiplos passos captura efeitos subsequentes que as comparações de codificador ou de passo único perdem.
• A combinação de IR e SR oferece uma "triagem" prática para identificar checkpoints robustos sem a necessidade de retreinamento ou acesso a estados futuros reais durante a fase de diagnóstico (embora futuros observados sejam usados para normalização no cálculo do IR).
• O diagnóstico é agnóstico à arquitetura (válido para LeWM e PLDM) e robusto a diferentes tipos de mudanças visuais.

O trabalho mantém-se modesto quanto ao seu escopo, observando que a ACPC é uma ferramenta de diagnóstico e não modifica o planejador em si. Os limites teóricos aplicam-se a pares específicos e pools de candidatos fixos, e os resultados de triagem empírica são específicos para as mudanças visuais e rótulos de estado avaliados. O trabalho não afirma certificar a robustez absoluta, mas sim fornecer métricas informativas que correlacionam fortemente com o sucesso do planejamento.