=== RESUMO ===

Resumo Técnico: Memória Endereçável para Modelos de Mundo de Vídeo (WorldTrace)

1. Declaração do Problema

Modelos de mundo de vídeo autorregressivos visam simular ambientes interativos onde agentes podem explorar e revisitar locais, exigindo persistência visual — a capacidade de regenerar uma cena vista anteriormente de forma consistente ao retornar. No entanto, esses modelos sofrem de uma rápida degradação na persistência visual assim que a geração se estende além do horizonte de contexto de treinamento.

O artigo identifica dois gargalos acoplados que causam essa falha:

1. Falha de Endereçamento: À medida que o horizonte de geração se estende, os deslocamentos temporais entre a consulta atual e as chaves em cache excedem o intervalo visto durante o treinamento. Como esses modelos dependem de Embeddings Posicionais Rotativos (RoPE), consultar em deslocamentos Fora da Distribuição (OOD) faz com que o modelo atenda ao "ruído posicional" em vez do conteúdo real, tornando as memórias armazenadas efetivamente ilegíveis.
2. Falha de Informatividade: Estratégias de compressão padrão (ex: média de chaves) no espaço rotacionado pelo RoPE levam ao cancelamento de fase. Quando as chaves de timestamps distantes são calculadas pela média, seus distintos ângulos de rotação RoPE apontam em direções opostas, cancelando o sinal e corrompendo o resumo comprimido.

Métodos existentes frequentemente abordam apenas um desses problemas (ex: limitar deslocamentos ou comprimir conteúdo), mas falham em resolver o problema acoplado, levando ou a memórias não endereçáveis ou a resumos não informativos.

2. Metodologia: WorldTrace

Os autores propõem o WorldTrace, um framework de memória sem necessidade de retreinamento (training-free) projetado para manter a memória comprimida tanto endereçável quanto informativa sem retreinar o modelo de mundo subjacente.

Mecanismos Principais

O WorldTrace particiona a janela de atenção em uma janela recente (frames literais) e um cache de resumo (histórico comprimido). Ele resolve os dois gargalos através de:

• Posicionamento Virtual por Rank de Slot (Endereçabilidade):
  Em vez de usar timestamps absolutos ou limitar deslocamentos (o que causa o colapso de slots distintos na mesma posição), o WorldTrace atribui a cada slot de resumo uma posição virtual fixa e dentro da distribuição baseada em seu rank dentro do cache ($s$).

  • A posição virtual $t^v_s$ é calculada como $q - (L_{attn} - 1 - s)$, onde $q$ é a posição da consulta atual.
  • Isso garante que cada slot de resumo permaneça dentro do intervalo limitado pelo treinamento dos deslocamentos RoPE, independentemente do comprimento total da geração, mantendo os tokens individualmente endereçáveis.

• Armazenamento de Chave Canônica (Informatividade):
  Para evitar o cancelamento de fase durante a compressão, as chaves são desrotacionadas para sua representação canônica (não rotacionada) antes de serem calculadas pela média ou armazenadas.

  • Desrotação: $K_{canonical} = R(-\theta_f t_m) K_f^{t_m}$
  • Re-rotação: A chave comprimida é re-rotacionada para a posição virtual específica do slot apenas no momento da atenção.
  • Isso garante que a média ocorra em um espaço invariante à rotação, preservando a pontuação média de atenção dos frames de origem.

Duas Variantes

O WorldTrace oferece dois "escritores de conteúdo" complementares (matrizes de projeção) adaptados a diferentes padrões de consulta:

1. WorldTrace-Field (Coerência Temporal):

   • Estratégia: Calcula a média uniforme de grupos contíguos de frames atribuídos a cada slot de resumo no espaço canônico.
   • Objetivo: Preserva o "campo grosseiro" da informação passada, otimizando para uma continuação temporal suave, onde a atenção futura se espalha suavemente sobre o histórico.
   • Implementação: Mantém uma média móvel de frames de origem na memória principal para evitar perda irreversível de informação, recalculando as médias dos slots em cada etapa.

2. WorldTrace-Landmark (Recall Episódico):

   • Estratégia: Armazena frames de alto valor de forma literal (entradas de cena) em vez de médias.
   • Seleção: Detecta eventos de entrada de cena via picos de distância de cosseno nas chaves canônicas.
   • Otimização: Utiliza chaves canônicas congeladas. Uma vez que um marco (landmark) é selecionado, sua chave canônica é computada uma única vez e armazenada. Deslocamentos subsequentes do slot não re-rotacionam a chave, eliminando o desvio de ponto flutuante e preservando o traço exato da cena.
   • Objetivo: Otimiza para o recall episódico, onde o agente precisa reconstruir uma cena passada específica e saliente.

3. Principais Contribuições

1. Diagnóstico de Falha de Longo Horizonte: O artigo identifica que a falha de longo horizonte é fundamentalmente um problema de endereçabilidade (devido a deslocamentos RoPE fora da distribuição) acoplado à informatividade (devido ao cancelamento de fase do RoPE na compressão padrão).
2. Framework WorldTrace: Uma abordagem sem necessidade de retreinamento que desacopla a atribuição de posição da compressão de conteúdo. Introduz posições virtuais de rank de slot para manter a endereçabilidade e armazenamento de chave canônica para manter a informatividade.
3. LoopBench: Um novo benchmark que avalia o recall episódico em modelos de mundo autorregressivos. Testa se um cache comprimido pode reconstruir uma cena visitada anteriormente após um longo desvio (loops ABA, ABCA, ABCDA) sem imagens de referência externas.
4. Validação Empírica: Demonstra que o WorldTrace estende o horizonte de memória efetivo, superando significativamente os baselines de janela deslizante e outros métodos de compressão tanto em consistência temporal quanto em reconstrução de cena.

4. Resultados Experimentais

A avaliação utiliza o modelo de mundo Matrix-Game-2 (MG2) (1.3 bilhão de parâmetros) e o benchmark LoopBench.

• Coerência Temporal (WorldTrace-Field):

  • Em rollouts longos ($N=48$ chunks), o WorldTrace-Field melhorou o SSIM Temporal em +15,5% em comparação com o baseline de janela deslizante.
  • Manteve a coerência da cena onde os baselines (Block-relative, Centroid-linear) começaram a derivar e gerar geometria incoerente após $N=18$.
  • Estudos de ablação confirmaram que a atribuição de posição é a restrição vinculativa; sem posições virtuais dentro da distribuição, a compressão não gera benefícios.

• Recall Episódico (WorldTrace-Landmark):

  • No revisito ABA do LoopBench, o WorldTrace-Landmark melhorou o recall episódico (medido por Position-Aligned CLIP, PAC) em +19,5% sobre o baseline de janela deslizante.
  • Reconstruiu com sucesso a aparência da cena original através de várias topologias (ABA, ABCA, ABCDA) e orientações de câmera, enquanto o baseline falhou em recuperar a estrutura da cena.
  • Em horizontes estendidos ($N=256$), apenas o recall de marcos literais sustentou altos escores de PAC ($\approx 0,99$), enquanto o ancoramento de K-canônico sem marcos caiu significativamente.

• Insights de Ablação:

  • Posição vs. Conteúdo: A atribuição de posição correta (WorldTrace) é necessária para que qualquer compressão funcione; a média padrão com posições corretas ainda performa abaixo da média canônica.
  • Cancelamento de Fase: A média canônica reduziu o LatentDiff em 25,3% comparado à média no espaço RoPE especificamente em $N_s=4$ slots de resumo, provando que desrotacionar as chaves é crítico para preservar o conteúdo de baixa frequência.

5. Significância e Alegações

O artigo afirma que a persistência visual em modelos de mundo de vídeo não é meramente uma questão de armazenar mais conteúdo, mas de garantir que o conteúdo permaneça endereçável e comprimido fielmente.

• Insight Teórico: Os autores argumentam que o design de memória para modelos de mundo de vídeo deve responder a duas perguntas: Onde a memória é colocada (para garantir que seja endereçável via RoPE) e O que é armazenado (para garantir que seja informativo).
• Impacto Prático: O WorldTrace permite a geração com persistência visual de segundos para rollouts de retorno à origem na escala de minutos sem retreinar o modelo base.
• Limitações: Os autores notam modestamente que o WorldTrace é projetado para modelos de vídeo autorregressivos com RoPE temporal e orçamentos fixos de KV-cache. Os atuais escritores de conteúdo (Field e Landmark) representam projeções estruturadas simples; sistemas futuros podem exigir seleções de projeções mais adaptativas, particularmente em contextos interativos onde agentes revisitam locais a partir de pontos de vista em mudança.

Em resumo, o WorldTrace fornece um mecanismo para estender o horizonte de memória efetivo de modelos de mundo de vídeo ao resolver os gargalos de endereçabilidade e informatividade inerentes aos mecanismos de atenção baseados em RoPE.