🤖 machine learning

LpWM: A Case for Sparse Representations in World Models

Este artigo introduz o LpWM, uma arquitetura preditiva de incorporação conjunta que utiliza representações latentes esparsas e não negativas regularizadas por Correspondência de Distribuição Retificada para reduzir significativamente a complexidade do preditor e melhorar o sucesso do planejamento em comparação com representações densas tradicionais, ao mesmo tempo em que revela estruturas dinâmicas interpretáveis e fatoradas por modo.

Autores originais: Yilun Kuang, Yash Dagade, Quentin Le Lidec, Lucas Maes, Randall Balestriero, Yann LeCun

Publicado 2026-08-25

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Yilun Kuang, Yash Dagade, Quentin Le Lidec, Lucas Maes, Randall Balestriero, Yann LeCun

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Para entender como uma máquina aprende a se mover pelo mundo, imagine ensinar uma criança a navegar em um quarto. A criança não apenas memoriza um mapa estático; ela constrói um modelo mental de como o quarto muda quando ela empurra uma cadeira ou abre uma porta. No campo da inteligência artificial, esse modelo mental é chamado de "modelo de mundo". Para que um computador planeje um caminho ou realize uma tarefa, ele precisa prever o que acontecerá a seguir com base em seu estado atual e nas ações que toma. Uma abordagem comum envolve traduzir o complexo mundo visual em uma linguagem interna de números mais simples, conhecida como "espaço latente". Nesse espaço oculto, o computador prevê o futuro movendo esses números adiante. No entanto, um problema persistente tem sido o fato de que essas representações internas frequentemente se tornam muito densas, com cada número individual do conjunto retendo algum valor, tornando a tarefa de previsão incrivelmente difícil e propensa a erros.

Pesquisadores há muito se perguntam se existe uma maneira melhor de estruturar essa linguagem interna. E se, em vez de preencher cada slot com informação, o computador usasse uma linguagem esparsa, onde a maioria dos números é zero e apenas alguns carregam o significado? Essa ideia sugere que, ao forçar o sistema a ser seletivo, as regras que governam como o mundo muda podem se tornar mais simples de aprender. Esta é a questão central explorada em um novo estudo de uma equipe de pesquisadores de instituições que incluem a NYU, a Universidade de Duke e a Universidade de Brown. Eles se propuseram a testar se essa abordagem esparsa poderia facilitar para uma inteligência artificial compreender e controlar seu ambiente, observando especificamente como a geometria desses números internos afeta a dificuldade da tarefa.

A equipe introduziu um novo sistema chamado LpWorldModel, projetado para aprender essas representações esparsas. Ao contrário de métodos anteriores que incentivavam cada parte do código interno a estar ativa, este sistema utiliza uma restrição matemática específica para garantir que a maioria dos números no código permaneça exatamente zero. Eles treinaram este sistema em dois ambientes diferentes: uma tarefa de navegação simples onde um ponto se move através de uma porta, e uma tarefa de manipulação mais complexa onde um braço robótico deve empurrar um bloco em forma de T até um local alvo. No ambiente mais simples, o sistema funcionou bem, independentemente de o código interno ser denso ou esparso, porque as regras de movimento eram simples o suficiente para serem tratadas até mesmo por um preditor básico. No entanto, os resultados mudaram dramaticamente na tarefa de empurrar, que é mais difícil.

Quando os pesquisadores testaram o sistema com preditores de complexidade variada, descobriram que a abordagem esparsa oferecia uma vantagem distinta. Na faixa intermediária de complexidade, onde o modelo preditivo não era poderoso o suficiente para lidar com as representações densas e congestionadas, o sistema esparso teve sucesso onde o denso falhou. Especificamente, na tarefa de empurrar, o sistema esparso melhorou a taxa de sucesso do planejamento em até 57 por cento em comparação com o sistema denso ao usar preditores de capacidade intermediária. Isso sugere que, ao organizar a informação em um formato esparso, o sistema reduziu a complexidade necessária para modelar a dinâmica do mundo. O sistema denso teve dificuldades porque precisava aprender uma teia complicada de interações, enquanto o sistema esparso pôde contar com um conjunto de regras mais simples e direto.

Além de melhorar o desempenho, os pesquisadores descobriram que as representações esparsas organizavam a informação de uma maneira surpreendentemente interpretável. O sistema separou naturalmente o "modo" do mundo dos detalhes específicos do estado. Em um ambiente de teste onde a física mudava dependendo da zona em que o agente estava, o sistema usou a presença ou ausência de números específicos (o "suporte") para identificar em qual zona ele estava, atuando efetivamente como um interruptor para o tipo de física sendo aplicada. Os valores reais dos números não nulos então capturavam os detalhes contínuos, como a posição exata do agente dentro daquela zona. Essa separação permitiu que o sistema entendesse que as regras do mundo haviam mudado, em vez de apenas ver um amontoado de pixels em mudança.

Em um cenário mais complexo envolvendo um braço robótico interagindo com um cubo, os pesquisadores descobriram que o sistema esparso conseguia rastrear o estado físico do objeto, como se o braço estava tocando o cubo. No entanto, sem orientação adicional, o sistema tendia a focar nas partes que se moviam mais rapidamente da cena, como o próprio braço, em vez do evento mais lento e significativo do contato. Ao adicionar uma restrição simples que incentivava o sistema a ser estável ao longo do tempo, eles foram capazes de deslocar o foco para que o código esparso rastreasse o contato entre o braço e o cubo. Isso demonstrou que a representação esparsa pode ser ajustada para destacar os eventos fisicamente mais significativos, transformando o código interno em um mapa legível da dinâmica do mundo.

O estudo conclui que as representações esparsas oferecem uma alternativa poderosa aos métodos densos usados atualmente na inteligência artificial. Ao forçar o sistema a ser seletivo, os pesquisadores mostraram que é possível tornar a tarefa de prever o futuro significativamente mais fácil, permitindo que modelos mais simples alcancem melhores resultados. As descobertas sugerem que a geometria da linguagem interna importa profundamente; uma abordagem esparsa e estruturada pode revelar as regras subjacentes de um sistema de forma mais clara do que uma abordagem densa e não estruturada. Embora o sistema ainda exija um ajuste cuidadoso para garantir que rastreie os eventos físicos corretos, os resultados indicam que a esparsidade é um caminho promissor para modelos de mundo mais eficientes e interpretáveis, permitindo potencialmente que máquinas aprendam comportamentos complexos com menos poder computacional.

Resumo Técnico: LpWM: Um Caso para Representações Esparsas em Modelos de Mundo

Declaração do Problema

Arquiteturas de incorporação conjunta preditiva (JEPAs) emergiram como uma abordagem viável para controle baseado em modelos a partir de pixels, onde um codificador mapeia observações para um espaço latente, e um preditor executa o desenrolar da dinâmica latente sob ações para planejamento via Controle Preditivo de Modelo (MPC). Para evitar o colapso da representação (degeneração para subespaços constantes ou de baixo rank), métodos anteriores empregam perdas anti-colapso que maximizam a informação, tipicamente combinando características com distribuições de entropia máxima, como Gaussianas isotrópicas. Este processo gera representações densas, onde todas as coordenadas latentes são não-zero.

No entanto, permanece incerto se a geometria densa é ótima para modelar a dinâmica controlada. A questão central abordada neste trabalho é se representações esparsas oferecem uma geometria mais favorável para modelar a dinâmica latente condicionada à ação, potencialmente simplificando o preditor necessário para o planejamento bem-sucedido e revelando estruturas dinâmicas interpretáveis.

Metodologia

Motivação Teórica: Linearização via Esparsidade

Os autores propõem que representações esparsas suficientemente de alta dimensão podem aproximar dinâmicas não lineares controladas com transições latentes lineares.

Proposição 1: Para um espaço de estados compacto com dinâmicas Lipschitz contínuas, existe uma codificação esparsa one-hot de dimensão finita tal que a dinâmica latente é exatamente linear ( $z_{t+1} = P_\epsilon(a_t)z_t$ ). O erro de decodificação é limitado por $(L+1)\epsilon$ , onde $L$ é a constante de Lipschitz.
Corolário 1: À medida que a dimensão do codificador $N$ cresce, o erro de desenrolar desaparece ( $O(N^{-1/d})$ ).
Implicação: Embora códigos one-hot exatos sejam impraticáveis de otimizar, isso motiva representações esparsas distribuídas (onde uma fração não trivial de coordenadas é exatamente zero) como uma relaxação aprendível que pode simplificar o modelo de dinâmica.

Arquitetura LpWorldModel (LpWM)

O artigo introduz o LpWM, um modelo JEPA projetado para aprender códigos latentes não negativos e esparsos.

Codificador ( $f_\theta$ ): Um Vision Transformer (ViT) que mapeia observações para incorporações latentes.
Preditor ( $g_\phi$ ): Um Transformer com condicionamento de ação via AdaLN-zero, prevendo o próximo estado latente dado o estado atual e a ação.
Regularização de Correspondência de Distribuição Retificada (RDMReg): Para prevenir o colapso e induzir a esparsidade, o modelo minimiza uma perda composta por um termo de erro de predição e um termo de regularização $R(z)$ $R (z)$ .
- $R(z)$ combina a distribuição marginal das características latentes com uma distribuição Gaussiana Generalizada Retificada (RGG).
- Ao definir o parâmetro de forma $p=1$ e localização $\mu=0$ , a distribuição alvo torna-se uma distribuição de Laplace Retificada. Esta distribuição de entropia máxima sob restrições $\ell_1$ incentiva a esparsidade.
- A perda utiliza a distância 2-Wasserstein (via projeções aleatórias) para combinar a distribuição de saída do codificador com a distribuição alvo.
Função de Ativação: Tanto o projetor do codificador quanto o do preditor utilizam um ReLU reparametrizado (RepReLU). No passo de propagação direta (forward pass), comporta-se como um ReLU padrão (gerando zeros exatos); no passo de retropropagação (backward pass), os gradientes fluem através de um componente GeLU para mitigar o problema do "ReLU morto" (dying ReLU).

Planejamento

No tempo de teste, o modelo de mundo treinado serve como o modelo de dinâmica para o MPC. O sistema codifica observações atuais e de meta em latentes $z_0$ e $z_g$ , e então utiliza o Método de Cross-Entropy (CEM) para buscar uma sequência de ações que minimize a distância entre o desenrolar previsto e o latente do objetivo.

Principais Contribuições

LpWorldModel (LpWM): Um framework JEPA que utiliza RDMReg para aprender representações latentes esparsas e não negativas para modelagem de dinâmica e planejamento.
Esparsidade para Linearização de Latentes: Formalização da intuição de que códigos esparsos de alta dimensão podem aproximar dinâmicas não lineares com transições lineares, motivando códigos esparsos distribuídos como uma relaxação prática.
Redução da Complexidade do Preditor: Evidência empírica de que a esparsidade reduz a capacidade do preditor necessária para um planejamento bem-sucedido. No ambiente PushT, o LpWM esparso supera significativamente o LeWM denso (usando SIGReg) com preditores de capacidade intermediária (até 57% de taxa de sucesso maior), enquanto performa comparavelmente com preditores de alta capacidade.
Dinâmica Latente Fatorada por Modos: Descoberta de que as representações esparsas aprendidas organizam a dinâmica em fatores interpretáveis:
- Suporte (Binário): Codifica regimes dinâmicos discretos (ex: estados de contato ou zonas espaciais).
- Magnitudes: Capturam o estado contínuo dentro do regime (ex: posição precisa).

Resultados Experimentais

Ambientes

Os experimentos foram conduzidos em:

Wall: Uma tarefa de navegação 2D através de uma porta (dinâmica simples).
PushT: Uma tarefa de manipulação para empurrar um bloco em forma de T para uma pose alvo (dinâmica complexa, rica em contatos).
Piecewise: Um ambiente de navegação 2D sintético com dinâmicas conhecidas como afins por partes (zonas com diferentes campos de força).
OGBench-Cube: Um braço robótico manipulando um cubo (rica em contatos).

Achados de Desempenho

Capacidade do Preditor vs. Esparsidade:
- No ambiente Wall, mesmo preditores lineares simples (LTI) alcançaram quase 100% de sucesso tanto para modelos densos quanto esparsos, indicando que a dinâmica já era simples o suficiente para que a esparsidade não oferecesse vantagem adicional.
- No ambiente PushT, onde a dinâmica é mais difícil de modelar, o LpWM esparso superou substancialmente o LeWM denso quando utilizando preditores de capacidade intermediária (ex: MLP $\circ$ LTI, MLP $\circ$ LTV). A diferença na taxa de sucesso variou de 24% a 57%.
- Com preditores de alta capacidade (Deep-AdaLN), a lacuna de desempenho diminuiu, sugerindo que a expressividade pode compensar a geometria densa, mas a esparsidade fornece uma vantagem significativa quando a capacidade do modelo é limitada.
Generalização para Outros Regularizadores: O LpWM superou uma variante densa de JEPA usando VICReg (outro método anti-colapso) através de múltiplas famílias de preditores, indicando que o benefício da esparsidade se estende além dos alvos Gaussianos específicos usados no LeWM.
Interpretabilidade (Piecewise & OGBench-Cube):
- Em Piecewise, o suporte binário do código esparso decodificou a identidade da zona real com precisão quase perfeita (94–99%), enquanto as magnitudes decodificaram a posição contínua do agente. O índice de Jaccard do suporte permaneceu alto dentro das zonas e caiu bruscamente nas fronteiras, recuperando a estrutura do regime dinâmico subjacente.
- Em OGench-Cube, sem restrições adicionais, o suporte tendia a rastrear o movimento rápido do efetor. No entanto, adicionar uma perda de Jaccard Temporal (TJ) incentivou a estabilidade do suporte, fazendo com que o suporte rastreasse mudanças de regime físico mais lentas (ex: eventos de contato) em vez de apenas o movimento.

Significância e Alegações

O artigo afirma que representações esparsas oferecem uma vantagem distinta na geometria dos espaços latentes para controle:

Simplificação da Dinâmica: A esparsidade pode tornar a dinâmica latente condicionada à ação mais fácil de modelar, permitindo que preditores de menor capacidade (mais simples) alcancem um planejamento bem-sucedido onde falhariam com representações densas.
Interpretabilidade: Códigos esparsos fatoram naturalmente a dinâmica em regimes discretos (codificados pelo suporte) e estados contínuos (codificados pelas magnitudes), fornecendo uma estrutura mais interpretável do que as incorporações densas.
Praticidade: O framework LpWM proposto alcança esses benefícios sem exigir espaços latentes categóricos discretos (que podem ser difíceis de otimizar), mas sim através de códigos esparsos contínuos e não negativos regularizados por correspondência de distribuição.

Os autores concluem que, embora as representações densas funcionem bem com preditores suficientemente expressivos, as representações esparsas são um padrão preferível para reduzir a complexidade do preditor e revelar estruturas dinâmicas interpretáveis, particularmente em ambientes com dinâmicas complexas, ricas em contatos ou por partes.