🤖 machine learning

LpWM: A Case for Sparse Representations in World Models

Este artículo introduce LpWM, una arquitectura predictiva de incrustación conjunta que utiliza representaciones latentes dispersas y no negativas regularizadas mediante el Emparejamiento de Distribución Rectificada para reducir significativamente la complejidad del predictor y mejorar el éxito de la planificación en comparación con las representaciones densas tradicionales, revelando simultáneamente estructuras dinámicas interpretables y factorizadas por modo.

Autores originales: Yilun Kuang, Yash Dagade, Quentin Le Lidec, Lucas Maes, Randall Balestriero, Yann LeCun

Publicado 2026-08-25

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Yilun Kuang, Yash Dagade, Quentin Le Lidec, Lucas Maes, Randall Balestriero, Yann LeCun

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Para entender cómo una máquina aprende a moverse por el mundo, imagine que le enseña a un niño a navegar por una habitación. El niño no solo memoriza un mapa estático; construye un modelo mental de cómo cambia la habitación cuando empuja una silla o abre una puerta. En el campo de la inteligencia artificial, este modelo mental se llama "modelo de mundo" (world model). Para que una computadora pueda planificar una ruta o realizar una tarea, necesita predecir qué sucederá después basándose en su estado actual y en las acciones que toma. Un enfoque común consiste en traducir el complejo mundo visual a un lenguaje interno de números más simple, conocido como "espacio latente". En este espacio oculto, la computadora predice el futuro moviendo estos números hacia adelante. Sin embargo, un problema persistente ha sido que estas representaciones internas a menudo se vuelven demasiado densas, con cada uno de los números del conjunto poseyendo algún valor, lo que hace que la tarea de predicción sea increíblemente difícil y propensa a errores.

Los investigadores se han preguntado durante mucho tiempo si existe una mejor manera de estructurar este lenguaje interno. ¿Qué pasaría si, en lugar de llenar cada casilla con información, la computadora utilizara un lenguaje disperso (sparse), donde la mayoría de los números sean cero y solo unos pocos porten el significado? Esta idea sugiere que, al obligar al sistema a ser selectivo, las reglas que gobiernan cómo cambia el mundo podrían ser más sencillas de aprender. Esta es la pregunta central explorada en un nuevo estudio realizado por un equipo de investigadores de instituciones que incluyen la NYU, la Universidad de Duke y la Universidad de Brown. Se propusieron probar si este enfoque disperso podría facilitar que una inteligencia artificial comprendiera y controlara su entorno, observando específicamente cómo la geometría de estos números internos afecta la dificultad de la tarea.

El equipo introdujo un nuevo sistema llamado LpWorldModel, diseñado para aprender estas representaciones dispersas. A diferencia de los métodos anteriores que fomentaban que cada parte del código interno estuviera activa, este sistema utiliza una restricción matemática específica para asegurar que la mayoría de los números en el código permanezcan exactamente en cero. Entrenaron este sistema en dos entornos diferentes: una tarea de navegación simple donde un punto se mueve a través de una puerta, y una tarea de manipulación más compleja donde un brazo robótico debe empujar un bloque en forma de T hacia una ubicación objetivo. En el entorno más simple, el sistema funcionó bien independientemente de si el código interno era denso o disperso, porque las reglas de movimiento eran lo suficientemente sencillas como para que incluso un predictor básico pudiera manejarlas. Sin embargo, los resultados cambiaron drásticamente en la tarea de empuje más difícil.

Cuando los investigadores probaron el sistema con predictores de varying complejidad, descubrieron que el enfoque disperso ofrecía una ventaja distintiva. En el rango medio de complejidad, donde el modelo predictivo no era lo suficientemente potente como para manejar las representaciones densas y desordenadas, el sistema disperso tuvo éxito donde el denso falló. Específicamente, en la tarea de empuje, el sistema disperso mejoró la tasa de éxito de la planificación hasta en un 57 por ciento en comparación con el sistema denso al utilizar predictores con capacidad intermedia. Esto sugiere que, al organizar la información en un formato disperso, el sistema redujo la complejidad requerida para modelar la dinámica del mundo. El sistema denso tuvo dificultades porque tuvo que aprender una red complicada de interacciones, mientras que el sistema disperso pudo apoyarse en un conjunto de reglas más simples y directas.

Más allá de mejorar el rendimiento, los investigadores descubrieron que las representaciones dispersas organizaban la información de una manera sorprendentemente interpretable. El sistema separaba naturalmente el "modo" del mundo de los detalles específicos del estado. En un entorno de prueba donde la física cambiaba dependiendo de la zona en la que se encontraba el agente, el sistema utilizó la presencia o ausencia de números específicos (el "soporte") para identificar en qué zona se encontraba, actuando efectivamente como un interruptor para el tipo de física que se aplicaba. Los valores reales de los números no nulos capturaban entonces los detalles continuos, como la posición exacta del agente dentro de esa zona. Esta separación permitió al sistema comprender que las reglas del mundo habían cambiado, en lugar de ver simplemente un desorden de píxeles cambiantes.

En un escenario más complejo que involucraba un brazo robótico interactuando con un cubo, los investigadores encontraron que el sistema disperso podía rastrear el estado físico del objeto, como si el brazo estaba tocando el cubo. Sin embargo, sin una guía adicional, el sistema tendía a centrarse en las partes que se mueven más rápido de la escena, como el propio brazo, en lugar del evento más lento pero significativo del contacto. Al añadir una simple restricción que fomentaba la estabilidad del sistema a lo largo del tiempo, pudieron desplazar el enfoque para que el código disperso rastreara el contacto entre el brazo y el cubo. Esto demostró que la representación dispersa podía ajustarse para resaltar los eventos físicamente más significativos, convirtiendo el código interno en un mapa legible de la dinámica del mundo.

El estudio concluye que las representaciones dispersas ofrecen una alternativa poderosa a los métodos densos utilizados actualmente en la inteligencia artificial. Al obligar al sistema a ser selectivo, los investigadores demostraron que es posible hacer que la tarea de predecir el futuro sea significativamente más fácil, permitiendo que modelos más simples logren mejores resultados. Los hallazgos sugieren que la geometría del lenguaje interno importa profundamente; un enfoque disperso y estructurado puede revelar las reglas subyacentes de un sistema con mayor claridad que uno denso y no estructurado. Si bien el sistema aún requiere un ajuste cuidadoso para asegurar que rastree los eventos físicos correctos, los resultados indican que la dispersión es un camino prometedor hacia modelos de mundo más eficientes e interpretables, permitiendo potencialmente que las máquinas aprendan comportamientos complejos con menos potencia computacional.

Resumen Técnico: LpWM: Un argumento a favor de las representaciones dispersas en modelos de mundo

Declaración del Problema

Las arquitecturas de predicción de incrustación conjunta (JEPA, por sus siglas en inglés) han emergido como un enfoque viable para el control basado en modelos a partir de píxeles, donde un codificador mapea las observaciones a un espacio latente, y un predictor ejecuta proyecciones de la dinámica latente bajo acciones para la planificación mediante el Control Predictivo Basado en Modelo (MPC). Para prevenir el colapso de la representación (degeneración hacia subespacios constantes o de bajo rango), los métodos previos emplean pérdidas anti-colapso que maximizan la información, generalmente ajustando las características a distribuciones de máxima entropía como las gaussianas isotrópicas. Este proceso produce representaciones densas, donde todas las coordenadas latentes son distintas de cero.

Sin embargo, no está claro si la geometría densa es óptima para modelar la dinámica controlada. La cuestión central abordada en este trabajo es si las representaciones dispersas (sparse) ofrecen una geometría más favorable para modelar la dinámica latente condicionada por la acción, lo que potencialmente simplificaría el predictor requerido para una planificación exitosa y revelaría estructuras dinámicas interpretables.

Metodología

Motivación Teórica: Linealización mediante Dispersión

Los autores proponen que las representaciones dispersas con una dimensionalidad suficientemente alta pueden aproximar la dinámica no lineal controlada con transiciones latentes lineales.

Proposición 1: Para un espacio de estados compacto con dinámica Lipschitz continua, existe una codificación dispersa de tipo one-hot de dimensión finita tal que la dinámica latente es exactamente lineal ( $z_{t+1} = P_\epsilon(a_t)z_t$ ). El error de decodificación está acotado por $(L+1)\epsilon$ , donde $L$ es la constante de Lipschitz.
Corolario 1: A medida que la dimensión del codificador $N$ crece, el error de la proyección (rollout) se desvanece ( $O(N^{-1/d})$ ).
Implicación: Aunque los códigos one-hot exactos son impracticables de optimizar, esto motiva el uso de representaciones dispersas distribuidas (donde una fracción no trivial de las coordenadas es exactamente cero) como una relajación aprendible que puede simplificar el modelo de la dinámica.

Arquitectura LpWorldModel (LpWM)

El artículo presenta LpWM, un modelo JEPA diseñado para aprender códigos latentes no negativos y dispersos.

Codificador ( $f_\theta$ ): Un Vision Transformer (ViT) que mapea las observaciones a incrustaciones latentes.
Predictor ( $g_\phi$ ): Un Transformer con condicionamiento de acción mediante AdaLN-zero, que predice el siguiente estado latente dado el estado actual y la acción.
Regularización de Emparejamiento de Distribución Rectificada (RDMReg): Para prevenir el colapso e inducir la dispersión, el modelo minimiza una pérdida que consiste en un término de error de predicción y un término de regularización $R(z)$ $R (z)$ .
- $R(z)$ empareja la distribución marginal de las características latentes con una distribución de Gaussiana Generalizada Rectificada (RGG).
- Al establecer el parámetro de forma $p=1$ y la ubicación $\mu=0$ , la distribución objetivo se convierte en una distribución de Laplace Rectificada. Esta distribución de máxima entropía bajo restricciones $\ell_1$ fomenta la dispersión.
- La pérdida utiliza la distancia 2-Wasserstein (vía proyecciones aleatorias) para emparejar la distribución de salida del codificador con la distribución objetivo.
Función de Activación: Tanto los proyectores del codificador como del predictor utilizan una ReLU reparametrizada (RepReLU). En el paso hacia adelante (forward pass), se comporta como una ReLU estándar (generando ceros exactos); en el paso hacia atrás (backward pass), los gradientes fluyen a través de un componente GeLU para mitigar el problema de la "ReLU muerta" (dying ReLU).

Planificación

En el tiempo de prueba, el modelo de mundo entrenado sirve como el modelo de dinámica para el MPC. El sistema codifica las observaciones actuales y la meta en latentes $z_0$ y $z_g$ , y luego utiliza el Método de la Semilla de Entropía Cruzada (CEM) para buscar una secuencia de acciones que minimice la distancia entre la proyección predicha y el latente de la meta.

Contribuciones Clave

LpWorldModel (LpWM): Un marco JEPA que utiliza RDMReg para aprender representaciones latentes dispersas y no negativas para el modelado de la dinámica y la planificación.
Representaciones Dispersas para la Linealización Latente: Formalización de la intuición de que los códigos dispersos de alta dimensión pueden aproximar la dinámica no lineal con transiciones lineales, motivando el uso de códigos dispersos distribuidos como una relajación práctica.
Reducción de la Complejidad del Predictor: Evidencia empírica de que la dispersión reduce la capacidad del predictor necesaria para una planificación exitosa. En el entorno PushT, el LpWM disperso supera significativamente al LeWM denso (que usa SIGReg) con predictores de capacidad intermedia (hasta un 57% más de tasa de éxito), mientras que rinde de manera comparable con predictores de alta capacidad.
Dinámica Latente Factorizada por Modos: Descubrimiento de que las representaciones dispersas aprendidas organizan la dinámica en factores interpretables:
- Soporte (Binario): Codifica regímenes dinámicos discretos (ej. estados de contacto o zonas espaciales).
- Magnitudes: Capturan el estado continuo dentro del régimen (ej. posición precisa).

Resultados Experimentales

Entornos

Los experimentos se realizaron en:

Wall: Una tarea de navegación 2D a través de una puerta (dinámica simple).
PushT: Una tarea de manipulación para empujar un bloque en forma de T hacia una pose objetivo (dinámica compleja y rica en contactos).
Piecewise: Un entorno de navegación 2D sintético con dinámica de tipo afín por partes conocida (zonas con diferentes campos de fuerza).
OGBench-Cube: Un brazo robótico manipulando un cubo (rico en contactos).

Hallazgos de Desempeño

Capacidad del Predictor vs. Dispersión:
- En el entorno Wall, incluso los predictores lineales simples (LTI) lograron un éxito cercano al 100% tanto para los modelos densos como para los dispersos, lo que indica que la dinámica ya era lo suficientemente simple como para que la dispersión no ofreciera ventaja adicional.
- En el entorno PushT, donde la dinámica es más difícil de modelar, el LpWM disperso superó sustancialmente al LeWM denso cuando se utilizaron predictores de capacidad intermedia (ej. MLP $\circ$ LTI, MLP $\circ$ LTV). La brecha en la tasa de éxito osciló entre el 24% y el 57%.
- Con predictores de alta capacidad (Deep-AdaLN), la brecha de rendimiento se redujo, sugiriendo que la expresividad puede compensar la geometría densa, pero la dispersión proporciona una ventaja significativa cuando la capacidad del modelo está restringida.
Generalización a otros Regularizadores: El LpWM superó a una variante de JEPA densa que utiliza VICReg (otro método anti-colapso) a través de múltiples familias de predictores, indicando que el beneficio de la dispersión se extiende más allá de los objetivos gaussianos específicos utilizados en LeWM.
Interpretabilidad (Piecewise & OGBench-Cube):
- En Piecewise, el soporte binario del código disperso decodificó la identidad de la zona real con una precisión casi perfecta (94–99%), mientras que las magnitudes decodificaron la posición continua del agente. El índice de Jaccard del soporte se mantuvo alto dentro de las zonas y cayó bruscamente en los límites, recuperando la estructura de la estructura del régimen dinámico subyacente.
- En OGench-Cube, sin restricciones adicionales, el soporte tendía a seguir el movimiento rápido del efector. Sin embargo, añadir una pérdida de Jaccard Temporal (TJ) fomentó la estabilidad del soporte, haciendo que el soporte siguiera los cambios de régimen físico más lentos (ej. eventos de contacto) en lugar de solo el movimiento.

Significancia y Reivindicaciones

El artículo afirma que las representaciones dispersas ofrecen una ventaja distintiva en la geometría de los espacios latentes para el control:

Simplificación de la Dinámica: La dispersión puede hacer que la dinámica latente condicionada por la acción sea más fácil de modelar, permitiendo que predictores más simples (de menor capacidad) logren una planificación exitosa donde fallarían con representaciones densas.
Interpretabilidad: Los códigos dispersos factorizan naturalmente la dinámica en regímenes discretos (codificados por el soporte) y estados continuos (codificados por las magnitudes), proporcionando una estructura más interpretable que las incrustaciones densas.
Practicidad: El marco propuesto de LpWM logra estos beneficios sin requerir espacios latentes categóricos discretos (que pueden ser difíciles de optimizar), sino a través de códigos dispersos continuos y no negativos regularizados por el emparejamiento de distribuciones.

Los autores concluyen que, si bien las representaciones densas funcionan bien con predictores suficientemente expresivos, las representaciones dispersas son una opción preferible para reducir la complejidad del predictor y revelar estructuras dinámicas interpretables, particularmente en entornos con dinámicas complejas, ricas en contactos o por partes.