🤖 machine learning

The SIGReg Objective as Variational Free Energy: A Theoretical Active-Inference Account of JEPA World Models

Este artículo establece un marco teórico de Inferencia Activa para Arquitecturas Predictivas de Embebimiento Conjunto (JEPA), demostrando que el regularizador SIGReg transforma de manera única el objetivo de entrenamiento en una energía libre variacional válida al eliminar la brecha de descalibración del prior, mientras que otros regularizadores comunes no logran preservar los límites de sorpresa necesarios.

Autores originales: Fabio Arnez, Alexandra Gomez-Villa

Publicado 2026-07-16

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Fabio Arnez, Alexandra Gomez-Villa

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñar a un robot a entender el mundo. No quieres que simplemente memorice cada píxel de un vídeo (lo cual es imposible y un desperdicio); quieres que construya un mapa mental, una versión comprimida o "latente" de la realidad donde pueda predecir qué sucede después. Este es el sueño de las Arquitecturas de Embebido Conjunto Predictivo (JEPA, por sus siglas en inglés). Piensa en ello como un estudiante tomando apuntes: en lugar de copiar palabra por palabra toda la clase del profesor, escribe los conceptos clave y las relaciones entre ellos.

Pero hay un problema. Cuando comprimes información, corres el riesgo de perder los detalles que importan o, peor aún, el robot podría hacer trampa colapsando todos sus apuntes en una única respuesta aburrida de "todo es igual". Para evitar que esta trampa ocurra, los científicos utilizan una regla especial llamada "regularizador". Es como un profesor con un bolígrafo rojo que dice: "¡Oye, asegúrate de que tus apuntes sean diversos y estén bien distribuidos!".

En el otro lado del universo, existe una teoría llamada Inferencia Activa. Esta teoría sugiere que los seres inteligentes (como nosotros o los robots) actan para minimizar la "sorpresa". Construimos un modelo del mundo y, cuando la realidad no coincide con nuestro modelo, nos sentimos "sorprendidos" (o, en términos matemáticos, tenemos una "energía libre" alta). Para sobrevivir, o bien cambiamos nuestro modelo, o bien cambiamos nuestras acciones para ajustarnos al mundo. La gran pregunta que los científicos se han estado haciendo es: ¿Son los trucos que usamos para entrenar a estos tomadores de apuntes robóticos (JEPA) realmente la misma matemática que rige las reglas de cómo minimizamos la sorpresa (Inferencia Activa)? Hasta ahora, la mayoría de las veces solo hemos conjeturado basándonos en qué tan bien se desempeñan los robots, pero no contábamos con una prueba estricta.

Este artículo es como una historia de detectives que finalmente conecta los puntos entre estos dos mundos. Los autores, Fabio Arnez y Alexandra Gomez-Villa, investigan un tipo específico de "regla anti-trampa" utilizada en el entrenamiento de robots modernos. Se preguntan: ¿La regla que usamos para mantener la diversidad de los apuntes del robot garantiza realmente que el robot esté minimizando la sorpresa de la manera matemáticamente correcta?

La respuesta depende enteramente de qué regla elijas. Los autores organizan cuatro reglas diferentes en una jerarquía, como una escalera de precisión. En la base, tienes reglas populares como VICReg. Estas son "inseguras". Imagina a un estudiante que intenta maximizar su nota inflando su puntuación en un examen falso. El profesor (las matemáticas) ve una puntuación alta, pero el estudiante no ha aprendido nada realmente. De la misma manera, VICReg puede engañar al robot haciéndole creer que tiene un mapa diverso e informativo cuando en realidad no es así. Establece un "límulo superior" al conocimiento del robot, lo que significa que el robot puede pensar que lo está haciendo de maravilla mientras en realidad está fallando en comprender el mundo.

Luego, hay una regla llamada SIGReg. Los autores demuestran que este es el "boleto dorado". A diferencia de las otras, SIGReg no solo adivina o aproxima; obliga al mapa mental del robot a estar perfectamente equilibrado y distribuido (matemáticamente, una Gaussiana isotrópica). Cuando el robot utiliza SIGReg, la matemática cambia por completo. La "brecha" entre lo que el robot cree saber y lo que realmente sabe desaparece. De repente, el objetivo de entrenamiento del robot se convierte en una coincidencia exacta con la fórmula de la Inferencia Activa. Ya no es una conjetura aproximada; es una traducción perfecta.

El artículo muestra que si usas SIGReg, el objetivo del robot de "minimizar el error de predicción" es exactamente lo mismo que "minimizar la sorpresa". Además, los autores descubren algo que falta en los cerebros robóticos actuales. Aunque estos robots son excelentes planificando para alcanzar una meta (valor pragmático), carecen de una señal de "curiosidad" específica. No tienen un impulso intrínseco para explorar estados nuevos solo para aprender más sobre el futuro (valor epistémico de estado). El artículo señala que esto es la pieza del rompecabezas que los robots actuales están ignorando.

Los autores son muy cuidadosos al decir que, si bien la matemática se demuestra exacta bajo condiciones específicas (como cuando los datos de entrenamiento del robot son infinitos y el ruido es constante), la prueba del mundo real aún está por delante. Han construido un puente teórico, pero aún no han conducido un coche a través de él. Predicen que los robots entrenados con SIGReg serán más estables, mejores planificando y más "honestos" sobre lo que saben que aquellos entrenados con métodos más antiguos. Pero dejan el veredicto final en manos de experimentos futuros.

En resumen, este artículo nos dice que el secreto para construir un robot verdaderamente "activo" —uno que aprenda y actúe como un explorador curioso— podría residir simplemente en cambiar una regla vieja y ligeramente defectuosa por una nueva y matemáticamente perfecta. Convierte un truco heurístico en un principio científico riguroso, mostrándonos exactamente cómo hacer que el cerebro de un robot se alinee con las leyes de la física y la información.

Resumen Técnico: El Objetivo SIGReg como Energía Libre Variacional

Planteamiento del Problema
Las Arquitecturas de Embebimiento Conjunto Predictivo (JEPA, por sus siglas en inglés) han emergido como el diseño dominante para los modelos de mundo latentes, pero sus objetivos de entrenamiento suelen justificarse por el rendimiento empírico más que por principios normativos. Existe una brecha teórica crítica al comprender cómo los regularizadores no contrastivos utilizados para prevenir el colapso representacional (p. ej., VICReg) se relacionan con la energía libre variacional de la Inferencia Activa (AIF).

El problema central es que los objetivos JEPA estándar aproximan el término de información mutua (informatividad) de la energía libre de la AIF utilizando regularizadores no contrastivos. Bajo el modelo estándar de codificador de ruido constante, maximizar la informatividad es equivalente a maximizar la entropía diferencial marginal de los embebimientos, $h(Z)$ . Sin embargo, estimadores como VICReg aproximan esta entropía mediante los dos primeros momentos (varianza y covarianza). El artículo argumenta que esta aproximación introduce una "brecha de descalibración del prior". Crucialmente, debido a que VICReg actúa como un límite superior "inseguro" sobre la verdadera entropía (vía la desigualdad de Hadamard y el teorema de máxima entropía), maximizarlo no garantiza un aumento en la verdadera entropía. Este límite superior "inseguro" significa que el objetivo resultante puede no preservar el límite de sorpresa de la AIF ( $F \ge -\ln p(x)$ ), socavando la validez normativa del JEPA como agente de AIF.

Metodología
Los autores desarrollan un marco teórico para analizar la relación entre los regularizadores de JEPA y la energía libre de la AIF a través de tres pasos principales:

Jerarquía de Estimadores de Entropía: El artículo categoriza cuatro regularizadores no contrastivos (VICReg, LogDet, PairDist y SIGReg) basándose en una "descomposición de tres fuentes de brecha". Esta descomposición divide el error entre la verdadera entropía $h(Z)$ y su aproximación $\hat{H}(Z)$ en:
- Brecha I (No-Gaussianidad): La diferencia entre la distribución verdadera y una referencia Gaussiana.
- Brecha II (Covarianza fuera de la diagonal): El error introducido al asumir una matriz de covarianza diagonal (ignorando correlaciones).
- Brecha III (Error de Estimación): El error residual del propio estimador.
  La jerarquía ordena los regularizadores según si incurren en estas brechas y si actan como límites inferiores seguros o límites superiores inseguros.
La Correspondencia SIGReg–AIF: Los autores introducen SIGReg (Sketched Isotropic Gaussian Regularisation), que impone una distribución Gaussiana isotrópica en los embebimientos mediante pruebas de gaussianidad de proyección aleatoria. Demuestran que, bajo la aplicación exitosa de SIGReg, la brecha de descalibración del prior desaparece ( $\Delta = 0$ ).
Pruebas Teóricas y Extensiones:
- Paso Único: Demuestran que con SIGReg, el objetivo JEPA se convierte en una descomposición exacta de la Botella de Información (IB) y en una energía libre de AIF válida, preservando el límite de sorpresa.
- Multi-paso y Planificación: La correspondencia se extiende a la energía libre esperada (EFE) de múltiples pasos, mostrando que el término de complejidad se compone exactamente bajo regímenes de despliegue específicos (p. ej., control de modelo predictivo con replanificación).
- Régimen de Política: El artículo analiza políticas aprendidas, mostrando que bajo SIGReg, el objetivo de la política corresponde exactamente a la distribución de Boltzmann sobre la energía libre esperada.

Contribuciones Clave

Jerarquía de Estimadores de Entropía: El artículo establece una jerarquía formal de regularizadores no contrastivos. Demuestra que VICReg y LogDet son límites superiores "inseguros" que no garantizan la preservación del límite de sorpresa de la AIF, mientras que PairDist es un límite inferior "seguro". SIGReg es identificado como el primer estimador que es simultáneamente seguro (sin riesgo de límite superior) y exacto (elimina las tres fuentes de brecha al imponer la gaussianidad isotrópica).
El Teorema de Correspondencia (Teorema 1): Los autores demuestran que reemplazar VICReg con SIGReg eleva la correspondencia de AIF de aproximada a exacta. Bajo el modelo de ruido constante y la aplicación exitosa de SIGReg:
- La brecha de entropía desaparece.
- El objetivo admite una descomposición exacta de la Botella de Información (IB).
- El límite de sorpresa de la AIF se preserva.
- El costo del objetivo latente se convierte en un proxy exacto para el valor pragmático de la AIF (a diferencia de VICReg, que deja un término de anisotropía irreducible de $O(\delta^2)$ ).
Identificación de la Brecha "Estado-Epistémica": El artículo identifica un término específico en la energía libre esperada de la AIF —el valor estado-epistémico (una señal de cobertura de estados futuros que impulsa la exploración)— que está ausente en todos los modelos de mundo JEPA actuales. Mientras que los proxies de varianza de ensambles parametrizan la ganancia de información, ningún JEPA actual computa la entropía marginal de los estados futuros condicionados a una política.
Pruebas Verificadas por Máquina: El núcleo algebraico de los resultados, incluyendo la descomposición de brechas y los teoremas de correspondencia, se ha verificado mediante la máquina en Lean 4, asegurando la consistencia lógica de las derivaciones.

Resultados y Predicciones
El artículo deriva varias consecuencias teóricas que difieren cualitativamente (por tipo, no por grado) entre SIGReg y VICReg:

Preservación de Límites: Solo SIGReg garantiza la preservación del límite de sorpresa de la AIF; VICCl no lo hace.
Isotropía: SIGReg lleva el número de condición $\kappa$ de los embebimientos a 1 (isotropía perfecta), mientras que VICReg deja un término de anisotropía irreducible.
Fidelidad de la Planificación: Bajo SIGReg, el costo de planificación es un proxy exacto para la energía libre esperada. Bajo VICReg, el valor pragmático y los términos de riesgo conllevan distorsión.
Predicciones Testables: El artículo enumera cinco predicciones para la validación empírica (p. ej., los embebimientos de SIGReg deberían tener $\kappa \approx 1$ y una mayor correlación de Spearman entre el costo de planificación y el éxito de la tarea en comparación con VICReg). Estas se presentan como consecuencias teóricas para ser probadas en trabajos separados.

Significancia y Reivindicaciones
El artículo sostiene que el regularizador anti-colapso no es meramente un detalle de implementación, sino el componente que determina si el modelo de mundo JEPA es un válido proceso de energía libre de Inferencia Activa.

Criterio de Validez: El trabajo proporciona un criterio formal de validez de objetivo: el límite de sorpresa de la AIF sobrevive si y solo si el estimador de entropía es un límite inferior seguro o un ajuste exacto (como SIGReg), no un límite superior inseguro.
Unificación: Unifica el ecosistema desplegado de JEPA no contrastivo con la inferencia activa profunda, permitiendo que las herramientas de un campo informen al otro.
Exploración Basada en Principios: Transforma el heurístico de "añadir un bono de exploración" en una prescripción específica y con signo: el término faltante de valor estado-epistémico.
Modestia: Los autores declaran explícitamente que la correspondencia se mantiene exactamente bajo supuestos idealizados (modelo de ruido constante, límites de población). Reconocen que la brecha "estado-epistémica" es un hallazgo estructural del panorama actual de JEPA, no un defecto de la teoría, y que la identificabilidad lineal de los latentes en regímenes sobre-completos sigue siendo una pregunta empírica abierta. El artículo no pretende haber resuelto estos problemas empíricos, sino haber establecido las condiciones teóricas bajo las cuales serían resolubles.

Resumen Técnico: El Objetivo SIGReg como Energía Libre Variacional

Más como este