🤖 machine learning

The SIGReg Objective as Variational Free Energy: A Theoretical Active-Inference Account of JEPA World Models

Cet article établit un cadre d'inférence active théorique pour les architectures de type Joint-Embedding Predictive Architectures (JEPA), prouvant que le régularisateur SIGReg transforme de manière unique l'objectif d'entraînement en une énergie libre variationnelle valide en éliminant l'écart de mésétalonnage du prior, là où d'autres régulariseurs communs échouent à préserver les bornes de surprise nécessaires.

Auteurs originaux : Fabio Arnez, Alexandra Gomez-Villa

Publié 2026-07-16

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Fabio Arnez, Alexandra Gomez-Villa

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot à comprendre le monde. Vous ne voulez pas qu'il se contente de mémoriser chaque pixel d'une vidéo (ce qui est impossible et gaspille des ressources) ; vous voulez qu'il se construise une carte mentale, une version compressée et « latente » de la réalité où il peut prédire ce qui va se passer ensuite. C'est le rêve des Architectures Prédictives à Emplacements Conjoints (JEPA). Voyez cela comme un étudiant qui prend des notes : au lieu de recopier mot pour mot l'intégralité du cours de son professeur, il note les concepts clés et les relations entre eux.

Mais il y a un piège. Lorsque vous compressez l'information, vous risquez de perdre les détails importants ou, pire encore, le robot pourrait tricher en réduisant toutes ses notes à une seule réponse ennuyeuse du type « tout est identique ». Pour empêcher cette triche, les scientifiques utilisent une règle spéciale appelée régularisateur. C'est comme un professeur avec un stylo rouge qui dirait : « Hé, assurez-vous que vos notes sont diverses et bien réparties ! »

À l'autre bout de l'univers, il existe une théorie appelée Inférence Active. Cette théorie suggère que des êtres intelligents (comme nous ou les robots) agissent pour minimiser la « surprise ». Nous construisons un modèle du monde, et quand la réalité ne correspond pas à notre modèle, nous ressentons de la « surprise » (ou, en termes mathématiques, nous avons une « énergie libre » élevée). Pour survivre, nous devons soit modifier notre modèle, soit modifier nos actions pour mieux nous adapter au monde. La grande question que les scientifiques se posent est la suivante : les astuces que nous utilisons pour entraîner ces preneurs de notes robotiques (JEPA) sont-elles réellement les mêmes mathématiques que les règles qui régissent la minimisation de la surprise (Inférence Active) ? Jusqu'à présent, nous n'avons fait que deviner en nous basant sur la performance des robots, mais nous n'avions pas de preuve stricte.

Ce papier est comme une histoire de détective qui connecte enfin les points entre ces deux mondes. Les auteurs, Fabio Arnez et Alexandra Gomez-Villa, étudient un type spécifique de « règle anti-triche » utilisée dans l'entraînement moderne des robots. Ils se demandent : la règle que nous utilisons pour garder les notes du robot diversifiées garantit-elle réellement que le robot minimise la surprise de la manière mathématiquement correcte ?

La réponse dépend entièrement de quelle règle vous choisissez. Les auteurs organisent quatre règles différentes en une hiérarchie, comme une échelle de précision. Au bas de l'échelle, vous avez des règles populaires comme VICReg. Elles sont « peu sûres ». Imaginez un étudiant qui essaie de maximiser sa note en gonflant son score lors d'un faux examen. Le professeur (les mathématiques) voit un score élevé, mais l'étudiant n'a rien appris de concret. De la même manière, VICReg peut tromper le robot en lui faisant croire qu'il possède une carte diversifiée et informative alors qu'en réalité, ce n'est pas le cas. Cela fixe une « borne supérieure » sur la connaissance du robot, ce qui signifie que le robot peut penser qu'il réussit brillamment alors qu'il échoue en réalité à comprendre le monde.

Ensuite, il y a une règle appelée SIGReg. Les auteurs prouvent que c'est le « ticket gagnant ». Contrairement aux autres, SIGReg ne se contente pas de deviner ou d'approximer ; elle force la carte mentale du robot à être parfaitement équilibrée et répartie (mathématiquement, un « gaussien isotrope »). Lorsque le robot utilise SIGReg, les mathématiques changent complètement. L'« écart » entre ce que le robot pense savoir et ce qu'il sait réellement disparaît. Soudain, l'objectif d'entraînement du robot devient une correspondance exacte avec la formule de l'Inférence Active. Ce n'est plus une approximation grossière ; c'est une traduction parfaite.

Le papier montre que si vous utilisez SIGReg, l'objectif du robot de « minimiser l'erreur de prédiction » est exactement le même que celui de « minimiser la surprise ». De plus, les auteurs découvrent une pièce manquante dans les cerveaux des robots actuels. Bien que ces robots soient excellents pour planifier l'avenir afin d'atteindre un but (valeur pragmatique), il leur manque un signal de « curiosité » spécifique. Ils n'ont pas de moteur interne pour explorer de nouveaux états juste pour en apprendre davantage sur le futur (valeur épistémique de l'état). Le papier souligne que c'est la pièce du puzzle que les robots actuels ignorent.

Les auteurs précisent avec prudence que, bien que les mathématiques soient prouvées exactes sous des conditions spécifiques (comme lorsque les données d'entraînement du robot sont infinies et que le bruit est constant), le test du monde réel reste à venir. Ils ont construit un pont théorique, mais ils n'ont pas encore fait traverser la voiture. Ils prédisent que les robots entraînés avec SIGReg seront plus stables, meilleurs pour la planification et plus « honnêtes » sur ce qu'ils savent que ceux entraînés avec les anciennes méthodes. Mais ils laissent le verdict final aux futures expérimentations.

En résumé, ce papier nous dit que le secret pour construire un robot véritablement « actif » — un robot qui apprend et agit comme un explorateur curieux — réside peut-être simplement dans le remplacement d'une vieille règle légèrement défectueuse par une nouvelle règle mathématiquement parfaite. Cela transforme un tour de passe-passe heuristique en un principe scientifique rigoureux, montant précisément comment faire en sorte que le cerveau d'un robot s'aligne sur les lois de la physique et de l'information.

Résumé Technique : L'objectif SIGReg comme Énergie Libre Variationnelle

Énoncé du Problème
Les architectures de type Joint-Embedding Predictive Architectures (JEPA) sont devenues le design dominant pour les modèles de monde latents, pourtant leurs objectifs d'entraînement sont typiquement justifiés par des performances empiriques plutôt que par des principes normatifs. Un fossé théorique critique existe dans la compréhension de la manière dont les régulariseurs non-contrastifs utilisés pour prévenir l'effondrement représentationnel (ex: VICReg) se rapportent à l'énergie libre variationnelle de l'Inférence Active (AIF).

Le problème central est que les objectifs JEPA standards approchent le terme d'information mutuelle (informativité) de l'énergie libre de l'AIF en utilisant des régulariseurs non-contrastifs. Sous le modèle standard d'encodeur à bruit constant, maximiser l'informativité est équivalent à maximiser l'entropie différentielle marginale des plongements (embeddings), $h(Z)$ . Cependant, des estimateurs comme VICReg approchent cette entropie via les deux premiers moments (variance et covariance). L'article soutient que cette approximation introduit un « écart de décalage de l'a priori » (prior-miscalibration gap). Crucialement, parce que VICReg agit comme une borne supérieure « non sûre » sur la véritable entropie (via l'inégalité de Hadamard et le théorème de l'entropie maximale), la maximisation de celle-ci ne garantit pas une augmentation de la véritable entropie. Cette borne supérieure « non sûre » signifie que l'objectif résultant peut ne pas préserver la borne de surprise de l'AIF ( $F \ge -\ln p(x)$ ), sapant la validité normative du JEPA en tant qu'agent d'AIF.

Méthodologie
Les auteurs développent un cadre théorique pour analyser la relation entre les régulariseurs JEPA et l'énergie libre de l'AIF à travers trois étapes principales :

Hiérarchie des Estimateurs d'Entropie : L'article catégorise quatre régulariseurs non-contrastifs (VICReg, LogDet, PairDist et SIGReg) basés sur une « décomposition à trois sources d'écart ». Cette décomposition fragmente l'erreur entre la véritable entropie $h(Z)$ et son proxy $\hat{H}(Z)$ en :
- Écart I (Non-Gaussianité) : La différence entre la distribution réelle et une référence gaussienne.
- Écart II (Covariance hors-diagonale) : L'erreur introduite par l'hypothèse d'une matrice de covariance diagonale (ignorant les corrélations).
- Écart III (Erreur d'estimation) : L'erreur résiduelle de l'estimateur lui-même.
  La hiérarchie classe les régulariseurs selon qu'ils incorporent ces écarts et s'ils agissent comme des bornes inférieures sûres ou des bornes supérieures non sûres.
La Correspondance SIGReg–AIF : Les auteurs introduisent SIGReg (Sketched Isotropic Gaussian Regularisation), qui impose une distribution gaussienne isotrope sur les plongements via des tests de gaussianité par projection aléatoire. Ils prouvent que sous l'application réussie de SIGReg, l'écart de décalage de l'a priori disparaît ( $\Delta = 0$ ).
Preuves Théoriques et Extensions :
- Étape Unique (Single-Step) : Ils prouvent qu'avec SIGReg, l'objectif JEPA devient une décomposition exacte de l'Information Bottleneck (IB) et une énergie libre d'AIF valide, préservant la borne de surprise.
- Multi-étapes et Planification : La correspondance est étendue à l'énergie libre attendue (EFE) multi-étapes, montrant que le terme de complexité se compose exactement sous des régimes de déploiement spécifiques (ex: contrôle prédictif de modèle avec replanification).
- Régime de Politique : L'article analyse les politiques apprises, montrant que sous SIGReg, l'objectif de politique correspond exactement à la distribution de Boltzmann sur l'énergie libre attendue.

Contributions Clés

Hiérarchie de l'Estimateur d'Entropie : L'article établit une hiérarchie formelle des régulariseurs non-contrastifs. Il démontre que VICReg et LogDet sont des bornes supérieures « non sûres » qui ne garantissent pas la préservation de la borne de surprise de l'AIF, tandis que PairDist est une borne inférieure « sûre ». SIGReg est identifié comme le premier estimateur qui est simultanément sûr (aucun risque de borne supérieure) et exact (élimine les trois sources d'écart en imposant une gaussianité isotrope).
Le Théorème de Correspondance (Théorème 1) : Les auteurs prouvent que remplacer VICReg par SIGReg élève la correspondance AIF de l'approximation à l'exactitude. Sous le modèle de bruit constant et une application réussie de SIGReg :
- L'écart d'entropie disparaît.
- L'objectif admet une décomposition IB exacte.
- La borne de surprise de l'AIF est préservée.
- Le coût du but latent devient un proxy exact pour la valeur pragmatique de l'AIF (contrairement à VICReg, qui laisse un terme d'anisotropie irréductible en $O(\delta^2)$ ).
Identification de l'Écart « État-Épistémique » : L'article identifie un terme spécifique dans l'énergie libre attendue de l'AIF — la valeur état-épistémique (un signal de couverture des états futurs pilotant l'exploration) — qui est absent de tous les modèles de monde JEPA actuels. Bien que les proxys de variance d'ensemble paramètrent le gain d'information, aucun JEPA actuel ne calcule l'entropie marginale des états futurs conditionnés par une politique.
Preuves Vérifiées par Machine : Le cœur algébrique des résultats, incluant la décomposition des écarts et les théorèmes de correspondance, est vérifié par machine en Lean 4, assurant la cohérence logique des dérivations.

Résultats et Prédictions
L'article dérive plusieurs conséquences théoriques qui diffèrent qualitativement (par nature, et non par degré) entre SIGReg et VICREG :

Préservation de la Borne : Seul SIGReg garantit la prés嘛tion de la borne de surprise de l'AIF ; VICReg ne le fait pas.
Isotropie : SIGReg pousse le nombre de conditionnement $\kappa$ des plongements vers 1 (isotropie parfaite), alors que VICReg laisse un terme d'anisotropie irréductible.
Fidélité de la Planification : Sous SIGReg, le coût de planification est un proxy exact pour l'énergie libre attendue. Sous VICReg, la valeur pragmatique et les termes de risque comportent des distorsions.
Prédictions Testables : L'article liste cinq prédictions pour la validation empirique (ex: les plongements SIGReg devraient avoir $\kappa \approx 1$ et une corrélation de Spearman plus élevée entre le coût de planification et le succès de la tâche par rapport à VICReg). Celles-ci sont énoncées comme des conséquences théoriques à tester dans des travaux séparés.

Signification et Revendications
L'article affirme que le régulariseur anti-effondrement n'est pas simplement un détail d'implémentation, mais la composante qui détermine si un modèle de monde JEPA est un objectif valide d'énergie libre d'Inférence Active.

Critère de Validité : Ce travail fournit un critère formel de validité d'objectif : la borne de surprise de l'AIF survit si et seulement si l'estimateur d'entropie est une borne inférieure sûre ou une correspondance exacte (comme SIGReg), et non une borne supérieure non sûre.
Unification : Il unifie l'écosystème JEPA non-contrastif déployé avec l'inférence active profonde, permettant aux outils de l'un d'informer l'autre.
Exploration Principée : Il transforme le heuristique « ajouter un bonus d'exploration » en une prescription signée spécifique : le terme manquant de valeur état-épistémique.
Modestie : Les auteurs précisent explicitement que la correspondance est exacte sous des hypothèses idéalisantes (modèle de bruit constant, limites de population). Ils reconnaissent que l'écart « état-épistémique » est un résultat structurel du paysage actuel des JEPA, et non un défaut de la théorie, et que la l'identifiabilité linéaire des latents dans les régimes sur-complets reste une question empirique ouverte. Le papier ne prétend pas avoir résolu ces problèmes empiriques, mais avoir établi les conditions théoriques sous lesquelles ils seraient solubles.

Articles similaires