🤖 machine learning

The SIGReg Objective as Variational Free Energy: A Theoretical Active-Inference Account of JEPA World Models

Dit artikel vestigt een theoretisch Active Inference-raamwerk voor Joint-Embedding Predictive Architectures (JEPA's), waarbij wordt bewezen dat de SIGReg-regularisator de trainingsdoelstelling uniek transformeert naar een geldige variationele vrije energie door het gat in de prior-miscalibratie te elimineren, terwijl andere veelvoorkomende regularisatoren er niet in slagen de noodzakelijke verrassingsgrenzen te behouden.

Oorspronkelijke auteurs: Fabio Arnez, Alexandra Gomez-Villa

Gepubliceerd 2026-07-16

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Fabio Arnez, Alexandra Gomez-Villa

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren de wereld te begrijpen. Je wilt niet dat hij simpelweg elke pixel van een video uit het hoofd leert (wat onmogelijk en verspillend is); je wilt dat hij een mentale kaart opbouwt, een gecomprimeerde "latente" versie van de werkelijkheid waarin hij kan voorspellen wat er hierna gebeurt. Dit is de droom van Joint-Embedding Predictive Architectures (JEPA's). Denk aan een student die aantekeningen maakt: in plaats van de hele lezing van de docent woord voor woord over te schrijven, schrijft de student de kernconcepten en de relaties tussen die concepten op.

Maar er is een addertje onder het gras. Wanneer je informatie comprimeert, loop je het risico dat je de details verliest die er echt toe doen, of erger nog, de robot zou kunnen valsspelen door al zijn aantekeningen te reduceren tot één enkel, saai "alles is hetzelfde"-antwoord. Om dit valsspelen te stoppen, gebruiken wetenschappers een speciale regel genaamd een regularisator. Het is als een docent met een rode pen die zegt: "Hé, zorg ervoor dat je aantekeningen divers en verspreid zijn!"

Aan de andere kant van het universum bestaat een theorie genaamd Active Inference. Deze theorie suggereert dat intelligente wezens (zoals wij of robots) handelen om "verrassing" te minimaliseren. Wij bouwen een model van de wereld, en wanneer de werkelijkheid niet overeenkomt met ons model, voelen we ons "verrast" (of in wiskundige termen: we hebben een hoge "vrije energie"). Om te overleven, passen we ofwel ons model aan, ofwel onze acties om beter bij de wereld te passen. De grote vraag die wetenschappers zich altijd hebben gesteld is: Zijn de trucs die we gebruiken om deze robot-notisten (JEPA's) te trainen, eigenlijk dezelfde wiskunde als de regels die bepalen hoe wij verrassing minimaliseren (Active Inference)? Tot nu toe hebben we vooral gegokt op basis van hoe goed de robots presteren, maar we hadden geen strikt bewijs.

Dit artikel is als een detectivespel dat eindelijk de verbanden legt tussen deze twee werelden. De auteurs, Fabio Arnez en Alexandra Gomez-Villa, onderzoeken een specif kind van "anti-valsspelregel" die wordt gebruikt bij het trainen van moderne robots. Ze vragen zich af: Garandeert de regel die we gebruiken om de aantekeningen van de robot divers te houden, ook daadwerkelijk dat de robot verrassing minimaliseert op de wiskundig correcte manier?

Het antwoord hangt volledig af van welke regel je kiest. De auteurs ordenen vier verschillende regels in een hiërarchie, als een ladder van precisie. Onderaan heb je populaire regels zoals VICReg. Deze zijn "onveilig". Stel je een student voor die probeert zijn cijfer te maximaliseren door zijn score op een nepexamen op te blazen. De docent (de wiskunde) ziet een hoge score, maar de student heeft eigenlijk niets geleerd. Op dezelfde manier kan VICReg de robot misleiden door hem te laten denken dat hij een diverse, informatieve kaart heeft, terwijl dat in werkelijkheid niet zo is. Het stelt een "bovengrens" aan de kennis van de robot, wat betekent dat de robot kan denken dat hij het geweldig doet, terwijl hij de wereld eigenlijk niet begrijpt.

Dan is er een regel genaamd SIGReg. De auteurs bewijzen dat dit de "golden ticket" is. In tegen tegenstelling tot de anderen, dwingt SIGReg de mentale kaart van de robot om perfect gebalanceerd en verspreid te zijn (wiskundig gezien een "isotrope Gaussische verdeling"); het gokt niet of benadert niet, maar dwingt dit af. Wanneer de robot SIGReg gebruikt, verandert de wiskunde volledig. De "kloof" tussen wat de robot denkt te weten en wat hij daadwerkelijk weet, verdwijnt. Plotseling wordt het trainingsdoel van de robot een exacte match voor de Active Inference-formule. Het is niet langer een ruwe schatting; het is een perfecte vertaling.

Het artikel laat zien dat als je SIGReg gebruikt, het doel van de robot om "voorspellingsfouten te minimaliseren" exact hetzelfde is als "verrassing minimaliseren". Bovendien ontdekken de auteurs dat er iets ontbreekt in de huidige robotbreinen. Hoewel deze robots erg goed zijn in het plannen naar een doel toe (pragmatische waarde), missen ze een specif kind "nieuwsgierigheids"-signaal. Ze hebben geen ingebouwde drang om nieuwe toestanden te verkennen (explore) puur om meer over de toekomst te leren (toestands-epistemische waarde). Het artikel wijst erop dat dit het ene puzzelstukje is dat de huidige robots negeren.

De auteurs zijn zeer voorzichtig in hun stelling dat hoewel de wiskunde onder specifieke omstandigheden (zoals wanneer de trainingsdata van de robot oneindig is en de ruis constant is) exact bewezen is, de test in de echte wereld nog moet komen. Ze hebben een theoretische brug gebouwd, maar ze hebben er nog geen auto overheen gereden. Ze voorspellen dat robots getraind met SIGReg stabieler zullen zijn, beter zullen kunnen plannen en "eerlijker" zullen zijn over wat ze weten dan robots die getraind zijn met oudere methoden. Maar ze laten het definitieve oordeel over aan toekomstige experimenten.

Kortom, dit artikel vertelt ons dat het geheim voor het bouwen van een echt "actieve" robot — één die leert en handelt als een nieuwsgierige ontdekkingsreiziger — misschien wel simpelweg het vervangen van een oude, licht defecte regel voor een nieuwe, wiskundig perfecte regel is. Het transformeert een heuristische truc in een rigoureus wetenschappelijk principe, en laat ons precies zien hoe we het brein van een robot kunnen afstemmen op de wetten van de fysica en informatie.

Technische Samenvatting: Het SIGReg-doel als Variational Free Energy

Probleemstelling
Joint-Embedding Predictive Architectures (JEPA's) zijn opgekomen als het dominante ontwerp voor latente wereldmodellen, maar hun trainingsdoelen worden doorgaans gerechtvaardigd door empirische prestaties in plaats van normatieve principes. Er bestaat een kritieke theoretische kloof in het begrijpen van hoe de niet-contrastieve regularisaties die gebruikt worden om representatieve instorting te voorkomen (bijv. VICReg), zich verhouden tot de variational free energy van Active Inference (AIF).

Het kernprobleem is dat standaard JEPA-doelen de mutual information (informativiteit) term van de AIF free energy benaderen met behulp van niet-contrastieve regularisaties. Onder het standaard constant-noise encoder model is het maximaliseren van informativiteit equivalent aan het maximaliseren van de marginale differentiële entropie van de embeddings, $h(Z)$ . Echter, estimators zoals VICReg benaderen deze entropie via de eerste twee momenten (variantie en covariantie). Het artikel betoogt dat deze benadering een "prior-miscalibratiekloof" introduceert. Cruciaal is dat omdat VICReg fungeert als een bovengrens op de ware entropie (via de ongelijkheid van Hadamard en het maximum-entropie theorem), het maximaliseren ervan geen toename van de ware entropie garandeert. Deze "onveilige" bovengrens betekent dat het resulterende doel de AIF surprise bound ( $F \ge -\ln p(x)$ ) mogelijk niet behoudt, wat de normatieve validiteit van de JEPA als een AIF-agent ondermijnt.

Methodologie
De auteurs ontwikkelen een theoretisch kader om de relatie tussen JEPA-regularisaties en AIF free energy te analyseren via drie hoofdstappen:

Entropie-estimator Hiërarchie: Het artikel categoriseert vier niet-contrastieve regularisaties (VICReg, LogDet, PairDist, en SIGReg) op basis van een "drie-bronnen kloofdecompositie". Deze decompositie breekt de fout tussen de ware entropie $h(Z)$ en een proxy $\hat{H}(Z)$ af in:
- Gap I (Niet-Gaussianiteit): Het verschil tussen de ware distributie en een Gaussische referentie.
- Gap II (Off-diagonal Covariance): De fout geïntroduceerd door de aanname van een diagonale covariantie-matrix (het negeren van correlaties).
- Gap III (Estimatie-fout): De resterende fout van de estimator zelf.
  De hiërarchie ordent regularisaties op basis van of ze deze gaten veroorzaken en of ze fungeren als een veilige ondergrens of een onveilige bovengrens.
De SIGReg–AIF Correspondentie: De auteurs introduceren SIGReg (Sketched Isotropic Gaussian Regularisation), die een isotrope-Gaussische distributie op embeddings afdwingt via random-projection Gaussianity testing. Ze bewijzen dat onder succesvolle SIGReg-afdwinging de prior-miscalibratiekloof verdwijnt ( $\Delta = 0$ ).
Theoretische Bewijzen en Extensies:
- Single-Step: Ze bewijzen dat met SIGReg het JEPA-doel een exacte Information Bottleneck (IB) decompositie en een geldige AIF free energy wordt, waarbij de surprise bound behouden blijft.
- Multi-Step & Planning: De correspondentie wordt uitgebreid naar multi-step expected free energy (EFE), waarbij wordt aangetoond dat de complexiteitsterm exact componeert onder specifieke deployment regimes (bijv. model-predictive control met replanning).
- Policy Regime: Het artikel analyseert geleerde policies, waarbij wordt getoond dat onder SIGReg het policy-doel exact correspondeert met de Boltzmann-distributie over expected free energy.

Kernbijdragen

Entropie-estimator Hiërarchie: Het artikel vestigt een formele hiërarchie van niet-contrastieve regularisaties. Het demonstreert dat VICReg en LogDet "onveilige" bovengrenzen zijn die geen toename van de AIF surprise bound garanderen, terwijl PairDist een "veilige" ondergrens is. SIGReg wordt geïdentificeerd als de eerste estimator die tegelijkertijd veilig (geen risico op bovengrens) en exact is (elimineert alle drie de bronnen van de kloof door isotrope Gaussianity af te dwingen).
Het Correspondentie Theorem (Theorem 1): De auteurs bewijzen dat het vervangen van VICReg door SIGReg de AIF-correspondentie upgrade van benaderend naar exact. Onder het constant-noise model en succesvolle SIGReg-afdwinging:
- Verdwijnt de entropiekloof.
- Beschikt het doel over een exacte IB-decompositie.
- Wordt de AIF surprise bound behouden.
- Is de latente doel-kost een exacte proxy voor AIF pragmatische waarde (in tegen tegenstelling tot VICReg, dat een irreducibele $O(\delta^2)$ anisotropie term achterlaat).
Identificatie van de "State-Epistemic" Kloof: Het artikel identificeert een specifieke term in de AIF expected free energy — de state-epistemic value (een toekomstige staat-dekking signaal dat exploratie stuurt) — die ontbreekt in alle huidige JEPA wereldmodellen. Hoewel ensemble variantie proxies informatiewinst parametriseren, berekent geen enkele huidige JEPA de marginale entropie van toekomstige staten geconditioneerd op een policy.
Machine-Geverifieerde Bewijzen: De algebraïsche kern van de resultaten, inclusief de kloofdecompositie en de correspondentie-theorema's, is machine-geverifieerd in Lean 4, wat de logische consistentie van de afleidingen waarborgt.

Resultaten en Voorspellingen
Het artikel leidt verschillende theoretische consequenties af die kwalitatief verschillen (door soort, niet door graad) tussen SIGReg en VICReg:

Bound Preservation: Alleen SIGReg garandeert het behoud van de AIF surprise bound; VICReg doet dat niet.
Isotropie: SIGReg drijft de embedding condition number $\kappa$ naar 1 (perfecte isotropie), terwijl VICReg een irreducibele anisotropie term achterlaat.
Planning Fidelity: Onder SIGReg is de planning-kost een exacte proxy voor de expected free energy. Onder VICReg dragen de pragmatische waarde en de risico-termen distortie.
Testbare Voorspellingen: Het artikel somt vijf specifieke voorspellingen op voor empirische validatie (bijv. SIGReg embeddings zouden een $\kappa \approx 1$ hebben en een hogere Spearman correlatie tussen planning-kost en taaksucces vergeleken met VICReg). Deze zijn gesteld als theoretische consequenties om in apart werk getest te worden.

Betekenis en Claims
Het artikel claimt dat de anti-collapse regularisator niet louter een implementatiedetail is, maar de component die bepaalt of een JEPA wereldmodel een geldige Active Inference free energy is.

Validatiecriterium: Dit werk biedt een formeel criterium voor de validiteit van een doel: de AIF surprise bound overleeft alleen en alleen als de entropie-estimator een veilige ondergrens of een exacte match is (zoals SIGReg), en niet een onveilige bovengrens.
Unificatie: Het verenigt het ingezette niet-contrastieve JEPA-ecosysteem met deep active inference, waardoor instrumenten uit het ene veld de ander kunnen informeren.
Geprincipeerde Exploratie: Het transformeert de heuristiek "voeg een exploratie bonus toe" naar een specifiek, gesigneerd voorschrift: de ontbrekende state-epistemic value term.
Bescheidenheid: De auteurs verklaren expliciet dat de correspondentie exact geldt onder idealiserende aannames (constant-noise model, populatielimieten). Ze erkennen dat de "state-epistemic" kloof een structurele bevinding is van het huidige JEPA-landschap, en geen defect van de theorie, en dat de lineaire identificeerbaarheid van latents in over-complete regimes een open empirische vraag blijft. Het artikel claimt niet deze empirische problemen te hebben opgelost, maar heeft de theoretische condities vastgesteld waaronder ze oplosbaar zouden zijn.

Meer zoals dit