🤖 machine learning

Sub-JEPA: Subspace Gaussian Regularization for Stable End-to-End World Models

Dit artikel stelt Sub-JEPA voor, een methode die de stabiliteit en flexibiliteit van Joint-Embedding Predictive Architectures (JEPAs) voor wereldmodelleren verbetert door Gaussische regularisatie toe te passen in meerdere willekeurige deelruimten in plaats van de volledige omgevingsruimte, waardoor een superieur bias-variatie-evenwicht wordt bereikt en de state-of-the-art LeWorldModel wordt overtroffen.

Oorspronkelijke auteurs: Kai Zhao, Dongliang Nie, Yuchen Lin, Zhehan Luo, Yixiao Gu, Deng-Ping Fan, Dan Zeng

Gepubliceerd 2026-05-12

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Kai Zhao, Dongliang Nie, Yuchen Lin, Zhehan Luo, Yixiao Gu, Deng-Ping Fan, Dan Zeng

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Geheel: Een Robot Leren de Toekomst Te Verbeelden

Stel je voor dat je een robot leert een doolhof te navigeren. In plaats van de robot elke enkele baksteen in de muur en elk stofje op de vloer te laten zien (wat te veel data is), wil je dat het een "mentale kaart" leert. Deze kaart is een vereenvoudigde samenvatting van waar het zich bevindt en waar het naartoe gaat.

In de wereld van AI wordt deze mentale kaart een Wereldmodel genoemd. Een specifiek type model genaamd JEPA is populair omdat het efficiënt is: het voorspelt hoe de volgende mentale kaart eruit zal zien, gebaseerd op de huidige kaart en een actie (zoals "draai links").

Het Probleem: De "Te Streng" Leraar

Het paper identificeert een groot probleem met de manier waarop deze modellen momenteel worden getraind.

Stel je de mentale kaart van de robot voor als een student die een toets maakt. Om ervoor te zorgen dat de student niet cheat of opgeeft (een probleem genaamd "instorting", waarbij de student voor elke vraag hetzelfde antwoord geeft), legt de leraar een regel op: "Jouw antwoorden moeten perfect gelijkmatig verspreid zijn, zoals een perfecte cirkel van stippen."

Dit is wat de vorige methode, LeWorldModel (LeWM), deed. Het dwong de mentale kaart van de robot om te lijken op een perfecte, uniforme wolk van data in een enorme, hoogdimensionale ruimte.

Het Gebrek:
De auteurs betogen dat deze regel te streng is voor veel real-world taken.

De Analogie: Stel je een koorddanser voor. Hun beweging is complex, maar gebeurt voornamelijk langs één enkele, dunne lijn (het koord). Als je de koorddanser dwingt om in een perfecte 3D-sfeer rond het koord te bewegen, beperk je hun natuurlijke beweging. Je dwingt hen om in richtingen te bewegen die ze niet hoeven te gebruiken.
In technische termen zegt het paper dat real-world taken vaak leven op "laagdimensionale variëteiten" (simpele paden) binnen een "hoogdimensionale ruimte" (een enorme, lege kamer). Het dwingen van data om de hele kamer gelijkmatig te vullen, creëert een slechte bias die de prestaties schaadt.

De Oplossing: Sub-JEPA (De "Subruimte" Aanpak)

De auteurs stellen Sub-JEPA voor. In plaats van de mentale kaart van de robot te dwingen een perfecte sfeer te zijn in de hele enorme kamer, breken ze de kamer op in vele kleinere, willekeurige "sub-kamers" (subruimten).

Hoe het werkt:

De Data Snijden: Stel je voor dat je de mentale kaart van de robot in vele verschillende, willekeurige 2D- of 3D-weergaven snijdt (zoals het bekijken van een sculptuur vanuit vele verschillende hoeken).
De Sneden Controleren: In elk van deze kleine sneden controleert het model of de data eruit ziet als een mooie, gelijkmatige klokkromme (een Gaussische verdeling).
Het Resultaat: Het model hoeft geen perfecte sfeer te zijn in de grote kamer. Het hoeft alleen maar "mooi en gelijkmatig" te lijken in deze kleinere, willekeurige sneden.

Het Voordeel:
Dit is als de koorddanser vertellen: "Je hoeft de hele 3D-kamer niet te vullen. Zorg er gewoon voor dat als we je van de zijkant bekijken, je gebalanceerd lijkt, en als we je van voren bekijken, je gebalanceerd lijkt."

Het behoudt het veiligheidsnet (het voorkomt dat de robot instort in een saai, repetitief antwoord).
Maar het geeft de robot vrijheid om natuurlijk te bewegen langs het daadwerkelijke pad van de taak, in plaats van te vechten tegen een kunstmatige, te strenge regel.

Wat de Experimenten Toonden

De onderzoekers testten dit op vier verschillende videospel-achtige controletaken (zoals een robotarm die een blok duwt of een drone die door kamers vliegt).

Betere Prestaties: Sub-JEPA sloeg consequent de oude methode (LeWM). De robot leerde beter te plannen en te bewegen.
De "Rank" Connectie: Ze maten hoe "complex" de mentale kaart van de robot was. Ze ontdekten dat wanneer de nieuwe methode de kaart toeliet om eenvoudiger te worden (compacter, beter passend bij de daadwerkelijke taak), de robot slimmer werd. De oude methode dwong de kaart om onnodig complex te zijn.
Smoorere Paden: Toen ze de mentale reis van de robot visualiseerden, produceerde de nieuwe methode strakkere, soepelere lijnen. De oude methode liet de gedachten van de robot over tijd wiebelen en afdrijven.
Lange-termijn Stabiliteit: Toen ze werden gevraagd om een lange reeks toekomstige bewegingen te verbeelden zonder naar de realiteit te kijken, bleef de nieuwe methode langer accuraat. De oude methode begon te hallucineren en van koers te raken.

Samenvatting

Sub-JEPA is een simpele oplossing voor een complex probleem. Het realiseert zich dat het dwingen van AI-modellen om "perfect uniform" te zijn in een gigantische, abstracte ruimte vaak te beperkend is. Door in plaats daarvan te controleren op orde in vele kleinere, willekeurige sneden van die ruimte, laat het de AI toe om een meer natuurlijke, efficiënte en stabiele begrijping van de wereld te leren.

Het is het verschil tussen het dwingen van een vis om in een perfecte kubus te zwemmen (oude methode) versus het toelaten dat het natuurlijk in het water zwemt, zolang het maar gebalanceerd blijft wanneer het vanuit elke hoek wordt bekeken (nieuwe methode).

Technische Samenvatting: Sub-JEPA

Probleemstelling

Joint-Embedding Predictive Architectures (JEPAs) bieden een raamwerk voor het leren van wereldmodellen door toekomstige latente representaties te voorspellen zonder ruwe pixels te reconstrueren. Het eind-tot-eind trainen van deze modellen staat echter voor een kritieke bias-variatie trade-off. Zonder voldoende beperkingen stort de encoder in op triviale oplossingen (het afbeelden van alle invoer op identieke embedding); omgekeerd onderdrukken te sterke beperkingen de rijkdom van de geleerde representaties.

Recent werk, LeWorldModel (LeWM), loste dit op door een isotrope Gaussische prior toe te passen op de latente embedding, wat stabiel eind-tot-eind trainen mogelijk maakte. De auteurs identificeren echter een fundamentele beperking in deze aanpak: natuurlijke controletaken bevinden zich doorgaans op laagdimensionale variëteiten binnen hoogdimensionale omgevingsruimten. Het afdwingen van een globale isotrope Gaussische prior direct in de hoogdimensionale omgevingsruimte introduceert een overmatig sterke bias die niet overeenkomt met de intrinsieke geometrie van de onderliggende dynamiek, wat de prestaties op taken met lage intrinsieke dimensionaliteit kan belemmeren.

Methodologie: Sub-JEPA

De auteurs stellen Sub-JEPA (Subspace Gaussian Regularization) voor, een methode die een gunstig operationeel punt op de bias-variatie-grens zoekt door Gaussische beperkingen te verplaatsen van de omgevingsruimte naar meerdere laagdimensionale deelruimten.

Kernmechanisme

Orthogonale Projectie op Deelruimten: In plaats van de volledige $D$ -dimensionale latente vector $z$ te regulariseren, projecteert de methode $z$ op $K$ bevroren, rij-orthonormale willekeurige projectiematrices $\{P_k\}$ . Elke projectie beeldt de latente vector af op een laagdimensionale deelruimte met dimensie $d_s$ (waarbij $d_s \approx D/K$ ).
$z^{(k)} = P_k z$
Multi-Deelruimte Gaussische Regularisatie: De Gaussische beperking wordt onafhankelijk binnen elk van de $K$ $K$ deelruimten toegepast.
- Binnen elke deelruimte $k$ worden de geprojecteerde embedding verder geprojecteerd op $M$ willekeurige eenheidsvectoren.
- De Epps–Pulley normaliteitsstatistiek wordt berekend voor deze 1D-projecties om Gaussiënvorm af te dwingen.
- De totale regularisatieverlies $L_{reg}$ is het gemiddelde van deze statistieken over alle deelruimten en willekeurige richtingen.
Trainingsdoel: Het model wordt eind-tot-eind getraind met een gecombineerde verliesfunctie:
$L_{total} = L_{pred}(\hat{z}_{t+1}, z_{t+1}) + \lambda L_{reg}(Z)$
waarbij $L_{pred}$ de voorspellingsfout van de latente staat is (MSE) en $\lambda$ het regularisatiegewicht is.

Ontwerpkiezen

Bevroren Projecties: De projectiematrices worden orthogonaal geïnitieerd en blijven bevroren. Dit voorkomt dat de regularisator zich aanpast aan de evoluerende latente verdeling, waardoor de beperking stabiel en onafhankelijk blijft.
Orthogonaliteit: Het gebruik van orthogonale projecties zorgt ervoor dat de deelruimten niet-redundante, gebalanceerde weergaven van de latente representatie bieden, waardoor de geometrische structuur behouden blijft.

Belangrijkste Bijdragen

Identificatie van Bias: Het artikel identificeert dat de globale isotrope Gaussische prior in LeWM een overmatige bias introduceert voor taken met lage intrinsieke dimensionaliteit, wat niet overeenkomt met de onderliggende geometrie van de taak.
Sub-JEPA Raamwerk: De auteurs stellen een methode voor die de globale prior verlicht door Gaussische regularisatie toe te passen over meerdere willekeurige, laagdimensionale, rij-orthonormale geprojecteerde weergaven. Dit behoudt het anti-instortings-effect terwijl het latente ruimte beter kan aansluiten bij de intrinsieke dimensionaliteit van de dynamiek.
Empirische Validatie: Uitgebreide experimenten in vier continu-controle-omgevingen tonen aan dat Sub-JEPA consistent beter presteert dan LeWM. De prestatiewinsten blijken te correleren met verminderingen in de effectieve rang van de geleerde embedding, wat bevestigt dat de methode de intrinsieke dimensionaliteit beter respecteert.

Experimentele Resultaten

De methode werd geëvalueerd op vier continu-controle-benchmarks: Two-Room (lage intrinsieke dimensionaliteit), Reacher, PushT en OGB-Cube (visueel rijk 3D).

Planningsprestaties: Sub-JEPA presteerde consistent beter dan LeWM in alle omgevingen. De verbetering was het meest opvallend bij Two-Room, waar de full-space Gaussische prior van LeWM het meest mismatchte met de lage dimensionaliteit van de taak. Sub-JEPA overtrof ook PLDM (een multi-objectieve baseline) en DINO-WM (een baseline met bevroren encoder) op verschillende taken zonder te vertrouwen op vooringeschoolde visuele backbones.
Analyse van Effectieve Rang: Er werd een directe correlatie waargenomen tussen de vermindering van de effectieve rang (van LeWM naar Sub-JEPA) en de toename van het planningsuccesspercentage. Taken met grotere rangcompressies (Two-Room, OGB-Cube) vertoonden de grootste prestatiewinsten.
Fysische Decodeerbaarheid: Probeerexperimenten in de PushT-omgeving toonden aan dat Sub-JEPA-representaties fysische staat-informatie (agentlocatie, bloklocatie) even goed of beter behielden dan LeWM, met verbeterde niet-lineaire decodeerbaarheid.
Kwaliteit van Latente Trajecten:
- Temporele Coherentie: Visualisaties toonden aan dat Sub-JEPA temporeler coherentere latente trajecten produceerde in vergelijking met de minder georganiseerde evolutie in LeWM.
- Rechtmaken van Pad: Sub-JEPA bereikte een hogere "rechtheid" in latente snelheidsvectoren, wat wijst op soepelere, meer lineair evoluerende dynamiek, wat cruciaal is voor planning.
- Stabiliteit op Lange Horizont: In open-loop rollouts behield Sub-JEPA de scene-geometrie en vertoonde het minder ruimtelijke drift over lange horizonten in vergelijking met LeWM.

Betekenis en Beweringen

Het artikel beweert dat Sub-JEPA een eenvoudige maar effectieve oplossing biedt voor de bias-variatie trade-off in op JEPA gebaseerde wereldmodellen. Door Gaussische regularisatie te verplaatsen naar deelruimten, doet de methode het volgende:

Verlicht de globale isotrope prior zonder de anti-instortingsvoordelen te verliezen.
Past beter aan bij de intrinsieke dimensionaliteit van de onderliggende dynamiek, met name voor taken waarbij de staatsruimte laagdimensionaal is.
Dient als een sterke baseline voor toekomstig onderzoek naar op JEPA gebaseerde wereldmodellen, en toont aan dat structurele beperkingen kunnen worden vereenvoudigd en flexibeler kunnen worden gemaakt zonder stabiliteit op te offeren.

De auteurs benadrukken dat hun aanpak de eenvoud van het LeWM-trainingsrecept behoudt (alleen gebruikmakend van voorspellingsverlies en een regularisator), terwijl het een flexibeler structurele prior introduceert die superieure planningsprestaties en representatiekwaliteit oplevert.