Technische Samenvatting: Temporaal Gecentreerde SIGReg Verbetert Multi-Task World Model Leren

1. Probleemstelling

Recente vooruitgang in LeWorldModel (LeWM) heeft aangetoond dat de Sketched Isotropic Gaussian Regularizer (SIGReg) stabiel, end-to-end world-model leren mogelijk maakt direct vanuit pixels, zonder reconstructie of beloningssupervisie. SIGReg voorkomt representatie-instorting door de marginale latente distributie te regulariseren naar een isotrope Gaussische verdeling met behulp van het Epps–Pulley (EP) normaliteitscriterium.

Deze aanpak vertoont echter een kritieke foutmodus in scenario's met multi-task leren. Hoewel effectief in single-task settings, leidt het toepassen van marginale SIGReg op gezamenlijke multi-task training tot aanzienlijk verslechterde downstream behavior-cloning prestaties. Op de LIBERO-Long benchmark daalt de gemiddelde succesratio van een standaard LeWM van 40,0% (single-task training) naar 29,9% (10-task gezamenlijke training), waarbij acht van de tien taken verslechteren.

Het artikel identificeert dat hoewel de globale representatie statistisch niet is ingestort, de marginale Gaussianisering de scheiding tussen taakafhankelijke latente clusters comprimeert ten opzichte van de variatie binnen de clusters. Deze compressie induceert representatie-aliasing, waarbij verschillende taken of toestanden in elkaar overlappende latente codes mappen, wat de geleerde representaties zeer gevoelig maakt voor kleine visuele perturbaties en ongeschikt maakt voor downstream controle-policies.

2. Methodologie: Temporaal Gecentreerde LeWorldModel (TC-LeWM)

Om het conflict tussen marginale Gaussische priors en multi-task latente structuren op te lossen, stellen de auteurs TC-LeWM voor, die de regularisatietarget van SIGReg wijzigt.

Kernmechanisme

In plaats van SIGReg toe te passen op de volledige latente marginale distributie ($Z$), deelt TC-LeWM de latente representatie $z_t$ op in twee componenten:

1. Lokale Temporele Gemiddelde ($\bar{z}_t$): Legt laagfrequente, taakafhankelijke en contextafhankelijke structuren vast.
   $$\bar{z}_t = \frac{1}{|W_t|} \sum_{s \in W_t} z_s$$
2. Gecentreerd Residu ($r_t$): Legt complementaire variaties op kortere tijdschalen vast.
   $$r_t = z_t - \bar{z}_t$$

Het model optimaliseert de standaard voorspellingsverlies ($L_{pred}$) samen met een SIGReg-term die alleen wordt toegepast op de temporeel gecentreerde residuen ($R$):
$$L_{TC} = L_{pred} + \lambda L_{SIGReg}(R)$$

Theoretische Rechtvaardiging

• Verwijdering van Contractieve Druk: De auteurs demonstreren via Monte Carlo-analyse dat de EP-objectief een "contractieve druk" uitoefent op de scheiding van componentcentra in een mengmodel. Door SIGReg toe te passen op de residuen ($r_t$) in plaats van de volledige latente ($z_t$), verwijdert de methode de directe regularisatiedruk op de scheiding van de laagfrequente taakclusters ($\bar{z}_t$).
• Behoud van Anti-Instorting: De residu-target bestraft nog steeds temporeel ingestorte representaties. Als de latente $z_t$ constant wordt binnen een venster, wordt het residu $r_t$ nul, wat leidt tot een degeneratieve distributie die EP bestraft. Dit zorgt ervoor dat de representatie niet-degeneratief en voorspelbaar blijft zonder de taakclusters te dwingen samen te smelten.

3. Belangrijkste Bijdragen

1. Identificatie van Multi-Task Foutmodus: Het artikel identificeert dat marginale SIGReg representatie-aliasing tussen taken induceert door de scheiding tussen taakafhankelijke latente clusters te comprimeren, zelfs wanneer globale niet-instorting behouden blijft.
2. Voorstel van TC-SIGReg: Een nieuwe regularisatiestrategie die SIGReg toepast op temporeel gecentreerde residuen. Deze aanpak ontkoppelt de anti-instortingsbeperking van de structurele scheiding van taakspecifieke clusters.
3. Empirische Validatie: Demonstratie dat TC-LeWM de downstream controle-prestaties consistent verbetert over single-task, 10-task, en uniforme 40-task trainingsregimes op de LIBERO benchmark.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op de LIBERO benchmark (Spatial, Object, Goal, en Long suites) met behulp van een tweestaps-pipeline: world-model pretraining gevolgd door frozen-encoder behavior cloning.

Prestatie-metrieken

• 10-Task Gezamenlijke Training: TC-LeWM verbeterde de gemiddelde succesratio over vier suites van 53,2% (Raw LeWM) naar 73,6%. De meest significante winsten werden waargenomen in de Object (+41,4 punten) en Long (+21,9 punten) suites.
• Uniforme 40-Task Training: Onder een uniforme 40-task setting daalde de prestatie van Raw LeWM naar 44,4%, terwijl TC-LeWM 73,5% behield (een verwaarloosbare daling van 0,1%). Het prestatieverschil werd vergroot tot 29,1 procentpunten.
• Vergelijking met Baselines: Zonder externe pretraining presteerde TC-LeWM iets beter dan een Diffusion Policy getraind vanaf nul (73,6% vs. 72,4%) en benaderde het de prestaties van fine-tuned grootschalige pretrained baselines zoals Octo (75,1%) en OpenVLA (76,5%).

Latente Structuur Analyse

• Geometrie: Raw LeWM vertoonde uitgebreide taakoverlap en gefragmenteerde trajecten in de latente ruimte. TC-LeWM organiseerde representaties in aaneengesloten, taak- en scène-gerelateerde structuren langs een gebogen laagdimensionale manifold.
• Cluster Scheiding: De genormaliseerde cluster spreiding ($\rho$) nam toe van 0,74 (Raw LeWM) naar 2,54 (TC-LeWM), wat duidt op een betere scheiding van taakafhankelijke structuren.
• Robuustheid: TC-LeWM demonstreerde aanzienlijk kleinere relatieve latente verplaatsing onder acht soorten visuele perturbaties (translatie, rotatie, ruis, occlusie, etc.), wat wijst op een grotere robuustheid tegen out-of-distribution conditionering.

5. Betekenis en Claims

Het artikel beweert een structurele incompatibiliteit te hebben onthuld tussen marginale Gaussische priors en multi-task latente structuren. Door de doelstelling van de regularisatie te verschuiven naar temporeel gecentreerde residuen, bieden de auteurs een eenvoudige route naar stabiel en schaalbaar end-to-end multi-task world-model leren.

Het werk suggereert dat globale niet-instorting onvoldoende is voor multi-task controle; de geometrie van de latente ruimte moet taakafhankelijke onderscheidend vermogen behouden. TC-LeWM bereikt dit door de anti-instortingsvoordelen van SIGReg te behouden terwijl de "over-regularisatie" die verschillende taakclusters samenvoegt, wordt vermeden. De auteurs positioneren dit als een fundamentele stap voor toekomstig werk met grotere reward-free datasets en integratie met Vision-Language Action Models, hoewel zij geen directe inzetbaarheid in open-world fysieke robots buiten de scope van de benchmark claimen.