🤖 machine learning

Multi-Horizon Consistency as Geometry: When Latent Dynamics Contract, and When They Do Not

Dit artikel onderzoekt multi-horizon latente consistentie in videovoorspellers en toont aan dat hoewel het verhogen van de overeenstemmingsgewicht ( $\lambda$ ) de latente dynamiek aanzienlijk doet krimpen en de voorspelfout op passieve datasets zoals Moving-MNIST vermindert, deze geometrische contractie niet generaliseert naar actie-geconditioneerde controle-domeinen of complexe video, wat een strikte domeinbeperking voor de techniek onthult.

Oorspronkelijke auteurs: Kavya Bhand, Aadi Joshi

Gepubliceerd 2026-07-27

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Kavya Bhand, Aadi Joshi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot leert om de toekomst te voorspellen. Je laat het de robot een video zien van een stuiterende bal en vraagt: "Waar zal de bal over tien seconden zijn?" Een goede robot gokt niet zomaar; hij bouwt een interne kaart van hoe de wereld werkt. In de wereld van kunstmatige intelligentie wordt deze interne kaart een "wereldmodel" genoemd. Om deze modellen slim te maken, trainen wetenschappers ze om consistent te zijn: als de robot het pad van de bal voor één seconde voorspelt, en dat vervolgens weer doet voor het volgende seconde, dan moeten die twee voorspellingen perfect op elkaar aansluiten. Dit is vergelijkbaar met het vragen aan een verhalenverteller om ervoor te zorgen dat het plot van hoofdstuk tot hoofdstuk niet tegenstrijdig is.

Echter, er is een lastig deel aan dit verhaal. Als je een robot dwingt om te consistent te zijn, kun je per ongeluk zijn verbeeldingskracht in toeren. Stel je een elastiekje voor: als je het te strak trekt, knapt het of stopt het volledig met rekken. In wiskundige termen maken wetenschappers zich zorgen over "expansie". Als een robots interne kaart te veel uitrekt wanneer hij ver in de toekomst kijkt, veranderen kleine foutjes in enorme missers, en raakt de robot de weg kwijt. De grote vraag waar onderzoekers zich de laatste tijd over buigen is: "Als we de knop voor consistentie strakker draaien, wordt de kaart van de robot dan stabiel en betrouwbaar, of wordt hij te rigide en breekt hij?" Dit artikel duikt precies in die vraag, waarbij de "consistentieknop" niet alleen wordt behandeld als een instelling om scores te verbeteren, maar als een instrument om de vorm van de geest van de robot te meten.

Het Experiment: De Consistentieknop Draaien

De auteurs van dit artikel besloten te stoppen met gissen en te beginnen met meten. Ze namen een standaard robotbrein (een type AI genaamd een "latent world model") en gaven het een specifieke trainingsopdracht: voorspellen wat er hierna gebeurt in een video. Ze introduceerden een variabele, die ze $\lambda$ (lambda) noemen, die fungeert als een "consistentiegewicht". Denk aan $\lambda$ als een volumeknop voor een regel die zegt: "Jouw voorspelling voor 20 seconden van nu moet overeenkomen met de som van jouw voorspellingen voor 1 seconde, 3 seconden, 5 seconden, enzovoort."

Ze wilden zien wat er gebeurt met de interne geometrie van de robot wanneer ze deze knop omhoog draaien. Specifiek zochten ze naar een magisch getal waarbij de voorspellingen van de robot ophouden met uitrekken (expanderen) en beginnen met krimpen (contracteren). In de wereld van de wiskunde is het een goed teken als een kaart krimpt, omdat fouten dan minder snel exploderen. Ze gebruikten een metriek genaamd $L_{20}$ om dit te meten. Als $L_{20}$ kleiner is dan 1, krimpt de kaart (veilig). Als het groter is dan 1, rekt de kaart uit (gevaarlijk).

De Verrassing: Het Hangt Af Van Wat Je Kijkt

De onderzoekers testten dit op twee zeer verschillende soorten video's, en de resultaten waren een verhaal van twee werelden.

1. De Bewegende Cijfers (Moving-MNIST)
Eerst trainden ze de robot op een eenvoudige, heldere video van handgeschreven cijfers (zoals 1's, 2's en 3's) die over een scherm stuiteren. Dit is een "passieve" video; de cijfers bewegen uit zichzelf en er zijn geen knoppen of hendels om aan te trekken.

Het Resultaat: Toen ze de consistentieknop ( $\lambda$ ) omhoog draaden naar 0,8, gebeurde er iets magisch. De interne kaart van de robot stopte plotseling met uitrekken. De $L_{20}$ -score daalde van een wilde 4,96 (zeer rekbaar) naar 1,01 (bijna perfect stabiel). Sterker nog, in vier van de zes testruns zakte de score zelfs onder de 1,0, wat betekent dat de kaart succesvol was gekrompen.
De Les: Voor eenvoudige, voorspelbare video's werkt het omhoog draaien van de consistentieknop als een stabilisator, die de robot dwingt zijn voorspellingen compact en betrouwbaar te houden.

2. De Echte Wereld (Pendulum, CartPole en Menselijke Acties)
Vervolgens probeerden ze dezelfde truc op complexere scenario's. Ze gebruikten video's van een zwaaiende pendel, een balancerende staaf (CartPole) en echte menselijke dansers (KTH Actions). Dit zijn "actieve" of "natuurlijke" video's waarbij de beweging chaotischer is of afhangt van acties (zoals het duwen van een karretje).

Het Resultaat: Hoe hoog ze de consistentieknop ook draaiden (zelfs tot 1,2), de kaart van de robot werd nooit gestopt met uitrekken. De $L_{20}$ -score bleef ruim boven de 1,0 (rond de 1,7 tot 3,0).
De Les: De magische truc die werkte bij de stuiterende cijfers faalde hier volledig. De robot kon de toekomst nog steeds beter voorspellen (de fout ging omlaag), maar zijn interne kaart bleef "expansief" en onstabiel.

Waarom Faalde Het? De "Ruis"-theorie

De auteurs gooiden het niet zomaar op; ze wilden weten waarom de eenvoudige video's anders reageerden dan de complexe video's. Ze kwamen met een slim idee: misschien bevatten de complexe video's een onzichtbare "ruis" of "jitter" die de eenvoudige video's niet hebben.

Om dit te testen, namen ze de eenvoudige Moving-MNIST-video en injecteerden ze kunstmatig "ruis" (willekeurige trillingen) in de training van de robot, alsof het een chaotischere omgeving was.

De Ontdekking: Naarmate ze het ruisniveau (dat ze $\eta$ noemen) verhoogden, begon de kaart van de robot weer uit te rekken, net zoals bij de complexe video's.
De Wet: Ze vonden een eenvoudige, rechte lijnrelatie: $\hat{L}_{20} \approx 1,23 + 1,82\eta$ .
- Dit betekent dat voor elke beetje "jitter" of complexiteit die wordt toegevoegd, de kaart met een voorspelbare hoeveelheid uitrekt.
- De eenvoudige video's hadden bijna nul jitter, waardoor de kaart compact bleef.
- De complexe video's (zoals de pendel) hadden een hoge "effectieve jitter", waardoor de kaart uitgerekt bleef, ongeacht hoe hoog ze de consistentieknop ook opendraaiden.

Wat Dit Papier NIET Is (En Wat Het Uitsluit)

Het is erg belangrijk om te begrijken wat dit artikel niet zegt, want de auteurs zijn zeer voorzichtig om hun resultaten niet te overschatten.

Het is geen magische oplossing voor alle robots: De auteurs stellen expliciet dat het laten krimpen van de kaart (het bereiken van $L_{20} < 1$ ) bij eenvoudige video's niet automatisch de robot beter maakt in het plannen van complexe, echte taken.
Het verbetert de planningsscores niet: In een specifieke test waarbij ze probeerden de robot te gebruiken om een pendel te besturen, presteerde de robot zelfs slechter wanneer ze de "gecontracteerde" instellingen ( $\lambda=0,8$ ) gebruikten vergeleken met wanneer ze die helemaal niet gebruikten. De auteurs sluiten de gedachte uit dat "stabiele geometrie = beter plannen" gelijk staat aan "beter plannen".
Het is geen bewezen natuurwet: De connectie tussen de consistentieknop en de vorm van de kaart is gebaseerd op observatie en simulatie, niet op een wiskundig bewijs dat voor elke mogelijke AI geldt. De auteurs noemen hun bevindingen "associationeel", wat betekent dat ze een patroon zien, maar niet hebben bewezen dat de knop de verandering veroorzaakt op een manier die overal werkt.

De Kern van het Verhaal

Dit artikel is als een monteur die een nieuw gereedschap test op twee verschillende auto's. Ze ontdekten dat het gereedschap perfect werkt op een speelgoedautootje (Moving-MNIST), waardoor deze soepeler en voorspelbaarder rijdt. Echter, toen ze hetzelfde gereedschap probeerden op een echte, zware vrachtwagen (Pendulum/CartPole), maakte het de vrachtwagen niet stabieler, ook al liep de motor wel iets stiller.

De belangrijkste les voor iedereen die deze AI-systemen bouwt is: Ga er niet vanuit dat een instelling die werkt voor eenvoudige video's, ook werkt voor complexe video's. De "consistentieknop" is een nuttig diagnostisch hulpmiddel om te meten hoe "rekbaar" de geest van een robot is, maar het heeft een limiet. Als de omgeving te ruizig of complex is, zal de kaart van de robot van nature willen uitrekken, en geen enkele hoeveelheid consistentietraining zal hem dwingen te krimpen. De auteurs suggereren dat ingenieurs, in plaats van blindelings instellingen te kopiëren van eenvoudige tests, de "jitter" van hun specifieke probleem moeten meten en moeten verwachten dat de stabiliteit van de robot de lijn volgt die zij hebben ontdekt: meer ruis betekent meer uitrekking.

Technische Samenvatting: Multi-Horizon Consistentie als Geometrie

Probleemstelling
Wereldmodellen en joint-embedding voorspellers lijden vaak aan foutenaccumulatie wanneer ze worden uitgerold voorbij hun trainingshorizon. Praktici maken vaak gebruik van een "multi-horizon consistentie" verliesterm, gewogen door een parameter $\lambda$ , om overeenstemming tussen voorspelde en door de leraar geforceerde latente toestanden over meerdere stappen af te dwingen. Echter, de specifieke geometrische impact van het afstemmen van $\lambda$ op de geleerde transitiedynamica blijft slecht begrepen. Specifiek is het onduidelijk of het verhogen van $\lambda$ een contractie induceert in de latente transitiekaart (het systeem niet-expansief maakt) en of dergelijke contractie generaliseert over verschillende domeinen, met name van passieve video naar actie-geconditioneerde controle.

Methodologie
De auteurs voeren een diagnostische studie uit op een vaste GRU-gebaseerde residuele transitie-architectuur, waarbij de effecten van de consistentie-weging $\lambda$ worden geïsoleerd zonder nieuwe architecturen voor te stellen of te benchmarken tegen state-of-the-art agenten.

Metriek: De primaire diagnose is $L_{20,q95}$ , een empirische expansie-proxy gedefinieerd als de 95ste percentiel van de ratio $\frac{\|f^{(k)}(z_i) - f^{(k)}(z_j)\|}{\|z_i - z_j\|}$ voor $k=20$ stappen over willekeurige latente paren. Een waarde $L < 1$ geeft aan dat de transitie niet-expansief is voor 95% van de gesamplede paren. Dit wordt aangevuld met de horizon-20 voorspellingsfout ( $E_{20}$ ).
Domeinen:
- Passieve Video: Moving-MNIST (MMNIST) en KTH Actions.
- Actie-geconditioneerde Controle: Pendulum-v1 en CartPole-v1 (Gymnasium), getraind op offline trajecten.
Experimenteel Ontwerp:
- $\lambda$ Sweep: $\lambda$ wordt gevarieerd van 0 tot 1,2.
- Stochastische Forcing: Om passieve en actieve regimes te verenigen, injecteren de auteurs controleerbare ruis $\eta$ in passieve transities tijdens de training ( $z \leftarrow f(z) + \eta \sigma_* \epsilon / \sqrt{d}$ ) bij een vaste $\lambda=0,8$ .
- Mediatie-analyse: Een Baron–Kenny padanalyse wordt uitgevoerd om de associatieve relatie tussen $\lambda$ , $L_{20}$ en $E_{20}$ te beoordelen.
- Defensieve Checks: Inclusief architecturale baselines (spectrale normalisatie, antisymmetrische RNN's), exogene stresstests, WorldTest-stijl scoring en latente Model Predictive Control (MPC) evaluaties.

Belangrijkste Resultaten

Passieve Video Drempelwaarde (Moving-MNIST):
- Het verhogen van $\lambda$ van 0 naar 0,8 veroorzaakt een scherpe, statistisch significante daling in zowel $L_{20}$ (van $4,96 \pm 2,01$ naar $1,01 \pm 0,06$ ) als $E_{20}$ (van $0,365$ naar $0,177$).
- Bij $\lambda=0,8$ bereikt 4 van de 6 seeds $L_{20} < 1$ , waarmee de niet-expansieve grens wordt overschreden. Dit suggereert een regimeverandering waarbij zachte consistentie de passieve videodynamica richting een contractieve band duwt.
Negatieve Transfer naar Controle en Natuurlijke Video:
- Actie-geconditioneerde Domeinen: Op Pendulum-v1 en CartPole-v1 verhoogt het verhogen van $\lambda$ de nauwkeurigheid (verkleint $E_{20}$ ) en vermindert de expansie-proxy, maar geen enkele seed kruist $L < 1$ op populatieniveau. $L_{20}$ blijft expansief (bijv. $\approx 1,74$ voor Pendulum, $\approx 3,17$ voor CartPole bij $\lambda=0,8$ ).
- Natuurlijke Video: Op KTH Actions neemt $L_{20}$ af, maar blijft expansief ( $>1$ ) over alle seeds.
- MPC Prestaties: In tegen tegen de hypothese dat contractie planning bevordert, levert latente MPC op Pendulum de beste returns op bij $\lambda=0$ (geen consistentieverlies) en degradeert naarmate $\lambda$ toeneemt. Er is geen "sweet spot" voor planning bij de MMNIST-consistentiedrempel.
Stochastische Forcing Wet:
- De auteurs stellen een verenigende wet voor: $\hat{L}_{20} \approx 1,23 + 1,82\eta$ bij $\lambda=0,8$ .
- Door een effectief ruisniveau ( $\eta_{eff}$ ) te kalibreren, kunnen de controle-domeinen (Pendulum, CartPole) en passieve video op dezelfde lineaire curve worden geplaatst. Passieve video komt overeen met een lage $\eta_{eff}$ , terwijl controle-domeinen overeenkomen met een hogere $\eta_{eff}$ , wat verklaart waarom zij er niet in slagen $L < 1$ te bereiken onder dezelfde $\lambda$ .
Mediatie en Sensitiviteit:
- Mediatie-analyse via associatieve paden levert een padratio $\hat{r}=0,94$ (95% CI [0,88, 1,00]) op, wat suggereert dat $\lambda$ sterk geassocieerd is met geometrie ( $L_{20}$ ), die op zijn beurt geassocieerd is met fout ( $E_{20}$ ) in MMNIST. De auteurs merken expliciet op dat dit associatief is, niet causaal, aangezien $\lambda$ niet gerandomiseerd werd.
- Gezamenlijke slices bij $\lambda \in \{0,4, 1,2\}$ bevestigen de lineaire relatie tussen ruis $\eta$ en $L_{20}$ , wat suggereert dat de forcing-wet robuust is over verschillende $\lambda$ -waarden.

Significantie en Claims
Het artikel positioneert zichzelf strikt als een mechanistische diagnostische studie, niet als een voorstel voor een nieuw wereldmodel of een universele contractie-stelling.

Domein-beperkte Geometrie: De primaire claim is dat zachte multi-horizon consistentie fungeert als een domein-beperkte geometrische diagnose. Het slaagt erin passieve video (Moving-MNIST) naar een bijna-contractieve regime te duwen ( $L \approx 1$ ), maar produceert geen populatie-brede contractie in actie-geconditioneerde controle of natuurlijke video.
Scheiding van Geometrie en Planning Nut: De studie demonstreert dat het bereiken van $L < 1$ op passieve video noch noodzakelijk, noch voldoende is voor het verbeteren van planning-returns in controle-domeinen. De geometrische contractie waargenomen in MMNIST vertaalt zich niet naar de planning-utiliteit van Pendulum.
Vereniging via Ruis: De "stochastische-forcing-wet" herkadert de passieve/actieve splitsing niet als geïsoleerde mislukkingen, maar als verschillende posities op een enkele schaalwet gedreven door effectieve ruisniveaus.
Praktische Richtlijnen: Praktici wordt geadviseerd $\lambda$ te behandelen als een "geometrie-draaiknop" met een meetbare drempel nabij 1 voor passieve video, maar om $L_{20}$ en planning-prestaties opnieuw te meten op specifieke controle-domeinen in plaats van MMNIST-hyperparameters direct te exporteren.

Beperkingen
De auteurs erkennen dat de studie een vaste GRU-architectuur gebruikt, bescheiden steekproefgroottes hanteert voor kritieke vergelijkingen, en dat de mediatie-analyse associatief is. De resultaten certificeren geen globale Lipschitz-constanten en zij beweren ook niet de bestaande SOTA-agenten zoals DreamerV3 of TD-MPC2 te verbeteren. De bevindingen zijn specifiek voor de geteste domeinen en de specifieke formulering van de consistentieverliesfunctie.