Technische Samenvatting: De Predictief-Causale Kloof

Probleemstelling

Het artikel behandelt een fundamentele faalmodus in predictief representatieleren, een paradigma dat dominant is in gebieden variërend van wereldmodellen en neurale toestandsruimtemodellen tot grote taalmodellen (LLM's) die getraind worden via next-token predictie. De heersende aanname is dat het minimaliseren van de voorspellingsfout op observaties er natuurlijk toe zal leiden dat de geleerde representatie de causale structuur van het onderliggende systeem vastlegt.

De auteurs daag deze aanname uit door een "systeem" ($s$) te definiëren als de vrijheidsgraden waar de modelleerder om geeft, en een "omgeving" ($e$) als alle andere variabelen. Zij tonen aan dat wanneer omgevingsmodi trager of minder luidruchtig zijn dan systeemmodi, de optimale predictieve representatie het systeem niet volgt. In plaats daarvan volgt het de omgeving. Dit fenomeen wordt de predictief-causale kloof genoemd: de verslechtering in causale fideliteit (het fractie van encoder-gevoeligheid dat is toegewezen aan systeem-vrijheidsgraden) die optreedt bij het optimaliseren van een predictief doelwit in plaats van een causaal doelwit.

Methodologie

De auteurs hanteren een drie-traps analytische aanpak om deze kloof te karakteriseren:

1. Theoretisch Bewijs (Onmogelijkheidstheorema):

   • De auteurs bewijzen Stelling 1, waarin wordt vastgesteld dat voor elke modelklasse die alle lineaire encoders bevat, er stabiele lineair-Gaussische dynamica bestaan waarbij elke minimaliserder van het populatie-predictieve risico strikt misaligneerd is met de systeemsubruimte.
   • Zij tonen aan dat de set dynamica die deze eigenschap vertoont open is en een positieve maat heeft in de parameterruimte, wat betekent dat het geen zeldzame hoekgeval is, maar een generieke eigenschap.
   • Corollarium 2 bewijst dat het vergroten van de modelcapaciteit (het uitbreiden van de modelklasse) dit probleem niet kan oplossen; het kan het risico alleen verder verlagen, waardoor de toewijzing aan de niet-causale (omgeving-dominante) encoder wordt versterkt.

2. Grootschalige Lineair-Gaussische Experimenten:

   • Er is een parametersweep uitgevoerd over 539 configuraties van lineair-Gaussische dynamica, resulterend in 2.695 onafhankelijke trainingruns met twee-laags MLP-encoders.
   • De experimenten maten causale fideliteit ($|\partial \phi / \partial s| / (|\partial \phi / \partial s| + |\partial \phi / \partial e|)$) en voorspellingsfout.
   • Extensies naar hoge dimensies ($N=10, 50, 100$ omgevingsmodi) werden geanalyseerd om schalingseffecten te testen.

3. Validatie bij Niet-lineaire Dynamica:

   • Enkellaagse GRU-predictoren werden getraind op een Duffing-oscillator gekoppeld aan een verborgen Ornstein-Uhlenbeck-omgeving.
   • Twee trainingscondities werden vergeleken: ongebonden (voorspellen van de volledige toestand) en operationele gronding (het beperken van het verlies tot alleen systeemobservabelen).
   • Robuustheid werd getest via out-of-distribution (OOD) evaluatie onder verdelingsverschuivingen van de omgeving.

Belangrijkste Resultaten

1. Systematisch Falen in Lineaire Systemen

• In een sweep van 160 deterministische lineaire configuraties, aligneerde de optimale encoder met het systeem (de Nieuw-Zeeland/NZ encoder) slechts in 25% van de gevallen (de diagonale, ontkoppelde gevallen).
• In 75% van de gevallen (elke niet-nul niet-diagonale koppeling) week de optimale encoder af van de systeemas.
• De Information Bottleneck (IB) regularisatie werd getest, maar bleek te falen; de compressie-optimale richting aligneerde met de voorspellings-optimale richting, waardoor de omgevingsbias werd versterkt in plaats van gecorrigeerd.

2. Bewijs uit Neuronale Netwerken

• Over 2.695 trainingruns was de gemiddelde causale fideliteit van de optimale neurale netwerkencoder 0,49, waarbij slechts 2,5% van de configuraties de 0,70 overschreed.
• Het neurale netwerk bereikte een 99,3% lagere voorspellingsfout dan de optimale lineaire encoder, maar deze verbeterde predictieve prestatie correspondeerde met een representatie die verder verwijderd was van de causale codering.
• Ineenstorting bij Hoge Dimensies: Naarmate het aantal omgevingsdimensies ($N$) toenam tot 100, stortte de causale fideliteit in tot $\sim 10^{-8}$ (effectief nul), terwijl de voorspellingsfoutkloof groeide tot 92%. De optimale encoder werd "causaal blind".

3. Niet-lineaire Bevestiging en Operationele Gronding

• In niet-lineaire Duffing-GRU-taken leerden ongebonde predictors omgeving-dominante representaties in 55% van de taken, vergeleken met 24% onder operationele gronding.
• OOD-Robuustheid: Onder verdelingsverschuivingen van de omgeving leden ongebonde modellen aan een mediaan Mean Squared Error (MSE) inflatie van 1,82$\times$, terwijl gegronde modellen stabiel bleven op 1,00$\times$.
• Het artikel merkt op dat operationele gronding (het beperken van het verlies tot systeemobservabelen) de kloof gedeeltelijk onderdrukt, maar de causale fideliteit niet volledig kan herstellen zonder een expliciete systeem-omgevinggrens in de architectuur.

Betekenis en Beweringen

Het artikel claimt de predictief-causale kloof te identificeren als een structurele limiet van leren, geen optimalisatie-artefact, een probleem met eindige data, of een probleem dat oplosbaar is door schaling.

• Schalingswetten: De auteurs betogen dat empirische schalingswetten (gladde power-law afname van verlies met parameters/data) de "verkeerde grootheid" kwantificeren. Zij meten de reductie in predictief risico, wat gepaard kan gaan met beweging weg van de causale structuur. Schaling "verscherpt het antwoord op de verkeerde vraag".
• Zelftoezichtdoelwitten: Het falen is inherent aan elk doelwit dat verlies berekent op een niet-gescheiden observatieruimte. Of het nu gaat om masked autoencoding, joint-embedding predictieve architecturen (JEPA) of contrastief leren, het ontbreken van een expliciete systeem-omgevingonderscheiding in de verliesfunctie staat omgeving-dominante minimaliserders toe.
• Operationele Interface: Het artikel stelt dat het herstellen van causale structuur een "operationele interface" vereist – een specificatie van welke vrijheidsgraden tot het systeem behoren en als encoder-ingang zijn toegestaan. Technieken zoals RLHF, instructietuning en post-training met verifieerbare beloningen worden niet gezien als overlay voor uitlijning, maar als de noodzakelijke operationele interfaces die slecht gestelde predictieve problemen omzetten in goed gestelde identificatieproblemen.

Tot slot stelt het artikel dat een model dat is getraind om de volgende stap in een samengesteld systeem te voorspellen, zal leren om te volgen wat het makkelijkst te voorspellen is (vaak de omgeving), en niet wat causaal relevant is. Dit wordt beschreven als "het juiste antwoord op het verkeerde probleem".