Where Bits Matter in World Model Planning: A Paired Mixed-Bit Study for Efficient Spatial Reasoning

Probleemstelling

Efficiënte ruimtelijke redenering (spatial reasoning) met wereldmodellen (world models) vereist betrouwbare prestaties onder strikte precisie- en geheugenbeperkingen. Hoewel lage-bit kwantisatie (low-bit quantization) essentieel is voor implementatie op beperkte hardware, kan agressieve kwantisatie het gedrag van het model destabiliseren.
De kernvraag van dit onderzoek is of de kwaliteit van planning bij lage bitbreedtes voornamelijk wordt bepaald door de totale bitbreedte (gemiddelde precisie) of door waar de bits worden toegewezen binnen de verschillende modules van het model (bijvoorbeeld tussen de encoder en de predictor). Bestaande studies tonen vaak aan dat kwantisatiegevoeligheid niet uniform is over de lagen, maar specifiek onderzoek naar de impact van bit-toewijzing in wereldmodellen voor planning ontbreekt.

Methodologie

De auteurs voerden een gecontroleerde studie uit met het DINO-WM-model op de "Wall" planning-taak (een omgeving die ruimtelijk, doelgericht plannen vereist met obstakels).

• Experimenteel Ontwerp: Een "paired-goal" evaluatie waarbij doelen één keer gegenereerd werden en hergebruikt werden voor alle varianten om variatie te minimaliseren.
• Varianten:
  • Uniforme kwantisatie: FP16, INT8, INT6, INT4, INT3 (alle lagen even).
  • Gemengde precisie (Mixed-bit): Encoder in FP16, predictor gekwantiseerd (INT4/6/8).
  • Asymmetrische varianten: Verschillende combinaties van encoder- en predictor-bitbreedtes (bijv. E8/P4, E6/P4, E4/P8).
  • Lagen-specifiek: Een sweep waarbij het percentage van de encoder dat in FP16 blijft varieerde (0% tot 100%), terwijl de predictor vast op INT4 stond.
• Implementatie: Post-training, gewichts-only kwantisatie (geen activatie-kwantisatie, geen hertraining).
• Evaluatieprotocollen: Twee planners-budgetten (bA en bB) met verschillende horizonlengtes en optimalisatiestappen. De hoofdstudie omvatte 650 episodes; een strikte replicatie met een kleiner steekproefomvang (66 episodes) werd uitgevoerd om de robuustheid te testen.
• Statistiek: Gebruik van gepaarde delta's, bootstrap- betrouwbaarheidsintervallen en teekentests (sign-tests) om significante verschillen te detecteren.

Belangrijkste Bijdragen en Resultaten

De studie identificeert een consistent drie-regime patroon in de prestaties van lage-bit planning:

1. Stabiel Regime (8/6 bits): Zowel uniforme als gemengde instellingen van 8 en 6 bits presteren dicht bij de FP16-baseline. De kwantisatie heeft hier weinig negatief effect op de planningssuccesratio.
2. Instortingsregime (3 bits): Alle varianten op 3 bits (zowel uniform als gemengd) falen volledig (succesratio 0.0), wat aangeeft dat deze precisie onvoldoende is voor de taak.
3. Gevoelige Overgangsregime (4 bits): Dit is het kritieke gebied waar de resultaten sterk afhankelijk zijn van de bit-toewijzing.
   • Gemengd vs. Uniform: Bij 4 bits presteert de gemengde variant (Encoder FP16 / Predictor INT4) aanzienlijk beter dan de uniforme INT4 variant.
     • Budget bA: 0.267 (gemengd) vs. 0.067 (uniform).
     • Budget bB: 0.500 (gemengd) vs. 0.200 (uniform).
   • Asymmetrie en Encoder-gevoeligheid: Asymmetrische varianten die meer bits aan de encoder toewijzen (bijv. E6/P4 of E8/P4) presteren beter dan uniforme INT4, zelfs als ze qua modelgrootte vergelijkbaar zijn. Het toevoegen van bits aan de predictor (bijv. E4/P8) compenseert echter niet voor de degradatie van de encoder.
   • Lagen-sweep: De succesratio stijgt het meest wanneer de encoder volledig in FP16 wordt bewaard, wat bevestigt dat de encoder de primaire bron van gevoeligheid is.

Mechanistische Analyse:
Er is een sterke negatieve correlatie gevonden tussen het succes van de planning en de divergentie van de visuele embedding (ruimtelijke representatie). Dit suggereert dat kwantisatie van de encoder de geometrie van de latente ruimte beschadigt, wat essentieel is voor doelgericht plannen.

Nuance in Replicatie:
In een strikte replicatie met minder episodes bleek de richting van het verschil tussen gemengd en uniform INT4 afhankelijk te zijn van het planners-budget (bij budget bB was het verschil minder duidelijk of omgekeerd). Dit benadrukt dat de 4-bit grens een zeer gevoelige overgangszone is die afhankelijk is van de samplegrootte en het budget.

Betekenis en Conclusie

De bevindingen van dit paper hebben belangrijke implicaties voor de efficiënte implementatie van wereldmodellen:

• Bit-toewijzing is cruciaal: In de overgangszone (rond 4 bits) is het niet voldoende om alleen naar de totale bitbreedte te kijken. De plaatsing van bits is een ontwerpparameter die de prestaties bepaalt.
• Encoder-prioriteit: Voor ruimtelijke redenering is het behoud van precisie in de visuele encoder kritischer dan in de predictor. Het is efficiënter om de encoder in hogere precisie te houden en de predictor te kwantiseren, dan het andersom te doen of alles uniform te kwantiseren.
• Nieuwe onderzoeksrichting: De auteurs pleiten voor "module-aware" en "budget-aware" kwantisatiebeleid. In plaats van kwantisatie als een na-afwerking (post-hoc) te zien, moet bit-toewijzing worden geoptimaliseerd als een integraal onderdeel van het planningsontwerp, specifiek gericht op het behoud van de ruimtelijke representatie.

Samenvattend toont dit onderzoek aan dat bij lage bitbreedtes de locatie van de bits (encoder vs. predictor) net zo belangrijk is als het aantal bits, en dat het behoud van encoder-precisie de sleutel is tot het behouden van succesvolle ruimtelijke planning.