Stel je voor dat je een superintelligent robotbrein hebt, een "wereldmodel", dat heeft geleerd hoe het een T-vormig blokje over een tafel moet duwen. Het is getraind op perfecte, kristalheldere video's van het bewegende blokje. Nu, stel je voor dat we een beetje statische ruis in de camerabeelden beginnen te strooien—alsof het videosignaal van een tv lichtelijk wazig wordt.

Normaal gesproken, als je vraagt: "Werkt het brein van de robot nog?", kijken we naar hoe ver de interne kaart van de robot is verschoven. Als de robot ziet dat het blokje op positie A staat, en de ruizige camera laat het denken dat het blokje op positie A-plus-een-klein-beetje staat, dan zouden we zeggen: "Hé, het is nog steeds vrij dichtbij! Geen groot probleem."

Maar dit artikel, geschreven door Jeffery Scott Allbright, suggereert dat kijken naar alleen de "afstand" zoiets is als het verkeer in een stad beoordelen door alleen te kijken hoe ver één enkele auto is verschoven vanaf de startstreep. Je mist de chaos die overal elders aan de gang is.

De Grote Verrassing: De Kaart is Kapot, Zelfs als de Auto Dichtbij Is

De onderzoekers gebruikten een speciale tool genaamd Recursive Indexing (RIX) om in het brein van de robot te gluren. Ze maten niet alleen hoe ver de interne kaart van de robot bewoog; ze maten hoe de buurten veranderden. Denk eraan als controleren of je beste vrienden nog steeds aan je lunchtafel zitten, of dat de hele kantine plotseling is herschikt in een andere vorm.

Dit is wat ze vonden:
Toen ze een kleine hoeveelheid ruis toevoegden (een stressniveau van 0,05), bewoog de interne kaart van de robot nauwelijks. De afstand was zo klein dat het bijna niets was (0,00087). Volgens alle standaardregels zou de robot prima moeten zijn.

Maar van binnen was de buurt volledig ingestort!

• Buren verdwenen: De robot hield slechts 19,9% van zijn oorspronkelijke "beste vrienden" (dichtstbijzijnde buren) over.
• Bekkens verdwenen: Hij bleef slechts in 8,0% van zijn oorspronkelijke "veilige zones" (bekkens).
• Paden werden vreemd: Slechts 6,1% van de bewegingen die de robot wilde maken, waren nog toegestaan in de "schone" wereld.

Het is alsof de robot op dezelfde plek staat, maar plotseling de vloertegels onder hem van plaats zijn gewisseld, de muren zijn verschoven en de uitgangsborden nergens meer naartoe wijzen. De kaart was niet alleen "verschoven"; de structuur van de kaart was geherorganiseerd tot iets onherkenbaars.

Het "Kantelpunt" en de Crash

De onderzoekers testten dit met 320 verschillende manieren om de data te analyseren (het veranderen van de zoomfactor, de wiskundige seeds en de roosterformaten). Elke keer weer vonden ze hetzelfde breekpunt.

De structurele instorting vond plaats tussen een stressniveau van 0,05 en 0,10.

Om te bewijzen dat dit geen wiskundige truc was, lieten ze de robot draaien in een echt, closed-loop spel. Ze vroegen: "Kan de robot het blokje duwen?"

• Bij 0,00 stress (perfect zicht): De robot slaagde 80% van de tijd.
• Bij 0,05 stress (het exacte moment waarop de kaartstructuur brak): Het succes daalde naar 20%.
• Bij 0,10 stress en hoger: De robot faalde 100% van de tijd.

Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de taak uit te voeren in. Op het moment dat de interne structuur van de kaart rommelig werd, stortte het vermogen van de robot om de