Certified Access: Test-Time Compute on Conservative Physics-Structured AI Memory

In de moderne wereld van kunstmatige intelligentie leren computers te denken door enorme hoeveelheden informatie te verwerken, maar ze worstelen vaak met een specifiek probleem: weten wanneer ze moeten stoppen. Naarmate deze systemen complexer worden, hebben ze een manier nodig om te beslissen of ze genoeg hebben nagedacht om een antwoord te geven, of dat ze door moeten werken. Dit is een beetje als een persoon die een puzzel probeert op te lossen; ze moeten misschien een stukje nog een paar keer bekijken om er zeker van te zijn, of ze moeten even afstand nemen en het hele plaatje vanuit een andere hoek bekijken. Jarenlang hebben ingenieurs extra stappen aan deze computerprogramma's toegevoegd om hen te helpen beslissen, maar deze stappen werden meestal behandeld als mysterieuze 'black boxes'. De computer probeert een paar extra berekeningen, en als het antwoord er goed uitziet, stopt hij. Zo niet, dan gaat hij door. Het probleem is dat niemand precies de verkeersregels voor deze extra stappen begreep. Ze wisten niet precies wat de computer deed met zijn interne staat, hoeveel energie het verbruikte, of dat het onderweg per ongeluk belangrijke informatie aan het verwijderen was.

Een team onderzoekers van CERN, ETH Zürich en Forgis AG heeft zich gericht op het in kaart brengen van deze verborgen regels. Ze concentreerden zich op een specifiek type kunstmatig geheugen dat zich gedraagt als een fysisch systeem, waarbij informatie wordt opgeslagen als een soort beweging in plaats van alleen statische data. In dit systeem is het geheugen van de computer als een bal die over een landschap van heuvels en dalen rolt. De vorm van dit landschap wordt door de computer geleerd, en de bal rolt volgens strikte natuurkundige wetten. De onderzoekers wilden weten wat er gebeurt als ze de computer dwingen extra stappen te zetten om een specifiek stukje informatie te vinden. Ze ontdekten dat door deze extra stappen te behandelen als fysieke bewegingen, ze precies konden bewijzen hoeveel energie er nodig was, hoeveel informatie behouden bleef en wat er zou gebeuren als de computer naar een ver verwijderd deel van zijn geheugen zou proberen te springen.

De onderzoekers bouwden hun studie rond een concept genaamd een "latent dynamics model", een manier om geheugen te organiseren zodat het de regels van de natuurkunde volgt. Stel je het geheugen van de computer voor als een kamer waar elk stukje informatie een specifieke locatie en een specifieke snelheid heeft. Wanneer de computer iets wil vinden, zoekt hij niet simpelweg een lijst af; hij rolt een bal over de vloer van deze kamer. Meestal rolt de bal totdat hij tot rust komt in een dal, wat het antwoord vertegenwoordigt. Maar soms zit het antwoord gevangen achter een hoge heuvel, of bevindt het zich in een totaal andere kamer waar de bal niet naartoe kan rollen. De onderzoekers identificeerden twee hoofdwijzen waarop de computer er niet in zou kunnen slagen het antwoord te vinden. De eerste is een "reach failure" (bereikfout), waarbij het doel simpelweg te ver weg is om bereikt te worden door te rollen. De tweede is een "escape failure" (ontsnappingsfout), waarbij het doel dichtbij is maar geblokkeerd wordt door een barrière waar de bal niet genoeg energie voor heeft om overheen te klimmen.

Om deze problemen op te lossen, stelden het team twee nieuwe methoden voor die fungeren als gecertificeerde instrumenten voor de computer. Het eerste instrument is ontworpen om de bal over een heuvel te helpen klimmen. Ze noemen dit een "Lorentz squeeze". In plaats van de bal alleen maar harder te duwen, wat energie zou kunnen verspillen of het systeem zou kunnen destabiliseren, geeft deze methode de bal een precieze, berekende boost. De onderzoekers bewezen dat deze boost een specifieke, beperkte hoeveelheid energie aan het systeem toevoegt. Als de computer een klein stukje verder moet springen, gebruikt hij een beetje meer energie; als hij veel verder moet springen, groeit de energiekosten, maar doet dit op een voorspelbare manier. Dit zorgt ervoor dat de computer niet per ongeluk zijn middelen verbruikt of de controle over het geheugen verliest.

Het tweede instrument is voor wanneer het doel zich in een totaal andere kamer bevindt, te ver weg om door te rollen. De onderzoekers creëerden een "gated channel" (gepoorte kanaal), wat in essentie een teleportatiebrug is die twee specifieke punten in het geheugen met elkaar verbindt. In tegen testelling van de rollende beweging, verplaatst deze brug de informatie onmiddellijk van de ene plek naar de andere. De belangrijkste ontdekking hier is dat deze brug perfect veilig is voor de informatie die het draagt. De onderzoekers toonden aan dat wanneer de computer deze brug gebruikt, hij geen enkele subtiele detail uit het geheugen verliest. Het is alsof je een delicaat object van de ene plank naar de andere verplaatst zonder het te schudden of een enkel stofje te laten vallen. Ze bewezen ook dat de brug de ruimte eromheen niet vervormt, wat betekent dat de computer hem kan gebruiken zonder de rest van zijn geheugen te verstoren.

De onderzoekers waren echter voorzichtig om aan te tonen dat deze instrumenten geen magie zijn. Ze testten hun ideeën in een gecontroleerde, gesimuleerde omgeving waar ze alles exact konden meten. Ze ontdekten dat hoewel de instrumenten in theorie perfect werkten, ze strikte limieten hadden. Bijvoorbeeld, de teleportatiebrug werkt alleen als de computer de regels van de brug gedurende de sprong mag bevriezen. Als de regels veranderen terwijl de sprong plaatsvindt, verdwijnen de veiligheidsgaranties. Ze ontdekten ook dat het simpelweg verplaatsen van informatie niet genoeg is; de computer moet ook beschermd worden tegen het van de rand van zijn gehevenwereld af te vallen. Als de computer probeert te springen naar een plek waar het landschap ongedefinieerd is, kan de informatie ontsnappen en voor altijd verloren gaan. Om dit te voorkomen, heeft de computer een veiligheidscontrole nodig die ervoor zorgt dat hij alleen naar veilige, gedefinieerde gebieden springt.

Wanneer het team deze ideeën toepaste op een echt, geleerd geheugensysteem, zagen ze interessante resultaten. Ze bouwden een systeem dat zelf kon beslissen wanneer het moest stoppen met denken en wanneer het deze extra instrumenten moest gebruiken. In gevallen waar het geheugen klein was en de computer nog aan het leren was, bespaarde dit zelfregulerende systeem een aanzienlijke hoeveelheid rekenkracht, waardoor het aantal stappen met bijna vijf keer werd verminderd. Naarmate het geheugen groter werd, werden de besparingen kleiner, maar het systeem werkte nog steeds. Ze testten ook hoe goed deze instrumenten omgingen met ruis, of verwarring in de input. Ze ontdekten dat terwijl het geheugen zelf perfect bleef, het besluitvormingsgedeelte van het systeem veel minder betrouwbaar werd wanneer de input ruisig was. Dit suggereert dat hoewel de fysieke regels van het geheugen solide zijn, het vermogen van de computer om te beslissen wanneer hij ze gebruikt nog fragiel is.

De studie concludeert dat het behandelen van 'test-time computation' als een fysisch proces wetenschappers in staat stelt om exacte regels op te schrijven voor hoe computers extra denktijd gebruiken. Ze bewezen dat je energie kunt toevoegen om barrières te overbruggen, en dat je bruggen kunt bouwen om verre herinneringen te bereiken, maar dat je dit moet doen met strikte naleving van de natuurkundige wetten om informatieverlies te voorkomen. Het werk beweert niet alle problemen van kunstmatige intelligentie te hebben opgelost, noch belooft het dat deze methoden elke computer onmiddellijk slimmer zullen maken. In plaats daarvan biedt het een heldere, geverifieerde kaart van wat mogelijk is en wat gevaarlijk is wanneer een computer besluit om iets langer na te denken. De belangrijkste prestatie is niet een nieuw record op een ranglijst, maar een formele verstandhouding van de kosten en garanties van deze extra stappen, waardoor een black box wordt veranderd in een transparant, aan regels gebonden proces.