A Frozen 12B Beats Frontier Models on Verified Work: 100% Accuracy, 0 Tokens, Bit-Exact, Forever
Dit artikel stelt een systeem voor waarbij een bevroren taalmodel een nauwkeurigheid van 100% en nul token-generatie bereikt op geverifieerde probleemfamilies door te vertrouwen op een persistente, bit-exacte geheugenopslag van onafhankelijk geverifieerde oplossingen, waardoor de aan uitvoering gebonden capaciteit wordt ontkoppeld van parameterschaling en enorme contextvensters op consumentenhardware mogelijk worden gemaakt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een wiskundig probleem probeert op te lossen. In de wereld van moderne kunstmatige intelligentie is de gebruikelijke manier om een antwoord te krijgen dat je een superintelligente robot vraagt om er elke keer opnieuw over na te denken. Deze robot is als een briljante maar zeer dure student die telkens weer het tekstboek moet herlezen, de formule opnieuw moet afleiden en de oplossing opnieuw moet schrijven, zelfs als je exact dezelfde vraag duizend keer stelt. Het kost veel tijd, verbruikt een enorme hoeveelheid elektriciteit en soms, als je dezelfde vraag twee keer stelt, geeft de robot je twee licht verschillende antwoorden omdat hij een beetje onvoorspelbaar is. Dit is hoe de meeste "frontier" AI-modellen vandaag de dag werken: ze zijn krachtig, maar ze zijn ook traag, kostbaar en een beetje slordig wanneer je perfecte consistentie nodig hebt.
Maar wat als, in plaats van de robot harder te laten nadenken, we hem gewoon een perfect, geverifieerd schrift gaven? Stel je voor dat we een probleem één keer oplossen, het antwoord controleren met een strenge leraar om te verzekeren dat het 100% correct is, en dan die oplossing opschrijven in een speciaal boek. Vanaf dat moment, wanneer hetzelfde type probleem naar voren komt, hoeft de robot niet na te denken. Hij slaat gewoon de juiste pagina in het boek open, leest het antwoord en schrijft het direct op. Het zou bijna niets kosten, in een oogwenk gebeuren en het antwoord zou elke keer exact hetzelfde zijn. Dit is de kern van een nieuwe aanpak genaamd "verified reuse" (geverifieerd hergebruik), waarbij de intelligentie niet zit in een groter wordend brein van de robot, maar in een groeiende bibliotheek van perfecte oplossingen waar de robot zonder zware inspanning toegang toe heeft.
Het Bevroren Brein en de Magische Bibliotheek
Maak kennis met Galahad, een nieuw systeem dat de spelregels verandert. De makers namen een standaard AI-model (een "brein" van 12 miljard parameters genaamd Gemma-4-12B) en deden iets radicaals: ze bevroren het. Ze zetten het vermogen om te leren of te veranderen uit. Het is alsof je een briljante chef-kok vertelt: "Je mag geen nieuwe recepten meer uitvinden; je mag alleen koken van dit specifie� specifieke menu."
Naast deze bevroren chef bouwden ze Merlin, een magische, supersnelle bibliotheek. Zo werkt de magie:
- De Deposito: Wanneer er een nieuw probleem binnenkomt, lost het systeem dit één keer op. Maar voordat het het antwoord in de bibliotheek plaatst, controleert een strikte "poortwachter" het. Deze poortwachter kijkt niet naar het antwoordsleutel; hij gebruikt wiskunde en logica om te bewijzen dat het antwoord correct is. Als het slaagt, wordt de oplossing opgeslagen.
- Het Hergebruik tegen Nulkosten: Stel je nu voor dat een miljoen mensen dezelfde soort vraag stellen. In plaats van dat de chef elke keer opnieuw vanuit het niets kookt, zoekt het systeem het geverifieerde recept op in de bibliotheek. Het zegt tegen de bevroren chef: "Kopieer dit gewoon." De chef doet het onmiddellelijk.
- Het Resultaat: Het systeem beantwoordt 180 gloednieuwe variaties van deze problemen met 100% nauwkeurigheid. Het gebruikt nul "generatie-tokens" (de digitale munteenheid waarvoor AI meestal rekent voor het nadenken). Het duurt slechts 6 tot 23 milliseconden (sneller dan een knipoog) en verbruikt ongeveer 36 milliwattuur aan energie — dat is ongeveer de energie die een LED-lampje gebruikt voor 13 seconden.
Waarom de Oude Manier Verspillend is
Het artikel betoogt dat de huidige manier van het gebruik van AI is alsof je een meesterarchitect betaalt om een huis vanaf nul te ontwerpen telkens wanneer je een schuurtje wilt bouwen. De "frontier" modellen (de krachtigste, duurste AI die beschikbaar is) zijn geweldig in het oplossen van nieuwe problemen die ze nog nooit hebben gezien. Maar voor problemen die al eens zijn opgelost en geverifieerd, is het een verspilling om hen opnieuw te laten nadenken.
De auteurs maten deze verspilling. Ze ontdekten dat als je een standaard AI-API gebruikt om een opgelost probleem te beantwoorden, je elke keer betaalt voor een volledige "denkbeurt". Het is niet-deterministisch (het antwoord kan licht veranderen), het is traag en het kost geld. In tegenstelling hiertoe beantwoordt Galahad's bevroren model, zodra het de geverifieerde oplossing in zijn bibliotheek heeft, hetzelfde probleem voor altijd gratis. Het "break-even punt" — waar het systeem meer geld bespaart dan het kostte om de bibliotheek te bouwen — wordt bereikt na slechts 17 tot 34 vragen. Daarna is elk antwoord pure besparing.
De "Geheugen" is de Echte Ster
Een van de coolste onderdelen van dit experiment is het bewijs dat het "brein" er minder toe doet dan het "boek". De onderzoekers testten dit met vier verschillende AI-modellen van vier verschillende bedrijven (waaronder Gemma, Qwen, DeepSeek en Phi). Ze gaven ze allemaal exact dezelfde bevroren gewichten en exact dezelfde bibliotheek met geverifieerde oplossingen.
Het resultaat? Alle vier de modellen beantwoordden 180 van de 180 vragen correct.
Het maakte niet uit of het model "dense" of een "mixture of experts" was. De capaciteit kwam volledig voort uit de bibliotheek, niet uit het brein. Wanneer ze de bibliotheek leegden, kon het model niets meer oplossen. Wanneer ze hem vulden, waren ze perfect. Dit bewijst dat je voor geverifieerde, herhaalbare taken niet een groter, slimmer, duurder brein nodig hebt; je hebt alleen een beter, geverifieerd geheugen nodig.
Het Probleem met "Gokken" (Vector Search)
Je denkt misschien: "Kunnen we niet gewoon een normale zoekmachine gebruiken om het antwoord te vinden?" Het artikel zegt nee, en hier is waarom. De meeste AI-systemen gebruiken iets dat "vector retrieval" wordt genoemd, wat is als het zoeken naar een boek door te kijken naar een boek dat er vergelijkbaar uitziet als degene die je wilt. Het is vaag.
De onderzoekers testten dit op een bibliotheek van 4.500 geverifieerde items. Wanneer ze de vage zoekopdracht gebruikten, kozen ze in 94,3% van de gevallen het verkeerde item. Dat is een ramp. Als je op zoek bent naar een specifieke medische formule of een juridische clausule, is het krijgen van het "bijna juiste" antwoord nutteloos. Galahad gebruikt exacte adressering, wat betekent dat het het exacte item vindt met 0% fouten. Het is het verschil tussen het raden van de naam van een liedje door een paar noten te neuriën en het weten van de exacte streepjescode om te scannen. Voor zaken die perfect moeten zijn, faalt vage matching catastrofaal.
Een Venster naar het Oneindige
Een andere wilde ontdekking gaat over hoeveel informatie het systeem in zijn "werkgeheugen" (de ruimte waarin het tegelijkertijd kan nadenken) kan vasthouden.
- Standaard AI-engines (zoals vLLM en SGLang) crashen of vergeten dingen stilletjes wanneer je probeert ze meer dan ongeveer 32.000 tokens (een token is een deel van een woord) te voeden.
- Galahad slaagde erin om een venster van 6.000.000 tokens vast te houden op een enkele grafische kaart.
- Het kon terugreiken naar het begin van die 6-miljoen-token geschiedenis net zo snel als het het einde kon bereiken.
- Dit deed het zonder extra computergeheugen te gebruiken. Het is als het hebben van een bibliotheek met oneindige planken, maar je kunt slechts één boek tegelijk bekijken, en je kunt dat boek direct verwisselen voor een ander boek in de bibliotheek.
Wat dit Betekent voor de Toekomst
Het artikel is zeer voorzichtig in wat het niet doet. Het beweert niet dat dit systeem nieuwe, nog nooit eerder vertoonde problemen beter kan oplossen dan de grootste AI-modellen. Als je het een frisse, creatieve vraag stelt, kan het bevroren brein moeite hebben. Maar voor elke taak die verifieerbaar is (zoals wiskunde, programmeren of logica) en terugkerend (gebeurt steeds opnieuw), is dit systeem een game-changer.
Het zet de AI-industrie op zijn kop:
- Oude Manier: Betaal elke keer om na te denken.
- Nieuwe Manier: Betaal één keer om te verifiëren, en voer daarna voor altijd gratis uit.
De auteurs hebben zelfs een publieke testbank opgezet waar iedereen dit in realtime kan zien gebeuren. Ze dagen iedereen uit om een AI te vinden die een opgelost probleem kan beantwoorden met nul kosten, perfecte nauwkeurigheid en instant snelheid. Tot nu toe heeft niemand dat kunnen doen. De boodschap is duidelijk: voor het werk dat we dagelijks doen, hebben we niet grotere breinen nodig; we hebben alleen betere, geverifieerde bibliotheken nodig.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.