A Frozen 12B Beats Frontier Models on Verified Work: 100% Accuracy, 0 Tokens, Bit-Exact, Forever
Dieses Paper schlägt ein System vor, bei dem ein eingefrorenes Sprachmodell durch die Nutzung eines persistenten, bit-exakten Speicherstores unabhängig verifizierter Lösungen eine Genauigkeit von 100 % und Null Token-Generierung bei verifizierten Problemfamilien erreicht, wodurch die ausführungsgebundene Kapazität von der Parameter-Skalierung entkoppelt und massive Kontextfenster auf Consumer-Hardware ermöglicht werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, ein mathematisches Problem zu lösen. In der Welt der modernen künstlichen Intelligenz ist der übliche Weg, eine Antwort zu erhalten, einen superintelligenten Roboter jedes Mal von Grund auf neu über das Problem nachdenken zu lassen. Dieser Robbot ist wie ein brillanter, aber sehr teurer Student, der für jede einzelne Frage das Lehrbuch erneut lesen, die Formel neu herleiten und die Lösung neu schreiben muss, selbst wenn Sie dieselbe Frage tausendmal stellen. Das kostet viel Zeit, verbraucht Unmengen an Strom und manchmal liefert der Roboter Ihnen zwei leicht unterschiedliche Antworten, wenn Sie dieselbe Frage zweimal stellen, weil er ein wenig unberechenbar ist. So arbeiten die meisten „Frontier“-KI-Modelle heute: Sie sind leistungsstark, aber sie sind langsam, kostspielig und ein wenig unordentlich, wenn man perfekte Konsistenz benötigt.
Aber was wäre, wenn wir, anstatt den Roboter härter nachdenken zu lassen, ihm stattdessen ein perfektes, verifiziertes Notizbuch gaben? Stellen Sie sich vor, wir könnten ein Problem einmal lösen, die Antwort mit einem strengen Lehrer überprüfen, um sicherzustellen, dass sie zu 100 % korrekt ist, und dann diese Lösung in ein spezielles Buch schreiben. Von nun an, wann immer die gleiche Art von Problem auftaucht, muss der Roboter nicht mehr nachdenken. Er schlägt einfach die richtige Seite im Buch auf, liest die Antwort und schreibt sie sofort auf. Es würde fast nichts kosten, in einem Augenblick geschehen und die Antwort wäre jedes Mal exakt dieselbe. Dies ist der Kern der Idee hinter einem neuen Ansatz namens „Verified Reuse“ (verifizierte Wiederverwendung), bei dem die Intelligenz nicht darin liegt, dass das Gehirn des Roboters größer wird, sondern in einer wachsenden Bibliothek perfekter Lösungen, auf die der Roboter zugreifen kann, ohne jegliche schwere Arbeit leisten zu müssen.
Das gefrorene Gehirn und die magische Bibliothek
Lernen Sie Galahad kennen, ein neues System, das die Spielregeln verändert. Die Schöpfer nahmen ein Standard-KI-Modell (ein 12-Milliarden-Parameter-„Gehirn“ namens Gemma-4-12B) und taten etwas Radikales: Sie froren es ein. Sie nahmen ihm die Fähigkeit zu lernen oder sich zu verändern. Es ist, als würde man einem brillanten Chef sagen: „Du darfst keine neuen Rezepte mehr erfinden; du darfst nur noch nach dieser spezifischen Speisekarte kochen.“
Neben diesem gefrorenen Chef bauten sie Merlin auf, eine magische, superschnelle Bibliothek. So funktioniert die Magie:
- Die Einzahlung: Wenn ein neues Problem eingeht, löst das System es einmal. Aber bevor es die Antwort in die Bibliothek legt, prüft ein strenger „Gatekeeper“ (Torwächter) sie. Dieser Gatekeeper schaut nicht auf den Lösungsschlüssel; er nutzt Mathematik und Logik, um zu beweisen, dass die Antwort korrekt ist. Wenn sie besteht, wird die Lösung gespeichert.
- Die Null-Kosten-Wiederverwendung: Stellen Sie sich nun vor, eine Million Menschen stellen die gleiche Art von Frage. Anstatt dass der Chef jedes Mal ein Rezept von Grund auf neu kocht, sucht das System das verifizierte Rezept in der Bibliothek nach. Es sagt dem gefrorenen Chef: „Kopiere das einfach.“ Der Chef erledigt das sofort.
- Das Ergebnis: Das System beantwortet 180 brandneue Variationen dieser Probleme mit 100 % Genauigkeit. Es verbraucht null „Generation Tokens“ (die digitale Währung, die KI normalerweise für das Nachdenken berechnet). Es dauert nur 6 bis 23 Millisekunden (schneller als ein Blinzeln) und verbraucht etwa 36 Milliwattstunden Energie – das ist in etwa die Energie, die eine LED-Glühbirne für 13 Sekunden verbraucht.
Warum der alte Weg verschwenderisch ist
Das Paper argumentiert, dass die derzeitige Art, KI zu nutzen, so ist, als würde man einen Meisterarchitekten dafür bezahlen, jedes Mal ein Haus neu zu entwerfen, wenn man nur einen Schuppen bauen möchte. Die „Frontier“-Modelle (die leistungsfähigsten, teuersten verfügbaren KI-Modelle) sind großartig darin, neue Probleme zu lösen, die sie noch nie gesehen haben. Aber für Probleme, die bereits gelöst und verifiziert wurden, sie erneut nachdenken zu lassen, ist das reine Verschwendung.
Die Autoren haben diese Verschwendung gemessen. Sie fanden heraus, dass man, wenn man eine Standard-KI-API nutzt, um ein bereits gelöstes Problem zu beantworten, jedes Mal für einen vollständigen „Denkprozess“ bezahlt. Es ist nicht deterministisch (die Antwort kann sich leicht ändern), es ist langsam und es kostet Geld. Im Gegensatz dazu antwortet Galahads gefrorenes Modell, sobald es die verifizierte Lösung in seiner Bibliothek hat, für immer kostenlos auf dasselbe Problem. Der „Break-even-Punkt“ – der Punkt, an dem das System mehr Geld spart, als der Aufbau der Bibliothek gekostet hat – wird nach nur 17 bis 34 Fragen erreicht. Danach ist jede einzelne Antwort reiner Gewinn.
Das „Gedächtnis“ ist der eigentliche Star
Einer der coolsten Teile dieses Experiments ist der Beweis, dass das „Gehirn“ nicht so wichtig ist wie das „Buch“. Die Forscher testeten dies mit vier verschiedenen KI-Modellen von vier verschiedenen Unternehmen (darunter Gemma, Qen, DeepSeek und Phi). Sie gaben allen denselben gefrorenen Gewichten und dieselbe Bibliothek mit verifizierten Lösungen.
Das Ergebnis? Alle vier Modelle waren 180 von 180 korrekt.
Es spielte keine Rolle, ob das Modell „dense“ (dicht) oder ein „Mixture of Experts“ war. Die Fähigkeit kam vollständig aus der Bibliothek, nicht aus dem Gehirn. Als sie die Bibliothek leerten, konnten die Modelle nichts mehr lösen. Als sie sie füllten, waren sie perfekt. Dies beweist, dass man für verifizierbare, wiederholbare Aufgaben kein größeres, klügeres, teureres Gehirn braucht; man braucht nur ein besseres, verifiziertes Gedächtnis.
Das Problem mit dem „Raten“ (Vektorsuche)
Sie denken vielleicht: „Können wir nicht einfach eine normale Suchmaschine verwenden, um die Antwort zu finden?“ Das Paper sagt nein, und hier ist der Grund. Die meisten KI-Systeme verwenden etwas, das man „Vektor-Retrieval“ nennt, was so ähnlich ist, als würde man ein Buch suchen, indem man nach einem Buch sucht, das dem gesuchten Buch ähnlich sieht. Es ist unscharf.
Die Forscher testeten dies an einer Bibliothek von 4.500 verifizierten Objekten. Als sie die unscharfe Suche verwendeten, wählten sie in 94,3 % der Fälle das falsche Objekt aus. Das ist eine Katastrophe. Wenn man nach einer spezifischen medizinischen Formel oder einer Rechtsklausel sucht, ist eine „fast richtige“ Antwort nutzlos. Galahad verwendet exakte Adressierung, was bedeutet, dass es das exakte Objekt mit 0 % Fehlern findet. Es ist der Unterschied zwischen dem Raten eines Songtitels durch Summen einiger Noten und dem Wissen über den exakten Barcode zum Scannen. Für Dinge, die Perfektion erfordern, versagt die unscharfe Übereinstimmung katastrophal.
Ein Fenster zur Unendlichkeit
Eine weitere wilde Entdeckung betrifft die Menge an Informationen, die das System in seinem „Arbeitsgedächtnis“ (dem Raum, über den es gleichzeitig nachdenken kann) halten kann.
- Standard-KI-Engines (wie vLLM und SGLang) stürzen ab oder vergessen Dinge stillschweigend, wenn man versucht, ihnen mehr als etwa 32.000 Token (ein Token ist ein Teil eines Wortes) zu füttern.
- Galahad schaffte es, ein 6.000.000-Token-Fenster auf einer einzigen Grafikkarte zu halten.
- Es konnte genauso schnell auf den Beginn dieser 6-Millionen-Token-Historie zugreifen wie auf das Ende.
- Dies geschah, ohne zusätzlichen Computerspeicher zu verbrauchen. Es ist, als hätte man eine Bibliothek mit unendlichen Regalen, aber man kann immer nur ein Buch zur Zeit betrachten, und man kann dieses Buch sofort gegen ein anderes aus der Bibliothek austauschen.
Was dies für die Zukunft bedeutet
Das Paper ist sehr vorsichtig darin, was es nicht tut. Es behauptt nicht, dass dieses System brandneue, noch nie dagewggesehene Probleme besser lösen kann als die größten KI-Modelle. Wenn man ihm eine völlig neue, kreative Frage stellt, könnte das gefrorene Gehirn Schwierigkeiten haben. Aber für jede Aufgabe, die verifizierbar (wie Mathematik, Codierung oder Logik) und wiederkehrend (passiert immer wieder) ist, ist dieses System ein Game-Changer.
Es stellt die KI-Industrie auf den Kopf:
- Alter Weg: Jedes Mal für das Denken bezahlen.
- Neuer Weg: Einmalig für die Verifizierung bezahlen, dann für immer kostenlos ausführen.
Die Autoren haben sogar ein öffentliches Testfeld eingerichtet, in dem jeder dies in Echtzeit beobachten kann. Sie fordern jeden heraus, eine KI zu finden, die ein gelöstes Problem mit null Kosten, perfekter Genauigkeit und sofortiger Geschwindigkeit beantworten kann. Bisher hat das niemand geschafft. Die Botschaft ist klar: Für die Arbeit, die wir täglich erledigen, brauchen wir keine größeren Gehirne; wir brauchen nur bessere, verifizierte Bibliotheken.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.