🤖 AI

Jolt Atlas: Verifiable Inference via Lookup Arguments in Zero Knowledge

Jolt Atlas is een zero-knowledge machine learning-framework dat het Jolt-bewijsstelsel uitbreidt naar ONNX-tensorbewerkingen via lookup-argumenten, waardoor het mogelijk wordt om modellen op apparaten te verifiëren met stroomverwerking en zonder gespecialiseerde hardware, terwijl het tegelijkertijd privacy en betrouwbaarheid garandeert.

Oorspronkelijke auteurs: Wyatt Benno, Alberto Centelles, Antoine Douchet, Khalil Gibran

Gepubliceerd 2026-02-20

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Wyatt Benno, Alberto Centelles, Antoine Douchet, Khalil Gibran

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een geheim recept hebt voor de beste taart ter wereld. Je wilt dat iemand anders (de "vertrouwen") proeft of dat je de taart echt hebt gebakken volgens dat recept, maar je wilt niet dat ze het recept zien, en je wilt ook niet dat ze zien wat de ingrediënten zijn die jij gebruikt hebt.

Vroeger was dit bewijzen heel lastig. Het was alsof je de hele keuken moest laten zien, elke stap van het bakken filmen, en de bewijzer moest alles zelf narekenen. Dat duurde eeuwen en kostte een berg energie.

Jolt Atlas is een nieuw, slim systeem dat dit probleem oplost. Het is een "magische bakkerij" die kan bewijzen dat een taart (of in dit geval: een kunstmatige intelligentie) correct is bereid, zonder dat iemand het recept of de ingrediënten hoeft te zien.

Hier is hoe het werkt, vertaald in alledaagse taal:

1. De Grote Verandering: Van "CPU" naar "Tensor"

Normaal gesproken kijken deze bewijsystemen naar hoe een computer zijn "hersenen" gebruikt (de CPU), alsof ze elke individuele instructie van een robot controleren. Dat is traag en rommelig.

Jolt Atlas doet iets anders. Het kijkt niet naar de losse instructies, maar naar de resultaten van grote blokken data (zogenoemde "tensors").

De Analogie: In plaats van te controleren of de kok elke snijbeweging van een wortel correct uitvoert, kijkt Jolt Atlas gewoon naar de stapel gesneden wortels aan het eind. Als de stapel er perfect uitziet, is het werk goed gedaan. Dit maakt het proces veel sneller.

2. De "Zoek-En-Vind" Spel (Lookup Arguments)

De moeilijkste delen van AI zijn de niet-lineaire berekeningen (zoals het bepalen of iets "positief" of "negatief" is, of het "zacht" maken van een getal). In de oude wereld moest je dit bewijzen door enorme, ingewikkelde wiskundige vergelijkingen op te lossen.

Jolt Atlas gebruikt een slimme truc: Lookup Arguments.

De Analogie: Stel je hebt een enorme lijst met antwoorden op moeilijke vragen (een lookup-tabel). In plaats van de vraag zelf op te lossen (wat duurt), zegt de bakker: "Kijk, dit antwoord staat in mijn lijstje op regel 42." De bewijzer hoeft dan alleen maar te controleren of dat lijstje echt bestaat en of regel 42 klopt.
Het Geniale: Omdat AI-modellen vaak dezelfde soorten vragen stellen, kunnen ze deze lijsten enorm comprimeren. Het is alsof je in plaats van een hele encyclopedie alleen een handig indexje meeneemt.

3. De "Stream" Truc (Voor kleine telefoons)

Een groot probleem bij dit soort bewijzen is dat ze normaal gesproken een enorme hoeveelheid geheugen nodig hebben (veel meer dan een gewone telefoon heeft).

Jolt Atlas lost dit op met streaming.

De Analogie: Stel je moet een heel lang verhaal bewijzen. Normaal moet je het hele verhaal in je hoofd onthouden om het te bewijzen. Jolt Atlas leest het verhaal echter regel voor regel. Zodra ze een regel hebben bewezen, gooien ze die weg en lezen ze de volgende. Ze hoeven nooit het hele boek in hun hoofd te hebben, alleen het stukje waar ze nu mee bezig zijn. Hierdoor kan zelfs een gewone telefoon een bewijs leveren voor een heel groot AI-model.

4. De "Neurale Teleportatie" (Het Versnellen)

Soms zijn de lijsten met antwoorden (de lookup-tabellen) nog steeds te groot.

De Analogie: Stel je hebt een lijst met temperaturen van -100 tot +100 graden. Dat is een lange lijst. Jolt Atlas gebruikt een truc genaamd "Neurale Teleportatie". Ze zeggen eigenlijk: "Laten we de temperatuur schalen alsof het -25 tot +25 is."
In de praktijk betekent dit dat ze de "moeilijke" delen van de berekening iets versimpelen, maar op een manier die voor de eindgebruiker (de taart) nauwelijks verschil maakt. De lijst wordt 4 keer kleiner, maar de taart smaakt nog steeds hetzelfde.

5. Het "Blindfold" Geheim (Privacy)

Het allerbelangrijkste: niemand mag zien wat er gebeurt.

De Analogie: Jolt Atlas gebruikt een techniek genaamd BlindFold. Stel je voor dat de bakker een doos met bewijzen doorgeeft. De bewijzer mag de doos niet openmaken. In plaats daarvan krijgt de bewijzer een magische bril. Met die bril kan de bewijzer zien of de doos "geldig" is, zonder ooit te zien wat er in zit. De bakker kan dus bewijzen: "Ik heb de taart volgens het recept gemaakt," zonder dat de bewijzer het recept of de ingrediënten ziet.

Waarom is dit belangrijk?

Vroeger was het bewijzen van AI-resultaten te traag en te duur voor echte toepassingen. Met Jolt Atlas kunnen we nu:

Privacy bewaken: Je kunt laten zien dat een AI een diagnose stelt of een beslissing neemt, zonder dat de AI of je persoonlijke data openbaar wordt.
Vertrouwen creëren: Je kunt controleren of een AI niet "geknutseld" is, zelfs als je het model niet vertrouwt.
Overal gebruiken: Omdat het zo snel is, kan dit zelfs op je eigen telefoon gebeuren, zonder dat je een supercomputer nodig hebt.

Kortom: Jolt Atlas is de magische sleutel die AI-toepassingen veilig, privé en controleerbaar maakt voor iedereen, zonder dat het proces traag of onbegrijpelijk wordt.

Titel: Jolt Atlas: Verifieerbare Inference via Lookup-Argumenten in Zero-Knowledge

Auteurs: Wyatt Benno, Alberto Centelles, Antoine Douchet, Khalil Gibran (ICME Labs)
Context: Uitbreiding van het Jolt bewijsstelsel naar machine learning (ML) inference, specifiek gericht op ONNX-modellen.

1. Het Probleem

Het veld van Zero-Knowledge Machine Learning (zkML) stuit op ernstige praktische belemmeringen bij het verifiëren van moderne neurale netwerken:

Rekenkundige Overhead: Algemene SNARK-bewijssystemen introduceren een overhead van 100.000x tot 1.000.000x ten opzichte van native uitvoering.
Niet-lineaire Operaties: ML-modellen zijn afhankelijk van niet-lineaire functies (zoals ReLU, Softmax, GELU). Het vertalen hiervan naar lage-graad arithmetische constraints (zoals in circuits) leidt tot een explosie in het aantal constraints of de graad, wat de kosten domineert.
Geheugenvraag: Traditionele SNARK-concepties vereisen dat grote delen van de "witness" (intermediaire data) in het geheugen worden vastgehouden om commitments te genereren. Voor ML-inference kan dit leiden tot piekgeheugengebruik van meerdere gigabytes, wat onmogelijk is voor bewijzen op apparaten met beperkt geheugen (on-device proving).
Architectuur-inefficiëntie: Bestaande zkVM's (Zero-Knowledge Virtual Machines) emuleren CPU-instructies (registers, RAM), wat inefficiënt is voor tensor-bewerkingen die inherent parallel en gestructureerd zijn.

2. Methodologie: Jolt Atlas Architectuur

Jolt Atlas lost deze problemen op door de "lookup-centric" benadering van Jolt toe te passen op het computationele model van neurale netwerken, in plaats van op CPU-instructies.

A. Van CPU naar ONNX Tensors

In plaats van een RISC-V instructiestroom te simuleren, gebruikt Jolt Atlas ONNX (Open Neural Network Exchange) als tussenformaat.

Tensor-oriëntatie: Het systeem werkt direct op tensors (veel-dimensionale vectoren) in plaats van scalaren.
Geen Registers: Het ONNX-model elimineert de noodzaak voor CPU-registers en willekeurige RAM-toegang, wat de complexiteit van geheugenconsistentie verifieerbaar maakt.
Directe Verificatie: Tensor-relaties worden geverifieerd op het niveau van multilineaire polynomen, wat de Schwartz-Zippel lemma toelaat om correctheid probabilistisch te controleren zonder elk element individueel te inspecteren.

B. Lookup-Argumenten en Sumcheck

Het kernmechanisme is het vervangen van complexe arithmetische constraints door lookup-argumenten:

Principe: In plaats van een niet-lineaire functie (bijv. ReLU(x)) als een polynoom te bewijzen, bewijst de "prover" dat het paar (input, output) voorkomt in een vooraf berekende tabel.
Sumcheck Protocol: Jolt Atlas gebruikt het sumcheck-protocol om grote batches van berekeningen te verifiëren met logaritmische werklast voor de verifieerder.
Prefix-Suffix Decompositie: Om enorme lookup-tabellen (bijv. voor 64-bit inputs) haalbaar te maken, worden deze algebraïsch opgesplitst in kleinere segmenten (chunks). Dit maakt "streaming" mogelijk: het bewijs kan worden gegenereerd met een piekgeheugengebruik van $O(|T|^{1/C})$ in plaats van $O(|T|)$ , waarbij $C$ het aantal passes is.

C. Zero-Knowledge via BlindFold

Om privacy te garanderen (verbergen van modelgewichten en invoerdata), implementeert Jolt Atlas de BlindFold-techniek (geïntroduceerd in Vega):

De sumcheck-transcripten worden niet in het openbaar gedeeld.
In plaats daarvan wordt de verifieerder van de sumcheck gecodeerd als een R1CS-circuit.
De "prover" gebruikt een Nova-stijl "folding"-protocol om het bewijs te combineren met een willekeurige, geldige instantie. Hierdoor worden de oorspronkelijke gegevens (witness) verdoezeld, terwijl de geldigheid van het bewijs behouden blijft.

D. Commitment Systeem

Jolt vervangt het Dory-systeem (geschikt voor zeer grote datasets) door HyperKZG, een KZG-based Polynomial Commitment Scheme (PCS) voor multilineaire polynomen. Dit is beter geschikt voor on-chain verificatie en biedt succincte openings.

3. Belangrijkste Bijdragen

Jolt voor ML: De eerste toepassing van het Jolt-bewijsstelsel (oorspronkelijk voor RISC-V) op ONNX-computatiegrafieken, wat een fundamentele verschuiving is van instructie-uitvoering naar tensor-bewerking.
Efficiënte Niet-Lineaire Verificatie: Door lookup-argumenten en prefix-suffix decompositie worden niet-lineaire activeringen (zoals Softmax en GELU) efficiënter geverifieerd dan in circuit-gebaseerde systemen.
Streaming Proving: Het systeem ondersteunt "streaming" bewijzen, waardoor het mogelijk is om modellen te verifiëren op apparaten met beperkt geheugen (zoals mobiele telefoons of edge devices), zonder dat het geheugen explodeert.
Neural Teleportation: Een nieuwe optimalisatie waarbij activeringsfuncties (zoals erf en tanh) worden geschaald met een factor $\tau$ . Dit verkleint het effectieve invoerbereik, waardoor de lookup-tabellen kleiner worden (bijv. van 32-bit naar 16-bit bereik) met verwaarloosbaar verlies aan nauwkeurigheid (< 55 eenheden op een 128-schaal).
Praktische Prestaties: Het demonstreren van haalbare bewijstijden voor modellen zoals GPT-2 (125M parameters) en nanoGPT, wat een groot verschil is met bestaande oplossingen.

4. Resultaten en Benchmarks

De auteurs hebben Jolt Atlas getest op een MacBook Pro (M3, 16GB RAM) en vergeleken met ezkl (een populaire zkML-framework gebaseerd op Halo2):

nanoGPT (~0.25M parameters):
- Jolt Atlas: Bewijstijd van 14 seconden.
- ezkl: Bewijstijd van 237 seconden (exclusief >400s voor key-generatie).
- Conclusie: Jolt Atlas is ongeveer 17x sneller in het genereren van het bewijs.
GPT-2 (125M parameters):
- De totale end-to-end bewijstijd bedraagt ongeveer 38 seconden.
- Dit omvat witness-generatie (~~7.5s), commitments (~~3.5s), sumcheck-bewijzen (~~16s) en HyperKZG-proces (~~3s).

De resultaten tonen aan dat cryptografische verificatie van ML-modellen nu haalbaar is op consumer hardware, zonder gespecialiseerde accelerators.

5. Betekenis en Toekomstperspectief

Jolt Atlas markeert een mijlpaal in de evolutie van verifieerbare AI:

Privacy en Trust: Het stelt organisaties in staat om AI-inference te verifiëren zonder de modelgewichten of de gevoelige invoerdata te onthullen. Dit is cruciaal voor toepassingen in "agentic commerce" (autonome agents) en vertrouwde AI-contexten.
On-Device Verificatie: Door de geheugenefficiëntie (streaming) kan verificatie plaatsvinden op de client-kant, wat de afhankelijkheid van centrale servers vermindert.
Toekomstige Ontwikkelingen: Het paper schetst de weg naar post-kwantum beveiliging door de overstap naar rooster-gebaseerde (lattice-based) commitment schemes (zoals Hachi) en verdere optimalisatie van de "teleportation"-factoren om de balans tussen bewijsgrootte en nauwkeurigheid te verbeteren.

Kortom, Jolt Atlas transformeert zkML van een theoretisch concept met hoge kosten naar een praktisch, schaalbaar en privacy-vriendelijk framework voor de volgende generatie AI-toepassingen.