🤖 AI

Jolt Atlas: Verifiable Inference via Lookup Arguments in Zero Knowledge

Il paper presenta Jolt Atlas, un framework di apprendimento automatico a conoscenza zero che estende il sistema di prova Jolt per verificare direttamente le operazioni tensoriali ONNX tramite argomenti di ricerca, consentendo inferenze verificabili, efficienti e rispettose della privacy anche su dispositivi con risorse limitate.

Autori originali: Wyatt Benno, Alberto Centelles, Antoine Douchet, Khalil Gibran

Pubblicato 2026-02-20

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Wyatt Benno, Alberto Centelles, Antoine Douchet, Khalil Gibran

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un cuoco geniale (l'Intelligenza Artificiale) che prepara un piatto delizioso per te. Tu vuoi mangiare il piatto, ma hai due problemi:

Non vuoi che il cuoco ti mostri la ricetta segreta (i pesi del modello).
Non vuoi che il cuoco ti mostri gli ingredienti che hai usato tu (i tuoi dati privati).
Vuoi essere sicuro al 100% che il cuoco abbia davvero seguito la ricetta e non abbia semplicemente inventato un piatto a caso.

Fino a poco tempo fa, per verificare questo, dovevi invitare un ispettore a guardare ogni singolo movimento del cuoco, il che richiedeva un tempo infinito e un'energia enorme.

Jolt Atlas è la soluzione magica a questo problema. È un nuovo sistema che permette di dire: "Ehi, guarda questo foglietto di carta (la prova). È così piccolo che puoi leggerlo in un secondo, e ti garantisce matematicamente che il cuoco ha fatto esattamente ciò che dice, senza rivelarti né la ricetta né i tuoi ingredienti."

Ecco come funziona, spiegato con delle metafore semplici:

1. Il problema dei "Giganti" (I Modelli AI)

I modelli di Intelligenza Artificiale moderni sono come giganti colossali con milioni di pezzi. Verificare che un gigante abbia fatto un calcolo corretto è come cercare di controllare se un'intera biblioteca è stata riordinata correttamente: ci vorrebbe una vita. I metodi vecchi (chiamati zkVM) provano a controllare ogni singolo "passo" del gigante, come se dovessero contare ogni singolo mattone di un muro. È lento e pesante.

2. La soluzione "Lookup": La Lista della Spesa

Jolt Atlas cambia strategia. Invece di controllare come il gigante calcola ogni cosa, controlla se i risultati corrispondono a una lista di controllo pre-calcolata (chiamata Lookup Table).

L'analogia: Immagina di dover verificare che il cuoco abbia aggiunto "zucchero" alla torta. Invece di guardare come mescola lo zucchero (che è complicato), il sistema controlla semplicemente: "C'è una voce nella lista che dice 'Zucchero'? Sì. Quindi va bene."
Questo funziona benissimo per le parti "strane" e non lineari delle AI (come le funzioni che decidono se un'immagine è un gatto o un cane), che sono le più difficili da verificare.

3. Il trucco del "Teletrasporto Neurale" (Neural Teleportation)

C'è un problema: le liste di controllo per le funzioni complesse potrebbero essere enormi (come un'enciclopedia intera). Jolt Atlas usa un trucco chiamato Teletrasporto Neurale.

L'analogia: Immagina di dover controllare un'auto che viaggia a 300 km/h. È difficile misurare tutto. Ma se l'auto entra in un tunnel dove la velocità è limitata a 50 km/h, è molto più facile controllarla.
Jolt Atlas "rallenta" leggermente le parti più difficili del calcolo (le funzioni di attivazione) in modo che entrino in una "zona sicura" dove i calcoli sono più semplici da verificare. È come se il cuoco usasse un cucchiaio più piccolo per misurare lo zucchero: il risultato finale è quasi identico, ma è molto più facile da controllare.

4. Il "Foglio Volante" (Streaming)

Spesso, per verificare questi calcoli, serve un computer potentissimo con tanta memoria. Jolt Atlas è speciale perché funziona anche su computer normali (come il tuo laptop o il tuo telefono).

L'analogia: Immagina di dover leggere un libro di 1000 pagine per verificare un fatto. I metodi vecchi ti chiedono di stampare tutto il libro e tenerlo in mano. Jolt Atlas ti permette di leggere il libro pagina per pagina, cancellare la pagina appena letta e passare alla successiva. Non devi tenere tutto il libro in memoria, solo la pagina corrente. Questo si chiama streaming.

5. Il "Foglio Sigillato" (Zero Knowledge)

Tutto questo avviene in "Zero Knowledge".

L'analogia: Immagina di avere una scatola chiusa a chiave. Il cuoco ti dà la scatola. Tu non puoi aprirla (quindi non vedi gli ingredienti), ma c'è un lucchetto magico. Se il lucchetto si apre e mostra un "SÌ" verde, sai con certezza matematica che dentro c'è esattamente ciò che il cuoco ha detto, senza che tu abbia mai visto cosa c'è dentro.

Perché è importante?

Prima, verificare un'AI richiedeva supercomputer e tempi lunghissimi. Oggi, con Jolt Atlas:

Velocità: Verificare un modello come GPT-2 (che è grande) richiede circa 38 secondi su un computer normale.
Privacy: Puoi usare l'AI senza che nessuno sappia cosa hai chiesto o come funziona il modello.
Sicurezza: Puoi fidarti dei risultati anche se non ti fidi del fornitore dell'AI.

In sintesi, Jolt Atlas è come un controllore di volo invisibile che ti assicura che il pilota (l'AI) abbia seguito la rotta corretta, senza farti vedere la mappa, senza farti vedere il carburante, e senza richiedere che tu abbia un aereo da guerra per controllare. È la chiave per un'Intelligenza Artificiale che possiamo fidarci di usare ogni giorno, anche per cose delicate come i nostri dati personali o le transazioni finanziarie.

1. Il Problema

Il campo del Zero-Knowledge Machine Learning (zkML) mira a permettere la verifica dell'inferenza di modelli di apprendimento automatico senza rivelare i dati di input, i pesi del modello o l'architettura stessa. Tuttavia, l'implementazione pratica di zkML incontra ostacoli significativi:

Overhead Computazionale: I sistemi SNARK generici impongono un sovraccarico di 100.000x - 1.000.000x rispetto all'esecuzione nativa.
Operazioni Non Lineari: Le reti neurali dipendono fortemente da funzioni non lineari (es. ReLU, Softmax, GELU). Tradurre queste funzioni in sistemi di vincoli aritmetici a basso grado porta a un'esplosione del numero di vincoli o del grado polinomiale, rendendo la generazione delle prove estremamente costosa.
Vincoli di Memoria: La generazione di prove per modelli di grandi dimensioni richiede spesso di materializzare in memoria interi vettori di testimonianza (witness) e polinomi intermedi, superando i limiti di RAM dei dispositivi consumer o on-device.
Inefficienza delle Architetture Generali: I sistemi basati su macchine virtuali zero-knowledge (zkVM) che emulano l'esecuzione delle istruzioni della CPU (come RISC-V) sono inefficienti per il calcolo tensoriale, poiché non sfruttano la struttura algebrica delle operazioni su matrici e tensori.

2. Metodologia: Jolt Atlas

Jolt Atlas è un framework zkML che estende il sistema di prova Jolt (originariamente progettato per zkVM RISC-V) adattandolo direttamente al modello computazionale delle reti neurali tramite ONNX (Open Neural Network Exchange).

Architettura e Modello Computazionale

Da CPU a Tensori: A differenza degli zkVM che tracciano l'esecuzione delle istruzioni della CPU (registri e RAM), Jolt Atlas opera direttamente su tensori (vettori multidimensionali). Questo elimina la necessità di gestire registri generici e semplifica la verifica della coerenza della memoria, sfruttando il flusso dati deterministico dei grafi ONNX.
Grafo di Prove (Proof DAG): La prova è organizzata come un Grafo Aciclico Diretto (DAG) di istanze del protocollo Sumcheck. Ogni nodo rappresenta un'istanza di Sumcheck e gli archi rappresentano le affermazioni di valutazione polinomiale che collegano le fasi. Questa struttura permette di raggruppare (batching) o sequenziare (staging) le prove in base alle dipendenze.
Commitment Polinomiale: Invece di utilizzare Dory (usato in Jolt per grandi campi), Jolt Atlas adotta HyperKZG, uno schema di commitment basato su KZG per polinomi multivariati, più adatto alla verifica on-chain e ai tensori.

Tecniche Chiave

Lookup Arguments (Argomenti di Ricerca):
- Le operazioni non lineari (come le funzioni di attivazione) non vengono aritmetizzate direttamente. Invece, il prover dimostra che ogni coppia input-output appartiene a una tabella di ricerca precalcolata.
- Decomposizione Prefisso-Suffisso: Per gestire tabelle di ricerca enormi (es. per input a 64 bit), Jolt Atlas scompone le tabelle in segmenti più piccoli. Questo permette di ridurre la memoria necessaria dal prover da $O(|T|)$ a $O(|T|^{1/C})$ tramite un approccio "streaming", sacrificando tempo di calcolo per risparmiare memoria.
- Teletrasporto Neurale (Neural Teleportation): Per comprimere ulteriormente le tabelle di ricerca per funzioni come tanh o erf, viene applicata una trasformazione globale che divide gli input pre-attivazione per un fattore $\tau > 1$ . Poiché queste funzioni sono sature nella maggior parte del loro intervallo, l'approssimazione è trascurabile, permettendo di ridurre drasticamente la dimensione della tabella di ricerca (es. da range completi a 16 bit) senza perdita significativa di accuratezza.
Zero-Knowledge tramite BlindFold:
- Per garantire la privacy (nascondere i pesi e gli input), Jolt Atlas integra il protocollo BlindFold.
- Questo protocollo "riattiva" la proprietà zero-knowledge sulle prove Sumcheck (che di per sé rivelano il witness) codificando il verificatore di Sumcheck come un circuito R1CS.
- Utilizza una tecnica di "folding" (piegatura) stile Nova: l'istanza reale viene combinata con un'istanza casuale soddisfacente, producendo un witness piegato che non rivela nulla dell'originale, mantenendo la validità della prova.
Virtual Polynomials:
- Per evitare di impegnare (commit) polinomi sparsi di grandi dimensioni, i polinomi virtuali vengono definiti come combinazioni algebriche di un piccolo insieme di polinomi a basso grado, riducendo i costi di commitment.

3. Contributi Chiave

Adattamento di Jolt per ML: Sostituzione dell'architettura RISC-V con grafi computazionali ONNX, passando da un modello basato su istruzioni a uno basato su tensori.
Ottimizzazioni Specifiche per ML: Introduzione di tecniche come il Neural Teleportation per la compressione delle tabelle di ricerca e l'uso diretto di polinomi multivariati per le operazioni tensoriali, evitando la decomposizione scalare inefficiente.
Prove Streaming: Capacità di generare prove per modelli di grandi dimensioni in ambienti con memoria limitata (on-device), riducendo il picco di memoria tramite la decomposizione delle tabelle.
Privacy Completa: Integrazione di BlindFold per garantire che pesi, input e architettura rimangano nascosti durante la verifica.
Supporto ONNX: Un pipeline che accetta modelli da PyTorch, TensorFlow o JAX esportati in ONNX, rendendo il sistema agnostico rispetto al framework di training.

4. Risultati e Benchmark

I benchmark sono stati eseguiti su un MacBook Pro (M3, 16GB RAM).

nanoGPT (0.25M parametri, 4 layer):
- Jolt Atlas: Tempo di generazione della prova (Proof time) di 14 secondi.
- ezkl (Framework concorrente basato su Halo2): Tempo di generazione della prova di 237 secondi (esclusi i tempi di generazione delle chiavi che superano i 400s).
- Vantaggio: Jolt Atlas è circa 17 volte più veloce nella sola generazione della prova rispetto a ezkl per lo stesso modello.
GPT-2 (125M parametri):
- Il sistema è stato in grado di generare prove end-to-end in circa 38 secondi totali, dimostrando la scalabilità a modelli di grandi dimensioni su hardware consumer.
- La prova include: generazione chiavi, generazione witness, commitment, proving Sumcheck, apertura e HyperKZG.

5. Significato e Impatto

Jolt Atlas rappresenta un passo significativo verso l'adozione pratica dello zkML:

Verifica On-Device: Dimostra che è possibile eseguire prove crittografiche complesse su hardware consumer (come smartphone o laptop) senza bisogno di GPU specializzate o server dedicati, abilitando scenari di privacy-centric computing.
Efficienza per l'IA: Sfruttando la struttura specifica delle reti neurali (tensori, lookup per non-linearità) invece di trattarle come circuiti generici, riduce drasticamente il divario tra l'inferenza nativa e la verifica zero-knowledge.
Applicazioni Reali: Abilita casi d'uso critici come:
- Agentic Commerce: Garantire che un agente AI prenda decisioni basate su regole verificate senza rivelare la strategia interna.
- AI Context Trustless: Verificare la memoria e il contesto di un'IA senza fiducia centrale.
- Privacy: Eseguire inferenze su dati sensibili mantenendo i dati e il modello privati.

In sintesi, Jolt Atlas risolve il collo di bottiglia della memoria e della velocità nelle prove zkML, offrendo una soluzione scalabile, privata e verificabile per l'infrastruttura dell'IA moderna.