💬 NLP

Enabling AI ASICs for Zero Knowledge Proof

Il paper presenta MORPH, un framework innovativo che riformula i kernel delle prove a conoscenza zero per adattarli agli ASIC per l'IA, introducendo il modello di complessità Big-T e ottimizzando le operazioni aritmetiche e di flusso dati per ottenere fino a 10 volte più throughput sui TPU rispetto alle soluzioni esistenti.

Autori originali: Jianming Tong, Jingtian Dang, Simon Langowski, Tianhao Huang, Asra Ali, Jeremy Kun, Jevin Jiang, Srinivas Devadas, Tushar Krishna

Pubblicato 2026-04-21

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Jianming Tong, Jingtian Dang, Simon Langowski, Tianhao Huang, Asra Ali, Jeremy Kun, Jevin Jiang, Srinivas Devadas, Tushar Krishna

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di dover costruire un castello di carte gigante, ma con una regola speciale: devi dimostrare a un amico che hai costruito il castello correttamente senza mostrargli le carte e senza che lui debba ricostruirlo tutto da capo. Questo è il concetto di Zero-Knowledge Proof (ZKP): una magia matematica che permette di provare la verità di qualcosa mantenendo i segreti al sicuro.

Il problema è che, al momento, costruire queste "prove magiche" è lentissimo e costosissimo. È come se dovessi impilare milioni di carte a mano, una per una, mentre il tuo amico aspetta pazientemente.

Gli autori di questo paper (MORPH) hanno deciso di usare i TPU (i supercomputer di Google fatti apposta per l'Intelligenza Artificiale) per velocizzare questo processo. Ma i TPU sono fatti per fare calcoli diversi (come riconoscere gatti nelle foto), quindi non capiscono subito come costruire le prove matematiche.

Ecco come MORPH risolve il problema, spiegato con metafore semplici:

1. Il Problema: Il Traduttore Noioso

Immagina che i TPU siano cucinatori velocissimi che sanno solo fare piatti a base di ingredienti piccoli e standard (come farina e zucchero). Ma la matematica delle prove ZKP richiede ingredienti enormi e complessi (come un intero albero intero da usare come spezia).

Il vecchio metodo (Radix Montgomery): Era come se il cuoco dovesse prendere l'albero intero, tagliarlo in milioni di pezzettini minuscoli, misurarli uno a uno, e poi ricomporli. Ogni volta che tagliava un pezzo, doveva riordinare tutto il tavolo da cucina. Questo processo di "taglio e riordino" (chiamato carry propagation e layout transformation) rallentava tutto. Il cuoco passava più tempo a riordinare il tavolo che a cucinare.

2. La Soluzione Matematica: Il "Trucco" del Campo Esteso

MORPH ha inventato un nuovo modo di cucinare. Invece di usare l'albero intero direttamente, lo mettono in una scatola magica più grande (un "campo esteso").

L'analogia: Immagina di dover moltiplicare due numeri enormi. Invece di fare la moltiplicazione complicata e lunga, MORPH dice: "Trasformiamo questi numeri in una forma speciale (RNS) dove possiamo moltiplicarli come se fossero semplici pacchetti di farina".
Il risultato: I cuochi (i TPU) possono ora usare le loro macchine velocissime (le MXU, che sono come stampanti 3D per matrici) per fare milioni di operazioni in un attimo. Non devono più riordinare il tavolo ogni due secondi. Hanno eliminato le "code" di attesa.

3. La Soluzione Logistica: Il Nastro Trasportatore Intelligente

Oltre alla ricetta, c'è il problema di come portare gli ingredienti al cuoco.

Il vecchio metodo: Era come se i camerieri dovessero correre avanti e indietro tra la cucina e il magazzino, portando un solo ingrediente alla volta e riorganizzando i tavoli ogni volta.
La soluzione MORPH (LS-PPG): Hanno creato un nastro trasportatore intelligente. Gli ingredienti vengono organizzati in modo che, una volta messi sul nastro, arrivino al cuoco già pronti per essere usati, senza bisogno di fermarsi, girarsi o riordinare nulla.
L'NTT (La trasformazione): Per la parte di "trasformazione" dei dati (NTT), hanno inventato una nuova ricetta a 5 passaggi invece che a 3. È come se invece di impastare un unico blocco gigante (che richiede troppa forza e spazio), lo dividessero in piccoli blocchi gestibili che si adattano perfettamente alla forma della macchina, evitando di sprecare energia.

I Risultati: La Magia Accade

Grazie a questi trucchi, MORPH ha trasformato il TPU in una macchina da corsa per le prove matematiche:

Velocità: Per alcune operazioni (NTT), sono 10 volte più veloci dei sistemi attuali usati sulle schede video (GPU).
Efficienza: Non sprecano energia in movimenti inutili.
Scalabilità: Più grande diventa il problema (più "carte" da impilare), più MORPH brilla, mentre i vecchi sistemi si bloccano.

In Sintesi

MORPH è come se avessimo preso un F1 di Formula 1 (il TPU, fatto per l'AI) e avessimo costruito un ponte speciale per farlo correre su un circuito di Formula 1 che prima era fatto solo per camion (le prove matematiche ZKP).
Invece di costringere il camion a guidare come un'auto sportiva, abbiamo modificato la strada e il motore dell'auto per adattarli perfettamente l'uno all'altro. Il risultato? Le prove di sicurezza che prima richiedevano un'ora, ora si fanno in pochi minuti, rendendo le blockchain e i sistemi privati molto più veloci ed economici.

1. Il Problema

Le prove a conoscenza zero (ZKP) sono fondamentali per la computazione verificabile e le blockchain scalabili, ma il processo di generazione delle prove (il "prover") rimane proibitivamente costoso in termini di tempo e risorse.

Colli di bottiglia computazionali: Il runtime è dominato da due operazioni: la Moltiplicazione Multi-Scalare (MSM) e la Trasformata Numerica Teorica (NTT), che insieme costituiscono circa il 90-100% della latenza totale.
Inadeguatezza delle architetture attuali: Gli acceleratori AI esistenti, come le TPU (Tensor Processing Unit) di Google, offrono un'enorme densità computazionale e efficienza energetica, ma le implementazioni attuali degli algoritmi ZKP non ne sfruttano appieno le potenzialità.
Limiti del modello Big-O: I modelli di complessità tradizionali (Big-O) falliscono nel prevedere le prestazioni su hardware eterogeneo come le TPU. Non tengono conto dei costi di trasformazione del layout dei dati (shuffling, transposizione) necessari per adattare gli algoritmi ZKP alle unità di calcolo vettoriale e matriciale (VReg) delle TPU. Su queste architetture, la riorganizzazione dei dati diventa il collo di bottiglia dominante, rendendo gli algoritmi più veloci su GPU/FPGA fino a 30 volte più lenti se portati direttamente su TPU.

2. Metodologia: Il Framework MORPH

Gli autori presentano MORPH, il primo framework che riformula i kernel ZKP per allinearli all'esecuzione degli ASIC per l'IA. L'approccio si basa su due livelli di ottimizzazione guidati da un nuovo modello di complessità.

A. Nuovo Modello di Complessità: Big-T

Per analizzare le prestazioni su hardware eterogeneo, il paper introduce la notazione Big-T. A differenza del Big-O, il Big-T considera:

I colli di bottiglia tra le diverse unità di calcolo pipeline (VPU, MXU, XLU).
I costi di latenza legati alla trasformazione del layout dei dati.
Questo modello permette di identificare che su TPU, l'inefficienza non è dovuta alla potenza di calcolo, ma alla necessità di riorganizzare i dati per adattarli ai registri vettoriali (VReg) e alle matrici sincrone (MXU).

B. Ottimizzazioni Aritmetiche: Riduzione Lazy RNS Centrata su MXU

Le operazioni ZKP richiedono aritmetica modulare su campi primi di grandi dimensioni (256/377/753 bit), mentre le TPU operano nativamente su precisione ridotta (8/32 bit).

Sfida: Gli algoritmi attuali usano la riduzione di Montgomery, che richiede catene di propagazione del riporto sequenziali e costose per lo shuffling dei dati.
Soluzione MORPH:
- Incapsula l'aritmetica sul campo primo $\mathbb{F}_M$ all'interno di un campo esteso non primo $\mathbb{F}_Q$ che ammette una rappresentazione RNS (Residue Number System).
- Trasforma la moltiplicazione ad alta precisione in moltiplicazioni vettoriali indipendenti a 32 bit (senza propagazione del riporto).
- Sostituisce la riduzione modulare sequenziale con una riduzione lazy basata su RNS, riformulata come moltiplicazione di matrici a bassa precisione (8-bit) e operazioni vettoriali.
- Questo sposta il collo di bottiglia dalla propagazione sequenziale del riporto all'uso massiccio dell'unità matriciale (MXU) della TPU, eliminando le catene di riporto critiche.

C. Ottimizzazioni del Dataflow: Layout-Stationary e NTT a 5 Passi

Per minimizzare la comunicazione tra chip e la riorganizzazione interna dei dati:

MSM (LS-PPG): Viene introdotto LS-PPG (Layout-Stationary Pippenger). Questo algoritmo impone una partizione e un layout comuni durante le fasi di pre-sarting e accumulo dei bucket. Elimina la comunicazione inter-TPU e la riorganizzazione dei layout intra-TPU, permettendo di consumare i dati non appena vengono generati (fusione delle fasi).
NTT (5-step NTT): Viene proposto un NTT a 5 passi che suddivide ricorsivamente il lavoro. A differenza del NTT a 3 passi, che può causare overflow di memoria o sottoutilizzazione su grandi dimensioni, il NTT a 5 passi riduce lo span dell'MXU mantenendo un'alta utilizzazione delle risorse, evitando shuffling costosi e riducendo la memoria necessaria per i parametri (twiddle factors).

3. Risultati Sperimentali

Il framework è stato implementato in JAX e testato su Google TPUv6e-8, confrontato con lo stato dell'arte (GZKP su NVIDIA V100).

NTT (Trasformata Numerica Teorica):
- MORPH raggiunge un throughput fino a 10 volte superiore rispetto a GZKP per NTT a 753 bit.
- Le prestazioni scalano molto meglio all'aumentare della precisione: mentre la latenza della GPU aumenta di 6-7 volte passando da 256 a 753 bit, quella della TPU aumenta solo di 1.3-3 volte grazie all'efficienza dell'aritmetica RNS sull'MXU.
MSM (Moltiplicazione Multi-Scalare):
- Si ottiene un throughput comparabile o leggermente superiore (fino a 1.2x) rispetto a GZKP.
- Le ottimizzazioni aritmetiche riducono la latenza di un fattore di 50-90x rispetto alle implementazioni di base.
Efficienza: L'uso della riduzione lazy e del dataflow stationary riduce drasticamente i costi di memoria e le operazioni di shuffling, rendendo le TPU la piattaforma più efficiente per ZKP ad alta precisione.

4. Contributi Chiave

Big-T Complexity: Un nuovo modello di complessità hardware-consapevole che quantifica i colli di bottiglia eterogenei e i costi di layout, essenziale per progettare algoritmi per ASIC AI.
MXU-centric RNS Lazy Reduction: Una tecnica aritmetica che trasforma la moltiplicazione modulare su campi primi in operazioni matriciali dense a bassa precisione, eliminando le catene di riporto e ottenendo accelerazioni fino a 90x.
LS-PPG e 5-step NTT: Algoritmi di dataflow che evitano la comunicazione inter-dispositivo e minimizzano la riorganizzazione dei layout, riducendo lo storage dei parametri e massimizzando il parallelismo.

5. Significato

Il lavoro dimostra che gli ASIC per l'IA (come le TPU), precedentemente considerati inadatti per la crittografia a causa della loro architettura rigida e della mancanza di supporto nativo per campi primi, possono diventare le piattaforme State-of-the-Art per l'accelerazione ZKP.
MORPH fornisce un metodo sistematico per "riutilizzare" queste macchine potenti, trasformando i kernel ZKP in operazioni di moltiplicazione di matrici e vettori. Questo apre la strada a generatori di prove ZKP molto più veloci ed efficienti dal punto di vista energetico, rendendo la computazione verificabile scalabile per applicazioni pratiche su larga scala.