💬 NLP

Enabling AI ASICs for Zero Knowledge Proof

Het paper introduceert MORPH, een framework dat Zero-Knowledge Proof-kernels optimaliseert voor AI-ASICs zoals TPUs door een nieuw hardwarebewust complexiteitsmodel te gebruiken en rekenkundige transformaties toe te passen die de doorvoer aanzienlijk verhogen.

Oorspronkelijke auteurs: Jianming Tong, Jingtian Dang, Simon Langowski, Tianhao Huang, Asra Ali, Jeremy Kun, Jevin Jiang, Srinivas Devadas, Tushar Krishna

Gepubliceerd 2026-04-21

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jianming Tong, Jingtian Dang, Simon Langowski, Tianhao Huang, Asra Ali, Jeremy Kun, Jevin Jiang, Srinivas Devadas, Tushar Krishna

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorm ingewikkeld raadsel moet oplossen, maar je wilt bewijzen dat je het hebt opgelost zonder de oplossing zelf te laten zien. Dat is wat Zero-Knowledge Proofs (ZKP) doen. Het is cruciaal voor privacy op internet, maar er zit een groot probleem aan: het oplossen van deze raadsels (het "bewijzen") is ontzettend langzaam en duur. Het is alsof je een heel boek moet lezen om één zin te controleren.

De auteurs van dit paper, onderzoekers van Georgia Tech, MIT en Google, hebben een nieuwe manier bedacht om dit veel sneller te maken. Ze noemen hun oplossing MORPH.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De Verkeerde Gereedschapskist

Stel je voor dat je een gigantische pizza moet bakken.

De huidige situatie: De meeste computers (zoals GPU's) gebruiken een heel specifieke, kleine lepel om de pizza te bakken. Ze doen het stap voor stap, heel precies, maar het duurt eeuwen.
De nieuwe machines (AI ASICs/TPU): Google heeft enorme machines (TPU's) gebouwd voor kunstmatige intelligentie. Deze zijn als een gigantische, automatische pizza-oven die honderden pizza's tegelijk kan bakken. Ze zijn razendsnel en zuinig.
Het probleem: De "recepten" voor de pizza's (de ZKP-bewijzen) zijn geschreven voor de kleine lepel. Als je die recepten direct in de grote oven gooit, werkt het niet goed. De oven moet constant stoppen om de pizza's te draaien, te herschikken en te verplaatsen. De oven staat 90% van de tijd stil en wacht op instructies.

2. De Oplossing: MORPH (De Vertaler)

MORPH is een slimme vertaler en herschrijver. Het neemt de oude, trage recepten en herschrijft ze volledig zodat ze perfect passen bij de grote, snelle oven. Ze doen dit op twee manieren:

A. De Rekenmethode: Van "Handmatig" naar "Massaal"

In de oude manier van rekenen (voor deze bewijzen) moet je heel vaak "overdragen" (zoals in de basisschool: 5 + 5 = 10, zet de 1 erbij). Dit moet je één voor één doen, heel langzaam.

De MORPH-methode: Ze zeggen: "Wacht even, laten we die overdrachten helemaal weggooien." Ze veranderen de manier waarop de getallen worden opgeslagen (een trucje genaamd RNS).
De analogie: In plaats van dat elke kok (de computer) zijn eigen pan moet schoonmaken voordat hij de volgende stap doet, laten ze de koks in de grote oven allemaal tegelijk hun werk doen. Ze vervangen de trage, handmatige "overdracht" door een enorme, snelle matrix-bewerking (een soort super-snel rekenen in blokken). Hierdoor wordt de rekentijd tot wel 90 keer sneller.

B. De Datastroom: Geen Gedoe met Verplaatsen

De grootste vertraging in de snelle oven is niet het bakken zelf, maar het verplaatsen van de ingrediënten.

Het oude probleem: De recepten eisen dat je de pizza's steeds van de ene naar de andere kant van de oven moet schuiven, draaien en herschikken. Dit kost enorm veel tijd.
De MORPH-methode: Ze herschikken het hele proces zodat de pizza's niet meer hoeven te worden verplaatst.
- Voor het "Multi-Scalar Multiplication" (MSM): Ze zorgen dat de pizza's direct in de juiste bakken worden gegooid, zonder dat ze eerst door de hele oven hoeven te reizen.
- Voor het "Number-Theoretic Transform" (NTT): Ze breken de grote taak op in kleinere stukjes die perfect passen in de oven, zodat er geen tijd verloren gaat met het draaien van de pizza's.

3. Het Resultaat: Een Wereldrecord

Door deze twee trucjes toe te passen, kunnen ze de Google TPU (de grote oven) gebruiken om deze bewijzen te maken.

Snelheid: Voor de moeilijkste delen van het bewijs (de "NTT") zijn ze 10 keer sneller dan de beste bestaande systemen.
Efficiëntie: Ze gebruiken minder energie en kunnen veel grotere bewijzen verwerken zonder vast te lopen.

Samenvattend

Stel je voor dat je vroeger een brievenbus moest vullen met post, één voor één, met een kleine handprikker. Dat duurde dagen.
MORPH is als het vinden van een gigantische, geautomatiseerde postsorteerder. Ze hebben de manier waarop je de post inpakt veranderd (zodat hij in de machine past) en de route van de postbode aangepast (zodat hij niet hoeft te draaien). Het resultaat? Wat vroeger dagen duurde, is nu klaar in een paar uur.

Dit maakt privacy op het internet (zoals voor blockchain en beveiligde apps) veel praktischer en sneller, omdat de "bewijsmachine" eindelijk snel genoeg is om mee te gaan met de rest van de wereld.

Titel: Enabling AI ASICs for Zero Knowledge Proof (MORPH)

Auteurs: Jianming Tong, Jingtian Dang, Simon Langowski, et al. (Georgia Tech, MIT, Google)
Doel: Het accelereren van Zero-Knowledge Proof (ZKP) kernels op AI-ASICs, specifiek Google's TPU.

1. Het Probleem

Zero-Knowledge Proofs (ZKPs) zijn essentieel voor privacy en schaalbaarheid in blockchains, maar de "prover" (de entiteit die het bewijs genereert) is extreem duur en traag. De runtime wordt gedomineerd door twee kernbewerkingen:

Multi-Scalar Multiplication (MSM): ≈70% van de totale latentie.
Number-Theoretic Transform (NTT): ≈20-30% van de totale latentie.

Bestaande versnellers (GPU's, FPGA's, ASICs) zijn vaak handmatig geoptimaliseerd voor specifieke platforms, maar er ontbreekt een gestructureerde methode om de prestatielimieten van deze algoritmen op moderne AI-ASICs (zoals TPUs) te analyseren. Er zijn twee fundamentele mismatches tussen bestaande ZKP-algoritmen en AI-ASIC-architecturen:

Aritmetische mismatch: ZKPs vereisen rekenen in grote priemvelden (256-753 bits), terwijl AI-ASICs (zoals TPU) native lage precisie ondersteunen (8/16/32 bits). Bestaande methoden gebruiken "carry propagation" (dragen van cijfers) voor hoge precisie, wat op TPUs leidt tot sequentiële shuffles en een zeer lage rekenbenutting (<1%).
Dataflow-mismatch: Bestaande algoritmen vereisen frequente, fijngestuurde herschikkingen van data (shuffles, transposes) om data in de juiste blokken te krijgen voor de verwerkingseenheden. Op TPUs, die werken met grote, coarsely-grained vectorregisters (VRegs van 4KB), zijn deze herschikkingen extreem duur en vormen ze de dominante bottleneck, iets dat traditionele complexiteitsmodellen (Big-O) over het hoofd zien.

2. Methodologie: Big-T Complexiteit en MORPH

De auteurs introduceren MORPH (Matrix-Oriented Reformulation of ZKP for Parallel Heterogeneous AI ASICs), het eerste framework dat ZKP-kernels herformuleert voor AI-ASICs.

A. Big-T Complexiteit

In plaats van Big-O (die alleen het aantal bewerkingen telt), introduceren de auteurs Big-T. Dit is een hardware-bewust model dat de volgende factoren meet:

De bottleneck tussen heterogene verwerkingseenheden (VPU, MXU, XLU).
De kosten van layout-transformaties (data herschikken).
Dit model toont aan dat op TPUs de kosten van data-herschikking (layout transformation) vaak zwaarder wegen dan de rekenkosten zelf.

B. Aritmetische Optimalisatie: MXU-centric RNS Lazy Reduction

Om het probleem van hoge precisie in priemvelden op te lossen zonder sequentiële carry-chains:

Uitgebreid Veld: De auteurs kapselen de berekening in een groter, niet-priem veld ( $F_Q$ ) dat een Residue Number System (RNS) representatie toelaat.
Ontkoppeling: Hierdoor worden hoge precisie vermenigvuldigingen omgezet in onafhankelijke 32-bit vectorvermenigvuldigingen zonder carry-propagatie.
Lazy Reduction: De modulaire reductie wordt omgezet in een lage precisie matrixvermenigvuldiging (GEMM) die wordt versneld door de MXU (Matrix Multiplication Unit) van de TPU. Dit elimineert alle sequentiële carry-ketens en verplaatst de bottleneck naar parallelle vectorbewerkingen.

C. Dataflow Optimalisatie

Om communicatie en herschikking te minimaliseren:

LS-PPG (Layout-Stationary Pippenger): Voor MSM wordt een nieuwe scheduling-strategie ontwikkeld die de data-sharding en layout consistent houdt tijdens het sorteren en het accumuleren van buckets. Dit elimineert inter-TPU communicatie en intra-TPU herschikkingen.
5-staps NTT: In plaats van de bestaande 3-staps NTT, introduceert MORPH een recursieve 5-staps NTT. Dit splitst grote matrixvermenigvuldigingen op in kleinere blokken die beter passen bij de TPU's geheugen- en verwerkingscapaciteit, waardoor de opslag van parameters (twiddle factors) wordt verminderd en de MXU-benutting wordt gemaximaliseerd zonder layout-transformaties.

3. Belangrijkste Bijdragen

Big-T Complexiteit: Een nieuw model om de prestaties van MSM/NTT op AI-ASICs te analyseren, waarbij layout-transformatiekosten en heterogene bottlenecks expliciet worden gemeten.
MXU-centric RNS Lazy Reduction: Een methode om modulaire vermenigvuldiging in grote priemvelden om te zetten in dichte, lage precisie matrixvermenigvuldigingen, wat tot 90x versnelling oplevert ten opzichte van traditionele radix-Montgomery-reductie.
LS-PPG en 5-staps Layout-Invariante NTT: Dataflow-architecturen die communicatie tussen TPUs elimineren en herschikkingen binnen een TPU minimaliseren, wat leidt tot een tot 5,8x versnelling voor MSM en een schaalbare oplossing voor NTT.

4. Resultaten

Het framework is geïmplementeerd in JAX en getest op Google TPUv6e-8, vergeleken met de state-of-the-art (SotA) implementatie GZKP op NVIDIA V100 GPU's.

NTT Prestaties:
- Tot 10x hogere doorvoer voor 753-bit NTT's vergeleken met GZKP.
- De TPU schaalt veel beter met toenemende precisie (van 256 naar 753 bits) dan GPU's, omdat de latency op TPUs slechts 1,3x-3x toeneemt, terwijl deze op GPU's 6x-7x toeneemt door de lange carry-ketens.
MSM Prestaties:
- Vergelijkbare doorvoer (tot 1,2x) voor 753-bit MSM.
- Bij 256-bit is de prestatie iets lager dan GPU's vanwege geheugenbandbreedte-bottlenecks bij het scatteren van punten, maar bij hogere precisie presteert de TPU beter.
Ablatie-studies:
- De arithmetische optimalisatie (RNS Lazy Reduction) is de grootste bijdrage aan de snelheidswinst (50-90x lagere latentie voor MSM).
- De dataflow-optimalisaties (LS-PPG en 5-staps NTT) leveren aanvullende versnellingen op door parallelisme te maximaliseren en geheugenoverhead te verminderen.

5. Betekenis en Conclusie

Dit paper toont aan dat AI-ASICs, die oorspronkelijk zijn ontworpen voor Machine Learning, uitstekend geschikt zijn voor het versnellen van cryptografische ZKP-werklasten, mits de algoritmen correct worden herformuleerd.

Paradigmaverschuiving: Het paper beweert dat Big-O onvoldoende is voor moderne heterogene hardware en introduceert Big-T als de juiste maatstaf.
Praktische Impact: MORPH maakt TPUs tot het state-of-the-art platform voor hoge precisie NTT, wat een cruciale stap is om ZKP-systemen schaalbaar en betaalbaar te maken voor real-world toepassingen zoals verifieerbare computing en privacy-preserving blockchains.
Toekomst: Het werk opent de deur voor het gebruik van bestaande AI-infrastructuur (zoals Google Cloud TPU's) voor cryptografische doeleinden, wat de drempel voor het implementeren van complexe ZKP-protocollen verlaagt.