In de moderne digitale wereld reist gevoelige informatie vaak via netwerken die worden beheerd door vreemden. Een bank kan een leningaanvraag verwerken op een server die zij niet zelf bezit, of een ziekenhuis kan patiëntgegevens analyseren met een clouddienst die wordt beheerd door een derde partij. In deze scenario's is de data kwetsbaar; als de server wordt gecompromitteerd, wordt de privéinformatie blootgesteld. Decennialang was de enige manier om gegevens in dergelijke situaties te beschermen het offline houden ervan of het volledig vertrouwen op de serverbeheerder. Volledig homomorfe encryptie biedt een ander pad. Het is een wiskundige methode die een computer in staat stelt om berekeningen uit te voeren op gegevens die in een versleutelde staat vergrendeld blijven. De computer ziet nooit de werkelijke getallen; hij manipuleert alleen de gecodeerde code. Wanneer de berekening is voltooid, wordt het resultaat ontsleuteld om het juiste antwoord te onthullen, alsof het werk was gedaan op de oorspronkelijke, ongeëncrypteerde data. Deze technologie belooft een toekomst waarin privacy behouden blijft, zelfs wanneer berekeningen plaatsvinden op onbetrouwbare infrastructuur.

Deze privacy heeft echter een hoge prijs. Omdat de computer moet werken met gecodeerde code in plaats van duidelijke getallen, zijn de berekeningen ongelooflijk traag. Een taak die een fractie van een seconde duurt op normale data, kan uren of zelfs dagen duren wanneer deze versleuteld is. Deze traagheid heeft de technologie verhinderd om te worden gebruikt in realtime-applicaties, zoals het analyseren van medische scans of het verwerken van financiële transacties terwijl ze plaatsvinden. De flessenhals ligt in de manier waarop de computer de enorme hoeveelheden wiskundige arbeid afhandelt die nodig zijn om de encryptie intact te houden. Om deze technologie praktisch te maken, moeten onderzoekers manieren vinden om deze berekeningen te versnellen zonder de beveiligingsregels te schenden die de data veilig houden.

Een team onderzoekers van de Hunan University en het Guangdong Provincial Key Laboratory of Power System Network Security heeft een nieuwe methode ontwikkeld om dit snelheidsprobleem aan te pakken. Ze hebben een systeem gecreëerd genaamd CRISP, dat fungeert als een gespecialiseerde vertaler voor de computercode die deze versleutelde berekeningen uitvoert. Hun werk richt zich op een specifiek type encryptieschema dat bekend staat als CKKS, dat veel wordt gebruikt voor machine learning-taken. In dit schema wordt de versleutelde data gerepresenteerd als een verzameling grote wiskundige objecten die polynomen worden genoemd. Om een berekening uit te voeren, moet de computer deze polynomen verwerken via een reeks stappen die ze inhouden het opdelen in kleinere stukken en weer samenvoegen. De onderzoekers ontdekten dat de bestaande software die wordt gebruikt om deze berekeningen uit te voeren, het vermogen van moderne computerprocessors niet volledig benut.

Moderne computerprocessors bevatten meerdere kernen, vergelijkbaar met een team van werkers, die elk gelijktijdig een taak kunnen uitvoeren. De standaardsoftware voor versleutelde berekeningen was ontworpen om een techniek te gebruiken die SIMD wordt genoemd, wat lijkt op het hebben van een enkele werker die een taak op veel kleine items tegelijk uitvoert met een gespecialiseerd gereedschap. Hoewel effectief, beperkt deze aanpak het aantal actieve werkers op hetzelfde moment. De onderzoekers realiseerden zich dat de structuur van de versleutelde berekeningen ruimte bood voor een andere strategie: in plaats van te vertrouwen op het gespecialiseerde gereedschap voor elk klein item, konden ze verschillende grote brokken van het werk toewijzen aan verschillende werkers. Ze ontwikkelden een compiler-gestuurde aanpak die de code reorganiseert voordat deze wordt uitgevoerd, waardoor de computer zijn meerdere kernen effectiever kan gebruiken. Deze verschuiving van een single-worker, many-items aanpak naar een many-workers, many-chunks aanpak is de kern van hun innovatie.

De onderzoekers bouwden hun systeem, CRISP, bovenop een bestaande end-to-end compiler genaamd ANT-ACE. Deze compiler neemt een machine learning-model, zoals een model dat wordt gebruikt om afbeeldingen te herkennen, en zet dit automatisch om in een programma dat op versleutelde data kan draaien. Het team heeft hun nieuwe parallellisatiestrategie ingevoegd in de laatste fase van dit proces, waar het programma wordt vertaald naar de polynoomoperaties die de encryptielibrary begrijpt. Door dit op compiler-niveau te doen, konden ze de volledige structuur van de berekening zien en ervoor zorgen dat de nieuwe manier van het werk splitsen de strikte regels van de encryptie niet overtrad. Ze moesten voorzichtig zijn omdat versleutelde data specifieke wiskundige eigenschappen heeft die behouden moeten blijven; als het werk incorrect wordt gesplitst, zal het uiteindelijke antwoord fout zijn. Hun methode analyseert zorgvuldig de afhankelijkheden tussen verschillende delen van de berekening om te garanderen dat de parallelle werkers niet met elkaar interfereren.

De resultaten van hun experimenten waren aanzienlijk. Ze testten het systeem op een standaard multi-core computerprocessor met zes verschillende versleutelde machine learning-modellen. Wanneer ze de versleutelde berekeningen met hun nieuwe methode uitvoerden, werden de kernwiskundige operaties gemiddeld 2,65 keer sneller dan bij het gebruik van de standaardmethode. Deze versnelling was consistent over verschillende soorten berekeningen, inclus van optellen en vermenigvuldigen van de versleutelde getallen. Voor het volledige machine learning-inferentieproces — de tijd die nodig is om een model op een enkel stuk data te draaien — verminderde de nieuwe methode de totale tijd met gemiddeld 137 seconden vergeleken met de beste bestaande versie. In sommige gevallen was de reductie zelfs nog dramatischer, waarbij het systeem bijna zeven keer sneller was voor specifieke vermenigvuldigingstaken. Deze verbeteringen werden bereikt zonder de onderliggende encryptieschema te wijzigen of nieuwe hardware te vereisen; de winst kwam volledig voort uit een slimmere manier van het organiseren van het bestaande werk.

De onderzoekers hebben ook geverifieerd dat hun methode goed werkt wanneer deze wordt gecombineerd met andere optimalisaties. Machine learning-modellen omvatten vaak complexe stappen waarbij verschillende operaties worden samengevoegd om tijd te besparen. Het team heeft aangetoond dat hun parallellisatiestrategie kan samenbestaan met deze samenvoegingstechnieken, waarbij de voordelen van beide behouden blijven. Ze testten het systeem met tot wel zestien processorcores en vonden dat de prestaties bleven verbeteren, hoewel de winst begon af te vlakken naarmate het systeem de limieten van zijn geheugenbandbreedte naderde. Dit geeft aan dat de methode goed schaalt met krachtigere hardware. Cruciaal is dat ze bevestigden dat de resultaten geproduceerd door het nieuwe systeem wiskundig identiek waren aan de resultaten geproduceerd door het standaard systeem, wat bewijst dat de snelheid niet ten koste ging van de nauwkeurigheid.

Dit werk vormt een praktische stap voorwaarts in het levensvatbaar maken van versleutelde machine learning voor echt wereldgebruik. Door de controle over hoe berekeningen worden geparallelliseerd te verschuiven van de runtime-library naar de compiler, hebben de onderzoekers een nieuw niveau van prestaties ontsloten dat voorheen onbereikbaar was. Hun aanpak vertrouwt niet op magie of nieuwe theoretische doorbraken, maar op een zorgvuldige reorganisatie van hoe bestaande tools worden gebruikt. De bevindingen suggereren dat versleutelde gegevensverwerking snel genoeg gemaakt kan worden voor applicaties die onmiddellijke resultaten vereisen, zoals realtime fraude detectie of private medische diagnostiek. Het team heeft hun implementatie beschikbaar gesteld voor anderen om te bestuderen en op voort te bouwen, wat de deur opent voor verdere verfijningen. Naarmale de vraag naar privacy-bewuste berekeningen groeit, bieden methoden zoals CRISP een duidelijk pad om veilige gegevensverwerking een standaard onderdeel van het digitale landschap te maken in plaats van een theoretische mogelijkheid.