Compiler-Guided Polynomial-Level Parallelism for FHE-Encrypted Machine Learning Inference
Il documento introduce CRISP, un approccio guidato dal compilatore che consente un parallelismo sicuro a livello di polinomio per l'inferenza di machine learning cifrata tramite FHE, scambiando la vettorizzazione SIMD a runtime con il parallelismo OpenMP a tempo di compilazione, con il risultato di significativi incrementi di velocità e riduzioni della latenza all'interno del framework del compilatore ANT-ACE.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel mondo digitale moderno, le informazioni sensibili viaggiano spesso attraverso reti controllate da estranei. Una banca potrebbe elaborare la tua domanda di prestito su un server che non possiede, o un ospedale potrebbe analizzare le cartelle cliniche dei pazienti utilizzando un servizio cloud gestito da terze parti. In questi scenari, i dati sono vulnerabili; se il server viene compromesso, le informazioni private vengono esposte. Per decenni, l'unico modo per proteggere i dati in tali situazioni era tenerli offline o fidarsi completamente del gestore del server. La cifratura omomorfica completa offre una strada diversa. È un metodo matematico che consente a un computer di eseguire calcoli su dati che rimangono bloccati in uno stato cifrato. Il computer non vede mai i numeri reali; manipola solo il codice rimescolato. Quando il calcolo è terminato, il risultato viene decifrato per rivelare la risposta corretta, come se il lavoro fosse stato eseguito sui dati originali, non cifrati. Questa tecnologia promette un futuro in cui la privacy è preservata anche quando l'elaborazione avviene su un'infrastruttura non affidabile.
Tuttavia, questa privacy ha un prezzo elevato. Poiché il computer deve lavorare con codice rimescolato anziché con numeri chiari, i calcoli sono incredibilmente lenti. Un compito che richiede una frazione di secondo su dati normali può richiedere ore o addirittura giorni quando i dati sono cifrati. Questa lentezza ha impedito alla tecnologia di essere utilizzata in applicazioni in tempo reale, come l'analisi di scansioni mediche o l'elaborazione di transazioni finanziarie mentre avvengono. Il collo di bottiglia risiede nel modo in cui il computer gestisce le enormi quantità di lavoro matematico necessarie per mantenere intatta la cifratura. Per rendere questa tecnologia pratica, i ricercatori devono trovare modi per velocizzare questi calcoli senza violare le regole di sicurezza che mantengono i dati al sicuro.
Un team di ricercatori della Università di Hunan e del Laboratorio Chiave Provinciale del Guangdong per la Sicurezza delle Reti dei Sistemi di Potenza ha sviluppato un nuovo metodo per affrontare questo problema di velocità. Hanno creato un sistema chiamato CRISP, che funge da traduttore specializzato per il codice computerizzato che esegue questi calcoli cifrati. Il loro lavoro si concentra su un tipo specifico di schema di cifratura noto come CKKS, ampiamente utilizzato per i compiti di machine learning. In questo schema, i dati cifrati sono rappresentati come una collezione di grandi oggetti matematici chiamati polinomi. Per eseguire un calcolo, il computer deve elaborare questi polinomi attraverso una serie di passaggi che comportano la scomposizione in pezzi più piccoli e la loro successiva riassemblaggio. I ricercatori hanno scoperto che il software esistente utilizzato per eseguire questi calcoli non sfruttava appieno la potenza dei moderni processori per computer.
I moderni processori per computer contengono più core, simili a un team di lavoratori, ciascuno capace di svolgere un lavoro simultaneamente. Il software standard per i calcoli cifrati è stato progettato per utilizzare una tecnica chiamata SIMD, che è come avere un singolo lavoratore che esegue un compito su molti piccoli oggetti contemporaneamente utilizzando uno strumento specializzato. Sebbene efficace, questo approccio limita il numero di lavoratori che possono essere attivi contemporaneamente. I ricercatori si sono resi conto che la struttura dei calcoli cifrati permetteva una strategia diversa: invece di fare affidamento sullo strumento specializzato per ogni piccolo oggetto, potevano assegnare diversi grandi blocchi di lavoro a diversi lavoratori. Hanno sviluppato un approccio guidato dal compilatore che riorganizza il codice prima dell'esecuzione, consentendo al computer di utilizzare i suoi molteplici core in modo più efficace. Questo passaggio da un approccio "un lavoratore, molti oggetti" a un approccio "molti lavoratori, molti blocchi" è il cuore della loro innovazione.
I ricercatori hanno costruito il loro sistema, CRISP, sopra un compilatore end-to-end esistente chiamato ANT-ACE. Questo compilatore prende un modello di machine learning, come uno utilizzato per riconoscere immagini, e lo converte automaticamente in un programma che può essere eseguito su dati cifrati. Il team ha inserito la loro nuova strategia di parallelizzazione nella fase finale di questo processo, dove il programma viene tradotto nelle operazioni polinomiali che la libreria di cifratura comprende. Facendo ciò a livello di compilatore, hanno potuto vedere l'intera struttura del calcolo e garantire che il nuovo modo di suddividere il lavoro non violasse le rigide regole della cifratura. Dovevano essere cauti perché i dati cifrati hanno proprietà matematiche specifiche che devono essere preservate; se il lavoro viene suddiviso in modo errato, la risposta finale sarà sbagliata. Il loro metodo analizza attentamente le dipendenze tra le diverse parti del calcolo per garantire che i lavoratori paralleli non interferiscano l'uno con l'altro.
I risultati dei loro esperimenti sono stati significativi. Hanno testato il sistema su un normale processore per computer multi-core utilizzando sei diversi modelli di machine learning cifrati. Quando hanno eseguito i calcoli cifrati con il loro nuovo metodo, le operazioni matematiche fondamentali sono diventate, in media, 2,65 volte più veloci rispetto all'utilizzo del metodo standard. Questa accelerazione è stata costante in diversi tipi di calcoli, inclusi l'addizione e la moltiplicazione dei numeri cifrati. Per l'intero processo di inferenza del machine learning — il tempo necessario per eseguire un modello su un singolo dato — il nuovo metodo ha ridotto il tempo totale di una media di 137 secondi rispetto alla migliore versione esistente. In alcuni casi, la riduzione è stata ancora più drammatica, con il sistema che risultava quasi sette volte più veloce per specifici compiti di moltiplicazione. Questi miglioramenti sono stati ottenuti senza cambiare lo schema di cifratura sottostante o richiedere nuovo hardware; i guadagni derivano interamente da un modo più intelligente di organizzare il lavoro esistente.
I ricercatori hanno anche verificato che il loro metodo funziona bene quando combinato con altre ottimizzazioni. I modelli di machine learning spesso coinvolgono passaggi complessi in cui diverse operazioni vengono unite insieme per risparmiare tempo. Il team ha dimostrato che la loro strategia di parallelizzazione può coesistere con queste tecniche di fusione, preservando i benefici di entrambe. Hanno testato il sistema con fino a sedici core del processore e hanno scoperto che le prestazioni continuavano a migliorare, sebbene i guadagni iniziassero a stabilizzarsi man mano che il sistema si avvicinava ai limiti della larghezza di banda della memoria. Ciò indica che il metodo scala bene con hardware più potenti. Fondamentalmente, hanno confermato che i risultati prodotti dal nuovo sistema sono matematicamente identici a quelli prodotti dal sistema standard, provando che la velocità non è avvenuta a scapito dell'accuratezza.
Questo lavoro rappresenta un passo avanti pratico nel rendere il machine learning cifrato fattibile per l'uso nel mondo reale. Spostando il controllo di come i calcoli vengono parallelizzati dalla libreria di runtime al compilatore, i ricercatori hanno sbloccato un nuovo livello di prestazioni che era precedentemente inaccessibile. Il loro approccio non si basa su magie o nuove scoperte teoriche, ma piuttosto su una attenta riorganizzazione di come gli strumenti esistenti vengono utilizzati. Le scoperte suggeriscono che l'elaborazione dei dati cifrati può essere resa abbastanza veloce per applicazioni che richiedono risultati immediati, come il rilevamento delle frodi in tempo reale o la diagnostica medica privata. Il team ha reso la propria implementazione disponibile affinché altri possano studiarla e costruirci sopra, aprendo la porta a ulteriori perfezionamenti. Mentre la domanda di computazione che preserva la privacy cresce, metodi come CRISP forniscono un percorso chiaro per rendere l'elaborazione sicura dei dati una parte standard del panorama digitale piuttosto che una possibilità teorica.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.