💻 computer science

Exploring CKKS Parameter Trade-offs for Privacy-Preserving Personalized Federated Learning

Questo articolo introduce pFedCKKS, un framework che integra lo schema di crittografia omomorfa CKKS nel Federated Learning Personalizzato e fornisce la prima guida sistematica per la selezione dei suoi parametri al fine di bilanciare privacy, precisione ed efficienza computazionale.

Autori originali: Kamolchanok Saengtong, Phanwadee Sinthong, Norrathep Rattanavipanon

Pubblicato 2026-06-09

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Kamolchanok Saengtong, Phanwadee Sinthong, Norrathep Rattanavipanon

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate un gruppo di medici, ognuno dei quali lavora in un ospedale diverso, che vogliono costruire un'IA super intelligente per diagnosticare le malattie. Ognuno di loro possiede dati sui pazienti, ma le leggi sulla privacy (come il GDPR) e le regole etiche impediscono loro di inviare le reali cartelle cliniche dei pazienti a un server centrale.

L'Apprendimento Federato (Federated Learning - FL) è la soluzione che utilizzano: invece di condividere i dati, condividono le "lezioni apprese" (gli aggiornamenti del modello) dai rispettivi database locali. Tuttavia, c'è un problema: anche queste "lezioni" possono talvolta essere sottoposte a ingegneria inversa per rivelare dettagli privati sui pazienti.

L'Apprendimento Federato Personalizzato (Personalized Federated Learning - PFL) porta questo concetto un passo oltre. Nel FL standard, tutti finiscono con lo stesso identico modello di IA. Ma nel PFL, ogni medico ottiene un modello adattato specificamente alla particolare composizione di pazienti del proprio ospedale, pur continuando a imparare dal gruppo.

Il Problema: Il Server "Onesto ma Curioso"

In questa configurazione, c'è un server centrale che coordina l'addestramento. Il documento assume che questo server sia "onesto ma curioso". Segue le regole e non ruba i dati, ma è curioso. Potrebbe tentare di sbirciare le "lezioni" inviate dai medici per scoprire dettagli privati sui loro pazienti.

La Soluzione: La "Busta Magica" (CKKS)

Per impedire al server di sbirciare, gli autori introducono una "Busta Magica" chiamata CKKS (un tipo di Crittografia Omomorfica).

Come funziona: Immaginate di poter mettere una lettera all'interno di una scatola trasparente e chiusa a chiave. Potete eseguire operazioni matematiche sull'esterno della scatola (sommare o moltiplicare il contenuto) senza mai aprirla. Il server aggrega queste scatole chiuse. Solo i medici possiedono la chiave per aprire la scatola finale e leggere il risultato.
Perché CKKS? La maggior parte delle crittografie è ottima per i numeri interi (come contare le mele), ma i modelli di IA utilizzano i decimali (come 3,14159). CKKS è speciale perché può eseguire calcoli su questi numeri decimali mentre sono ancora chiusi nella scatola.

La Grande Scoperta: Le Impostazioni "Goldilocks"

Il contributo principale del documento è capire come configurare queste Buste Magiche. Gli autori hanno scoperto che la "dimensione" della serratura (chiamata primi) crea un compromesso:

Serrature Piccole: Veloci da chiudere/aprire e piccole da inviare su internet, ma la matematica all'interno diventa "sfocata" (bassa precisione). L'IA potrebbe confondersi e commettere errori.
Serrature Enormi: Matematica molto precisa, ma sono pesanti, lente da elaborare e richiedono molta larghezza di banda internet.

Gli autori hanno testato questo con tre diverse strategie di IA (FedFinetune, FedPer e Ditto) su tre diversi tipi di dati (lettere scritte a mano, volti di celebrità e sentiment dei tweet).

Il Risultato del "Punto di Equilibrio" (Goldilocks):
Hanno scoperto che non servono le serrature più grandi e pesanti per ottenere buoni risultati.

Se la serratura è troppo piccola (18 bit), l'IA si rompe e performa terribilmente.
Se la serratura è enorme (38+ bit), l'IA funziona perfettamente, ma è così lenta e pesante da essere impraticabile per l'uso nel mondo reale.
La Raccomandazione: Hanno trovato un'impostazione "Goldilocks": serrature esterne da 28 bit e interne da 26 bit.

A questa specifica impostazione:

L'IA è precisa quanto se non venisse utilizzata alcuna crittografia.
La velocità e l'uso di internet sono sufficientemente bassi da essere pratici.

Il Messaggio Chiave

Il documento presenta un framework chiamato pFedCKKS. Dimostra che è possibile avere il meglio dei due mondi: si possono addestrare modelli di IA personalizzati su dati privati senza che il server centrale veda mai i dati grezzi, e senza rallentare troppo il sistema.

La lezione fondamentale per chiunque costruisca questo sistema è: Non scegliete solo i numeri più grandi e sicuri che potete trovare. Invece, scegliete i numeri specifici "28 e 26" che gli autori hanno trovato, che bilanciano perfettamente sicurezza, velocità e precisione per questo compito specifico.

Sintesi Tecnica: Esplorazione dei Trade-off dei Parametri CKKS per l'Apprendimento Federato Personalizzato Preservante la Privacy

Definizione del Problema

L'Apprendimento Federato Personalizzato (PFL) consente ai client di addestrare collaborativamente modelli su misura per i propri dati locali ed eterogenei senza condividere i dataset grezzi. Tuttavia, il PFL standard rimane vulnerabile agli attacchi di inferenza da parte di server "honest-but-curious" (onesti ma curiosi), che possono ricostruire i dati di addestramento privati o inferire proprietà sensibili dagli aggiornamenti del modello scambiati. Sebbene la Crittografia Omomorfa (HE), specificamente lo schema CKKS, offra una soluzione consentendo l'aggregazione lato server su aggiornamenti criptati, la sua applicazione nel PFL manca di una guida sistematica. I professionaggi si trovano di fronte a un vuoto critico: non esiste un framework principato per configurare i parametri CKKS (come i moduli dei ciphertext) che bilanci le richieste contrastanti di privacy, precisione di decrittazione ed efficienza computazionale/di comunicazione nelle implementazioni PFL.

Metodologia

Gli autori introducono pFedCKKS, un framework generico che integra lo schema HE CKKS nei flussi di lavoro PFL. La metodologia prevede:

Modello di Sistema e di Minaccia: Il framework opera in un contesto cross-silo con un server honest-but-curious e client onesti. Un leader fidato (o una terza parte) genera le chiavi CKKS, distribuendo la chiave pubblica e le chiavi di valutazione al server e la chiave segreta ai client.
Integrazione del Workflow: Il processo di addestramento prevede che i client decriptino i parametri globali, eseguano gli aggiornamenti PFL locali (utilizzando gli algoritmi FedFinetune, FedPer o Ditto), criptino i parametri globali aggiornati e li inviino al server. Il server esegue l'aggregazione pesata omomorfa di questi ciphertext senza decrittazione.
Analisi dei Parametri: Gli autori derivano i vincoli per i parametri CKKS sotto un livello di sicurezza di 128 bit. Identificano che per l'impostazione PFL (che richiede un solo prodotto omomorfo), il problema si riduce alla selezione di due valori: il primo interno ( $q_1$ $q_{1}$ ) e il primo esterno ( $q_0 = q_2$ $q_{0} = q_{2}$ ).
- $N = 8192$ (fisso per la sicurezza).
- $L = 1$ (profondità moltiplicativa).
- Vincoli: $q_0 > q_1$ e $\log_2(q_0) + \log_2(q_1) + \log_2(q_2) < 218$ .
Valutazione Empirica: Il framework è implementato utilizzando il framework Flower FL e la libreria TenSEAL. Gli esperimenti sono condotti su tre dataset (FEMNIST, CelebA, Sentiment140) attraverso tre algoritmi PFL. Lo studio varia sistematicamente le dimensioni dei bit dei primi interni ed esterni per misurare:
- Comunicazione: Utilizzo della larghezza di banda e overhead rispetto ai baseline non criptati.
- Computazione: Overhead del tempo di esecuzione (crittografia/decrittografia rispetto all'addestramento locale).
- Precisione: Errore a livello di parametro (norma $L_1$ ) e accuratezza del modello nei test.

Contributi Chiave

Framework pFedCKKS: Il primo framework generico che integra CKKS nel PFL, dimostrando la compatibilità con le principali strategie PFL (FedFinetune, FedPer e Ditto).
Guida Sistematica ai Parametri: Una derivazione dei vincoli completi dei parametri CKKS per il PFL, che riduce la complessità della selezione alla scelta dei soli primi interni ed esterni.
Analisi dei Trade-off: Una vasta valutazione empirica che rivela l'inherente trade-off tra precisione e costo. Lo studio identifica che il primo interno è il fattore dominante per la precisione di decrittazione, mentre entrambi i primi influenzano significativamente i costi di comunicazione e computazione.
Linee Guida Pratiche: L'identificazione di un punto operativo ottimale che bilancia efficienza e accuratezza.

Risultati

Comunicazione: L'overhead di comunicazione aumenta linearmente con la dimensione di entrambi i primi interni ed esterni. Ad esempio, aumentare il primo interno da 18 a 38 bit (con un primo esterno fisso a 40 bit) ha comportato un overhead aggiuntivo superiore al 100%. Anche la scelta dell'algoritmo PFL impatta la larghezza di banda assoluta; FedPer ha ridotto significativamente l'overhead su FEMNIST trasmettendo solo i livelli base condivisi, ma lo ha aumentato su Sentiment140 dove i livelli condivisi costituivano quasi l'intero modello.
Computazione: L'overhead computazionale è significativo solo quando le operazioni CKKS (crittografia/decrittografia) dominano il tempo di addestramento locale. In contesti con modelli piccoli (es. CelebA) o piccoli sottoinsiemi criptati (FedPer su FEMNIST), l'addestramento locale ha mascherato l'overhead CKKS, risultando in aumenti del tempo di esecuzione totale trascurabili. Tuttavia, quando le operazioni CKKS erano dominanti, i primi più grandi hanno portato a tempi di esecuzione più elevati.
Precisione:
- Primo Interno: Questo è il fattore critico per la precisione. Un primo interno a 18 bit ha causato una grave degradazione dell'accuratezza (fino all'80% di calo in alcuni casi) a causa dell'instabilità numerica e dell'overflow. Aumentare il primo interno a 22 bit ha migliorato l'accuratezza, ma mostrava ancora cali osservabili. 26 bit o più hanno mantenuto costantemente l'accuratezza del modello comparabile al baseline non criptato.
- Primo Esterno: Ha avuto un impatto trascurabile sia sulla precisione a livello di parametro che su quella a livello di modello.
- Convergenza: I modelli con primi interni a 22 bit hanno mostrato una degradazione dell'accuratezza dopo un addestramento prolungato (rumore accumulato), mentre le configurazioni con 26 bit o superiori hanno converguto in modo simile al baseline.

Significato e Raccomandazioni

Il paper conclude che, sebbene CKKS renda possibile il PFL preservando la privacy, una selezione ingenua dei parametri può portare a costi proibitivi o a un'accuratezza del modello inutilizzabile. Gli autori forniscono una linea guida concreta per i professionisti:

Configurazione Raccomandata: Una configurazione del modulo del ciphertext di (28, 26, 28) (primo esterno da 28 bit, primo interno da 26 bit).
Razionale: Questa configurazione minimizza gli overhead di comunicazione e computazione garantendo al contempo che l'accuratezza del modello rimanga comparabile al baseline non criptato. Rappresenta il "punto di equilibrio" (sweet spot) dove aumentare ulteriormente il primo interno produce rendimenti decrescenti in termini di accuratezza, comportando però costi più elevati.

Il lavoro valida che la preservazione della privacy nel PFL è realizzabile con prestazioni efficienti quando i parametri CKKS sono accuratamente calibrati, colmando un vuoto critico nella distribuzione delle tecnologie di potenziamento della privacy per l'apprendimento federato personalizzato.