💻 computer science

PRoVeFL: Private Robust and Verifiable Aggregation in Federated Learning

PRoVeFL è un nuovo framework di apprendimento federato modulare che ottiene un'aggregazione preservante la privacy, resistente ai Byzantine e verificabile, sfruttando la crittografia omomorfica fully homomorphic multi-key e un modello di computazione ibrido per ridurre significativamente l'overhead pur supportando diversi algoritmi di aggregazione robusta.

Autori originali: Harsh Kasyap, Anil Kumar Pradhan, Ugur Ilker Atmaca, Graham Cormode, Carsten Maple

Pubblicato 2026-07-09

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Harsh Kasyap, Anil Kumar Pradhan, Ugur Ilker Atmaca, Graham Cormode, Carsten Maple

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Il quadro generale: Un progetto di gruppo con un insegnante sospettoso

Immaginate un gruppo di studenti (i client) che cercano di risolvere insieme un difficile problema di matematica. Vogliono imparare la risposta senza mostrare i loro appunti privati a nessuno.

In una configurazione standard, inviano tutti le loro risposte a un singolo insegnante (il server) che le combina per trovare la soluzione finale. Ma questo presenta due grandi problemi:

Violazione della privacy: Se l'insegnante è curioso (o viene hackerato), può guardare le risposte degli studenti e indovinare quali appunti privati stavano studiando.
Imbroglio: Uno studente disonesto potrebbe inviare una risposta falsa per rovinare il voto di tutta la classe. Oppure, un insegnante disonesto potrebbe ignorare i bravi studenti e contare solo quelli meno bravi.

PRoVeFL è un modo più intelligente di gestire questo progetto di gruppo. Utilizza un team di insegnanti invece di uno solo e usa un sistema speciale a "scatola magica con serratura" per garantire la privacy, impedire gli imbrogli e dimostrare che il voto finale è corretto.

I tre superpoteri di PRoVeFL

Il paper sostiene che PRoVeFL risolva tre problemi specifici contemporaneamente:

1. Privacy (La "Scatola Magica con Serratura")

Il Problema: Se invii i tuoi compiti a un insegnante, lui può leggerli.
La Soluzione di PRoVeFL:
Immaginate che ogni studente metta i propri compiti dentro una scatola chiusa a chiave. Ma ecco il trucco: nessun singolo insegnante possiede la chiave per aprirla.

Gli studenti usano una serratura speciale "Multi-Key". Per aprire la scatola, tutti gli insegnanti nella stanza devono lavorare insieme.
Anche se un insegnante è una spia, non può aprire la scatola perché non ha le altre chiavi.
Gli insegnanti possono fare calcoli sulle scatole chiuse (come sommarle) senza mai vedere cosa c'è dentro. Questo si chiama Crittografia Omomorfica (Homomorphic Encryption).

2. Robustezza (Il "Filtro Anti-Imbroglio")

Il Problema: Cosa succede se uno studente prova a sottomettere una risposta falsa per rovinare la media della classe?
La Soluzione di PRoVeFL:
Gli insegnanti devono filtrare le risposte cattive, ma non possono farlo mentre le scatole sono chiuse perché non possono vedere i numeri per confrontarli.

Il Trucco Intelligente: Gli insegnanti usano una "maschera casuale". Moltiplicano le risposte criptate per un numero casuale segreto.
Aprono le scatole quanto basta per vedere i numeri mascherati. Poiché il numero casuale è lo stesso per tutti, l'ordine delle risposte rimane lo stesso (il più grande resta il più grande, il più piccolo resta il più piccolo), ma i valori effettivi rimangono nascosti.
Ora, gli insegnanti possono velocemente ordinare le risposte, scartare gli elementi anomali (i cheater) e tenere quelli buoni — tutto mentre i dati reali rimangono privati.
Una volta scartate le risposte cattive, richiudono le scatole buone e finiscono i calcoli.

3. Verificabilità (Il "Controllo della Ricevuta")

Il Problema: Come fanno gli studenti a sapere che gli insegnanti non si siano inventati il voto finale o abbiano ignorato i bravi studenti?
La Soluzione di PRoVeFL:
Il sistema crea una "ricevuta" digitale per ogni passaggio.

Prima che gli insegnanti facciano i calcoli, gli studenti creano un "impronta digitale" crittografica (un impegno o commitment) dei loro compiti.
Dopo che gli insegnanti hanno fatto i calcoli, producono una prova che dice: "Abbiamo sommato correttamente queste specifiche impronte digitali".
Gli studenti (o altri insegnanti) possono controllare questa prova. Se la matematica non corrisponde alle impronte digitali, il sistema si ferma immediatamente. Questo dimostra che gli insegnanti non hanno imbrogliato.

Come funziona: L'analogia della cucina "Ibrida"

Il paper menziona un "modello di computazione ibrido". Pensatelo come una cucina con due chef (i server) e un ispettore sanitario molto severo (la privacy).

Gli Ingredienti Sigillati: Gli studenti inviano i loro ingredienti (dati) in barattoli sigillati e impossibili da aprire.
La Miscelazione: Gli chef possono scuotere i barattoli e mescolarli senza aprirli. Questa è la parte criptata. È lenta e pesante, ma sicura.
La Zona "Sicura": Fare operazioni complesse di ordinamento (come trovare i 3 migliori ingredienti) all'interno dei barattoli sigillati è troppo lento. Così, gli chef usano il trucco della "maschera casuale". Aprono i barattoli appena abbastanza per vedere le dimensioni relative degli ingredienti, li ordinano e buttano via quelli cattivi.
Il Controllo: Prima di buttare via qualsiasi cosa, mostrano una ricevuta che prova che hanno ordinato i barattoli giusti.
Il Risultato: Richiudono gli ingredienti buoni e finiscono la ricetta.

Perché è meglio dei metodi precedenti?

Il paper confronta PRoVeFL con i metodi più vecchi:

I vecchi metodi erano o troppo lenti (ci mettevano una eternità per fare calcoli su scatole chiuse) o non abbastanza sicuri (richiedevano troppa fiducia nell'insegnante).
PRoVeFL è da 10 a 100 volte più veloce dei precedenti metodi sicuri. Ci riesce dividendo il lavoro tra più server e svolgendo la matematica pesante nelle "scatole chiuse" solo quando è assolutamente necessario.

Sintesi delle rivendicazioni

Il paper afferma che PRoVeFL è il primo sistema che riesce a fare tutte e tre queste cose contemporaneamente:

Privacy: Mantiene i dati degli studenti nascosti agli insegnanti (a meno che tutti gli insegnanti non si mettano d'accordo, il che è improbabile).
Robustezza: Rileva e rimuove automaticamente le risposte errate o imbroglione.
Verificabilità: Dimostra agli studenti che gli insegnanti hanno effettivamente eseguito i calcoli correttamente e non hanno imbrogliato.

Funziona con molte diverse "regole" per decidere quali risposte sono buone (come Krum, Trimmed Mean e FLTrust), rendendolo uno strumento flessibile per l'apprendimento di gruppo sicuro.

Sintesi Tecnica: PRoVeFL

1. Definizione del Problema

L'Apprendimento Federato (Federated Learning, FL) consente l'addestramento collaborativo di modelli preservando la località dei dati, tuttavia i framework standard affrontano una triade di sfide di sicurezza:

Privacy: Il FL tradizionale assume un server onesto-ma-curioso, ma gli aggiornamenti del modello possono far trapelare informazioni sensibili tramite attacchi di inferenza. Sebbene tecnologie come il Calcolo Multipartetico Sicuro (SMPC) e la Crittografia Completamente Omomorfica (FHE) offrano privacy, esse spesso oscurano i dati in modo così profondo da rendere difficile l'identificazione di aggiornamenti malevoli.
Robustezza Bizantina: I client malevoli possono avvelenare il modello globale attraverso aggiornamenti creati ad hoc. Sebbene esistano regole di aggregazione robuste (ad es. Krum, Trimmed Mean), l'integrazione di esse con forti garanzie di privacy comporta spesso costi computazionali e di comunicazione proibitivi o si basa su assunzioni di fiducia rilassate.
Verificabilità: I client devono potersi fidare del fatto che il server aggreghi correttamente gli aggiornamenti ed applichi le regole di robustezza. Gli esistenti protocolli di aggregazione verificabile spesso assumono che tutti gli input dei client siano legittimi o non riescono a supportare algoritmi di robustezza complessi e all'avanguardia.

Le soluzioni attuali faticano a raggiungere simultaneamente privacy, robustezza bizantina e verificabilità senza incorrere in enormi costi di prestazione o limitare le tipologie di regole di aggregazione utilizzabili.

2. Metodologia: Il Framework PRoVeFL

Gli autori propongono PRoVeFL (Private Robust and Verifiable FL), un framework modulare progettato per soddisfare simultaneamente tutte e tre le proprietà. Il sistema impiega un'architettura multi-server (che richiede almeno due server, con l'assunzione che almeno uno sia onesto) e sfrutta la Crittografia Completamente Omomorfica Multi-Key (MK-FHE).

Principi Architetturali Core

MK-FHE e Decrittazione a Soglia: I client criptano i propri aggiornamenti locali sotto una chiave pubblica di gruppo derivata dalle singole quote di chiave dei server. Nessun singolo server detiene la chiave segreta completa; la decrittazione richiede la collaborazione. Ciò garantisce che gli aggiornamenti dei client rimangano privati a meno che tutti i server non colludano.
Modello di Calcolo Ibrido (Offloading da Ciphertext a Plaintext): Un'innovazione centrale di PRoVeFL è l'uso di una maschera moltiplicativa casuale ( $r$ ).
- I client criptano i loro aggiornamenti e li moltiplicano omomorficamente per una maschera casuale criptata $Enc_{pk}(r)$ .
- I server eseguono le operazioni statistiche necessarie (ad es. calcoli di distanza, ordinamento) sui dati criptati e mascherati.
- I server decriptano collaborativamente i risultati, rivelando solo i valori intermedi mascherati ( $r \cdot \text{valore}$ ).
- Poiché la maschera casuale $r$ è sconosciuta a qualsiasi parte e cambia ad ogni round, i valori in chiaro rimangono nascosti. Tuttavia, la maschera preserva l'ordinamento relativo dei valori.
- Ciò consente che operazioni non lineari computazionalmente onerose (come l'ordinamento, il confronto e la selezione per la robustezza) siano eseguite efficientemente nel dominio in chiaro (plaintext) sui valori mascherati, piuttosto che interamente nel costoso dominio del ciphertext.
Verifica Basata su Impegno (Commitment-Based Verification): Per garantire l'integrità, i client pubblicano impegni di logaritmo discreto ai propri dati. I server generano prove crittografiche per i loro passaggi di aggregazione. I server partner verificano queste prove utilizzando accoppiamenti bilineari o leggi di gruppo prima di procedere. Se la verifica fallisce, il protocollo abortisce, impedendo l'accertamento di risultati manomessi.

Istanziazione delle Regole di Aggregazione

PRoVeFL è progettato per essere compatibile con una vasta gamma di algoritmi robusti ai bizantini, mappando la loro logica in quattro primitive crittografiche core: Aggregazione Lineare (LA), Valutazione Statistica a Coppie (PSE), Confronto e Ordinamento Sicuri (SCO) e Selezione e Filtraggio (SF). Il paper dimostra ciò istanziando:

Krum: Calcola le distanze euclidee a coppie nel dominio criptato, decripta le distanze mascherate e seleziona l'aggiornamento con il punteggio minimo in chiaro.
Trimmed Mean: Calcola le differenze coordinate per coordinata, le ordina utilizzando una rete di confronto e scambio sicura (Batcher's odd-even mergesort) sui dati criptati, decripta le differenze mascherate e rimuove gli estremi in chiaro.
FLTrust: Calcola i pesi di similitudine del coseno rispetto a un vettore di riferimento affidabile nel dominio criptato, decripta i punteggi mascherati ed esegue la media ponderata in chiaro.
MESAS: Il framework è noto per essere estendibile ad altri schemi complessi che coinvolgono calcoli di clustering e varianza.

3. Contributi Chiave

Framework Unificato: PRoVeFL è il primo framework che garantisce simultaneamente la privacy degli aggiornamenti dei client, la robustezza bizantina e la verificabilità lato server sotto un modello di fiducia distribuita (assumendo almeno un server onesto).
Efficienza tramite Calcolo Ibrido: Offloading della logica di selezione e filtraggio complessa al dominio in chiaro utilizzando una maschera moltiplicativa casuale, PRoVeFL riduce significativamente il carico computazionale rispetto agli approcci puramente basati su FHE.
Flessibilità Algoritmica: A differenza di lavori precedenti che impongono euristiche semplici (ad es. il clipping della norma), PRoVeFL supporta regole di aggregazione complesse e all'avanguardia (Krum, Trimmed Mean, FLTrust, MESAS) che richiedono l'ordinamento e i confronti a coppie.
Scalabilità: Il design multi-server distribuisce il carico computazionale. Il framework scala con il numero di parametri e partecipanti senza gravare su comunicazione o calcolo per i client.

4. Risultati e Valutazione

Gli autori valutano PRoVeFL attraverso variabili numero di parametri, partecipanti e server, confrontandolo con i lavori basati sulla fiducia distribuita Prio ed ELSA.

Prestazioni: PRoVeFL dimostra miglioramenti significativi nei tempi di esecuzione, ottenendo accelerazioni fino a 100× rispetto a Prio e 10× rispetto a ELSA, mantenendo garanzie di sicurezza comparabili.
Scalabilità: Il sistema mantiene l'efficienza all'aumentare del numero di parametri e partecipanti, validando l'architettura modulare multi-server.
Compatibilità: L'implementazione riuscita di Krum, Trimmed Mean, FLTrust e MESAS conferma la capacità del framework di gestire diverse operazioni statistiche richieste per un'aggregazione robusta.

5. Significato e Rivendicazioni

Il paper sostiene che PRoVeFL affronti il compromesso fondamentale tra privacy, integrità e verificabilità nell'Apprendimento Federato. Introducendo un'architettura multi-server modulare che combina strategicamente la MK-FHE con il calcolo controllato in chiaro, gli autori sostengono che PRoVeFL renda l'FL robusto e verificabile pratico per l'implementazione nel mondo reale.

Il significato risiede nel superare le misure di robustezza "semplici" (come il clipping della norma) per supportare difese complesse e all'avanguardia senza sacrificare la privacy o incorrere nei costi proibitivi della pura valutazione omomorfica. Il framework fornisce una strada per implementare il FL in ambienti ad alto rischio (ad es. sanità, finanza) dove la privacy dei dati, l'integrità del modello e la capacità di audit del processo di aggregazione sono simultaneamente critiche.