💻 computer science

PRoVeFL: Private Robust and Verifiable Aggregation in Federated Learning

PRoVeFL is een nieuw, modulair federated learning-framework dat privacy-bewuste, Byzantijnse-robuuste en verifieerbare aggregatie bereikt door gebruik te maken van multi-key volledig homomorfe encryptie en een hybride computatiemodel om de overhead aanzienlijk te verminderen terwijl diverse robuuste aggregatie-algoritmen worden ondersteund.

Oorspronkelijke auteurs: Harsh Kasyap, Anil Kumar Pradhan, Ugur Ilker Atmaca, Graham Cormode, Carsten Maple

Gepubliceerd 2026-07-09

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Harsh Kasyap, Anil Kumar Pradhan, Ugur Ilker Atmaca, Graham Cormode, Carsten Maple

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Een Groepsproject met een Verdachte Leraar

Stel je een groep studenten voor (de clients) die samen een moeilijke wiskundevraag proberen op te lossen. Ze willen het antwoord leren zonder hun privé aantekeningen aan iemand anders te laten zien.

In een standaardopstelling sturen ze allemaal hun antwoorden naar één enkele leraar (de server) die de antwoorden combineert om de uiteindelijke oplossing te vinden. Maar dit heeft twee grote problemen:

Privacylek: Als de leraar nieuwsgierig is (of gehackt wordt), kan hij naar de antwoorden van de studenten kijken en raden welke privé aantekeningen ze aan het bestuderen waren.
Bedrog: Een slechte student kan een nepantwoord sturen om het cijfer van de hele klas te verpest. Of een onbetrouwbare leraar kan de goede studenten negeren en alleen de slechte studenten meetellen.

PRoVeFL is een nieuwe, slimmere manier om dit groepsproject te runnen. Het gebruikt een team van leraren in plaats van slechts één leraar, en het gebruikt een speciaal "magische kluisjes"-systeem om privacy te waarborgen, bedrog te stoppen en te bewijzen dat het eindcijfer correct is.

De Drie Superkrachten van PRoVeFL

Het paper beweert dat PRoVeFL drie specifieke problemen tegelijkertijd oplost:

1. Privacy (De "Magische Kluis")

Het Probleem: Als je je huiswerk naar een leraar stuurt, kan hij het lezen.
De PRoVeFL Oplossing:
Stel je voor dat elke student zijn huiswerk in een vergrendelde doos plaatst. Maar hier komt de truc: geen enkele leraar heeft de sleutel om de doos te openen.

De studenten gebruiken een speciale "Multi-Key" slot. Om de doos te openen, moeten alle leraren in de kamer samenwerken.
Zelfs als één leraar een spion is, kan hij de doos niet openen omdat hij niet over de andere sleutels beschikt.
De leraren kunnen wiskunde doen op de vergrendelde dozen (zoals ze bij elkaar optellen) zonder ooit te zien wat erin zit. Dit wordt Homomorfe Encryptie genoemd.

2. Robuustheid (Het "Anti-Bedrog Filter")

Het Probleem: Wat als een student een nepantwoord probeert in te dienen om het gemiddelde van de klas te verpesten?
De PRoVeFL Oplossing:
De leraren moeten de slechte antwoorden eruit filteren, maar ze kunnen dit niet doen terwijl de dozen vergrendeld zijn, omdat ze de getallen niet kunnen zien om ze te vergelijken.

De Slimme Truc: De leraren gebruiken een "willekeurig masker". Ze vermenigvuldigen de vergrendelde antwoorden met een geheim willekeurig getal.
Ze ontgrendelen de dozen net genoeg om de gemaskeerde getallen te zien. Omdat het willekeurige getal voor iedereen hetzelfde is, blijft de volgorde van de antwoorden hetzelfde (de grootste blijft de grootste, de kleinste blijft de kleinste), maar de werkelijke waarden blijven verborgen.
Nu kunnen de leraren de antwoorden snel sorteren, de vreemde uitschieters (de bedriegers) weggooien en de goede antwoorden behouden—terwijl de echte gegevens privé blijven.
Zodra de slechte antwoorden zijn weggegooid, vergrendelen ze de goede antwoorden opnieuw en voltooien ze de berekening.

3. Verifieerbaarheid (De "Boncontrole")

Het Probleem: Hoe weten de studenten dat de leraren niet gewoon het eindcijfer hebben verzonnen of de goede studenten hebben genegeerd?
De PRoVeFL Oplossing:
Het systeem maakt voor elke stap een digitale "bon" aan.

Voordat de leraren de wiskunde doen, maken de studenten een cryptografische "vingerafdruk" (een commitment) van hun huiswerk.
Nadat de leraren de wiskunde hebben gedaan, produceren ze een bewijs dat zegt: "Wij hebben deze specifieke vingerafdrukken correct bij elkaar opgeteld."
De studenten (of andere leraren) kunnen dit bewijs controleren. Als de wiskunde niet overeenkomt met de vingerafdrukken, stopt het systeem onmiddellijk. Dit bewijst dat de leraren niet hebben bedrogen.

Hoe het werkt: De "Hybride" Keuken Analogie

Het paper noemt een "hybride berekeningsmodel". Denk hierbij aan een keuken met twee chefs (de servers) en een zeer strikte inspecteur voor voedselveiligheid (privacy).

De Vergrendelde Ingrediënten: De studenten sturen hun ingrediënten (data) in verzegelde, onopenbare potten.
Het Mengen: De chefs kunnen de potten schudden en ze bij elkaar mengen zonder ze te openen. Dit is het geëncrypteerde deel. Het is traag en zwaar, maar veilig.
De "Veilige" Zone: Complexe sortering uitvoeren (zoals het vinden van de top 3 beste ingrediënten) binnen de verzegelde potten is te traag. Daarom gebruiken de chefs de "willekeurig masker" truc. Ze openen de potten net genoeg om de relatieve grootte van de ingrediënten te zien, sorteren ze, en gooien de slechte eruit.
De Controle: Voordat ze iets weggooien, laten ze een bon zien die bewijst dat ze de juiste potten hebben gesorteerd.
Het Resultaat: Ze verzegelen de goede ingrediënten opnieuw en voltooien het recept.

Waarom is dit beter dan voorheen?

Het paper vergelijkt PRoVeFL met oudere methoden:

Oude methoden waren ofwel te traag (het duurde eeuwen om wiskunde te doen op vergrendelde dozen) of niet veilig genoeg (ze vereisten te veel vertrouwen in de leraar).
PRoVeFL is 10 tot 100 keer sneller dan eerdere veilige methoden. Dit bereikt het door het werk te verdelen tussen meerdere servers en alleen de zware "vergrendelde doos" wiskunde te doen wanneer dat absoluut noodzakelijk is.

Samenvatting van de Claims

Het paper beweert dat PRoVeFL het eerste systeem is dat er succesvol in slaagt om al deze drie dingen tegelijkertijd te doen:

Privacy: Houdt de data van studenten verborgen voor de leraren (tenzij álle leraren samenzweren, wat onwaarschijnlijk is).
Robuustheid: Detecteert en verwijdert automatisch slechte of frauduleuze antwoorden.
Verifieerbaarheid: Bewijst aan de studenten dat de leraren de wiskunde daadwerkelijk correct hebben uitgevoerd en niet hebben bedrogen.

Het werkt met veel verschillende "regels" voor het bepalen welke antwoorden goed zijn (zoals Krum, Trimmed Mean en FLTrust), waardoor het een flexibel hulpmiddel is voor veilig groepsleren.

Technische Samenvatting: PRoVeFL

1. Probleemstelling

Federated Learning (FL) maakt collaboratief modeltrainen mogelijk terwijl de lokale data behouden blijft, maar standaard frameworks worden geconfronteerd met een triade van beveiligingsuitdagingen:

Privacy: Traditionele FL gaat uit van een eerlijke maar nieuwsgierige ("honest-but-curious") server, maar modelupdates kunnen gevoelige informatie lekken via inferentie-aanvallen. Hoewel technologieën zoals Secure Multi-Party Computation (SMPC) en Fully Homomorphic Encryption (FHE) privacy bieden, kunnen ze de data zo grondig maskeren dat het identificeren van kwaadwillige updates moeilijk wordt.
Byzantijnse Robuustheid: Kwaadwillende clients kunnen het globale model vergiftigen door middel van gemanipuleerde updates. Hoewel er robuuste aggregatieregels bestaan (bijv. Krum, Trimmed Mean), brengt het integreren van deze met sterke privacygaranties vaak een verbijsterende computationele en communicatie-overhead met zich mee of leunt het op versoepelde vertrouwensaannames.
Verifieerbaarheid: Clients moeten erop kunnen vertrouwen dat de server de updates correct aggregeert en de robuustheidsregels handhaaft. Bestaande verifieerbare aggregatieprotocollen gaan vaak uit van legitieme client-inputs of slagen er niet in om complexe, state-of-the-art robuustheidsalgoritmen te ondersteunen.

Huidige oplossingen worstelen met het gelijktijdig realiseren van privacy, Byzantijnse robuustheid en verifieerbaarheid zonder enorme prestatiekosten te veroorzaken of de types aggregatieregels te beperken.

2. Methodologie: Het PRoVeFL-framework

De auteurs stellen PRoVeFL (Private Robust and Verifiable FL) voor, een modulair framework dat ontworpen is om alle drie de eigenschappen simultaan te voldoen. Het systeem maakt gebruik van een multi-server architectuur (vereist ten minste twee servers, met de aanname dat ten minste één server eerlijk is) en maakt gebruik van Multi-Key Fully Homomorphic Encryption (MK-FHE).

Kernprincipes van de Architectuur

MK-FHE & Drempel-decryptie (Threshold Decryption): Clients versleutelen hun lokale modelupdates onder een groep publieke sleutel die afgeleid is van de individuele sleutelshares van de servers. Geen enkele server bezit de volledige geheime sleutel; decryptie vereist samenwerking. Dit zorgt ervoor dat de updates van clients privé blijven, tenzij alle servers samenzweren.
Hybride Computatiemodel (Ciphertext-naar-Plaintext Offloading): Een centrale innovatie van PRoVeFL is het gebruik van een willekeurige multiplicatieve masker ( $r$ ).
- Clients versleutelen hun updates en vermenigvuldigen deze homomorfisch met een versleuteld willekeurig masker $Enc_{pk}(r)$ .
- Servers voeren noodzakelijke statistische operaties uit (bijv. afstandsberekeningen, sorteren) op de versleutelde, gemaskeerde data.
- Servers werken samen om de resultaten te ontsleutelen, waarbij alleen de gemaskeerde tussenliggende waarden ( $r \cdot \text{waarde}$ ) worden onthuld.
- Omdat het willekeurige masker $r$ onbekend is aan elke individuele partij en per ronde verandert, blijven de plaintext-waarden verborgen. Het masker behoudt echter de relatieve ordening van de waarden.
- Dit maakt het mogelijk om computationeel dure, niet-lineaire operaties (zoals sorteren, vergelijken en selecteren voor robuustheid) efficiënt uit te voeren in de plaintext-domein op de gemaskeerde waarden, in plaats van volledig binnen het dure ciphertext-domein.
Commitment-gebaseerde Verificatie: Om de integriteit te waarborgen, publiceren clients discrete logaritmische commitments van hun data. Servers genereren cryptografische bewijzen voor hun aggregatiestappen. Peer-servers verifiëren deze bewijzen met behulp van bilinear pairings of groepswetten voordat ze verdergaan. Als de verificatie faalt, wordt het protocol afgebroken, wat het accepteren van gemanipuleerde resultaten voorkomt.

Instantiatie van Aggregatieregels

PRoVeFL is ontworpen om compatibel te zijn met een breed scala aan Byzantijnse-robuuste algoritmen door hun logica te mappen naar vier kerncryptografische primitieven: Lineaire Aggregatie (LA), Pairwise Statistical Evaluation (PSE), Secure Comparison and Ordering (SCO), en Selection and Filtering (SF). De paper demonstreert dit door de volgende te instrueren:

Krum: Berekent Euclidische afstanden tussen paren in het versleutelde domein, ontsleutelt gemaskeerde afstanden, en selecteert de update met de minimale score in plaintext.
Trimmed Mean: Berekent coördinaat-gewijze verschillen, sorteert deze met een secure compare-and-swap netwerk (Batcher's odd-even mergesort) op versleutelde data, ontsleutelt de gemaskeerde verschillen, en verwijdert extremen in plaintext.
FLTrust: Berekent cosine similarity gewichten tegen een vertrouwde referentievector in het versleutelde domein, ontsleutelt gemaskeerde scores, en voert gewogen middeling uit in plaintext.
MESAS: Het framework is merkbaar uitbreidbaar naar andere complexe schema's die clustering en variantieberekeningen omvatten.

3. Belangrijkste Bijdragen

Verenigd Framework: PRoVeFL is het eerste framework dat gelijktijdig de privacy van client-updates, Byzantijnse robuustheid en server-zijde verifieerbaarheid garandeert onder een gedistribueerd vertrouwensmodel (ervan uitgaande dat ten minste één server eerlijk is).
Efficiëntie via Hybride Computatie: Door de complexe selectie- en filterlogica naar het plaintext-domein te verplaatsen met behruik van een willekeurig multiplicatief masker, vermindert PRoVeFL de computationele last aanzienlijk vergeleken met puur FHE-gebaseerde benaderingen.
Algoritmische Flexibiliteit: In tegenstelling tot eerdere werken die eenvoudige heuristieken afdwingen (zoals norm clipping), ondersteunt PRoVeFL complexe, state-of-the-art aggregatieregels (Krum, Trimmed Mean, FLTrust, MESAS) die sortering en paar-vergelijkingen vereisen.
Schaalbaarheid: Het multi-server ontwerp verdeelt de computationele last. Het framework schaalt met het aantal parameters en deelnemers zonder de clients extra communicatie- of computationele last te bezorgen.

4. Resultaten en Evaluatie

De auteurs evalueren PRoVeFL bij variërende aantallen parameters, deelnemers en servers, waarbij ze het vergelijken met de op gedistribueerd vertrouwen gebaseerde werken Prio en ELSA.

Prestaties: PRoVeFL vertoont significante verbeteringen in runtime, met snelheidsverbeteringen tot wel 100× ten opzichte van Prio en 10× ten opzichte van ELSA, terwijl vergelijkbare beveiligingsgaranties worden behouden.
Schaalbaarheid: Het systeem behoudt efficiëntie naarmate het aantal parameters en deelnemers toeneemt, wat de modulaire multi-server architectuur valideert.
Compatibiliteit: De succesvolle implementatie van Krum, Trimmed Mean, FLTrust en MESAS bevestigt het vermogen van het framework om diverse statistische operaties te hanteren die nodig zijn voor robuuste aggregatie.

5. Betekenis en Claims

Het artikel claimt dat PRoVeFL de fundamentele afruil tussen privacy, integriteit en verifieerbaarheid in Federated Learning aanpakt. Door een modulaire multi-server architectuur te introduceren die MK-FHE strategisch combineert met gecontroleerde plaintext-computatie, betogen de auteurs dat PRoVeFL robuuste en verifieerbare FL praktisch maakt voor real-world deployment.

De betekenis ligt in het bewegen voorbij "eenvoudige" robuustheidsmaten (zoals norm clipping) om complexe, state-of-the-art defensies te ondersteunen zonder privacy op te offeren of de verbijsterende kosten van pure homomorfe evaluatie te dragen. Het framework biedt een pad naar de inzet van FL in omgevingen met hoge inzet (bijv. gezondheidszorg, financiële sector) waar dataprivacy, modelintegriteit en de mogelijkheid om het aggregatieproces te auditeren tegelijkertijd cruciaal zijn.