🤖 machine learning

AdeptHEQ-FL: Adaptive Homomorphic Encryption for Federated Learning of Hybrid Classical-Quantum Models with Dynamic Layer Sparing

AdeptHEQ-FL is een geïntegreerd hybride klassiek-quantum federated learning-framework dat adaptieve homomorfische encryptie, dynamische laagsparing en op nauwkeurigheid gewogen aggregatie combineert om gelijktijdig de modelprestaties te verbeteren, formele privacygaranties te waarborgen en de communicatie- overhead in niet-IID gedecentraliseerde omgevingen te minimaliseren.

Oorspronkelijke auteurs: Md Abrar Jahin, Taufikur Rahman Fuad, M. F. Mridha, Nafiz Fahad, Md. Jakir Hossen

Gepubliceerd 2026-05-14

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Md Abrar Jahin, Taufikur Rahman Fuad, M. F. Mridha, Nafiz Fahad, Md. Jakir Hossen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een groep vrienden voor die samen een gigantische legpuzzel proberen op te lossen, maar met een paar strikte regels:

Niemand mag zijn puzzelstukken aan iemand anders laten zien (Privacy).
Iedereen heeft een andere mix van stukken (Niet-IID-gegevens).
Ze kunnen alleen kleine tekstberichten sturen om voortgang te delen (Communicatielimieten).
Ze willen een speciale "quantum"-tool gebruiken die het oplossen van de puzzel superkrachtig maakt, maar die is fragiel en moeilijk te gebruiken (Quantum-modellen).

Dit artikel introduceert AdeptHEQ-FL, een nieuw systeem ontworpen om deze vrienden de puzzel sneller, nauwkeuriger en veiliger dan ooit tevoren te laten oplossen. Hieronder wordt uitgelegd hoe het werkt, opgesplitst in eenvoudige onderdelen:

1. Het Hybride Team (Klassiek + Quantum)

De meeste puzzeloplossende teams gebruiken standaardtools (Klassieke AI). Dit artikel stelt een "hybride" team voor.

Het Klassieke Deel (De CNN): Denk hierbij aan de ogen van het team. Het kijkt naar de ruwe afbeeldingen (zoals een foto van een kat of een auto) en breekt deze op in basisvormen en texturen. Het is goed in het "zware werk" van het zien van patronen.
Het Quantum Deel (De PQC): Denk hierbij aan het "super-brein" van het team. Zodra de ogen hun werk hebben gedaan, neemt het super-brein het over. Het gebruikt Quantum-schakelingen om complexe, verborgen verbindingen tussen de stukken te vinden die een normaal brein misschien zou missen.
Het Resultaat: Door de stabiele ogen van de klassieke computer te combineren met het super-brein van de quantumcomputer, kan het team veel betere resultaten behalen bij het oplossen van moeilijkere puzzels (zoals de complexe CIFAR-10-dataset) dan teams die slechts het een of het ander gebruiken.

2. Het "Slimme Stem"-Systeem (Adaptieve Aggregatie)

In een normaal groepsproject telt ieders mening even zwaar. Maar in dit artikel beseft het systeem dat sommige vrienden een beter werkje doen dan anderen.

Het Probleem: Als een vriend worstelt (omdat hun puzzelstukken raar of onvolledig zijn), mag hun slechte advies het hele team niet naar beneden slepen.
De Oplossing: Het systeem controleert hoe goed elke vriend presteert op een oefentoets. Om hun privacy te beschermen, wordt echter een beetje "ruis" aan de score toegevoegd (Differentiële Privacy), zodat niemand de exacte score van een ander kent.
De Stem: Het systeem geeft vervolgens een grotere stem aan de vrienden met de hogere (ruis-bevattende) scores en een kleinere stem aan degenen die worstelen. Dit zorgt ervoor dat het uiteindelijke model wordt gebouwd op de beste ideeën, zelfs als de gegevens rommelig zijn.

3. De "Geheime Envelop" (Selectieve Versleuteling)

Meestal is het geheim houden in een groepschat duur en traag. Als je alles versleutelt, worden de berichten enorm en duurt het eeuwen om ze te sturen.

De Innovatie: In plaats van de hele puzzeloplossing in een zware, vergrendelde kluis te doen (Volledige Versleuteling), vergrendelt het systeem alleen het belangrijkste deel van de oplossing: de laatste laag die bepaalt wat de afbeelding eigenlijk is.
De Analogie: Stel je voor dat je een brief stuurt. Je hoeft de hele envelop niet in een bankkluis te vergrendelen; je hoeft alleen het handtekening in een verzegelde, vervalvrije buis te doen. Dit houdt het meest gevoelige deel privé zonder het hele proces te vertragen.

4. De "Bevriezen"-knop (Dynamisch Laagbesparen)

Het op en neer sturen van updates kost tijd en data.

De Strategie: Het systeem observeert welke delen van de puzzel veel veranderen en welke delen zijn gestopt met veranderen.
De Actie: Als een deel van het model (zoals de vroege lagen die alleen naar randen zoeken) niet veel verandert, zegt het systeem: "Bevries dat deel! Stuur geen updates voor dit deel." Dit bespaart bandbreedte.
De Uitzondering: Het "Super-brein" (de Quantum-lagen) wordt nooit bevroren. Het mag blijven leren en aanpassen omdat het het meest flexibele en belangrijke deel van het team is.

Wat Vonden Ze?

De auteurs testten dit systeem op drie verschillende "puzzels" (datasets): CIFAR-10 (complexe afbeeldingen), SVHN (huisnummers) en Fashion-MNIST (kleding).

De Winnaar: AdeptHEQ-FL won van de andere methoden. Op de moeilijkste puzzel (CIFAR-10) was het ongeveer 25% nauwkeuriger dan een standaard quantumteam en 14% nauwkeuriger dan een team dat probeerde alles te versleutelen.
Efficiëntie: Door de onbelangrijke lagen te bevriezen en alleen de laatste stap te versleutelen, bespaarde het systeem veel communicatietijd en data.
Ressourcenutzung: Interessant genoeg gebruikte hun "hybride" team minder quantumbronnen (4 qubits) dan de concurrenten (6 qubits), maar presteerde het toch beter. Dit bewijst dat een slimme strategie belangrijker is dan gewoon meer ruwe kracht hebben.

De Conclusie

AdeptHEQ-FL is als een zeer georganiseerde, privacygerichte studiegroep. Het gebruikt een mix van standaard en superkrachtige tools, luistert meer naar de slimste leden (zonder precies te weten wie ze zijn), vergrendelt alleen de meest gevoelige geheimen en stopt met het verspillen van tijd aan het updaten van onderdelen van het plan die niet veranderen. Het resultaat is een snellere, nauwkeurigere en veiligere manier voor machines om samen te leren zonder hun privégegevens te delen.

Technische Samenvatting van AdeptHEQ-FL: Adaptieve Homomorf Versleuteling voor Federatief Leren van Hybride Klassiek-Quantum Modellen met Dynamische Laagbesparing

1. Probleemstelling

Federatief Leren (FL) staat voor een triade van onderling verbonden uitdagingen: statistische heterogeniteit die voortvloeit uit niet-identiek en niet-onafhankelijk verdeelde (non-IID) data, privacykwetsbaarheden die inherent zijn aan modelupdates ondanks data-localisatie, en hoge communicatie- en rekenkosten. Bestaande oplossingen adresseren deze problemen vaak geïsoleerd. Quantum FL (QFL)-frameworks verbeteren de modeluitdrukkingskracht, maar missen vaak formele privacygaranties of robuustheid tegenover non-IID data. Omgekeerd degraderen privacybehoudende technieken zoals Differentiële Privacy (DP) en Homomorf Versleuteling (HE) vaak de bruikbaarheid in non-IID omgevingen of brengen ze onaanvaardbaar hoge rekenkosten met zich mee. Bovendien negeren efficiëntiegerichte methoden doorgaans quantumcapaciteiten. Er bestaat een kritieke lacune voor een unificerend framework dat gelijktijdig prestaties, privacy en efficiëntie optimaliseert binnen een hybride klassiek-quantum context.

2. Methodologie

Het voorgestelde framework, AdeptHEQ-FL, integreert vier kerncomponenten om deze lacunes aan te vullen:

Hybride CNN-PQC Architectuur: Het model combineert een klassiek Convolutional Neural Network (CNN) voor feature-extractie met een Geparametriseerde Quantum Schakeling (PQC) voor verbeterde feature-verwerking.
- Klassiek Component: Een CNN met drie sequentiële convolutieblokken (convolutie, ReLU, max-pooling) gevolgd door volledig verbonden lagen, extrahert gelokaliseerde features (randen, texturen). De output wordt afgevlakt tot een vector $f_{CNN} \in \mathbb{R}^{2^n}$ .
- Quantum Component: De klassieke features worden gecodeerd in een 4-qubit quantumtoestand via amplitude-embedding. De PQC gebruikt twee lagen van "Strongly Entangling Layers", bestaande uit geparametriseerde single-qubit rotaties ( $R_z, R_y, R_z$ ) en Controlled-NOT (CNOT) verstrengelingspoorten. De schakeling output een 4-dimensionale quantum feature-vector via Pauli-Z-metingen, die vervolgens wordt gemapt naar de uiteindelijke classificatie-output door een klassieke volledig verbonden laag.
Adaptieve Accuratie-Gewogen Aggregatie met Differentiële Privacy: Om non-IID data te hanteren, aggregeert de server client-updates op basis van hun lokale validatieprestaties.
- Clients privatiseren hun validatie-accuratie met het Laplace-mechanisme om $(\epsilon, 0)$ -Differentiële Privacy per ronde te garanderen.
- De server berekent aggregatiegewichten met behulp van een numeriek stabiele getemperde softmax over deze gepubliceerde accuraties. Dit prioriteert bijdragen van hoogpresterende clients terwijl robuustheid tegen ruis behouden blijft.
Selectieve Homomorf Versleuteling (HE): Om privacy te waarborgen zonder de volledige overhead van Fully Homomorphic Encryption (FHE) te incurreren, past het framework het CKKS-schema selectief toe. Alleen de parameters van de laatste volledig verbonden laag (FC4) worden versleuteld tijdens transmissie en aggregatie. Andere lagen worden in platte tekst geaggregeerd. De server ontsleutelt de geaggregeerde FC4-laag met zijn geheime sleutel na gewogen sommatie.
Dynamische Laag-voor-Lag Adaptieve Bevriezing: Om communicatie-overhead te minimaliseren, hanteert het framework een mechanisme om minder impactvolle klassieke lagen te bevriezen.
- De belangrijkheid van een laag wordt gescoord op basis van de L2-norm van parameterveranderingen over rondes, gladgestreken via een Exponentiële Glijdend Gemiddelde (EMA).
- Lagen met scores onder een vaste drempel (0,001) worden bevroren (parameters worden niet bijgewerkt of verzonden).
- Cruciaal: quantumlagen zijn expliciet vrijgesteld van bevriezing om hun aanpasbaarheid en uitdrukkingskracht te behouden, wat vitaal is voor het modelleren van complexe patronen in gedecentraliseerde data.

3. Belangrijkste Bijdragen

Het artikel schetst vier primaire bijdragen:

Nieuwe Adaptieve Aggregatie: Een aggregatiemechanisme dat differentieel private client-validatie-accuraties en HE gebruikt om effectief non-IID data-distributie aan te pakken terwijl privacy wordt gewaarborgd.
Hybride Architectuur: Een unificerend klassiek-quantum model dat CNN's integreert voor feature-extractie met PQC's om de modeluitdrukkingskracht in federatieve omgevingen te verbeteren.
Efficiënte Dynamische Laagbesparing: Een techniek die communicatie-overhead reduceert door adaptief minder impactvolle klassieke lagen te bevriezen, terwijl de flexibiliteit van quantumlagen behouden blijft.
Theoretische Convergentie-analyse: Een formeel bewijs dat de convergentie van het framework vaststelt, rekening houdend met het samenspel van adaptieve aggregatie, laagbesparing en privacy-mechanismen.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op CIFAR-10, SVHN en Fashion-MNIST datasets met 10 clients over 20 communicatierondes met non-IID distributies (Dirichlet $\alpha=0,1$ ).

Prestaties: AdeptHEQ-FL (geconfigureerd met 4 qubits en 2 lagen) presteerde beter dan zowel een Standard-FedQNN als een state-of-the-art FHE-FedQNN over alle datasets.
- Op de complexe CIFAR-10 dataset behaalde AdeptHEQ-FL een accuratie van 72,61%, wat een ongeveer 25,43% verbetering vertegenwoordigt ten opzichte van Standard-FedQNN (63,60%) en een 14,17% verbetering ten opzichte van FHE-FedQNN (57,89%).
- Prestatiewinsten werden ook waargenomen op SVHN en Fashion-MNIST, zij het bescheidener.
Resource-efficiëntie: Ondanks het gebruik van minder resources (4 qubits, 2 lagen) in vergelijking met de baselines (6 qubits, 6 lagen), behaalde AdeptHEQ-FL superieure resultaten. Dit wordt toegeschreven aan de adaptieve aggregatiestrategie, die updates weegt op basis van gepubliceerde accuratie in plaats van alle clients gelijk te behandelen, en het laag-bevriesmechanisme dat onnodige communicatie reduceert.
Sensitiviteit: Het verder verminderen van quantumresources (bijv. 2 qubits, 1 laag) leidde tot prestatiedegradatie, met name op complexe datasets, wat aangeeft dat complexe data voldoende quantumcapaciteit vereist.

5. Betekenis en Claims

Het artikel beweert dat AdeptHEQ-FL een uitgebreide oplossing biedt die prestaties, privacy en efficiëntie unificeert binnen een hybride klassiek-quantum FL-paradigma. De betekenis hiervan ligt in:

Synergetische Integratie: Succesvolle combinatie van quantumuitdrukkingskracht met formele privacygaranties (DP en selectieve HE) en communicatie-efficiëntie.
Non-IID Robuustheid: Het aantonen van superieure hantering van non-IID data door accuratie-gewogen aggregatie, waarmee de beperkingen van uniforme aggregatie in bestaande QFL- en FHE-gebaseerde benaderingen worden overwonnen.
Praktijkgerichtheid: Het bieden van een resource-bewust ontwerp dat communicatie-overhead reduceert via dynamische laagbesparing, terwijl de aanpasbaarheid van quantumcomponenten behouden blijft.

Erkende Beperkingen:
De auteurs merken op dat HE momenteel alleen wordt toegepast op de laatste laag voor hanteerbaarheid, waardoor andere lagen onversleuteld blijven. Het framework is geëvalueerd in gesimuleerde omgevingen en is nog niet getest op echte quantumhardware. Bovendien vertrouwt de convergentie-analyse op aannames van gladheid en begrenste gradientvariatie die mogelijk niet gelden in sterk niet-convexe omgevingen. Voor toekomstig werk wordt voorgesteld om de encryptiecoverage uit te breiden, te testen op fysieke apparaten en te generaliseren naar grotere datasets.