Technische Samenvatting: Lichtgewicht, Praktische Versleutelde Gezichtsherkenning met GPU-ondersteuning

Probleemstelling

Gezichtsherkenningssystemen werken doorgaans volgens een client-serverarchitectuur waarbij een client een gezichtsembedding extraheert en een server een gelijkeniszoekopdracht uitvoert tegen een database. Dit model roept aanzienlijke privacyzorgen op, aangezien gezichtsgegevens deel uitmaken van persoonlijk identificeerbare informatie (PII) die onderworpen is aan strikte regelgeving. Hoewel cryptografische benaderingen zoals Fully Homomorphic Encryption (FHE) gelijkeniszoekopdrachten mogelijk maken over versleutelde gegevens zonder de klare tekst prijs te geven, kampen bestaande FHE-gebaseerde protocollen (specifiek het state-of-the-art HyDia-protocol) met ernstige praktische beperkingen.

De primaire knelpunten in huidige FHE-gebaseerde gezichtsherkenning zijn:

1. Hoge geheugenoverhead: Bestaande methoden vereisen grote sets rotatiesleutels (vaak $O(\ell)$ waar $\ell$ de dimensie van de vector is) om diagonaal matrix-vectorvermenigvuldigingen uit te voeren. Dit resulteert in excessief RAM-gebruik aan zowel de client- als de serverzijde (bijv. meer dan 33 GB voor databases tot 1 miljoen vermeldingen), wat implementatie op hulpbronnenbeperkte edge-apparaten onhaalbaar maakt.
2. Computationele latentie: FHE-operaties, met name ciphertext-rotaties en herschaling, zijn geheugenbandbreedte-gebonden op CPU's. Naïve offloading van individuele operaties naar GPU's verslechtert de prestaties vaak door kostbare host-device datatransfers en herhaalde conversies tussen CPU (OpenFHE) en GPU (FIDESlib) datastructuren.

Methodologie

De auteurs stellen een tweelaagse optimalisatiestrategie voor die zich richt op zowel algoritmische efficiëntie als systeemniveau hardwareversnelling, voortbouwend op het HyDia-protocol.

1. Algoritmische Verbetering: BSGS-Diagonal

Om het geheugen- en rotatiesleutel-knelpunt aan te pakken, introduceren de auteurs BSGS-Diagonal, een algoritmische variant van de Baby-Step/Giant-Step (BSGS) strategie die is afgestemd op versleutelde matrixinstellingen.

• Mechanisme: In tegenstelling tot standaard BSGS, dat een plaintext-matrix veronderstelt, opereert BSGS-Diagonal op versleutelde database-matrices. Het precomputeert alle noodzakelijke rotaties van de versleutelde query-vector eenmalig en hergebruikt deze over alle matrixgroepen ($G$) in de database.
• Sleutelreductie: Door de query-rotaties te precomputeren, amortiseert de methode de kosten van rotatiesleutels. Het vermindert de vereiste rotatiesleutelset van $\ell-1$ (in HyDia) naar ongeveer $2\sqrt{\ell}$ (specifiek $n_1 + n_2 - 2$ sleutels).
• Geheugenefficiëntie: Dit vermindert de client-zijde rotatiesleutelset met 91%, waardoor de client-geheugeneisen met ongeveer 14 GB dalen. Het maakt ook gebruik van een incrementele accumulatiestrategie met multi-threading om het piek RAM-gebruik van de server te verlagen.
• Prestaties: De aanpak verbetert de runtime met maximaal 1,57× voor lidmaatschapverificatie en 1,43× voor identificatiescenario's vergeleken met het originele HyDia.

2. Systeemniveau Verbetering: GPU-Resident Architectuur

Om computationele latentie aan te pakken, ontwerpen de auteurs een end-to-end GPU-resident pipeline met behulp van FIDESlib (een CUDA-versnelde CKKS-bibliotheek) geïntegreerd met OpenFHE.

• Ontwerpprincipe: Minimaliseer host-device transfers door de volledige query-verwerkingspipeline (gelijkenisberekening, drempelwaarde vergelijking en aggregatie) op de GPU te houden. Alleen de initiële query-ciphertext wordt geüpload, en het uiteindelijke resultaat wordt gedownload.
• Custom Kernels: De implementatie bevat:
  • GPU-Native Chebyshev Evaluator: Een aangepaste implementatie die gebruikmaakt van de Paterson–Stockmeyer methode om de sinusfunctie te benaderen voor drempelwaarde vergelijking volledig op de GPU, om zo CPU round-trips te vermijden.
  • BSGS-RTX-TBS Variant: Een GPU-specifieke variant die gebruikmaakt van vooraf geroteerde diagonalen (offline berekend) en on-demand giant-step rotaties. Dit vermindert de online rotatiesleutelset op de GPU van ~516 naar ~36, wat het VRAM-gebruik aanzienlijk verlaagt.
  • Lazy Relinearization: Uitgestelde relinearizatie in gelijkenis-accumulatie om het geheugengebruik te optimaliseren.
• Varianten: De paper evalueert drie GPU-configuraties:
  • HyDia-RTX-DG: Directe GPU-port van het originele HyDia.
  • BSGS-RTX-TBS: GPU-port met BSGS en server-zijde homomorfe pre-rotatie.
  • BSGS-RTX-TBE: GPU-port met BSGS en enroller-zijde plaintext pre-rotatie (elimineert negatieve rotatiesleutels).

Belangrijkste Bijdragen

Het artikel claimt drie primaire bijdragen:

1. Significante Geheugenreductie: Het BSGS-Diagonal algoritme vermindert de vereisten voor rotatiesleutels drastisch (91% reductie), waardoor de client-geheugeneisen met ~14 GB dalen en het piek RAM-gebruik van de server met maximaal 4,5× voor databases tot $2^{20}$ entries, wat implementatie op edge-apparaten mogelijk maakt.
2. Eerste GPU-versnelde End-to-End Protocol: De auteurs presenteren de eerste GPU-versnelde implementatie van een versleuteld gezichtsherkenningsprotocol dat zowel lidmaatschap als identificatie ondersteunt. Dit bereikt executietijden van minder dan een seconde voor databases tot $2^{15}$ entries (en tot $2^{16}$ met de BSGS-variant) terwijl het host RAM-gebruik wordt verminderd.
3. Open-Source Implementatie: Een volledige, open-source implementatie gebaseerd op OpenFHE en FIDESlib wordt geleverd, getest op databases variërend van $2^{10}$ tot $10^6$ entries (CPU) en tot $2^{16}$ entries (GPU).

Experimentele Resultaten

Experimenten werden uitgevoerd op een Intel Xeon Platinum 8260 (CPU) en een NVIDIA Quadro RTX 8000 / H200 (GPU).

• CPU Prestaties (BSGS-Diagonal vs. HyDia):

  • Versnelling: Tot 1,57× sneller voor lidmaatschap en 1,43× voor identificatie.
  • Geheugen: Piek RAM gereduceerd van >33 GB (HyDia) naar <11 GB (BSGS-Diagonal) voor 1M entries. Client rotatiesleutels gereduceerd van 511 naar 44.
  • Disk Gebruik: Verminderd met tot wel 5×.

• GPU Prestaties:

  • Versnelling: De GPU-implementaties behaalden tot 9× versnelling voor HyDia en tot 21× versnelling voor de BSGS-variant vergeleken met CPU-baselines.
  • Latentie: Bereikte sub-seconde versleutelde gezichtsherkenning voor databases tot $2^{15}$ entries.
  • Geheugen: De BSGS-RTX-TBS variant verminderde het piek GPU-geheugengebruik van ~27 GB (HyDia-RTX-DG) naar ~9 GB voor 8.192 vectoren, wat implementatie op GPU's met 12 GB VRAM mogelijk maakt.
  • Schaalbaarheid: De H200 GPU (141 GB VRAM) breidde de ondersteuning uit naar databases van omvang $2^{17}$.

• Nauwkeurigheid:

  • Evaluatie op de FRGC 2.0 dataset (44.228 embeddings) bevestigde dat de versleutelde pipeline de herkenningskwaliteit behoudt.
  • Precisie > 99,95%, Recall ≈ 99,40%, en Nauwkeurigheid > 99,998%.
  • Het reduceren van de Chebyshev vergelijkingsdiepte van $\kappa=10$ naar $\kappa=8$ leverde versnellingen op zonder meetbaar verlies van nauwkeurigheid.

Betekenis en Claims

Het artikel positioneert het werk als een stap naar de praktische implementatie van privacy-bewuste gezichtsherkenning in real-world, hulpbronnenbeperkte omgevingen.

• Haalbaarheid: Door het geheugenvoetafdruk en de computationele latentie te verlagen, beargumenteren de auteurs dat FHE-gebaseerde gezichtsherkenning niet langer beperkt is tot high-end servers, maar levensvatbaar kan zijn voor edge-clients en standaard server-GPU's.
• Privacy: Het systeem biedt cryptografische garanties (gebaseerd op het Ring Learning with Errors probleem) in plaats van empirische obscuratie, wat bescherming biedt tegen reconstructie-aanvallen.
• Open Science: De auteurs benadrukken de waarde van hun open-source implementatie, die state-of-the-art bibliotheken (OpenFHE, FIDESlib) integreert om een reproduceerbare baseline te bieden voor toekomstig onderzoek in versleuteld zoeken.

De auteurs blijven bescheiden en merken op dat hoewel hun GPU-implementatie sub-seconde prestaties bereikt voor databases tot $2^{15}$, grotere databases nog steeds te maken hebben met geheugenbeperkingen op de huidige hardware, en dat de afwegingen tussen setup-tijd (enrollment) en query-latentie een factor blijven bij de keuze voor implementatie.