Technische Samenvatting: Gemoduleerd Leren voor Privé en Gedistribueerde Regressie met Eén Steekproef per Client

Probleemstelling

Dit werk adresseert een kritieke beperking in standaard Federated Learning (FL) en Differentieel Private (DP) leerparadigma's: de aanname dat client-apparaten lokale datasets bezitten die groot genoeg zijn om betekenisvolle gradiëntupdates te berekenen. In veel real-world scenario's—zoals fitness-trackers, aan het lichaam gedragen sensoren en dagelijkse gebeurtenismonitoren—kunnen clients slechts één data-steekproef (of zeer weinig) bezitten.

In dit regime van "één steekproef per client" faalt standaard DP-SGD gebaseerde FL omdat:

1. Onbetrouwbare Lokale Updates: Een lokale gradiënt berekend op één enkel punt is zeer ruisachtig en onbetrouwbaar voor het schatten van modelcoëfficiënten, vooral in de vroege trainingsrondes.
2. Versterking van Privacyruis: De ruis die wordt ingebracht om differentieel privacy te voldoen, degradeert verder de bruikbaarheid van deze al zwakke lokale updates, waardoor de convergentie van het globale model ineffectief wordt.

De paper vraagt: Kunnen we nuttig, differentieel privé gedistribueerd leren mogelijk maken wanneer elke client slechts één voorbeelddata-punt bijdraagt?

Methodologie

De auteurs stellen een Gemoduleerd Leren raamwerk voor. In plaats dat clients modelcoëfficiënten sturen (zoals in standaard FL) of ruwe gradiënten, transmittieren clients een privé getransformeerde representatie van hun enkele data-steekproef. De server aggregeert vervolgens deze representaties om een onbevooroordeelde schatting van de gecentraliseerde gradiënt te herstellen.

Kernmechanisme: Cosine-Gemoduleerde Transformatie

Het protocol werkt in rondes. In elke ronde $t$ onderhoudt de server een globaal model $\beta_t$ en selecteert een modulatierichting $v_t$ (orthogonaal op $\beta_t$).

1. Client-zijde Verwerking:
Gegeven een privé steekproef $(x_i, y_i)$, voert de client de volgende stappen uit:

• Modulatie: De client steekt een willekeurige fase $\phi_i \sim \text{Unif}[0, 2\pi]$ en berekent een gemoduleerd feature-vektor:
  $$g_i = (1 - \alpha)x_i + \lambda \cos(\omega \langle x_i, v_t \rangle + \phi_i) v_t$$
  Hierbij zijn $\alpha, \lambda, \omega$ hyperparameters. De term $(1-\alpha)x_i$ behoudt het signaal, terwijl de cosinus-term een contractieve, privacy-bewarende verstoring introduceert.
• Ruisinjectie: Om $(\epsilon, \delta)$-lokaal differentieel privacy (LDP) te garanderen, voegt de client Gaussische ruis toe $\xi_i \sim \mathcal{N}(0, \sigma_{DP}^2 I)$:
  $$\tilde{g}_i = g_i + \xi_i$$
• Transmissie: De client stuurt het paar $(\tilde{g}_i, y_i)$ naar de server. Merk op dat $y_i$ in deze specifieke opzet als publiek/niet-gevoelig wordt behandeld, terwijl $x_i$ de privé invoer is.

2. Server-zijde Aggregatie en Ontbiasing:
De server ontvangt $\{(\tilde{g}_i, y_i)\}_{i=1}^K$ en voert algebraïsche correcties uit om de door modulatie en ruis geïntroduceerde bias te verwijderen:

• Covariantie Schatting: De server berekent de empirische covariantie van de ontvangen features en trekt de bekende bias-termen af (de modulatiewisseling en ruisvariatie):
  $$\hat{\Sigma}_x = \frac{1}{(1-\alpha)^2} \left( \frac{1}{K}\sum \tilde{g}_i \tilde{g}_i^\top - \frac{\lambda^2}{2} v_t v_t^\top - \sigma_{DP}^2 I \right)$$
  Stelling 3.1 en Corollarium 3.2 bewijzen dat $\hat{\Sigma}_x$ een onbevooroordeelde schatter is van de ware data-covariantie $\Sigma_x = \frac{1}{K}\sum x_i x_i^\top$.
• Gradiënt Herstel: De server construeert een onbevooroordeelde gradiëntschatter $G$:
  $$G = \hat{\Sigma}_x \beta_t - \frac{1}{1-\alpha} \frac{1}{K} \sum y_i \tilde{g}_i$$
  Deze $G$ voldoet aan $\mathbb{E}[G] = \nabla L(\beta_t)$, wat overeenkomt met de niet-privé gecentraliseerde gradiënt in verwachting.

Varianties

• Multi-Vektor Modulatie: Om de Lipschitz-constante (en dus de vereiste ruis $\sigma_{DP}$) te verminderen, generaliseren de auteurs de methode tot het gebruik van $m$ orthonormale vectoren. Dit verlaagt de gevoeligheidsgrens van $|1-\alpha| + \lambda\omega$ naar $|1-\alpha| + \frac{\lambda\omega}{\sqrt{m}}$.
• Niet-Iteratieve (Eén-Schot) Schatter: De paper leidt ook een gesloten-form momentenschatter af die $\beta$ in één stap oplost, waardoor de privacy-compositiekosten van iteratieve methoden worden vermeden.

Kernbijdragen

1. Onbevooroordeelde Gradiëntschatting uit Enkele Steekproeven: De paper demonstreert dat door data te transformeren via een specifieke cosine-gemoduleerde kaart en toepassing van post-processing ontbiasing, een server een onbevooroordeelde gradientschatting kan herstellen zelfs wanneer clients slechts één steekproef per client bezitten.
2. Optimalisatie van Privacy-Bruikbaarheid Trade-off:
   • De methode vestigt een Cramér-Rao ondergrens op de reconstructiefout, bewijzend dat de modulatieparameters ($\lambda, \omega$) actief de moeilijkheid verhogen om de privé invoer $x_i$ te reconstrueren, verder dan de bescherming die alleen door Gaussische ruis wordt geboden.
   • De multi-vektor variant wordt getoond om de vereiste ruisvariatie te verminderen met een factor gerelateerd aan $\sqrt{m}$, waardoor de bruikbaarheid verbetert voor een vast privacy-budget.
3. Theoretische Garanties:
   • Onbevooroordeeldheid: Rigoureuze bewijzen dat de schatter van de server onbevooroordeeld is.
   • Convergentie: De paper vestigt de asymptotische normaliteit van de schatter en leidt variatiegrenzen af, wat convergentiesnelheden voor geprojecteerde stochastische gradiëntafdaal toont.
   • Privacy Accounting: De methode gebruikt zero-concentrated differentieel privacy (zCDP) accounting, wat strakkere compositiegrenzen biedt dan standaard $(\epsilon, \delta)$-DP voor sequentiële rondes.
4. Reconstructie Ondergrenzen: De auteurs leiden een theoretische ondergrens af voor de gemiddelde kwadratische fout van elke onbevooroordeelde aanvaller die probeert $x_i$ te reconstrueren uit het getransmitteerde bericht, waardoor de privacy-bescherming direct wordt gekwantificeerd in termen van protocolparameters.

Experimentele Resultaten

De auteurs evalueerden de aanpak op vijf real-world regressiedatasets (bijv. CO2-emissies, Rechtvaardigheid in huwelijksduur, Moduskeuze) waarbij elke trainingssteekproef werd behandeld als een aparte client.

• Vergelijking: De voorgestelde Gemoduleerde Iteratieve en Gemoduleerde Eén-Schot schatters werden vergeleken met een afgestemde DP-SGD FedAvg baseline.
• Vondsten:
  • Hoge Privacy (Lage $\epsilon$): De Gemoduleerde Eén-Schot schatter presteerde beter dan iteratieve methoden. Omdat deze vertrouwt op één enkele privé vrijgave, vermijdt het de cumulatieve privacyverlies (compositie) inherent aan iteratieve DP-SGD, waardoor het robuuster is wanneer het privacy-budget extreem krap is.
  • Matige/Lage Privacy (Hoge $\epsilon$): De Gemoduleerde Iteratieve schatter verbeterde gestaag met meer rondes en overtrof uiteindelijk de één-schot methode en de DP-SGD baseline op de meeste taken.
  • Baseline Prestaties: DP-SGD had aanzienlijke moeite in dit regime omdat de ruis die nodig is om één enkele steekproef per ronde te beschermen, versterkt over meerdere rondes, het signaal overweldigde.

Betekenis en Claims

De paper claimt een specifiek regime op te lossen waar standaard federated learning niet toepasbaar is: leren van apparaten met extreem beperkte data (één steekproef) onder strikte privacybeperkingen.

• Paradigmaverschuiving: In tegenstelling tot traditioneel privé FL dat modelupdates (gradiënten/gewichten) deelt, deelt deze aanpak geprivatiseerde data-representaties. Deze verschuiving stelt de server in staat globale statistische correcties uit te voeren die onmogelijk zijn wanneer clients alleen ruisachtige lokale gradiënten sturen.
• Praktijktoepasbaarheid: De methode stelt apparaten met minimale data in staat om gezamenlijk nauwkeurige regressiemodellen te leren zonder individuele privacy te offeren of grote lokale datasets te vereisen.
• Theoretische Strenge: Het werk biedt een compleet theoretisch raamwerk, inclusief onbevooroordeeldheidsbewijzen, variatieanalyse, convergentiegaranties en reconstructie-ondergrenzen, en vestigt dat de methode niet alleen heuristisch is maar statistisch sound.

De auteurs concluderen dat deze aanpak het haalbaar maakt om privacy-bewarende machine learning in te zetten in scenario's die eerder als onmogelijk werden beschouwd vanwege datatekorten en privacyvereisten.