An Adaptive Differentially Private Federated Learning Framework

Technische Samenvatting: FedDimDP – Een Adaptief Differentieel Privaat Federated Learning Framework

Probleemstelling
Federated Learning (FL) maakt collaboratieve modeltraining mogelijk terwijl de lokale aard van data behouden blijft, maar praktische implementaties worden geconfronteerd met twee kritieke uitdagingen: statistische heterogeniteit (Non-IID data) en differential privacy (DP) restricties.

1. Non-IID Data: Wanneer lokale datadistributies afwijken van de globale populatie, worden client-updates divergent in zowel grootte als richting. Dit leidt tot client drift, bevooroordeelde aggregatie en instabiele trainingsdynamiek.
2. Differential Privacy: Om privacy te beschermen, past standaard DP-SGD een vaste $\ell_2$-norm gradient clipping toe, gevolgd door Gaussian noise injectie. Echter, vaste clipping-drempels slagen er niet in zich aan te passen aan tijdvariërende en client-afhankelijke gradiëntverdelingen. Dit resulteert in over-clipping (verlies van nuttig signaal) of under-clipping (dominantie van geïnjecteerde ruis), wat leidt tot oscillatie tijdens de training en gedegradeerde modelprestaties.
   Het artikel stelt dat de combinatie van Non-IID drift en rigide DP-mechanismen deze problemen verergert, wat leidt tot een significante degradatie van de utility onder heterogene omstandigheden.

Methodologie: FedDimDP
De auteurs stellen FedDimDP voor, een framework ontworpen om de modelefficiëntie te verbeteren onder deze gekoppelde uitdagingen via drie gecoördineerde modules:

1. Lightweight Local Dimensionality Reduction Module (LLDM):

   • Doel: Om intermediaire representaties te regulariseren en de gradiëntvariabiliteit te verminderen vóór DP-ruisinjectie.
   • Mechanisme: Aan de client-zijde wordt een leerbare kanaalsgewijze projectiematrix gebruikt om de dimensionaliteit van intermediaire feature maps te reduceren ($C \to C'$ waarbij $C' \ll C$). Vervolgens wordt gradient sparsification toegepast tijdens de backpropagation, waarbij gradiëntcomponenten onder een dynamisch afnemende drempel $\tau_t$ op nul worden gezet.
   • Effect: Dit produceert meer gestructureerde, stabiele gradiënten, wat de amplificatie van privacy-ruis tijdens lokale optimalisatie beperkt.

2. Adaptive Differentially Private Gradient Clipping (ADPC):

   • Doel: Om clipping-drempels dynamisch aan te passen aan evoluerende update-schalen, om zo signaalverlies of ruisdominantie te voorkomen.
   • Mechanisme: In plaats van een vaste drempel berekent de server de $\ell_2$-norm van de modelupdates ($\Delta w_i$) van alle deelnemende clients. De clipping-drempel $C^{(t+1)}$ voor de volgende ronde wordt ingesteld op de mediaan van deze normen (begrensd door een minimale $C_{min}$).
   • Effect: Dit zorgt ervoor dat de privacy-restrictie aansluit bij de werkelijke schaal van de client-updates, waarbij de bescherming automatisch wordt aangescherpt wanneer updates klein zijn en wordt versoepeld wanneer Non-IID drift grotere updates veroorzaakt.

3. Constraint-Aware Robust Aggregation (CRA):

   • Doel: Om onbetrouwbare of door ruis gedomineerde updates te onderdrukken en de globale descent-richting te stabiliseren.
   • Mechanisme:
     • Nominal Weights: De server berekent initiële gewichten op basis van een "utility-stability score", die de lokale validatieprestaties (F1-score) combineert met update-stabiliteit (norm-statistieken), gesmooth via exponential moving averages.
     • Ambiguity Set: Een distributionally robust optimization-aanpak definieert een ambiguïteitsset rond de nominale gewichten, wat gecontroleerde afwijking toestaat.
     • Direction-Aware Reweighting: De server berekent de directionele afwijking van de update van elke client ten opzichte van de nominale geaggregeerde richting. Vervolgens voert de server een lightweight geprojecteerde descent uit om robuuste gewichten te vinden die de impact van clients met grote directionele afwijkingen minimaliseren, terwijl aan de ambiguïteitsrestricties wordt voldaan.
   • Effect: Dit verlaagt het gewicht van instabiele updates zonder een complexe interne optimalisatielus te vereisen, wat de globale aggregatie stabiliseert tegen zowel DP-ruis als Non-IID drift.

Belangrijkste Bijdragen
Het artikel vat de bijdragen als volgt samen:

• Adaptief DP-mechanisme: Een clipping-strategie gekalibreerd door historische update-norm statistieken, wat de utility-privacy trade-off verbetert en optimalisatie onder heterogene condities stabiliseert.
• Constraint-Aware Robust Aggregation: Een nieuw aggregatiemechanisme voor beeldclassificatie dat utility/stabiliteit-bewuste herweging integreert met richtingcorrectie om door ruis gedomineerde updates te onderdrukken en Non-IID drift te mitigeren.
• Experimentele Validatie: Een uitgebreide evaluatie die consistente verbeteringen aantoont in convergentiestabiliteit en classificatieprestaties ten opzichte van state-of-the-art baselines.

Experimentele Resultaten
Het framework werd geëvalueerd op de CIFAR-10, SVHN en STL-10 datasets onder Non-IID partitions (Dirichlet-gebaseerde label skew) met een privacy budget van $\epsilon=8$.

• Prestaties: FedDimDP behaalde de hoogste nauwkeurigheid en F1-scores over alle datasets.
  • CIFAR-10: 81,1% nauwkeurigheid (tegenover 74,2% voor de beste baseline, DP-FedSAM).
  • SVHN: 89,7% nauwkeurigheid (tegenover 88,0% voor FedACG).
  • STL-10: 65,2% nauwkeurigheid (tegenover 62,3% voor DP-ACDN).
• Ablatie-studies: Het verwijderen van een van de drie kerncomponenten (LLDM, ADPC of CRA) resulteerde in een degradatie van de prestaties. Het verwijderen van Robust Aggregation (w/o-CRA) veroorzaakte de meest significante daling op CIFAR-10 en STL-10, terwijl het verwijderen van LLDM de grootste impact had op SVHN, wat de complementaire aard van alle drie de modules bevestigt.

Betekenis en Claims
Het artikel claimt dat FedDimDP succesvol de instabiliteit aanpakt die wordt veroorzaakt door de intersectie van differential privacy en datheterogeniteit. Door expliciet de link te leggen tussen gradient clipping, ruisinjectie en server-zijde aggregatie, bereikt het framework een "gunstige utility-stability trade-off". De auteurs stellen dat hun aanpak een principiële manier biedt om de "training oscillation" en "gedegradeerde modelprestaties" te behandelen die inherent zijn aan fixed-threshold DP-FL systemen, met name in resource-beperkte edge-scenario's waar data non-IID is. Het werk suggereert dat adaptieve mechanismen essentieel zijn voor het behoud van model utility wanneer strikte privacygaranties worden afgedwongen in realistische, heterogene implementaties.