Non-Convex Over-the-Air Heterogeneous Federated Learning: A Bias-Variance Trade-off

Titel: Niet-convexe Over-the-Air Heterogene Federated Learning: Een Bias–Variantie Trade-off

Auteurs: Muhammad Faraz Ul Abrar en Nicolò Michelusi (Arizona State University)

1. Probleemstelling

Federated Learning (FL) staat bekend als een privacy-bewuste methode voor gedistribueerd leren, waarbij apparaten gezamenlijk een model trainen zonder ruwe data te delen. Een veelbelovende aanpak voor draadloze FL is Over-the-Air (OTA) berekening, die gebruikmaakt van de superpositie-eigenschap van het draadloze multiple-access kanaal (MAC) om modelupdates gelijktijdig te aggregeren.

Echter, bestaande OTA-FL ontwerpen kampen met twee fundamentele beperkingen in realistische scenario's:

1. Heterogeniteit: Bestaande methoden gaan vaak uit van homogene draadloze omstandigheden (gelijke padverlies) of dwingen een onbevooroordeelde (zero-bias) aggregatie af. In heterogene netwerken (waar apparaten verschillende kanaalkwaliteiten hebben) leidt het dwingen van onbevooroordeelde updates tot een sterke afhankelijkheid van het apparaat met het slechtste kanaal. Dit resulteert in een hoge variantie in de updates en trage convergentie.
2. Convexiteit: De meeste theoretische analyses van OTA-FL zijn gebaseerd op convexe doelstellingen. Moderne machine-learning modellen (zoals diepe neurale netwerken) zijn echter niet-convex. Er ontbreekt een theoretisch kader dat de bias-variantie trade-off in niet-convexe OTA-FL onder heterogene omstandigheden beschrijft.

2. Methodologie

De auteurs stellen een nieuw kader voor voor OTA-FL met Stochastic Gradient Descent (SGD) voor gladde, niet-convexe doelstellingen in heterogene draadloze omgevingen.

• Gestructureerde Bias: In plaats van te streven naar een onbevooroordeelde schatting (wat hoge variantie veroorzaakt), introduceren de auteurs een gestructureerde, tijd-invariante bias. Hierdoor kunnen ze de variantie van de updates verlagen door de transmitkracht van apparaten met slechte kanalen te optimaliseren, ten koste van een gecontroleerde bias.

• Systeemmodel:

  • Apparaten gebruiken een afgekapt kanaal-inversie strategie (truncated channel inversion) met een voor-schaalfactor ($\gamma_m$).
  • Apparaten met een te zwak kanaal blijven stil om energiebeperkingen te respecteren.
  • De basisstation (PS) gebruikt een na-schaalfactor ($\alpha$) om de ontvangen som te normaliseren.

• Convergentieanalyse:

  • De auteurs leiden een finite-time stationariteitsgrens af (de verwachte gemiddelde kwadratische gradiëntnorm).
  • Deze grens onthult expliciet een bias-variantie trade-off:
    • Variantie: Bestaat uit transmissie-variantie (door kanaalschommelingen), mini-batch variantie en ruis van de ontvanger.
    • Bias: Wordt veroorzaakt door niet-uniforme deelname van apparaten ($p_m \neq 1/N$).
  • Een lagere voor-schaalfactor verlaagt de transmissie-variantie en bias, maar versterkt de ontvanger-ruis. Een hogere factor doet het tegenovergestelde.

• Optimalisatie (SCA-algoritme):

  • Het optimaliseren van de bias-variantie trade-off leidt tot een niet-convex optimalisatieprobleem voor de vermogenscontrole (pre-scalers $\gamma_m$).
  • De auteurs ontwikkelen een efficiënt Successive Convex Approximation (SCA) algoritme.
  • Cruciaal voordeel: Het algoritme vereist alleen statistische Kanaal State Information (CSI) op de basisstation (gemiddelde padverlies), in plaats van zware overhead van instantane globale CSI. Apparaten gebruiken wel hun eigen lokale instantane CSI voor de beslissing om te zenden.

3. Belangrijkste Bijdragen

1. Theoretisch Kader: De eerste analyse van OTA-FL voor niet-convexe objectieven onder draadloze heterogeniteit, waarbij een gestructureerde bias wordt toegestaan om de variantie te reduceren.
2. Bias-variantie Grens: Een nieuwe convergentiebound die de fundamentele trade-off tussen modelbias en schattingsvariantie kwantificeert.
3. Efficiënt Algoritme: Een SCA-gebaseerd vermogenscontrole-algoritme dat convergentie optimaliseert met slechts statistische CSI, wat de communicatie-overhead drastisch verlaagt ten opzichte van eerdere methoden.
4. Validatie: Experimentele bevestiging dat het toestaan van een gecontroleerde bias snellere convergentie en betere generalisatie oplevert dan traditionele "zero-bias" benaderingen.

4. Resultaten

De methode werd getest op een niet-convexe beeldclassificatietaken (MNIST dataset) met een fully connected neural network en 10 apparaten met een niet-IID (niet-identiek verdeelde) data-distributie.

• Vergelijking: De voorgestelde SCA-aanpak werd vergeleken met:
  • Ideal FedAvg: (Ruisvrije aggregatie, theoretisch optimum).
  • Vanilla OTA-FL: (Dwingt zero-bias af, vereist instantane globale CSI).
  • OPC OTA-Comp: (Optimaliseert MSE, vereist instantane globale CSI).
  • LCPC & BB-FL: Andere bestaande heterogene benaderingen.
• Prestaties:
  • De SCA-gebaseerde aanpak bereikte een convergentiesnelheid en eindnauwkeurigheid die zeer dicht bij de "OPC OTA-Comp" methode lag (die instantane globale CSI vereist), maar zonder die zware overhead.
  • Het presteerde significant beter dan "Vanilla OTA-FL" en andere baselines.
  • De resultaten tonen aan dat het toestaan van een kleine, geoptimaliseerde bias de modelupdate-variantie verlaagt, wat leidt tot snellere afname van de verliesfunctie en betere generalisatie.

5. Significantie

Dit werk is van groot belang voor de praktische implementatie van Federated Learning in realistische, heterogene draadloze netwerken (zoals IoT en 5G/6G).

• Paradigmaverschuiving: Het daagt de conventionele wijsheid uit dat OTA-FL strikt onbevooroordeeld moet zijn. Het toont aan dat het strategisch toelaten van bias een krachtig hulpmiddel is om de negatieve effecten van slechte kanalen te mitigeren.
• Praktische Toepasbaarheid: Door te werken met alleen statistische CSI op de server, maakt het de schaalbaarheid van OTA-FL mogelijk zonder de enorme overhead van het continu meten en feedback geven van instantane kanalen voor elk apparaat.
• Toekomstgericht: De analyse voor niet-convexe objectieven sluit direct aan bij de huidige staat van de kunst in deep learning, waardoor de theorie direct toepasbaar is op moderne AI-modellen.

Kortom, de auteurs bewijzen dat een geoptimaliseerde, licht bevooroordeelde aggregatie in heterogene netwerken superieur is aan rigide onbevooroordeelde methoden, zowel in snelheid als in efficiëntie.