EH-FedSAG: Variance-Reduced Federated Learning with Energy-Aware Participation in Energy-Harvesting IoT

Technische Samenvatting van "EH-FedSAG: Variantie-reducerend Federated Learning met Energie-bewuste Participatie in Energy-Harvesting IoT"

Probleemstelling
Federated Learning (FL) in Energy-Harvesting (EH) netwerken staat voor aanzienlijke uitdagingen vanwege de intermitterende en stochastische aard van energie-instroom. In tegenstelling tot conventionele edge-apparaten met een stabiele voeding, vertrouwen EH-apparaten op omgevingsenergiebronnen, wat leidt tot een tijdvariabele beschikbaarheid van energie. Dit introduceert een dubbele laag van willekeur:

1. Instabiele Participatie: Apparaten kunnen in een gegeven ronde onvoldoende energie hebben voor lokale berekeningen of uplink-transmissie, wat leidt tot een stochastische subset van participerende apparaten.
2. Convergentie-instabiliteit: In standaard FL-algoritmen zoals FedAvg introduceert gedeeltelijke participatie variabiliteit in de geaggregeerde updates, wat vaak resulteert in een niet-verdwijnende foutenondergrens (error floor) en instabiel convergentiegedrag. Dit probleem wordt verergerd in EH-systemen waar energiebeperkingen de consistentie van de device-participatie verder beperken.

Hoewel eerdere werken energie-bewuste device-selectie en efficiënte protocollen hebben behandeld, is de gecombineerde impact van EH-beperkingen, energie-bewuste participatie en server-zijde geheugen-gebaseerde variantie-reductie nog niet onderzocht binnen een verenigd framework.

Methodologie: EH-FedSAG
Het artikel stelt EH-FedSAG voor, een server-geheugen-gebaseerde variant-reducerende FL-methode die is aangepast voor EH-omgevingen. Het systeem werkt onder een slot-gebaseerd EH-model waarbij:

• Energiedynamiek: Apparaten volgen een "oogst-slaap-gebruik"-paradigma met een eindige batterijcapaciteit. Energie-instroom wordt gemodelleerd als i.i.d. Bernoulli-processen.
• Haalbaarheidsbeperkingen: Een apparaat kan alleen participeren als het batterijniveau op een specifiek startslot ($s^*$) voldoende is om zowel lokale training ($\Omega$ slots) als transmissie (1 slot) te dekken.
• Device Selectie: De server hanteert een leeftijds-gebaseerd selectiebeleid. Onder de apparaten met voldoende energie krijgen diegene die recenter niet zijn geselecteerd (hogere "selectie-leeftijd") de prioriteit om langetermijn-eerlijkheid te waarborgen. Een maximum van $M$ apparaten kan per ronde worden ingepland vanwege orthogonale kanaalbeperkingen.

Algoritmische Kern:
EH-FedSAG integreert het SAGA-principe (Stochastic Average Gradient Algorithm) in het EH-FL-protocol:

1. Lokale Update: Geselecteerde apparaten voeren $B$ stappen van lokale Stochastic Gradient Descent (SGD) uit en verzenden het modelverschil $\delta_t^{(k)} = w_t - w_{t,B}^{(k)}$.
2. Server Geheugen: De server onderhoudt een geheugenvector $m_t^{(k)}$ voor elk apparaat $k$, waarin de meest recent ontvangen update wordt opgeslagen.
3. Variantie-reductie: In plaats van een simpel gemiddelde berekent de server een variantie-gereduceerde richting $v_t$ door het gemiddelde van alle opgeslagen geheugens te combineren met de verse updates van de momenteel actieve apparaten:
   $$v_t = \bar{m}_t + \frac{1}{|P_t|} \sum_{k \in P_t} (\delta_t^{(k)} - m_t^{(k)})$$
   waarbij $\bar{m}_t$ het gemiddelde is van alle opgeslagen geheugens.
4. Globale Update: Het globale model wordt bijgewerkt met behulp van deze variantie-gereduceerde richting. Als er geen apparaten participeren, blijft het model ongewijzigd.

Belangrijkste Bijdragen

1. Verenigd Framework: De auteurs stellen een energie-bewust EH-FL framework voor dat expliciet slot-niveau batterijdynamiek modelleert, per ronde participatiebeperkingen afdwingt op basis van energie-haalbaarheid, en een leeftijd-gebaseerd device-selectiemechanisme gebruikt.
2. Algoritme Ontwikkeling: Zij ontwikkelen EH-FedSAG, een geheugen-gebaseerde variant van EH-FedAvg die gebruikmaakt van server-zijde geheugen om de variantie te mitigeren die wordt veroorzaakt door tijdvariabele device-beschikbaarheid en gedeeltelijke participatie.
3. Empirische Karakterisering: Het artikel karakteriseert de relatie tussen testnauwkeurigheid en trainingsrondes onder variërende energie-instroomkansen ($P_h$) en data-heterogeniteit (gecontroleerd door de Dirichlet-parameter $\alpha$) over twee netwerkarchitecturen (SmallCNN en SmallResNet).

Experimentele Resultaten
De voorgestelde methode werd geëvalueerd tegenover een vanilla EH-FedAvg baseline met behulp van CIFAR-10 beeldclassificatie met $K=100$ apparaten en $M=25$ kanalen over 1.000 rondes.

• Prestaties onder Schaarste aan Energie: Onder lage energie-instroomkansen ($P_h = 0.02$) vertoonde EH-FedAvg significante oscillaties. EH-FedSAG behaalde ongeveer 3% hogere testnauwkeurigheid en toonde grotere robuustheid tegen participatie-geïnduceerde fluctuaties.
• Variantie-reductie: EH-FedSAG behaalde consequent substantieel lagere variantie in de laat-fase nauwkeurigheid vergeleken met EH-FedAvg. Bijvoorbeeld, bij $P_h = 0.06$, werd de variantie verminderd van 0.9401 (FedAvg) naar 0.042 bel (FedSAG).
• Convergentiesnelheid: EH-FedSAG bereikte een stabiele 50% testnauwkeurigheid drempel ongeveer 26% sneller dan EH-FedAvg in het $P_h = 0.06$ scenario.
• Niet-I.I.D. Data: Onder heterogene datadistributies (lage $\alpha$), leed EH-FedAvg onder scherpe nauwkeurigheidsdalingen door de niet-representatieve aard van de actieve subset. EH-FedSAG behield een vloeiender traject door gebruik te maken van opgeslagen informatie van eerder actieve apparaten, waardoor de globale update effectief wordt ontkoppeld van de instantane set van actieve apparaten.

Significantie en Claims
Het artikel claimt dat het integreren van server-zijde variantie-reductie in EH-FL een effectieve strategie is voor het verbeteren van de trainingsstabiliteit. Het primaire voordeel van EH-FedSAG is het meest uitgesproken wanneer de energiebeschikbaarheid schaars is en de datadistributies niet-onafhankelijk en identiek verdeeld zijn (non-i.i.d.). Door de ontbrekende updates van niet-beschikbare apparaten te compenseren met opgeslagen geheugens, produceert het algoritme consistenterder en voorspelbaarder modelprestaties over de communicatierondes. Dit is bijzonder gunstig voor low-power IoT-implementaties waar intermitterende participatie en beperkte communicatiebudgetten het vroegtijdig stoppen en een stabiele prestatie zeer wenselijk maken.

De auteurs merken op dat toekomstig werk dit framework zou kunnen uitbreiden naar onbetrouwbare draadloze verbindingen, theoretische convergentie-analyse onder EH-beperkingen, en systemen met computationeel heterogene apparaten.