EH-FedSAG: Variance-Reduced Federated Learning with Energy-Aware Participation in Energy-Harvesting IoT

Technische Zusammenfassung von „EH-FedSAG: Varianzreduziertes föderiertes Lernen mit energiebewusster Teilnahme in der Energy-Harvesting-IoT“

Problemstellung
Föderiertes Lernen (FL) in Energy-Harvesting (EH)-Netzwerken steht vor erheblichen Herausforderungen aufgrund der intermittierenden und stochastischen Natur des Energieeintrags. Im Gegensatz zu herkömmlichen Edge-Geräten mit stabiler Stromversorgung sind EH-Geräte auf Umgebungsquellen angewiesen, was zu einer zeitvariablen Energieverfügbarkeit führt. Dies führt zu einer dualen Ebene der Zufälligkeit:

1. Instabile Teilnahme: Geräte können in einer gegebenen Runde nicht über genügend Energie für die lokale Berechnung oder die Uplink-Übertragung verfügen, was zu einer stochastischen Teilmenge teilnehmender Geräte führt.
2. Konvergenzinstabilität: In Standard-FL-Algorithmen wie FedAvg führt die Teilnahme durch Teilgruppen zu einer Variabilität in den aggregierten Updates, was oft zu einem nicht verschwindenden Fehlerschwellenwert (Error Floor) und einem instabilen Konvergenzverhalten führt. Dieses Problem wird in EH-Systemen, in denen Energiebeschränkungen die Konsistenz der Gerätebeteiligung weiter einschränken, verschärft.

Während frühere Arbeiten bereits energiebewusste Gerätauswahl und effiziente Protokolle adressiert haben, wurde die kombinierte Auswirkung von EH-Beschränkungen, energiebewusster Teilnahme und serverseitiger speicherbasierter Varianzreduktion bisher nicht innerhalb eines einheitlichen Frameworks untersucht.

Methodik: EH-FedSAG
Das Paper schlägt EH-FedSAG vor, eine auf dem Serverspeicher basierende, varianzreduzierte FL-Methode, die für EH-Umgebungen angepasst wurde. Das System arbeitet unter einem slotbasierten EH-Modell, bei dem:

• Energiedynamik: Geräte folgen einem „Harvest-Store-Use“-Paradigma mit endlicher Batteriekapazität. Die Energieankünfte werden als i.i.d. Bernoulli-Prozesse modelliert.
• Machbarkeitsbeschränkungen: Ein Gerät kann nur teilnehmen, wenn sein Batteriestand zu einem spezifischen Start-Slot ($s^*$) ausreicht, um sowohl das lokale Training ($\Omega$ Slots) als auch die Übertragung (1 Slot) abzudecken.
• Gerätauswahl: Der Server verwendet eine altersbasierte Auswahlstrategie (Age-based Selection Policy). Unter den Geräten mit ausreichender Energie werden diejenigen priorisiert, die seit längerem nicht mehr ausgewählt wurden (höheres „Selection Age“), um langfristige Fairness zu gewährleisten. Aufgrund orthogonaler Kanalbeschränkungen können pro Runde maximal $M$ Geräte geplant werden.

Algorithmischer Kern:
EH-FedsAG integriert das SAGA-Prinzip (Stochastic Average Gradient Algorithm) in das EH-FL-Protokoll:

1. Lokales Update: Ausgewählte Geräte führen $B$ Schritte des lokalen stochastischen Gradientenabstiegs (SGD) durch und übertragen die Modelldifferenz $\delta_t^{(k)} = w_t - w_{t,B}^{(k)}$.
2. Serverspeicher: Der Server führt für jedes Gerät $k$ einen Speichervektor $m_t^{(k)}$ vor, der das zuletzt empfangene Update speichert.
3. Varianzreduktion: Anstatt eines einfachen Durchschnitts berechnet der Server eine varianzreduzierte Richtung $v_t$, indem er den Mittelwert aller gespeicherten Erinnerungen mit den frischen Updates der aktuell aktiven Geräte kombiniert:
   $$v_t = \bar{m}_t + \frac{1}{|P_t|} \sum_{k \in P_t} (\delta_t^{(k)} - m_t^{(k)})$$
   wobei $\bar{m}_t$ der Mittelwert aller gespeicherten Erinnerungen ist.
4. Globales Update: Das globale Modell wird unter Verwendung dieser varianzreduzierten Richtung aktualisiert. Wenn keine Geräte teilnehmen, bleibt das Modell unverändert.

Wesentliche Beiträge

1. Einheitliches Framework: Die Autoren schlagen ein energiebewusstes EH-FL-Framework vor, das Slot-Level-Batteriedynamiken explizit modelliert, Teilnahmebeschränkungen pro Runde basierend auf der Energie-Machbarkeit erzwingt und einen altersbasierten Gerätauswahlmechanismus verwendet.
2. Algorithmusentwicklung: Sie entwickeln EH-FedSAG, eine speicherbasierte Variante von EH-FedAvg, die den Serverspeicher nutzt, um die durch zeitvariable Geräteverfügbarkeit und Teilnahme durch Teilgruppen verursachte Varianz zu mildern.
3. Empirische Charakterisierung: Das Paper charakterisiert die Beziehung zwischen Testgenauigkeit und Trainingsrunden unter variierenden Wahrscheinlichkeiten des Energieankommens ($P_h$) und Datenheterogenität (gesteuert durch den Dirichlet-Parameter $\alpha$) über zwei Netzwerkarchitekturen (SmallCNN und SmallResNet) hinweg.

Experimentelle Ergebnisse
Die vorgeschlagene Methode wurde gegenüber einem Vanilla EH-FedAvg-Baseline-Modell mittels CIFAR-10 Bildklassifizierung mit $K=100$ Geräten und $M=25$ Kanälen über 1.000 Runden evaluiert.

• Performance unter knapper Energie: Bei niedrigen Wahrscheinlichkeiten des Energieankommens ($P_h = 0,02$) zeigte EH-FedAvg signifikante Oszillationen. EH-FedSAG erreichte eine etwa 3 % höhere Testgenauigkeit und demonstrierte eine größere Robustheit gegenüber durch Teilnahme bedingten Fluktuationen.
• Varianzreduktion: EH-FedSAG erreichte konsistent eine wesentlich geringere Genauigkeitsvarianz in der Spätphase im Vergleich zu EH-FedAvg. Beispielsweise wurde die Varianz bei $P_h = 0,06$ von 0,9401 (FedAvg) auf 0,042-1 (FedSAG) reduziert.
• Konvergenzgeschwindigkeit: EH-FedSAG erreichte die Schwelle von 50 % Testgenauigkeit etwa 26 % schneller als EH-FedAvg im Szenario mit $P_h = 0,06$.
• Nicht-i.i.d. Daten: Unter heterogenen Datenverteilungen (niedriges $\alpha$) litt EH-FedAvg unter starken Genauigkeitseinbrüchen aufgrund der nicht repräsentativen Natur der aktiven Teilmenge. EH-FedSAG behielt einen glatteren Verlauf bei, indem es Informationen aus zuvor aktiven Geräten nutzte, wodurch die globale Aktualisierung effektiv von der instantanen Menge der aktiven Geräte entkoppelt wurde.

Bedeutung und Ansprüche
Das Paper behauptet, dass die Integration von serverseitiger Varianzreduktion in EH-FL eine effektive Strategie zur Verbesserung der Trainingsstabilität ist. Der Hauptvorteil von EH-FedSAG ist am deutlichsten ausgeprägt, wenn die Energieverfügbarkeit gering und die Datenverteilungen nicht unabhängig und identisch verteilt (non-i.i.d.) sind. Durch Kompensation fehlender Updates nicht verfügbarer Geräte mittels gespeicherter Erinnerungen erzeugt der Algorithmus eine konsistentere und vorhersagbarere Modellleistung über die Kommunikationsrunden hinweg. Dies ist besonders vorteilhaft für Low-Power-IoT-Einsätze, bei denen intermittierende Teilnahme und begrenzte Kommunikationsbudgets ein vorzeitiges Stoppen und eine stabile Performance hochgradig wünschenswert machen.

Die Autoren merken an, dass zukünftige Arbeiten dieses Framework auf unzuverlässige Funkverbindungen, theoretische Konvergenzananalysen unter EH-Beschränkungen und Systeme mit computergestützter Heterogenität der Geräte ausweiten könnten.