EH-FedSAG: Variance-Reduced Federated Learning with Energy-Aware Participation in Energy-Harvesting IoT

Sintesi Tecnica di "EH-FedSAG: Apprendimento Federato con Riduzione della Varianza e Partecipazione Consapevole dell'Energia in IoT con Raccolta di Energia"

Problematica
L'Apprendimento Federato (FL) nelle reti con Raccolta di Energia (EH - Energy-Harvesting) affronta sfide significative a causa della natura intermittente e stocastica dell'arrivo di energia. A differenza dei dispositivi edge convenzionali con alimentazione stabile, i dispositivi EH si affidano a fonti di energia ambientale, il che porta a una disponibilità energetica variabile nel tempo. Ciò introduce un duplice livello di casualità:

1. Partecipazione Instabile: I dispositivi potrebbero non avere energia sufficiente per il calcolo locale o la trasmissione uplink in un determinato round, portando a un sottoinsieme stocastico di dispositivi partecipanti.
2. Instabilità della Convergenza: Negli algoritmi FL standard come FedAvg, la partecipazione parziale introduce variabilità negli aggiornamenti aggregati, spesso risultando in un errore residuo (error floor) non nullo e in un comportamento di convergenza instabile. Questo problema è esacerbato nei sistemi EH, dove i vincoli energetici limitano ulteriormente la coerenza della partecipazione dei dispositivi.

Sebbene lavori precedenti abbiano affrontato la selezione dei dispositivi consapevole dell'energia e i protocolli efficienti, l'impatto combinato dei vincoli EH, della partecipazione consapevole dell'energia e della riduzione della varianza lato server basata sulla memoria non è stato studiato all'interno di un quadro unificato.

Metodologia: EH-FedSAG
Il documento propone EH-FedSAG, un metodo di FL con riduzione della varianza basato sulla memoria del server, adattato per gli ambienti EH. Il sistema opera sotto un modello EH basato su slot in cui:

• Dinamiche Energetiche: I dispositivi seguono un paradigma "raccolta-accumulo-utilizzo" con capacità di batteria finita. L'arrivo di energia è modellato come processi di Bernoulli i.i.d.
• Vincoli di Fattibilità: Un dispositivo può partecipare solo se il livello della sua batteria in uno slot di partenza specifico ($s^*$) è sufficiente a coprire sia l'addestramento locale ($\Omega$ slot) che la trasmissione (1 slot).
• Selezione dei Dispositivi: Il server impiega una politica di selezione basata sull'età (age-based). Tra i dispositivi con energia sufficiente, vengono prioritizzati quelli che non sono stati selezionati di recente (maggiore "età di selezione") per garantire l'equità a lungo termine. Un massimo di $M$ dispositivi può essere pianificato per round a causa dei limiti dei canali ortogonali.

Nucleo Algoritmico:
EH-FedSAG integra il principio SAGA (Stochastic Average Gradient Algorithm) nel protocollo EH-FL:

1. Aggiornamento Locale: I dispositivi selezionati eseguono $B$ passi di Stochastic Gradient Descent (SGD) locale e trasmettono la differenza del modello $\delta_t^{(k)} = w_t - w_{t,B}^{(k)}$.
2. Memoria del Server: Il server mantiene un vettore di memoria $m_t^{(k)}$ per ogni dispositivo $k$, memorizzando l'aggiornamento ricevuto più di recente.
3. Riduzione della Varianza: Invece di una semplice media, il server calcola una direzione a varianza ridotta $v_t$ combinando la media di tutte le memorie memorizzate con i nuovi aggiornamenti dai dispositivi attualmente attivi:
   $$v_t = \bar{m}_t + \frac{1}{|P_t|} \sum_{k \in P_t} (\delta_t^{(k)} - m_t^{(k)})$$
   dove $\bar{m}_t$ è la media di tutte le memorie memorizzate.
4. Aggiornamento Globale: Il modello globale viene aggiornato utilizzando questa direzione a varianza ridotta. Se nessun dispositivo partecipa, il modello rimane invariato.

Contributi Chiave

1. Quadro Unificato: Gli autori propongono un framework EH-FL consapevole dell'energia che modella esplicitamente la dinamica della batteria a livello di slot, impone vincoli di partecipazione per round basati sulla fattibilità energetica e impiega un meccanismo di selezione dei dispositivi basato sull'età.
2. Sviluppo dell'Algoritmo: Sviluppano EH-FedSAG, una variante di EH-FedAvg basata sulla memoria che sfrutta la memoria lato server per mitigare la varianza causata dalla disponibilità variabile dei dispositivi e dalla partecipazione parziale.
3. Caratterizzazione Empirica: Il documento caratterizza la relazione tra l'accuratezza del test e i round di addestramento sotto diverse probabilità di arrivo dell'energia ($P_h$) e eterogeneità dei dati (controllata dal parametro di Dirichlet $\alpha$) attraverso due architetture di rete (SmallCNN e SmallResNet).

Risultati Sperimentali
Il metodo proposto è stato valutato rispetto a un baseline vanilla EH-FedAvg utilizzando la classificazione di immagini CIFAR-10 con $K=100$ dispositivi e $M=25$ canali per 1.000 round.

• Prestazioni sotto Scarsità Energetica: Sotto basse probabilità di arrivo dell'energia ($P_h = 0.02$), EH-FedAvg ha mostrato oscillazioni significative. EH-FedSAG ha raggiunto un'accuratezza di test circa il 3% superiore e ha dimostrato una maggiore robustezza alle fluttuazioni indotte dalla partecipazione.
• Riduzione della Varianza: EH-FedSAG ha costantemente ottenuto una varianza dell'accuratezza nelle fasi avanzate sostanzialmente inferiore rispetto a EH-FedAvg. Ad esempio, a $P_h = 0.06$, la varianza è stata ridotta da 0.9401 (FedAvg) a 0.0421 (FedSAG).
• Velocità di Convergenza: EH-FedSAG ha raggiunto una soglia di accuratezza del test del 50% circa il 26% più velocemente rispetto a EH-FedAvg nello scenario $P_h = 0.06$.
• Dati Non-I.I.D.: Sotto distribuzioni di dati eterogenee (basso $\alpha$), EH-FedAvg ha subito bruschi cali di accuratezza a causa della natura non rappresentativa del sottoinsieme attivo. EH-FedSAG ha mantenuto una traiettoria più fluida sfruttando le informazioni memorizzate dai dispositivi precedentemente attivi, disaccoppiando efficacementamente l'aggiornamento globale dall'insieme istantaneo dei dispositivi attivi.

Significatività e Rivendicazioni
Il documento afferma che l'incorporazione della riduzione della varianza lato server in EH-FL è una strategia efficace per migliorare la stabilità dell'addestramento. Il vantaggio principale di EH-FedSAG è più pronunciato quando la disponibilità di energia è scarsa e le distribuzioni dei dati sono non-indipendenti e identicamente distribuite (non-i.i.d.). Compensando gli aggiornamenti mancanti dei dispositivi non disponibili tramite le memorie memorizzate, l'algoritmo produce prestazioni del modello più coerenti e prevedibili attraverso i round di comunicazione. Ciò è particolarmente benefico per le implementazioni IoT a bassa potenza dove la partecipazione intermittente e i budget di comunicazione limitati rendono l'arresto anticipato e le prestazioni stabili altamente desiderabili.

Gli autori osservano che il lavoro futuro potrebbe estendere questo framework ai link wireless inaffidabili, all'analisi teorica della convergenza sotto vincoli EH e ai sistemi con dispositivi computazionalmente eterogenei.