EH-FedSAG: Variance-Reduced Federated Learning with Energy-Aware Participation in Energy-Harvesting IoT

Resumo Técnico de "EH-FedSAG: Aprendizado Federado com Redução de Variância e Sensibilidade à Energia em IoT com Colheita de Energia"

Definição do Problema
O Aprendizado Federado (FL) em redes de Colheita de Energia (EH - Energy-Harvesting) enfrenta desafios significativos devido à natureza intermitente e estocástica da chegada de energia. Ao contrário dos dispositivos de borda convencionais com energia estável, os dispositivos EH dependem de fontes de energia ambientais, o que leva a uma disponibilidade de energia variável no tempo. Isso introduz uma dupla camada de aleatoriedade:

1. Participação Instável: Os dispositivos podem carecer de energia suficiente para computação local ou transmissão de uplink em um determinado ciclo, levando a um subconjunto estocástico de dispositivos participantes.
2. Instabilidade de Convergência: Em algoritmos de FL padrão como o FedAvg, a participação parcial introduz variabilidade nas atualizações agregadas, resultando frequentemente em um erro residual não nulo e comportamento de convergência instável. Este problema é exacerbado em sistemas EH, onde as restrições de energia limitam ainda mais a consistência da participação dos dispositivos.

Embora trabalhos anteriores tenham abordado a seleção de dispositivos sensível à energia e protocolos eficientes, o impacto combinado das restrições de EH, da participação sensível à energia e da redução de variância baseada em memória no lado do servidor não foi estudado dentro de um framework unificado.

Metodologia: EH-FedSAG
O artigo propõe o EH-FedSAG, um método de FL com redução de variância baseado em memória do servidor, adaptado para ambientes EH. O sistema opera sob um modelo EH baseado em slots:

• Dinâmica de Energia: Os dispositivos seguem um paradigma de "colher-armazenar-usar" com capacidade de bateria finita. A chegada de energia é modelada como processos de Bernoulli i.i.d.
• Restrições de Viabilidade: Um dispositivo só pode participar se seu nível de bateria em um slot de início específico ($s^*$) for suficiente para cobrir tanto o treinamento local ($\Omega$ slots) quanto a transmissão (1 slot).
• Seleção de Dispositivos: O servidor emprega uma política de seleção baseada na idade. Entre os dispositivos com energia suficiente, aqueles que não foram selecionados recentemente (maior "idade de seleção") são priorizados para garantir a equidade (fairness) a longo prazo. Um máximo de $M$ dispositivos pode ser escalonado por rodada devido a limitações de canais ortogonais.

Núcleo Algorítmico:
O EH-FedSAG integra o princípio do SAGA (Stochastic Average Gradient Algorithm) ao protocolo EH-FL:

1. Atualização Local: Dispositivos selecionados realizam $B$ etapas de Gradiente Estocástico (SGD) local e transmitem a diferença do modelo $\delta_t^{(k)} = w_t - w_{t,B}^{(k)}$.
2. Memória do Servidor: O servidor mantém um vetor de memória $m_t^{(k)}$ para cada dispositivo $k$, armazenando a atualização recebida mais recentemente.
3. Redução de Variância: Em vez de uma média simples, o servidor calcula uma direção de variância reduzida $v_t$ combinando a média de todas as memórias armazenadas com as atualizações frescas dos dispositivos atualmente ativos:
   $$v_t = \bar{m}_t + \frac{1}{|P_t|} \sum_{k \in P_t} (\delta_t^{(k)} - m_t^{(k)})$$
   onde $\bar{m}_t$ é a média de todas as memórias armazenadas.
4. Atualização Global: O modelo global é atualizado usando esta direção de variância reduzida. Se nenhum dispositivo participar, o modelo permanece inalterado.

Principais Contribuições

1. Framework Unificado: Os autores propõem um framework de EH-FL sensível à energia que modela explicitamente a dinâmica de bateria em nível de slot, impõe restrições de participação por rodada baseadas na viabilidade de energia e emprega um mecanismo de seleção de dispositivos baseado na idade.
2. Desenvolvimento de Algoritmo: Eles desenvolvem o EH-FedSAG, uma variante baseada em memória do EH-FedAvg que aproveita a memória do lado do servidor para mitigar a variância causada pela disponibilidade variável de dispositivos e pela participação parcial.
3. Caracterização Empírica: O artigo caracteriza a relação entre a acurácia de teste e as rodadas de treinamento sob diferentes probabilidades de chegada de energia ($P_h$) e heterogeneidade de dados (controlada pelo parâmetro de Dirichlet $\alpha$) em duas arquiteturas de rede (SmallCNN e SmallResNet).

Resultos Experimentais
O método proposto foi avaliado contra um baseline EH-FedAvg utilizando classificação de imagens CIFAR-10 com $K=100$ dispositivos e $M=25$ canais ao longo de 1.000 rodadas.

• Desempenho sob Escassez de Energia: Sob baixas probabilidades de chegada de energia ($P_h = 0,02$), o EH-FedAvg exibiu oscilações significativas. O EH-FedSAG alcançou aproximadamente 3% de acurácia de teste superior e demonstrou maior robustez às flutuações induzidas pela participação.
• Redução de Variância: O EH-FedSAG alcançou consistentemente uma variância de acurácia de estágio tardio substancialmente menor em comparação ao EH-FedAvg. Por exemplo, em $P_h = 0,06$, a variância foi reduzida de 0,9401 (FedAvg) para 0,0420 (FedSAG).
• Velocidade de Convergência: O EH-FedSAG atingiu o limiar de 50% de acurácia de teste aproximadamente 26% mais rápido que o EH-FedAvg no cenário de $P_h = 0,06$.
• Dados Não-I.I.D.: Sob distribuições de dados heterogêneas (baixo $\alpha$), o EH-FedAvg sofreu quedas bruscas de acurácia devido à natureza não representativa do subconjunto ativo. O EH-FedSAG manteve uma trajetória mais suave ao aproveitar informações armazenadas de dispositivos anteriormente ativos, efetivamente desacoplando a atualização global do conjunto instantâneo de dispositivos ativos.

Significância e Alegações
O artigo afirma que incorporar a redução de variância no lado do servidor no EH-FL é uma estratégia eficaz para aumentar a estabilidade do treinamento. A principal vantagem do EH-FedSAG é mais pronunciada quando a disponibilidade de energia é escassa e as distribuições de dados não são independentes e identicamente distribuídas (não-i.i.d.). Ao compensar as atualizações ausentes de dispositivos indisponíveis usando memórias armazenadas, o algoritmo produz um desempenho de modelo mais consistente e previsível através das rodadas de comunicação. Isso é particularmente benéfico para implantações de IoT de baixa potência, onde a participação intermitente e orçamentos de comunicação limitados tornam a interrupção precoce e o desempenho estável altamente desejáveis.

Os autores observam que trabalhos futuros poderiam estender este framework para links sem fio não confiáveis, análise de convergência teórica sob restrições de EH e sistemas com dispositivos computacionalmente heterogêneos.