Resumo Técnico: Particionamento Adaptativo e Offloading de DNNs em Continuum Heterogêneo Edge-Cloud

Declaração do Problema

A proliferação de dispositivos da Internet das Coisas (IoT) gerou volumes massivos de dados que exigem processamento sofisticado por meio de Redes Neurais Profundas (DNNs). Embora a execução centralizada na nuvem ofereça poder computacional, ela introduz latência proibitiva, restrições de largura de banda e riscos de privacidade para aplicações de IoT em tempo real. Por outro lado, executar DNNs inteiramente em dispositivos de borda com recursos limitados frequentemente leva a alto consumo de energia e tempos de inferência lentos.

As soluções existentes para distribuir a inferência através do continuum edge-cloud geralmente dependem de estratégias de particionamento estático. Essas abordagens definem pontos de divisão fixos para as camadas da rede neural antes da implantação, falhando em se adaptar a dinâmicas de tempo de execução, como flutuações na largura de banda da rede, mobilidade de nós ou cargas computacionais variáveis. Além disso, existe uma lacuna significativa na literatura: a maioria dos frameworks propostos é avaliada em ambientes simulados que assumem condições ideais de rede, com poucos validados em hardware físico. Adicionalmente, muitos estudos do mundo real focam principalmente na latência ou no tempo de conclusão da tarefa, frequentemente negligenciando o consumo de energia como um objetivo primário de otimização.

Metodologia

Os autores propõem um framework adaptativo de particionamento e offloading projetado para dividir dinamicamente as cargas de trabalho de inferência de DNNs através de um continuum heterogêneo de três camadas (Borda, Névoa e Nuvem) para minimizar o consumo de energia, enquanto adere a restrições estritas de latência.

Arquitetura do Sistema

O framework opera em um banco de testes físico consistindo de:

• Borda: Raspberry Pi 4 (recursos limitados).
• Névoa: Laptop (Intel Core i7).
• Nuvem: Desktop de alto desempenho (GPU NVIDIA RTX 4070 Ti).

A arquitetura permite esquemas de particionamento onde $i$ camadas são executadas na borda, as camadas $i+1$ a $j$ são executadas na névoa, e as camadas $j+1$ a $N-1$ são executadas na nuvem.

Pipeline Algorítmico

O framework segue um pipeline de cinco estágios:

1. Perfilamento Offline: Antes do tempo de execução, o sistema perfila o modelo para gerar duas tabelas de pesquisa:

   • Tabela de Tamanho de Ativação: Registra o tamanho dos tensores intermediários em cada fronteira de recurso para estimar custos de comunicação.
   • Tabela de Peso Computacional Relativo: Atribui frações normalizadas do trabalho total de inferência a cada camada com base em uma única execução, servindo como referência estável para escalonar medições de tempo de execução.

2. Sondagem de Enlace de Dois Pontos: Para estimar condições de rede sem sobrecarga pesada, o sistema transmite duas cargas úteis de tamanhos contrastantes ($s_1, s_2$) através dos saltos da rede. Ao calcular a média dos tempos de ida e volta, ele modela o enlace como $rtt(s) = \omega + s/\beta$, derivando a sobrecarga fixa ($\omega$) e a taxa de transferência efetiva ($\beta$).

3. Estimativa de Divisão Candidata: Para qualquer divisão candidata $(i, j)$, o sistema prevê a latência e a energia de ponta a ponta. A latência é a soma dos tempos de computação (derivados dos pesos perfilados e velocidades dos nós) e dos tempos de transferência (derivados dos modelos de enlace). A energia é estimada multiplicando os tempos de computação específicos do nó pelas taxas de potência empíricas.

4. Busca pelo Melhor Candidato: O sistema avalia todos os pares de divisão válidos. Os candidatos são filtrados para garantir que atendam ao prazo de latência ($L_{max}$) e não performem pior do que uma linha de base estática. A divisão ótima minimiza uma pontuação de objetivo ponderada:
   $$S(i, j) = w_{end}\frac{\hat{E}_{end}}{n_{end}} + w_{tot}\frac{\hat{E}_{tot}}{n_{tot}} + w_{lat}\frac{\hat{L}}{n_{lat}}$$
   onde os pesos priorizam o consumo de energia na borda (0,6–0,9) sobre a energia total do sistema e a latência.

5. Agendamento Adaptativo de Inferência Distribuída:

   • Inicialização: O sistema executa uma divisão de base e três divisões de "sonda" (pesada na borda, equilibrada, pesada na nuvem) para ajustar as taxas de computação por nó e os modelos de enlace.
   • Estado Estável: O sistema executa a divisão atual por uma janela de inferências. Periodicamente, ele reavalia o ambiente re-sondando os enlaces e reajustando as taxas. Se um novo candidato melhorar a pontuação do objetivo em pelo menos 3% (ou se o prazo de latência for violado), o sistema alterna para a nova partição. Se nenhum candidato melhor existir durante uma violação de prazo, ele retorna à linha de base estática.

Contribuições Principais

O artigo delineia três contribuições primárias:

1. Framework Adaptativo: Um framework inovador para inferência de DNN que particiona dinamicamente cargas de trabalho através de um continuum heterogêneo edge-cloud, priorizando a eficiência energética sem violar restrições de latência.
2. Banco de Testes Físico: A construção e utilização de um banco de testes funcional de três camadas (Raspberry Pi, Laptop, Desktop) para avaliar estratégias de offloading vertical em hardware real, abordando a dependência de simulações em trabalhos anteriores.
3. Avaliação Empírica: Experimentos abrangentes do mundo real usando três CNNs amplamente adotadas (VGG16, AlexNet, MobileNetV2), coletando métricas de energia e latência medidas em hardware através de configurações de dispositivo único, estáticas e adaptativas.

Resultados

O framework foi avaliado contra duas linhas de base: execução em dispositivo único e particionamento estático (distribuição de carga de trabalho igual fixa).

• Redução de Energia: O framework adaptativo alcançou economias significativas de energia em comparação com a linha de base estática:
  • VGG16: Redução de 35,82% (de 5,69 J para 3,65 J).
  • AlexNet: Redução de 35,70% (de 0,68 J para 0,43 J).
  • MobileNetV2: Redução de 27,09% (de 0,92 J para 0,67 J).
• Redução de Latência: A latência de ponta a ponta também foi reduzida:
  • VGG16: Redução de 6,34%.
  • AlexNet: Redução de 22,92%.
  • MobileNetV2: Redução de 14,20%.
• Observações: Para o MobileNetV2, o particionamento estático na verdade aumentou a latência em comparação com a execução em dispositivo único devido à sobrecarga de rede; o framework adaptativo mitigou isso com sucesso deslocando o ponto de divisão. Os resultados mostram consistentemente que as reduções de energia superam as reduções de latência, refletindo a ponderação de objetivos do framework.

Significado e Alegações

O artigo afirma que suas descobertas confirmam a superioridade do particionamento adaptativo sobre métodos estáticos em ambientes dinâmicos e heterogêneos. Ao validar a abordagem em hardware real em vez de simulação, o trabalho aborda uma lacuna crítica na literatura sobre o desempenho prático de estratégias de offloading.

Os autores afirmam que seu framework minimiza com sucesso o consumo de energia em dispositivos de borda com recursos limitados sem violar restrições de latência em tempo real. Diferentemente de abordagens baseadas em Aprendizado por Reforço (RL) ou arquiteturas complexas de inferência paralela, este framework depende de uma avaliação periódica e leve de uma única função de objetivo ponderada, tornando-o continuamente adaptativo a mudanças ambientais, como flutuações na largura de banda da rede e variações na carga dos nós. Os resultados são apresentados como comparáveis aos trabalhos mais avançados em redução de latência, mas com um foco distinto na eficiência energética, uma métrica frequentemente negligenciada em estudos existentes de edge-cloud heterogêneo.