Realization of a Fully Connected Neural Layer Over-the-Air through Multi-hop Amplify-and-Forward Relays

Título e Contexto

O artigo propõe uma solução para a implementação de uma camada totalmente conectada (Fully Connected - FC) de uma rede neural artificial utilizando computação via ar (Over-the-Air - OTA). A inovação central reside no uso de um sistema de relés de múltiplos saltos (multi-hop) com estratégia Amplify-and-Forward (AF) (Amplificar e Reenviar) para superar limitações de distância e perda de sinal, permitindo que o canal sem fio realize as operações de multiplicação e acumulação (MAC) necessárias para a inferência neural.

1. O Problema

Aplicações modernas de borda (como AR/VR, sistemas autônomos e IoT massiva) exigem inferência com latência de milissegundos e orçamentos de energia rigorosos. A inferência digital na nuvem introduz latência e alto consumo energético devido a operações de matriz pesadas.

• Desafio Específico: Implementar camadas neurais via OTA em cenários onde o link direto entre o Transmissor (BS) e o Receptor (Rx) é bloqueado ou possui classificação de canal deficiente (rank-deficient), comum em bandas de ondas milimétricas.
• Limitação de Soluções Anteriores: Abordagens anteriores usavam superfícies inteligentes reconfiguráveis (RIS) ou links diretos, mas o uso de múltiplos RISs é caro e complexo de manter. O uso de relés AF em múltiplos saltos para redes neurais ainda não havia sido explorado.

2. Metodologia e Modelo de Sistema

O sistema proposto consiste em:

• Transmissor (BS): Antenas múltiplas ($N_t$).
• Receptor (Rx): Antenas múltiplas ($N_r$).
• Relés: $K$ dispositivos de relé de antena única, organizados em $L$ grupos em série (cascata).
• Canal: Inclui links entre BS-Relé, Relé-Relé e Relé-Rx, além de um link direto opcional (BS-Rx).

Funcionamento:

1. O BS precodifica o sinal de entrada $x$.
2. Os relés recebem o sinal, amplificam-no com um ganho complexo ($a_{l,k}$) e o reenviam para o próximo grupo (TDMA).
3. O Rx combina os sinais recebidos.
4. O objetivo é que a relação entrada-saída do sistema físico ($y = F_2 H_{eff} F_1 x + \text{ruído}$) imite a operação de uma camada neural digital ($y = Wx + b$), onde $W$ é a matriz de pesos desejada.

Otimização Proposta:
Os autores formulam um problema de otimização para minimizar o erro de imitação (diferença entre o canal efetivo e a matriz de pesos $W$) e a propagação de ruído, sujeito a restrições de potência no transmissor e em cada relé.

• Algoritmo: Utiliza-se uma Otimização Alternada (AO - Alternating Optimization). O algoritmo itera entre três blocos até a convergência:
  1. Precodificador do BS ($F_1$): Otimizado para alinhar o sinal com a matriz alvo.
  2. Combinador do Rx ($F_2$): Otimizado para minimizar o erro de imitação e o ruído.
  3. Ganhos dos Relés ($A_l$): Otimizados para cada grupo de relés, utilizando uma formulação de mínimos quadrados com regularização "consciente de ruído" (noise-aware) para evitar ganhos explosivos e projetar a potência por relé.

3. Contribuições Principais

• Primeira Implementação Multi-hop: É a primeira proposta a utilizar relés AF de múltiplos saltos para implementar camadas de redes neurais via OTA, superando a necessidade de links diretos ou múltiplos RISs.
• Melhoria de Rank do Canal: Demonstra que os relés podem melhorar o rank (classificação) do canal efetivo, permitindo a implementação de matrizes de pesos de posto completo mesmo em canais com desvanecimento severo.
• Framework de Otimização Robusto: Desenvolvimento de um algoritmo AO que lida com restrições de potência individuais dos relés e minimiza a acumulação de ruído através dos saltos.
• Análise de Escalabilidade: Estudo detalhado de como a distância, o número de saltos e a potência dos relés afetam a precisão da imitação.

4. Resultados Numéricos

As simulações foram realizadas utilizando o conjunto de dados Fashion-MNIST e um cenário de "Canyon Urbano" (3GPP UMi) com frequência de 28 GHz.

• Precisão de Classificação: O sistema alcança uma precisão de classificação quase perfeita, muito próxima da linha de base digital (84.5%).
• Impacto do Número de Saltos ($L$):
  • Em áreas pequenas (100m), até 1 salto já é suficiente para alta precisão.
  • Em áreas maiores (200m), múltiplos saltos são essenciais. $L=1$ (um grupo de relés) apresenta baixa precisão devido à grande distância e ruído. $L=2$ e $L=3$ melhoram significativamente a precisão ao reduzir a distância de cada salto e a acumulação de ruído.
  • Há retornos decrescentes: $L=3$ já atinge o limite de desempenho, e adicionar mais saltos não melhora significativamente a precisão, pois o ruído acumulado limita o ganho dos amplificadores.
• Potência dos Relés: A precisão é sensível à potência dos relés. Com potência baixa (0.01 W), a performance cai drasticamente e torna-se volátil. Com 1 W, a estabilidade é alta.
• Link Direto: A presença de um link direto BS-Rx melhora a performance apenas marginalmente (~1%), confirmando que a maior parte da capacidade de imitação vem do sistema de relés multi-hop.

5. Significado e Conclusão

O trabalho demonstra que a computação via ar em redes neurais é viável e robusta em cenários de comunicação complexos e de longo alcance, desde que se utilize uma arquitetura de relés multi-hop otimizada.

• Viabilidade: A técnica permite realizar inferência neural sem a necessidade de quantização, empacotamento e reconstrução de dados, economizando energia e largura de banda.
• Aplicabilidade: É particularmente útil em cenários onde o link direto é bloqueado ou em frequências de alta frequência (mmWave) onde o canal pode ser de posto deficiente.
• Futuro: O artigo sugere investigações futuras sobre erros de sincronização entre relés, eficiência energética, seleção ótima de relés e integração com colheita de energia (energy harvesting).

Em resumo, o artigo valida que a física do canal de rádio, quando controlada por algoritmos de otimização adequados, pode substituir a computação digital tradicional para operações específicas de redes neurais, oferecendo uma alternativa promissora para a computação de borda de ultra-baixa latência.