Attention-Enhanced Learning for Sensing-Assisted Long-Term Beam Tracking in mmWave Communications

Resumo Técnico: Aprendizado Aprimorado por Atenção para Rastreamento de Feixe de Longo Prazo Assistido por Sensoriamento em Comunicações mmWave

Declaração do Problema
Em comunicações de milimétricas (mmWave), o treinamento de feixe incorre em um overhead significativo de sinalização, latência e consumo de energia devido aos canais altamente variantes no tempo e à sensibilidade a bloqueios e mobilidade. Abordagens de sensoriamento assistido (ISAC) surgiram como uma solução utilizando modalidades como GNSS, LiDAR, radar e visão, mas as abordagens existentes enfrentam duas limitações primárias:

1. Complexidade: Fundir eficazmente características de múltiplas modalidades de sensoriamento frequentemente requer modelos de aprendizado de máquina (ML) de alta complexidade (ex: múltiplas arquiteturas Transformer), o que dificulta a implementação prática.
2. Escopo Temporal: A maioria dos trabalhos existentes foca em prever apenas o feixe atual com base em dados atuais ou passados. Isso necessita de inferência frequente em cada passo de tempo, mantendo um alto overhead. Embora a previsão de feixe de longo prazo (prevendo múltiplos slots futuros) possa aliviar isso, ela permanece amplamente inexplorada. Os métodos de previsão de longo prazo existentes geralmente dependem de LiDAR custoso ou exigem modelos grandes para processar imagens brutas.

Metodologia
Os autores propõem um framework de ML eficiente, de baixa complexidade e aprimorado por atenção para o rastreamento de feixe de longo prazo usando dados de visão. O sistema considera um cenário de downlink mmWave onde uma Estação Base (BS) equipada com um Array Linear Uniforme (ULA) e uma câmera RGB serve um Equipamento de Usuário (UE) móvel.

• Formulação do Problema: O problema de rastreamento de feixe é formulado como uma tarefa de classificação sequência-para-sequência. Dado um código de formação de feixe (codebook) $\mathcal{V}$ predefinido, o objetivo é prever os índices de feixe ideais para o slot de tempo atual $t$ e $J$ slots futuros ($t+1, \dots, t+J$) com base em uma sequência de imagens RGB passadas e atuais ($L$ passos de tempo). O objetivo é maximizar a eficiência espectral (ou a potência do sinal recebido em cenários de baixo SNR) sem exigir Informação de Estado de Canal (CSI).
• Arquitetura do Modelo: O modelo proposto consiste em três componentes principais:
  1. Pré-processamento de Imagem Eficiente e CNN: Em vez de usar modelos pré-treinados pesados como ResNet ou redes de detecção de objetos (ex: YOLOv4), os autores empregam uma CNN dedicada de cinco camadas. Esta rede utiliza módulos padrão do PyTorch (Conv2d, BatchNorm2d, ReLU, MaxPool2d) para extrair características espaciais compactas da sequência de imagens de entrada. A interferência de fundo é suprimida via subtração de quadros adjacentes e máscaras de movimento.
  2. Modelagem Temporal (GRU): Os vetores de características extraídos são alimentados em redes de Unidade Recorrente de Porta (GRU). As GRUs capturam dependências temporais passo a passo, atualizando estados ocultos para produzir um vetor de contexto que resume a sequência de entrada.
  3. Atenção Temporal (MHA): Um módulo de Atenção Multi-Cabeça (M|MHA) residual é integrado após a GRU. Este mecanismo permite que o modelo atenda a todas as posições na sequência simultaneamente, capturando dependências temporais globais que as GRUs podem perder (que focam mais em dependências locais). Isso melhora a capacidade do modelo de prever feixes para slots de tempo futuros distantes.
• Estratégia de Treinamento: O modelo é treinado usando uma função de perda focal (focal loss) para lidar com o desequilíbrio de classes na distribuição do índice do feixe (onde os feixes ideais são distribuídos de forma não uniforme). O treinamento minimiza a soma das perdas focais sobre os $J+1$ slots de tempo.

Principais Contribuições

1. Framework de Previsão de Longo Prazo: O artigo introduz um framework de aprendizado que resolve diretamente o problema de rastreamento de feixe de longo prazo, prevendo os feixes ideais para o tempo atual e seis slots futuros simultaneamente, em vez de desacoplar o problema em previsões de passo único.
2. Arquitetura de Baixa Complexidade: Ao substituir redes pré-treinadas pesadas por uma CNN customizada e leve, integrando GRUs com MHA, os autores alcançam um modelo com aproximadamente $1,8 \times 10^6$ parâmetros treináveis.
3. Mecanismo de Atenção para Dependências Temporais: A integração do módulo MHA visa especificamente a melhoria da precisão da previsão para slots de tempo futuros (ex: $t_5$), abordando a degradação do desempenho conforme o horizonte de previsão se estende.

Resultados Numéricos
O método proposto foi avaliado usando o conjunto de dados DeepSense 6G (Cenário 9), com $L=8$ imagens passadas e $J=6$ slots futuros.

• Acurácia: O modelo proposto com MHA alcançou uma acurácia de previsão de feixe Top-5 superior a 90% em ambos os slots atuais e futuros. Especificamente, atingiu 93,35% de acurácia Top-5 comparado a 92,31% sem MHA.
• Comparação com o Estado da Arte: O modelo alcançou 97% do desempenho do esquema otimal (e o esquema em [19]) em termos de Acurácia Baseada em Distância Média (ADBA), mas com apenas 3% da complexidade computacional (contagem de parâmetros).
• Impacto da Atenção: O módulo MHA proporcionou ganhos significativos para slots futuros distantes (ex: $t_5$). Comparado à arquitetura sem MHA, o modelo aprimorado pela atenção melhorou a acurácia Top-1 em 6,34 pontos percentuais e a acurácia Top-3 em 6,59 pontos percentuais em $t_5$.
• Eficiência: O design reduz significamente o overhead associado ao sensoriamento e processamento para o treinamento de feixe.

Significância e Alegações
O artigo afirma que o design aprimorado por atenção proposto oferece uma solução prática para o rastreamento de feixe de longo prazo em comunicações mmWave. Ao alavancar dados de visão e um modelo de ML de baixa complexidade, ele reduz significativamente o overhead de sinalização, latência e consumo de energia tipicamente associados ao treinamento de feixe frequente. Os autores afirmam que seu design alcança acurácia comparável a métodos de estado da arte enquanto reduz drasticamente os requisitos computacionais, tornando-o adequado para implementação prática.

Os autores observam modestamente que o design atual é limitado pelas restrições do conjunto de dados e pelos requisitos de baixa complexidade, o que pode afetar a generalização sob mudanças de domínio e a robustez em cenários de múltiplos usuários. Estes aspectos são identificados como sujeitos a estudos futuros, em vez de conquistas atuais.