Resumo Técnico: APEX – Um Modelo de Fundação de Séries Temporais Nativo de Rede

Declaração do Problema

Falhas em pontos de acesso sem fio (AP) em ambientes empresariais frequentemente passam despercebidas até que os usuários experimentem perda de conectividade ou timeouts de DHCP. Embora os APs coletem telemetria rica e de múltiplas camadas (abrangendo DHCP, RF, interfaces e estado de uplink), exportar esses dados brutos para a nuvem acarreta custos significentes de largura de banda, privacidade e latência.

Os modelos de fundação de séries temporais (TSFMs) de uso geral existentes falham em transferir efetivamente para este domínio. A telemetria de rede exibe características distintas não encontradas em benchmarks públicos (ex: finanças ou meteorologia): os sinais são intermitentes (bursty), apresentam excesso de zeros durante a operação normal e exibem dependências complexas entre camadas e estruturas temporais específicas de protocolos. Consequentemente, modelos de uso geral apresentam desempenho inferior em tarefas específicas de rede, como a previsão de degradação de DHCP. Além disso, executar modelos grandes em hardware de borda com recursos limitados ou depender de inferência na nuvem introduz preocupações de latência e privacidade que dificultam a remediação proativa.

Metodologia

Arquitetura APEX

O APEX é um transformer de patches decodificador único projetado especificamente para telemetria de rede. Ele utiliza uma estratégia de pré-treinamento "nativa de rede" em um corpus de aproximadamente 100.000 séries temporais de AP provenientes de cerca de 4.500 redes de produção.

• Entrada: O modelo processa uma entrada multivariada de 10 canais. Isso inclui 5 métricas alvo que representam a cadeia causal do DHCP (contagem de clientes, taxa de oferta, razão de ACK, taxa de sucesso, latência) e 5 sinais exógenos (contagem de servidores, contagem de VLANs e agregados estatísticos de timeout/latência).
• Tokenização: As séries temporais de entrada são normalizadas por instância e particionadas em patches não sobrepostos de 16 passos.
• Mecanismo: O modelo emprega autoatenção causal para a predição autoregressiva do próximo patch. Utiliza camadas feed-forward SwiGLU para eficiência representacional e embeddings posicionais aprendidos.
• Variantes: Dois tamanhos de modelo são apresentados:
  • APEX-Large: 269 milhões de parâmetros, otimizado para ambientes de nuvem.
  • APEX-Edge: 10,5 milhões de parâmetros (26× menor), otimizado para implantação em hardware de borda da classe de AP (ex: ARM Cortex-A76).

Treinamento e Inferência

• Pré-treinamento: O modelo é treinado via predição do próximo patch usando perda MSE. O treinamento utiliza AdamW, escalonamento de taxa de aprendizado cosseno e precisão mista em 4× GPUs A10G.
• Estimativa de Incerteza: Em vez de treinar ensembles separados, o APEX emprega MC-dropout (Monte Carlo Dropout) na inferência. Ao manter o dropout ativo e realizar passagens estocásticas (forward passes) (ex: N=50), o modelo gera intervalos de predição (P5/P95) tanto para previsão quanto para detecção de anomalias, sem adicionar sobrecarga de parâmetros.
• Estratégia de Detecção de Anomalias: Um ground truth baseado em consenso é estabelecido onde um passo de tempo é rotulado como anômalo apenas se ≥3 métodos independentes (incluindo baselines estatísticos como VAR-Mahalanobis e outros modelos de fundação) sinalizarem o evento. Isso reduz falsos positivos e evita a necessidade de anotação manual dispendiosa.

Principais Contribuições

1. Pré-treinamento Nativo de Rede: O artigo demonstra que o pré-treinamento em telemetria de rede específica do domínio gera ganhos de desempenho significativos em relação aos modelos de uso geral. O APEX-Large reduz o Erro Médio Absoluto (MAE) em 18% comparado ao baseline de uso geral mais forte (Toto) e em 38% comparado ao SARIMA em um benchmark de degradação de DHCP de 192 passos (4 dias).
2. Previsão e Detecção de Anomalias Unificadas: Um único checkpoint fornece tanto previsões pontuais quanto intervalos de incerteza calibrados via MC-dropout. Isso alcança um F1 de detecção de anomalia de 0,93, competitivo com métodos estatísticos especializados (VAR-Mahalanobis em 0,94) enquanto elimina a necessidade de um pipeline de detecção separado.
3. Eficiência Implantável na Borda: O APEX-Edge (10,5 milhões de parâmetros) atinge precisão comparável a modelos de uso geral muito maiores (igualando o MAE de 3,64 do Toto com 3,87) enquanto executa em 202 ms em hardware ARM da classe de AP. Isso permite inferência sub-segundo e preservação de privacidade inteiramente no dispositivo.

Resultados Experimentais

• Precisão de Previsão: No horizonte de 192 passos, o APEX-Large (multivariado) alcançou o menor erro em todas as métricas (MAE: 2,98, RMSE: 4,61). O modo multivariado superou significativamente o modo univariado, confirmando que modelar a cadeia causal entre canais é crítico.
• Detecção de Anomalias: O APEX-Large (MC-dropout) alcançou um F1 de 0,93, superando modelos de fundação de uso geral (Toto: 0,85, Chronos-2: 0,83) e aproximando-se do melhor baseline estatístico (VAR-Mahalanobis: 0,94).
• Desempenho na Borda: Um Raspberry Pi 5 (representativo de hardware de produção de AP) completou uma previsão de 96 passos em 202 ms com uso de memória de pico de 428 MB. Isso confirma a viabilidade para implantação sem dependência de nuvem.

Significância e Alegações

O artigo postula que o pré-treinamento nativo de rede é uma fundação prática para operações sem fio proativas. A principal significância reside em preencher a lacuna entre modelos de fundação de uso geral e as dinâmicas específicas e complexas da telemetria de rede.

Ao codificar priors de nível de protocolo diretamente no modelo, o APEX demonstra que a lacuna de desempenho entre TSFMs gerais e tarefas de rede é um efeito de dados, não um efeito arquitetural. O trabalho estabelece que um modelo compacto e implantável na borda pode substituir uma pilha complexa de serviços de previsão hospedados na nuvem, detectores de anomalias separados e pipelines de exportação de telemetria. Isso permite:

• Zero Dependência de Nuvem: As operações continuam durante interrupções de WAN.
• Privacidade de Dados: A telemetria bruta nunca deixa o dispositivo, satisfazendo requisitos regulatórios em saúde, finanças e governo.
• Latência de Ação Sub-segundo: O ciclo de detecção-para-remediação (previsão → flag de anomalia → ação local) completa-se dentro do intervalo de telemetria, permitindo a auto-recuperação em tempo real.

Os autores concluem que, embora a avaliação atual seja limitada à degradação de DHCP, a estrutura de entrada de cadeia causal se generaliza para outros domínios (RF, roaming), sugerindo potencial imediato para extensão cross-domain.