Spiking Neural Networks for Radio Frequency Interference Detection in Radio Astronomy

Resumo Técnico: Redes Neurais de Picos para Detecção de Interferência de Radiofrequência em Radioastronomia

Definição do Problema
A radioastronomia enfrenta um desafio crítico na detecção de Interferência de Radiofrequência (RFI), onde sinais indesejados terrestres ou de origem humana contaminam os dados observacionais. Os métodos de detecção tradicionais baseiam-se frequentemente em algoritmos de soma cumulativa ou modelos de aprendizado de máquina baseados em Redes Neurais Convolucionais (CNNs) e Vision Transformers. Embora eficazes, essas abordagens tipicamente tratam os espectrogramas como imagens 2D estáticas, exigindo a conclusão de toda uma observação antes que o processamento possa começar. Essa limitação exige o armazenamento e o processamento de vastas quantidades de dados em instalações de computação de alto desempenho, muitos dos quais serão marcados como RFI e descartados. O campo carece de métodos de detecção adaptativos e orientados a dados, capazes de operação em tempo quase real com consumo mínimo de energia e redução nos requisitos de dados de treinamento.

Metodologia
Os autores reformulam a detecção de RFI como uma tarefa de segmentação de séries temporais, em vez de um problema de segmentação semântica 2D. Esta abordagem aproveita a dinâmica temporal inerente às Redes Neurais de Picos (SNNs). A metodologia central envolve:

1. Representação de Dados: As "visibilidades" de entrada (dados de valor complexo que variam em frequência, tempo e linha de base) são convertidas em trens de picos. O estudo investiga sete métodos de codificação, incluindo latência, taxa, modulação delta, exposição delta e três variações de codificação step-forward.
2. Arquitetura da Rede: Os autores utilizam SNNs feed-forward utilizando neurônios Leaky Integrate and Fire (LiF) de primeira e segunda ordem. As redes são treinadas usando Retropropagação Através do Tempo (BPTT). Para gerenciar as restrições de memória associadas a trens de picos longos, os espectrogramas são fatiados em blocos (patches) de $32 \times 32$ pixels.
3. Pré-processamento por Normalização Divisiva: Um novo passo de pré-processamento inspirado na normalização divisiva da neurociência é introduzido. Esta técnica subtrai uma soma ponderada dos canais de frequência do passo de tempo anterior do passo atual. Isso atua como um núcleo (kernel) leve que reduz os gradientes de fundo, aumenta a esparsidade dos picos e melha o contraste entre as características da RFI e o ruído de fundo.
4. Treinamento e Otimização: Uma extensa otimização de hiperparâmetros foi realizada usando Optuna, variando profundidade, largura da rede, taxas de decaimento de neurônios ($\beta$) e tempos de exposição. O estudo compara o desempenho das SNNs contra ANNs (Redes Neurais Artificiais) de tamanho idêntico e bases algorítmicas existentes.

Principais Contribuições

• Reformulação da Tarefa: Este trabalho apresenta a primeira aplicação de SNNs à detecção de RFI formulada especificamente como um problema de segmentação de séries temporais, exigindo que a rede forneça previsões que abrangem a mesma resolução temporal e espacial que a entrada.
• Normalização Divisiva: A introdução de um passo de pré-processamento inspirado na normalização divisiva que melhora universalmente o desempenho de detecção através de múltiplas estratégias de codificação, aumentando a esparsidade de picos e o contraste de características.
• Treinamento Direto em Dados Reais: Tanto quanto aos autores sabem, este é o primeiro estudo a treinar com sucesso SNNs do zero em dados reais de radioastronomia (do Low-Frequency Array, LOFAR), indo além das abordagens anteriores de conversão de ANN para SNN.
• Análise Abrangente de Codificação: Uma avaliação sistemática de vários métodos de codificação de picos (latência, exposição delta, step-forward) e sua interação com tipos de neurônios (LiF de primeira vs. segunda ordem) e técnicas de pré-processamento.

Resultos
O estudo avalia o desempenho em dois conjuntos de dados: um conjunto sintético simulando o Hydrogen Epoch of Reionisation Array (HERA) e um conjunto real do instrumento LOFAR.

• Conjunto de Dados Sintético (HERA): A abordagem SNN alcançou um desempenho competitivo, próximo ao estado da arte. Especificamente, a codificação de latência com normalização divisiva rendeu um AUROC de 0,968, AUPRC de 0,914 e F1-Score de 0,907. Estes resultados são comparáveis aos algoritmos tradicionais e métodos baseados em ANN, apesar de as SNNs possuírem tamanhos de modelo significativamente menores (ex: ~74k parâmetros vs. ~800k para modelos do tipo UNet).
• Conjunto de Dados Real (LOFAR): O desempenho em dados reais foi inferior ao dos dados sintéticos, refletindo o aumento do ruído e da variabilidade das observações do mundo real. No entanto, as SNNs ainda superaram ANNs de tamanho equivalente. A melhor configuração de SNN (Codificação direta Step-Forward com normalização divisiva) alcançou um AUPRC de 0,693, superando resultados anteriores de conversão ANN-para-SNN.
• Tipos de Neurônios: Curiosamente, neurônios LiF de primeira ordem performaram melhor no conjunto de dados sintético, enquanto neurônios LiF de segunda ordem mostraram um melhor desempenho relativo no conjunto de dados ruidoso do mundo real, sugerindo que o modelo mais complexo lida melhor com o ruído real.
• Eficiência: Estimativas preliminares sugerem que o uso desta abordagem de segmentação de séries temporais em hardware neuromórfico (ex: SynSense Xylo) poderia alcançar um consumo de energia na faixa de <50 mW por linha de base, significativamente inferior aos requisitos convencionais de computação de alto desempenho.

Significância e Alegações
O artigo afirma que as SNNs oferecem um caminho viável para a detecção de RFI eficiente e em tempo real na radioastronomia. Ao reformular o problema como segmentação de séries temporais, os autores demonstram que as SNNs podem capturar padrões temporais complexos sem o custo computacional do processamento baseado em imagens 2D. O estudo destaca que, embora permaneça uma lacuna de desempenho entre os resultados sintéticos e os do mundo real, a abordagem é promissora para implantação futura. Os autores posicionam este trabalho como um passo fundamental, sugerindo que a integração da computação neuromórfica na radioastronomia pode fornecer vantagens únicas em eficiência energética e capacidades de processamento em tempo real, potencialmente transformando a forma como campos científicos intensivos em dados lidam com dados de observação em fluxo (streaming). O artigo reconhece modestamente que novos desenvolvimentos em arquitetura (ex: LSTMs de picos, capacidades de redução de ruído) e estratégias de treinamento (ex: métodos auto-supervisionados) são necessários para fechar a lacuna com o desempenho de estado da arte em dados do mundo real.