Spiking Neural Networks for Radio Frequency Interference Detection in Radio Astronomy

Resumen Técnico: Redes Neuronales de Impulsos para la Detección de Interferencia de Radiofrecuencia en Radioastronomía

Planteamiento del Problema
La radioastronomía se enfrenta a un desafío crítico en la detección de Interferencia de Radiofrecuencia (RFI), donde señales no deseadas de origen terrestre o humano contaminan los datos observacionales. Los métodos de detección tradicionales suelen depender de algoritmos de suma acumulativa o modelos de aprendizaje automático basados en Redes Neuronales Convolucionales (CNN) y Vision Transformers. Aunque son efectivos, estos enfoques suelen tratar los espectrogramas como imágenes 2D estáticas, lo que requiere completar una observación completa antes de que pueda comenzar el procesamiento. Esta limitación exige el almacenamiento y procesamiento de vastas cantidades de datos en instalaciones de computación de alto rendimiento, muchas de las cuales están destinadas a ser marcadas como RFI y descartadas. El campo requiere métodos de detección adaptativos y basados en datos, capaces de operar en tiempo casi real con un consumo energético mínimo y requisitos reducidos de datos de entrenamiento.

Metodología
Los autores reformulan la detección de RFI como una tarea de segmentación de series temporales en lugar de un problema de segmentación semántica 2D. Este enfoque aprovecha la dinámica temporal inherente a las Redes Neuronales de Impulsos (SNN). La metodología central consiste en:

1. Representación de Datos: Los "visibilidades" de entrada (datos de valor complejo que varían en frecuencia, tiempo y línea base) se convierten en trenes de impulsos (spike trains). El estudio investiga siete métodos de codificación, incluyendo latencia, tasa (rate), modulación delta, exposición delta y tres variaciones de codificación de paso adelante (step-forward).
2. Arquitectura de la Red: Los autores emplean SNN de alimentación directa (feed-forward) utilizando neuronas de tipo Leaky Integrate and Fire (LiF) de primer y segundo orden. Las redes se entrenan utilizando Retropropagación a través del Tiempo (BPTT). Para gestionar las restricciones de memoria asociadas a los largos trenes de impulsos, los espectrogramas se dividen en parches de $32 \times 32$ píxeles.
3. Preprocesamiento por Normalización Divisiva: Se introduce un novedoso paso de preprocesamiento inspirado en la normalización divisiva de la neurociencia. Esta técnica resta una suma ponderada de los canales de frecuencia del paso de tiempo anterior al paso actual. Esto actúa como un núcleo (kernel) ligero que reduce los gradientes de fondo, aumenta la dispersión de los impulsos y mejora el contraste entre las características de la RFI y el ruido de fondo.
4. Entrenamiento y Optimización: Se llevó a cabo una optimización exhaustiva de hiperparámetros utilizando Optuna, variando la profundidad y anchura de la red, las tasas de decaimiento de las neuronas ($\beta$) y los tiempos de exposición. El estudio compara el rendimiento de las SNN frente a Redes Neuronales Artificiales (ANN) de tamaño idéntico y líneas base algorítmicas existentes.

Contribuciones Clave

• Reformulación de la Tarea: Este trabajo presenta la primera aplicación de las SNN a la detección de RFI formulada específicamente como un problema de segmentación de series temporales, lo que requiere que la red genere predicciones que abarquen la misma resolución temporal y espacial que la entrada.
• Normalización Divisiva: La introducción de un paso de preprocesamiento inspirado en la normalización divisiva que mejora universalmente el rendimiento de la detección en múltiples estrategias de codificación al aumentar la dispersión de los impulsos y el contraste de las características.
• Entrenamiento Directo con Datos Reales: Hasta donde los autores saben, este es el primer estudio que logra entrenar con éxito SNN desde cero utilizando datos reales de radioastronomía (del Low-Frequency Array, LOFA), yendo más allá de los enfoques previos de conversión de ANN a SNN.
• Análisis Exhaustivo de Codificación: Una evaluación sistemática de varios métodos de codificación de impulsos (latencia, exposición delta, paso adelante) y su interacción con los tipos de neuronas (LiF de primer frente a segundo orden) y las técnicas de preprocesamiento.

Resultados
El estudio evalúa el rendimiento en dos conjuntos de datos: un conjunto de datos sintético que simula el Hydrogen Epoch of Reionisation Array (HERA) y un conjunto de datos real del instrumento LOFAR.

• Conjunto de Datos Sintético (HERA): El enfoque de las SNN logró un rendimiento competitivo, cercano al estado del arte. Específicamente, la codificación por latencia con normalización divisiva produjo un AUROC de 0.968, un AUPRC de 0.914 y un F1-Score de 0.907. Estos resultados son comparables a los algoritmos tradicionales y a los métodos basados en ANN, a pesar de que las SNN tienen tamaños de modelo significativamente menores (por ejemplo, ~74k parámetros frente a ~800k de los modelos tipo UNet).
• Conjunto de Datos Real (LOFAR): El rendimiento en datos reales fue inferior al de los datos sintéticos, lo que refleja el aumento del ruido y la variabilidad de las observaciones del mundo real. Sin embargo, las SNN superaron a las ANN de tamaño equivalente. La mejor configuración de SNN (codificación directa Step-Forward con normalización divisiva) alcanzó un AUPRC de 0.693, superando los resultados previos de conversión de ANN a SNN.
• Tipos de Neuronas: Curiosamente, las neuronas LiF de primer orden funcionaron mejor en el conjunto de datos sintético, mientras que las neuronas LiF de segundo orden mostraron un mejor rendimiento relativo en el ruidoso conjunto de datos del mundo real, lo que sugiere que el modelo más complejo gestiona mejor el ruido del mundo real.
• Eficiencia: Estimaciones preliminares sugieren que el despliegue de este enfoque de segmentación de series temporales en hardware neuromórfico (por ejemplo, SynSense Xylo) podría lograr un consumo de energía en el rango de <50 mW por línea base, significativamente inferior a los requisitos de la computación de alto rendimiento convencional.

Significancia y Reivindicaciones
El artículo sostiene que las SNN ofrecen una vía viable hacia la detección de RFI eficiente y en tiempo real en la radioastronomía. Al reformular el problema como una segmentación de series temporales, los autores demuestran que las SNN pueden capturar patrones temporales complejos sin la carga computacional del procesamiento basado en imágenes 2D. El estudio destaca que, si bien persiste una brecha de rendimiento entre los resultados sintéticos y los del mundo real, el enfoque es prometedor para un despliegue futuro. Los autores posicionan este trabajo como un paso fundacional, sugiriendo que la integración de la computación neuromórfica en la radioastronomía podría proporcionar ventajas únicas en eficiencia energética y capacidades de procesamiento en tiempo real, transformando potencialmente la forma en que los campos científicos con datos intensivos manejan los datos de observación en flujo continuo. El artículo reconoce modestamente que son necesarios desarrollos adicionales en arquitectura (por ejemplo, LSTMs de impulsos, capacidades de eliminación de ruido) y estrategias de entrenamiento (por ejemplo, métodos autosupervisados) para cerrar la brecha con el rendimiento del estado del arte en datos del mundo real.