LightAMCNet: An Under-70k-Parameter Lightweight Automatic Modulation Recognition Network for Edge Spectrum Intelligence

Resumen Técnico: LightAMCNet

Declaración del Problema

La Clasificación Automática de Modulación (AMC) es un habilitador crítico para la radio cognitiva, el monitoreo del espectro y la inteligencia de espectro en el borde para las redes móviles de próxima generación. Si bien los métodos de AMC basados en aprendizaje profundo han logrado un alto rendimiento de reconocimiento, muchos modelos existentes dependen de arquitecturas complejas que contienen cientos de miles o millones de parámetros entrenables. Estos modelos suelen incorporar mecanismos de atención, capas de Memoria a Largo Corto Plazo (LSTM), procesamiento de tiempo-frecuencia de múltiples ramas o componentes especializados como módulos de compresión y excitación (squeeze-and-excitation). Tal complejidad aumenta la huella de memoria, la complejidad de implementación y los costos de inferencia, lo que los hace inadecuados para nodos inalámbricos con recursos limitados, plataformas no tripuladas y dispositivos de radio definida por software. Además, los métodos "ligeros" existentes a menudo siguen superando los 100k parámetros o requieren operaciones especializadas que complican el despliegue en el borde.

Metodología

El artículo propone LightAMCNet, una red neuronal convolucional unidimensional compacta diseñada para operar con menos de 70,000 parámetros (específicamente 68.9k). La arquitectura se basa en un "backbone de convolución temporal puro" y evita deliberadamente varios patrones de diseño comunes de aprendizaje profundo para asegurar la simplicidad y la capacidad de despliegue.

Opciones Arquitectónicas Principales

1. Convolución Temporal Pura: La red procesa secuencias directas de fase/cuadratura (I/Q) en el dominio del tiempo. Evita las ramas de dominio de la frecuencia (por ejemplo, transformadas de Fourier, transformadas de Fourier de tiempo corto) y el gating de dominio de la frecuencia.
2. Bloques de Construcción Simplificados: El componente central es el Bloque Temporal Plano (PTB), un bloque residual que:
   • Utiliza convoluciones 1D estándar (tamaños de núcleo 5 y 3) en lugar de convoluciones separables en profundidad o agrupadas.
   • Excluye mecanismos de atención de canal (por ejemplo, SE, ECA, CBAM) y módulos de autoatención.
   • Evita los bloques residuales invertidos (MBConv) y los mecanismos de expansión de canales.
3. Estructura de la Red:
   • Stem (Tallo): Una única convolución 1D (tamaño de núcleo 7) que mapea la entrada de 2 canales I/Q a los canales de características iniciales.
   • Backbone (Base): Cuatro etapas de PTBs con dimensiones de canal que aumentan gradualmente ($[16, 24, 32, 48, 64] \times w$). El submuestreo con salto-2 (stride-2) reduce la resolución temporal de 128 a 16 muestras.
   • Head (Cabeza): Una capa de doble agrupación (agrupación promedio adaptativa y máxima en paralelo) seguida de un clasificador de dos capas con activación SiLU y dropout.
4. Escalabilidad: Un multiplicador de ancho ($w \in \{0.5, 0.75, 1.0, 1.5\}$) permite intercambiar precisión por tamaño del modelo. La configuración por defecto utiliza $w=1.0$.

Contribuciones Clave

• Desarrollo del Modelo: Introducción de LightAMCNet, un modelo de AMC con solo 68.9k parámetros entrenables, significativamente más pequeño que las líneas base como MCLDNN (406.5k) y SCNN (104.1k).
• Validación del Rendimiento: Demostración de que una arquitectura de convolución temporal plana cuidadosamente configurada puede lograr una precisión competitiva en los estándares de referencia (RadioML 2016.10a y 2016.10b) sin componentes complejos.
• Análisis de Ablación: Evaluación sistemática del multiplicador de ancho y la tasa de dropout para caracterizar el intercambio entre precisión y eficiencia.
• Métricas de Eficiencia: Evaluación exhaustiva del costo computacional, incluyendo parámetros, operaciones de multiplicación-acumulación (MACs), latencia y rendimiento de lote (throughput).

Resultados Experimentales

Los experimentos se realizaron en los conjuntos de datos RadioML 2016.10a y RadioML 2016.10b utilizando una GPU NVIDIA RTX 4070 SUPER.

• Precisión:
  • RadioML 2016.10a: LightAMCNet logró un 61.92% de precisión, superando a MCLDNN (58.54%) por 3.38 puntos porcentuales mientras utiliza solo el 16.9% de los parámetros de MCLDNN.
  • RadioML 2016.10b: LightAMCNet logró un 64.56% de precisión, superando ligeramente a MCLDNN (64.28%).
  • Comparación: Tanto LightAMCNet como MCLDNN superaron significativamente a la línea base SCNN (53.35% y 53.84%, respectivamente).
• Eficiencia:
  • Rendimiento (Throughput): LightAMCNet logró un rendimiento de inferencia por lote de aproximadamente 198,000 inferencias por segundo (tamaño de lote 256), aproximadamente tres veces el de MCLDNN (65.2k).
  • Latencia: La latencia de muestra única fue de 1.23 ms, comparable a MCLDNN (1.33 ms) y ligeramente superior a SCNN (0.26 ms).
  • Memoria: Los 68.9k parámetros requieren aproximadamente 276 KB de almacenamiento (float de 32 bits), comparado con los 1.63 MB de MCLDNN.
• Hallazgos de Ablación:
  • La precisión se saturó alrededor de un multiplicador de ancho de $w=1.0$; aumentar a $w=1.5$ no produjo mejoras y excedió el presupuesto de 100k parámetros.
  • Incluso con $w=0.5$ (20.2k parámetros), el modelo mantuvo un 61.24% de precisión en 2016.10a.
  • Una tasa de dropout de 0.15 proporcionó un equilibrio estable, aunque un valor de 0.05 arrojó una precisión ligeramente mayor en 2016.10b.

Significancia y Reivindicaciones

El artículo postula que las convoluciones temporales planas cuidadosamente diseñadas pueden proporcionar un intercambio favorable entre precisión y eficiencia para la AMC en tiempo real en sistemas inalámbricos de borde. La significancia de LightAMCNet radica en su capacidad para:

1. Democratizar el Despliegue en el Borde: Al reducir el recuento de parámetros a menos de 70k, el modelo es adecuado para el almacenamiento y la ejecución en nodos inalámbricos de baja potencia y aceleradores embebidos donde la memoria y el cómputo son limitados.
2. Simplificar la Implementación: Al evitar operaciones especializadas (atención, transformadas de frecuencia, convoluciones separables en profundidad), la arquitectura es más fácil de implementar, reproducir y optimizar (por ejemplo, mediante cuantización) en hardware.
3. Validar la Simplicidad: Los resultados desafían la suposición de que las arquitecturas complejas, de múltiples ramas o con mucha atención, son estrictamente necesarias para un alto rendimiento de AMC, sugiriendo que la profundidad temporal suficiente y las estrategias de doble agrupación son más críticas para la representación de la señal I/Q en este contexto.

Los autores reconocen las limitaciones, señalando que las evaluaciones se realizaron en una GPU de escritorio en lugar de microcontroladores o FPGAs, y que el modelo actualmente aborda la clasificación de etiqueta única sin manejar señales superpuestas. Se propone trabajo futuro para explorar la destilación de conocimiento, el entrenamiento consciente de la cuantización y el despliegue en hardware inalámbrico embebido real.