Unified Complex-valued Neural Network: A Magnitude-Phase Computational Model for Event-Driven Neuromorphic Learning

Resumen Técnico: Red Neuronal de Valores Complejos Unificada (UCNN)

Planteamiento del Problema
El artículo aborda una tensión fundamental en los paradigmas de computación neuronal: las Redes Neuronales Artificiales (ANN) ofrecen representaciones de valores continuos de alta precisión pero carecen de un procesamiento temporal intrínseco impulsado por eventos, mientras que las Redes Neuronales de Impulsos (SNN) proporcionan una computación asíncrona y dirigida por eventos eficiente, pero a menudo sacrifican la representación de señales graduadas mediante la codificación de impulsos binarios. Las arquitecturas híbridas existentes intentan cerrar esta brecha, pero frecuentemente dependen de módulos separados, redes paralelizadas o mecanismos de sincronización complejos, lo que introduce una sobrecarga de diseño y limita el acoplamiento estrecho entre el contexto estático y la información temporal dinámica. Además, las SNN puras tienen dificultades con el aprendizaje estable para tareas de sistemas dinámicos robustos debido a la reducción de la información a eventos binarios.

Metodología
Los autores proponen la Red Neuronal de Valores Complejos Unificada (UCNN), construida sobre un nuevo modelo de neurona llamado Neurona de Valores Complejos Unificada (UCN).

• Arquitectura de la Neurona: La UCN utiliza un estado interno de valores complejos asimétrico, $z(t) = r(t)e^{i\theta(t)}$.

  • Magnitud ($r$): Codifica la fuerza de la señal continua utilizando una función tangente hiperbólica rectificada de la pre-activación. Este canal proporciona una activación continua y acotada similar a las ANN.
  • Fase ($\theta$): Actúa como una variable de tiempo interna gobernada por la dinámica de primer orden de fuga y excitación (análoga a una neurona de Integración y Disparo con Fuga o Leaky Integrate-and-Fire). La fase evoluciona continuamente y controla la emisión de eventos. Cuando la fase cruza un umbral (por ejemplo, $2\pi$), se genera un impulso (spike).
  • Salida: La neurona emite un "evento con valor" $y(t) = s(t) \cdot r(t)$, donde $s(t)$ es el indicador de impulso controlado por la fase. Esto desacopla el tiempo del evento (gobernado por la fase) de la amplitud de la señal (gobernada por la magnitud).
  • Mecanismos de Reinicio: El modelo soporta estrategias de reinicio duro (al cero), reinicio modular (restar el umbral) y reinicio suave (decaimiento) para gestionar la continuidad de la fase y la regularidad del disparo.

• Marcos de Entrenamiento:

  1. BP-BPTT Unificado: Una regla de entrenamiento fundamental que combina la Retropropagación (BP) para la vía de magnitud continua y la Retropropagación a través del Tiempo (BPTT) con gradientes sustitutos para la vía de fase gobernada por eventos. Esto permite la optimización de extremo a extremo tanto de la información de "qué" (magnitud) como de "cuándo" (fase).
  2. Aprendizaje de Fase Adaptativo Impulsado por Eventos (EAPL): Para reducir el costo computacional del despliegue temporal explícito requerido por la BPTT estándar, los autores introducen el EAPL. Este método reformula el aprendizaje como un proceso dinámico de tiempo hacia atrás utilizando un estado adjunto. Propaga la sensibilidad del error relevante para la tarea a través de la dinámica de fase sin necesidad de desplegar explícitamente todo el grafo computacional, reduciendo significativamente las operaciones del paso hacia atrás manteniendo la compatibilidad con la arquitectura UCNN.

Contribuciones Clave

1. Arquitectura Novedosa: Introducción de la UCNN, un modelo de eventos con valor de magnitud-fase que unifica la precisión de valores continuos con el tiempo de eventos dirigido por la fase en una única estructura computacional, eliminando la necesidad de módulos híbridos paralelos.
2. Regla de Aprendizaje Unificada: Desarrollo de un marco BP-BPTT que optimiza conjuntamente las vías de magnitud y fase, tratándolas como un grafo computacional unificado.
3. Algoritmo de Aprendizaje Eficiente: Propuesta de la regla EAPL, que utiliza la recursión de estilo adjunto para propagar la sensibilidad de la fase, reduciendo la carga computacional en comparación con el despliegue explícito.
4. Validación: Demostración de la eficacia del modelo en dos tareas distintas: seguimiento de objetos de modalidad mixta y la predicación de la dinámica no lineal caótica (atractor de Lorenz).

Resultados Experimentales
El artículo evalúa la UCNN frente a las ANN y SNN estándar en dos tareas:

• Seguimiento de Objetos (Objeto en Movimiento en Trayectoria Circular):

  • Rendimiento: La UCNN logró una precisión de seguimiento intermedia entre la de la ANN (máxima precisión, entrada densa) y la de la SNN (menor precisión, entrada binaria). Específicamente, la UCNN redujo significativamente el Error Cuadrático Medio (RMSE) y el error máximo de seguimiento en comparación con la SNN, manteniendo un perfil de error más estable y con menos fluctuaciones (jitter).
  • Actividad: La UCNN exhibió una dispersión intermedia: más dispersa que la ANN densa pero más activa que la SNN puramente de impulsos.
  • Trayectoria: La trayectoria de la UCNN siguió de cerca la verdad de campo (ground truth), superando a la SNN en la captura de desviaciones locales y en el mantenimiento de la consistencia.

• Predicción del Atractor de Lorenz:

  • Rendimiento: Al aprender la dinámica no lineal acoplada del sistema de Lorenz, la UCNN entrenada con EAPL logró la pérdida de entrenamiento más baja y el RMSE más pequeño en todos los componentes del estado ($x, y, z$) en comparación con las líneas base de ANN y SNN.
  • Estabilidad: La UCNN demostró una estabilidad superior, con la distribución de error más estrecha y el error máximo más bajo. Reconstruyó con éxito la geometría del atractor con una desviación mínima, mientras que la SNN mostró una distorsión significativa y la ANN mostró desviaciones moderadas.
  • Actividad: Similar a la tarea de seguimiento, la UCNN mantuvo la dispersión impulsada por eventos preservando un flujo de información más rico que la SNN.

Significancia y Afirmaciones
El artículo afirma que la UCNN logra cerrar la brecha entre la precisión de valores continuos y el procesamiento temporal dirigido por eventos. Al integrar la magnitud y la fase en un único estado de valores complejos asimétricos, el modelo elimina la sobrecarga arquitectónica de las redes híbridas tradicionales. Los autores sostienen que la UCNN proporciona un marco robusto y escalable para aplicaciones de computación neuromórfica y de IA en el borde (edge-AI), ofreciando un aprendizaje espaciotemporal preciso preservando al mismo tiempo la eficiencia energética y la dispersión de la computación dirigida por eventos. Los resultados sugieren que la formulación de magnitud-fase es efectiva no solo para tareas de percepción visual, sino también para el aprendizaje de sistemas dinámicos complejos y caóticos, posicionando a la UCNN como un modelo de computación neuronal general.