Nonlinear unitary circuits for photonic neural networks

Resumen Técnico: Circuitos Unitarios No Lineales para Redes Neuronales Fotónicas

Planteamiento del Problema
Si bien el hardware fotónico ofrece un potencial significativo para la aceleración del aprendizaje profundo de manera ultra rápida y con un consumo energético eficiente, un cuello de botella crítico sigue siendo la obtención de expresividad no lineal. Los enfoques fotónicos existentes suelen separar los cálculos de matrices ópticas lineales de las activaciones no lineales, recurriendo a la conversión electro-óptica, materiales codificados por señales o interacciones luz-materia que a menudo requieren un procesamiento de señales electrónicas sustancial. Los autores identifican la necesidad de una arquitectura fotónica que integre la expresividad lineal y no lineal dentro de un marco de preservación de la norma para evitar estos inconvenientes, cumpliendo al mismo tiempo con el estándar de las redes neuronales profundas (DNN) implementadas en software.

Metodología
El artículo propone el concepto de circuitos Unitarios No Lineales (NU) que utilizan la Modulación de Fase Autoinducida (SPM) mediante el efecto Kerr óptico para lograr mapeos que preservan la norma con productos internos no conservativos. La metodología se estructura de la siguiente manera:

1. Diseño de la Unidad NU(1): El bloque fundamental es un resonador fotónico integrado acoplado lateralmente a una guía de onda. Esta unidad logra una operación del grupo $U(1)$ (transmisión perfecta con desfase). La no linealidad se introduce mediante la perturbación de la frecuencia de resonancia ($\omega_0$) a través de dos mecanismos:

   • Desplazamiento Lineal ($\Delta\omega_L$): Ajustable mediante desplazadores de fase electro-ópticos o termo-ópticos para su programabilidad.
   • Desplazamiento No Lineal ($\Delta\omega_{NL}$): Derivado de la SPM, donde la resonancia se desplaza proporcionalmente a la intensidad de la luz incidente ($\Delta\omega_{NL} = -\alpha|\mu|^2$).
     El desfase resultante $\xi$ se convierte en una función no lineal de la intensidad de entrada $|\psi_+|^2$ y del desplazamiento lineal $\Delta\omega_L$, operando sin histéresis bajo condiciones de estado estacionario específicas.

2. Construcción de la Puerta NU(2): Para crear una puerta funcional, los autores construyen un Interferómetro de Mach-Zehnder (MZI) con una unidad NU(1) en cada brazo. Esta configuración realiza una operación de preservación de norma $U = R_z(\Delta\xi)R_x(-\pi/2)$, donde el ángulo de rotación $\Delta\xi$ depende del estado de entrada. Esto permite que la puerta ejecute operaciones unitarias no lineales donde los productos internos no se conservan entre diferentes estados de entrada, una característica clave para la expresividad del aprendizaje profundo.

3. Ensamblaje y Entrenamiento del Circuito: Los circuitos NU profundos se construyen mediante el cascado de puertas NU(2) (siguiendo los diseños de Reck o Clements). Los autores evalúan estos circuitos utilizando aprendizaje neuroevolutivo combinado con recocido simulado (simulated annealing) para abordar los mínimos locales en problemas de optimización no convexos. Los parámetros de entrenamiento incluyen desplazamientos lineales continuos y variables binarias.

Contribuciones Clave

• Marco Conceptual: Introducción de circuitos "Unitarios No Lineales" que unifican la expresividad lineal y no lineal dentro de una arquitectura fotónica compacta que preserva la norma.
• Diseño de Hardware: Propuesta de un bloque de construcción fotónico integrado específico (unidad NU(1)) y una puerta (NU(2)) que aprovechan la SPM para una no linealidad programable sin requerir modulación de intensidad con pérdida o bucles de retroalimentación electrónica.
• Validación Teórica: Demostración de que los circuitos NU profundos exhiben un crecimiento exponencial en la longitud de la trayectoria (complejidad) y una cobertura casi completa del espacio de salida a medida que aumenta la profundidad del circuito. Estas métricas son esenciales para la expresividad requerida en el aprendizaje profundo.
• Verificación del Desempeño: Regresión exitosa de una función Rastrigin 2D no convexa utilizando una DNN NU profunda, validando la capacidad del hardware para resolver problemas avanzados.

Resultados

• Métricas de Expresividad: Las simulaciones numéricas muestran que, mientras los circuitos unitarios lineales preservan la geometría de las trayectorias de entrada, los circuitos no lineales introducen una complejidad sustancial. La longitud de la trayectoria ($\mathcal{E}$) en la esfera de Bloch crece exponencialmente con la profundidad del circuito ($M$), una característica única de las DNN.
• Cobertura: A pesar de la introducción de la no linealidad, que puede causar la concentración de estados, los circuitos NU profundos logran una cobertura casi completa del espacio de salida (entropía normalizada $\mathcal{C} \approx 1$) para profundidades $M > 7$, comparable a los circuitos universales lineales.
• Tarea de Regresión: En la regresión de una función no convexa, los circuitos NU más profundos demostraron un desempeño superior (menor error cuadrático medio) en comparación con los más superficiales. Las redes entrenadas aproximaron con éxito la función objetivo, mientras que las redes no entrenadas fallaron en hacerlo, confirmando que la arquitectura soporta un aprendizaje efectivo.

Significancia y Reivindicaciones
Los autores afirman que este trabajo allana el camino para redes neuronales fotónicas con una inferencia altamente expresiva y un entrenamiento estable. Al aprovechar las operaciones de preservación de la norma, la plataforma propuesta hereda las ventajas de las redes neuronales unitarias, específicamente la mitigación de los problemas de explosión y desvanecimiento del gradiente comunes en el aprendizaje profundo. La integración de la expresividad lineal y no lineal en una arquitectura compacta y de bajo consumo aborda un desafío primordial en la computación fotónica profunda. El artículo posiciona este enfoque como un candidato de hardware prometedor tanto para redes neuronales de ondas clásicas como cuánticas, señalando que trabajos futuros abordarán las pérdidas intrínsecas, la eficiencia del entrenamiento y el potencial de uso de la histéresis para funciones de memoria.