Photonic Extreme Learning Machines using Event-Based detection

Resumen Técnico: Máquinas de Aprendizaje Extremo Fotónicas mediante Detección Basada en Eventos

Planteamiento del Problema
Las Máquinas de Aprendizaje Extremo Fotónicas (PELM, por sus siglas en inglés) ofrecen una vía para la computación óptica escalable y de bajo consumo energético al utilizar la propagación óptica aleatoria, la no linealidad de detección y una lectura lineal entrenada para omitir el entrenamiento de la capa oculta. Sin embargo, las implementaciones convencionales de las PELM dependen de la detección de intensidad mediante cámaras CCD o CMOS. Este enfoque restringe la dimensionalidad del espacio de representación de la capa oculta, particularmente cuando el espacio de características de entrada es de baja dimensión. En tales casos, las capacidades intrínsecas de generalización de las PELM suelen estar limitadas por las propiedades de la detección de ley cuadrática y la necesidad de regularizaciones adicionales para filtrar el ruido, lo que efectivamente reduce el rango utilizable de la matriz de salida de la capa oculta. Existe la necesidad de mecanismos de lectura alternativos que puedan proporcionar representaciones ocultas más ricas y de mayor dimensión sin las restricciones de la respuesta de saturación estándar basada en la intensidad.

Metodología
Este trabajo propone y valida experimentalmente una arquitectura de Máquina de Aprendizaje Extremo Fotónica basada en eventos (EV-PELM). El sistema reemplaza la detección de intensidad convencional con una cámara basada en eventos (Sensor de Visión Dinámica, DVS).

• Configuración Óptica: Las características de entrada se codifican en el perfil de amplitud de un haz óptico utilizando un Dispositivo Digital de Microespejos (DMD). El haz se propaga a través de una fibra multimodo, que actúa como un medio complejo para implementar pesos lineales aleatorios y el sesgo mediante la generación de speckle.
• Detección Basada en Eventos: En lugar de medir la intensidad absoluta, la cámara basada en eventos detecta cambios en el logaritmo de la intensidad. Se registra un evento en un píxel cuando el cambio en el logaritmo de la intensidad excede un umbral ajustable $C$. El logaritmo de la intensidad por píxel se modela como $L(X) = \log(|\bar{w} \cdot E^{(in)}(X) + b|^2 + B)$.
• Representaciones Ocultas: El flujo de eventos bruto (direcciones de píxeles, marcas de tiempo, polaridades) se convierte en tres representaciones ocultas distintas por píxel ($\phi$):
  1. Tiempo del Primer Evento: La marca de tiempo del primer evento en cada píxel.
  2. Activación Binaria: Un indicador binario de si un píxel se activó durante la ventana de adquisición.
  3. Conteo de Eventos: El número total de eventos registrados por cada píxel.
• Lectura: Se aplica una capa de lectura lineal entrenada a estas representaciones utilizando regresión de Ridge o la pseudo-inversa de Moore-Penrose. La dimensionalidad efectiva del sistema se analiza escaneando el parámetro de regularización $\lambda$ y observando la dependencia de la dimensionalidad efectiva ($d_{eff}$) de los valores singulares de la matriz de salida de la capa oculta.

Contribuciones Clave

• Nuevo Paradigma de Detección: El artículo introduce el uso de cámaras basadas en eventos para generar respuestas de logaritmo de intensidad umbralizadas distintas como funciones de activación no lineales para las PELM, yendo más allá de la detección de intensidad estándar de ley cuadrática.
• Validación Experimental: Los autores demuestran experimentalmente la EV-PELM en dos tareas no lineales desafiantes: la clasificación de dos distribuciones de espiral y la regresión de una función sinc objetivo.
• Análisis de Dimensionalidad: El estudio relaciona el rendimiento de la EV-PELM con el aumento del rango utilizable de la matriz de salida de la capa oculta, estimado a través de la dependencia de la regularización y métricas de dimensionalidad efectiva.
• Evaluación de Ruido y Estabilidad: El trabajo evalúa la sensibilidad del sistema a la deriva sistemática de la intensidad óptica y sus capacidades de generalización bajo mediciones ruidosas repetidas.

Resultos

• Rendimiento de Clasificación: En la tarea de clasificación de espirales dobles no lineales, la EV-PELM alcanzó precisiones de 93 ± 3%. Los resultados demostraron fuertes capacidades de generalización intrínsecas.
• Dimensionalidad y Regularización: Se encontró que el rendimiento de las lecturas de regresión de Ridge y de la pseudo-inversa es comparable, lo que indica que el sistema opera en un régimen de dimensionalidad efectiva limitada por la muestra. El escaneo del parámetro de regularización $\lambda$ confirmó que el enfoque basado en eventos permite sondear la dimensionalidad utilizable de la representación oculta.
• Regresión y Estabilidad: Los resultados de la regresión revelaron una sensibilidad a la deriva sistemática de la intensidad óptica. Este hallazgo destaca los requisitos de estabilidad específicos para las futuras EV-PELM, particularmente en lo que respecta a la consistencia de la fuente óptica y los umbrales de detección.
• Generalización: El sistema mantuvo el rendimiento bajo mediciones ruidosas repetidas, aunque los límites de robustez específicos están ligados a la naturaleza de la detección de eventos (por ejemplo, eventos perdidos a altas tasas o eventos disparados por ruido).

Significancia y Reivindicaciones
El artículo afirma establecer la detección basada en eventos como una ruta viable hacia representaciones ocultas fotónicas más ricas para la computación neuromórfica. Al aprovechar la variación nativa del logaritmo de la intensidad umbralizada de las cámaras de eventos, la EV-PELM supera las limitaciones de dimensionalidad inherentes a las lecturas convencionales basadas en la intensidad.

Sin embargo, los autores mantienen un tono modesto respecto al estado actual de la tecnología. Aclaran que, si bien este enfoque ofrece el potencial para máquinas de mayor rendimiento, actualmente enfrenta limitaciones relacionadas con la deriva sistemática de la intensidad óptica y las no idealidades de los sensores de eventos (como la acumulación de carga y el ruido). El trabajo sirve tanto para demostrar el potencial de las EV-PELM como para definir los requisitos de estabilidad específicos necesarios para su desarrollo futuro en arquitecturas de computación óptica.