Photonic Extreme Learning Machines using Event-Based detection

Sintesi Tecnica: Macchine di Apprendimento Estremo Fotoniche con Rilevamento Basato su Eventi

Problematica
Le Macchine di Apprendimento Estremo Fotoniche (PELM) offrono una via per il calcolo ottico efficiente dal punto di vista energetico e scalabile, utilizzando la propagazione ottica casuale, la non linearità del rilevamento e un readout lineare addestrato per bypassare l'addestramento dello strato nascosto. Tuttavia, le implementazioni convenzionali delle PELM si affidano al rilevamento dell'intensità tramite telecamere CCD o CMOS. Questo approccio limita la dimensionalità dello spazio di rappresentazione nascosta, in particolare quando lo spazio delle caratteristiche di input è a bassa dimensionalità. In tali casi, le capacità di generalizzazione intrinseche delle PELM sono spesso limitate dalle proprietà del rilevamento a legge quadratica e dalla necessità di regolarizzazioni aggiuntive per filtrare il rumore, il che riduce efficacemente il rango utilizzabile della matrice di output dello strato nascosto. Esiste la necessità di meccanismi di readout alternativi che possano fornire rappresentazioni nascoste più ricche e ad alta dimensionalità, senza i vincoli della risposta di saturazione standard basata sull'intensità.

Metodologia
Questo lavoro propone e valida sperimentalmente un'architettura di Macchina di Apprendimento Estremo Fotonica basata su eventi (EV-PELM). Il sistema sostituisce il convenzionale rilevamento dell'intensità con una telecamera basata su eventi asincroni (Dynamic Vision Sensor, DVS).

• Configurazione Ottica: Le caratteristiche di input sono codificate sul profilo di ampiezza di un fascio ottico utilizzando un Dispositivo Digitale a Microspecchi (DMD). Il fascio si propaga attraverso una fibra multimodo, che funge da mezzo complesso per implementare pesi lineari casuali e bias tramite la generazione di speckle.
• Rilevamento Basato su Eventi: Invece di misurare l'intensità assoluta, la telecamera basata su eventi rileva le variazioni nel logaritmo dell'intensità. Un evento viene registrato in un pixel quando la variazione nel logaritmo dell'intensità supera una soglia regolabile $C$. La log-intensità per pixel è modellata come $L(X) = \log(|\bar{w} \cdot E^{(in)}(X) + b|^2 + B)$.
• Rappresentazioni Nascoste: Il flusso di eventi grezzi (indirizzi dei pixel, timestamp, polarità) viene convertito in tre distinte rappresentazioni nascoste per pixel ($\phi$):
  1. Tempo del Primo Evento (First-Event Time): Il timestamp del primo evento in ogni pixel.
  2. Attivazione Binaria (Binary Activation): Un indicatore binario che segnala se un pixel è scattato durante la finestra di acquisizione.
  3. Conteggio degli Eventi (Event Count): Il numero totale di eventi registrati da ciascun pixel.
• Readout: Un livello di readout lineare addestrato viene applicato a queste rappresentazioni utilizzando la regressione ridge o la pseudo-inversa di Moore-Penrose. La dimensionalità effettiva del sistema viene analizzata scansionando il parametro di regolarizzazione $\lambda$ e osservando la dipendenza della dimensionalità effettiva ($d_{eff}$) dai valori singolari della matrice di output dello strato nascosto.

Contributi Chiave

• Nuovo Paradigma di Rilevamento: Il documento introduce l'uso di telecamere basate su eventi per generare risposte di log-intensità distinte e sogliate come funzioni di attivazione non lineari per le PELM, andando oltre il rilevamento standard dell'intensità a legge quadratica.
• Validazione Sperimentale: Gli autori dimostrano sperimentalmente l'EV-PELM su due compiti non lineari impegnativi: la classificazione di due distribuzioni a spirale e la regressione di una funzione sinc target.
• Analisi della Dimensionalità: Lo studio mette in relazione le prestazioni dell'EV-PELM con l'aumento del rango utilizzabile della matrice di output dello strato nascosto, stimato attraverso la dipendenza dalla regolarizzazione e metriche di dimensionalità effettiva.
• Valutazione di Rumore e Stabilità: Il lavoro valuta la sensibilità del sistema alla deriva sistematica dell'intensità ottica e le sue capacità di generalizzazione sotto misurazioni ripetute rumorose.

Risultati

• Prestazioni di Classificazione: Nel compito di classificazione non lineare a due spirali, l'EV-PELM ha raggiunto accuratezze del 93 ± 3%. I risultati hanno dimostrato forti capacità di generalizzazione intrinseca.
• Dimensionalità e Regolarizzazione: Si è scoperto che le prestazioni della regressione ridge e dei readout a pseudo-inversa sono comparabili, indicando che il sistema opera in un regime di dimensionalità effettiva limitata dai campioni. La scansione del parametro di regolarizzazione $\lambda$ ha confermato che l'approccio basato su eventi consente di sondare la dimensionalità utilizzabile della rappresentazione nascosta.
• Regressione e Stabilità: I risultati della regressione hanno rivelato una sensibilità alla deriva sistematica dell'intensità ottica. Questa scoperta evidenzia specifici requisiti di stabilità per le future EV-PELM, in particolare per quanto riguarda la coerenza della sorgente ottica e delle soglie di rilevamento.
• Generalizzazione: Il sistema ha mantenuto le prestazioni sotto misurazioni ripetute rumorose, sebbene i limiti specifici di robustezza siano legati alla natura del rilevamento degli eventi (ad esempio, eventi mancanti ad alti tassi o eventi innescati dal rumore).

Significatività e Rivendicazioni
Il documento sostiene che il rilevamento basato su eventi stabilisca una via percorribile verso rappresentazioni nascoste fotoniche più ricche per il calcolo neuromorfico. Sfruttando la variazione nativa della log-intensità sogliata dei sensori ad eventi, l'EV-PELM supera i vincoli di dimensionalità inerenti ai readout convenzionali basati sull'intensità.

Tuttavia, gli autori mantengono un tono modesto riguardo allo stato attuale della tecnologia. Chiariscono che, sebbene l'approccio offra il potenziale per macchine ad alte prestazioni, esso affronta attualmente limitazioni legate alla deriva sistematica dell'intensità ottica e alle non idealità dei sensori ad eventi (come l'accumulo di carica e il rumore). Il lavoro serve sia a dimostrare il potenziale delle EV-PELM, sia a definire i requisiti di stabilità specifici necessari per il loro futuro sviluppo nelle architetture di calcolo ottico.