Photonic Extreme Learning Machines using Event-Based detection

Technische Samenvatting: Fotonische Extreme Learning Machines met Event-gebaseerde Detectie

Probleemstelling
Fotonische Extreme Learning Machines (PELMs) bieden een pad naar energiezuinige, schaalbare optische computing door gebruik te maken van willekeurige optische propagatie, detectienonlineariteit en een getrainde lineaire readout om de training van de verborgen lagen te omzeilen. De conventionele PELM-implementaties vertrouwen echter op intensiteitsdetectie met CCD- of CMOS-camera's. Deze aanpak beperkt de dimensionaliteit van de verborgen representatieruimte, met name wanneer de input-kenmerkruimte laagdimensionaal is. In dergelijke gevallen wordt het intrinsieke generalisatievermogen van PELMs vaak beperkt door de eigenschappen van kwadratische detectie en de noodzaak van aanvullende regularisaties om ruis te filteren, wat effectief de bruikbare rang van de outputmatrix van de verborgen laag vermindert. Er is behoefte aan alternatieve readout-mechanismen die rijkere, hogerdimensionale verborgen representaties kunnen bieden zonder de beperkingen van standaard intensiteitsgebaseerde verzadigingsresponsen.

Methodologie
Dit werk stelt een Event-gebaseerde Fotonische Extreme Learning Machine (EV-PELM) architectuur voor en valideert deze experimenteel. Het systeem vervangt conventionele intensiteitsdetectie door een asynchrone event-gebaseerde camera (Dynamic Vision Sensor, DVS).

• Optische Opstelling: Input-kenmerken worden gecodeerd op het amplitude-profiel van een optische straal met behulp van een Digital Micromirror Device (DMD). De straal plant zich voort door een multimode vezel, die fungeert als een complex medium om willekeurige lineaire gewichten en bias te implementeren via speckle-generatie.
• Event-gebaseerde Detectie: In plaats van de absolute intensiteit te meten, detecteert de event-gebaseerde camera veranderingen in log-intensiteit. Een event wordt geregistreerd bij een pixel wanneer de verandering in log-intensiteit een instelbare drempelwaarde $C$ overschrijdt. De pixel-gewijze log-intensiteit wordt gemodelleerd als $L(X) = \log(|\bar{w} \cdot E^{(in)}(X) + b|^2 + B)$.
• Verborgen Representaties: De ruwe event-stroom (pixeladressen, tijdstempels, polariteiten) wordt omgezet in drie onderscheidende pixel-gewijze verborgen representaties ($\phi$):
  1. First-Event Time: De tijdstempel van de eerste event bij elke pixel.
  2. Binary Activation: Een binaire indicator van of een pixel afvuurde tijdens het acquisitievenster.
  3. Event Count: Het totale aantal events dat door elke pixel is opgenomen.
• Readout: Een getrainde lineaire readout-laag wordt toegepast op deze representaties met behulp van ofwel ridge regressie of de Moore-Penrose pseudo-inverse. De effectieve dimensionaliteit van het systeem wordt geanalyseerd door de regularisatieparameter $\lambda$ te scannen en de afhankelijkheid van de effectieve dimensionaliteit ($d_{eff}$) van de singuliere waarden van de outputmatrix van de verborgen laag te observeren.

Belangrijkste Bijdragen

• Nieuw Detectieparadigma: Het artikel introduceert het gebruik van event-gebaseerde camera's om onderscheidende, gedrempelde log-intensiteitsresponsen te genereren als nonlineariteit-activatiefuncties voor PELMs, waarmee verder wordt gegaan dan standaard kwadratische intensiteitsdetectie.
• Experimentele Validatie: De auteurs demonstreren de EV-PELM experimenteel op twee uitdagende nietlineaire taken: de classificatie van twee spiraalverdelingen en de regressie van een doel-sinc-functie.
• Dimensionaliteitsanalyse: De studie relateert de prestaties van de EV-PELM aan de toename van de bruikbare rang van de outputmatrix van de verborgen laag, geschat via de afhankelijkheid van regularisatie en effectieve dimensionaliteitsmetrieken.
• Ruis- en Stabiliteitsbeoordeling: Het werk evalueert de gevoeligheid van het systeem voor systematische optische-intensiteitsdrift en zijn generalisatievermogen onder herhaalde ruisige metingen.

Resultaten

• Classificatieprestaties: In de nietlineaire twee-spiraal classificatietaak behaalde de EV-PELM nauwkeurigheden van 93 ± 3%. De resultaten toonden sterke intrinsieke generalisatiecapaciteiten aan.
• Dimensionaliteit en Regularisatie: De prestaties van ridge regressie en pseudo-inverse readouts bleken vergelijkbaar, wat aangeeft dat het systeem opereert in een sample-limited effectieve dimensionaliteit regime. Het scannen van de regularisatieparameter $\lambda$ bevestigde dat de event-gebaseerde aanpak toestaat de bruikbare dimensionaliteit van de verborgen representatie te verkennen.
• Regressie en Stabiliteit: Regressieresultaten toonden een gevoeligheid voor systematische optische-intensiteitsdrift. Dit bevinding benadrukt specifieke stabiliteitseisen voor toekomstige event-gebaseerde PELMs, met name met betrekking tot de consistentie van de optische bron en detectiedrempels.
• Generalisatie: Het systeem behield de prestaties onder herhaalde ruisige metingen, hoewel de specifieke robuustheidslimieten gekoppeld zijn aan de aard van de event-detectie (bijv. gemiste events bij hoge snelheden of door ruis getriggerde events).

Betekenis en Claims
Het artikel claimt vast te stellen dat event-gebaseerde detectie een levensvatbare route is naar rijkere fotonische verborgen representaties voor neuromorfische computing. Door gebruik te maken van de natuurlijke gedrempelde log-intensiteitsvariatie van event-camera's, overwint de EV-PELM de dimensionaliteitsbeperkingen die inherent zijn aan conventionele intensiteitsgebaseerde readouts.

De auteurs behouden echter een bescheiden toon met betrekking tot de huidige staat van de technologie. Zij verduidelijken dat hoewel de aanpak potentieel biedt voor hogere-prestatie machines, het momenteel te maken heeft met beperkingen gerelateerd aan systematische optische-intensiteitsdrift en de niet-ideale eigenschappen van event-sensoren (zoals ladingsaccumulatie en ruis). Het werk dient zowel om het potentieel van EV-PELMs te demonstreren als om de specifieke stabiliteitseisen te definiëren die nodig zijn voor hun verdere ontwikkeling in optische computing-architecturen.