Arbitrary control over multimode wave propagation for machine learning

Dit artikel presenteert een tweedimensionale programmeerbare golfgeleider met ongeveer $10^4$ ruimtelijke vrijheidsgraden die willekeurige controle mogelijk maakt over multimode golfvoortplanting om single-pass neurale netwerkinferentie uit te voeren, terwijl het aanzienlijke verbeteringen biedt in apparaatoppervlakte-efficiëntie en schaalbaarheid vergeleken met traditionele architecturen met discrete componenten.

De kern

Stel je voor dat je een complexe puzzel probeert op te lossen, zoals het herkennen van een handgeschreven cijfer of het identificeren van een gesproken klinker. Meestal doen computers dit door gegevens door een lange lijn van kleine, afzonderlijke tandwielen en hendels (discrete componenten) te sturen. Elk tandwiel doet een klein klusje, en de gegevens moeten van de één naar de ander reizen. Dit neemt veel ruimte in beslag en verbruikt veel energie, vooral naarmate de puzzels groter worden.

De onderzoekers in dit artikel hebben een totaal ander soort machine gebouwd. In plaats van een lijn van afzonderlijke tandwielen, hebben ze een enkele, enorme, programmeerbare "glasplaat" (een golfgeleider) gemaakt die werkt als een slimme, vormveranderende lens.

Hier is hoe hun uitvinding werkt, onderverdeeld in eenvoudige concepten:

1. De "Slimme Plaat" versus de "Tandwieltrein"

Denk aan traditionele computerchips als een trein van afzonderlijke treinwagons. Om van punt A naar punt B te komen, moet de lading (de data) van wagon naar wagon springen. Dit is lomp en traag.

Dit nieuwe apparaat is als een enorme trampoline. In plaats van tussen wagons te springen, gooi je een bal (een lichtstraal) op de trampoline. Door de spanning en de vorm van het oppervlak van de trampoline te veranderen, kun je de bal in elk specifiek patroon laten stuiteren dat je wilt. Het hele oppervlak werkt tegelijkertijd samen om de bal naar zijn bestemming te leiden.

2. Hoe "vormgeven" ze het glas?

Je kunt dit glas niet zomaar uithakken als een beeldhouwwerk; als het eenmaal uitgehakt is, staat het vast. De onderzoekers hadden een manier nodig om de vorm van het glas on the fly te veranderen.

Ze gebruikten een slim trucje met licht en elektriciteit:

• De Opstelling: Ze hebben een speciale plaat glas (Lithium Niobaat) die tussen elektroden is geplaatst.
• De Controle: Ze schijnen een patroon van groen licht op de plaat vanuit boven, zoals een projector die een afbeelding projecteert.
• De Magie: Waar het groene licht de plaat raakt, wordt de plaat iets geleidender (zoals een draad). Dit verandert het elektrische veld binnenin het glas. Vanwege een speciale eigenschap van dit glas, verandert het veranderen van het elektrische veld de brekingsindex (hoeveel het licht buigt).
• Het Resultaat: Het geprojecteerde groene lichtpatroon "beeldhouwt" direct het onzichtbare landschap binnenin het glas. Als je een "Y"-vorm projecteert, wordt het glas een Y-vormig pad voor licht. Als je een complex doolhof projecteert, wordt het glas een complex doolhof.

Ze kunnen dit "beeldhouwpatroon" ongeveer 3 keer per seconde veranderen, waardoor ze de machine direct kunnen herprogrammeren.

3. Rekenen met Licht

Het doel van de machine is om Machine Learning (het leren herkennen van patronen door een computer) uit te voeren.

• Input: Ze nemen data (zoals de vorm van een handgeschreven "7") en zetten dit om in een patroon van lichtstralen die de plaat binnenkomen.
• Verwerking: Terwijl het licht door de plaat reist, stuitert het tegen het "gebeeldhouwde" landschap dat ze hebben gecreëerd. De lichtgolven interfereren met elkaar, mengen en combineren op complexe manieren. Dit mengen is de wiskundige berekening.
• Output: Het licht verlaat de andere kant. Ze meten hoe helder het licht op verschillende plekken is. De helderste plek geeft het antwoord (bijv. "Dat was een 7!").

Ze hebben dit getest op twee taken:

1. Klinkerklanken: Het identificeren van welke klinker werd uitgesproken op basis van geluidsfrequenties. Ze hadden het in 96% van de gevallen goed.
2. Handgeschreven Cijfers (MNIST): Het herkennen van nummers van 0 tot 9. Ze hadden het in 86% van de gevallen goed.

4. Waarom is dit een grote zaak? (De "Vierkantswortel"-verrassing)

Normaal gesproken, als je een computer wilt maken die grotere en grotere puzzels kan afhandelen (meer data), moet je de machine veel, veel groter maken. Als je de complexiteit verdubbelt, heb je meestal vier keer zoveel ruimte nodig (een kwadratische relatie).

De onderzoekers ontdekten iets verrassends met hun "Slimme Plaat". Omdat ze de hele plaat tegelijk gebruiken (multimode interferentie) in plaats van een lijn van tandwielen, hoeft de grootte van de machine alleen maar te groeien met de vierkantswortel van de complexiteit.

• Analogie: Als je een brug wilt bouwen voor 100 auto's, heeft een traditioneel ontwerp misschien 100 eenheden lengte nodig. Hun ontwerp suggereert dat je misschien slechts een brug van 10 eenheden lang nodig hebt (omdat de vierkantswortel van 100 gelijk is aan 10) om dezelfde taak te volbrengen.

Dit betekent dat hun machine potentieel veel kleiner en energiezuiniger kan zijn dan huidige optische computers, vooral voor zeer grote taken.

Samenvatting

Het team heeft een herprogrammeerbare optische processor gebouwd die een enkele glasplaat gebruikt om complexe wiskunde uit te voeren. In plaats van duizenden kleine, afzonderlijke onderdelen te gebruiken, gebruiken ze een projector om de wiskundige oplossing direct op het glas te "tekenen" met behulp van licht. Het licht lost vervolgens het probleem op terwijl het door het glas reist. Ze hebben bewezen dat dit werkt voor het herkennen van geluiden en cijfers, en hun wiskunde suggereert dat deze aanpak in de toekomst kan leiden tot veel kleinere, snellere en energiezuinigere computers.

Technische samenvatting

Technische Samenvatting: Willekeurige controle over multimode golfvoortplanting voor machine learning

Probleemstelling

Diepe neurale netwerken (DNN's) worden steeds vaker beperkt door de energiekosten die gepaard gaan met hun exponentiële groei in omvang, met name de matrix-vectorvermenigvuldigingen (MVM's) die de rekenlast domineren. Hoewel optische neurale netwerken (ONN's) een veelbelovend alternatief bieden voor energie-efficiënte MVM's, kampen huidige geïntegreerde fotonische benaderingen met aanzienlijke schaalbaarheidslimieten. Het dominante paradigma berust op netwerken van discrete programmeerbare componenten (bijv. Mach–Zehnder-interferometers, microring-resonatoren) verbonden door single-mode golfgeleiders. Deze architectuur lijdt onder twee primaire knelpunten:

1. Routingcomplexiteit: Het integreren van de $O(N^2)$ elektronische besturingsdraden die nodig zijn voor $N \times N$ matrices via de chipperiferie beperkt het aantal controleerbare vrijheidsgraden tot enkele honderden.
2. Ruimtelijke inefficiëntie: Individuele optische componenten zijn volumineus vanwege golflengtebeperkingen en zwakke programmeerbaarheid, en een aanzienlijk deel van het chipoppervlak wordt verbruikt door interconnectiegebieden.

Consequent ondersteunen bestaande chips vectorafmetingen ($N$) die ver onder de drempel ($N \gtrsim 1000$) liggen die vereist is om optica een duidelijk energie-efficiëntievoordeel ten opzichte van elektronica te laten demonstreren. De centrale uitdaging die in dit werk wordt aangepakt, is hoe een fotonische chip te creëren met een programmeerbare brekingsindexverdeling $n(x, z)$ die de integratiecomplexiteit van elektronische bedrading vermijdt terwijl het willekeurige controle over golfvoortplanting mogelijk maakt.

Methodologie

De auteurs introduceren en demonstreren een 2D-programmeerbare golfgeleider, een apparaat dat het gehele chip behandelt als een continue, herprogrammeerbare substraat in plaats van een verzameling discrete elementen.

Apparaatarchitectuur en Werkingsprincipe

Het apparaat bestaat uit een lithiumniobaat (LiNbO$_3$) slab-golfgeleider, ingeklemd tussen een geleidend siliciumsubstraat (dat fungeert als grondelektrode) en een goudelektrode. Een fotogeleidende laag (silicium-rijk siliciumnitride) is bovenop de golfgeleider aangebracht.

• Modulatie van de brekingsindex: Het apparaat maakt gebruik van fotogeleidend rendement om een ruimtelijk variërende brekingsindexverandering, $\Delta n(x, z)$, te induceren. Een oscillerende biasspanning (tot 1000 V) wordt over de elektroden aangelegd. Wanneer een gepatroneerd lichtpatroon de fotogeleider beschaduwt, daalt de impedantie lokaal, waardoor het elektrische veld binnen de onderliggende LiNbO$_3$-golfgeleider toeneemt.
• Elektro-optisch effect: Het verhoogde elektrische veld induceert een lokale verandering in de brekingsindex via het Pockels-effect in het lithiumniobaat.
• Programmeerbaarheid: Door willekeurige lichtpatronen op het apparaat te projecteren, kunnen de auteurs de brekingsindexverdeling over ongeveer $10^4$ ruimtelijke vrijheidsgraden vormgeven (een gebied van $9 \text{ mm} \times 1 \text{ mm}$ met een resolutie van $9 \mu\text{m} \times 9 \mu\text{m}$). Het systeem werkt de gehele verdeling bij met een snelheid van 3 Hz.

Training en Machine Learning Implementatie

Om machine learning-taken uit te voeren, wordt het apparaat getraind om input optische velden in te korten naar output intensiteitsverdelingen die overeenkomen met classificatielabels.

• Codering: Inputdatavectoren worden in amplitude gecodeerd in ruimtelijke Gaussische modi bij de inputfacet.
• Voortplanting: Het licht plant zich voort door de programmeerbare golfgeleider, gestuurd door de paraxiale golfvergelijking (Eq. 1 in het artikel), waarbij het brekingsindexprofiel fungeert als de trainbare gewichten.
• Readout: De outputintensiteit wordt gemeten en ingedeeld in ruimtelijke regio's die overeenkomen met de klassenlabels.
• Trainingsalgoritme: De auteurs maken gebruik van physics-aware training, een hybride in-situ–in-silico backpropagation-algoritme. De forward pass wordt fysiek door het apparaat uitgevoerd, terwijl de backward pass (gradiëntberekening) wordt berekend met behulp van een differentieerbaar digitaal model van de golfvoortplanting. Dit model werd verfijnd met datagestuurde parameters om rekening te houden met experimentele imperfecties, wat efficiënte training mogelijk maakte ondanks het grote aantal parameters.

Belangrijkste Bijdragen

1. Demonstratie van een 2D-programmeerbare Golfgeleider: De auteurs hebben succesvol een apparaat gefabriceerd en bediend met $\sim 10.000$ programmeerbare ruimtelijke vrijheidsgraden, in staat tot willekeurige vormgeving van de brekingsindex via parallelle elektro-optische modulatie.
2. Hoogdimensionale Neurale Netwerk Inferentie: Het apparaat voerde neurale netwerk-inferentie uit op benchmarktaken met inputvectoren tot 49 dimensies (MNIST handgeschreven cijfers) en 12 dimensies (klinkerclassificatie) in een enkele pass, zonder digitale voor- of nabewerking van de lineaire transformatie.
3. Schaalanalyse: Het artikel biedt theoretisch en numeriek bewijs dat suggereert dat 2D-programmeerbare golfgeleiders een superieure schaalwet voor apparaatlengte bieden vergeleken met discrete component-architecturen. Terwijl traditionele benaderingen vaak vereisen dat de apparaatlengte schaalt als $N$ (of $N^2$ oppervlakte), beargumenteren de auteurs dat voor multimode interferentie de vereiste lengte schaalt als $\sqrt{N}$ voor een gegeven brekingsindexmodulatiekracht.

Experimentele Resultaten

• Klinkerclassificatie: Het apparaat werd getraind om 7 gesproken klinkers te classificeren vanuit een 12-dimensionale inputvector van formantfrequenties. Na 300 epochs (ongeveer 1 uur) bereikte het systeem een testnauwkeurigheid van 96%. Het getrainde brekingsindexprofiel evolueerde van een uniforme staat naar een complex patroon dat lijkt op inverse-designed fotonische structuren.
• MNIST Handgeschreven Cijfer Classificatie: Het apparaat werd getraind om gedownsamplede 7$\times$7 MNIST-beelden (49-dimensionaal input) te classificeren in 10 klassen. Na 10 epochs (ongeveer 10 uur) bereikte het systeem een testnauwkeurigheid van 86%. Dit resultaat is vergelijkbaar met een enkelvoudige digitale neurale netwerklaag met een $49 \times 10$ matrix (die 90% behaalt op dezelfde gedownsamplede taak), wat aantoont dat de complexe multimode golfvoortplanting effectief hoogdimensionale lineaire transformaties kan uitvoeren.
• Apparaatprestaties: De maximale brekingsindexmodulatie die werd bereikt was ongeveer $\Delta n \approx 10^{-3}$. Het apparaat vertoonde een lage voortplantingsverlies (< 1 dB/cm) en werkte met minder dan 1 mW aan elektrisch vermogensverlies over het actieve gebied.

Betekenis en Claims

Het artikel claimt dat dit werk een belangrijke stap is naar het overwinnen van de ruimtelijke en schaalbaarheidslimieten van huidige geïntegreerde fotonische neurale netwerken.

• Ruimte-efficiëntie: Door discrete componenten te vervangen door een continu, programmeerbaar substraat, bereikt het apparaat een meer ruimte-efficiënte architectuur. De auteurs merken op dat hun prototype inputdimensies ondersteunt die groter zijn dan welke eerder gerapporteerde on-chip optische neurale netwerken gebaseerd op discrete componenten ook maar.
• Potentieel voor Energie-efficiëntie: Het werk benadrukt een theoretisch pad naar het "break-even punt" waar optische MVM's qua energie-efficiëntie de elektronische evenaren (geschat op $N \approx 1000$). De gedemonstreerde $\sqrt{N}$ schaling voor apparaatlengte suggelt dat 2D-programmeerbare golfgeleiders all-optical matrix-vector multipliers kunnen mogelijk maken met dimensies die deze drempel overschrijden, wat potentieel hybride neurale netwerkarchitecturen (analoge optica voor lineaire operaties, elektronica voor niet-lineariteiten) energie-competitief kan maken.
• Herconfigureerbaarheid: In tegen tegenoverkomend met inverse-designed apparaten die vaststaan na fabricage, is dit apparaat volledig herconfigureerbaar. De auteurs suggereren dat deze capaciteit verder kan reiken dan machine learning, bijvoorbeeld naar het oplossen van integraalvergelijkingen, combinatorische optimalisatie, en het dienen als een herconfigureerbaar platform voor het bestuderen van bound states in the continuum en topologische fotonica.

De auteurs blijven bescheiden over de huidige beperkingen en erkennen dat het experimentele prototype opereerde in een regime waarin licht effectief ongeleid was in de transversale richting, en dat de huidige $\Delta n$ en update-snelheden worden beperkt door materiaaleigenschappen en het ontwerp van de fotogeleidende laag. Ze stellen echter dat het gedemonstreerde principe van willekeurige multimode controle nieuwe wegen opent voor optische computing.