On-chip 1 TOPS Hyperdimensional Photonic Tensor Core using a WDM Silicon Photonic Coherent Crossbar

Technische Samenvatting: On-chip 1 TOPS Hyperdimensionele Fotonische Tensor Core met een WDM Siliciumfotonische Coherente Crossbar

Probleemstelling
De snelle uitbreiding van kunstmatige intelligentie (AI)-toepassingen heeft een dringende vraag gecreëerd voor computersystemen die in staat zijn tot het uitvoeren van zeer efficiënte lineaire algebra-bewerkingen, specifiek matrix-vector (MVM) en tensor-vector (TVM) vermenigvuldigingen. Hoewel fotonische acceleratoren veelbelovende energie-efficiëntie en bandbreedte bieden, staan huidige implementaties voor aanzienlijke hindernissen bij het schalen om te voldoen aan de parametervereisten van moderne AI-modellen. Bestaande benaderingen vertrouwen vaak op enkele multiplexingsdimensies: Ruimtedivis multiplexing (SDM) via coherente fotonische meshes lijdt aan invoegverliezen die de schaalbaarheid beperken; Golflengtedivis multiplexing (WDM) staat voor uitdagingen bij het genereren van aanzienlijke kanaalaantallen on-chip; en Tijdsdivis multiplexing (TDM) introduceert latentie en laat schaalbaarheid van de doorvoer onopgelost. Bovendien hebben state-of-the-art experimentele demonstraties die honderden TOPS overschrijden grotendeels vertrouwd op bulkvezelgebaseerde apparaten, waardoor on-chip systemen worstelen om gelijktijdig tijd, ruimte en golflengte multiplexing toe te passen.

Methodologie
De auteurs stellen een novel Time-Space-Wavelength Division Multiplexing (TSWDM) Xbar-architectuur voor en valideren deze experimenteel. Dit ontwerp generaliseert de coherente fotonische Crossbar (Xbar) om drie gelijktijdige multiplexingsdimensies te ondersteunen:

1. Tijd: Operaties worden geserialiseerd over het tijdsdomein.
2. Ruimte: De computatiewerklast wordt verdeeld over ruimtelijke rijen en kolommen.
3. Golflengte: Elementaire computatienodes worden geparalleliseerd over meerdere golflengtekanalen.

De architectuur bestaat uit een multi-golflengtebron, een $L \times M \times N$ Xbar-mesh (waarbij $L$, $M$ en $N$ golflengtekanalen, rijen en kolommen vertegenwoordigen), en een demultiplexend detectiepunt. Het systeem maakt gebruik van een raster van gemultiplexde computatienodes, waarbij elke node een array van elementaire elementen (typisch een amplitude-modulator en een fase-modulator) bevat die zijn ingevoegd tussen demultiplexings- en multiplexingsstadia.

Voor experimentele validatie hebben de auteurs een 4-kanaals, 2-ingang siliciumfotonische Xbar gefabriceerd op een 200 mm IMEC-platform. De chip integreert:

• SiGe 50 $\mu$m, 56 GHz Franz-Keldysh Electro-Absorptie Modulatoren (EAM's) die dienen als input- en gewichtsmodulatoren.
• 170 $\mu$m Thermo-optische Faseshifters (TO-PS) om een correcte teken-imprint en constructieve interferentie te waarborgen.
• On-chip 4-kanaals dual-micro-ring (DE)-MUX-stadia die een kanaalafstand van 3 nm bieden.

De experimentele opstelling gebruikte een 4-kanaals instelbare laserbron, een arbitrary waveform generator (AWG) voor RF-aansturing, en offline implementatie van de temporale integrator en activatiefuncties. Het systeem werd getest voor DC-karakterisering, Tensor-Vector vermenigvuldiging (TVM) en inferentie op een volledig verbonden neurale netwerk getraind voor de classificatie van het Iris-dataset.

Belangrijkste Resultaten

• Tensor-Vector Vermenigvuldiging: De 4-kanaals, 2-ingang TSWDM Xbar demonstreerde succesvol TVM-operaties met een gemiddelde fout van 3,9% vergeleken met ideale producten. Dit werd bereikt door het systeem te kalibreren om non-lineariteit en niet-uniforme invoegverliezen (IL) van de modulatoren te herstellen.
• Neurale Netwerk Inferentie: Bij de classificatietaken van het Iris-dataset bereikte de fotonische processor een experimentele nauwkeurigheid van 93,3% bij datasnelheden tussen 4$\times$10 en 4$\times$30 GBd. De nauwkeurigheid bleef robuust en bereikte 83,3%, zelfs toen de datasnelheid werd verhoogd tot 4$\times$60 GBd.
• Computatie Doorvoer: Het on-chip systeem demonstreerde een computatie doorvoer van 0,96 TOPS met een oppervlakte-efficiëntie van 480 GOPS/mm².
• Schaalbaarheidsanalyse: Theoretische analyse geeft aan dat het integreren van een WDM-schema in de SDM-architectuur de vereiste operationele laserpower verlaagt. Voor een specifieke computatie doorvoer biedt de WDM-benadering tot een verbetering van 1-bit in de bereikbare bitresolutie vergeleken met een pure SDM Xbar van equivalente power, voornamelijk door verminderde invoegverliezen geassocieerd met minder fysieke kruisingen in opgeschaalde lay-outs.

Betekenis en Claims
Het artikel claimt de eerste coherente hyper-gemultiplexde fotonische processor te presenteren die in staat is willekeurige MVM- en TVM-berekeningen on-chip uit te voeren door tijd, ruimte en golflengte-dimensies te synergeren. De auteurs stellen dat deze architectuur een volwassen pad biedt om de rekenkracht te schalen terwijl het een groot aantal trainbare parameters ondersteunt, waarmee de beperkingen van multiplexingschema's met één dimensie worden aangepakt.

Het werk benadrukt dat, hoewel ruimtelijke en spectrale dimensies uitwisselbaar zijn wat betreft ruwe rekenkracht, de WDM-benadering een duurzamere route biedt voor het schalen van fotonische circuits. Specifiek suggereert de analyse dat WDM-lay-outs haalbaar het potentieel kunnen vergroten voor het construeren van fotonische acceleratoren met een computatie doorvoer in het POPS (Peta-Operaties Per Seconde) regime, door de laserpowervereisten te verlagen en de invoegverliesstraffen die gepaard gaan met het vergroten van ruimtelijke dimensies te mitigeren. De experimentele demonstratie van een 0,96 TOPS on-chip kern dient als proof-of-concept voor deze hyperdimensionale aanpak.