Programmable k-local Ising interactions and shallow optical Kolmogorov--Arnold networks through repeated data encounters

In de wereld van de informatica bestaat een hardnekkig verlangen om machines te bouwen die complexe puzzels kunnen oplossen door de laagste energietoestand van een systeem te vinden, vergelijkbaar met een bal die een heuvel afrolt om het diepste dal te vinden. Decennialang hebben wetenschappers geprobeerd deze "Ising-machines" met licht te bouwen, omdat fotonen snel reizen en enorme hoeveelheden informatie kunnen dragen. Echter, licht heeft een natuurlijke beperking: het is uitstekend in het uitvoeren van eenvoudige, rechte berekeningen, maar het heeft moeite met het uitvoeren van de complexe, meerstapsinteracties die vereist zijn voor de moeilijkste problemen. Meestal hebben onderzoekers, om het licht deze moeilijkere taken te laten uitvoeren, moeten vertrouwen op speciale materialen die licht op vreemde manieren buigen of complexe problemen moeten opdelen in simpelere, tweeledige stukken. Deze aanpak voegt vaak omvang, kosten toe of beperkt de soorten problemen die een machine kan oplossen.

Een nieuwe studie door Nikita Stroev en Natalia G. Berloff stelt een andere manier voor om licht te benutten, waarbij zij geen gebruik maken van exotische materialen. In plaats van te proberen licht in één enkele passage niet-lineair te laten gedragen, ontwierpen zij een systeem waarbij data zichzelf herhaaldelijk ontmoet. Door informatie meerdere keren door een lus van spiegels en lenzen te sturen, en de informatie telkens zorgvuldig te meten terwijl het licht passeert, kan het systeem complexe interacties opbouwen uit eenvoudige lineaire stappen. De onderzoekers toonden via rigoureuze wiskundige analyse en een gedetailleerd eindig discreet-Fourier-model aan dat deze methode interacties tussen een willekeurig aantal variabelen kan programmeren en evalueren, van paren tot groepen van vier of meer. Hun werk suggereert dat licht, met de juiste architectuur, complexe problemen kan oplossen zonder ooit het domein van de standaard, lineaire optica te verlaten, hoewel zij opmerken dat dit theoretische kader de noodzaak voor experimentele validatie nog niet vervangt.

De kern van deze ontdekking ligt in een slimme architecturale truc die de auteurs "herhaalde ontmoetingen" noemen. Stel je een kamer voor vol met spiegels en een enkele lichtstraal. In een standaardopstelling kan het licht door een masker passeren dat een probleem representeert, gereflecteerd worden en één keer worden gemeten. Deze enkele passage kan slechts eenvoudige relaties vastleggen. In het nieuwe ontwerp wordt het licht niet slechts één keer gemeten; het wordt meerdere keren terug door hetzelfde masker, of een vergelijkbaar masker, geleid. Elke keer dat het licht door het masker passeert, interageert het opnieuw met de data. De onderzoekers hebben wiskundig bewezen dat om een interactie te creëren die een specifiek aantal variabelen omvat, het licht de data minstens de helft van dat aantal keren moet ontmoeten, naar boven afgerond. Om bijvoorbeeld een relatie tussen vier variabelen te creëren, moet het licht twee keer door het systeem gaan. Dit is een fundamentele limiet; geen enkele hoeveelheid slimme engineering met een enkele passage kan bereiken wat twee passages kunnen.

Om dit idee te testen, ontwikkelde het team een gedetailleerde computersimulatie van een ideaal optisch systeem dat fungeert als een gevouwen relais, waarbij een raster van spiegels en lenzen wordt gebruikt om licht te manipuleren. Ze richtten zich op een specifieke uitdaging: het creëren van een vierweg-interactie, wat een significante stap omhoog is ten opzichte van de standaard tweeweg-interacties die in de meeste huidige machines worden gevonden. Ze programmeerden het systeem om licht dat vier specifieke variabelen representeert naar een toegewezen kanaal te routeren. Tijdens de eerste passage verzamelde het licht informatie over de som van deze variabelen. Tijdens de tweede passage reflecteerde het systeem dit licht terug door het masker, waardoor het voor de tweede keer met de variabelen kon interageren. Door de intensiteit van het licht na de eerste passage en opnieuw na de tweede passage te meten, en deze metingen vervolgens te combineren met specifieke gewichten, kon het systeem de exacte vierweg-relatie reconstrueren.

De resultaten van de simulatie waren opvallend. Wanneer de onderzoekers een methode gebruikten waarbij het licht simpelweg werd gereflecteerd zonder de data opnieuw te ontmoeten, faalde het systeem erin de vierweg-relatie te vangen en produceerde het slechts eenvoudige tweeweg-resultaten. Echter, wanneer zij de "reciproque herinneringsmethode" gebruikten — waarbij het licht terug werd gestuurd door het actieve datamasker — slaagde het systeem erin het complexe vier-variabele signaal in het model te genereren. De simulatie toonde aan dat het systeem in staat was om alle zestien mogelijke combinaties van de vier variabelen te onderscheiden, waarbij de correcte energiewaarde voor elke combinatie met hoge nauwkeurigheid werd gereconstrueerd. De onderzoekers testten ook hoe het systeem omging met imperfecties, zoals kleine fouten in de spiegels of de grootte van de vensters waar het licht doorheen paste. Ze vonden dat hoewel deze fouten enige ruis introduceerden, het systeem in het model robuust bleef en het complexe vierweg-signaal duidelijk onderscheidbaar bleef van de achtergrondruis.

Buiten het oplossen van specifieke puzzels, toonden de onderzoekers aan dat deze architectuur ook kan worden aangepast voor een ander soort computeropgave: het trainen van kunstmatige neurale netwerken. Door de binaire aan/uit-schakelaars van de Ising-machine te vervangen door een continu bereik van waarden, kan het systeem complexe wiskundige curven, bekend als polynoomfuncties, genereren met behulp van hetzelfde principe van herhaalde ontmoetingen. In hun simulatie slaagden ze er succesvol in om een klein netwerk te trainen om specifieke wiskundige vormen te leren, wat aantoonde dat het hardwaremodel kan fungeren als een flexibele motor voor leren. Dit suggereert dat dezelfde fysieke opstelling potentieel gebruikt kan worden voor zowel het oplossen van optimalisatieproblemen als het trainen van machine learning-modellen, simpelweg door te veranderen hoe de data wordt gecodeerd en hoe de resultaten worden uitgelezen.

De studie maakt een zorgvuldig onderscheid tussen wat bewezen is en wat nog moet komen. De bevindingen die gepresenteerd worden, zijn volledig gebaseerd op rigoureuze computersimulaties van een ideaal optisch systeem, niet op een fysiek apparaat dat in een laboratorium is gebouwd. De auteurs geven expliciet aan dat hun werk nog geen hardware-oplossing biedt en ook geen vergelijking maakt van snelheid en energie-efficiëntie ten opzichte van bestaande computers. In plaats daarvan hebben zij een theoretisch blauwdruk en een bewijs van concept geleverd dat aantoont wat het minimale aantal stappen vereist is om deze interacties te bereiken en hoe men deze kan construeren. Zij betogen dat hoewel de wiskunde solide is en de simulaties consistent zijn, de volgende stap het bouwen van een fysiek prototype is om te zien hoe real-world factoren zoals lichtverlies, detectorruis en imperfecte spiegels de prestaties beïnvloeden.

De betekenis van dit werk ligt in de eenvoud en de efficiëntie ervan. Door te bewijzen dat herhaalde lineaire interacties complexe niet-lineaire resultaten kunnen genereren, hebben de onderzoekers een pad geopend naar het bouwen van krachtigere fotonische computers zonder de noodzaak voor dure of moeilijk te produceren niet-lineaire materialen. Zij hebben aangetoond dat de sleutel tot het ontsluiten van hogere-orde interacties niet ligt in het materiaal waar het licht doorheen reist, maar in de architectuur van het pad dat het aflegt. Als deze aanpak in hardware gerealiseerd kan worden, zou dit kunnen leiden tot een nieuwe generatie optische processors die in staat zijn de meest uitdagende optimalisatie- en leerproblemen aan te pakken met een niveau van flexibiliteit en snelheid waar huidige elektronische computers moeite mee hebben. Het artikel concludeert dat hoewel de reis van simulatie naar de fysieke realiteit verdere engineering zal vereisen, de fundamentele principes solide zijn en een duidelijke en veelbelovende richting bieden voor de toekomst van de optische informatica.