Expressive Power and Limitations of Multi-photon Quantum Neural Networks

Technische Samenvatting: Expressieve Kracht en Beperkingen van Multi-foton Quantum Neurale Netwerken

Probleemstelling
Quantum Neurale Netwerken (QNN's), met name die gebruikmaken van data re-uploading (DRQNN's), hebben universele benaderingscapaciteiten aangetoond. Hoewel lineaire optische netwerken met multi-foton inputs (Boson sampling) kwantumvoordelen hebben getoond in computationele taken, blijft het specifieke mechanisme waarmee het verhogen van het aantal fotonen de expressiviteit van QNN's verhoogt, onverkend. Specifiek is het onduidelijk of de expressiviteit van Multi-foton Quantum Neurale Netwerken (MPQNN's) oneindig kan worden verhoogd door het aantal fotonen te vergroten, of dat er fundamentele beperkingen bestaan. Dit artikel behandelt de kwantitatieve karakterisering van MPQNN-expressiviteit en de impact van het aantal fotonen ($n$), het aantal modi ($m$) en het aantal lagen ($L$) op de benaderingsfout.

Methodologie
De auteurs stellen een raamwerk voor MPQNN's voor, geïmplementeerd op lineaire optische netwerken, waarbij de DRQNN-architectuur wordt uitgebreid naar de multi-foton Fock-ruimte.

1. Modeldefinitie: Het model bestaat uit een circuitdeel met data re-uploading (afwisselende encoding-blokken via faseverschuivers en trainbare blokken via universele unitaire lineaire optische netwerken) en een observable-deel. De input is een Fock-toestand $|n, 0, \dots, 0\rangle$ die $n$ identieke fotonen representeert.
2. Karakterisering van de Hypotheseruimte: De auteurs leiden de hypotheseruimte van MPQNN's af. Zij stellen vast dat de outputfunctie $h(x)$ een compositie is van een reële polynoom $g$ (bepaald door de observable) en trigonometrische polynomen $y_j$ (bepaald door de trainbare circuitparameters).
3. Afleiding van de Foutgrenzen: De studie analyseert twee onderscheidende gevallen op basis van de aard van de gemeten observable:
   • Vaste Observable: De gewichten van de fotonaantal-partities zijn vooraf bepaald.
   • Trainbare Observable: De gewichten worden gelijktijdig met de circuitparameters geoptimaliseerd tijdens de training.
     Met behulp van Jackson's ongelijkheid leiden de auteurs bovengrens-schattingen af voor de benaderingsfout voor beide gevallen, waarbij de fout wordt gerelateerd aan de gladheid van de doelfunctie en de parameters $n, m, L$.
4. Numerieke Simulatie: Om de theoretische bevindingen te valideren, hebben de auteurs een dynamisch programmeeralgoritme ontwikkeld om de output-fotonaantalverdeling van lineaire optische netwerken aangedreven door Fock-toestanden efficiënt te simuleren. Deze aanpak verbetert Ryser's algoritme voor het berekenen van permanenten, wat de runtime-complexiteit vermindert.

Belangrijkste Bijdragen en Resultaten
Het artikel biedt een kwantitatieve analyse van hoe het aantal fotonen de MPQNN-expressiviteit beïnvloedt, wat contrasterende resultaten oplevert voor vaste versus trainbare observables:

• Geval van Vaste Observable:

  • De benaderingsfout wordt begrensd door $O((dL)^{-K})$, waarbij $d = \min\{n, m-2\}$.
  • Drempeleffect: Er bestaat een kritische drempel bij $n = m-2$. Onder deze drempel verhoogt het vergroten van het aantal fotonen de expressiviteit polynomiaal.
  • Beperking: Zodra $n$ groter is dan $m-2$, leidt verdere verhoging van het aantal fotonen niet tot een verbetering van de expressiviteit. Dit komt doordat het aantal trainbare parameters in het lineaire optische netwerk (dat alleen afhankelijk is van $m$ en $L$) onvoldoende is om de hogere-dimensionale functieruimte te dekken die wordt gegenereerd door het toegenomen aantal fotonen.

• Geval van Trainbare Observable:

  • De benaderingsfout wordt begrensd door $O(d^{-K})$, waarbij $d = \min\{nL, \max\{(m-2)L, n\lfloor\frac{m-1}{2}\rfloor\}\}$.
  • Continue Verbetering: In tegen tegenstelling tot het vaste geval, verhoogt het vergroten van het aantal fotonen altijd de expressiviteit van de MPQNN, zelfs zonder de structuur van het lineaire optische netwerk te wijzigen. Wanneer $n \to \infty$, nadert de foutgrens nul.
  • Kosten: Deze verhoogde expressiviteit gaat gepaard met de kosten van het introduceren van $\binom{n+m-1}{m-1}$ extra trainbare parameters in de observable, wat exponentieel groeit met $n$.

• Numerieke Validatie: Simulaties op univariate trigonometrische polynoom-benaderingstaken bevestigen dat de gemiddelde testverlies afneemt naarmate zowel het aantal fotonen als het aantal lagen toeneemt, wat in lijn is met de theoretische grenzen.

Betekenis
De auteurs beweren dat dit werk de prestatieverbetering en de inherente beperkingen van multi-foton kwantumkenmerken in QNN's verheldert. Door de relatie tussen het aantal fotonen en expressiviteit kwantitatief te karakteriseren, biedt het artikel richtlijnen voor de implementatie van QNN's op fotonische platforms. Specifiek verduidelijkt het dat hoewel multi-foton inputs voordelen bieden, hun nut wordt beperkt door de architectuur van de trainbare blokken in het scenario met een vaste observable. De bevindingen suggereren dat om het voordeel van multi-fotonen volledig te benutten, ofwel de observable trainbaar moet zijn, ofwel de netwerkstructuur moet worden aangepast om de toegenomen vrijheidsgraden te accommoderen. Het werk dient als referentie voor het begrijpen van de afwegingen tussen aantal fotonen, aantal parameters en benaderingscapaciteit in quantum machine learning.