Expressive Power and Limitations of Multi-photon Quantum Neural Networks

Technisches Resümee: Ausdrucksstärke und Limitationen von Multi-Photonen-Quanten-Neuronalen Netzen

Problemstellung
Quanten-Neutrale Netze (QNNs), insbesondere solche, die Data Re-uploading (DRQNNs) nutzen, haben universelle Approximationsfähigkeiten demonstriert. Während lineare optische Netzwerke mit Multi-Photonen-Inputs (Boson Sampling) bereits Quantenvorteile bei computationalen Aufgaben gezeigt haben, bleibt der spezifische Mechanismus, durch den eine Erhöhung der Photonenanzahl die Ausdrucksstärke von QNNs steigert, ungeklärt. Insbesondere ist unklar, ob die Ausdrucksstärke von Multi-Photonen-Quanten-Neuronalen Netzen (MPQNNs) durch Erhöhung der Photonenanzahl unendlich gesteigert werden kann oder ob fundamentale Limitationen existieren. Diese Arbeit adressiert die quantitative Charakterisierung der MPQNN-Ausdrucksstärke sowie den Einfluss der Photonenanzahl ($n$), der Modenanzahl ($m$) und der Schichtanzahl ($L$) auf den Approximationsfehler.

Methodik
Die Autoren schlagen ein Framework für MPQNNs vor, die auf linearen optischen Netzwerken implementiert sind, und erweitern die DRQNN-Architektur auf den Multi-Photonen-Fock-Raum.

1. Modelldefinition: Das Modell besteht aus einem Schaltkreisteil mit Data Re-uploading (abwechselnde Kodierungsblöcke via Phasenverschiebern und trainierbare Blöcke via universeller unitärer linearer optischer Netzwerke) und einem Observablen-Teil. Der Input ist ein Fock-Zustand $|n, 0, \dots, 0\rangle$, der $n$ identische Photonen repräsentiert.
2. Charakterisierung des Hypothesenraums: Die Autoren leiten den Hypothesenraum von MPQNNs her. Sie stellen fest, dass die Ausgabefunktion $h(x)$ eine Komposition aus einem reellen Polynom $g$ (bestimmt durch das Observable) und trigonometrischen Polynomen $y_j$ (bestimmt durch die trainierbaren Parameter des Schaltkreises) ist.
3. Ableitung der Fehlerschranke: Die Studie analysiert zwei unterschiedliche Fälle basierend auf der Art des gemessenen Observablen:
   • Festes Observable: Die Gewichte der Photonenanzahl-Partitionen sind vorbestimmt.
   • Trainierbares Observable: Die Gewichte werden während des Trainings parallel zu den Schaltkreisparametern optimiert.
     Unter Verwendung der Jacksonschen Ungleichung leiten die Autoren obere Schranken für den Approximationsfehler für beide Fälle ab und setzen den Fehler in Beziehung zur Glattheit der Zielfunktion sowie zu den Parametern $n, m, L$.
4. Numerische Simulation: Um die theoretischen Befunde zu validieren, haben die Autoren einen dynamischen Programmierung-Algorithmus entwickelt, um die Ausgangs-Photonenzahlverteilung linearer optischer Netzwerke, die durch Fock-Zustände getrieben werden, effizient zu simulieren. Dieser Ansatz verbessert gegenüber Rysers Algorithmus zur Berechnung von Permanenten die Laufzeitkomplexität.

Wesentliche Beiträge und Ergebnisse
Die Arbeit liefert eine quantitative Analyse darüber, wie die Photonenanzahl die MPQNN-Ausdrucksstärke beeinflusst, wobei kontrastierende Ergebnisse für feste gegenüber trainierbare Observablen erzielt werden:

• Fall: Festes Observable:

  • Der Approximationsfehler ist beschränkt durch $O((dL)^{-K})$, wobei $d = \min\{n, m-2\}$.
  • Schwelleneffekt: Es existiert ein kritischer Schwellenwert bei $n = m-2$. Unterhalb dieses Schwellenwerts steigert eine Erhöhung der Photonenanzahl die Ausdrucksstärke polynomiell.
  • Limitation: Sobald $n$ den Wert $m-2$ überschreitet, führt eine weitere Erhöhung der Photonenanzahl nicht zu einer Verbesserung der Ausdrucksstärke. Dies liegt daran, dass die Anzahl der trainierbaren Parameter im linearen optischen Netzwerk (die nur von $m$ und $L$ abhängt) nicht ausreicht, um den durch die erhöhte Photonenanzahl generierten höherdimensionalen Funktionsraum zu überdecken.

• Fall: Trainierbares Observable:

  • Der Approximationsfehler ist beschränkt durch $O(d^{-K})$, wobei $d = \min\{nL, \max\{(m-2)L, n\lfloor\frac{m-1}{2}\rfloor\}\}$.
  • Kontinuierliche Steigerung: Im Gegensatz zum festen Fall erhöht eine Erhöhung der Photonenanzahl die Ausdrucksstärke des MPQNN immer, selbst ohne die Struktur des linearen optischen Netzwerks zu verändern. Für $n \to \infty$ geht die Fehlerschranke gegen Null.
  • Kosten: Diese gesteigerte Ausdrucksstärke geht mit der Einführung von $\binom{n+m-1}{m-1}$ zusätzlichen trainierbaren Parametern im Observable einher, was exponentiell mit $n$ wächst.

• Numerische Validierung: Simulationen an Aufgaben der univariaten trigonometrischen Polynom-Approximation bestätigen, dass der mittlere Testverlust mit steigender Photonenanzahl und Schichtanzahl sinkt, was mit den theoretischen Schranken übereinstimmt.

Bedeutung
Die Autoren behaupten, dass diese Arbeit die Leistungssteigerung und die inhärenten Limitationen multi-photonischer Quantenmerkmale in QNNs aufklärt. Durch die quantitative Charakterisierung der Beziehung zwischen Photonenanzahl und Ausdrucksstärke bietet das Paper Orientierung für die Implementierung von QNNs auf photonischen Plattformen. Speziell verdeutlicht es, dass Multi-Photonen-Inputs zwar Vorteile bieten, ihr Nutzen jedoch durch die Architektur der trainierbaren Blöcke im Szenario des festen Observables begrenzt ist. Die Ergebnisse legen nahe, dass man, um die Vorteile von Multi-Photonen voll auszuschöpfen, entweder das Observable trainierbar machen oder die Netzwerkstruktur anpassen muss, um den gestiegenen Freiheitsgraden gerecht zu werden. Die Arbeit dient als Referenz für das Verständnis der Trade-offs zwischen Photonenanzahl, Parameteranzahl und Approximationsfähigkeit im maschinellen Lernen mit Quantenalgorithmen.