Expressive Power and Limitations of Multi-photon Quantum Neural Networks

Résumé Technique : Puissance Expressive et Limites des Réseaux de Neurones Quantiques Multi-photons

Énoncé du Problème
Les réseaux de neurones quantiques (QNN), particulièrement ceux utilisant le ré-injection de données (DRQNN), ont démontré des capacités d'approximation universelle. Bien que les réseaux optiques linéaires avec des entrées multi-photons (échantillonnage de Bosons) aient montré des avantages quantiques dans des tâches de calcul, le mécanisme spécifique par lequel l'augmentation du nombre de photons améliore l'expressivité des QNN reste inexploré. Plus précisément, il n'est pas clair si l'expressivité des QNN multi-photons (MPQNN) peut être augmentée indéfiniment en augmentant le nombre de photons ou s'il existe des limitations fondamentales. Cet article traite de la caractérisation quantitative de l'expressivité des MPQNN et de l'impact du nombre de photons ($n$), du nombre de modes ($m$) et du nombre de couches ($L$) sur l'erreur d'approximation.

Méthodologie
Les auteurs proposent un cadre pour les MPQNN implémentés sur des réseaux optiques linéaires, étendant l'architecture DRQNN à l'espace de Fock multi-photons.

1. Définition du Modèle : Le modèle consiste en une partie circuit avec ré-injection de données (alternance de blocs d'encodage via des déphaseurs et de blocs entraînables via des réseaux optiques linéaires unitaires universels) et une partie observable. L'entrée est un état de Fock $|n, 0, \dots, 0\rangle$ représentant $n$ photons identiques.
2. Caractérisation de l'Espace d'Hypothèses : Les auteurs dérivent l'espace d'hypothèses des MPQNN. Ils établissent que la fonction de sortie $h(x)$ est une composition d'un polynôme réel $g$ (déterminé par l'observable) et de polynômes trigonométriques $y_j$ (déterminés par les paramètres du circuit entraînables).
3. Dérivation de la Borne d'Erreur : L'étude analyse deux cas distincts basés sur la nature de l'observable mesurée :
   • Observable Fixe : Les poids des partitions du nombre de photons sont prédéterminés.
   • Observable Entraînable : Les poids sont optimisés parallèlement aux paramètres du circuit pendant l'entraînement.
     En utilisant l'inégalité de Jackson, les auteurs dérivent des bornes supérieures sur l'erreur d'approximation pour les deux cas, reliant l'erreur à la régularité de la fonction cible et aux paramètres $n, m, L$.
4. Simulation Numérique : Pour valider les résultats théoriques, les auteurs ont développé un algorithme de programmation dynamique pour simuler efficacement la distribution du nombre de photons de sortie des réseaux optiques pilotés par des états de Fock. Cette approche améliore l'algorithme de Ryser pour le calcul des permanents, réduisant la complexité du temps d'exécution.

Contributions Clés et Résultats
L'article fournit une analyse quantitative de la manière dont le nombre de photons affecte l'expressivité des MPQNN, produisant des résultats contrastés pour les observables fixes versus entraînables :

• Cas de l'Observable Fixe :

  • L'erreur d'approximation est bornée par $O((dL)^{-K})$, où $d = \min\{n, m-2\}$.
  • Effet de Seuil : Un seuil critique existe à $n = m-2$. En dessous de ce seuil, l'augmentation du nombre de photons améliore l'expressivité de manière polynomiale.
  • Limitation : Une fois que $n$ dépasse $m-2$, toute augmentation supplémentaire du nombre de photons n'améliore pas l'expressivité. Cela est dû au fait que le nombre de paramètres entraînables dans le réseau optique linéaire (dépendant uniquement de $m$ et $L$) devient insuffisant pour couvrir l'espace de fonctions de dimension supérieure généré par l'augmentation du nombre de photons.

• Cas de l'Observable Entraînable :

  • L'erreur d'approximation est bornée par $O(d^{-K})$, où $d = \min\{nL, \max\{(m-2)L, n\lfloor\frac{m-1}{2}\rfloor\}\}$.
  • Amélioration Continue : Contrairement au cas fixe, l'augmentation du nombre de photons améliore toujours l'expressivité du MPQNN, même sans modifier la structure du réseau optique linéaire. Lorsque $n \to \infty$, la borne d'erreur tend vers zéro.
  • Coût : Cette expressivité accrue se fait au prix de l'introduction de $\binom{n+m-1}{m-1}$ paramètres entraînables supplémentaires dans l'observable, ce qui croît exponentiellement avec $n$.

• Validation Numérique : Des simulations sur des tâches d'approximation de polynômes trigonométriques univariés confirment que la perte de test moyenne diminue à mesure que le nombre de photons et le nombre de couches augmentent, s'alignant sur les bornes théoriques.

Signification
Les auteurs affirment que ce travail élucide l'amélioration des performances et les limitations intrinsèques des caractéristiques multi-photons quantiques dans les QNN. En caractérisant quantitativement la relation entre le nombre de photons et l'expressivité, l'article offre des orientations pour l'implémentation des QNN sur des plateformes photoniques. Plus précisément, il clarifie que bien que les entrées multi-photons offrent des avantages, leur utilité est contrainte par l'architecture des blocs entraînables dans le scénario de l'observable fixe. Les conclusions suggèrent que pour tirer pleinement parti des avantages multi-photons, soit l'observable doit être entraînable, soit la structure du réseau doit être ajustée pour accommoder l'augmentation des degrés de liberté. Ce travail sert de référence pour comprendre les compromis entre le nombre de photons, le nombre de paramètres et la capacité d'approximation dans l'apprentissage automatique quantique.