Résumé Technique : Traitement du Langage Naturel Compositionnel Quantique pour l'Arabe

Énoncé du Problème

Les modèles classiques de traitement du langage naturel (NLP), particulièrement ceux basés sur les plongements de mots (word embeddings) et les transformeurs, traitent souvent les phrases comme des « sacs de mots », délaissant l'ordre des mots et s'appuyant sur des statistiques de cooccurrence lexicale. Bien qu'efficace pour les langues à syntaxe rigide, cette approximation échoue sévèrement pour l'arabe, une langue morphologiquement riche dotée d'un ordre des mots libre (permettant les structures Sujet-Verbe-Objet, Verbe-Sujet-Objet et Nominale) et d'un système complexe de morphologie par racine et schéma (root-and-pattern).

L'article postule que la complexité structurelle de l'arabe constitue un banc d'essai unique pour le Traitement du Langage Naturel Compositionnel Quantique (QNLP). Plus précisément, il examine si le cadre DisCoCat (Discourse Compositional Category), qui mappe la structure grammaticale à la topologie du circuit quantique, peut encoder l'information structurelle d'une manière causalement distincte des modèles lexicaux classiques. Le défi central est de démontrer que les circuits quantiques peuvent distinguer des phrases possédant un vocabulaire identique mais des structures grammaticales différentes, et que cette distinction provient de la topologie et de l'intrication du circuit plutôt que des paramètres lexicaux appris.

Méthodologie

Cadre Théorique

Le système utilise la grammaire de prégroupe, un formalisme de type théorique où les mots se voient assigner des types grammaticaux (par exemple, les noms en tant que $n$, les verbes transitifs en tant que $n^r \otimes s \otimes n^l$). Une phrase est grammaticale si le produit tensoriel de ses types de mots se réduit à un type de phrase $s$ via des opérations de « cup ». Dans le contexte quantique (DisCoCat), ces diagrammes de cordes sont compilés en circuits quantiques :

• Les mots deviennent des registres de qubits.
• Les dépendances grammaticales deviennent des portes d'intrication.
• Le sens de la phrase est un résultat de mesure.

Crucialement, l'article exploite la correspondance formelle entre la morphologie par racine et schéma de l'arabe (où les racines consonantiques et les schémas vocaliques opèrent sur des flux d'informations parallèles) et les produits tensoriels quantiques (la formalisation de la composition parallèle).

Architecture du Pipeline

Les auteurs ont développé un pipeline personnalisé pour connecter l'arabe aux circuits quantiques, répondant à des défis tels que l'écriture de droite à gauche, la clitisation et la variabilité de l'ordre des mots :

1. Analyse Morphologique et Syntaxique : Utilise CAMeL Tools pour les caractéristiques morphologiques (racine, schéma, aspect) et Stanza pour l'analyse de dépendance.
2. Détection de Structure : Classifie les phrases en SVO, VSO ou Nominale.
3. Construction de Diagramme : Un module personnalisé (arabic_dep_reader.py) génère des diagrammes de prégroupe. Notamment, les phrases VSO nécessitent une opération de permutation (Swap) dans le diagramme pour aligner les types de verbes ($s \otimes n^l \otimes n^l$) avec leurs arguments, créant un circuit topologiquement distinct par rapport aux phrases SVO ($n \otimes (n^r \otimes s \otimes n^l)$).
4. Compilation de Circuit : Les diagrammes sont compilés en circuits IQP (Instantaneous Quantum Polynomial) en utilisant la bibliothèque lambeq.
   • L0 (Profondeur 0) : Pas de portes d'intrication ; les qubits de mots évoluent indépendamment.
   • L1/L2 : Des portes de rotation contrôlée-Z paramétrées introduisent l'intrication.
5. Évaluation : Deux stratégies sont employées :
   • Carte de Caractéristiques Quantiques (QFM) : Les paramètres sont fixés aux valeurs d'embedding des mots ; un SVM classifie le résultat.
   • SPSA (Simultaneous Perturbation Stochastic Approximation) : Entraînement complet de bout en bout des paramètres du circuit.

Design Expérimental

Trois expériences contrôlées ont été menées pour isoler des propriétés structurelles spécifiques :

1. Ordre des Mots (Expérience 1) : Une tâche de classification binaire (SVO vs VSO) utilisant 120 paires de phrases appariées. Crucialement, les trois mêmes mots apparaissent dans les deux ordres, garantissant que tout modèle dépassant 50 % de précision doit s'appuyer sur l'information structurelle et non sur l'identité lexicale.
2. Temps Morphologique (Expérience 2) : Classification binaire des verbes au Passé vs Présent, où le signal est principalement lexical (formes de surface différentes).
3. Désambiguïsation du Sens des Mots (Expérience 3) : Un jeu de données contrôlé par le vocabulaire de 200 phrases impliquant quatre verbes polysémiques. La conception utilise des paires exactes et des réservoirs de sujets/objets partagés pour isoler les signaux de désambiguïsation structurelle des signaux lexicaux.

Contributions Clés

1. Premier Système QNLP Arabe : L'implémentation d'un système QNLP basé sur la grammaire de prégroupe pour l'arabe, incluant des règles grammaticales spécifiques pour les structures SVO, VSO et Nominale, ainsi qu'un pipeline intégrant des analyseurs morphologiques arabes à des compilateurs de circuits quantiques.
2. Ablation Causale de l'Intrication : Une expérience contrôlée démontrant que l'intrication paramétrée est la seule cause des gains de performance dans les tâches structurelles.
   • Baseline L0 : Les circuits avec la topologie grammaticale mais sans intrication ont atteint exactement 50,0 % de précision sur la tâche d'ordre des mots par paires appariées avec une variance nulle sur tous les seeds et folds. Cela prouve que sans intrication, le circuit ne peut pas encoder les différences structurelles au niveau de la phrase, malgré la différence topologique du diagramme.
   • Résultat L1 : L'ajout d'une seule couche de portes d'intrication a porté la précision à 64,9 % (moyenne ± 3,2 % d'écart-type). Le gain de 15 points de pourcentage est attribué causalement à l'intrication.
3. Jeu de Données WSD Contrôlé par le Vocabulaire : La création du premier jeu de données de désambiguïsation du sens des mots en arabe utilisant des paires appariées et des réservoirs lexicaux partagés pour tester rigoureusement les signaux structurels versus lexicaux.
4. Caractérisation de l'Inversion de Label SPSA : L'identification d'un phénomène où l'entraînement SPSA converge vers une solution inversée (séparation correcte, orientation erronée) dans les tâches binaires symétriques. L'article démontre que l'encodage par qubit ancillaire (traiter un ancilla pour produire une matrice de densité) réduit mesurablement ce taux d'inversion (par exemple, de 99 % à 23 % sur la tâche du verbe qata'a).

Résultats

• Ordre des Mots :

  • AraVec (Sac de mots) : 12,8 % (en dessous du hasard en raison de corrélation anti-spurieuse dans les paires appariées).
  • Topologie Seule (0 paramètre) : 35,8 % (brut), ce qui implique 64,2 % de précision après correction pour une frontière de décision inversée, confirmant que le signal topologique existe mais est difficile d'accès sans intrication.
  • QFM L0 : 50,0 % (Variance nulle ; théorème structurel).
  • QFM L1 : 64,9 % (IC [62,8, 66,3]).
  • AraBERT (Fine-tuné) : 100 % (Borne supérieure Oracle, reposant sur les encodages positionnels).
  • Courbes d'Apprentissage : À mesure que les données d'entraînement augmentaient, la performance de QFM L1 s'améliorait (56 % $\to$ 67 %), tandis que celle d'AraVec se dégradait (46 % $\to$ 19 %), confirmant que le modèle quantique extrait des signaux structurels là où les modèles classiques échouent sur les paires appariées.

• Temps Morphologique :

  • Les modèles classiques (AraVec : 87 %) ont surpassé les modèles quantiques (QFM : 56 %, SPSA : 46,8 %). Cela confirme que lorsque le signal est lexical (formes de mots différentes), les plongements classiques sont supérieurs, et la topologie du circuit quantique est moins informative pour cette tâche spécifique.

• Désambiguïsation du Sens des Mots (WSD) :

  • Les résultats ont été mitigés. QFM a généralement performé près du hasard (47,4 % groupé), car le signal structurel pour la désambiguïsation du sens est encodé dans les valeurs des paramètres plutôt que dans la topologie.
  • SPSA a obtenu une performance supérieure au hasard après correction symétrique (ex: 79,5 % pour qata'a), démontant que l'entraînement peut aligner le circuit avec les subtiles caractéristiques de la structure des arguments.
  • L'encodage par ancilla a significativement réduit les taux d'inversion de label SPSA sur les tâches symétriques.

Signification et Revendications

L'article affirme que sa principale importance ne réside pas dans le fait de surpasser les modèles classiques de pointe (que AraBERT fait aisément), mais dans la fourniture d'un signal structurel identifiable, interprétable et causal qui est fondamentalement différent des mécanismes classiques.

1. Distinction Mécaniste : L'ablation L0 à variance nulle prouve que la capacité du circuit quantique à distinguer l'ordre des mots n'est pas un artefact de l'apprentissage de statistiques lexicales, mais une conséquence directe de l'intrication agissant sur une topologie dérivée de la grammaire.
2. Justification Théorique pour l'Arabe : L'article soutient que l'arabe est la langue idéale pour le QNLP car sa morphologie par racine et schéma correspond formellement à une composition parallèle (automates à bandes multiples), qui se mappe naturellement aux produits tensoriels quantiques. Cet alignement structurel est unique parmi les langues actuellement présentes dans la littérature QNLP.
3. Potentiel pour les Ressources Faibles : En encodant la connaissance structurelle dans la topologie du circuit plutôt qu'en s'appuyant sur de massifs corpus d'entraînement, le QNLP offre une voie pour un NLP arabe de haute qualité dans des conditions de faibles ressources.
4. Rigueur Méthodologique : L'introduction de l'évaluation contrôlée par le vocabulaire et la caractérisation des taux d'inversion SPSA répondent à des failles spécifiques des benchmarks NLP existants et des pratiques d'optimisation.

Les auteurs concluent que bien que la précision brute soit modeste comparée aux transformeurs fine-tunés, les résultats offrent un « signal structurel mesurable, interprétable et causalement identifié » qui relie la tradition grammaticale arabe à la mécanique quantique, jetant les bases pour de futures expériences matérielles et des architectures de tenseurs morphologiques.