qFHRR: Rethinking Fourier Holographic Reduced Representations through Quantized Phase and Integer Arithmetic

L'article présente qFHRR, une formulation de phase quantifiée des représentations holographiques réduites de Fourier qui remplace l'arithmétique à virgule flottante par des opérations modulaires entières uniquement afin de réduire considérablement l'empreinte mémoire et de permettre une implémentation matérielle efficace tout en préservant les propriétés algébriques et la structure de similarité haute fidélité du cadre original à valeurs complexes.

L'essentiel

Imaginez que vous possédiez une immense bibliothèque d'informations, et qu'au lieu d'utiliser des livres, vous stockiez tout dans de gigantesques toupies multicolores. Dans le monde de l'informatique, cela s'appelle les Représentations Réduites Holographiques de Fourier (FHRR).

Voici comment l'ancien système fonctionne :
Chaque « toupie » (ou vecteur de données) possède des milliers de petits cadrans. Pour stocker une information, vous réglez chaque cadran sur un angle spécifique d'un cercle (comme un cadran d'horloge). Pour combiner deux informations (comme « Rouge » + « Pomme »), vous faites tourner les cadrans des deux toupies et additionnez leurs angles. Pour les séparer plus tard, vous soustrayez les angles.

Le Problème :
L'ancienne méthode exige que ces cadrans soient incroyablement précis. Les ordinateurs doivent utiliser des mathématiques complexes et lourdes (nombres à virgule flottante) pour calculer ces angles exacts. C'est comme essayer de construire un robot qui ne peut fonctionner que s'il possède un superordinateur dans son cerveau. Cela consomme beaucoup d'énergie, occupe beaucoup de mémoire et est difficile à intégrer dans de petites puces peu coûteuses (comme celles des montres connectées ou des capteurs).

La Solution : qFHRR
Les auteurs de cet article ont introduit le qFHRR (FHRR Quantifié). Imaginez cela comme le remplacement d'un cadran d'horloge infini et lisse par un simple cadran numéroté.

Au lieu de permettre au cadran de pointer vers n'importe quel angle (comme 12,345 degrés), le qFHRR dit : « Choisissons simplement parmi une liste fixe de 8, 16 ou 32 emplacements spécifiques. »

• Ancienne méthode : « Pointez le cadran exactement sur 12,345 degrés. » (Nécessite des mathématiques complexes).
• Nouvelle méthode : « Pointez le cadran sur l'emplacement n°3. » (Nécessite un simple décompte).

Comment cela fonctionne en termes quotidiens :

1. L'analogie des « Lego » pour les mathématiques :
   Dans l'ancien système, combiner des informations ressemblait à mélanger deux liquides dans un bécher ; il faut des balances de précision et de la chimie pour obtenir le bon résultat.
   Dans le nouveau système qFHRR, combiner des informations ressemble à emboîter des briques Lego. Vous ajoutez simplement les chiffres inscrits sur les briques. Si vous avez une brique « 3 » et une brique « 5 », vous obtenez une brique « 8 ». Si vous dépassez la limite (disons que le cadran n'a que 8 emplacements), vous faites simplement un tour complet pour revenir au début (comme une horloge passant de 12 à 1). Cela s'appelle l'arithmétique modulaire, et c'est quelque chose qu'une simple calculatrice peut faire instantanément sans avoir besoin d'un superordinateur.

2. L'analogie du « Menu » pour la similarité :
   Pour vérifier si deux informations sont similaires, l'ancien système devait exécuter une danse complexe de trigonométrie.
   Le nouveau système utilise une Table de Recherche (comme un menu de restaurant). Au lieu de calculer la distance entre deux angles, l'ordinateur consulte simplement la réponse dans une liste pré-écrite. « Si j'ai l'emplacement n°3 et l'emplacement n°5, le score de similarité est X. » Pas de mathématiques requises, juste de la lecture.

Qu'ont-ils découvert ?
Les chercheurs ont testé ce nouveau système de « cadran numéroté » contre l'ancien système de « angle précis » :

• C'est minuscule : Ils ont réussi à réduire la taille des données de plus de 90 %. Au lieu de nécessiter 64 bits (un énorme bloc de mémoire) pour chaque élément de données, ils pouvaient se contenter de 3 ou 4 bits. C'est comme réduire un film Full HD à une toute petite vignette sans perdre l'intrigue.
• C'est précis : Même avec un cadran si petit et simple (seulement 8 emplacements), le système fonctionnait presque parfaitement. Il pouvait toujours combiner et séparer les informations aussi bien que la version complexe.
• Il conserve la carte : L'article a testé si ce système pouvait se souvenir de l'emplacement des objets dans l'espace (comme se souvenir où se trouvent une tasse, un livre et un stylo sur une table). Même avec des cadrans simplifiés, le système a maintenu la « carte spatiale » intacte. Il savait que la tasse était proche du livre et loin du stylo, tout comme la version complexe le faisait.

Pourquoi cela compte (selon l'article) :
L'article affirme qu'il ne s'agit pas seulement d'un tour de mathématiques ; c'est un moyen de faire fonctionner ces puissants systèmes de mémoire sur du matériel qui ne possède pas de superordinateurs. En passant des « mathématiques complexes » au « simple décompte d'entiers », ils rendent possible l'intégration de ce type de mémoire intelligente dans des appareils qui sont petits, peu coûteux et économes en énergie.

En résumé :
L'article prend une méthode de stockage d'informations haute technologie et lourde en mathématiques, et la simplifie en un « jeu de décompte ». Ils ont prouvé que vous n'avez pas besoin d'un moteur ultra-précis et coûteux pour conduire une voiture ; parfois, un système d'engrenages simple et efficace fonctionne tout aussi bien et tient dans un boîtier beaucoup plus petit.

Résumé technique

1. Énoncé du Problème

Les Représentations Réduites Holographiques de Fourier (FHRR) constituent un cadre majeur d'Architecture Symbolique Vectorielle (VSA) utilisé pour encoder des informations structurées à l'aide d'hypervecteurs de haute dimension et à valeurs complexes. Bien que les FHRR offrent des propriétés algébriques puissantes pour la mémoire compositionnelle et le raisonnement spatial, elles reposent sur une arithmétique à virgule flottante et des représentations de phase continues.

• Limites : Cette dépendance engendre une surcharge significative en termes de bande passante mémoire, de consommation énergétique et de complexité matérielle, rendant les FHRR inefficaces pour des environnements aux ressources contraintes (par exemple, matériel neuromorphique, FPGA, dispositifs de périphérie).
• Objectif : Les auteurs visent à développer une formulation des FHRR qui préserve leur structure algébrique et leurs propriétés géométriques tout en permettant un calcul exclusivement entier, réduisant ainsi l'empreinte mémoire et éliminant le besoin d'unités à virgule flottante.

2. Méthodologie : FHRR Quantifié (qFHRR)

Les auteurs proposent le qFHRR, une formulation de phase discrète qui reparamètre le domaine complexe continu en un ensemble fini d'indices de phase entiers.

Représentation de Base

• Discrétisation : Au lieu de représenter une dimension comme un phasor complexe continu $z_i = e^{j\theta_i}$ où $\theta_i \in [0, 2\pi)$, le qFHRR mappe chaque dimension vers un indice entier discret $q_i \in \{0, 1, \dots, K-1\}$.
• Mappage : La phase est définie comme $\theta_i = \frac{2\pi q_i}{K}$, où $K$ est le nombre de compartiments de phase. Cela crée une approximation quantifiée du cercle unité.

Implémentation des Opérations de Base

L'article démontre comment les opérations VSA standards sont transformées en arithmétique entière et en opérations de table de recherche (LUT) :

1. Liaison (Multiplication) :

   • FHRR Standard : Multiplication complexe élément par élément (addition de phase).
   • qFHRR : Addition entière modulaire.
   • Formule : $r_i = (q_{a,i} + q_{b,i}) \mod K$.

2. Déliaison (Division/Conjugué) :

   • FHRR Standard : Multiplication complexe conjuguée élément par élément (soustraction de phase).
   • qFHRR : Soustraction entière modulaire.
   • Formule : $\hat{q}_{a,i} = (r_i - q_{b,i}) \mod K$.

3. Similarité (Produit Scalaire) :

   • FHRR Standard : Similarité cosinus (Partie réelle du produit scalaire).
   • qFHRR : Calculée comme la moyenne des cosinus des différences de phase. Puisque la différence de phase est un entier, les valeurs de cosinus sont récupérées via une Table de Recherche (LUT) précalculée indexée par $(q_{a,i} - q_{b,i}) \mod K$.

4. Regroupement (Addition) :

   • Défi : L'addition vectorielle n'est pas close sous l'arithmétique modulaire.
   • Solution : Le processus implique :
     1. Le mappage des indices entiers vers des coordonnées cartésiennes $(x, y)$ en utilisant des LUT de sinus/cosinus (multipliées par un facteur entier $\alpha$).
     2. L'accumulation des composantes $x$ et $y$ (addition entière).
     3. La projection du vecteur résultant vers le compartiment de phase quantifié le plus proche en utilisant un algorithme CORDIC exclusivement entier (pour approximer atan2) et un arrondi.

3. Contributions Clés

• Algère Entière : Introduction du qFHRR, qui préserve la structure algébrique sous-jacente des FHRR complexes tout en permettant une implémentation utilisant uniquement l'arithmétique modulaire, l'accumulation entière et des LUT.
• Efficacité Matérielle : Élimination de la multiplication complexe à virgule flottante et des évaluations trigonométriques explicites, rendant le cadre adapté aux systèmes neuromorphiques et FPGA.
• Réduction de la Largeur de Bit : Démonstration que des représentations haute fidélité peuvent être obtenues avec des largeurs de bit drastiquement réduites (aussi basses que 3–4 bits par dimension) par rapport à la représentation complexe standard de 64 bits.
• Préservation de la Structure Spatiale : Preuve que le qFHRR maintient la structure de similarité spatiale induite par la liaison fractionnée (mise à l'échelle de phase), permettant un encodage et une récupération précis de la mémoire multi-objets malgré la quantification.

4. Résultats

Les auteurs ont évalué le qFHRR par rapport à la référence FHRR complexe au niveau de la fidélité des opérateurs et de l'encodage spatial au niveau de la représentation.

• Fidélité de Quantification :

  • La similarité entre le qFHRR et le FHRR complexe augmente de manière monotone avec la résolution de phase ($K$).
  • Performance à Faible Largeur de Bit : À $K=8$ (3 bits/dimension), la similarité de liaison dépasse 0,94 et la similarité de regroupement dépasse 0,91, représentant une réduction d'environ 95 % de la taille de la représentation.
  • Rendements Décroissants : Au-delà de $K=16$ (4 bits), la performance approche un accord quasi parfait (similarité > 0,98) avec la référence complexe.

• Encodage Spatial (Liaison Fractionnée) :

  • Le système a été testé sur une tâche de mémoire spatiale multi-objets.
  • Qualitatif : Même à basse résolution ($K=8$), le qFHRR a réussi à préserver l'emplacement des réponses maximales et les gradients de similarité environnants.
  • Quantitatif : L'Erreur Quadratique Moyenne (RMSE) entre les cartes de similarité quantifiées et complexes a diminué à mesure que $K$ augmentait. Crucialement, l'emplacement de la réponse maximale est resté stable à travers les niveaux de quantification, prouvant la préservation de la structure compositionnelle.

5. Signification et Impact

• Évolutivité : Le qFHRR offre une alternative évolutive aux FHRR complexes, réduisant considérablement l'empreinte mémoire et permettant le déploiement sur du matériel où les unités à virgule flottante sont indisponibles ou trop gourmandes en énergie.
• Compatibilité Neuromorphique : La formulation d'index de phase discrète s'aligne naturellement avec les réseaux de neurones à spikes où la phase est encodée via le timing des spikes, comblant le fossé entre les VSA algébriques et la plausibilité biologique/neuromorphique.
• Déploiement Pratique : En permettant une arithmétique entière efficace, le qFHRR facilite l'intégration de modèles d'IA structurés et compositionnels dans des dispositifs de périphérie, des capteurs IoT et des puces neuromorphiques spécialisées, sans sacrifier la capacité à effectuer un raisonnement complexe ou une cartographie spatiale.

En conclusion, l'article établit que la quantification ne dégrade pas nécessairement l'utilité algébrique ou géométrique des FHRR. En passant des nombres complexes continus aux indices de phase discrets, le qFHRR atteint une représentation hautement efficace et adaptée au matériel qui conserve les forces fondamentales des architectures symboliques vectorielles.