Forward-Forward Autoencoder Architectures for Energy-Efficient Wireless Communications

1. Problématique et Contexte

L'application de l'apprentissage profond aux systèmes de communication a connu un essor récent, visant à surmonter les limitations des modèles mathématiques traditionnels et du traitement par blocs. Cependant, l'algorithme de référence, la rétropropagation du gradient (Backpropagation - BP), présente des obstacles majeurs pour son déploiement dans les systèmes de communication réels :

• Exigence de différentiabilité : La BP nécessite un chemin entièrement différentiable à travers le réseau. Or, dans les canaux réels (ou avec des modulations fixes comme le BPSK), les opérations ne sont pas différentiables. Des solutions de contournement (comme les estimateurs "Straight-Through" ou l'apprentissage par renforcement avec boucle de rétroaction) sont souvent complexes et coûteuses.
• Inefficacité énergétique et mémoire : La BP exige le stockage des dérivées partielles de chaque nœud lors du passage arrière (backward pass) pour calculer les gradients. Cela consomme beaucoup de mémoire et d'énergie, rendant difficile l'implémentation sur du matériel analogique ou neuromorphique (comme les mémoires résistives) où le stockage de ces dérivées est problématique.
• Verrouillage temporel (Locking) : Dans la BP, toutes les couches doivent attendre que le calcul du gradient de la couche suivante soit terminé avant de pouvoir se mettre à jour, ce qui empêche un entraînement pipeline efficace.

L'article propose d'utiliser l'algorithme Forward-Forward (FF) comme alternative efficace à la BP pour entraîner des autoencodeurs de bout en bout destinés aux communications sans fil.

2. Méthodologie

Les auteurs conçoivent et entraînent des autoencodeurs (composés d'un encodeur et d'un décodeur) en utilisant l'algorithme FF, qui s'inspire des mécanismes biologiques d'apprentissage hebbien et évite le passage arrière global.

Architecture du Réseau :

• Le système est un autoencodeur avec des couches entièrement connectées (MLP).
• L'encodeur transforme un message binaire (représentation one-hot) en un vecteur de transmission.
• Le canal (AWGN ou Rayleigh) est modélisé comme une boîte noire non différentiable.
• Le décodeur récupère le message original.
• Une couche de classification finale (Softmax) est utilisée pour estimer la probabilité du message décodé.

Algorithme d'Entraînement FF :
Contrairement à la BP qui utilise une seule passe avant suivie d'une passe arrière, l'algorithme FF effectue deux passes avant distinctes pour chaque lot de données :

1. Passage Positif : Le réseau reçoit une entrée où le message réel est concaténé à lui-même ($v = [1_m, 1_m]$). L'objectif est d'augmenter l'activité (mesurée par une métrique de "bonté" $g_i = ||a_i||^2$) dans chaque couche.
2. Passage Négatif : Le réseau reçoit une entrée où le message réel est concaténé à un faux message ($v = [1_m, 1_{\bar{m}}]$). L'objectif est de diminuer l'activité dans chaque couche.
3. Passage Neutre (pour la classification) : Une entrée avec un vecteur nul est utilisée pour entraîner la couche de classification finale via une perte d'entropie croisée catégorielle (CCE).

Fonction de Perte par Couche :
Chaque couche $i$ possède sa propre fonction de perte basée sur une métrique de "bonté" ($g_i$) comparée à un seuil $\tau_i$. La perte est calculée via une fonction softplus :

• Pour les données positives : Minimiser la perte si $g_i > \tau_i$.
• Pour les données négatives : Minimiser la perte si $g_i < \tau_i$.
  Cela permet un ajustement des paramètres couche par couche sans besoin de gradients globaux.

3. Contributions Clés

1. Première application FF aux communications : Conception d'autoencodeurs de bout en bout pour les communications sans fil entraînés exclusivement avec l'algorithme FF.
2. Gestion des canaux non différentiables : Démonstration que l'algorithme FF fonctionne nativement avec des canaux réels et des opérations de quantification (modulation fixe) sans nécessiter d'estimateurs de gradient approximatifs ni de boucle de rétroaction.
3. Analyse comparative approfondie : Évaluation numérique des performances (Taux d'Erreur de Bloc - BLER) par rapport aux systèmes entraînés par BP et par apprentissage par renforcement (BP-RL) sur des canaux AWGN et Rayleigh.
4. Étude de la complexité matérielle : Analyse théorique des gains en temps de traitement et en consommation mémoire, soulignant l'avantage du FF pour les implémentations matérielles (analogiques/neuromorphiques).

4. Résultats Numériques

Les simulations ont été menées sur des canaux à bruit blanc additif gaussien (AWGN) et à évanouissement par blocs de Rayleigh (RBF) avec un code de taux $R=4/7$.

• Performance (BLER) :
  • Canaux AWGN : Les autoencodeurs FF atteignent des performances proches de ceux entraînés par BP, avec un léger écart de SNR (~1 dB) aux taux d'erreur très faibles.
  • Canaux Rayleigh : Le FF est compétitif avec la BP.
  • Sorties Quantifiées (Modulation BPSK) : C'est ici que le FF excelle. Alors que la BP nécessite des approximations de gradient (STE) qui dégradent les performances, et que la BP-RL peine à converger, l'autoencodeur FF surpasse les approches basées sur la BP dans le scénario RBF avec quantification. Il ne nécessite aucune modification pour gérer la non-différentiabilité.
• Convergence :
  • L'algorithme FF converge aussi vite, voire plus vite, que la BP et nettement plus vite que les méthodes RL pour atteindre un niveau d'erreur donné.
  • Les réseaux FF semblent nécessiter des couches plus larges (plus de neurones) pour atteindre des performances équivalentes à la BP, mais cela reste gérable.
• Efficacité Algorithmique :
  • Temps de traitement : La BP nécessite $2N$ unités de temps pour $N$ couches (passe avant + passe arrière séquentielle), tandis que le FF peut être pipeliné et nécessite environ $N+1$ étapes.
  • Mémoire : Le FF élimine le besoin de stocker les gradients intermédiaires, réduisant considérablement l'empreinte mémoire, un facteur critique pour le matériel à faible puissance.

5. Signification et Conclusion

Ce travail démontre que l'algorithme Forward-Forward est une alternative viable et prometteuse à la rétropropagation pour les systèmes de communication basés sur l'apprentissage profond.

• Avantages majeurs : Il permet l'entraînement de réseaux sur des canaux non différentiables sans boucle de rétroaction, offre une économie significative de mémoire et d'énergie, et permet un entraînement en pipeline (pas de verrouillage arrière).
• Implications matérielles : Ces propriétés rendent l'approche FF particulièrement adaptée aux futures implémentations matérielles neuromorphiques et analogiques (ex: mémoires résistives), où l'efficacité énergétique est primordiale.
• Perspectives : Bien que l'algorithme soit sensible aux hyperparamètres et nécessite parfois des réseaux plus larges, il ouvre la voie à des codes neuronaux plus robustes et économes en énergie, capables de s'adapter à des environnements de communication complexes et non modélisables analytiquement.

En résumé, cette étude valide le potentiel de l'apprentissage "Forward-Forward" pour révolutionner la conception des systèmes de communication physique, en particulier dans le contexte de l'efficacité énergétique et de l'adaptabilité aux contraintes matérielles réelles.