Toward Practical Equilibrium Propagation: Brain-inspired Recurrent Neural Network with Feedback Regulation and Residual Connections
Ce papier présente FRE-RNN, un réseau de neurones récurrent biologiquement plausible intégrant une régulation par rétroaction et des connexions résiduelles, qui surmonte l'instabilité et les coûts computationnels élevés de la propagation d'équilibre, atteignant des vitesses de convergence et des performances comparables à la rétropropagation tout en permettant un apprentissage inspiré du cerveau à grande échelle et pratique.