Résumé Technique : HERO-SNN

Énoncé du Problème

Les données cérébrales spatiotemporelles, telles que l'électroencéphalographie (EEG) et l'imagerie par résonance magnétique fonctionnelle (IRMf), présentent des dynamiques temporelles complexes et une activité spatiale distribuée qui sont difficiles à modéliser. Bien que les réseaux de neurones à impulsions (SNN - Spiking Neural Networks) offrent un cadre biologiquement plausible pour représenter ces dynamiques via un traitement par impulsions, les mécanismes d'apprentissage non supervisés standards comme la plasticité dépendant du temps de l'intervalle entre les impulsions (STDP - Spike-Timing-Dependent Plasticity) opèrent purement sur la chronologie locale des impulsions. Par conséquent, les représentations internes formées par la STDP sont agnostiques à la tâche ; elles capturent les corrélations générales du signal mais ne s'alignent pas explicitement sur les objectifs de classification ou la pertinence comportementale.

Lorsque les SNN entraînés par STDP sont couplés à des couches de lecture supervisées (par exemple, deSNN), la connectivité interne reste statique après l'entraînement non supervisé. Cela signifie que le réseau peut préserver les caractéristiques dominantes du signal tout en échouant à capturer les motifs subtils et discriminants essentiels à des états cognitifs ou cliniques spécifiques. De plus, le résultat de la classification n'influence pas la structure synaptique interne, laissant un fossé entre l'apprentissage de la représentation spatiotemporelle non supervisée et l'optimisation pilotée par la tâche. Les méthodes de SNN existantes, basées sur l'apprentissage supervisé ou par renforcement, sacrifient souvent la plausibilité biologique (localité) pour atteindre la performance de la tâche, ou échouent à affiner les représentations internes en fonction des résultats de la tâche.

Méthodologie : HERO-SNN

Pour répondre à ces limitations, les auteurs proposent HERO-SNN (Homeostatic Eligibility-based Reward-Optimised Spiking Neural Network). Ce cadre étend l'architecture NeuCube existante en introduisant une troisième phase d'apprentissage qui affine la connectivité synaptique interne en fonction de la performance de la tâche, tout en préservant l'apprentissage local par impulsions. La méthodologie se compose de trois phases distinctes :

1. Apprentissage Spatiotemporel Non Supervisé

• Encodage des Données : Les signaux EEG sont convertis en trains d'impulsions en utilisant une méthode d'encodage temporel basée sur un seuil. Une impulsion est générée lorsque le changement de l'amplitude du signal dépasse un seuil prédéfini ($\theta$).
• Cartographie du Réseau : Les caractéristiques d'entrée (canaux EEG) sont mappées vers un réservoir SNN 3D basé sur des coordonnées anatomiques (ex: atlas de Talairach). Le réseau est initialisé avec une connectivité de type "petit monde" (small-world), imitant les systèmes biologiques avec un mélange de connexions excitatrices et inhibitrices.
• Apprentissage STDP : Les poids synaptiques sont mis à jour à l'aide de règles STDP non supervisées, permettant au réseau de s'auto-organiser selon les corrélations temporelles des données d'entrée.

2. Apprentissage Supervisé (deSNN)

• Après l'entraînement par STDP, les poids synaptiques du réservoir sont gelés.
• Un réseau de neurones à impulsions évolutif dynamique (deSNN) est entraîné pour associer les motifs spatiotemporels appris aux étiquettes de classe. Des neurones prototypes sont créés pour chaque classe, et les connexions sont initialisées par apprentissage d'ordre de rang (Rank Order learning, RO), où les impulsions précoces portent une importance plus élevée.

3. Affinement Sensible à la Tâche (HERO-SNN)

Cette nouvelle phase introduit une boucle de rétroaction où la confiance de la classification module les mises à jour synaptiques internes. Le processus comprend :

• Propagation Avant & Calcul de Confiance : Les échantillons d'entraînement sont rejoués à travers le SNN entraîné. Un neurone de sortie temporaire estime le vecteur de confiance de la classe ($p_c(s)$) en comparant le motif d'impulsion actuel aux neurones prototypes stockés.
• Signal d'Optimisation : Un signal d'optimisation scalaire ($O$) est calculé comme la différence entre la confiance de la classe réelle et la classe prédite. Ce signal indique si la représentation interne soutient ou entre en conflit avec le résultat correct de la tâche.
• Traces d'Éligibilité : Pour identifier quelles synapses ont contribué à la décision actuelle, une trace d'éligibilité ($e_{ij}$) est maintenue pour chaque synapse. Cette trace enregistre les synapses activées pendant la propagation de l'impulsion de l'échantillon rejoué.
• Affinement Synaptique : Les poids synaptiques sont mis à jour en utilisant le signal d'optimisation et la trace d'éligibilité : $\Delta w_{ij} = \eta \cdot O(s) \cdot e_{ij}(t)$. Cela renforce ou affaiblit sélectivement les synapses impliquées dans les voies pertinentes pour la tâche.
• Régulation Homéostatique : Pour éviter des dynamiques de réseau instables (ex: une décharge excessive ou un silence) causées par des mises à jour de poids répétées, un mécanisme homéostatique adapte le seuil de décharge ($V_{th}$) de chaque neurone. Si un neurone décharge au-dessus d'un taux cible, son seuil augmente (réduisant l'excitabilité) ; s'il décharge en dessous, son seuil diminue. Cela garantit une activité d'impulsion éparse et stable tout en permettant l'adaptation.

Contributions Clés

1. Affinement Interne Sensible à la Tâche : Contrairement aux approches hybrides où seule la couche de lecture est supervisée, HERO-SNN permet aux représentations spatiotemporelles internes du SNN d'être affinées sur la base du retour d'information de la tâche.
2. Intégration de Signaux Locaux et Globaux : Le cadre parvient à combler le fossé entre les règles d'apprentissage biologique locales (STDP, traces d'éligibilité) et les objectifs globaux de la tâche (confiance du classificateur) sans abandonner la localité basée sur les impulsions.
3. Stabilité Homéostatique : L'inclusion de l'adaptation du seuil homéostatique garantit que le réseau maintient des dynamiques de décharge stables pendant le processus d'affinement, évitant l'instabilité souvent associée à la plasticité modulée par la récompense.
4. Interprétabilité : En affinant les voies spécifiques en fonction de la pertinence de la tâche, le modèle améliore l'interprétabilité des représentations neurales internes.

Résultats Expérimentaux

Le cadre a été validé à l'aide d'un ensemble de données EEG de référence provenant d'une étude d'intervention de type Havening, distinguant un protocole de toucher protecteur (H+) d'un protocole sans toucher (H−).

• Jeu de Données : 276 échantillons EEG spatiotemporels (64 canaux, 512 points temporels) provenant de 23 participants, divisés en ensembles d'entraînement et de test au niveau du participant pour assurer la généralisabilité.
• Performance :
  • HERO-SNN a atteint une précision de classification de 91,30 % (F1-score : 0,91).
  • Le modèle de base STDP+deSNN (sans affinement) a atteint une précision de 84,62 %.
  • Cela représente une amélioration de 11 % de la précision par rapport à l'approche non supervisée standard.
  • HERO-SNN a surpassé les modèles de deep learning de pointe, incluant le CNN (83,64 %) et le LSTM (69,05 %), sous les mêmes conditions de division par participant.
• Analyse : Les résultats ont indiqué que le processus d'affinement a conduit à des changements localisés de la connectivité, renforçant sélectivement les synapses pertinentes pour la tâche tout en préservant la structure globale apprise lors de la STDP.

Signification et Revendications

L'article affirme que l'incorporation du retour d'information de la tâche directement dans l'adaptation des représentations neurales spatiotemporelles internes améliore considérablement à la fois la performance de la classification et l'interprétabilité du modèle. Les auteurs soutiennent que HERO-SNN démontre que les SNN peuvent aller au-delà de l'apprentissage de structure purement non supervisé pour atteindre une optimisation spécifique à la tâche tout en maintenant la plausibilité biologique grâce à des règles d'apprentissage locales et une régulation homéostatique.

L'étude suggère que cette approche est particulièrement précieuse pour les signaux cérébraux de haute dimension et bruités (comme l'EEG) où l'information pertinente est souvent faible et distribuée. En affinant la connectivité interne pour mieux capturer les motifs discriminants, le modèle surmonte les limitations de la STDP standard, qui échoue souvent à s'aligner avec des états cognitifs ou cliniques spécifiques. Les auteurs positionnent HERO-SNN comme un cadre robuste applicable à d'autres types de données spatiotemporelles, telles que les séries temporelles d'IRMf, pour des applications de santé mentale et neurologiques.