Timing-Based Backpropagation in Spiking Neural Networks Without Single-Spike Restrictions

Resumo Técnico: Retropropagação Baseada em Tempo em Redes Neurais de Spikes sem Restrições de Spike Único

Declaração do Problema
Redes Neurais de Spikes (SNNs) oferecem um framework biologicamente plausível para processamento de informações ao codificar dados em tempos precisos de spikes. No entanto, o aprendizado supervisionado em SNNs enfrenta desafios significativos, principalmente a não diferenciabilidade da função binária de spike. Abordagens existentes geralmente se enquadram em duas categorias:

1. Métodos baseados em taxa: Estes aproximam gradientes usando gradientes substitutos (SG) e discretização temporal. Embora eficazes, frequentemente falham em capturar propriedades exatas de codificação temporal, tratando spikes mais como funções de ativação contínuas.
2. Métodos baseados em tempo: Estes calculam gradientes exatos baseados no tempo do spike (por exemplo, SpikeProp, Mostafa). No entanto, métodos baseados em tempo convencionais tipicamente impõem uma restrição de spike único, onde cada neurônio dispara no máximo uma vez por padrão de entrada (muitas vezes usando codificação Tempo-Até-O-Primeiro-Spike ou TTFS). Esta restrição limita a capacidade computacional das SNNs e contradiz evidências biológicas que sugerem que a disparidade de múltiplos spikes é essencial para uma codificação neural eficiente. Tentativas anteriores de estender o aprendizado baseado em tempo para cenários de múltiplos spikes não demonstraram desempenho superior a modelos restritos a spike único.

Metodologia
Os autores propõem um algoritmo de retropropagação inovador para SNNs feedforward que permite que neurônios disparem múltiplas vezes, mantendo o cálculo exato de gradientes baseado exclusivamente no tempo do spike, sem depender de gradientes substitutos ou aproximações heurísticas.

• Modelo de Neurônio: O estudo utiliza o modelo Leaky Integrate-and-Fire (LIF) em tempo contínuo. Uma distinção crítica em relação a alguns estudos existentes de múltiplos spikes é o mecanismo de reset: apenas o potencial de membrana é resetado para zero ao disparar, enquanto a corrente pós-sináptica não é resetada. Isso preserva o histórico de entradas sinápticas, permitindo que informações passadas influenciem spikes futuros dentro do mesmo neurônio.
• Formulação Matemática:
  • Os autores definem dois conceitos de ordem de spike: ordem local de spikes (a sequência de spikes para um único neurônio) e ordem global de spikes (a sequência de todos os spikes em uma camada).
  • Ao transformar o tempo $t$ em uma variável $z = \exp(t/\tau_I)$, as equações diferenciais que governam o potencial de membrana e a corrente são convertidas em formas algébricas. Isso permite o cálculo explícito e analítico do próximo tempo de spike $z^{(n+1)}_j$ com base nos tempos de spikes anteriores e nos pesos sinápticos.
  • A passagem direta calcula os tempos de spikes sequencialmente. A passagem reversa propaga erros através desses tempos de spikes exatos, incluindo os "caminhos de reset" (gradientes fluindo através do reset do potencial de membrana), que são frequentemente ignorados em métodos de gradiente substituto.
• Funções de Perda:
  • Perda de Potencial de Membrana: Para classificação, o potencial de membrana dos neurônios de saída é observado em um tempo final pré-definido $t_{out}$ (sem disparo), e a entropia cruzada é calculada.
  • Perda de Penalidade para Neurônios Mortos: Para abordar a questão dos "neurônios mortos" (neurônios que nunca disparam devido a inicialização inadequada, tornando-os não treináveis em métodos baseados em tempo), uma perda de penalidade é introduzida. Esta perda penaliza neurônios que falham em disparar para um número suficiente de padrões de entrada, efetivamente trazendo-os de volta ao processo de aprendizado.
• Eficiência: Um algoritmo particionado em duas etapas é proposto para lidar com a intensidade computacional e de memória da dinâmica em tempo contínuo. Esta abordagem desacopla o cálculo de passos de tempo específicos, permitindo processamento paralelo baseado em contagens de spikes, otimizado para execução em GPU/TPU.

Principais Contribuições

1. Retropropagação Exata de Múltiplos Spikes: O artigo apresenta o primeiro algoritmo de aprendizado supervisionado para SNNs de múltiplos spikes que calcula gradientes exatos usando apenas o tempo do spike, eliminando a necessidade de gradientes substitutos ou aproximações baseadas em taxa.
2. Benchmarks de Desempenho: Utilizando o conjunto de dados MNIST, os autores demonstram que SNNs de múltiplos spikes treinadas com este método superam SNNs baseadas em tempo restritas a spike único existentes e alcançam precisão comparável a Redes Neurais Artificiais (ANNs) não convolucionais e SNNs baseadas em taxa.
3. Caracterização das Constantes de Tempo de Vazamento: O estudo revela uma relação única entre a constante de tempo de vazamento sináptico ($\tau_I$) e o desempenho da rede em SNNs de múltiplos spikes. Ao contrário de modelos de spike único, redes de múltiplos spikes exibem uma constante de tempo de vazamento ótima (encontrada como $\tau_I = 0.8$ em seus experimentos) que maximiza a precisão de teste.
4. Dinâmica de Contagem de Spikes: A pesquisa mostra que a distribuição de contagens de spikes por neurônio é altamente sensível às constantes de vazamento. Constantes de tempo menores (maior vazamento) levam a contagens médias de spikes mais altas e a uma mudança para distribuições multimodais, enquanto constantes de tempo maiores fazem a rede convergir para uma contagem de spikes mais baixa e estável.

Resultados

• Precisão: No conjunto de dados MNIST (arquitetura 784-400-10), a SNN baseada em tempo de múltiplos spikes proposta alcançou uma precisão de teste de 98,43 ± 0,05% com uma constante de vazamento ótima. Isso supera os melhores resultados baseados em tempo de spike único (97,96%) e é comparável a SNNs baseadas em taxa e ANNs de última geração.
• Parâmetros Ótimos: Os experimentos identificaram um ótimo claro para a constante de tempo de vazamento em redes de múltiplos spikes. Em contraste, redes de spike único mostraram uma convergência monótona sem um pico distinto de desempenho em relação à constante de vazamento.
• Esparsidade: SNNs de múltiplos spikes foram encontradas mais esparsas (menos spikes por neurônio em média) do que SNNs restritas a spike único em uma ampla gama de constantes de vazamento, sugerindo uma codificação de informações mais eficiente.

Significado e Alegações
O artigo afirma fornecer uma base sólida para aprendizado baseado em gradiente em SNNs baseadas em tempo, removendo a restrição artificial de spike único. Os autores argumentam que seu método:

• Valida a Plausibilidade Biológica: Ao permitir múltiplos spikes e calcular gradientes exatos, o modelo reflete melhor sistemas neurais biológicos onde a informação é codificada no tempo de múltiplos spikes.
• Melhora a Capacidade Computacional: A extensão para disparo de múltiplos spikes aumenta naturalmente a capacidade de processamento de informações das SNNs sem sacrificar a precisão da codificação temporal.
• Resolve a Sensibilidade à Inicialização: A introdução da "penalidade para neurônios mortos" mitiga a dependência de variáveis de peso iniciais, um obstáculo conhecido no aprendizado baseado em tempo onde neurônios que não disparam não podem receber gradientes.
• Eficiência Energética: Os autores observam que seu modelo, que depende de tempos de spikes precisos, tem o potencial de contribuir para o desenvolvimento de sistemas de computação altamente eficientes energeticamente, pois o próprio processo de aprendizado pode ser energeticamente eficiente.

O estudo conclui que, embora o método baseado em tempo enfrente desafios inerentes relacionados a variações súbitas de spikes devido a atualizações de pesos, o algoritmo proposto demonstra com sucesso que SNNs de múltiplos spikes podem alcançar desempenho superior e exibir dinâmicas de aprendizado únicas, distintas de suas contrapartes de spike único.