Resumo Técnico: Ubiquidade de Dinâmicas Hebbianas Emergentes em Aprendizado Regularizado

Declaração do Problema

Uma questão central na neurociência computacional é se a observação de plasticidade Hebbiana ou anti-Hebbiana em atualizações sinápticas implica unicamente um cálculo Hebbiano subjacente. Tradicionalmente, o aprendizado biológico é visto como impulsionado por regras locais baseadas em correlação (ex: Plasticidade Dependente do Tempo de Disparo), enquanto a inteligência artificial depende de otimização baseada em gradiente global (ex: SGD). Frequentemente assume-se que a presença de assinaturas Hebbianas no cérebro serve como evidência contra a otimização global orientada por erro, pois o gradiente descendente é considerado como exigindo sinais de erro não locais.

Este artigo aborda uma questão de identificabilidade: a observação de estrutura Hebbiana/anti-Hebbiana em atualizações sinápticas implica necessariamente uma regra de aprendizado mecanística Hebbiana? Os autores propõem que a resposta é não. Eles argumentam que assinaturas Hebbianas e anti-Hebbianas podem emergir como subprodutos de um aprendizado baseado em gradiente regularizado próximo à estacionaridade, sem exigir mecanismos Hebbianos explícitos.

Metodologia

Os autores empregam uma combinação de análise teórica e validação empírica para demonstrar como a regularização e o ruído interagem com sinais de aprendizado para produzir dinâmicas do tipo Hebbiano.

Estrutura Teórica

1. Estacionaridade e Decaimento de Peso: Os autores analisam o comportamento de regras de aprendizado próximo a um ponto estacionário (convergência). Eles consideram uma regra geral de atualização de peso $\Delta W = g(x, \theta) - \gamma W$, onde $g(x, \theta)$ é um sinal de aprendizado arbitrário (ex: um gradiente) e $\gamma W$ representa o decaimento de peso L2.
2. Derivação de Alinhamento: Ao assumir que o sistema está próximo da estacionaridade ($E[\Delta W] \approx 0$), eles derivam que o sinal de aprendizado esperado $E[g(x, \theta)]$ deve ser aproximadamente igual a $\gamma W$. Como a direção de atualização Hebbiana é proporcional a $W h_a h_a^\top$ (onde $h_a$ é a atividade pré-sináptica), e $W$ é positivamente correlacionado com essa direção sob suposições padrão (ex: representações de norma igual), o sinal de aprendizado é matematicamente forçado a se alinhar com a direção Hebbiana.
3. Ruído e Dinâmicas Anti-Hebbianas: Os autores estendem a análise para incluir ruído estocástico. Eles mostram que perturbações estocásticas fortes (ruído) no sinal de aprendizado podem induzir um alinhamento anti-Hebbiano. Eles derivam uma fronteira de fase onde o equilíbrio entre a força do ruído ($\sigma^2$) e o decaimento de peso ($\gamma$) determina se o sistema exibe assinaturas Hebbianas ou anti-Hebbianas. Especificamente, quando o ruído domina, o alinhamento torna-se negativo (anti-Hebbiano); quando o decaimento de peso domina, o alinhamento torna-se positivo (Hebbiano).

Validação Empírica

Os autores validam essas alegações teóricas através de várias tarefas, arquiteturas e regras de aprendizado:

• Tarefas: Classificação CIFAR-10 e regressão não linear sintética (modelos aluno-professor).
• Arquiteturas: Perceptrons Multicamadas (MLPs) com várias funções de ativação (ReLU, Tanh, Sigmoid) e Transformers.
• Regras de Aprendizado: SGD padrão, Adam, Direct Feedback Alignment (DFA) e um constructo "RandomNN" (um sinal de erro determinístico aleatório que não aprende).
• Métricas: A métrica primária é a similaridade de cosseno (produto interno de Frobenius) entre o sinal de aprendizado (ou atualização completa) e a direção de atualização Hebbiana teórica ($h_b h_a^\top$).

Principais Contribuições

1. Mecanismo Hebbiano Emergente: O artigo estabelece que o decaimento de peso L2 genericamente conduz o componente do sinal de aprendizado de muitos algoritmos de atualização a se alinhar com uma direção Hebbiana próximo à estacionaridade. Este alinhamento aumenta monotonicamente com a força do decaimento de peso.
2. Mecanismo Anti-Hebbiano Emergente: Os autores demonstram que ruído estocástico suficientemente forte pode inverter essa assinatura, induzindo alinhamento anti-Hebbiano. Isso cria um trade-off previsível e uma fronteira de fase entre regimes Hebbianos e anti-Hebbianos baseada na razão entre ruído e decaimento de peso.
3. Universalidade entre Regras: O fenômeno mostra-se independente do algoritmo de aprendizado específico. Ele aparece no SGD, Adam, DFA e até mesmo no "RandomNN" (um modelo que não aprende no sentido tradicional), desde que o decaimento de peso esteja presente.
4. Dinâmicas Transientes: O estudo identifica que o alinhamento Hebbiano não se limita ao estado estacionário final. Um "bump de alinhamento inicial" ocorre no início do treinamento (dependente da inicialização e taxa de aprendizado), e neurônios individuais exibem oscilações entre fases Hebbianas e anti-Hebbianas durante o treinamento em estado estacionário.

Resultados

• Correlação de Decaimento de Peso: Em tarefas de classificação e regressão, aumentar o decaimento de peso leva consistentemente a um maior alinhamento positivo entre o sinal de aprendizado e a atualização Hebbiana. Essa tendência se mantém através de diferentes funções de ativação e profundidades de rede.
• Trade-off de Ruído: Em tarefas de regressão, aumentar a força do ruído reduz o alinhamento Hebbiano e eventualmente induz o alinhamento anti-Hebbiano. A fronteira de fase entre esses regimes segue uma relação quadrática ($\gamma \propto \sigma^2$), correspondendo às previsões teóricas.
• Validação RandomNN: Mesmo um modelo usando um sinal de atualização puramente aleatório e não de aprendizado exibe alinhamento Hebbiano quando o decaimento de peso é aplicado, confirmando que o efeito é uma propriedade da restrição de regularização e não do algoritmo de aprendizado em si.
• Generalização: O artigo observa que soluções com melhor desempenho de generalização frequentemente exibem baixo alinhamento médio Hebbiano ou anti-Hebbiano, sugerindo que o regime "ótimo" reside entre esses dois extremos.

Significância e Alegações

Os autores posicionam este trabalho como uma nota de cautela para a interpretação de dados neurofisiológicos, em vez de uma substituição da teoria Hebbiana clássica.

• Reinterpretação de Dados Biológicos: A presença de assinaturas Hebbianas ou anti-Hebbianas em medições sinápticas não prova unicamente que o cérebro utiliza regras mecanísticas Hebbianas. Essas assinaturas podem ser propriedades emergentes de um processo de otimização global (como o gradiente descendente) restringido por mecanismos homeostáticos (como o decaimento de peso).
• Coexistência: Os autores argumentam que a plasticidade Hebbiana mecanística e a dinâmica Hebbiana emergente podem coexistir. As descobertas complicam a interpretação de medições sinápticas, motivando o design de experimentos que possam distinguir entre o cálculo Hebbiano genuíno e assinaturas emergentes decorrentes da regularização.
• Ponte Teórica: O trabalho fornece um elo teórico entre a dinâmica de otimização de aprendizado de máquina e a plasticidade biológica, sugerindo que o "equilíbrio de forças expansivas e contrativas" (expansão Hebbiana vs. contração homeostática) é um princípio universal que governa a estabilidade tanto em sistemas biológicos quanto artificiais.

O artigo conclui que, embora processos Hebbianos verdadeiros provavelmente ocorram no cérebro, a ubiquidade das dinâmicas Hebbianas emergentes no aprendizado regularizado sugere que observar tais padrões é evidência insuficiente para descartar mecanismos de aprendizado baseados em erro global em sistemas biológicos.