Resumo Técnico: Rede de Feromônios Local (Local Pheromone Network)

Definição do Problema

As redes neurais contemporâneas dependem de módulos densos e diferenciáveis treinados via retropropagação global. Embora poderosas, essa abordagem acopla o aprendizado através de vastos conjuntos de parâmetros, levando ao esquecimento catastrófico quando novas tarefas sobrescrevem parâmetros essenciais para tarefas anteriores. Sistemas biológicos oferecem um paradigma alternativo onde as sinapses são locais, a plasticidade é modulada por sinais neuromoduladores e as memórias se consolidam ao longo do tempo. No entanto, modelos computacionais existentes frequentemente carecem de um protótipo de engenharia unificado que adira estritamente a regras de aprendizado locais, esparsas e sem retropropagação.

Metodologia: Rede de Feromônios Local (LPN)

O artigo apresenta a Rede de Feromônios Local (LPN), um protótipo de pesquisa para redes neurais esparsas, locais e de atualização manual. A arquitetura evita totalmente a diferenciação automática, baseando-se, em vez disso, em uma regra de aprendizado local personalizada.

Arquitetura Central

• Conectividade Local Esparsa: Cada unidade de saída conecta-se apenas a uma vizinhança fixa e orçada de unidades de entrada ($K$ vizinhos). A conectividade é restringida por:
  • Distância Geométrica: As unidades são posicionadas em uma grade 1D ou 2D.
  • Tags Moleculares: Conexões só são permitidas entre unidades com tags inteiras compatíveis (dentro de uma distância $\Delta t$).
• Representação de Estado: Cada sinapse armazena:
  • Um peso treinável ($W$).
  • Um traço de feromônio de curto prazo ($s$) e um traço de feromônio de longo prazo ($p$).
  • Um estado de consolidação ($c$) opcional.
• Passagem de Forward (Propagação Direta): O peso efetivo é modulado por um portão de feromônio ($g$), que normaliza a massa combinada de feromônio de curto e longo prazo. Isso permite que a rede pondere dinamicamente os caminhos locais durante a inferência sem alterar os pesos base.

Regra de Aprendizado

O treinamento ocorre via um aprendizado de estilo Hebbiano local e orçado, em vez de gradiente descendente:

1. Sinal de Erro: Um tensor de erro local é computado. Para camadas ocultas, um sinal de feedback aproximado é propagado através de pesos locais efetivos e derivadas de ativação (uma aproximação de engenharia, não de exatidão biológica).
2. Adaptação de Orçamento: O número de sinapses atualizadas por unidade de saída ($B$) adapta-se online com base nas tendências de perda:
   • Modo Exploração (Exploit Mode): Se a perda melhora, o orçamento diminui.
   • Modo Seguir Vizinho (Neighbor-Follow Mode): Se a perda piora, o orçamento se expande em direção a vizinhanças recentemente ativas para incentivar a exploração local.
3. Seleção de Sinapse: Um subconjunto de sinapses é selecionado para atualização com base em uma pontuação que combina a magnitude do sinal local ($|q|$) e o feromônio de longo prazo ($p$).
4. Mecanismo de Atualização: Pesos selecionados são atualizados usando o sinal local e um multiplicador de plasticidade ($\rho$) derivado do estado de consolidação.
5. Dinâmica de Feromônio:
   • Reforço: Co-atividade e sinais de erro reforçam tanto os feromônios de curto quanto os de longo prazo.
   • Evaporação: Os traços decaem em taxas diferentes ($\lambda_s, \lambda_p$), criando memória de múltiplas escalas.
6. Consolidação: Quando critérios específicos são atendidos (baixa perda, reforço positivo, alto feromônio de longo prazo), uma sinapse entra em um estado consolidado. Isso reduz sua plasticidade ($\rho$), protegendo-a de ser sobrescrita por tarefas conflitantes.
7. Plasticidade Estrutural e Replay:
   • Plasticidade Estrutural: Sinapses com baixo feromônio e não selecionadas podem ser podadas e substituídas por novas conexões para candidatos compatíveis com a tag em vizinhanças ativas.
   • Replay Local: Se uma nova atualização causa um pico de perda (indicando conflito), exemplos de baixa perda armazenados de modos anteriores de "exploração" ou "estabilidade" são reproduzidos (replay) usando a mesma regra de atualização local para mitigar o esquecimento.

Principais Contribuições

As contribuições do artigo são primariamente descritivas e arquiteturais, formalizando uma classe específica de sistemas de aprendizado local:

1. Formalização de uma Camada Local Esparsa: Uma camada onde a conectividade é estritamente definida pela localidade espacial e compatibilidade de tags, armazenada como matrizes esparsas em vez de tensores densos.
2. Aprendizado com Portão de Feromônio: Um mecanismo onde o aprendizado é controlado por traços de feromônio de múltiplas escalas, distinguindo entre atividade transitória e memória estável.
3. Seleção de Sinapse Adaptativa ao Orçamento: Um mecanismo dinâmico que encolhe ou expande o orçamento de aprendizado com base no desempenho, priorizando a exploração local quando os erros aumentam.
4. Estabilidade Impulsionada pela Consolidação: Um mecanismo de consolidação por sinapse que reduz a plasticidade para conexões maduras, trocando explicitamente adaptabilidade por estabilidade.
5. Integração de Replay Local: Um método para resolução de conflitos que reaplica regras de atualização local a exemplos armazenados sem invocar retropropagação.

Resultados Experimentais

Os autores apresentam sondagens comportamentais preliminares em tarefas sintéticas, em vez de benchmarks competitivos:

• Regressão Local: A rede aprendeu com sucesso mapeamentos lineares simples locais (12 entradas $\to$ 3 saídas), com o MSE caindo de ~1.17 para ~0.008, confirmando a eficácia da regra de atualização local quando a geometria coincide com a estrutura da tarefa.
• Memória Particionada: Tarefas atribuídas a diferentes regiões de saída e tags foram preservadas independentemente.
• Memória Conflitante: Quando duas tarefas competiram pelas mesmas sinapses locais, a rede exibiu esquecimento catastrófico (razão de perda ~92x), como esperado sem consolidação.
• Conflito Consolidado: Com a consolidação habilitada, o esquecimento foi significativamente reduzido (razão de perda ~49x vs. ~1481x na linha de base), embora o aprendizado da nova tarefa conflitante tenha se tornado mais lento. Isso demonstra o pretendido equilíbrio entre estabilidade e plasticidade.
• Plasticidade Estrutural e Replay: O sistema ajustou com sucesso vizinhanças locais e disparou etapas de replay quando conflitos foram detectados.
• Memória Híbrida: Em uma tarefa sintética de contexto longo, um modelo híbrido combinando um preditor convolucional padrão com um ramo de memória LPN alcançou 100% de precisão, enquanto a base convolucional sozinha falhou (8% de precisão).

Significância e Alegações

O artigo posiciona a Rede de Feromônios Local como um modesto protótipo de engenharia, e não como um substituto para Transformers ou aprendizado profundo padrão.

• O que ele demonstra:
  1. Camadas locais esparsas e restritas por tags podem ajustar funções locais simples sem autograd.
  2. Máscaras de saída e tags podem separar efetivamente memórias através de regiões.
  3. O conflito direto em sinapses compartilhadas causa esquecimento, mas a consolidação pode mitigá-lo ao reduzir a plasticidade.
  4. Replay local e plasticidade estrutural podem ser integrados em um único loop de atualização local.
• O que ele NÃO demonstra:
  • Não é um substituto competitivo para arquiteturas de modelagem de sequência (Transformers, RNNs).
  • Não resolve problemas de modelagem de sequência em larga escala.
  • O sinal de feedback da camada oculta é uma aproximação de engenharia, não uma regra biologicamente exata.

Os autores concluem que a arquitetura serve como um campo de teste concreto para investigar a memória local, o particionamento de regiões cerebrais e a dinâmica de estabilidade-plasticidade, sugerindo potencial futuro em modelos híbridos onde aprendizes convencionais fornecem características densas e ramos LPN armazenam associações de longo prazo particionadas.