Time as a Computational Substrate: The Eligibility Trace and the First Challenge to the von Neumann Architecture

Resumo Técnico: O Tempo como um Substrato Computacional

Definição do Problema
Desde a formulação da arquitetura von Neumann em 1945, a computação de propósito geral tem operado sob uma premissa não examinada: o tempo é um número de sequência discreto, uniforme e semanticamente neutro (o contador de programa). Neste paradigma, a seta física do tempo não carrega significado computacional; uma máquina não consegue distinguir entre um evento ocorrido há 3 ciclos versus um ocorrido há 30.000 ciclos, exceto como um índice de endereço de memória. Embora as gerações subsequentes de redes neurais (feedforward, CNNs, RNNs, Transformers) tenham melhorado o poder representacional, elas não desafiaram essa premissa fundamental. Elas tratam o tempo como uma coordenada a ser codificada, comprimida ou mascarada, e não como um substrato físico através do qual a causalidade entra na computação. O artigo identifica uma lacuna na literatura existente: embora chips neuromórficos e computadores de reservatório utilizem dinâmicas temporais, nenhum trabalho anterior demonstrou uma estrutura onde a seta causal é explicitamente codificada na própria regra de aprendizado, nem qualquer trabalho forneceu evidência verificada por ablação de que tal estrutura é a condição necessária única para a diferenciação emergente.

Metodologia
O autor propõe e valida uma estrutura computacional "nativa do tempo" centrada no traço de elegibilidade, definido pela equação $e(t + 1) = \lambda e(t) + \Delta w$. Esta estrutura faz a ponte entre eventos locais (mudanças sinápticas) através do tempo para um sinal de avaliação global atrasado. A pesquisa emprega uma abordagem de subestruturas cruzadas, validando a hipótesia através de três domínios distintos:

1. Redes Neurais de Impulsos (SNNs): Uma SNN modulada por recompensa, treinada com Plasticidade Dependente do Tempo de Impulso (STDP), foi testada em uma tarefa sintética de reconhecimento de padrões. O estudo utilizou um design de ablação de cinco condições em três escalas ($N=800, 8.000, 80.000$ neurônios) e três sementes aleatórias, executando por 500.000 passos. Os componentes testados incluíram o modelo completo, a remoção do traço de elegibilidade ($no\_ELIG$), a remoção da LTP multiplicativa ($no\_MULT$), a remoção da saturação logística de peso ($no\_LOG$) e a remoção do erro de predição de recompensa ($no\_RPE$).
2. Gradiente Descendente Estocástico (SGD): Um experimento de perturbação foi conduzido em um modelo de atenção linear (CubeAttn, $d=2048$) usando AdamW. O estudo manipulou a "consistência da direção do gradiente" (o análogo do SGD para o traço de elegibilidade) seja amplificando os gradientes ($batch\_spike$) ou degradando a coerência temporal via ruído ortogonal ($ortho\_kick$).
3. Descoberta Causal: Uma rede de impulsos foi treinada em dados sintéticos de vibração de rolamentos com um atraso causal conhecido. A rede recebeu apenas um sinal de recompensa escalar (sem rótulos causais explícitos) para testar se o traço de elegibilidade poderia recuperar relações de causalidade de Granger.

Principais Contribuições

• O Traço de Elegibilidade como um Primitivo Computacional: O artigo define o traço de elegibilidade não meramente como um componente da regra de aprendizado, mas como um primitivo "nativo do tempo", onde a seta física do tempo é codificada diretamente no mecanismo de aprendizado. Ele postula que a diferenciação surge do produto de um sinal global e da memória decrescente de eventos locais: $Diferenciação = Sinal Global \times Memória Decrescente$.
• Necessidade Verificada por Ablação: Através de ablação sistemática, o autor demonstra que o traço de elegibilidade é a condição necessária única para a diferenciação emergente (medida pelo coeficiente de Gini da distribuição de pesos). A remoção do traço ($no\_ELIG$) faz com que a diferenciação estagne ($\Delta Gini \approx -0.006$), enquanto a remoção de outros componentes (como a LTP multiplicativa) apenas reduz a taxa de diferenciação ou altera o equilíbrio, mas não abole o fenômeno.
• Invariância de Escala e Implementação: O mecanismo mostra-se invariante de escala através de duas ordens de magnitude (de $10^4$ a $10^8$ sinapses) e invariante de implementação, com bases de código em CPU e GPU produzindo resultados idênticos com três casas decimais de precisão.
• Causalidade Assimétrica: O estudo estabelece que a ponte temporal é necessária, mas não suficiente. Degradar a ponte temporal (removendo o traço ou randomizando a direção do gradiente) impede os avanços (breakthroughs) inteiramente, enquanto amplificar o sinal (aumentando a magnitude do gradiente) não acelera a transição de fase.
• Reenquadramento da Arquitetura von Neumann: O artigo argumenta que a arquitetura von Neumann é um "caso degenerado" deste princípio geral, onde a janela de elegibilidade ($\tau_e$) colapsa para zero, eliminando a ponte temporal entre eventos locais e consequências atrasadas.

Resultados

• Ablação de SNN: Em $N=80.000$, o modelo completo alcançou um aumento de Gini de $+0,044$. A condição $no\_ELIG$ resultou em um $\Delta Gini$ de $-0,005$, efetivamente congelando a distribuição de pesos na inicialização. Em contraste, o $no\_MULT$ preservou apenas 29% do efeito total em grandes escalas, e o $no\_RPE$ amplificou a diferenciação em mais de 1000%, indicando que o traço de elegibilidade é o motor da diferenciação, enquanto outros componentes atuam como freios ou aceleradores.
• Perturbação de SGD: No experimento CubeAttn, os braços de controle e de sinal amplificado ($batch\_spike$) romperam o teto de desempenho exatamente no passo 66.000. O braço de sinal degradado ($ortho\_kick$), que interrompeu a ponte temporal, oscilou abaixo do limiar de avanço por 100.000 passos, nunca alcançando a transição de fase.
• Descoberta Causal: Na tarefa de vibração de rolamentos, o modelo completo recuperou a direção causal correta com uma pontuação de $0,767$. A remoção do traço de elegibilidade colapsou a magnitude do peso causal em $17,6\times$, reduzindo o sinal a níveis próximos ao ruído, enquanto a randomização da ordem temporal reduziu a pontuação causal para níveis de acaso ($0,538$).
• Escalonamento de $\tau$: Estender a janela de elegibilidade ($\tau_e$) de 20 para 200.000 passos deslocou o equilíbrio da diferenciação para cima (Gini $0,584$ vs. $0,509$), confirmando que o tamanho da janela de elegibilidade controla a capacidade assintótica de integração do sinal causal.

Significância e Alegações
O artigo afirma apresentar o primeiro contraexemplo funcional à suposição de von Neumann de que o tempo é meramente um número de sequência. Argumenta que o traço de elegibilidade constitui um novo primitivo computacional: a computação nativa do tempo. Neste paradigma, a causalidade não é inferida dos dados via correlação estatística, mas é fisicamente codificada na estrutura temporal assimétrica da regra de aprendizado.

O autor afirma que a arquitetura von Neumann não está "errada", mas é "incompleta" — é o caso especial onde a janela de elegibilidade é zero. O caso geral, a computação nativa do tempo, permite que máquinas aprendam estruturas causais de dados observacionais, adaptem-se continuamente a mudanças ambientais sem esquecimento catastrófico e tratem a seta do tempo como um grau de liberdade físico, em vez de um detalhe de implementação. O artigo conclui que a máquina capaz de preencher este caso geral será fundamentalmente diferente de um computador von Neumann mais rápido; será uma máquina onde a causalidade é uma propriedade física do meio.