Resumo Técnico: Codificação Preditiva com Lagrangiana Aumentada (PC-ALM)

1. Definição do Problema

O aprendizado profundo moderno baseia-se na retropropagação (BP), um algoritmo global que requer a criação simultânea de variáveis de erro e uma passagem para trás precisamente orquestrada. Este mecanismo é biologicamente implausível, pois circuitos biológicos não conseguem implementar tal sincronização global. Consequentemente, a pesquisa tem se concentrado em alternativas de aprendizado local, especificamente a Codificação Preditiva (PC).

Em redes PC, o aprendizado é formulado como a minimização de uma função de energia local (a soma dos erros quadráticos entre camadas). Embora a PC ofereça um sistema dinâmico de camada-local para atualizar ativações e pesos, ela sofre de uma limitação crítica: em redes profundas ou estreitas, os sinais de crédito (gradientes) propagados através da rede são frequentemente desalinhados com os gradientes reais da BP. Esse desalinhamento leva a uma degradação significativa de desempenho em comparação com a BP, particularmente em regimes profundos e estreitos. Além disso, a PC padrão depende de uma relaxação de penalidade quadrática das restrições de camada, o que significa que seu estado de equilíbrio não produz necessariamente gradientes de BP exatos.

2. Metodologia: PC-ALM

Os autores introduzem a Codificação Preditiva com Lagrangiana Aumentada (PC-ALM), um método que reformula a PC no contexto da Lagrangiana Aumentada (AL) e do Método de Multiplicadores (MM).

Formulação Central

Em vez de minimizar a energia padrão da PC (uma relaxação de penalidade quadrática), a PC-ALM otimiza a Lagrangiana Aumentada do problema de otimização restrito original:
$$\mathcal{L}_\rho(h, \theta, \lambda) = \frac{1}{2}\|y - W_L h_{L-1}\|^2 + \sum_{i=1}^{L-1} \lambda_i^\top (h_i - \sigma(W_i h_{i-1})) + \frac{\rho}{2} \sum_{i=1}^{L-1} \|h_i - \sigma(W_i h_{i-1})\|^2$$
Aqui, $\lambda_i$ são multiplicadores de Lagrange (variáveis duais) associados às restrições de consistência de camada $h_i = \sigma(W_i h_{i-1})$.

Mecânica Algorítmica

A PC-ALM opera com o mesmo orçamento de inferência (número de passos $T$) que a PC de inferência finita padrão, mas introduz um loop de ascensão dual:

1. Passo Primal (Inferência): As ativações $h$ são atualizadas via gradiente descendente em $\mathcal{L}_\rho$. Crucialmente, o gradiente na camada $i$ inclui um termo da variável dual: $\nabla_{h_i} \mathcal{L}_\rho = (\rho r_i + \lambda_i) - W_{i+1}^\top \dots (\rho r_{i+1} + \lambda_{i+1})$, onde $r_i$ é o erro de predição. Isso desloca o alvo de predição por $-\lambda_i/\rho$.
2. Passo Dual: Imediatamente após a atualização primal, os multiplicadores são atualizados para acumular a violação da restrição (resíduo): $\lambda_i \leftarrow \lambda_i + \alpha r_i$.
3. Atualização de Pesos: Após $T$ passos, os pesos são atualizados usando o gradiente da Lagrangiana aumentada, que agora incorpora o histórico integrado de erros via $\lambda$.

Diferenças Dinâmicas Principais

• Dinâmica Recorrente: Ao contrário da dinâmica de fluxo de calor difusivo da PC, a PC-ALM introduz transientes oscilatórios impulsionados pela interação primal-dual.
• Propagação de Crédito: A variável dual $\lambda$ atua como um "integrador retardado" dos erros de predição. Os autores observam que isso cria uma propagação de crédito "balística", onde os sinais viajam de forma uniforme e rápida através de redes profundas, contrastando com a propagação difusiva lenta da PC, onde os sinais decaem perto da saída.

3. Principais Contribuições

1. Equivalência Teórica em Regimes Lineares: Os autores provam que, em redes PC lineares, a PC-ALM converge para um equilíbrio onde as variáveis duais $\lambda$ tornam-se exatamente os adjuntos de retropropagação (backpropagation adjoints). Assim, as atualizações de peso no equilíbrio são idênticas à BP, distribuídas inteiramente via atualizações locais de camada.
2. Variante de Inferência Finita: Reconhecendo que a convergência exata não é garantida em redes não lineares, os autores desenvolvem uma variante de inferência finita do Método de Multiplicadores que opera dentro do mesmo orçamento computacional da PC padrão.
3. Fechamento da Lacuna PC-BP: Empiricamente, a PC-ALM iguala o desempenho da BP em todos os regimes de largura-profundidade (em redes não lineares, até profundidade 128), incluindo as redes profundas e estreitas onde a PC padrão falha significativamente.
4. Insights Dinâmicos: O artigo caracteriza as condições de estabilidade para a PC-ALM e identifica a natureza "balística" da propagação de crédito, mostrando que o sinal composto ($\lambda + \rho r$) distribui-se uniformemente pelas camadas, ao contrário do decaimento observado na PC.

4. Resultados Experimentais

Os autores avaliaram a PC-ALM em tarefas de classificação de imagens (Fashion-MNIST, MNIST) usando MLPs Residuais com larguras ($N$) e profundidades ($L$) variadas e funções de ativação (Identidade, Tanh, ReLU).

• Desempenho: A PC-ALM iguala a precisão da BP em todo o intervalo de $N$ e $L$ quando o orçamento de inferência é definido como $T = 2L$. Em contraste, o desempenho da PC padrão degrada conforme a profundidade aumenta, particularmente em redes estreitas.
• Robustez: A PC-ALM permanece estável e iguala o desempenho da BP em diferentes regimes de parametrização (de padrão a mean-field e de lazy a rich), enquanto a PC padrão fica aquém nos regimes de parametrização "rich".
• Alinhamento de Crédito: A análise da similaridade de cosseno entre os gradientes da PC-ALM e os gradientes da BP mostra que a PC-ALM alcança um alto alinhamento (ex: >0,9) com significativamente menos passos de inferência do que a PC padrão precisaria para se aproximar do alinhamento da BP.
• Ponto de Inflexão: O alinhamento com a BP exibe um "estalo" ou ponto de inflexão previsível em um passo de inferência aproximadamente proporcional a $L/\sqrt{\alpha}$, sugerindo um mecanismo para rápida propagação de crédito.

5. Significância e Alegações

O artigo afirma que a PC-ALM oferece uma generalização da Codificação Preditiva que une a lacuna entre o aprendizado local biologicamente plausível e a otimalidade global da retropropagação.

• Plausibilidade Biológica: Ao manter atualizações locais de camada e evitar passagens para trás globais, a PC-ALM continua sendo uma candidata ao aprendizado biologicamente plausível, porém supera as limitações de desempenho das formulações anteriores de PC.
• Mecanismo de Alinhamento: O trabalho sugere que a acumulação de erros de restrição nas variáveis duais (multiplicadores de Lagrange) é o mecanismo chave para alinhar a dinâmica local com os gradientes globais. Isso fornece um arcabouço teórico sobre como sistemas distribuídos podem computar e propagar sinais de crédito do tipo BP usando puramente dinâmica local.
• Eficiência: A PC-ALM é apresentada como mais eficiente em termos de inferência do que alargar as redes PC para alcançar o alinhamento com a BP; ela alcança alto alinhamento de gradiente com largura fixa e um custo computacional adicional modesto (atualizações duais) em comparação ao custo de memória de alargar a rede.

Os autores concluem que, embora a PC-ALM não resolva todas as dificuldades de convergência da otimização restrita não linear, ela fornece uma alternativa prática, estável e de alto desempenho à BP que preserva a natureza local da codificação preditiva.