🤖 machine learning

Bug or Feature $^2$ : Weight Drift, Activation Sparsity, and Spikes

Este artigo identifica um desvio fundamental de pesos negativos causado pela interação entre perdas padrão e ativações com viés positivo, o que induz alta esparsidade de ativação e precipícios de precisão em redes profundas, levando os autores a propor ReLU $^2$ e GELU $^2$ truncados como soluções eficazes que equilibram esparsidade, estabilidade e desempenho.

Autores originais: Egor Shvetsov, Aleksandr Serkov, Shokorov Viacheslav, Redko Dmitry, Vladislav Goloshchapov, Evgeny Burnaev

Publicado 2026-05-19

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Egor Shvetsov, Aleksandr Serkov, Shokorov Viacheslav, Redko Dmitry, Vladislav Goloshchapov, Evgeny Burnaev

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está construindo uma máquina massiva e complexa, feita de milhares de pequenos interruptores (neurônios) que aprendem a reconhecer padrões. Por anos, engenheiros têm ajustado essas máquinas por tentativa e erro, adicionando recursos que parecem funcionar bem sem compreender totalmente por que eles funcionam.

Este artigo, intitulado "Bug ou Feature2", investiga uma peculiaridade oculta na forma como essas máquinas aprendem. Os autores descobriram um "fantasma" na máquina: uma tendência das configurações internas (pesos) a derivar lentamente em direção negativa, o que faz com que muitos dos interruptores se desliguem completamente.

Abaixo está a explicação de suas descobertas usando analogias simples:

1. A "Deriva Negativa" (O cabo de guerra)

Imagine que a máquina começa com todas as suas configurações perfeitamente equilibradas em torno de zero. Os autores descobriram que, devido à forma como a máquina calcula seus erros (usando fórmulas matemáticas padrão chamadas "funções de perda") e como processa informações (usando "funções de ativação" como ReLU), há um cabo de guerra sutil e invisível.

O Mecanismo: Nos primeiros segundos do treinamento, a matemática empurra as configurações ligeiramente para o lado negativo.
O Resultado: Uma vez que uma configuração se torna negativa, ela permanece negativa. É como uma bola rolando ladeira abaixo; uma vez que começa, continua até bater em uma parede. Isso acontece mesmo se a máquina receber dados aleatórios e sem sentido. É um defeito no próprio processo de treinamento, não nos dados.

2. Os "Interruptores Silenciosos" (Esparsidade de Ativação)

Agora, imagine que esses interruptores são lâmpadas.

Com ReLU (um tipo comum de interruptor): Se a configuração deriva para o negativo, a lâmpada se apaga completamente e permanece apagada. Os autores descobriram que, em alguns modelos (como um pequeno modelo de linguagem chamado GPT-nano), até 90% das lâmpadas se apagam e permanecem silenciosas.
A Pergunta: Isso é um Bug ou um Feature?
- Bug: Se muitas luzes se apagam, a máquina pode ficar cega e parar de aprender.
- Feature: Se a máquina consegue fazer seu trabalho com menos luzes acesas, ela pode ser mais eficiente.

3. O "Penhasco" (A Zona de Perigo)

Os pesquisadores testaram quanto silêncio a máquina podia suportar antes de quebrar. Eles encontraram um "Penhasco" abrupto.

A Zona Segura: Se você desligar até 70% dos interruptores, a máquina ainda funciona quase tão bem quanto antes. É surpreendentemente robusta.
O Penhasco: Se você tentar desligar mais de 70% (digamos, 80% ou 90%), o desempenho da máquina entra em colapso. É como tentar dirigir um carro com apenas uma roda; funciona bem até atingir certa velocidade, depois desmorona.
A Exceção: Máquinas com "conexões de salto" (como ResNet ou Transformers) são como carros com rodas de reserva; elas suportam muito mais silêncio antes de colapsar.

4. O Experimento "Quadrado" (ReLU2)

Os autores testaram um novo tipo de interruptor chamado ReLU2, que eleva o sinal ao quadrado (faz números grandes ficarem ainda maiores).

O Problema: Isso criou "Picos". Imagine algumas lâmpadas piscando tão brilhantemente de repente que queimam ou cegam o sistema. Nas camadas intermediárias da máquina, esses picos tornaram-se perigosamente grandes.
O Conserto: Eles descobriram que limitar os picos (colocando um teto para o quão brilhante a lâmpada pode ficar) resolveu o problema.
O Vencedor: Um "ReLU2 Limitado" funcionou melhor que o original, e um "GELU2 Limitado" (um interruptor suave diferente) realmente teve o melhor desempenho no modelo de linguagem, alcançando a menor taxa de erro.

5. O Truque do "Congelamento" (Eficiência Computacional)

A "deriva" ocorre principalmente nos primeiros passos do treinamento. Depois disso, as configurações se estabilizam.

A Ideia: Geralmente, a máquina recalcula seu "centro de gravidade" (estatísticas de normalização) toda vez que vê uma nova imagem ou frase. Isso é lento.
O Hack: Os autores descobriram que, uma vez que a deriva inicial se estabiliza (após um curto "aquecimento"), você pode congelar esses cálculos. Você para de recalcular e usa apenas os números do início.
O Benefício: Isso faz a máquina treinar cerca de 25–30% mais rápido sem prejudicar sua inteligência final. É como ajustar o termostato uma vez que o ambiente atinge a temperatura correta, em vez de verificar a temperatura a cada segundo.

Resumo

O artigo revela que os modelos modernos de IA desenvolvem naturalmente "zonas mortas" onde muitos neurônios param de funcionar devido a uma peculiaridade matemática na forma como aprendem.

Não é um bug nos dados; é um bug na matemática de otimização.
O silêncio é aceitável até certo ponto (70%), mas silêncio demais causa um colapso.
Novos interruptores (funções quadradas) podem ser poderosos, mas precisam de "limitação" para evitar picos perigosos.
Congelar cálculos iniciais pode tornar o treinamento significativamente mais rápido.

Os autores concluem que o que parece um efeito colateral aleatório é, na verdade, um mecanismo controlável que, se compreendido, pode nos ajudar a construir IAs mais rápidas e eficientes.

Resumo Técnico: Bug ou Feature2: Deriva de Pesos, Esparsidade de Ativação e Picos

Declaração do Problema

O design de arquiteturas neurais modernas evoluiu por meio de escolhas empíricas incrementais, mas os mecanismos intrínsecos que governam a dinâmica de treinamento permanecem parcialmente compreendidos. Este artigo identifica uma deriva negativa de pesos sistemática induzida pela interação entre funções de perda padrão (MSE, entropia cruzada) e funções de ativação com viés positivo (por exemplo, ReLU, GELU, SiLU) na ausência de normalização centrada na média.

O problema central é que, durante as iterações iniciais do treinamento, a descida do gradiente direciona os pesos para valores negativos. Isso ocorre porque o gradiente esperado em relação a pré-ativações positivas é não negativo. Consequentemente, as pré-ativações deslocam-se para baixo, fazendo com que mais neurônios caiam abaixo de zero. Quando passadas por funções de ativação como ReLU, essas pré-ativações negativas são comprimidas para zero, induzindo esparsidade de ativação rígida. Os autores investigam se essa esparsidade emergente é uma característica benéfica para a eficiência ou um bug prejudicial que degrada o desempenho do modelo. Além disso, o artigo examina picos de ativação patológicos observados em funções de ativação quadráticas (por exemplo, ReLU2) dentro de arquiteturas de transformadores.

Metodologia

1. Análise Formal da Deriva de Pesos

Os autores fornecem uma prova formal para Perceptrons Multicamada (MLPs) baseados em ReLU na inicialização.

Estrutura Teórica: Eles definem uma matriz de pesos efetiva $V_{eff}$ representando a composição de camadas lineares subsequentes e portas ReLU.
Teorema Chave: Sob inicialização de pesos i.i.d. com média zero, as linhas de $V_{eff}$ exibem média zero, mas correlação cruzada não negativa ( $E[\langle v_i, v_j \rangle] \ge 0$ ).
Análise de Gradiente: Para as perdas MSE e entropia cruzada, o gradiente esperado em relação a qualquer pré-ativação positiva é não negativo. Como a descida do gradiente atualiza os pesos na direção negativa do gradiente ( $w \leftarrow w - \eta \nabla w$ ), esse gradiente consistentemente positivo direciona os pesos para valores negativos.
Ciclo de Realimentação: À medida que os pesos tornam-se negativos, as pré-ativações deslocam-se ainda mais abaixo de zero, aumentando a fração de neurônios mortos e reforçando a deriva.

2. Validação Empírica

Os autores verificam essas dinâmicas em configurações diversas:

Arquiteturas: MLP, ResNet-18, MaxViT, MP-SENet e GPT-nano.
Ativações: ReLU, GELU, SiLU, NoisyReLU, SUGARBSiLU e ReLU2.
Dados: Treinamento em conjuntos de dados do mundo real (CIFAR-10, ImageNet-1K, FineWeb) e entradas inteiramente aleatórias para isolar a dinâmica de otimização da distribuição de dados.
Otimizadores: SGD, SGD com momento e Adam/AdamW.

3. Controle de Esparsidade e Análise de Trade-off

Para determinar se a esparsidade é um "bug" ou "feature", os autores controlam explicitamente os níveis de esparsidade usando dois mecanismos:

Esparsidade Top-K: Mantém os top $k\%$ das ativações (usado com GELU).
Centralização por Percentil (PC): Um método proposto que desloca as ativações por um percentil alvo $q$ em vez da média antes de aplicar ReLU, controlando diretamente a fração de ativações zeradas.
Avaliação: Eles avaliam 79 configurações entre arquiteturas para mapear a relação entre níveis de esparsidade e precisão/perda do modelo.

4. Investigação de Ativações Quadráticas e Picos

O artigo analisa ReLU2 ( $max(0, x)^2$ ) e GELU2 no GPT-nano.

Detecção de Picos: Eles observam picos massivos de ativação nas camadas 2–4 do GPT-nano ao usar ReLU2.
Mitigação: Eles testam o recorte dessas ativações em limiares (15 e 50) para determinar se os picos são prejudiciais (bugs) ou informativos (features).

Resultados Chave

1. A Deriva Negativa de Pesos é Intrínseca

Universalidade: A deriva ocorre em todas as arquiteturas e funções de ativação testadas, incluindo aquelas sem normalização explícita (por exemplo, RMSNorm).
Origem na Otimização: O fenômeno persiste mesmo em dados aleatórios, confirmando que é uma propriedade da dinâmica de otimização e não da distribuição de dados.
Magnitude: A deriva é mais pronunciada nas primeiras iterações de treinamento e estabiliza à medida que os gradientes diminuem. Otimizadores baseados em momento aceleram essa deriva inicial.
Consequência de Esparsidade: Em modelos baseados em ReLU, essa deriva induz esparsidade natural atingindo até 90% no GPT-nano sem regularização explícita.

2. O "Penhasco" de Esparsidade-Precisão

Curva de Trade-off: O desempenho permanece estável em níveis moderados de esparsidade ( $s \lesssim 0.7$ ), mas degrada-se abruptamente além de um limiar crítico (o "penhasco").
Dependência da Arquitetura:
- MLPs: Sofrem colapso catastrófico em ~85% de esparsidade.
- ResNet: Mostra degradação monótona com esparsidade estruturada (por canal), mas mantém robustez com esparsidade não estruturada.
- Transformers (ViT, GPT): Exibem resiliência extrema. O GPT-nano mantém desempenho próximo à linha de base até ~91% de esparsidade.
Independência do Mecanismo: O método específico de induzir esparsidade (Top-K vs. Centralização por Percentil) tem impacto marginal comparado ao próprio nível de esparsidade.

3. Funções de Ativação e Esparsidade

GELU: Alcança a maior precisão na maioria das tarefas de classificação, mas induz esparsidade natural mínima.
ReLU2: Altamente sensível à normalização. Colapsa em MLPs sem normalização, mas alcança a menor perda de validação no GPT-nano (3.250) comparado ao GELU (3.260).
ReLUificação: Converter modelos treinados com GELU para ReLU via um epoch de ajuste fino recupera 55–74% de esparsidade com perda de precisão negligenciável (<1%), oferecendo uma estratégia prática para eficiência.

4. Picos Patológicos e Recorte

Origem dos Picos: Picos no GPT-nano originam-se na projeção ascendente dos blocos MLP e são amplificados pela operação de quadratura no ReLU2.
Benefícios do Recorte:
- ReLU2 Recortado: Supera o ReLU2 não recortado (3.236 vs. 3.251), indicando que picos extremos são prejudiciais.
- GELU2 Recortado: Alcança a melhor perda de validação geral (3.233) no GPT-nano.
- Resultados ViT: Ativações quadradas não superam o GELU no MaxViT, sugerindo que os benefícios de ativações quadradas podem ser específicos para modelos autoregressivos.

5. Eficiência Computacional via Parada de Acumulação

Observação: Como a deriva de pesos estabiliza após alguns milhares de passos, o cálculo dinâmico de estatísticas de normalização (percentis, médias) é desnecessário durante toda a duração do treinamento.
Método: Os autores propõem Parada de Acumulação (AS), onde as estatísticas são computadas via uma Média Móvel Exponencial (EMA) durante uma fase de aquecimento (por exemplo, 50k passos) e depois congeladas.
Resultado: Isso recupera o rendimento de treinamento para níveis próximos à linha de base (removendo o sobrecarga de ~25–30% do cálculo dinâmico de percentis) sem degradar a qualidade do modelo (escores FID/IS permanecem estáveis ou melhoram).

Significado e Alegações

O artigo reenquadra a esparsidade de ativação não como uma propriedade emergente dos dados, mas como uma consequência controlável da interação entre funções de perda, funções de ativação e camadas de normalização.

Compreensão Mecanística: O trabalho fornece uma explicação teórica e empírica para por que arquiteturas modernas (que frequentemente omitem a centralização na média, por exemplo, usando RMSNorm) exibem deriva sistemática de pesos e alta esparsidade.
Diretrizes de Design:
- Controle de Esparsidade: Esparsidade agressiva (até ~70-80%) pode ser alcançada sem degradação significativa de desempenho em modelos baseados em transformers, oferecendo um caminho para eficiência computacional.
- Escolha de Ativação: Embora o ReLU2 ofereça ganhos de desempenho em LLMs, ele requer recorte para mitigar picos patológicos. O GELU permanece uma linha de base robusta de propósito geral.
- Eficiência: A técnica "Parada de Acumulação" oferece um método prático para reduzir a sobrecarga de treinamento congelando estatísticas de normalização após a fase inicial de estabilização da deriva.
Limitações: Os autores observam que as provas teóricas aplicam-se estritamente à inicialização e ao ReLU, com extensões para ativações suaves sendo empíricas. A aplicabilidade dessas descobertas a LLMs de escala de fronteira (1B+ parâmetros) e os limiares de recorte ótimos para diferentes arquiteturas permanecem questões em aberto.

O artigo conclui que compreender essas escolhas de design "aparentemente incidentais" é crucial para o desenvolvimento futuro de arquiteturas, particularmente à medida que o campo avança para normalização não centrada e inferência esparsa.