🤖 machine learning

M+Adam: Low-Precision Training via Additive-Multiplicative Optimization

O artigo propõe o M+Adam, um otimizador inovador que combina atualizações aditivas e multiplicativas para superar os modos de falha complementares do treinamento de baixa precisão, permitindo, assim, o treinamento estável e preciso de modelos do tipo LLaMA usando apenas pesos mestres em BF16, FP8 e FP4.

Autores originais: Xiaoyuan Liang, Sebastian Loeschcke, Mads Toftrup, Anima Anandkumar

Publicado 2026-07-14

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Xiaoyuan Liang, Sebastian Loeschcke, Mads Toftrup, Anima Anandkumar

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando ensinar um robô gigante e hiperinteligente (um Grande Modelo de Linguagem) a escrever como um humano. Para fazer isso, você tem que ajustar milhões de pequenos botões no cérebro do robô. Normalmente, esses botões são ajustados com extrema precisão, como usar um microscópio para girar um parafuso. Mas microscópios são pesados, lentos e caros.

O artigo pergunta: E se usássemos uma chave inglesa barata e leve em vez disso?

Este é o mundo do treinamento de baixa precisão. Em vez de usar "pesos mestres" de alta precisão (a memória do robô sobre os botões), os pesquisadores tentam armazená-los em um formato menor e mais grosseiro, como BF16, FP8 ou até mesmo FP4. É como tentar medir a altura de uma montanha com uma régua que só tem marcas a cada 10 pés.

O Problema: A Armadilha do "Arredondamento"

Os autores descobriram que, quando você usa essas réguas grosseiras, os métodos de treinamento padrão (chamados de Adam) batem em um muro. Eis o porquê:

O Problema da Montanha Grande: Quando um botão é definido para um número enorme, as marcas da "régua" ficam muito distantes entre si. Se o robô precisar mover o botão uma quantidade minúscula, a régua não consegue vê-la. O pequeno movimento é arredondado para zero, e o robô pensa: "Eu não me movi!". O robô fica preso, incapaz de escalar a montanha.
O Problema do Vale do Zero: Outros métodos tentaram corrigir isso usando atualizações multiplicativas (como o Madam). Em vez de adicionar um número pequeno, eles multiplicam o botão por um fator. Isso funciona muito bem para montanhas grandes porque o tamanho do passo cresce com o botão. No entanto, se um botão estiver preso exatamente em zero, você não pode multiplicá-lo para fazê-lo se mover. É como tentar empurrar um carro que não tem rodas; multiplicar zero por qualquer coisa ainda resulta em zero. Além disso, se o botão precisar mudar de positivo para negativo (atravessando o zero), esses métodos ficam confusos e não conseguem fazer a transição.

A Solução: M+Adam (O Kit de Duas Ferramentas)

O artigo apresenta o M+Adam, um novo otimizador que age como um mecânico astuto carregando duas ferramentas diferentes ao mesmo tempo. Ele combina o melhor dos dois mundos para corrigir os "modos de falha complementares".

Ferramenta 1: A Chave de Aperto Aditiva (estilo Adam). Esta ferramenta é ótima para ajustes pequenos e precisos. Ela pode dar um toque em um botão a partir do zero, mudar o sinal de positivo para negativo e lidar com movimentos minúsculos perto do fundo do vale.
Ferramenta 2: A Alavanca Multiplicativa (estilo Madam). Esta ferramenta é ótima para o trabalho pesado e grande. Quando o botão é enorme e a chave de aperto aditiva é "arredondada" para nada, a alavanca multiplicativa entra em ação. Ela escala o botão para cima ou para baixo, garantindo que o robô continue progredindo mesmo nas montanhas mais altas.

M+Adam usa ambas as ferramentas simultaneamente. Se a ferramenta aditiva ficar presa devido ao arredondamento, a ferramenta multiplicativa mantém o robô em movimento. Se a ferramenta multiplicativa não conseguir escapar do zero, a ferramenta aditiva a empurra para fora.

A Prova: Funcionou?

Os autores não apenas adivinharam; eles testaram isso em uma escala massiva.

O Teste: Eles treinaram modelos de linguagem do tipo "LLaMA", variando de 60 milhões a 1 bilhão de parâmetros.
O Orçamento: Eles usaram orçamentos de treinamento de 1x a 8x o orçamento "Chinchilla" padrão (uma medida padrão de quanta quantidade de dados um modelo vê).
A Precisão: Eles testaram com pesos mestres em BF16, FP8 e NVFP4.

Os Resultados:
Em todos os testes, o M+Adam superou consistentemente o otimizador Adam padrão.

No cenário de baixa precisão mais extremo (NVFP4), o M+Adam reduziu a "perplexidade" (uma medida de quão confuso o modelo está) em 16,6% para o modelo de 350M em comparação ao Adam.
Mesmo com 1 bilhão de parâmetros, o M+Adam mostrou melhorias claras sobre o Adam em todos os regimes de precisão.

O artigo prova matematicamente que essa abordagem combinada garante que a perda de treinamento diminuirá (um "decréscimo monotônico"), o que significa que o robô está sempre aprendendo e nunca ficando preso em um loop.

O Que Ele NÃO É

É importante saber o que este artigo não afirma:

Ele não diz que o M+Adam é uma bala de prata que elimina todos os custos de memória. Na verdade, o artigo observa que o M+Adam adiciona um pouco de memória extra (um "estado" extra para a ferramenta multiplicativa), embora mostrem que isso pode ser comprimido posteriormente.
Ele não afirma que métodos padrão como o Arredondamento Estocástico (uma técnica para corrigir erros de arredondamento) são inúteis. Eles testaram o Adam com Arredondamento Estocástico, e o M+Adam ainda teve um desempenho superior.
Ele não sugere que devemos parar de usar hardware de alta precisão inteiramente. Em vez disso, mostra que, se precisarmos usar armazenamento de baixa precisão, o M+Adam é a maneira correta de fazer isso.

A Conclusão

O artigo sugere que, quando você é forçado a usar "réguas grosseiras" (pesos de baixa precisão) para treinar modelos de IA gigantes, você não pode confiar em apenas um tipo de movimento. Você precisa de uma abordagem híbrida. O M+Adam é esse híbrido, usando tanto passos aditivos quanto multiplicativos para garantir que o robô nunca fique preso, seja escalando uma montanha gigante ou escapando de um vale de zero. É um passo fundamental em direção ao treinamento de modelos de IA massivos de forma eficiente, sem precisar da memória de alta precisão pesada e cara em que normalmente dependemos.

Resumo Técnico: M+Adam – Treinamento de Baixa Precisão via Otimização Aditiva–Multiplicativa

Declaração do Problema

O treinamento de grandes modelos de linguagem (LLMs) em precisão total (FP32) acarreta custos significativos de memória, computação e energia. Embora os aceleradores modernos suportem formatos de precisão reduzida como BF16, FP8 e FP4, os pipelines de treinamento padrão normalmente mantêm "pesos mestres" de alta precisão (FP32) para garantir a estabilidade. Treinar diretamente com pesos mestres de baixa precisão frequentemente leva à degradação da precisão e instabilidade.

Os autores identificam um modo de falha específico na otimização de baixa precisão: resolução de quantização grosseira em grandes magnitudes de peso. Em sistemas de ponto flutuante, o espaçamento entre valores representáveis (bins de quantização) cresce com a magnitude do número. Consequentemente, os otimizadores aditivos padrão (como o Adam) frequentemente falham em progredir quando as magnitudes dos pesos são grandes, pois os passos de atualização calculados caem abaixo do passo de quantização local e são arredondados para zero. Por outro lado, os otimizadores puramente multiplicativos (como o Madam), que escalam os pesos em relação à sua magnitude atual, falham próximo de zero ou quando mudanças de sinal são necessárias, pois não conseguem escapar da inicialização exata em zero ou inverter sinais de forma eficaz.

Metodologia: M+Adam

O artigo propõe o M+Adam, um novo otimizador que combina as forças complementares de mecanismos de atualização aditivos e multiplicativos para superar as limitações da aritmética de baixa precisão.

Mecanismo Central

O M+Adam mantém dois ramos de atualização paralelos que são combinados em cada etapa:

Ramo Aditivo (estilo Adam): Opera diretamente no espaço de pesos. Ele calcula os momentos de primeira e segunda ordem do gradiente ( $g$ ) para produzir uma atualização aditiva $u^{(a)}$ . Este ramo é eficaz para lidar com pequenas magnitudes, escapar da inicialização em zero e facilitar mudanças de sinal.
Ramo Multiplicativo (estilo Madam): Opera na escala logarítmica (espaço do expoente). Ele calcula o gradiente em relação ao expoente, $g^{(e)} = (\ln 2) w_t g$ , e utiliza momentos adaptativos para produzir uma atualização multiplicativa relativa $u^{(m)}$ . Este ramo garante o progresso em grandes magnitudes onde as atualizações aditivas seriam arredondadas para zero.

A regra de atualização do peso é definida como:
$w_{t+1} = w_t + w_t u^{(m)}_t + u^{(a)}_t$
Esta estrutura permite que o otimizador realize atualizações relativas conscientes da escala quando as magnitudes são grandes (via termo multiplicativo), enquanto retém a flexibilidade para mudar sinais e atualizar valores próximos de zero (via termo aditivo).

Análise Teórica

Os autores fornecem uma garantia teórica para o M+Adam sob suposições padrão de suavidade (smoothness). Eles modelam a atualização como uma operação de "escalar-então-somar" em coordenadas locais. O Teorema 4.1 estabelece que, se as taxas de aprendizado e as constantes de suavidade satisfizerem condições específicas, o método garante o decréscimo mônoto ( $L(w_{t+1}) < L(w_t)$ ), a menos que o gradiente seja zero. Isso prova que a geometria combinada é uma estratégia de otimização válida.

Detalhes de Implementação

Suporte de Precisão: O método é projetado para armazenamento de pesos mestres em BF16, FP8 e NVFP4.
Gerenciamento de Estado: O M+Adam introduz um estado de otimizador adicional (o acumulador de segundo momento para o ramo multiplicativo). Os autores demonstram que este estado pode ser comprimido usando aproximações de baixo posto (especificamente Apollo-E, uma aproximação de posto-4) para minimizar o overhead de memória, mantendo a pegada próxima ao estado AdamW padrão em BF16.
Sem Arredondamento Estocástico: Ao contrário de algumas abordagens anteriores, o M+Adam alcança estabilidade sem exigir arredondamento estocástico (SR) ou acumulação compensada do tipo Kahan, embora seja compatível com eles.

Principais Contribuições

Identificação de Modos de Falha Complementares: O artigo caracteriza formalmente os modos de falha dos otimizadores aditivos (estagnação em grandes magnitudes devido ao arredondamento) e dos otimizadores multiplicativos (estagnação em zero e incapacidade de inverter sinais), mostrando que eles são complementares.
Algoritmo M+Adam: Um novo otimizador que unifica essas duas geometrias, fornecendo uma abordagem fundamentada para o treinamento de baixa precisão sem pesos mestres em FP32.
Garantia de Decréscimo Teórico: Uma prova de decréscimo mônoto para a regra de atualização aditiva-multiplicativa combinada sob suposições padrão de suavidade.
Validação Empírica em Escala: Experimentos extensos em modelos do tipo LLaMA variando de 60M a 1B de parâmetros através de orçamentos de treinamento de 1 a 8× Chinchilla.

Resultados Experimentais

Os autores avaliaram o M+Adam em vários regimes de precisão: BF16/BF16, BF16/FP8, FP8/FP8 e NVFP4/FP8.

Melhoria Consistente: O M+Adam superou consistentemente as linhas de base AdamW ajustadas em todos os tamanhos de modelo e regimes de precisão.
Reduções de Perplexidade: No cenário de baixa precisão mais agressivo (NVFP4/FP8), o M+Adam reduziu a perplexidade por margens significativas em comparação com o AdamW (ex: melhoria de 16,6% para o modelo de 350M). Mesmo no treinamento BF16/BF16, o M+Adam reduziu a perplexidade de 2,8% a 13,3%, dependendo do tamanho do modelo.
Robustez: O método permaneceu estável sem arredondamento estocástico. Também superou o AdamW combinado com arredondamento estocástico (AdamW+SR) e a compensação de Kahan.
Escalabilidade: Os ganhos de desempenho persistiram conforme o orçamento de treinamento aumentava (até 8× Chinchilla) e conforme o tamanho do modelo escalava para 1B de parâmetros.
Eficiência de Memória: Usando a técnica de compressão Apollo-E, o estado de memória adicional exigido para o ramo multiplicativo foi reduzido, resultando em uma pegada de estado de otimizador apenas ligeiramente maior que o AdamW padrão em BF16, mantendo a maioria dos ganhos de perplexidade.

Significância e Alegações

O artigo afirma que as atualizações aditivas-multiplicativas combinadas são especialmente úteis quando os pesos mestres de baixa precisão se tornam uma fonte dominante de erro de otimização.

A significância deste trabalho reside em fornecer uma solução fundamentada para a instabilidade numérica do treinamento de baixa precisão. Ao alinhar a geometria de atualização do otimizador com a estrutura não uniforme dos números de ponto flutuante, o M+Adam mitiga os erros de arredondamento que assolam os otimizadores aditivos padrão em grandes magnitudes e os problemas de estagnação dos otimizadores multiplicativos próximos de zero.

Os autores concluem que o M+Adam representa um passo em direção ao treinamento de baixa precisão de ponta a ponta que não depende de pesos mestres em FP32. Essa capacidade é crucial para aproveitar o hardware de IA moderno (tensor cores) otimizado para FP8 e FP4, potencialmente reduzindo o overhead de memória e os custos de energia para o treinamento de modelos em larga escala. O trabalho sugere que futuros otimizadores devem ser projetados com as restrições específicas da representação de ponto flutuante em mente, em vez de tratar a baixa precisão meramente como um problema de quantização a ser resolvido por técnicas de arredondamento.