🤖 machine learning

Can Muon Fine-tune Adam-Pretrained Models?

Este artigo investiga a degradação de desempenho causada pela troca de Adam por Muon para ajuste fino de modelos pré-treinados, demonstrando que a incompatibilidade resultante entre otimizadores perturba o conhecimento aprendido e pode ser efetivamente mitigada ao restringir a força das atualizações por meio de métodos como LoRA.

Autores originais: Xingyu Qu, Peigeng Huang, Samuel Horvath

Publicado 2026-05-12

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Xingyu Qu, Peigeng Huang, Samuel Horvath

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Grande Problema: A "Ferramenta Errada" para o Trabalho

Imagine que você tem um artesão altamente habilidoso (o modelo de IA) que passou anos aprendendo um ofício usando um conjunto específico de ferramentas: um martelo e cinzel (este é o otimizador Adam). Eles criaram uma escultura bela e complexa (o modelo pré-treinado) que sabe falar, escrever e raciocinar.

Agora, uma ferramenta nova, mais rápida e mais eficiente chega: uma cortadora a laser (este é o otimizador Muon). Os autores do artigo quiseram ver se poderiam usar essa cortadora a laser para ajustar finamente (fazer pequenos ajustes) na escultura que o artesão construiu com o martelo.

A Descoberta: Quando tentaram usar a cortadora a laser na escultura construída com o martelo, os resultados foram terríveis. A escultura começou a rachar, perder sua forma ou performar pior do que antes.

Por quê? O artigo explica que o martelo e a cortadora a laser "pensam" de maneira diferente.

O Martelo (Adam) constrói estruturas com base em ajustes individuais e minúsculos (como lascando um grão de madeira de cada vez).
O Laser (Muon) constrói estruturas olhando para o bloco inteiro e alisando toda a superfície de uma só vez.

Quando você tenta usar o laser em uma estrutura construída pelo martelo, os ajustes "suaves" do laser entram em conflito com a textura "lascada" da obra original. Esse conflito é chamado de incompatibilidade de otimizadores. Isso perturba o conhecimento que o modelo já aprendeu, fazendo-o "esquecer" coisas ou performar mal.

A Solução: O Método do "Post-it" (LoRA)

Os autores perguntaram: Existe uma maneira de usar a cortadora a laser sem quebrar a escultura construída com o martelo?

Eles encontraram a resposta em uma técnica chamada LoRA (Adaptação de Baixo Rango).

A Analogia:
Em vez de tentar esculpir diretamente na escultura original de pedra (Ajuste Fino Total), imagine que você pega um pedaço de plástico transparente e flexível (LoRA) e cola-o sobre a escultura.

Você deixa a escultura original de pedra exatamente como está (congelada).
Você apenas esculpe seus novos ajustes na folha de plástico.
A cortadora a laser (Muon) trabalha na folha de plástico.

Por que isso funciona:
Como a cortadora a laser está tocando apenas a nova folha de plástico, ela não precisa lutar contra a antiga textura lascada pelo martelo na pedra de baixo. A folha de plástico é flexível o suficiente para se adaptar ao estilo do laser sem quebrar a fundação.

O artigo mostra que, quando usaram esse método de "folha de plástico" (LoRA) com a cortadora a laser (Muon), os resultados foram tão bons quanto, ou às vezes até melhores do que, usar o martelo (Adam). O problema de incompatibilidade desapareceu.

Principais Descobertas em Português Simples

A Incompatibilidade é Real: Se você pegar um modelo treinado com Adam e tentar ajustá-lo finamente diretamente com Muon, ele piora. É como tentar dirigir um carro com um volante projetado para um carro diferente; o carro não dirigirá bem.
A "Folha de Plástico" Corrige Isso: Ao usar LoRA (a folha de plástico), o Muon pode ajustar finamente modelos treinados com Adam de forma eficaz. A lacuna de desempenho entre os dois métodos desaparece.
Menos é Mais: O artigo descobriu que quanto mais você tenta mudar o modelo original (Ajuste Fino Total), mais a incompatibilidade prejudica. Quanto menos você muda (usando uma folha de plástico fina/LoRA), melhor a cortadora a laser funciona.
Esquecendo Menos: Quando a cortadora a laser tentou esculpir diretamente na pedra (Ajuste Fino Total), o modelo "esqueceu" seu conhecimento original (como fazer matemática ou senso comum). Ao usar a folha de plástico (LoRA), o modelo lembrou muito melhor de suas habilidades originais.
Eficiência: O Muon já é conhecido por ser mais rápido e usar menos memória que o Adam durante a fase de treinamento inicial. Este artigo prova que ele também pode ser usado para ajuste fino se você usar o método LoRA, economizando ainda mais memória porque você não precisa armazenar tantas variáveis de "estado".

A Conclusão

Você não precisa jogar fora todos os modelos treinados com o "Martelo" (Adam). Você ainda pode usar o "Laser" (Muon), mais rápido e eficiente, para melhorá-los, mas precisa ser gentil. Em vez de tentar remodelar todo o modelo, basta adicionar uma pequena camada flexível por cima (LoRA). Isso permite que a nova ferramenta funcione sem quebrar o trabalho antigo.

Resumo Técnico: O Muon Pode Ajustar Finaismente Modelos Pré-treinados com Adam?

Declaração do Problema

O Muon (MomentUm Ortogonalizado por Newton-Schulz) emergiu como um otimizador altamente eficiente para o pré-treinamento de grandes modelos de linguagem (LLMs), oferecendo aproximadamente $2\times$ de eficiência computacional sobre o Adam e reduzido uso de memória ao eliminar a estimativa do segundo momento. No entanto, sua aplicação prática ao ajuste fino permanece limitada. O principal obstáculo é o problema de incompatibilidade de otimizador: a maioria dos modelos abertos publicamente disponíveis é pré-treinada com Adam, e a troca ingênua para Muon no ajuste fino leva a desempenho degradado. Inversamente, usar Adam para ajustar finamente modelos pré-treinados com Muon também produz resultados subótimos. Essa incompatibilidade restringe severamente a adoção do Muon no paradigma dominante de ajuste fino, apesar de seus sucessos no pré-treinamento.

Metodologia e Análise

Os autores investigam essa incompatibilidade por meio de experimentos controlados e análise teórica, focando nos vieses implícitos distintos do Adam e do Muon.

Caracterização do Viés Implícito:
- O Adam utiliza pré-condicionamento elemento a elemento baseado nos primeiros e segundos momentos, convergindo para soluções que maximizam a margem da norma-max ( $\|W\|_{\max}$ ).
- O Muon aplica pré-condicionamento em nível de matriz via ortogonalização de Newton-Schulz, convergindo para soluções que maximizam a margem da norma-espectral ( $\|W\|_2$ ).
- A análise teórica em um problema simplificado de regressão linear demonstra que esses otimizadores convergem para soluções fundamentalmente diferentes ( $W^*_{\max}$ vs. $W^*_2$ ). Empiricamente, pesos treinados com Muon exibem maior rank estável e distribuições de valores singulares mais uniformes em comparação com pesos treinados com Adam.
Mecanismo de Degradação:
- A incompatibilidade perturba o conhecimento pré-treinado. Quando um otimizador com um viés implícito diferente é aplicado, ele força os pesos do modelo para uma direção estrutural incompatível com a fase de pré-treinamento.
- Experimentos mostram que o ajuste fino incompatível aumenta a sensibilidade à força de atualização. Atualizações mais fortes causam maior perturbação na estrutura pré-treinada, levando a maior perplexidade e esquecimento catastrófico mais severo.
Mitigação Proposta: LoRA:
- Os autores hipotetizam que constranger a extensão das atualizações pode mitigar essa incompatibilidade. Eles empregam Adaptação de Baixo Rank (LoRA), que congela os pesos pré-treinados ( $W_0$ ) e restringe as atualizações a um subespaço de baixo rank ( $\Delta W = BA$ ).
- Essa abordagem limita a magnitude das mudanças de pesos, impedindo que o otimizador altere agressivamente a estrutura pré-treinada. A análise teórica sugere que a "inflação de incompatibilidade" (a lacuna entre desempenho compatível e incompatível) é limitada pelo rank LoRA $r$ , desaparecendo quando $r \to 1$ .

Contribuições Principais

Reprodução e Análise: O artigo reproduz o fenômeno de incompatibilidade de otimizador em escalas acessíveis (NanoChat, 561M parâmetros) e o vincula aos vieses implícitos distintos (norma-max vs. norma-espectral) do Adam e do Muon.
LoRA como Solução: Os autores demonstram que o LoRA mitiga efetivamente a incompatibilidade. Ao restringir atualizações, o LoRA permite que o Muon ajuste finamente modelos pré-treinados com Adam com desempenho comparável ou superior ao LoRA-Adam.
Validação Abrangente: As descobertas são validadas em:
- Compreensão de Linguagem Natural (NLU): Benchmark GLUE com T5-Base.
- Geração de Linguagem Natural (NLG): Ajuste fino instrucional de Llama 2-7B/13B em matemática, código e raciocínio de senso comum.
- Visão Computacional: Ajuste fino do CLIP ViT-B/32 em seis tarefas de classificação de imagens.
Estudos de Rank e Esquecimento:
- Sensibilidade ao Rank: O benefício do LoRA-Muon é mais pronunciado em ranks baixos a moderados. À medida que o rank aumenta (aproximando-se do ajuste fino completo), a incompatibilidade re-emerge e o desempenho degrada em relação ao Adam.
- Esquecimento Catastrófico: O ajuste fino completo com Muon em modelos pré-treinados com Adam causa esquecimento mais severo do conhecimento pré-treinado do que o Adam. O LoRA reduz significativamente esse esquecimento, preservando a estrutura pré-treinada.
Variantes do LoRA: O estudo avalia variantes existentes do LoRA (por exemplo, rsLoRA, PiSSA, LoRA-One). Descobre-se que variantes projetadas para tornar as atualizações do LoRA mais próximas do ajuste fino completo (como PiSSA) não necessariamente beneficiam o Muon e podem até exacerbar a incompatibilidade, sugerindo a necessidade de adaptações específicas para Muon.

Resultados

Redução da Lacuna de Desempenho: No ajuste fino completo, o Muon consistentemente performa pior que o Adam em modelos pré-treinados com Adam (por exemplo, lacuna de perplexidade de +0,009 a +0,023 no WikiText-2). Sob LoRA, essa lacuna encolhe significativamente (39% para modelos pré-treinados com Muon e 78% para modelos pré-treinados com Adam).
Superioridade no LoRA: Através de tarefas de NLU, NLG e visão, o LoRA-Muon iguala ou supera o LoRA-Adam. Por exemplo, no benchmark GLUE, o LoRA-Muon-PE alcançou a maior precisão média (89,20%), superando tanto o LoRA-Adam (88,93%) quanto o Full-Adam (89,14%).
Eficiência: Embora o Muon incorra em uma sobrecarga modesta por passo devido à iteração de Newton-Schulz (1,1–1,2 $\times$ mais lento que o Adam em configurações LoRA), sua eficiência de memória (armazenando apenas um buffer de momento versus dois para o Adam) permanece uma vantagem prática, economizando ~50% da memória do estado do otimizador.

Significado e Alegações

O artigo afirma fornecer a primeira análise aprofundada do problema de incompatibilidade de otimizador entre Adam e Muon. Seu significado principal reside em habilitar o uso prático do Muon para ajuste fino do vasto ecossistema de modelos pré-treinados com Adam.

Os autores concluem que:

A incompatibilidade de otimizador é estrutural: Ela surge de vieses implícitos conflitantes que perturbam o conhecimento pré-treinado quando a força de atualização não é constrangida.
Atualizações constrangidas são a chave: Técnicas como LoRA, que limitam a magnitude das mudanças de pesos, neutralizam efetivamente essa incompatibilidade.
Recomendação Prática: Praticantes podem usar o Muon como substituto direto do Adam no ajuste fino LoRA para ganhar eficiência de memória e desempenho competitivo sem sofrer as penalidades de incompatibilidade observadas no ajuste fino completo.

O artigo nota modestamente que, embora o LoRA mitigue o problema, as variantes existentes do LoRA otimizadas para Adam não se transferem automaticamente para o Muon, sugerindo que trabalho futuro é necessário para desenvolver adaptações específicas para Muon. Além disso, a caracterização teórica da incompatibilidade permanece uma questão em aberto.