💬 NLP

Parameter Alignment Mitigates Catastrophic Forgetting in Multilingual Expert Language Models

Este artigo introduz e avalia cinco estratégias de alinhamento de parâmetros conscientes de camadas que mitigam efetivamente o esquecimento catastrófico durante o pré-treinamento contínuo de modelos de linguagem de especialistas multilíngues, preservando significativamente o conhecimento geral e o desempenho em tarefas através de diversas línguas enquanto minimiza o custo da aquisição de novas línguas.

Autores originais: Sanchit Ahuja, Terra Blevins

Publicado 2026-06-02

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Sanchit Ahuja, Terra Blevins

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem uma bibliotecária brilhante e multilíngue chamada Gemma. Ela conhece milhares de línguas e pode responder a quase qualquer pergunta sobre o mundo. Mas ela está ficando velha, e você quer ensinar a ela um monte de novas línguas específicas que ela ainda não conhece.

Se você apenas forçá-la a estudar essas novas línguas intensamente, sem fazer pausas, ela pode ficar tão focada no conteúdo novo que acaba esquecendo tudo o que já sabia. Isso é chamado de "Esquecimento Catastrófico" (Catastrophic Forgetting). É como um estudante que estuda tanto para uma nova prova de matemática que, de repente, esquece como ler sua língua nativa.

Este artigo é sobre uma equipe de pesquisadores da Northeastern University que descobriu como ensinar novas línguas a essa bibliotecária sem fazer com que ela esqueça as antigas. Veja como eles fizeram isso, explicado de forma simples:

1. O Problema: A Abordagem "Tamanho Único"

Normalmente, quando ensinamos novas línguas a uma IA, tentamos ensinar todas de uma vez em um amontoado gigante e bagunçado. Os pesquisadores descobriram que isso causa muita confusão. A IA fica melhor nas novas línguas, mas perde a capacidade de entender as antigas.

2. A Solução: "Especialistas de Família"

Em vez de um único professor gigante, eles decidiram contratar cinco tutores especializados, um para cada grande "família linguística" (como a família Romance: espanhol, francês, italiano; ou a família Germânica: inglês, alemão, holandês).

A Ideia: Cada tutor aprende apenas as línguas de sua própria família. Isso mantém as lições organizadas e evita que os tutores se confundam com línguas que não soam nada parecidas entre si.
O Problema: Mesmo com esses tutores especializados, a IA começou a esquecer seu conhecimento geral (como raciocínio ou leitura) porque os tutros estavam mudando o "cérebro" da IA demais.

3. A Correção: "Alinhamento de Parâmetros" (A Cirurgia Cerebral)

Os pesquisadores perceberam que o cérebro da IA possui diferentes camadas, como um edifício de vários andares:

Os Andares Inferiores e Superiores: Estes lidam com os sons específicos e a gramática de língas individuais.
Os Andares Intermediários: Estes guardam o "conhecimento geral" (como lógica, compreensão de leitura e fatos do mundo) que se aplica a todas as línguas.

Quando a IA aprendia novas línguas, ela continuava remodelando os Andares Intermediários, acidentalmente derrubando os móveis do conhecimento geral.

Para corrigir isso, eles testaram cinco estratégias diferentes para proteger os Andares Intermediários enquanto ainda permitiam que os andares superiores e inferiores aprendessem as novas línguas:

Congelamento Rígido (O Sinal de "Não Toque"): Eles literalmente trancaram os Andares Intermediários para que não pudessem mudar nada. O novo aprendizado acontecia apenas nos andares superiores e inferiores.
- Resultado: Ótimo para manter as habilidades de leitura, mas a IA aprendeu as novas línguas um pouco mais devagar.
Regularização Suave (O "Empurrãozinho Gentil"): Em vez de trancar as portas, eles colocaram um peso pesado nos Andares Intermediários. A IA podia mudá-los, mas precisava de muito esforço para isso.
- Resultado: Um bom equilíbrio. A IA manteve sua inteligência geral e ainda assim aprendeu bem as novas línguas.
Reversão Post-Hoc (O "Botão Desfazer"): Eles deixaram a IA aprender livremente primeiro. Depois, após o treinamento concluído, pegaram uma captura dos "Andares Intermediários" originais e os colaram por cima dos novos.
- Resultado: Este foi o truque de mágica para a tradução. A IA se tornou uma máquina de tradução sem perder sua capacidade de traduzir com precisão.
Fusão de Modelos (O "Smoothie"): Eles pegaram todos os cinco tutores especializados, misturaram seus cérebros em um único smoothie gigante e serviram isso.
- Resultado: Funcionou razoavelmente, mas não foi tão bom quanto os outros métodos para manter as habilidades específicas afiadas.

4. O Que Eles Descobriram (Os Resultados)

Os pesquisadores testaram esses métodos em 32 línguas diferentes e quatro tipos de testes (leitura, raciocínio, tradução e apenas "o quão bem ela fala").

Se você se importa com Leitura e Raciocínio: Use o Congelamento Rígido. Ele mantém a inteligência geral da IA intacta da melhor forma.
Se você se importa com Tradução: Use a Reversão Post-Hoc. Ela deu o maior impulso às habilidades de tradução.
Se você quer uma Abordagem Equilibrada: Use a Regularização Suave. É o método "Goldilocks" — bom em tudo, esquecendo muito pouco.

A Grande Conclusão

Não existe uma única maneira "melhor" de ensinar novas línguas a uma IA. Depende do que você quer que a IA faça:

Quer um tradutor? Use o método do "Botão Desfazer".
Quer um leitor inteligente? Use o método do "Não Toque".
Quer um generalista? Use o método do "Empurrãozinho Gentil".

O artigo conclui que, ao sermos inteligentes sobre quais partes do cérebro da IA permitimos que mudem, podemos ensinar novas línguas sem fazer com que ela esqueça quem ela é.

Resumo Técnico: O Alinhamento de Parâmetros Mitiga o Esquecimento Catastrófico em Modelos de Linguagem de Especialistas Multilíngues

1. Definição do Problema

O Pré-treinamento Contínuo (CPT) é um método prático para estender Grandes Modelos de Linguagem (LLMs) para novos idiomas sem os custos proibitivos do pré-treinamento do zero. No entanto, o CPT denso ingênuo frequentemente leva ao esquecimento catastrófico, onde o modelo perde seu conhecimento geral original (ex: raciocínio, compreensão de leitura) enquanto adquire novas capacidades linguísticas. Este problema é exacerbado em ambientes multilíngues devido à "maldição da multilinguidade", que força trocas entre a cobertura de idiomas e a preservação de capacidades.

Embora paradigmas recentes como o X-ELM proponham o treinamento de especialistas bilíngues independentes para evitar a interferência entre idiomas, essa abordagem não foi totalmente explorada para especialistas de famílias linguísticas (agrupando idiomas relacionados). Além disso, mesmo em configurações de especialistas de família, o treinamento sem restrições causa o desvio de parâmetros em relação à inicialização compartilhada, degradando a robustez em idiomas e tarefas relacionadas não incluídas no treino. O desafio central é como mitigar esse esquecimento em um cenário de CPT de especialistas de família distribuído, sem sacrificar a aquisição de linguagem ou a eficiência do treinamento paralelo.

2. Metodologia

2.1 Paradigma de CPT de Especialista de Família

Os autores propõem organizar o treinamento em torno de famílias linguísticas em vez de idiomas individuais ou um único modelo denso.

Configuração: Cinco especialistas independentes são treinados em paralelo, cada um dedicado a uma família linguística específica: Eslava, Germânica, Índica, Austronésia e Românica.
Dados: O treinamento utiliza o corpus MADLAD-400, com um orçamento fixo de 5 bilhões de tokens por família (25B no total).
Inicialização: Todos os especialistas partem de um modelo base compartilhado (Gemma-3-4B).
Objetivo: Esta abordagem visa reduzir a interferência intra-especialista, permitindo o escalonamento flexível e distribuído.

2.2 Estratégias de Alinhamento de Parâmetros Sensíveis às Camadas

Para abordar o desvio de parâmetros que causa o esquecimento, os autores introduzem cinco estratégias que restringem atualizações ou corrigem pesos, visando especificamente as camadas intermediárias do transformer. Este design é motivado pela evidência de que as camadas intermediárias codificam conhecimento neutro em linguagem (raciocínio, conhecimento de mundo), enquanto as camadas externas lidam com o processamento específico da língua.

As cinco estratégias são:

Congelamento de Camadas (Layer Freezing): Uma restrição rígida durante o treinamento onde as 19 camadas intermediárias são congeladas, e apenas as 9 primeiras e as 6 últimas recebem atualizações de gradiente.
Regularização L2 por Intervalo de Camadas (L2-SP): Uma restrição suave que adiciona uma penalidade L2 à função de perda, ponderando fortemente as camadas intermediárias ( $\lambda_{mid} = 0.05$ ) e levemente as camadas externas ( $\lambda = 0.001$ ) para ancorá-las aos pesos base.
Reversão Densa (Dense-Reverted / Train-then-Revert): Um modelo de CPT denso é treinado, e então os pesos das camadas intermediárias são revertidos post-hoc aos pesos pré-treinados do modelo base, mantendo as camadas externas atualizadas.
Reversão de Especialista (Expert-Reverted): Semelhante ao Dense-Reverted, mas aplicado a um especialista de família treinado.
Sopa de Especialistas (Expert Soup): Após o treinamento de cinco especialistas de família vanilla, seus pesos são uniformemente calculados pela média para criar um único modelo unificado ( $\theta_{soup} = \frac{1}{5}\sum \theta_f$ ).

2.3 Baselines (Linhas de Base)

As estratégias de alinhamento são comparadas contra dois baselines não regularizados:

CPT Denso: Um único modelo treinado conjuntamente em todos os 32 idiomas sem mitigação de esquecimento.
Especialista de Família: Especialistas de família vanilla treinados sem qualquer regularização ou correção post-hoc.

2.4 Avaliação

A avaliação abrange 32 idiomas de treinamento e parentes não incluídos nas cinco famílias, medida em quatro eixos:

Aquisição de Linguagem: Perplexidade em texto MADLAD não incluído (held-out).
Compreensão de Leitura: Benchmark Belebele (2-shot).
Raciocínio Físico: Global-PIQA (2-shot).
Tradução: FLORES-200 (scores de ChrF).

3. Resultados Principais

3.1 Troca entre Esquecimento e Aquisição

As estratégias de alinhamento de parâmetros reduzem substancialmente o esquecimento com custo mínimo para a aquisição de linguagem:

Compreensão e Raciocínio: O Congelamento de Camadas e o L2 por Intervalo de Camadas são os melhores para preservar o desempenho subsequente. O Congelamento de Camadas melhorou a precisão do Belebele em uma média de +1,7 pontos percentuais (pp) sobre o modelo base, enquanto o CPT Denso ingênuo causou quedas de 6,6 a 12,3 pp.
Tradução: O Dense-Reverted rendeu os maiores ganhos de tradução, com média de +20,6 ChrF sobre o modelo base. Superou todas as outras estratégias nas famílias Eslava, Germânica, Índica e Românica.
Perplexidade: O L2 por Intervalo de Camadas e o Expert Soup mantiveram ou melhoraram consistentemente a perplexidade de textos não incluídos, enquanto os Especialistas de Família ingênuos degradaram significativamente em idiomas não incluídos (ex: a perplexidade Austronésia saltou de 14,04 para 28,35).

3.2 Desempenho por Tarefa

Nenhuma estratégia única dominou em todos os eixos:

Congelamento de Camadas foi ideal para tarefas de compreensão e raciocínio.
Reversão Post-hoc (Dense-Reverted/Expert-Reverted) foi ideal para a qualidade de tradução.
Expert Soup proporcionou uma forte retenção de compreensão (segundo melhor após o Congelamento de Camadas) e demonstrou que a média uniforme de especialistas de família supera os checkpoints individuais de família em tarefas incluídas.

3.3 Análise Causal do Desvio de Camadas

Através de experimentos de interpolação direcionados (varrendo $\alpha$ do peso base para os pesos treinados), os autores identificaram os drivers causais do esquecimento:

Compreensão: A degradação na precisão do Belebele é impulsionada principalmente pelo desvio das camadas intermediárias. Restaurar as camadas intermediárias aos pesos base recuperou uma precisão significativa, enquanto o desvio das camadas externas teve impacto negligenciável.
Tradução: A qualidade de tradução FLORES segue um perfil diferente. O desvio nas camadas finais foi o principal driver dos ganhos de tradução; restaurar as camadas intermediárias teve pouco efeito nos scores de ChrF. Isso sugere que a qualidade da tradução depende mais do comportamento de saída e da compatibilidade de geração do que da preservação de conhecimento da camada intermediária necessária para a compreensão.

4. Contribuições e Significância

O artigo apresenta três contribuições primárias:

CPT de Especialista de Família: Introduz um paradigma para treinamento multilíngue distribuído centrado em famílias linguísticas, generalizando a abordagem X-ELM para grupos de idiomas mais amplos.
Estratégias de Alinhamento Sensíveis às Camadas: Propõe e testa cinco estratégias específicas (incluindo congelamento rígido, regularização suave e reversão post-hoc) adaptadas ao cenário de especialista de família.
Diretrizes Empíricas: Fornece diretrizes práticas de implantação vinculando estratégias específicas a tarefas alvo. Os autores demonstram que a "fronteira de aquisição-esquecimento" não é uniforme; a seleção da estratégia deve ser sensível às camadas e orientada pela tarefa.

Significância:
O trabalho desafia a noção de uma métrica agregada única para avaliar o CPT. Ele estabelece que:

A preservação da camada intermediária é crítica para manter o conhecimento geral (compreensão/raciocínio).
A flexibilidade da camada externa é crítica para a aquisição de linguagem e tradução.
A mitigação de "tamanho único" para o esquecimento é suboptimal; os praticantes devem selecionar estratégias de alinhamento baseadas se sua prioridade é tradução, compreensão ou ampla cobertura linguística.

Os autores permanecem modestos, observando que suas diretrizes derivam de comparação empírica em uma escala de modelo específica (Gemma-3-4B) e corpus, e que um método principiológico para selecionar automaticamente estratégias para tarefas arbitrárias permanece uma questão aberta.