🤖 machine learning

Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning

Este artigo propõe a Fusão Regularizada por Trajetória (TRM), um novo quadro que aborda as limitações de armazenamento e o estagnamento da otimização no aprendizado contínuo, reformulando a fusão de modelos como um processo de otimização dentro de um subespaço de trajetória aumentado para alcançar desempenho de última geração.

Autores originais: Xi Wang, Cheng Deng

Publicado 2026-05-12

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Xi Wang, Cheng Deng

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Grande Problema: O "Chef Esquecido" e a "Geladeira Pesada"

Imagine que você é um chef tentando aprender uma nova receita todos os dias.

O Objetivo: Você quer ser um mestre de todas as receitas (Aprendizado Contínuo).
O Problema: Se você focar demais no prato novo de hoje, pode esquecer como cozinhar o prato de ontem. Isso é chamado de "esquecimento catastrófico".
A Solução Antiga: Geralmente, os chefs mantêm uma geladeira enorme cheia de todos os ingredientes e receitas que já usaram, para que possam olhar para trás e lembrar.
A Restrição: Neste artigo, os autores dizem: "Nenhuma geladeira grande permitida!" Você só pode guardar a receita que acabou de aprender e a que aprendeu imediatamente antes. Você não pode armazenar dados antigos ou modelos antigos. Esta é uma regra estrita de privacidade e armazenamento.

A Falha Atual: A "Entrega Defeituosa"

Os métodos existentes tentam combinar sua "Receita Antiga" e sua "Receita Nova" em uma única "Receita Mestra" (Fusão de Modelos). No entanto, os autores descobriram que os métodos atuais fazem isso mal quando não podem olhar para o histórico.

Eles identificaram três maneiras específicas pelas quais essa "entrega" dá errado:

O Problema da "Média é Sem Sabor" (Convergência Local Subótima):
Imagine que você tem uma receita perfeita de lasanha e uma receita perfeita de sushi. Se você apenas misturá-las pela metade, obtém um prato estranho e medíocre que não tem gosto de nenhum dos dois. Os métodos atuais tentam encontrar uma "média global", mas isso arruína os detalhes específicos necessários para cada tarefa. O resultado é um modelo que é bom em tudo, mas excelente em nada.
O Problema da "Estrutura Quebrada" (Disrupção da Representação Semântica):
Pense em um prédio. A fundação (camadas inferiores) segura o peso, mas os cômodos específicos (camadas superiores) são onde as funções únicas acontecem. Quando os métodos atuais amassam dois modelos juntos, eles acidentalmente quebram a fiação interna. É como tentar fundir duas casas esmagando suas paredes juntas; os cômodos acabam em lugares errados e a casa para de fazer sentido.
O Problema da "Preso na Lama" (Perda de Plasticidade de Otimização):
Imagine que você está dirigindo um carro. Se você estacionar em um vale profundo e plano, é difícil fazer o carro voltar a se mover porque não há uma inclinação para rolar para baixo. Os métodos atuais de fusão frequentemente estacionam o modelo em um "vale plano" de matemática. Quando a próxima nova tarefa chega, o modelo está tão "rígido" e preso que não consegue aprender nada novo. Ele perdeu sua capacidade de se adaptar.

A Solução: TRM (Fusão Regularizada por Trajetória)

Os autores propõem um novo método chamado TRM. Em vez de apenas misturar cegamente as duas receitas, eles tratam o processo de fusão como uma busca guiada pelo local perfeito em um mapa.

Veja como o TRM funciona, usando três "regras" para encontrar o melhor local:

Regra 1: Mantenha-se Fiel à Nova Tarefa (Alinhamento de Tarefa)
- Analogia: Antes de sair da cozinha, certifique-se de que o novo prato realmente tem bom gosto.
- O que faz: Força o modelo fundido a performar bem na tarefa atual imediatamente, garantindo que não perdemos os detalhes específicos da nova receita.
Regra 2: Mantenha a Casa Intacta (Consistência de Previsão)
- Analogia: Certifique-se de que os cômodos na nova casa ainda se alinham com os cômodos na casa antiga. Não deixe a cozinha acabar no banheiro.
- O que faz: Verifica se a "fiação" interna do modelo não foi embaralhada. Garante que a compreensão interna do modelo sobre o mundo permaneça estável e lógica.
Regra 3: Mantenha o Motor Ligado (Responsividade do Gradiente)
- Analogia: Não estacione o carro em um vale plano. Estacione-o em uma pequena colina para que o motor possa acelerar e mover-se para frente facilmente.
- O que faz: Garante que o modelo não esteja "preso". Mantém a "inclinação" matemática íngreme o suficiente para que, quando a próxima nova tarefa chegar, o modelo possa aprender rápida e facilmente.

O Ingrediente Secreto: O "Empurrão Mágico"

Como os autores não têm permissão para olhar dados antigos, estão trabalhando com informações muito limitadas (apenas uma linha reta entre o modelo antigo e o novo). Para corrigir isso, eles introduzem um "Vetor de Perturbação" (um empurrão aleatório controlado).

Analogia: Imagine que você está caminhando em linha reta, mas sente que está batendo em uma parede. Você dá um pequeno passo calculado para o lado (não um tropeço aleatório, mas um passo deliberado) para ver se há um caminho melhor.
Por quê: Isso dá ao modelo um pouco de "margem de manobra" para encontrar um local melhor sem precisar lembrar de todo o histórico.

Os Resultados

Os autores testaram este "Chef" (o modelo) em vários desafios culinários difíceis (conjuntos de dados como CIFAR100, ImageNet-R e Stanford Cars).

O Resultado: O TRM consistentemente superou os outros métodos.
A Pontuação: No teste mais difícil (ImageNet-R com 20 tarefas), o TRM alcançou 82,7% de precisão, enquanto o próximo melhor método obteve apenas 79,3%.
A Eficiência: Isso foi feito sem precisar de uma geladeira gigante (sem dados armazenados) e não demorou muito mais para cozinhar (treinar) do que os outros métodos.

Resumo

O artigo argumenta que simplesmente fazer a média de dois modelos de IA juntos destrói sua capacidade de aprender coisas novas mais tarde. Ao usar três regras específicas para verificar o sabor, a estrutura e o "motor" do modelo, e ao dar um pequeno passo calculado para o lado, os autores criaram uma maneira de fundir modelos que os mantém afiados, estáveis e prontos para o que quer que venha a seguir — tudo sem acumular dados antigos.

Resumo Técnico: Revitalizando o Início: Evitando Dependência de Armazenamento para Fusão de Modelos em Aprendizado Contínuo

1. Declaração do Problema

O Aprendizado Contínuo (CL) visa permitir que modelos adquiram novos conhecimentos sequencialmente sem esquecimento catastrófico. Embora a Fusão de Modelos tenha surgido como um paradigma sem treinamento para integrar especialização em um modelo multi-tarefa unificado, os métodos existentes enfrentam um conflito crítico com as restrições estritas de memória do CL. A maioria das técnicas atuais de fusão (por exemplo, Model Stock, TIES, MagMax) requer acesso a todos os vetores de tarefas anteriores e ao modelo inicial durante a fase de fusão. Isso é funcionalmente equivalente a armazenar todo o conjunto de especialistas anteriores, violando o princípio do CL de proibir a retenção de dados ou modelos históricos.

Os autores demonstram que, sob restrições estritas de CL — onde apenas o especialista atual e o modelo fundido imediatamente anterior estão disponíveis —, os métodos existentes sofrem degradação catastrófica de desempenho (até 6%). Através de experimentos diagnósticos, o artigo identifica três causas raiz para essa falha:

Convergência Local Subótima: Os métodos existentes priorizam o alinhamento global, fazendo com que os modelos fundidos residam em regimes de alta perda, longe das bacias ótimas de tarefas individuais, levando ao acúmulo de erros específicos de tarefa.
Disrupção da Representação Semântica Estrutural: A fusão linear fragmenta as dependências funcionais delicadas entre as camadas, causando deriva semântica significativa, particularmente em camadas mais profundas onde semânticas específicas de tarefa são codificadas.
Perda de Plasticidade de Otimização: Modelos fundidos frequentemente exibem "rigidez direcional", onde o desvio angular do gradiente é minimizado. Isso indica que o modelo está preso em regiões patologicamente planas da paisagem de perda, resultando em gradientes que desaparecem e na incapacidade de se adaptar a tarefas subsequentes.

2. Metodologia: Fusão Regularizada por Trajetória (TRM)

Para abordar essas limitações sem armazenar dados históricos, os autores propõem a Fusão Regularizada por Trajetória (TRM). Esta estrutura reformula a fase de fusão como um problema de otimização guiada dentro de um subespaço de trajetória aumentado.

Construção do Subespaço Aumentado:
Em vez de buscar uma solução exclusivamente dentro do span linear unidimensional do vetor de tarefa atual ( $\tau_t$ ) e do vetor de tarefa anterior ( $\tau_{t-1}$ ), a TRM introduz um vetor de perturbação $P$ ortogonal ao span desses vetores. Essa expansão compensa a informação perdida devido às restrições de armazenamento, permitindo que a busca explore regiões mais elásticas do espaço de parâmetros não convexo. O vetor de tarefa fundido é formulado como:
$\tau_{mrg}^t(\alpha, \beta) = \alpha \cdot \tau_t + (1-\alpha) \cdot \tau_{t-1} + \beta \cdot P$
onde $\alpha$ e $\beta$ são coeficientes de interpolação e expansão, respectivamente.

Sinal Supervisório Multi-Objetivo:
Para identificar os coeficientes ótimos $\{\alpha, \beta\}$ , a TRM otimiza uma função objetivo unificada composta por três restrições sinérgicas:

Alinhamento de Tarefa ( $L_{align}$ ): Minimiza o risco empírico (perda de entropia cruzada) na tarefa atual. Isso garante que o modelo fundido permaneça ancorado à especialização mais recente, prevenindo o deslocamento de bacias locais de alta precisão.
Consistência de Previsão ( $L_{pre}$ ): Minimiza a distância L2 camada a camada entre as representações ocultas do modelo fundido e o centróide funcional do modelo ajustado (finetuned) atual e do modelo consolidado anterior. Um esquema de ponderação progressiva é aplicado, priorizando camadas superiores onde residem as semânticas específicas de tarefa, para prevenir a deriva semântica estrutural.
Responsividade do Gradiente ( $L_{res}$ ): Maximiza a norma quadrada do gradiente na tarefa atual. Com base na observação de que existem sobreposições de características de baixo nível entre tarefas sequenciais, maximizar a norma do gradiente na tarefa atual reativa a responsividade cinética do modelo, garantindo que ele não fique preso em regiões planas e mantenha plasticidade para tarefas futuras.

A perda total é definida como $L_{total} = L_{align} + \lambda_1 L_{pre} + \lambda_2 L_{res}$ . Adicionalmente, para evitar convergência prematura para ótimos locais durante a busca, a inicialização envolve um cruzamento estocástico de parâmetros dos modelos anterior e atual.

3. Contribuições Principais

O artigo delineia quatro contribuições primárias:

Identificação de Limitações: Destaca que os métodos existentes de fusão de modelos não aderem plenamente aos princípios do CL e sofrem degradação significativa de desempenho quando o armazenamento de conhecimento é proibido.
Análise Teórica: Analisa as causas dessa lacuna (perda de optimalidade local, deriva semântica e perda de plasticidade) e reformula a fusão como um problema de busca por ponto ótimo dentro de um subespaço de trajetória aumentado ortogonalmente.
Estrutura Nova: Propõe a TRM, um método guiado por três restrições (alinhamento de tarefa, consistência de previsão e responsividade do gradiente) para harmonizar a estabilidade histórica com a plasticidade futura, sem depender de modelos armazenados ou replay de dados.
Validação Empírica: Demonstra desempenho de última geração (state-of-the-art) em múltiplos benchmarks sob restrições estritas de CL.

4. Resultados Experimentais

Os autores avaliaram a TRM em três conjuntos de dados: CIFAR100, ImageNet-R e Stanford Cars, usando aprendizado incremental de classe (CIL) com números variados de tarefas (5, 10 e 20). O backbone utilizado foi o CLIP ViT-B/16.

Desempenho: A TRM alcançou resultados de última geração na maioria das configurações. No ImageNet-R, superou métodos anteriores de última geração por margens de 1,4% a 3,4% em 5, 10 e 20 tarefas. No CIFAR100, melhorou o anterior estado da arte em 3,1% (5 tarefas) e 1,5% (10 tarefas).
Estudos de Ablação: A remoção de qualquer uma das três restrições levou a quedas de desempenho, confirmando que estabilidade (alinhamento/consistência) e plasticidade (responsividade) são mutuamente reforçadoras.
Escalabilidade: Experimentos na grande escala ImageNet1K (100 tarefas) e em diferentes backbones (ViT-L/14, ViT-B/16 pré-treinado em LAION) confirmaram a robustez e escalabilidade do método.
Eficiência: Embora a TRM introduza um leve aumento no tempo de treinamento em comparação com algumas bases (por exemplo, 33 minutos vs. 30 minutos no ImageNet-R), ela alcança ganhos significativos de desempenho com sobrecarga mínima.
Estabilidade de Otimização: A análise da norma espectral do Hessian mostrou que a TRM mantém uma curvatura de paisagem de perda moderada e estável, evitando a nitidez patológica associada à baixa generalização.

5. Significado e Alegações

O artigo alega que a TRM conecta com sucesso a lacuna entre os benefícios teóricos da fusão de modelos e as restrições práticas do aprendizado contínuo. Ao evitar a necessidade de armazenar vetores de tarefas históricos ou replay de dados, a TRM oferece uma solução escalável e que preserva a privacidade para integrar especialização. Os autores afirmam que seu método mitiga efetivamente o esquecimento catastrófico em fluxos contínuos de dados revitalizando o "início" da próxima fase de treinamento — garantindo que o modelo fundido comece de um estado que é ao mesmo tempo estável (retendo conhecimento anterior) e plástico (pronto para nova otimização). O trabalho sugere que reformular a fusão como uma otimização restrita dentro de um subespaço aumentado é um caminho viável para o futuro do CL, indo além de heurísticas simples de interpolação linear.