🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

Este artigo propõe o ODE-M, um novo framework de fusão contínua de modelos que aproveita uma perspectiva de Equação Diferencial Ordinária para traçar caminhos de baixa perda no espaço de parâmetros, mitigando assim efetivamente o esquecimento catastrófico e superando os métodos existentes em benchmarks de tarefas heterogêneas.

Autores originais: Lihong Lin, Haidong Kang

Publicado 2026-05-20

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Lihong Lin, Haidong Kang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um chef mestre que aprendeu a cozinhar um prato perfeito de massa italiana. Então, você contrata um segundo chef, especialista em sushi japonês. Finalmente, você contrata um terceiro chef, especializado em tacos mexicanos.

O Problema:
No mundo da IA, frequentemente temos "modelos fundamentais" (como nossos chefs mestres) que são bons em muitas coisas. Quando uma nova tarefa surge (como aprender a cozinhar sushi), geralmente precisamos retreinar todo o chef do zero ou tentar forçar o novo conhecimento sobre o antigo.

O artigo discute Fusão Contínua de Modelos. Isso é como tentar combinar as habilidades do chef italiano, do chef de sushi e do chef de tacos em um único "Super Chef" que possa fazer os três perfeitamente, sem nunca precisar re treiná-los do zero.

O Jeito Antigo (O Método do "Salto"):
Métodos anteriores tentaram fundir esses chefs pegando uma instantânea do cérebro do chef italiano e do cérebro do chef de sushi, e depois simplesmente calculando a média entre eles.

A Falha: Imagine que o cérebro do chef italiano está em um vale (baixa perda/bom desempenho) e o cérebro do chef de sushi está em outro vale. Se você apenas traçar uma linha reta entre eles, talvez precise subir uma montanha íngreme e rochosa no meio.
O Resultado: Quando a IA tenta percorrer essa linha reta, ela encontra uma "barreira de perda" (a montanha). Ela esquece como fazer massa porque ficou presa na montanha tentando aprender sushi. Isso é chamado de esquecimento catastrófico. Quanto mais chefs você adiciona, mais o Super Chef esquece as habilidades originais.

A Nova Ideia (O Método "ODE"):
Os autores propõem uma nova maneira chamada ODE-M (Fusão Impulsionada por Equações Diferenciais Ordinárias). Em vez de saltar de um chef para outro, eles imaginam um caminho contínuo ou uma estrada suave conectando os dois cérebros.

Veja como eles fazem isso, usando metáforas simples:

A Estrada Suave (Conectividade de Modo):
O artigo assume que, embora os chefs pareçam diferentes, existe uma estrada oculta, suave e de baixa altitude conectando seus cérebros, onde ambos ainda podem cozinhar bem. O objetivo é encontrar essa estrada, não a linha reta sobre a montanha.
O GPS com Limitador de Velocidade (O Campo de Velocidade):
Os autores criam um "campo de velocidade", que é como um GPS guiando o Super Chef do estilo italiano para o estilo de sushi.
- O Problema: Às vezes, o GPS tenta dirigir o carro ladeira acima (o que aumenta a "perda" ou piora a culinária).
- A Solução: O sistema verifica o terreno em tempo real. Se a estrada à frente começar a subir uma ladeira (aumentando a perda), o sistema aplica um "freio" ou um "amortecedor" naquela direção específica. Ele desacelera a parte do movimento que causa esquecimento, enquanto ainda permite que o carro avance em direção à nova habilidade.
O "Placa de Pare" (Ponto de Operação):
Você nem sempre precisa dirigir até o destino final (o cérebro do novo chef). Às vezes, você só quer aprender algumas habilidades de sushi sem perder suas habilidades de massa.
- O sistema permite que você pare o carro em qualquer ponto ao longo da estrada suave.
- Se a nova tarefa for muito importante, você dirige mais (mais perto do novo chef).
- Se as tarefas antigas forem mais importantes, você para mais cedo (mantendo mais do conhecimento antigo).
- Isso é controlado por um "cronograma de tempo", que atua como um dial decidindo quanto da nova habilidade absorver versus quanto da habilidade antiga manter.

Por que isso é melhor?

Sem Escalada de Montanha: Ao seguir o caminho suave e de baixa perda, a IA não precisa escalar a "montanha" que faz com que ela esqueça habilidades antigas.
Controle: Oferece ao usuário um dial para decidir exatamente quanto novo conhecimento adicionar sem quebrar o conhecimento antigo.
Resultados: Em seus testes (usando modelos de IA que reconhecem imagens como carros, flores e placas de trânsito), este método criou um "Super Chef" que foi melhor em lembrar todas as tarefas do que qualquer método anterior. Ele manteve as habilidades de massa enquanto aprendia sushi, mesmo ao adicionar muitas novas receitas uma por uma.

Em Resumo:
Em vez de forçar dois cérebros de IA diferentes juntos com um instrumento bruto (o que quebra as coisas), este artigo usa um caminho suave e guiado para fundi-los. Age como um navegador cuidadoso que guia a IA ao redor de "zonas de perigo" (onde ela esqueceria coisas) e permite que você decida exatamente quão longe viajar nesse caminho para equilibrar habilidades antigas e novas.

Formulação do Problema

O artigo aborda a Fusão Contínua de Modelos (CMM), um cenário onde modelos adaptados a tarefas chegam sequencialmente e um único modelo implantado deve ser atualizado iterativamente para incorporar novas capacidades sem acesso aos dados originais de treinamento. Enquanto a fusão padrão de modelos combina múltiplos modelos simultaneamente, a CMM enfrenta o desafio do esquecimento catastrófico e da alocação inconsistente de desempenho.

Os métodos existentes de CMM geralmente tratam cada fusão como uma operação algébrica fixa (por exemplo, média de pesos ou aritmética de vetores de tarefa), mapeando um modelo atual $\Psi_k$ e um modelo entrante $\psi_{k+1}$ diretamente para um novo ponto final $\Psi_{k+1}$ . Os autores argumentam que essa visão de "apenas ponto final" sofre de duas deficiências críticas:

Falta de Controle de Trajetória: Ignora a trajetória percorrida no espaço de parâmetros. Se a atualização passar por regiões de alta perda (barreiras de perda), o modelo resultante pode sofrer degradação funcional ou interferência com comportamentos aprendidos anteriormente.
Compromisso Inflexível entre Estabilidade e Plasticidade: Oferece controle limitado sobre quanto conhecimento histórico é preservado versus quanto expertise de nova tarefa é adotada. Isso é particularmente problemático em cenários de utilidade heterogênea, onde as tarefas têm frequências ou pesos de importância diferentes; regras fixas frequentemente falham em alocar capacidade adequadamente, levando a um desempenho subótimo em nível de sistema.

Metodologia: Fusão Orientada por EDO (ODE-M)

Motivados pela conectividade de modos—a observação de que modelos treinados independentemente podem frequentemente ser conectados por caminhos de baixa perda—os autores propõem visualizar a fusão contínua não como um salto discreto, mas como uma transição contínua controlada no espaço de parâmetros. Eles introduzem o ODE-M, um framework que gera um caminho de conexão através de um campo de velocidade dependente do tempo.

1. Perspectiva de Trajetória e Barreiras de Perda

Em vez de interpolação linear, o ODE-M constrói um caminho contínuo $\theta(t)$ do modelo atual $\theta_0$ até o modelo entrante $\theta_1$ . O objetivo é minimizar a barreira de perda ao longo deste caminho, definida como o excesso máximo de perda encontrado em relação à interpolação linear das perdas dos pontos finais.

2. Campo de Velocidade Retificado

O mecanismo central é a construção de um campo de velocidade consciente de barreiras.

Campo Base: Um campo vetorial base $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ é definido para impulsionar o modelo em direção ao alvo.
Decomposição do Gradiente: Em cada passo, a velocidade é decomposta em um componente alinhado com o gradiente de perda ( $u_\parallel$ ) e um componente ortogonal a ele ( $u_\perp$ ).
Retificação Adaptativa: Um fator adaptativo $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ modula o componente alinhado com o gradiente:
- Se o movimento em direção ao alvo diminuir ou manter a perda ( $\langle g_t, u_t \rangle \le 0$ ), a velocidade total é aplicada ( $\gamma=1$ ).
- Se o movimento aumentar a perda ( $\langle g_t, u_t \rangle > 0$ ), o componente é amortecido para garantir que o aumento da perda permaneça dentro de um orçamento prescrito ( $\Delta L = L(\theta_1) - L(\theta_0)$ ). Especificamente, $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ .
Integração: A trajetória é gerada integrando o campo de velocidade retificado $v_t(\theta) = u_\perp + \gamma u_\parallel$ usando integração de Euler em um pequeno conjunto de calibração.

3. Agendamento de Tempo Consciente de Utilidade

Para controlar o compromisso entre estabilidade e plasticidade, o método seleciona um tempo de operação $t_k$ ao longo da trajetória, em vez de integrar até o ponto final completo ( $t=1$ ). O tempo $t_k$ é determinado pela utilidade relativa da tarefa entrante:
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
onde $w_k$ é o peso de utilidade da $k$ -ésima tarefa. Em um cenário uniforme, isso reduz-se a $t_k = 1/k$ , diminuindo naturalmente a contribuição de novas tarefas à medida que o fluxo cresce, preservando assim mais conhecimento histórico.

Principais Contribuições

Formulação de Trajetória: O artigo reformula a CMM como um problema de busca de caminho, estendendo o conceito de barreiras de perda da interpolação linear para caminhos de conexão gerais.
Dinâmica Consciente de Barreiras: Propõe uma estratégia de fusão inovadora orientada por EDO usando um campo de velocidade retificado que regula o movimento de aumento de perda através de feedback de primeira ordem leve, evitando regiões de alta perda sem exigir retreinamento completo.
Controle Explícito: Ao selecionar pontos de operação ao longo da trajetória com base em pesos de utilidade, o método fornece um mecanismo explícito para equilibrar o conhecimento histórico retido e a expertise da tarefa entrante.

Resultados Experimentais

Os autores avaliaram o ODE-M em backbones ViT do CLIP (ViT-B/32, ViT-B/16, ViT-L/14) através de fluxos de tarefas de comprimento 8, 14 e 20, usando conjuntos de dados da suíte FusionBench.

Desempenho: O ODE-M alcançou desempenho state-of-the-art comparado a baselines fortes (incluindo Continual Task Arithmetic, Continual Ties-Merging e OPCM) em termos de precisão média (ACC) e transferência reversa (BWT). Por exemplo, no ViT-B/32 com 8 tarefas, o ODE-M melhorou a ACC de 75,5 (OPCM) para 79,6.
Utilidade Heterogênea: Sob importância de tarefa não uniforme, o ODE-M consistentemente alcançou a maior precisão ponderada por utilidade ( $ACC_w$ ), demonstrando sua capacidade de otimizar para prioridades de tarefa específicas melhor do que métodos otimizados para médias macro uniformes.
Robustez: Estudos de ablação mostraram que o método é robusto ao tamanho do conjunto de calibração (desempenhando bem com tão poucos quanto 512 amostras) e ao tamanho do passo de integração numérica.
Eficiência: A sobrecarga computacional por fusão é prática (por exemplo, ~124s para ViT-B/32), dominada pela integração numérica e computações de gradiente no conjunto de calibração, o que é negligenciável comparado ao retreinamento completo.

Significado e Alegações

O artigo alega que o ODE-M libera o potencial da fusão contínua de modelos ao mudar o paradigma de atualizações algébricas fixas para transições contínuas controladas. Ao construir explicitamente caminhos que respeitam a paisagem de perda e regular a velocidade de integração com base na utilidade da tarefa, o ODE-M mitiga efetivamente o esquecimento e lida com a importância heterogênea de tarefas.

Os autores posicionam este trabalho como um passo em direção a uma personalização de modelos mais escalável e controlável, reduzindo a sobrecarga de engenharia e computacional de manter sistemas multi-tarefa. Eles reconhecem limitações, como a necessidade de um conjunto de calibração para calcular gradientes e o foco atual em tarefas de classificação de visão, observando que trabalhos futuros explorarão modelos de linguagem maiores e estratégias de integração mais eficientes.