🤖 machine learning

Resolving Interference (RI): Disentangling Models for Improved Model Merging

O artigo propõe o método Resolving Interference (RI), um framework leve que utiliza dados auxiliares não rotulados para ortogonalizar funcionalmente modelos especialistas, reduzindo a interferência entre tarefas e melhorando significativamente o desempenho e a generalização na fusão de modelos.

Autores originais: Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

Publicado 2026-03-17

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem vários chefs de cozinha incríveis. O Chef A é um mestre em fazer sobremesas, o Chef B é o melhor do mundo em carnes e o Chef C é especialista em peixes. Cada um deles treinou anos na sua própria cozinha, com seus próprios ingredientes e receitas.

Agora, imagine que você quer criar um "Super Chef" que saiba fazer todas essas coisas ao mesmo tempo. A ideia de "fusão de modelos" (Model Merging) seria simplesmente pegar os cadernos de receitas (os parâmetros) do Chef A, do Chef B e do Chef C, misturá-los em uma única pasta e esperar que o novo cozinheiro saiba fazer tudo.

O Problema: A Bagunça na Cozinha (Interferência)

O problema é que, quando você mistura esses cadernos sem cuidado, acontece uma bagunça.

A receita de bolo do Chef A pode acabar apagando a técnica de grelhar do Chef B.
O tempero do peixe do Chef C pode estragar o sabor da carne.

No mundo da Inteligência Artificial, isso se chama "Interferência entre Tarefas". Quando tentamos fundir modelos treinados em coisas diferentes, eles começam a "brigar" entre si. O resultado é um modelo que faz tudo, mas faz tudo mal, porque as informações importantes de um apagaram as do outro.

A Solução: O Método RI (Resolvendo a Interferência)

Os autores deste paper criaram uma técnica chamada RI (Resolving Interference). Pense no RI como um treinador de equipe muito esperto que prepara os chefs antes de misturá-los.

Aqui está como funciona, usando uma analogia simples:

O Treinamento Especial (Desemaranhar):
Antes de misturar os cadernos, o treinador pega o Chef A (o de sobremesas) e diz: "Ok, vamos praticar. Quando você estiver fazendo um bolo, use sua técnica perfeita. Mas, se alguém pedir um prato de carne ou peixe, não use nenhuma das suas técnicas de sobremesa. Use apenas a base neutra da cozinha."

Eles fazem isso para todos os chefs. O objetivo é fazer com que o "conhecimento de sobremesa" do Chef A fique isolado em um canto da mente dele, sem atrapalhar quando ele precisa pensar em carne. Eles tornam as habilidades "ortogonais" (como linhas que se cruzam em ângulo de 90 graus, sem se tocar).
O Segredo: Dados "Fantasmas" (Dados Auxiliares):
O grande truque é que eles não precisam dos ingredientes reais das receitas (os dados de treinamento originais, que muitas vezes são secretos ou não existem mais). Eles usam apenas uma pilha de fotos aleatórias e sem rótulos (imagens de objetos comuns, como cadeiras, árvores ou gatos) para treinar essa "separação".

É como se o treinador mostrasse fotos aleatórias para o Chef A e dissesse: "Veja essa foto de uma cadeira. Se você tentar fazer um bolo aqui, não use sua técnica de bolo. Se tentar fazer carne, não use sua técnica de carne. Apenas observe." Isso força o cérebro do modelo a aprender a separar o que é específico da tarefa do que é genérico.
A Fusão Perfeita:
Depois que cada chef foi "treinado" para manter suas habilidades separadas e não se misturar com as dos outros, aí sim, eles misturam os cadernos de receitas. Como as técnicas foram "desemaranhadas" antes, elas não se chocam. O resultado é um Super Chef que sabe fazer bolo, carne e peixe, e cada habilidade funciona tão bem quanto no chef original.

Por que isso é importante?

Economia de Tempo e Dinheiro: Você não precisa re-treinar tudo do zero.
Funciona sem Dados Secretos: Você não precisa ter acesso aos dados originais de cada tarefa (o que é ótimo para privacidade).
Melhor Resultado: O paper mostra que, ao usar esse método, os modelos ficam até 3,8% melhores em tarefas que já conheciam e até 2,3% melhores em situações novas e desconhecidas (como reconhecer objetos em desenhos ou pinturas, mesmo tendo sido treinado em fotos reais).

Resumo da Ópera:

O paper diz: "Não misture os ingredientes de receitas diferentes sem antes organizar a despensa. Use um pouco de treino leve com fotos aleatórias para garantir que cada habilidade saiba onde fica, e só então junte tudo. Assim, você terá um modelo único que não perde a memória de como fazer cada coisa."

É como se você organizasse sua mala de viagem antes de fechar a mala: se você jogar tudo junto, suas roupas de praia vão sujar suas roupas de trabalho. O RI é o método de dobrar e separar as roupas antes de fechar a mala, garantindo que tudo caiba e funcione perfeitamente quando você chegar ao destino.

Título: Resolvendo Interferência (RI): Desemaranhando Modelos para Melhor Fusão de Modelos

1. O Problema: Interferência de Tarefas Cruzadas

A fusão de modelos (model merging) é uma técnica promissora que permite criar modelos multitarefa combinando diretamente os parâmetros de modelos especialistas treinados independentemente. No entanto, um desafio central limita a eficácia dessa abordagem: a interferência de tarefas cruzadas (cross-task interference).

Definição: A interferência ocorre quando os parâmetros aprendidos por um modelo para uma tarefa específica "sobrescrevem" ou distorcem as características necessárias para outras tarefas ao serem fundidos. Isso faz com que as representações de saída do modelo fundido se desviem das representações dos modelos especialistas originais, degradando o desempenho.
Limitações das Soluções Atuais:
- Métodos sem gradiente (baseados apenas em parâmetros) ignoram a interação com os dados de entrada, limitando sua capacidade de resolver conflitos complexos.
- Métodos baseados em gradiente frequentemente exigem acesso aos dados originais de treinamento de cada tarefa, o que é irrealista em cenários de escassez de dados ou devido a restrições de privacidade.
- Métodos de roteamento (routing) adicionam custo computacional e complexidade de inferência.

2. Metodologia: Resolving Interference (RI)

Os autores propõem o Resolving Interference (RI), um framework de adaptação leve que visa reduzir a interferência antes mesmo da fusão dos modelos. A abordagem não requer dados rotulados das tarefas de interesse, utilizando apenas dados auxiliares não rotulados (de qualquer distribuição).

Conceito Central: Ortogonalidade Funcional
O objetivo do RI é adaptar os vetores de tarefa (task vectors) de modo que sejam funcionalmente ortogonais aos cabeçalhos (heads) de outras tarefas. Isso significa que um vetor de tarefa adaptado deve influenciar a saída apenas na sua própria tarefa e não ter impacto nas outras.

O Algoritmo RI:
Para cada modelo especialista $i$ , o método otimiza um vetor de tarefa adaptado $\tau^*_i$ minimizando uma função de perda composta por dois termos, utilizando dados auxiliares $D_{aux}$ :

Perda de Preservação de Tarefa ( $L_1$ ): Garante que o modelo adaptado mantenha o desempenho na sua própria tarefa.
- Objetivo: A saída do modelo adaptado com o cabeçalho da tarefa $i$ deve ser idêntica à do modelo original.
Perda de Redução de Interferência ( $L_2$ ): Garante que o modelo adaptado não interfira nas outras tarefas.
- Objetivo: A saída do modelo adaptado, quando aplicado aos cabeçalhos de outras tarefas $j \neq i$ , deve ser idêntica à do modelo base pré-treinado (sem especialização).

A função de perda total é:
$L_{RI} = L_1 + \frac{\alpha}{N-1} L_2$
Onde $\alpha$ é um hiperparâmetro de equilíbrio. O processo é realizado de forma independente para cada especialista, tornando-o paralelizável. Após a adaptação, os vetores $\tau^*_i$ são fundidos usando técnicas de fusão existentes (como Task Arithmetic, TIES, etc.).

3. Contribuições Principais

Formalização da Interferência: Os autores definem formalmente a interferência de tarefas cruzadas como a divergência entre as representações do modelo fundido e as dos especialistas constituintes, criando uma métrica diagnóstica para a qualidade da fusão.
Framework de Adaptação (RI): Propõem um método leve que desentrelaça os modelos especialistas em subespaços funcionais disjuntos usando apenas dados auxiliares não rotulados.
Independência de Dados de Tarefa: O método funciona em cenários de escassez de dados, não exigindo acesso às distribuições de dados originais das tarefas.
Robustez: Demonstram que modelos adaptados com RI são menos sensíveis à sintonização de hiperparâmetros de fusão.

4. Resultados Experimentais

Os experimentos foram conduzidos em modelos de visão computacional (CLIP com backbones ViT-B/32, ViT-B/16 e ViT-L/14) em diversos benchmarks (8, 14 e 20 tarefas).

Desempenho em Domínio (In-Domain):
- O RI melhora consistentemente o desempenho de métodos de fusão state-of-the-art (SOTA).
- Ganhos de até 3,8% em precisão média em benchmarks de 20 tarefas.
- Melhorias significativas em métodos como Task Arithmetic (+9,6% em alguns casos) e TIES.
Generalização Fora de Distribuição (Out-of-Distribution):
- No benchmark DomainNet, modelos fundidos com RI mostraram uma melhoria de até 2,3% na generalização para domínios não vistos em comparação com métodos sem adaptação.
Análise de Dados Auxiliares:
- O método é robusto à fonte de dados auxiliares. Dados sintéticos (ruído, formas) já trazem ganhos, mas dados reais diversificados (como ImageNet) funcionam melhor.
- Curiosamente, o uso de dados da própria tarefa (cenário "oracle") oferece o maior ganho, mas o método ainda é eficaz sem eles.
Sensibilidade a Hiperparâmetros:
- Modelos adaptados com RI são significativamente menos sensíveis à sintonização de hiperparâmetros de fusão (como coeficientes de escala), reduzindo a necessidade de dados de validação rotulados.
Eficiência Computacional:
- O processo é leve: adaptar um especialista leva cerca de 7-9 minutos (em GPU A40) e consome memória constante, independentemente do número de tarefas, pois a adaptação é feita em paralelo.

5. Significado e Conclusão

O trabalho "Resolving Interference" oferece uma solução prática e eficiente para um dos maiores gargalos na fusão de modelos: o conflito entre especializações. Ao formalizar a interferência e propor uma adaptação leve baseada em dados não rotulados, os autores permitem a criação de modelos multitarefa mais robustos e generalizáveis, mesmo em cenários onde os dados de treinamento das tarefas originais não estão disponíveis.

A principal inovação reside na capacidade de "desemaranhar" as especializações dos modelos antes da fusão, garantindo que cada especialista contribua com seu conhecimento sem degradar o desempenho nas outras tarefas. Isso abre caminho para a fusão de modelos em escala em ambientes com restrições de dados e privacidade.