Navigating the Accuracy-Size Trade-Off with Flexible Model Merging

Título: Navegando no Compromisso entre Precisão e Tamanho com Fusão de Modelos Flexível (FLEXMERGE)

1. O Problema

A fusão de modelos (model merging) emergiu como uma técnica eficiente para combinar múltiplos modelos ajustados para tarefas específicas (fine-tuned) em um único modelo, permitindo capacidades multi-tarefa sem a necessidade de treinamento caro ou acesso aos dados originais. No entanto, existem dois desafios principais:

1. Lacuna de Precisão: A fusão de múltiplos modelos em um único modelo (tamanho 1×) frequentemente resulta em uma perda de precisão significativa em comparação com os modelos individuais ajustados, devido a conflitos de parâmetros entre as tarefas.
2. Custo de Armazenamento: Manter todos os modelos individuais ajustados para cada tarefa (tamanho M×, onde M é o número de tarefas) oferece a máxima precisão, mas impõe custos proibitivos de armazenamento e implantação.

A literatura atual foca quase exclusivamente na fusão para um único modelo (1×) ou utiliza dados de validação para melhorar a fusão, o que viola restrições de privacidade em muitos cenários. Existe uma falta de investigação sistemática sobre o espectro completo de tamanhos de modelos (entre 1× e M×) e como diferentes algoritmos de fusão se comportam nesse espectro.

2. Metodologia: FLEXMERGE

Os autores propõem o FLEXMERGE, um novo framework de fusão de modelos livre de dados (data-free) que permite a geração de modelos fundidos de tamanhos variados, cobrindo todo o espectro desde um único modelo fundido até a retenção de todos os modelos individuais.

Principais Características Técnicas:

• Granularidade por Blocos: Em vez de tratar o modelo como um vetor de tarefas único, o FLEXMERGE decompõe o modelo em blocos sequenciais (ex: blocos de transformador, camadas de atenção, camadas MLP).
• Abordagem "Bottom-Up" (Gulosa):
  1. Inicialização: Começa com todos os modelos ajustados, mantendo seus vetores de tarefas para cada bloco.
  2. Iteração: Em cada passo, o algoritmo identifica o par de blocos (de diferentes tarefas ou grupos de tarefas já fundidos) com a maior similaridade de cosseno mínima entre seus vetores de tarefas originais.
  3. Fusão: Funde esse par usando qualquer algoritmo de fusão existente (ex: Task Arithmetic, TIES-Merging, PCB-Merging) aplicado ao nível do bloco.
  4. Parada: O processo continua até que o tamanho do modelo implantado atinja um tamanho alvo desejado (que pode ser um número não inteiro, ex: 1.75×).
• Independência de Dados: O processo não requer dados de treinamento ou validação, apenas os pesos dos modelos pré-treinados e ajustados.
• Eficiência: Utiliza a estrutura de dados Disjoint Set Union (DSU) e pré-computação de similaridades para garantir que a fusão seja computacionalmente eficiente, mesmo para grandes números de tarefas (até 30 tarefas).

3. Contribuições Principais

1. Fusão de Espectro Completo: É o primeiro estudo a gerar modelos fundidos em todo o espectro de tamanhos, incluindo tamanhos fracionários (ex: 2.25×), permitindo um controle preciso sobre o compromisso entre tamanho e precisão.
2. Framework Unificado: Suporta uma ampla gama de algoritmos de fusão livres de dados (TA, TIES, PCB, TSV-M, Consensus, EMR, etc.) dentro de uma única estrutura, aplicando-os ao nível de blocos.
3. Caracterização do Compromisso Precisão-Tamanho: Revela que a relação entre precisão e tamanho não é linear nem monotônica em termos de ranking de algoritmos.
4. Eficiência de Inferência: Demonstra que modelos maiores fundidos não impõem sobrecarga significativa de inferência, pois o FLEXMERGE permite caminhos de forward específicos por tarefa dentro do modelo fundido.

4. Resultados Experimentais

Os autores realizaram extensos experimentos em benchmarks de Visão Computacional (ViT-B/32, ViT-L/14), Processamento de Linguagem Natural (T5-Base, T5-Large) e PEFT ((IA)³), com até 30 tarefas.

Descobertas Chave:

• Ganhos Acelerados Iniciais: Aumentar modestamente o tamanho do modelo fundido resulta em ganhos de precisão dramáticos.
  • Exemplo: Ao dobrar o tamanho de 1× para 2×, o FLEXMERGE + Task Arithmetic (TA) obteve um aumento de 13,5% na precisão média em 8 tarefas de visão.
  • Exemplo: Em 30 tarefas, dobrar o tamanho (de ~3× para ~6×) com o método Consensus resultou em um ganho de 8,5%.
• Convergência Rápida: A precisão próxima à dos modelos totalmente ajustados (fine-tuning) é atingida muito antes de atingir o tamanho máximo (M×). Para 8 tarefas, isso ocorre em torno de 6×; para 30 tarefas, em torno de 23,5×.
• Inconsistência no Ranking dos Algoritmos: O ranking de desempenho dos algoritmos muda conforme o tamanho do modelo aumenta.
  • Em tamanhos pequenos (1×), algoritmos complexos como TIES ou PCB superam a média simples.
  • Em tamanhos maiores (ex: 3× ou 4×), algoritmos mais simples (como a média simples ou TA) podem superar ou igualar os métodos complexos, pois o aumento de parâmetros reduz naturalmente a interferência entre tarefas, tornando os mecanismos de mitigação de interferência menos críticos.
• Superioridade sobre Channel Merging: O FLEXMERGE supera o método Channel Merging (que usa K-Means por camada) em todos os tamanhos, devido à sua capacidade de criar um número variável de grupos por bloco, em vez de impor um número fixo de clusters.
• Latência de Reconstrução: Para métodos baseados em máscaras (como Consensus e EMR), o uso de tamanhos de modelo maiores reduz significativamente a latência de reconstrução durante a inferência, pois menos blocos precisam ser reconstruídos dinamicamente.

5. Significado e Impacto

O trabalho redefine o paradigma de fusão de modelos ao introduzir uma nova dimensão de design: o tamanho do modelo fundido.

• Flexibilidade Prática: Permite que engenheiros de ML escolham o ponto ótimo no espectro de precisão-tamanho para seus cenários de implantação específicos, sem precisar treinar novos modelos.
• Reavaliação de Algoritmos: Sugere que a comparação de algoritmos de fusão deve ser feita em múltiplos tamanhos, não apenas no limite de 1×, pois algoritmos simples podem ser suficientes e mais eficientes em tamanhos maiores.
• Viabilidade de Implantação: Demonstra que é possível obter precisão quase ideal com uma redução de ~25% no tamanho de armazenamento em comparação com manter todos os modelos individuais, sem perda de desempenho.

Em resumo, o FLEXMERGE oferece uma solução elegante e eficiente para o dilema de armazenamento vs. precisão em sistemas multi-tarefa, provando que "mais parâmetros" (dentro de um modelo fundido) podem ser obtidos de forma barata e com retornos de precisão exponenciais nos primeiros passos de expansão de tamanho.