🤖 machine learning

Federated Foundation Models Fine-Tuning with Heterogeneous Compressed Clients

O artigo propõe o FedSLM, um novo framework de aprendizado federado que permite que clientes com restrições de recursos realizem o ajuste fino de modelos de fundação usando modelos autocontidos comprimidos via SVD e um protocolo de agregação em dois estágios, alcançando um desempenho superior com requisitos de memória significativamente reduzidos, enquanto mantém a fidelidade representacional.

Autores originais: Shengkun Zhu, Jinshan Zeng, Zhihua Allen-Zhao, Mayi Xu, Quanqing Xu, Wei Ren, Qiang Yang, Yang Liu

Publicado 2026-08-03

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Shengkun Zhu, Jinshan Zeng, Zhihua Allen-Zhao, Mayi Xu, Quanqing Xu, Wei Ren, Qiang Yang, Yang Liu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine um mundo onde os computadores mais inteligentes da sala são grandes demais para caber no bolso de ninguém. Estes são os "Modelos de Fundação", cérebros de inteligência artificial massivos treinados em oceanos de dados para compreender a linguagem, imagens e o mundo ao seu redor. Eles são incrivelmente poderosos, mas também são glutões por memória, exigindo servidores enormes e caros para funcionar. Enquanto isso, as pessoas que realmente detêm as informações mais valiosas e secretas — como médicos com registros de pacientes ou bancos com dados financeiros — muitas vezes possuem apenas computadores modestos que não conseguem sequer carregar esses cérebros gigantes. Isso cria um impasse frustrante: os especialistas têm os dados, mas não têm o poder de processamento, e o poder de processamento está preso em um servidor que não consegue ver os dados.

Para resolver isso, cientistas utilizam uma técnica chamada "Aprendizado Federado" (Federated Learning). Pense nisso como um grupo de alunos tentando resolver um quebra-cabeça juntos sem nunca mostrar suas próprias peças ao professor. Em vez de enviarem seus dados privados para um local central, eles enviam apenas suas "ideias" ou "ajustes" para o professor, que os combina para tornar o cérebro do grupo mais inteligente. No entanto, quando o "professor" é um gigante de um bilhão de parâmetros, enviar apenas os ajustes torna-se um pesadelo logístico se os computadores dos alunos forem fracos demais para sequer conter uma pequena fatia do modelo gigante. O desafio é descobrir como permitir que esses computadores fracos aprendam com o gigante sem quebrar seu próprio hardware ou perder a magia do conhecimento do gigante.

Apresentamos o FedSLM, um novo método proposto por pesquisadores que atua como um tradutor astuto e um mestre chef. O problema central que eles enfrentam é uma "assimetria de recursos": as instituições com os melhores dados (hospitais, bancos) muitas vezes não conseguem executar o modelo de IA completo porque ele exige muita memória. As soluções existentes tentavam corrigir isso ou diminuindo o modelo (o que às vezes quebrava sua inteligência) ou treinando apenas partes minúsculas dele (o que ainda exigia que o modelo completo fosse carregado, desperdiçando memória). O FedSLM adota uma abordagem diferente e mais estrutural.

A principal descoberta dos pesquisadores é que você pode decompor o modelo de IA gigante em peças menores e autossuficientes usando um truque matemático chamado Decomposição em Valores Singulares (SVD). Imagine o modelo gigante como uma tapeçaria massiva e intrincada. Em vez de tentar copiar a tapeçaria inteira para um tear pequeno, o FedSLM corta a tapeçaria em seus fios essenciais (subespaços de baixo rank) e dá a cada cliente um tear pequeno e gerenciável com apenas esses fios. Os clientes então só precisam tecer um "adaptador" minúsculo e leve (um pequeno remendo de novo fio) em seu tear para aprender com seus dados específicos. Como todos os clientes estão tecendo em teares derivados da mesma tapeçaria original, seus padrões se encaixam perfeitamente.

Quando os clientes terminam de tecer seus remendos, o servidor os coleta. Mas aqui está a parte inteligente: o servidor não apenas cola os pequenos remendos juntos. Ele primeiro reconstrói versões de tamanho total dos padrões de cada grupo de clientes e depois os mistura em um único modelo global coerente. Finalmente, para garantir que o resultado final não seja apenas uma cópia borrada dos pequenos remendos, o servidor utiliza um método de ensino "fraco-para-forte" (weak-to-strong). Ele trata os modelos pequenos combinados como um "professor fraco" e usa uma técnica especial de perda de confiança (confidence-loss) para ensinar o "aluno forte" (o modelo de escala total do servidor) a aprender o novo conhecimento sem copiar os erros ou os "artefatos de compressão" do professor fraco.

O artigo argumenta explicitamente contra a ideia de que você deve ou carregar o modelo completo em cada cliente (o que é impossível para muitos) ou depender do envio de apenas saídas de texto (o que perde muita nuance). Eles mostram que seu método preserva a integridade estrutural do modelo enquanto permite que os clientes operem com aproximadamente 50% da memória de GPU necessária pelo modelo completo. Em seus experimentos em tarefas de linguagem natural e visão-linguagem, o FedSLM superou consistentemente os métodos existentes, mesmo quando os dados eram desordenados e mal distribuídos. Os pesquisadores mediram que os clientes usando seus modelos comprimidos podiam rodar com cerca de metade do custo de memória, mantendo, ao mesmo tempo, um desempenho forte, muitas vezes recuperando e até excedendo a precisão do modelo original, não comprimido, em tarefas específicas.

A confiança nesses resultados vem de testes extensivos em benchmarks como ARC, HellaSwag e conjuntos de dados médicos, onde o método mostrou melhorias claras sobre outras abordagens de aprendizado federado. Os autores sugerem que esta abordagem consegue preencher a lacuna entre a necessidade de privacidade, as limitações de hardware e o desejo por uma IA poderosa e especializada, provando que você não precisa de um supercomputador para contribuir para um supercérebro.

Resumo Técnico: FedSLM – Ajuste Fino de Modelos de Fundação Federados com Clientes Comprimidos Heterogêneos

1. Definição do Problema

O Aprendizado Federado (FL) de Modelos de Fundação (FMs) enfrenta um paradoxo fundamental de assimetria de recursos: instituições que possuem os dados de domínio mais valiosos (ex: hospitais, empresas financeiras) muitas vezes carecem do orçamento de memória GPU necessário para hospedar ou realizar o ajuste fino de modelos com bilhões de parâmetros. As abordagens atuais de FL heterogêneo tentam preencher essa lacuna, mas falham em satisfazer simultaneamente três requisitos críticos:

Viabilidade de Implantação: Os modelos dos clientes devem ser compactos o suficiente para dispositivos com recursos limitados.
Alinhamento Estrutural: As atualizações heterogêneas dos clientes devem ser fundíveis em um modelo global coerente sem incompatibilidade arquitetural.
Fidelidade: O servidor deve absorver o conhecimento de domínio federado sem herdar artefatos de compressão ou sofrer da "falácia da imitação" (onde um modelo forte degrada ao mimetizar um supervisor fraco ruidoso).

Os métodos atuais realizam trocas (trade-offs) entre essas propriedades: o Ajuste Fino de Parâmetros Eficientes (PEFT), como o LoRA, reduz os parâmetros treináveis, mas ainda exige o carregamento do modelo base completo; a extração arquitetural (ex: HeteroFL) interrompe os padrões de atenção pré-treinados em Transformers; e abordagens centradas em dados lutam contra o desalinhamento de vocabulário e a perda de representação oculta.

2. Metodologia: FedSLM

Os autores propõem o FedSLM, um framework centrado em parâmetros que trata o problema como uma otimização acoplada sobre três variáveis: adaptadores do lado do cliente, pesos globais reconstruídos do lado do servidor e o modelo forte final do servidor. O framework opera em quatro estágios distintos:

A. Derivação de Modelo Baseada em SVD (Passo 1)

Em vez de inicialização aleatória, o servidor deriva uma família de modelos comprimidos estruturalmente compatíveis a partir do Modelo de Fundação (FM) pré-treinado usando Decomposição de Valor Singular (SVD).

Processo: Para camadas selecionadas, a matriz de pesos $W$ é decomposta em fatores de baixo posto $U$ e $V$ em várias taxas de compressão ( $r_i$ ).
Estrutura: Clientes no grupo $C_i$ recebem bases de baixo posto fixas $\{U_i, V_i\}$ e um adaptador treinável $\Sigma_{i,c} \in \mathbb{R}^{r_i \times r_i}$ . A camada efetiva é $W \approx U_i \Sigma_{i,c} V_i$ .
Propriedade Chave: Como todas as variantes são derivadas dos mesmos pesos do servidor via truncamento SVD aninhado, elas compartilham uma estrutura de variedade de baixo posto aninhada, garantindo compatibilidade estrutural para agregação, apesar dos diferentes postos (ranks).

B. Agregação Federada Heterogênea (Passos 2 & 3)

O FedSLM emprega um protocolo de agregação de dois estágios para lidar com a heterogeneidade de posto:

Estágio 1: Agregação de Adaptadores Intra-Grupo: Clientes dentro do mesmo grupo de compressão (mesmo posto $r_i$ ) otimizam seus adaptadores locais $\Sigma_{i,c}$ via SGD local. O servidor agrega esses adaptadores usando FedAvg dentro do grupo.
Estágio 2: Fusão de Modelos Inter-Grupo: O servidor reconstrói matrizes de pesos de posto total para cada grupo ( $W_i = U_i \Sigma_i V_i$ ) no espaço ambiente comum $\mathbb{R}^{m \times n}$ . Esses modelos reconstruídos são então fundidos via média ponderada para produzir um modelo global fraco $W_g$ . Este passo aproveita o fato de que todos os grupos compartilham um âncoras pré-treinadas comuns, permitindo a fusão no espaço de posto total.

C. Elicitação de Fraco-para-Forte (Passo 4)

Para transferir o conhecimento do modelo comprimido e agregado ( $W_g$ ) para o modelo de escala total do servidor ( $W_s$ ) sem herdar artefatos de compressão, os autores introduzem um passo de refinamento Fraco-para-Forte.

Mecanismo: O servidor refina $W_s$ usando um conjunto de dados do servidor não rotulado $D_{server}$ .
Função de Perda: Uma Perda de Confiança Auxiliar é utilizada:
$\mathcal{L}_{conf} = (1-\alpha) \ell_{CE}(f_w, f_s) + \alpha \ell_{CE}(\hat{f}_s, f_s)$
onde $f_w$ é o supervisor fraco, $f_s$ é o estudante forte, e $\hat{f}_s$ é a autopredição do modelo forte com gradientes interrompidos.
Papel de $\alpha$ : Este termo equilibra a imitação do modelo fraco com as próprias predições confiantes do modelo forte. O termo de auto-ancoragem ( $\alpha$ ) mitiga a "falácia da imitação" ao evitar que o modelo forte regrida em direção aos erros sistemáticos do supervisor fraco.

3. Principais Contribuições

Garantias Teóricas

O artigo fornece três análises teóricas complementares:

Taxa de Convergência: Estabelece uma taxa de convergência de $O(T^{-1/2})$ para a agregação de nível de adaptador do Estágio-1, contabilizando o drift do cliente e a distorção espectral introduzida pelos fatores SVD.
Alinhamento de Subespaço: Deriva limites para o erro de agregação inter-grupo, provando que as variedades SVD aninhadas garantem compatibilidade geométrica. O erro é limitado pela média ponderada de dados dos resíduos de subespaço.
Mitigação de Artefatos: Caracteriza como a perda de confiança auxiliar mitiga o ruído de compressão. Demonstra um equilíbrio viés-variância onde o coeficiente de mistura $\alpha$ pode ser ajustado para minimizar o risco de o modelo forte aprender artefatos de compressão.

Resultados Empíricos

Experimentos foram conduzidos no LLaMA-2-7B/13B (linguagem) e LLaVA-NeXT-7B (visão-linguagem) em benchmarks de compreensão de linguagem natural e médica sob partições IID e não-IID.

Desempenho: O FedSLM supera consistentemente as linhas de base existentes (incluindo FedAvg+LoRA, HetLoRA e FedMKT). No LLaMA-2-7B, alcançou 71,0% de acurácia média (IID) e 68,2% (não-IID), superando a melhor linha de base por margens significativas.
Eficiência do Cliente: Os modelos de clientes comprimidos operam a aproximadamente 50% da memória GPU exigida pelo modelo completo (ex: ~6,8 GB vs. 13,5 GB para o LLaMA-2-7B) enquanto alcançam maior vazão de inferência (throughput).
Recuperação: O treinamento de adaptadores federados permite que os modelos comprimidos recuperem e excedam a acurácia zero-shot do modelo pré-treinado não comprimido em múltiplos benchmarks.

4. Significância e Alegações

O artigo afirma que o FedSLM resolve a tensão central no aprendizado de modelos de fundação federados ao permitir que clientes com recursos limitados participem efetivamente sem sacrificar a qualidade do modelo global.

Framework Unificado: É o primeiro framework a alcançar simultaneamente a compressão de modelo para implantação, alinhamento estrutural para agregação e mitigação de artefatos para refinamento do servidor.
Viabilidade Prática: Ao reduzir os requisitos de memória do cliente para ~50% do modelo completo mantendo ou excedendo o desempenho, o FedSLM torna o ajuste fino federado de modelos com bilhões de parâmetros viável para instituições com hardware limitado.
Consistência Teórica: O trabalho fornece garantias rigorosas sobre convergência e limites de erro, indo além de abordagens heurísticas para FL heterogêneo.

Os autores enfatizam que o método não exige que os clientes hospedem o modelo completo ou dependam de comunicação de nível de logit com perda, focando em vez disso em extrair e amplificar o conhecimento específico de domínio adquirido através do processo federado.