🤖 machine learning

Layer-wise LoRA fine-tuning: a similarity metric approach

Este artigo propõe uma abordagem de ajuste fino de Adaptação de Baixo Rank (LoRA) camada a camada que seleciona sistematicamente as camadas mais relevantes com base na similaridade da representação interna, reduzindo assim os parâmetros treináveis em até 50% enquanto mantém ou até melhora o desempenho preditivo através de várias arquiteturas de modelos e tarefas.

Autores originais: Keith Ando Ogawa, Bruno Lopes Yamamoto, Lucas Lauton de Alcantara, Lucas Pellicer, Rosimeire Pereira Costa, Edson Bollis, Anna Helena Reali Costa, Artur Jordao

Publicado 2026-07-27

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Keith Ando Ogawa, Bruno Lopes Yamamoto, Lucas Lauton de Alcantara, Lucas Pellicer, Rosimeire Pereira Costa, Edson Bollis, Anna Helena Reali Costa, Artur Jordao

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você esteja tentando ensinar um robô superinteligente a fazer um trabalho específico, como resolver problemas matemáticos ou escrever código. Este robô, chamado de Modelo de Linguagem de Grande Escala (LLM), já aprendeu uma quantidade massiva de conhecimento geral ao ler quase tudo na internet. É como um gênio que sabe um pouco sobre tudo, mas precisa se especializar. Para ensinar um novo truque a ele, você geralmente precisa de um "ajuste fino" (fine-tuning), o que significa ajustar suas configurações internas. Mas aqui está o problema: esses robôs são tão enormes que ajustar todas as suas configurações exige um computador tão poderoso e caro que apenas gigantes da tecnologia podem pagar. É como tentar consertar um único parafuso solto em um arranha-céu reconstruindo o edifício inteiro.

Para resolver isso, cientistas inventaram um atalho inteligente chamado LoRA (Low-Rank Adaptation). Em vez de tocar em cada parafuso individual de um arranha-céu, o LoRA sugere que você apenas adicione um remendo pequeno e leve de novos parafusos para ajudar o robô a aprender a nova tarefa. Isso economiza uma tonelada de dinheiro e energia. No entanto, mesmo com esse atalho, o robô ainda é tão grande que o "remendo" pode ser pesado demais para computadores menores. A grande questão é: nós realmente precisamos remendar cada parte do robô para torná-lo inteligente na nova tarefa? Ou existem apenas alguns pontos específicos onde a mágica acontece? Este artigo mergulha nessa questão, perguntando se podemos encontrar os "pontos de ouro" para consertar e deixar o resto da máquina gigante em paz.

O Trabalho de Detetive "Camada por Camada"

Os autores deste artigo, Keith Ando Ogawa e sua equipe, decidiram tratar o cérebro do robô como um edifício de vários andares. Dentro de um Modelo de Linguagem de Grande Escala, a informação flui através de uma série de "camadas", como os andares de um arranha-céu. À medida que uma frase viaja do andar inferior para o superior, ela é processada e transformada. A equipe suspeitava que nem todo andar é igualmente importante para cada nova tarefa. Alguns andares podem estar fazendo o trabalho pesado para problemas matemáticos, enquanto outros podem ser mais úteis para escrever poesia.

A ideia deles era simples, mas poderosa: em vez de colocar um remendo LoRA em cada um dos andares, por que não descobrir quais andares realmente mudam mais quando o robô aprende algo novo? Eles criaram uma maneira de medir essa "mudança" usando uma ferramenta matemática chamada métrica de similaridade. Pense nisso como um "detector de mudanças". Eles observaram o que o robô "pensava" antes de passar a informação para um andar específico e o que ele "pensava" depois que esse andar a processou. Se a entrada e a saída fossem quase idênticas, aquele andar não estava fazendo muito. Mas se a entrada e a saída fossem muito diferentes, aquele andar estava fazendo muito trabalho!

Eles chamaram esse método de "ajuste fino de LoRA camada por camada" (Layer-wise LoRA fine-tuning). É como contratar um detetive para percorrer o arranha-céu, verificando cada andar para ver onde está ocorrendo a maior atividade. Uma vez identificados os andares mais movimentados, eles colocam os remendos LoRA apenas nesses locais específicos e deixam os andares silenciosos e inativos congelados em seus lugares.

O Que Eles Descobriram: Menos é Mais

Quando a equipe testou essa ideia em vários tipos diferentes de cérebros de robôs, os resultados foram surpreendentemente bons. Eles descobriram que, ao selecionar apenas as camadas mais ativas — especificamente, cerca de metade do total de camadas — eles podiam reduzir o número de parâmetros treináveis (os "parafusos" que estão ajustando) em 50%.

Aqui está a melhor parte: embora estivessem ajustando metade dos parâmetros, os robôs não ficaram mais burros. Na verdade, para alguns modelos como LLaMA 2-7B e Mistral-7B, os robôs ficaram até melhores em resolver problemas matemáticos e escrever código quando focaram apenas nas camadas mais importantes. Para outros modelos, como o Gemma-7B, o desempenho caiu apenas uma quantidade mínima, quase imperceptível.

Os pesquisadores também compararam o método do seu "detector de mudanças" contra outras formas que as pessoas usam para escolher camadas, como escolher apenas os andares do meio ou os andares superiores e inferiores. O método deles superou consistentemente essas suposições simples. Por exemplo, em um teste padrão chamado GLUE, o método deles manteve o desempenho do robô alto enquanto cortava o trabalho pela metade, enquanto um método que apenas escolhia as camadas do meio às vezes fazia o robô tropeçar.

Eles também verificaram como isso afetava a memória e a velocidade do computador. Como estavam ajustando menos camadas, o processo de treinamento tornou-se mais rápido. Em alguns modelos, eles viram uma aceleração de cerca de 1,25 vez, e o computador precisou de menos memória para realizar o trabalho. Isso é um grande diferencial para qualquer pessoa que tente rodar esses modelos em computadores menores e mais baratos.

Por Que Isso Importa

O artigo sugere que não precisamos tratar cada parte de um modelo de IA gigante como igualmente importante. Ao usar uma medição simples de quanto uma camada altera a informação que passa por ela, podemos encontrar os "pontos ideais" para o aprendizado. Isso significa que podemos tornar essas ferramentas de IA poderosas muito mais eficientes sem perder sua inteligência.

Os autores testaram isso em diferentes tipos de robôs, incluindo aqueles que apenas leem texto, aqueles que apenas escrevem texto e até um robô multimodal (LLaVA-1.5-7B) que pode ver imagens e ler texto. Em todos os casos, escolher apenas as camadas certas funcionou bem. Eles até tentaram dobrar o "rank" (tornando os remendos mais complexos) nas camadas selecionadas para ver se isso ajudaria, mas descobriram que não fez uma grande diferença. Parece que apenas escolher as camadas certas é a chave, não tornar os próprios remendos mais complicados.

Embora o artigo não afirme ter resolvido todos os problemas da IA, ele oferece uma maneira muito prática e eficaz de tornar o ajuste fino mais barato e rápido. Sugere que, para muitas tarefas, um esforço pequeno e direcionado é tão bom quanto uma revisão massiva e total. Como observam os autores, esta abordagem funciona bem com ferramentas existentes e pode ajudar mais pesquisadores e empresas menores a participar da construção de IAs mais inteligentes, sem precisar de um supercomputador do tamanho de uma casa.

Resumo Técnico: Ajuste Fino de LoRA por Camada via Métricas de Similaridade

Declaração do Problema
Embora os Modelos de Linguagem de Grande Escala (LLMs) pré-treinados tenham avançado o estado da arte da IA de propósito geral, sua adaptação a tarefas de domínio específico via ajuste fino (fine-tuning) acarreta custos computacionais substanciais. Métodos de Ajuste Fino de Parâmetros Eficientes (PEFT), particularmente o Low-Rank Adaptation (LoRA), mitigam isso congelando os pesos pré-treinados e atualizando matrizes de decomposição de baixo rank. No entanto, mesmo com o LoRA, o número de parâmetros treináveis pode permanecer proibitivo conforme a escala dos modelos aumenta. As variantes existentes do LoRA focam primariamente em otimizações ao nível de matriz (ex: estratégias de inicialização, formatos de decomposição ou ajustes de rank), mas frequentemente negligenciam o nível arquitetural. Especificamente, permanece uma questão em aberto se todas as camadas de um transformer contribuem igualmente para a adaptação de tarefas ou se uma seleção sistemática de um subconjunto de camadas poderia reduzir ainda mais os custos computacionais sem sacrificar o desempenho preditivo.

Metodologia
Os autores propõem uma abordagem de seleção de camadas que é ortogonal às técnicas de LoRA existentes. A hipótese central é que nem todas as camadas contribuem igualmente para as mudanças nas representações internas durante a adaptação de tarefas. O método opera da seguinte forma:

Extração de Representação: Para um modelo pré-treinado $F$ com $M$ camadas de transformer ( $L_1, \dots, L_M$ ) e um conjunto de dados de domínio específico $D$ , o método extrai representações internas. Para arquiteturas apenas de encoder, a representação do token <CLS> é utilizada; para arquiteturas apenas de decoder (autorregressivas), a representação do último token é utilizada, pois argumenta-se que esses tokens contêm a informação relevante para a predição.
Medição de Similaridade: O método emprega a métrica de Alinhamento de Kernel Centrado (CKA) para medir a similaridade entre a representação de entrada ( $R_{i-1}$ ) e a representação de saída ( $R_i$ ) de cada camada $L_i$ .
Pontuação de Importância: Uma métrica de importância de camada $I_{L_i}$ é definida como a dissimilaridade entre a entrada e a saída:
$I_{L_i} = 1 - \text{CKA}(R_{i-1}, R_i)$
Os autores hipotetizam que camadas que exibem alta dissimilaridade (baixo CKA) entre entrada e saída têm o impacto mais significativo nas mudanças de representação interna e são, portanto, as candidatas mais críticas para o ajuste fino.
Seleção e Ajuste Fino: As $N$ camadas superiores com as maiores pontuações de dissimilaridade são selecionadas para o ajuste fino via LoRA, enquanto as demais camadas permanecem congeladas. Este processo ocorre antes da fase de ajuste fino, baseando-se exclusivamente em inferência, evitando assim etapas de treinamento adicionais caras ou cálculos de gradiente durante a fase de seleção.

Principais Contribuições

Mecanismo de Seleção Inovador: Introdução de um método sistemático para selecionar camadas de transformer para ajuste fino baseando-se em sua contribuição para as mudanças de representação interna, quantificadas via dissimilaridade CKA.
Ortogonalidade: A técnica é compatível com métodos PEFT existentes (LoRA, PiSSA, etc.) e opera ao nível da camada em vez do nível da matriz, oferecendo uma dimensão adicional de eficiência computacional.
Redução de Parâmetros: O método reduz o número de parâmetros treináveis em técnicas baseadas em LoRA em até 50%, mantendo ou melhorando o desempenho preditivo.
Validação Empírica: Experimentos extensos em arquiteturas apenas de encoder, apenas de decoder e multimodais demonstram a robustez do método.

Resultados Experimentais
Os autores avaliaram sua abordagem em vários modelos e benchmarks:

Modelos Apenas de Encoder (RoBERTa-base, DeBERTa-v3-base): No benchmark GLUE, o ajuste fino de apenas 50% das camadas (selecionadas via a métrica proposta) resultou em uma queda negligenciável no desempenho preditivo (queda média de 0,27 pontos percentuais para o DeBERTa-v3-base) em comparação ao LoRA de camada total. Isso superou significativamente um método concorrente de seleção de camadas baseado em pontuações da Matriz de Informação de Fisher (FIM), que sofreu uma queda de desempenho muito maior (7,68 pontos).
Modelos Apenas de Decoder (LLaMA 2-7B, Mistral-7B-v0.1, Gemma-7B): Avaliados em resolução de problemas matemáticos (GSM8K, MATH) e tarefas de codificação (HumanEval, MBPP).
- Para LLaMA 2-7B e Mistral-7B, o método alcançou melhorias no desempenho preditivo na maioria das tarefas, apesar da redução de 50% nos parâmetros treináveis.
- Para Gemma-7B, uma pequena queda de desempenho foi observada, mas os resultados permaneceram competitivos.
- O método superou consistentemente heurísticas ingênuas (ex: selecionar apenas as camadas do meio, primeiras ou últimas).
Modelos Multimodais (LLaVA-1.5-7B): No benchmark ScienceQA, o método alcançou uma acurácia média de 79,26% comparado a 79,49% para o LoRA de camada total, com uma redução de 50% nos parâmetros treináveis (de 160M para 80M).
Eficiência: A seleção de camadas levou a acelerações significativas no tempo de treinamento (até ~1,4x para certas configurações) e reduções no uso de memória GPU (aproximadamente 15-20%).

Significância e Alegações
O artigo afirma ser o primeiro trabalho a explorar sistematicamente subconjuntos eficazes de camadas para o ajuste fino de LoRA através de um amplo conjunto de modelos e tarefas, incluindo arquiteturas multimodais. Os autores argumentam que sua abordagem fornece um caminho prático para maior eficiência computacional no ajuste fino de grandes modelos sem exigir mudanças arquiteturais ou procedimentos de treinamento complexos.

Os resultados sugerem que:

Camadas específicas são mais influentes para tarefas específicas, e estas podem ser identificadas via métricas de similaridade de representação.
A dissimilaridade CKA é uma ferramenta eficaz para seleção de camadas, superando estratégias ingênuas e abordagens existentes baseadas em FIM.
O método é agnóstico à técnica PEFT específica utilizada (funcionando tanto com LoRA quanto com PiSSA) e à arquitetura do modelo (encoder, decoder ou multimodal).

Os autores mantêm-se modestos quanto a direções futuras, observando questões em aberto como se métricas de importância poderiam capturar interações entre camadas em vez de contribuições individuais, se os ranks ideais de LoRA poderiam ser definidos por camada, e se outras abordagens além de métricas de similaridade poderiam ser eficazes. Eles não reivindicam otimalidade universal para todos os modelos, mas destacam a eficácia do método em reduzir os encargos computacionais preservando o desempenho.

O Trabalho de Detetive "Camada por Camada"

O Que Eles Descobriram: Menos é Mais

Por Que Isso Importa

Resumo Técnico: Ajuste Fino de LoRA por Camada via Métricas de Similaridade

Mais como este