🤖 machine learning

LARA: Lightweight Adapters in the Residual Stream for Composable Adaptation and Alignment

LARA é um método de adaptação leve que injeta correções de baixo posto diretamente no fluxo residual de um modelo congelado, permitindo desempenho de parâmetros correspondentes eficiente, controle suave via fator de escala durante a inferência e a hospedagem simultânea de múltiplos comportamentos distintos em um único dispositivo.

Autores originais: Pascal Ekin, Hyosun Choi, Wei Jie

Publicado 2026-08-03

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Pascal Ekin, Hyosun Choi, Wei Jie

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um robô superinteligente que leu quase tudo na internet. Ele é um gênio, mas também é um pouco teimoso: uma vez que aprendeu suas lições, não é fácil ensinar novos truques a ele sem quebrar seu cérebro ou precisar de uma quantidade massiva de memória para armazenar uma versão inteira e nova de si mesmo. Este é o mundo dos Modelos de Linguagem de Grande Escala (LLMs). Para tornar esses robôs úteis para trabalhos específicos — como escrever código Python ou dar conselhos médicos — os cientistas geralmente usam uma técnica chamada ajuste fino (fine-tuning). Pense nisso como dar ao robô um novo livro didático. O método antigo e dominante, chamado LoRA, é como desmontar o cérebro do robô, reescrever algumas páginas de seu manual de instruções interno e depois colá-lo de volta. Funciona bem, mas é pesado. Se você quiser que o robô seja um programador, um médico e um poeta, terá que carregar três versões diferentes e pesadas de seu cérebro, o que é impossível para um dispositivo pequeno como um celular.

Surge o LARA (Adaptação Residual Aditiva Leve), uma nova ideia de pesquisadores da Royal Holloway e da University of West London. Em vez de reescrever o manual interno do robô, o LARA trata o céreva do robô como uma fundação fixa e imutável. Ele adiciona uma "nota" minúscula e destacável ao fluxo de pensamentos do robô logo antes de ele falar. Esta nota é tão pequena e leve que você pode ter toda uma biblioteca de diferentes "personalidades" (uma para programação, uma para matemática, uma para ser gentil) vivendo no mesmo robô ao mesmo tempo. O robô pode então alternar entre essas personalidades instantaneamente, palavra por palavra, sem precisar recarregar todo o seu cérebro. Este artigo sugere que este método de "anotação" funciona tão bem quanto o método pesado de "reescrita", mas com um superpoder: você pode aumentar ou diminuir o volume do novo comportamento, e pode compactar muitos comportamentos em um espaço minúsculo, tornando possível executar uma IA multitalentosa diretamente no seu dispositivo.

O Problema: O Cérebro Pesado

Imagine que você tem a estátua gigante e congelada de um gênio. Ela é perfeita, mas não pode mudar. Se você quiser que ela comece a falar francês, não pode apenas sussurrar para ela; você tem que esculpir novos músculos na pedra. É isso que a maioria das adaptações de IA faz: tenta esculpir a estátua. O método popular, LoRA, é como adicionar uma fina camada de argila sobre os músculos da estátua. Funciona, mas se você quiser que a estátua fale francês, espanhol e alemão, precisará de três estátuas diferentes, ou três camadas de argila que você tem que trocar e colocar de volta. Isso é lento e ocupa muito espaço.

A Solução: O Post-it

Os pesquisadores por trás do LARA fizeram uma pergunta diferente: "E se não tocarmos na estátua?" Em vez de esculpir ou adicionar argila, eles decidiram colar um pequeno post-it mágico na mão da estátua toda vez que ela alcança algo.

No mundo da IA, a "mão" é chamada de fluxo residual (residual stream). É o fluxo de informação que passa pelas camadas do modelo, como um rio carregando os pensamentos do robô. O LARA não muda o leito do rio (os pesos congelados); ele apenas mergulha uma pequena esponja de baixo rank no rio, espreme um pouco de "correção" e a adiciona de volta à água.

A Esponja: Este é um módulo minúsculo com apenas cerca de 2,39 milhões de parâmetros treináveis.
O Rio: O modelo principal (um modelo de 1,5 bilhão de parâmetros) permanece completamente congelado e intocado.

Como o modelo principal nunca é tocado, o robô "base" está sempre lá, pronto para agir. A esponja apenas adiciona um pouco de sabor aos pensamentos conforme eles fluem.

Os Truques Mágicos

O artigo descobriu três coisas legais sobre esta abordagem:

1. É tão bom quanto o método pesado
Os pesquisadores testaram o LARA em uma tarefa de escrita de código e em uma tarefa de "preferência" (ensinar o robô a ser mais útil e menos rude). Eles compararam o LARA com o método da argila pesada (LoRA) usando exatamente o mesmo número de parâmetros treináveis. O resultado? O LARA igualou o LoRA. Ele aprendeu a escrever código e a seguir preferências tão bem quanto, mesmo sem nunca tocar no cérebro original. É como se o post-it fosse tão eficaz quanto reescrever o manual.

2. O Botão de Volume
É aqui que o LARA fica mais lúdico. Como a "correção" é apenas uma nota aditiva, você pode girar um botão chamado $\gamma$ (gamma) no momento em que o robô fala.

Se você definir $\gamma = 0$ , o robô ignora a nota e age exatamente como a base congelada.
Se você definir $\gamma = 1$ , ele usa a nota totalmente.
Se você definir $\gamma = 0,5$ , é meio a meio.

O artigo mostra que você pode deslizar suavemente entre o "base entediante" e o "programador especialista" apenas girando este botão. Você não consegue fazer isso com o método da argila pesada (LoRA) depois que ela é colada; essa é uma mudança permanente. Com o LARA, você pode dizer: "Ei robô, seja 70% programador e 30% poeta", apenas ajustando o volume.

3. A Biblioteca de Personalidades
Este é o ponto principal. Como a base é congelada e as notas são minúsculas, você pode ter sete comportamentos diferentes vivendo no mesmo modelo de 1,5 bilhão de parâmetros ao mesmo tempo.

Os pesquisadores colocaram seis comportamentos ajustados (código, chat geral, matemática, medicina, um segundo conjunto de código e sumarização) e um comportamento de "preferência" em um único modelo congelado.
O peso extra total para todos os sete? Apenas 33 MB.
Se você usasse o método antigo, precisaria de sete cópias completas do modelo, o que ocuparia 21,6 GB.

Imagine encaixar sete personalidades diferentes no tamanho de um único arquivo MP3. O modelo usa um pequeno "roteador" (um guarda de trânsito) para olhar para cada palavra que o robô está prestes a dizer e decidir qual personalidade buscar para aquela palavra específica. Se a frase for sobre matemática, ele pega a nota de matemática. Se for sobre programação, ele pega a nota de código. Ele pode até misturá-las se uma frase for ambígua.

A Pegadinha (e o Futuro)

O artigo é cuidadoso ao dizer que isso ainda não é uma solução mágica para tudo.

O "Teste de Código": A prova de que o LARA funciona tão bem quanto o LoRA foi feita principalmente em um conjunto de dados de código. Os autores sugerem que provavelmente funciona para outras coisas, mas ainda não testaram totalmente em todos os tópicos possíveis.
O Limite de "Amplificação": Se você girar o botão de volume ( $\gamma$ ) alto demais (como definir para 3), o robô começa a gaguejar e cometer erros, especialmente se houver muitas notas empilhadas. Uma única nota é estável, mas empilhar seis notas e aumentar o volume faz o rio transbordar.
A Confusão do Roteador: Quando dois comportamentos são muito semelhantes (como dois conjuntos de dados de código diferentes), o guarda de trânsito às vezes fica confuso e divide o voto. No entanto, o artigo descobriu que, mesmo quando está confuso, o robão ainda faz um bom trabalho porque ambas as notas estão tentando ajudar com o código.

Por Que Isso Importa

O artigo sugere que talvez não precisemos construir cérebros gigantes e separados para cada nova habilidade. Em vez disso, podemos ter um cérebro sólido e congelado e uma mochila cheia de pequenas notas trocáveis. Isso é enorme para rodar IA em dispositivos como celulares ou laptops, onde a memória é limitada. Isso sugere um futuro onde seu telefone tem um único modelo de IA que pode alternar instantaneamente de seu tutor de matemática para seu assistente de programação e para seu parceiro de escrita criativa, tudo sem precisar baixar um novo aplicativo ou esperar por uma atualização massiva. Os pesquisadores chamam isso de "adaptação composicional", mas você pode apenas pensar nisso como dar ao seu robô um guarda-roupa de pequenos e mágicos post-its.

Resumo Técnico: LARA (Lightweight Adapters in the Residual Stream)

Definição do Problema

A adaptação eficiente de grandes modelos pré-treinados normalmente depende da modificação dos pesos do modelo, sendo o Low-Rank Adaptation (LoRA) a abordagem dominante. O LoRA adiciona uma atualização de baixo rank treinável a matrizes de pesos específicas, efetivamente incorporando a adaptação ao espaço de pesos. Embora eficiente, esta abordagem possui limitações:

Falta de Controle em Tempo de Inferência: Uma vez treinada, a adaptação é fixa. Métodos no espaço de pesos não oferecem um mecanismo para interpolar suavemente entre o comportamento do modelo base e o comportamento adaptado durante a inferência sem retreinar ou carregar diferentes pesos.
Escalabilidade para Múltiplos Comportamentos: O deployment convencional para múltiplos comportamentos (por exemplo, diferentes domínios ou tarefas) frequentemente exige o carregamento de uma cópia separada do modelo completo ou conjuntos de adaptadores distintos para cada tarefa. Isso é intensivo em termos de memória, particularmente para inferência em dispositivos (on-device).
Componibilidade: Métodos existentes frequentemente têm dificuldade em hospedar muitos comportamentos distintos simultaneamente em um único modelo congelado, roteando-os automaticamente por token.

Metodologia: LARA

O LARA (Lightweight Additive Residual Adaptation) propõe operar no fluxo residual (residual stream) de um modelo transformer congelado, em vez de modificar os pesos.

Mecanismo: Em vez de atualizar matrizes de pesos, o LARA insere módulos leves em um subconjunto selecionado de camadas ( $\mathcal{L}$ $L$ ). Em cada camada selecionada $\ell$ $ℓ$ , o módulo lê o estado oculto $h_\ell$ $h_{ℓ}$ , aplica uma transformação de baixo rank e adiciona a correção resultante de volta ao fluxo residual.
- A regra de atualização é: $h_\ell \leftarrow h_\ell + \alpha \frac{1}{r} W_\uparrow W_\downarrow \text{LN}(h_\ell)$
- $W_\downarrow$ é uma matriz $r \times d$ , $W_\uparrow$ é uma matriz $d \times r$ , e $r \ll d$ .
- $W_\uparrow$ é inicializada com zero, garantindo que o modelo se comporte exatamente como o base congelado no início do treinamento.
Base Congelada: Os pesos base nunca são tocados. Se os módulos forem removidos ou sua saída definida como zero, o passo de propagação direta (forward pass) é bit a bit idêntico ao modelo base congelado original.
Escalonamento em Tempo de Inferência: Como a adaptação é aditiva, um coeficiente de escala $\gamma$ $γ$ pode ser aplicado em tempo de inferência:
- $h_\ell \leftarrow h_\ell + \gamma \alpha \frac{1}{r} W_\uparrow W_\downarrow \text{LN}(h_\ell)$
- $\gamma = 0$ recupera o base; $\gamma = 1$ recupera o modelo treinado. Valores intermediários permitem o controle graduado entre o comportamento base e o adaptado.
Roteamento de Múltiplos Comportamentos: Múltiplos comportamentos (cada um um conjunto de módulos LARA) podem residir no mesmo modelo base congelado. Um pequeno roteador linear lê o estado oculto e atribui uma distribuição sobre os comportamentos para cada token. As correções de todos os comportamentos ativos são misturadas como uma soma ponderada por token.

Principais Contribuições

O artigo reivindica explicitamente três contribuições primárias:

Paridade com LoRA em Igualdade de Parâmetros: Ao contrário de trabalhos anteriores que comparam adaptadores residuais ao LoRA sem igualar a contagem de parâmetros, este estudo estabelece que o LARA iguala o desempenho do LoRA tanto em fine-tuning de código quanto em otimização de preferência (DPO) quando treinado com orçamentos de parâmetros iguais.
Controle Graduado em Tempo de Inferência: A natureza aditiva do LARA expõe um coeficiente de escala $\gamma$ que permite a interpolação suave entre o comportamento base e o adaptado durante a inferência, um mecanismo de controle não disponível na adaptação no espaço de pesos.
Comportamentos Componíveis em uma Única Base: Ao manter a base congelada e os comportamentos como pequenos módulos residuais, o LARA permite hospedar um "banco" de comportamentos em um único modelo. Esses comportamentos podem ser treinados separadamente e roteados automaticamente por token, reduzindo significamente o overhead de memória em comparação com o carregamento de cópias completas do modelo.

Resultados Experimentais

Experimentos foram conduzidos em um modelo Qwen2.5 1.5B Instruct (8-bit) congelado.

Fine-Tuning (Código): LARA (2.39M parâmetros) e LoRA (2.18M parâmetros) foram comparados em um corpus de código.
- Distribuição de Treinamento: O LARA alcançou uma perplexidade de 1.70 contra 1.75 do LoRA.
- Divisão de Instrução: O LARA alcançou 7.50 contra 6.74 do LoRA.
- Conclusão: Em igualdade de parâmetros, o LARA atinge a mesma qualidade de fine-tuning que o LoRA.
Otimização de Preferência (DPO): Aplicado em pares de preferência UltraFeedback.
- O LARA alcançou uma acurácia de recompensa de 0.625 contra 0.613 do LoRA.
- Ambos os métodos superaram significativamente o base congelado (0.55).
Escalonamento de Inferência: Variar $\gamma$ de 0 a 3 mostrou que a perplexidade move-se monotonicamente entre os valores base e treinados para $\gamma \in [0, 1]$ . No entanto, a estabilidade depende do posicionamento: uma ponte de camada única permaneceu estável em altos valores de $\gamma$ , enquanto uma configuração de múltiplas camadas degradou bruscamente quando amplificada além de $\gamma=1$ .
Hospedagem de Múltiplos Comportamentos: Sete comportamentos (6 de fine-tuning, 1 de otimização de preferência) foram hospedados em um único modelo de 1.5B.
- Memória: A base (3.09 GB residentes) + 7 comportamentos + roteador = 3.12 GB. Isso é uma fração dos ~21.6 GB necessários para sete cópias separadas do modelo.
- Desempenho: Sob roteamento suave (soft routing), os comportamentos retiveram 87%–99% de seu desempenho dedicado. O roteador direcionou com sucesso os tokens para comportamentos específicos de domínio (ex: matemática, medicina) com alta confiança (>0.94), embora tenha tido dificuldade em separar domínios de código altamente similares.
- Ativação Conjunta: O comportamento de preferência pôde ser ativado junto com comportamentos de domínio em tokens compartilhados (ex: instruções gerais), demonstrando componibilidade.

Significância e Alegações

O artigo posiciona o LARA não como um mecanismo novo (visto que adaptadores residuais e side tuning são estabelecidos), mas como uma caracterização rigorosa desta abordagem no contexto da moderna adaptação eficiente.

Impacto Prático: O principal benefício prático é a capacidade de hospedar um "banco de comportamentos" em um único modelo congelado com overhead de memória mínimo (megabytes por comportamento), tornando-o adequado para inferência em dispositivos onde a memória é uma restrição limitante.
Filosofia de Design: A abordagem trata a adaptação como um resíduo colocado ao lado da computação congelada, em vez de incorporada dentro dela. Isso permite que os comportamentos sejam treinados separadamente e adicionados ao banco sem reajustar a base.
Limitações: Os autores observam que a paridade de fine-tuning foi estabelecida em um corpus de código, e a generalização para outros domínios requer mais testes. O escalonamento de inferência e a aplicação conjunta são medidos via perplexidade e pesos de ativação, não necessariamente pelo alinhamento comportamental downstream. A comparação é estritamente contra o LoRA, não contra outros métodos de espaço de pesos ou de espaço de ativação.

Em resumo, o LARA demonstra que a adaptação eficiente pode ser tratada no fluxo residual com qualidade comparável aos métodos de espaço de pesos, permitindo unicamente o escalonamento de inferência e a hospedagem componível de múltiplos comportamentos em um único dispositivo.