🤖 AI

Procedural Knowledge Is Not Low-Rank: Why LoRA Fails to Internalize Multi-Step Procedures

Este artigo demonstra que o LoRA falha em internalizar efetivamente o conhecimento procedimental multi-etapas complexo em comparação ao ajuste fino completo porque as atualizações de peso necessárias exibem um posto efetivo alto que excede em muito a capacidade de baixo posto do LoRA, levando a lacunas de desempenho significativas mesmo em postos elevados.

Autores originais: Simon Dennis, Kevin Shabahang, Hao Guo, Rivaan Patil

Publicado 2026-07-27

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Simon Dennis, Kevin Shabahang, Hao Guo, Rivaan Patil

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando ensinar um robô superinteligente a realizar um trabalho complexo, como reservar um voo ou consertar um computador quebrado. No mundo da inteligência artificial, existe um truque popular chamado "ajuste fino" (fine-tuning). Pense em um modelo de IA gigante como uma biblioteca imensa contendo quase todos os livros já escritos. Para ensinar a ele um trabalho específico, você normalmente teria que reescrever toda a biblioteca, o que é caro e lento. Para economizar tempo, cientistas inventaram um atalho chamado LoRA (Low-Rank Adaptation). Em vez de reescrever toda a biblioteca, o LoRA tenta ensinar o robô adicionando um pequeno e fino caderno de notas adesivas às prateleiras. A grande ideia era que essas notas adesivas poderiam capturar tudo o que o robô precisava saber sobre um novo trabalho sem tocar nos livros pesados por baixo. É como pensar que você pode ensinar alguém a dirigir um carro de corrida apenas dando a ela uma pequena folha de dicas, em vez de deixá-la praticar na pista por horas.

Mas aqui está o problema: este artigo questiona se essa folha de dicas é realmente suficiente quando o trabalho não é apenas sobre lembrar fatos ou escrever em um estilo legal, mas sobre seguir um procedimento rigoroso e de múltiplas etapas. O conhecimento procedural é como uma receita com muitos passos de "se isso acontecer, então faça aquilo", onde você tem que acompanhar seu progresso, lidar com erros e garantir que não pulou nenhum passo. Os pesquisadores queram saber: o LoRA (um pequeno caderno) consegue ensinar um robô a seguir uma receita complexa e ramificada, ou ele precisa reescrever a biblioteca inteira (Full Fine-Tuning) para acertar?

O Grande Fracasso da Folha de Dicas

Os pesquisadores montaram uma série de testes para ver se o método da "nota adesiva" conseguiria lidar com a realidade caótica de seguir instruções. Eles não pediram apenas ao robô para escrever um poema; eles o fizeram atuar como um agente de viagens, um especialista em suporte técnico do Zoom e um ajustador de sinistros de seguros. Estas não são tarefas simples; são como navegar em um labirinto gigante e sinuoso onde cada curva depende do que o cliente disse cinco minutos atrás. Se o cliente ficar irritado, você tem que mudar seu caminho. Se eles esquecerem um detalhe, você tem que pedi-lo novamente. O objetivo era ver se o robô conseguiria guiar a conversa do início até um final feliz sem se perder.

Os resultados foram um pouco chocantes. Quando os pesquisadores usaram o método de reescrever a biblioteca inteira (Full Fine-Tuning), os robôs tornaram-se agentes excelentes. Eles seguiam as regras, lembravam dos detalhes e resolviam os problemas, obtendo uma pontuação sólida de 4,11 de 5 no teste de reserva de viagens. Mas quando tentaram o método da "folha de dicas" (LoRA), mesmo com as folhas de dicas mais caras e maiores que conseguiram fazer, os robôs falharam completamente no procedimento.

Aqui está a parte estranha: os robôs do LoRA não ficaram apenas ligeiramente piores; eles ficaram presos em um loop estranho. Eles ainda conseguiam conversar! Conseguiam manter a conversa por 14 turnos sem travar. Pareciam educados e naturais. Mas estavam falhando no trabalho real. No teste de viagem, os robôs do LoRA pontuaram entre 2,10 e 2,54 — mal metade do desempenho dos robôs treinados integralmente. Eles pulavam etapas importantes, esqueciam de perguntar o destino ou desistiam cedo demais. Era como um guia turístico que sabe dizer "Olá" e "Adeus" perfeitamente, mas leva os turistas contra uma parede porque esqueceu o mapa.

O Paradoxo de Cadernos Maiores

Você pode pensar: "Ok, talvez a folha de dicas fosse pequena demais. Vamos torná-la maior!" Os pesquisadores tentaram isso. Eles aumentaram o tamanho do caderno LoRA de um minúsculo rank 16 até um enorme rank 128. Isso significava que eles estavam alterando mais do cérebro do robô, usando até 3,4% de seus parâmetros totais. Você esperaria que um caderno maior ajudasse, certo?

Surpreendentemente, isso piorou as coisas. À medida que o caderno ficava maior, os robôs ficavam piores em seguir o procedimento. A melhor pontuação foi no tamanho menor e, quando chegaram ao maior tamanho, a pontuação de sucesso da tarefa caiu para 2,10. Acontece que tornar a folha de dicas maior não ajudou o robô a aprender a lógica do labirinto; apenas o ajudou a memorizar as palavras do labirinto melhor. O robô tornou-se muito bom em parecer que sabia o que estava fazendo, mas ainda estava perdido. Os pesquisadores descobriram que os robôs estavam sofrendo de "overfitting", que é uma forma elegante de dizer que eles estavam memorizando os exemplos de treinamento como um papagaio, sem entender as regras.

Por Que a Folha de Dicas Não Foi Suficiente

Então, por que o pequeno caderno falhou tão miseravelmente? Os autores investigaram profundamente o cérebro do robô para encontrar a resposta. Eles usaram uma ferramenta matemática chamada SVD (Decomposição de Valores Singulares) para observar exatamente o quanto o cérebro do robô mudou quando aprendeu o procedimento.

Imagine que o cérebro do robô é uma grade gigante de números. Quando o robô aprende uma nova habilidade, os números nessa grade mudam. A ideia de "Baixo Rank" (Low-Rank) assume que essas mudanças são simples, como desenhar uma linha reta ou uma folha plana na grade. Mas os pesquisadores descobriram que, para tarefas procedurais, as mudanças são incrivelmente complexas e desordenadas. Elas são como uma escultura 3D feita de milhares de fios retorcidos e minúsculos.

A matemática mostrou que, para capturar as mudanças necessárias para essas tarefas, o robô precisaria usar um "rank" de cerca de 761 a 1.026. Mas o método LoRA só tinha permissão para usar um rank de 128 no máximo. Isso significa que o caderno LoRA estava tentando descrever uma escultura 3D complexa usando apenas um desenho 2D plano. Simplesmente não tinha dimensões suficientes para conter a informação. Os pesquisadores calcularam que mesmo o maior caderno LoRA poderia capturar apenas cerca de 43% a 51% das mudanças necessárias. O resto do "conhecimento" foi simplesmente deixado de fora, como tentar colocar um oceano inteiro dentro de uma xícara de chá.

O Veredito: Você Não Pode Trapacear o Labirinto

O estudo conclui que, para tarefas que exigem que um robô siga um procedimento rigoroso de múltiplas etapas com muitas decisões de "se-então", o método de atalho (LoRA) simplesmente não funciona. Não é que o robô não tenha sido treinado o suficiente; é que o próprio método é limitado demais. O conhecimento necessário para navegar nesses labirintos complexos está espalado por todo o cérebro do robô de uma forma que um pequeno caderno de baixo rank não consegue capturar.

Os pesquisadores estão muito seguros disso porque testaram em três áreas diferentes (viagens, suporte técnico e seguros) e com dois tamanhos diferentes de cérebros de robôs (3 bilhões e 8 bilhões de parâmetros). Em todos os casos, a reescrita da biblioteca inteira venceu, e a folha de dicas perdeu. Eles também descartaram a ideia de que o robô apenas precisava de mais tempo de treinamento, pois os robôs do LoRA aprenderam as palavras mais rápido do que os treinados integralmente — eles apenas falharam em aprender as regras.

Portanto, se você quer um agente de IA que possa reservar seu voo, consertar sua chamada do Zoom ou processar sua reivindicação de seguro de forma confiável sem se confundir, você não pode apenas colar alguns post-its no cérebro dele. Você tem que deixar que ele reescreva a biblioteca inteira. A eficiência do atalho vem ao custo da capacidade do robô de realmente realizar o trabalho.

Resumo Técnico: O Conhecimento Procedural Não é de Baixo Rank

Declaração do Problema

Embora os métodos de ajuste fino eficiente em parâmetros (PEFT), como o Low-Rank Adaptation (LoRA), tenham se tornado o padrão para a adaptação de Grandes Modelos de Linguagem (LLMs) devido à sua eficiência de memória e sucesso no seguimento de instruções, transferência de estilo e adaptação factual, sua eficácia sobre o conhecimento procedural permanece não verificada. O conhecimento procedural é definido aqui como a capacidade de seguir procedimentos de múltiplas etapas envolvendo ramificações condicionais, rastreamento implícito de estado entre turnos e navegação para estados terminais específicos (ex: fluxos de trabalho de suporte ao cliente, sistemas de reserva).

A premissa central que sustenta o LoRA é que as adaptações específicas de tarefas residem em um subespaço de baixa dimensão no espaço de parâmetros. Este artigo desafia essa premissa, postulando que o conhecimento procedural é distribuído por todo o espaço de parâmetros de uma maneira que aproximações de baixo rank não conseguem capturar em ranks práticos. Se o LoRA falha em internalizar o conhecimento procedural, os ganhos de eficiência que ele oferece não estão disponíveis para a classe emergente de aplicações agênticas que dependem de fluxos de trabalho estruturados.

Metodologia

O estudo emprega uma abordagem de ablação sistemática e replicação cross-domain utilizando dados sintéticos gerados a partir de definições de procedimentos baseadas em fluxogramas.

1. Definição de Tarefa e Geração de Dados

Os procedimentos são formalizados como grafos direcionados $F = (N, E, n_0, T)$ representando conversas de múltiplos turnos com ramificação condicional. Três domínios de variadas complexidades foram utilizados:

Reserva de Viagens (modelo 3B): 14 nós, 3 hubs de decisão, 86 caminhos acíclicos únicos.
Suporte do Zoom (modelo 8B): 14 nós, 3 hubs de decisão, 60 caminhos acíclicos únicos, incorporando interface de usuário (UI) específica do domínio e códigos de erro.
Sinistros de Seguro (modelo 8B): 55 nós, 6 hubs de decisão, 2.381 caminhos acíclicos únicos, apresentando loops aninhados e dependências de fases cruzadas.

Conversas sintéticas foram geradas amostrando caminhos através desses fluxogramas e utilizando um LLM (Claude Sonnet 4.5) para gerar diálogos turno a turno, variando variáveis de cenário para garantir diversidade. O modelo de inferência vê apenas o diálogo natural sem anotações procedurais explícitas.

2. Configurações de Ajuste Fino (Fine-Tuning)

O estudo compara o Ajuste Fino de Parâmetros Completos (Full FT) contra o LoRA em quatro ranks ( $r = 16, 32, 64, 128$ ).

Full FT: Atualiza todos os parâmetros. O treinamento utilizou AdamW com decaimento de cosseno, rodando por 20 épocas (3B) ou 10–20 épocas (8B) até a convergência.
LoRA: Alveja todas as camadas lineares (atenção $q, k, v, o$ e MLP gate, up, down). O fator de escala $\alpha = 2r$ . As taxas de aprendizado do LoRA foram configuradas mais altas ( $2 \times 10^{-4}$ ) do que as do Full FT ( $2 \times 10^{-5}$ ) para dar ao LoRA a melhor chance de desempenho. Os adaptadores foram mesclados antes da avaliação para garantir custos de inferência idênticos.

3. Protocolo de Avaliação

O desempenho foi avaliado em $n=200$ cenários por condição usando simulação dinâmica de usuário e um LLM-as-a-judge (Claude Sonnet 4.5, verificado por GPT-4.1). As métricas incluíram:

Sucesso da Tarefa: Execução correta do procedimento até um estado terminal.
Precisão de Informação, Consistência, Tratamento Gracioso e Naturalidade.
A significância estatística foi avaliada usando testes de postos sinalizados de Wilcoxon e Mann–Whitney U com correção de Holm–Bonferroni.

4. Análise Estrutural (SVD)

Para explicar as falhas comportamentais, os autores realizaram a Decomposição em Valores Singulares (SVD) nas diferenças de peso ( $\Delta W = W_{ft} - W_{base}$ ) através de todas as matrizes de peso. Eles mediram a "Energia em $r$ " (fração da norma de Frobenius ao quadrado capturada pelos $r$ vetores singulares superiores) para determinar o limite superior teórico do que um adaptador LoRA de rank- $r$ poderia capturar, independentemente da qualidade da otimização.

Principais Resultados

1. Falha Uniforme entre Ranks

Na tarefa de Reserva de Viagens (modelo 3B), todas as configurações de LoRA falharam em igualar o Full FT, independentemente do rank.

Sucesso da Tarefa: Os escores de LoRA variaram de 2.10 a 2.54, comparados a 4.11 para o Full FT ( $p < 0.001$ ).
Insensibilidade ao Rank: Aumentar o rank de 16 para 128 (um aumento de 8x nos parâmetros treináveis) não gerou melhoria. Na verdade, os escores degradaram em ranks mais altos (ex: o Sucesso da Tarefa caiu de 2.54 em $r=32$ para 2.10 em $r=128$ ).
Conclusão vs. Correção: Os modelos LoRA mantiveram altas taxas de conclusão de conversa (95.5%–99.0%), indicando que não colapsaram no meio da conversa. No entanto, eles falharam em seguir os caminhos procedurais corretos, frequentemente pulando hubs de decisão ou alcançando estados terminais prematuramente.

2. Generalização Cross-Domain

A falha generalizou-se para o modelo 8B nos domínios de Suporte do Zoom e Sinistros de Seguro.

O LoRA teve desempenho inferior ao Full FT em uma média de 0.8–2.2 pontos em todos os critérios tanto em $r=32$ quanto em $r=128$ .
A lacuna de desempenho foi maior no procedimento mais complexo (Sinistros de Seguro), onde o LoRA $r=128$ alcançou um Sucesso de Tarefa de 2.10 contra 4.47 para o Full FT.
Aumentar o rank de 32 para 128 proporcionou apenas melhorias marginais, falhando em fechar a lacuna em relação ao Full FT.

3. Natureza de Alto Rank das Atualizações de Peso

A análise SVD revelou que as mudanças de peso necessárias para a internalização procedural são genuinamente de alto rank.

Rank Efetivo: O rank efetivo médio da atualização de Full FT através dos domínios variou de 761 a 1.026.
Captura de Energia: Um adaptador LoRA de rank-128 captura apenas 43% a 51% da norma de Frobenius ao quadrado da atualização de Full FT.
Gargalo de MLP: As camadas MLP (projeções gate, up, down) exibiram os ranks efetivos mais altos (até 1.872 em Sinistros de Seguro). O rank 128 cobre apenas 7–13% do rank necessário para essas camadas, capturando apenas 26–44% da energia de atualização. As projeções de atenção K/V foram melhor cobertas devido aos tamanhos menores de matriz (GQA), mas os MLPs permanecem como o principal gargalo.

4. Dinâmica de Treinamento e Overfitting

A análise das dinâmicas de treinamento mostrou que o LoRA não sofre de subajuste (underfitting).

Menor Perda, Pior Comportamento: Na convergência, o LoRA ( $r=32$ ) alcançou uma perda de per-token de hold-out (0.81) menor do que o Full FT (0.89).
Divergência: Apesar da perda menor, o LoRA apresentou um desempenho significativamente pior nos critérios comportamentais. Isso indica que o LoRA ajusta a distribuição de tokens de superfície (memorizando padrões locais) de forma mais precisa, mas falha em adquirir o mapeamento estado-ação necessário para a correção procedural.
Overfitting Dependente de Posição: A perda do LoRA em turnos iniciais (formulaicos) permaneceu estável, mas a perda em turnos tardios (que exigem rastreamento de estado) aumentou após a época 3, sinalizando overfitting a correlações de superfície em vez da estrutura procedural.

Significância e Alegações

O artigo estabelece que o conhecimento procedural não é de baixo rank. Os achados sugerem uma limitação fundamental dos métodos eficientes de parâmetros para aplicações agênticas:

Limitação Estrutural: A incapacidade do LoRA de capturar o conhecimento procedural não é uma falha de otimização, mas uma falha representacional. As atualizações de peso necessárias estão distribuídas por centenas de dimensões, excedendo a capacidade das aproximações de baixo rank padrão (mesmo em $r=128$ ).
Troca de Eficiência (Trade-off): Para tarefas que exigem seguimento de procedimentos de múltiplas etapas com confiabilidade, os ganhos de eficiência do LoRA ocorrem às custas da competência procedural. O ajuste fino de parâmetros completos continua sendo necessário para compilar tais procedimentos nos pesos do modelo com qualidade próxima à fronteira tecnológica.
Degradação Paradoxal: Aumentar o rank do LoRA dentro do intervalo prático não melhora linearmente o desempenho; em vez disso, pode aumentar a capacidade de overfitting de padrões de superfície sem capturar a estrutura procedural profunda.

Os autores concluem que, embora o LoRA tenha sucesso no seguimento de instruções e na adaptação factual, ele fica muito aquém do Full Fine-Tuning para tarefas procedurais, uma distinção crítica para o deploy de agentes baseados em LLM. O artigo observa que o LoRA de rank heterogêneo (alocando ranks mais altos especificamente para camadas MLP) é uma via plausível para pesquisas futuras, mas não foi testado neste estudo.