🤖 machine learning

First-Order Predictable but Pairwise Fragile: Local Task Adaptation in Trained Transformers

Este artigo avalia sistematicamente oito propriedades de adaptação local em nove modelos transformer e constata que, embora as perturbações de tarefas individuais permaneçam de primeira ordem previsíveis dentro de uma janela de validade compartilhada, a composição de tarefas pareadas é altamente frágil devido à sensibilidade à ordem, rotação de subespaços e à falta de universalidade na aditividade ou na correspondência de direcionamento.

Autores originais: Irina Piontkovskaia, Sergey Nikolenko

Publicado 2026-07-21

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Irina Piontkovskaia, Sergey Nikolenko

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um mestre chef que acaba de aperfeiçoar um ensopado massivo e complexo. É delicioso, mas você quer ajustá-lo levemente: talvez adicionar uma pitada de sal para dar mais sabor, ou uma dose de pimenta para dar um toque picante. No mundo da inteligência artificial, esse "ensopado" é um cérebro de computador gigante (um modelo Transformer) que já aprendeu a falar, escrever e raciocinar. A "pitada de sal" é um pequeno ajuste em suas configurações internas, conhecido como ajuste fino (fine-tuning). Cientistas acreditam há muito tempo que, se você fizer esses ajustes pequenos o suficiente, as mudanças serão previsíveis, como caminhar em linha reta em um campo plano. Eles pensaram que, se você quisesse misturar dois sabores diferentes (como tornar a IA boa tanto em matemática quanto em poesia), poderia simplesmente somar os "ajustes de matemática" e os "ajustes de poesia" e o resultado seria uma mistura perfeita. Essa ideia, chamada de "linearidade local", é a base de muitas ferramentas modernas usadas para personalizar a IA sem precisar treiná-la do zero.

No entanto, assim como na culinária, a cozinha pode não ser tão plana quanto parece. Esta nova pesquisa faz um olhar profundo e microscópico sobre o que acontece quando fazemos esses pequenos ajustes nos cérebros da IA. Os cientistas queriam saber: o quão pequeno um ajuste precisa ser para permanecer previsível? Somar duas mudanças juntas sempre funciona? E importa se você adiciona o sal antes da pimenta, ou a pimenta antes do sal? Eles testaram isso em nove modelos de IA diferentes, variando de pequenos a massivos com bilhões de parâmetros, usando um conjunto rigoroso e pré-planejado de experimentos para garantir que não estivessem apenas adivinhando.

A história que o artigo conta é a de uma "rua de mão única" que subitamente se transforma em um "engarrafamento" quando você tenta mudar de faixa. Os pesquisadores descobriram que, se você empurrar uma IA em apenas uma direção (como torná-la melhor em uma única tarefa), os resultados são surpreendentemente previsíveis e estáveis. Você pode caminhar bastante — até uma escala de $10^{-2}$ em suas medições — antes que a IA comece a ficar confusa ou que a matemática pare de funcionar. É como caminhar por um longo corredor reto onde cada passo parece exatamente igual. Isso é uma ótima notícia para pessoas que desejam fazer ajustes simples de tarefa única ou usar o acaso para encontrar melhorias, pois o "corredor" é largo e seguro.

Mas no momento em que você tenta fazer duas coisas ao mesmo tempo, ou fazê-las em uma ordem específica, o chão torna-se escorregadio. O artigo revela que a regra da "aditividade" (onde $A + B = B + A$ ) é frágil. Se você tentar combinar dois atualizações de tarefas diferentes, a ordem em que você as aplica importa muito, e esse problema pode começar a acontecer muito antes da zona de segurança para tarefas únicas. De fato, para mais de um terço das combinações de modelos e tarefas medidas, a ordem começa a importar dentro da janela de segurança para tarefas únicas. O surgimento dessa sensibilidade varia drasticamente, abrangendo três ordens de magnitude entre diferentes pares, o que significa que algumas combinações falham quase imediatamente enquanto outras resistem por mais tempo. Os cientistas descobriram que este caos é causado por algo chamado "colchete de Lie", uma forma matemática elegante de descrever como a curvatura do cenário de aprendizado da IA se retorce quando você vira à esquerda e depois à direita, versus à direita e depois à esquerda.

A equipe também testou alguns atalhos populares que outros pesquisadores vinham utilizando. Eles verificaram se o espaço de aprendizado da IA era "de baixa dimensão" (como uma folha de papel plana) e descobriram que, ao contrário de algumas crenças anteriores, não era uma folha simples e plana; era mais como uma bola de papel amassada que mudava de forma continuamente conforme você se movia. Eles também testaram se poderiam prever o resultado de um novo ajuste com base em uma pequena amostra de dados e descobriram que, embora a matemática funcionasse perfeitamente quando usavam os mesmos dados para a previsão e para o teste, ela falhava completamente quando tentavam usar dados diferentes. Isso significa que, embora possamos prever o que acontece em um ambiente controlado com os mesmos dados, ainda não podemos prever de forma confiável como um ajuste performará em novos dados não vistos apenas olhando para uma pequena amostra.

No fim, o artigo não diz que o ajuste fino está quebrado, mas diz que as "regras de trânsito" são mais complicadas do que pensávamos. Existe uma zona segura para ajustes de linha reta única, mas assim que você tenta combinar tarefas ou mudar a ordem das operações, você entra em uma zona onde a geometria interna da IA se retorce e gira de maneiras imprevisíveis. Os cientistas concluem que precisamos ser muito mais cuidadosos: não podemos simplesmente assumir que somar dois ajustes funcionará, ou que a ordem não importa. Em vez disso, precisamos verificar a "curvatura" específica do nosso IA específico e das nossas tarefas específicas antes de começarmos a misturar e combinar, porque a distância segura para uma tarefa pode ser um desastre para um par de tarefas.

Resumo Técnico: Previsível de Primeira Ordem, mas Pareado Frágil

Enunciado do Problema
O artigo aborda uma lacuna fundamental na compreensão da geometria local de modelos Transformer treinados. Embora vários métodos de edição de modelos, fusão (merging), direcionamento (steering) e adaptação leve (ex: Task Arithmetic, LoRA, steering de ativação, busca aleatória) operem sob a premissa de que o espaço de parâmetros ao redor de um checkpoint treinado é localmente linear, aditivo ou de baixa dimensão, essas suposições raramente são testadas quantitativamente através de escalas e modelos. Especificamente, não está claro:

Sob qual escala de deslocamento essas aproximações locais se mantêm?
Essas escalas são universais entre diferentes arquiteturas e tamanhos de modelos?
Propriedades de atualização única (ex: linearidade) implicam propriedades pareadas (ex: aditividade ou independência de ordem)?

Os autores postulam que tratar o "regime linear" como um único raio escalar é uma confluência de fenômenos geométricos distintos: autocurvatura, interações cruzadas simétricas e efeitos antissimétricos de ordem.

Metodologia
Os autores conduzem um estudo empírico sistemático e prospectivamente registrado ("O Atlas") medindo oito propriedades locais distintas em torno de um único ponto de operação multitarefa ( $\theta^\star$ ).

Ponto de Operação: Um adaptador LoRA (rank 16) treinado por 300 passos em uma mistura uniforme de cinco tarefas (SST-2, BoolQ, RTE, ARC-Easy, HellaSwag) através de nove modelos variando de 82M a 7B parâmetros (abrangendo sete famílias de arquitetura).
Sistema de Coordenadas: Todas as medições são realizadas nas coordenadas euclidianas fixas dos fatores LoRA (a visão do otimizador), reconhecendo que esta geometria é dependente de gauge, mas consistente para o estudo.
Os Oito Diagnósticos:
1. P1 (Linearidade Local): Razão de antissimetria da perda de sonda ao longo do gradiente.
2. P2 (Baixa Dimensionalidade): Rank da covariância do gradiente da mistura.
3. P3 (Estabilidade do Espaço Tangente): Rotação do subespaço do gradiente da tarefa sobre passos de tarefa única.
4. P4 (Aditividade): Erro de composição no espaço de ativação de vetores de tarefa.
5. P5 (Correspondência Parâmetro-Ativação): Similaridade de cosseno entre a sombra de ativação de uma atualização de peso e um vetor de ativação contrastivo.
6. P6 (Busca Local): Correlação entre o ganho realizado e a projeção de primeira ordem do gradiente para perturbações aleatórias.
7. P7 (Curvatura Direcional): Razão de curvatura ao longo do gradiente versus uma direção aleatória.
8. P8 (Não-Comutatividade): O defeito (colchete de Lie) resultante da ordem de dois passos de gradiente sequenciais.

O estudo utiliza uma divisão rigorosa de desenvolvimento/teste, com limiares e listas de propriedades registrados antes da coleta de dados. Os controles incluem medições no checkpoint pré-treinado bruto e sondas por tarefa.

Resultados Principais

1. Previsibilidade de Atualização Única (Robusta)

Linearidade de Primeira Ordem (P1): Ao longo do gradiente da tarefa, a perda da sonda permanece previsível de primeira ordem (razão de antissimetria < 0,10) até uma escala de deslocamento de pelo menos $10^{-2}$ em todas as medianas dos modelos. Esta janela é significativamente mais larga do que a escala onde as interações pareadas falham.
Busca (P6): Dentro desta janela, os efeitos das perturbações aleatórias estão altamente correlacionados com sua projeção no gradiente ( $r \in [0,70, 1,00]$ ). Isso valida que a busca aleatória local funciona porque o panorama de perda é localmente linear o suficiente para classificar propostas.
Curvatura (P7): A curvatura ao longo do gradiente é ordens de magnitude maior do que ao longo de direções aleatórias, confirmando uma forte anisotropia.

2. Fragilidade Pareada (Falha)

Sensibilidade de Ordem (P8): O achado mais crítico é que as interações pareadas são frágeis. A ordem de duas atualizações sequenciais importa, e essa dependência se estabelece em escalas ( $\eta^\dagger$ $η^{†}$ ) que frequentemente caem estritamente dentro da janela de previsibilidade de atualização única.
- A escala de início varia em três ordens de magnitude entre pares de modelo-tarefa.
- O defeito segue a lei do colchete de Lie: $c(\eta) = \eta\kappa + O(\eta^2)$ , onde $\kappa = \|H_B g_A - H_A g_B\| / \|g_A + g_B\|$ .
- Quando computado nos mesmos minibatches, o defeito medido corresponde à previsão teórica com uma razão mediana de 1,002.
Falha de Aditividade (P4): A aditividade de ativação falha na escala total do vetor de tarefa ( $\alpha=1$ ) em vários modelos, incluindo ambos os modelos de 7B não testados anteriormente. A aditividade só se mantém para frações pequenas ( $\alpha \lesssim 0,3$ ).
Instabilidade de Subespaço (P3): O subespaço do gradiente da tarefa rotaciona significamente dentro de 16–80 passos, invalidando a suposição de um plano de tarefa estático.
Alegações Invalidadas:
- P2 (Covariância de Baixo Rank): A covariância do gradiente da mistura não mostra um platô de baixo rank até $m=256$ amostras; o comportamento de rank-32 observado anteriormente foi um artefato de contagem de amostras.
- P5 (Correspondência Global): Nenhum modelo mediano passa no limiar para uma correspondência de vetor médio global entre atualizações de peso e vetores de steering de ativação.

3. Discrepância de Escala
O artigo demonstra que não existe um raio universal para adaptação. A janela de "uma direção" (onde atualizações únicas são previsíveis) é aproximadamente 1–2 ordens de magnitude maior do que a janela de "duas direções" (onde efeitos de ordem pareada tornam-se significativos). Para mais de um terço das células testadas, a sensibilidade de ordem pareada quebra em deslocamentos estritamente dentro do regime linear de atualização única.

Significância e Alegações
O artigo afirma fornecer o primeiro atlas quantitativo e trans-modelo de propriedades de adaptação local, indo além de asserções qualitativas para declarações mensuráveis e falseáveis.

Validade Específica da Operação: Os autores argumentam que "o regime linear" não é uma propriedade única. Autocurvatura, composição simétrica e efeitos de ordem antissimétrica são governados por diferentes tensores com diferentes escalas. Um método que depende de aditividade (ex: fusão de modelos) não pode assumir a mesma escala de validade que um método baseado em busca de primeira ordem.
O Colchete de Lie como Diagnóstico: O artigo estabelece que o colchete de Lie de dois gradientes de tarefa ( $H_B g_A - H_A g_B$ ) fornece um fato de consistência preciso e específico de coordenadas para a sensibilidade de ordem de atualização; ele pode ser estimado via dois produtos vetor-Hessiano (HVP) para prever o início da não-comutatividade ( $\eta^\dagger \approx 0,10/\kappa$ ) com alta precisão quando os estimadores são compatíveis.
Limites de Transferência: Embora a lei do colchete de Lie com estimador compatível seja válida, o artigo relata explicitamente que previsões de ajuste cruzado falham. Estimar o colchete em uma amostra de dados não prevê o endpoint ou os efeitos da tarefa de atualizações construídas sobre outras amostras. Isso sugere que, embora a geometria local seja consistente dentro de um lote específico, ela não é estável entre distribuições de dados de forma que permita previsões generalizáveis.
Orientação Prática: Profissionais não devem assumir um passo ou raio universal. Em vez disso, devem combinar o diagnóstico com sua operação específica:
- Para busca de direção única, a linearidade mantém-se até $\sim 10^{-2}$ .
- Para atualizações sequenciais, a sensibilidade de ordem é específica de cada par e pode ocorrer em escalas muito menores; verificar o colchete de Lie é necessário.
- Suposições de covariância de mistura de baixo rank ou subespaços de tarefa estáticos devem ser descartadas com base nestes resultados.

O artigo conclui que, embora uma janela de primeira ordem compartilhada torne a busca aleatória local previsível, as interações de tarefas pareadas são frequentemente frágeis em escalas muito menores e específicas de cada par, e o cálculo local de adaptação é específico para a operação, e não universal.

Mais como este