🤖 machine learning

Shortcut Solutions Learned by Transformers Impair Continual Compositional Reasoning

Este artigo investiga o raciocínio composicional contínuo em Transformers usando um framework LEGO estendido, revelando que, enquanto modelos BERT feedforward falham devido a soluções de atalho enraizadas, modelos ALBERT recorrentes exibem desempenho superior ao aprender estratégias de "loop for" algorítmicas que podem ser ainda aprimoradas por meio de treinamento cruzado de experiências.

Autores originais: William T. Redman, Erik C. Johnson, Brian Robinson

Publicado 2026-05-08

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: William T. Redman, Erik C. Johnson, Brian Robinson

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está ensinando um robô a resolver uma série de quebra-cabeças. Os quebra-cabeças não são aleatórios; são variações da mesma lógica subjacente. Por exemplo, um quebra-cabeça pode pedir que você gire um triângulo, o próximo que você o inverta e o seguinte que você faça ambos. O objetivo é ver se o robô consegue aprender a lógica do primeiro quebra-cabeça e usá-la para resolver instantaneamente o segundo e o terceiro, sem esquecer como fazer o primeiro.

Este artigo investiga como dois tipos populares de "cérebros" de IA (chamados BERT e ALBERT) lidam com esse tipo de aprendizado. Os pesquisadores descobriram que, embora esses modelos de IA sejam incrivelmente inteligentes, eles frequentemente tomam "atalhos mentais" que os tornam ruins em aprender coisas novas mais tarde.

Aqui está a análise de suas descobertas usando analogias simples:

1. Os Dois Tipos de Aprendizes

Os pesquisadores testaram dois modelos:

BERT: Pense nele como um fotógrafo. Ele olha para uma imagem inteira de uma vez e tenta memorizar os detalhes específicos daquela única imagem. É muito rápido e bom em reconhecer padrões no momento, mas não entende realmente o processo de como a imagem foi feita.
ALBERT: Pense nele como um programador. Em vez de apenas memorizar a imagem, ele aprende um conjunto de instruções (como um laço em um código de computador) que pode ser repetido para resolver o problema. Ele entende o mecanismo por trás do quebra-cabeça.

2. A Armadilha do "Atalho"

Quando os modelos foram ensinados no primeiro quebra-cabeça (vamos chamá-lo de "Quebra-cabeça A"), ambos se saíram bem. No entanto, quando os pesquisadores introduziram o "Quebra-cabeça B" (que era muito semelhante, mas ligeiramente diferente), surgiu um problema.

BERT (O Fotógrafo): Ele aprendeu um atalho. Percebeu: "Ei, se eu apenas olhar para a primeira pista do quebra-cabeça, consigo adivinhar a resposta para este tipo específico de quebra-cabeça". Ele não aprendeu a lógica real; apenas memorizou um truque que funcionava para o Quebra-cabeça A.
- O Resultado: Ao enfrentar o Quebra-cabeça B, o BERT ficou confuso. Como estava dependendo de um truque específico do Quebra-cabeça A, não conseguiu se adaptar. Também esqueceu completamente como fazer o Quebra-cabeça A assim que começou a aprender o Quebra-cabeça B. Isso é chamado de esquecimento catastrófico.
ALBERT (O Programador): Ele aprendeu o algoritmo. Percebeu: "Ah, preciso pegar o estado atual, aplicar uma regra e avançar para o próximo passo". Isso é como aprender um "Laço For" (uma instrução de computador que repete uma ação).
- O Resultado: Como o ALBERT aprendeu o método em vez de um truque específico, conseguiu aplicar esse método ao Quebra-cabeça B muito mais rápido. Mostrou transferência positiva, ou seja, usou o que aprendeu no Quebra-cabeça A para acelerar o aprendizado do Quebra-cabeça B.

3. O Tamanho Importa (Mas Não Como Você Pensa)

Os pesquisadores tentaram tornar os modelos maiores (adicionando mais camadas, como adicionar mais cômodos a uma casa).

Para o ALBERT: Maior era melhor. Mais "cômodos" significavam que ele podia refinar seu algoritmo e ficar ainda melhor em transferir conhecimento.
Para o BERT: Maior na verdade piorou as coisas ou as tornou instáveis. Como o BERT depende de atalhos, tornar o modelo mais complexo apenas deu a ele mais maneiras de ficar preso em um mau hábito. Não conseguiu generalizar seu aprendizado para novos quebra-cabeças.

4. A Correção do "Reprodução de Memória"

Ambos os modelos sofreram com esquecimento catastrófico — quando aprendiam o novo quebra-cabeça, apagavam completamente a memória do antigo.

Para corrigir isso, os pesquisadores usaram um Buffer de Reprodução. Imagine um estudante que, enquanto estuda para uma nova prova de matemática, mantém alguns cartões de revisão da prova antiga em sua mesa para dar uma olhada ocasional.

O Resultado: Isso funcionou maravilhosamente. Ao mostrar aos modelos uma pequena quantidade (apenas 1%) dos dados antigos enquanto aprendiam os novos dados, eles pararam de esquecer. Tanto o BERT quanto o ALBERT conseguiram lembrar dos quebra-cabeças antigos enquanto aprendiam os novos.

5. O Último Obstáculo: Combinando os Quebra-cabeças

O teste definitivo do "raciocínio composicional" é se a IA consegue misturar e combinar regras de diferentes quebra-cabeças para resolver um novo quebra-cabeça complexo que os une a todos.

O Problema: Mesmo com o "Buffer de Reprodução" ajudando-os a lembrar, ambos os modelos lutaram para combinar as regras. Conseguiram lembrar do Quebra-cabeça A e do Quebra-cabeça B separadamente, mas não conseguiam facilmente entrelaçá-los para resolver um quebra-cabeça híbrido.
A Diferença: Os pesquisadores encontraram uma maneira de ajudar o ALBERT a ter sucesso nisso. Se ensinassem o ALBERT usando uma estratégia onde costuravam lentamente os quebra-cabeças antigos e os novos durante o treinamento (em vez de mantê-los separados), o ALBERT conseguia aprender a combiná-los.
O Limite: Essa estratégia de "costura" não funcionou para o BERT. Como o BERT já havia se arraigado em sua maneira de pensar de "atalho" durante o treinamento inicial, não pôde ser ensinado a combinar as regras mais tarde. Estava muito preso em seus métodos.

A Conclusão

O artigo conclui que, embora modelos de IA como BERT e ALBERT sejam poderosos, eles têm um defeito oculto: tendem a aprender "trapaças" (atalhos) em vez de lógica profunda.

ALBERT é melhor em aprender a lógica profunda (o "Laço For"), o que ajuda a aprender novas tarefas relacionadas mais rapidamente.
BERT fica preso em truques superficiais, o que o torna ruim em se adaptar a novas situações e faz com que esqueça as antigas.

O estudo sugere que, para tornar a IA verdadeiramente capaz de aprendizado contínuo (aprender para sempre sem esquecer), precisamos nos afastar de modelos que dependem de atalhos e avançar em direção a arquiteturas construídas para entender os "algoritmos" subjacentes do mundo.

Resumo Técnico: Soluções de Atalho Aprendidas por Transformers Prejudicam o Raciocínio Composicional Contínuo

Declaração do Problema

O artigo aborda uma lacuna crítica na compreensão de como as redes neurais Transformer realizam Aprendizado Contínuo (CL) no contexto do raciocínio composicional. Embora os Transformers tenham demonstrado sucesso na identificação de relações específicas de entrada e na execução de tarefas composicionais em conjuntos de dados estáticos, sua capacidade de aproveitar representações aprendidas para adquirir novas experiências relacionadas sem esquecimento catastrófico permanece pouco estudada. Especificamente, os autores investigam se esses modelos podem desenvolver estratégias computacionais gerais (análogas ao raciocínio analógico humano) ou se dependem de soluções de "atalho" não generalizáveis que prejudicam sua capacidade de transferir conhecimento entre tarefas sequenciais.

Metodologia

Os autores estendem o framework sintético Learning Equality and Group Operations (LEGO) (Zhang et al., 2022) para um cenário de LEGO Contínuo.

Design da Tarefa: A tarefa LEGO envolve resolver uma sequência de operações de grupo ( $a_t = a_{t-1} * x_t$ ) dentro de uma estrutura de grupo (especificamente o grupo de simetria $D_3$ ). A tarefa é vista como uma travessia de grafo direcionado.
Configuração Contínua: O grupo $D_3$ é decomposto em três "experiências de flip-flop" distintas, cada uma definida por um subgrupo específico (por exemplo, $\{x_1, x_4\}$ , $\{x_1, x_5\}$ , $\{x_1, x_6\}$ ). Os modelos são treinados sequencialmente nessas experiências. Crucialmente, uma vez que um modelo avança para uma nova experiência, ele não recebe entradas das experiências anteriores, testando a transferência progressiva (aprender novas tarefas mais rapidamente) e a manutenção do desempenho (evitar o esquecimento catastrófico).
Modelos: O estudo compara o BERT (um Transformer feedforward canônico) e o ALBERT (uma variante recorrente com compartilhamento de pesos entre camadas).
Análise Arquitetural: Os autores variam sistematicamente os hiperparâmetros do modelo (número de camadas ocultas e cabeças de atenção) para identificar arquiteturas mínimas capazes de resolver a tarefa. Eles analisam os padrões de autoatenção para determinar a natureza mecânica das soluções aprendidas (por exemplo, loops algorítmicos versus atalhos).
Intervenções: O estudo avalia a eficácia de buffers de replay (salvando 1% dos dados passados) e treinamento incremental (costurando dados de experiências passadas e atuais) para mitigar o esquecimento e permitir a composição entre experiências.

Principais Contribuições

Framework LEGO Contínuo: Os autores introduzem um paradigma sintético controlado para investigar sistematicamente as capacidades de CL em Transformers, focando especificamente no raciocínio composicional.
Divergência Arquitetural: O estudo revela que escolhas arquiteturais (feedforward versus recorrente/compartilhamento de pesos) impactam diferencialmente a generalização e a transferência progressiva. Modelos BERT mostram desempenho inconsistente à medida que o tamanho aumenta, enquanto modelos ALBERT demonstram uma relação mais clara entre capacidade e desempenho.
Explicação Mecanística de Falha/Sucesso: Através da análise de padrões de atenção, os autores identificam que o ALBERT aprende uma solução algorítmica generalizável, semelhante a um loop For, enquanto o BERT aprende soluções de atalho que falham em generalizar para sequências mais longas ou novas experiências.
Limites do Replay: O artigo demonstra que, embora buffers de replay possam mitigar o esquecimento catastrófico, eles são insuficientes para permitir o raciocínio composicional entre experiências em modelos BERT. Apenas modelos ALBERT se beneficiam do treinamento em dados combinados incrementalmente para alcançar verdadeira composição entre experiências.

Resultados

1. Desempenho no LEGO Contínuo

Transferência Progressiva: Modelos ALBERT exibem forte transferência progressiva, alcançando alta precisão em novas experiências de flip-flop com menos épocas de treinamento. Modelos BERT mostram transferência progressiva fraca, frequentemente exigindo mais épocas para atingir precisão assintótica e falhando em generalizar para comprimentos de sequência maiores que o conjunto de treinamento.
Esquecimento Catastrófico: Tanto modelos BERT quanto ALBERT exibem esquecimento catastrófico quase completo (queda de desempenho para ~0%) em experiências anteriores quando treinados em novas, sem intervenção.
Generalização: Modelos ALBERT generalizam bem para sequências mais longas (por exemplo, $a_5, a_6$ ) quando treinados em sequências mais curtas ( $a_4$ ). Modelos BERT geralmente falham em generalizar além do comprimento da sequência de treinamento.

2. Análise Mecanística (Padrões de Atenção)

ALBERT (Solução Geral): Padrões de atenção em modelos ALBERT mínimos mostram uma assinatura "semelhante a um loop For". Tokens em uma cláusula dada atendem predominantemente a tokens na cláusula precedente, atualizando sistematicamente o estado. Esse padrão é mantido e fortalecido através das experiências.
BERT (Solução de Atalho): Modelos BERT exibem uma assinatura de atalho onde a autoatenção isola um único token de entrada compartilhado na primeira cláusula para todos os tokens de saída. Essa solução é enraizada no início do treinamento e persiste mesmo quando novas experiências são introduzidas, impedindo que o modelo aprenda a composição iterativa necessária.

3. Impacto da Escala Arquitetural

ALBERT: O desempenho (precisão da tarefa, generalização, transferência progressiva) escala positivamente com o número de camadas ocultas (exigindo pelo menos 4 camadas para sucesso).
BERT: Aumentar o tamanho do modelo (por exemplo, para 12 camadas) não garante melhor desempenho e pode levar à instabilidade do treinamento. Não existe uma relação clara entre o tamanho do modelo e a transferência progressiva ou generalização para o BERT.

4. Estratégias de Mitigação

Buffers de Replay: Salvar apenas 1% dos dados passados mitiga com sucesso o esquecimento catastrófico para ambos os modelos, preservando a transferência progressiva. No entanto, o replay ingênuo (salvar exemplos separados) falha em permitir a composição entre experiências.
Treinamento Incremental/Combinado: Treinar em dados que costuram experiências passadas e atuais ("flip-flop incremental") recupera o desempenho para o ALBERT, permitindo que ele se aproxime do desempenho de um modelo treinado na tarefa completa. Essa estratégia falha para o BERT, onde a solução de atalho torna-se enraizada durante o treinamento inicial e não pode ser desaprendida ou corrigida por dados combinados.

Significado e Alegações

O artigo alega que o viés indutivo de Transformers recorrentes (especificamente o compartilhamento de pesos do ALBERT) é mais adequado para o raciocínio composicional contínuo do que arquiteturas feedforward padrão (BERT).

Soluções de Atalho como Barreira: Os autores argumentam que as "soluções de atalho" aprendidas pelo BERT não são meramente um problema de desempenho, mas uma barreira fundamental para o aprendizado contínuo em tarefas composicionais. Esses atalhos tornam-se enraizados e impedem que o modelo adquira as estratégias algorítmicas gerais necessárias para transferência progressiva e composição entre experiências.
Vantagem Recorrente: O cálculo "semelhante a um loop For" aprendido pelo ALBERT fornece um mecanismo para generalização e transferência progressiva, sugerindo que estruturas recorrentes (ou mecanismos de compartilhamento de pesos) podem ser cruciais para desenvolver estratégias computacionais flexíveis em redes neurais.
Limites da Estratégia de Treinamento: O estudo destaca que, embora o replay simples possa corrigir o esquecimento, ele não resolve o problema da composição entre experiências. O verdadeiro raciocínio composicional em CL pode exigir estratégias de treinamento que combinem explicitamente dados entre experiências, uma descoberta que sugere que métodos de replay generativo poderiam ser uma direção frutífera para pesquisas futuras, particularmente para modelos como o ALBERT.

Os autores concluem que, embora os Transformers possam ter sucesso em tarefas estáticas complexas, sua capacidade de aprender continuamente e compor-se através de novas experiências é severamente prejudicada pelas estratégias computacionais específicas (atalhos versus algoritmos) às quais convergem, as quais são fortemente influenciadas por escolhas arquiteturais.