How Do Large Language Models Learn Concepts During Continual Pre-Training?

Os seres humanos compreendem o mundo agrupando coisas em categorias mentais. Vemos um animal peludo de quatro patas e instantaneamente o reconhecemos como um "cachorro", um conceito que carrega consigo um conjunto de traços compartilhados: ele late, tem uma cauda e consegue correr. Essa habilidade de abstrair observações específicas em ideias gerais é o alicerce do raciocínio humano. Os grandes modelos de linguagem, os poderosos programas de computador que podem escrever histórias e responder perguntas, tentam fazer algo semelhante. Eles são treinados em vastos oceanos de texto, onde se espera que extraiam esses mesmos tipos de conceitos abstratos e os armazenem dentro de seus sistemas internos. Mas, embora saibamos que esses modelos podem aprender, temos tido dificuldade em entender exatamente como eles mantêm esse conhecimento ao longo do tempo, ou por que às vezes parecem perdê-lo quando confrontados com novas informações.

Durante anos, pesquisadores tentaram espiar dentro dessas mentes digitais para ver como elas funcionam. Alguns os testaram com perguntas para ver se lembravam de fatos, enquanto outros tentaram mapear os caminhos específicos que o computador usa para processar informações. No entanto, esses métodos frequentemente olham para fatos isolados ou momentos estáticos no tempo. Eles perdem o processo dinâmico de como um modelo aprende uma nova ideia, a fortalece e, depois, potencialmente a esquece ao ser forçado a aprender outra coisa. Essa lacuna de compreensão é crítica porque, à medida que atualizamos esses modelos com novos dados, precisamos saber se eles estão verdadeiramente construindo uma compreensão estável do mundo ou apenas memorizando padrões que desaparecerão com a próxima atualização.

Uma equipe de pesquisadores partiu para resolver esse mistério observando como a inteligência artificial aprende e esquece conceitos específicos em tempo real. Eles criaram um ambiente controlado usando um conjunto de dados de conceitos inventados. Imagine ensinar a uma criança sobre uma criatura chamada "Olre" que tem a habilidade de correr, ou um "Foo" que tem quatro patas. Como essas criaturas não existem no mundo real, o computador não possui conhecimento prévio sobre elas. Isso permitiu que os cientistas observassem o processo de aprendizagem do zero, livre de quaisquer vieses preexistentes. Eles treinaram o modelo com esses fatos fictícios e, em seguida, introduziram uma quantidade massiva de texto não relacionado para ver o que aconteceria com sua memória do "Olre" e do "Foo".

O que descobriram foi um padrão claro e mensurável na forma como a estrutura interna do modelo mudou. Os pesquisadores descobriram que o computador não apenas armazena um fato em um único lugar; em vez disso, ele constrói uma rede complexa de conexões, ou um circuito, para representar essa ideia. Ao analisar a forma e a densidade dessas redes, eles puderam prever quão bem o modelo havia aprendido um conceito e qual era a probabilidade de ele esquecê-lo. Eles encontraram uma compensação surpreendente: os conceitos que o modelo aprendeu de forma mais rápida e forte eram frequentemente aqueles que ele esquecia com mais facilidade quando novas informações chegavam. Parece que a própria força do aprendizado inicial tornava a memória mais frágil quando o sistema era forçado a se reorganizar.

O estudo também revelou como diferentes ideias interferem umas nas outras. Quando o modelo tentava aprender dois conceitos que eram muito semelhantes em significado ao mesmo tempo, ele enfrentava dificuldades significativamente maiores do que quando os conceitos eram não relacionados. As redes internas para essas ideias semelhantes se sobrepunham, criando uma espécie de engarrafamento onde o computador não conseguia distinguir facilmente entre elas. Por outro outro lado, os pesquisadores descobriram que aprender um tipo de conhecimento poderia, na verdade, ajudar o modelo a aprender outro. Por exemplo, ensinar o modelo sobre as propriedades e funções das coisas tornou muito mais fácil para ele, posteriormente, aprender sobre as relações entre palavras semelhantes e opostas. Isso sugere que a ordem em que a informação é apresentada importa profundamente; algumas lições atuam como uma base para outras.

Talvez o mais importante seja que os pesquisadores mostraram que esses padrões internos não são apenas observações abstratas, mas podem ser usados para melhorar os próprios modelos. Ao observar a forma dos circuitos de aprendizagem, eles puderam identificar quais conceitos estavam em maior risco de serem esquecidos. Eles então usaram essa percepção para criar uma estratégia de treinamento simples: sempre que o modelo estava aprendendo coisas novas, eles ocasionalmente faziam uma pausa e revisavam os conceitos específicos que eram mais vulneráveis. Essa revisão direcionada, guiada pela estrutura interna do modelo, ajudou significativamente o computador a reter seu conhecimento. O trabalho sugere que, ao prestar atenção à arquitetura interna de como esses modelos aprendem, podemos ensiná-los de forma mais eficaz, ajudando-os a construir uma compreensão mais estável e confiável do mundo, muito parecido com um estudante que sabe quais notas revisar antes de uma prova.