Transformers perform adaptive partial pooling

Imagine que você esteja tentando adivinhar o que um amigo dirá em seguida em uma conversa. Se você já ouviu essa exata frase mil vezes, sabe exatamente o que vem a seguir. Mas e se ele disser algo totalmente novo? Você não pode apenas adivinhar aleatoriamente; você tem que olhar para o que ele disse antes em situações semelhantes. Este é o cerne do enigma do aprendizado de linguagem, seja para uma criança humana ou para um programa de computador.

Para resolver isso, os cientistas usam um truque inteligente chamado "agrupamento parcial adaptativo" (adaptive partial pooling). Pense nisso como um detetive inteligente. Quando o detetive vê uma cena de crime rara, ele não fica apenas encarando a única pista à sua frente (que pode ser enganosa por haver tão pouco dela). Em vez disso, ele olha para outras cenas de crime semelhantes para ter uma ideia melhor do que costuma acontecer ali. Ele mistura a pista específica com o padrão geral, mas dá mais peso à pista específica se ela acontece com frequência, e mais peso ao padrão geral se a pista específica for um caso isolado. Isso o ajuda a fazer a melhor estimativa possível sem se confundir com acidentes raros e estranhos.

Agora, imagine um cérebro de computador superinteligente chamado "Transformer" (o tipo que alimenta os chatbots modernos). Por muito tempo, as pessoas se perguntaram: este cérebro de computador realmente usa esse truque de detetive inteligente ou ele apenas memoriza tudo o que já leu? Se ele apenas memorizar, poderá falhar quando vir algo novo. Mas se ele usar o "agrupamento parcial adaptativo", ele pode aprender e se adaptar como um humano. Este artigo pergunta: o céreão de computador realmente faz esse trabalho de detetive e ele melhora ou piora nisso enquanto estuda mais?

O Trabalho de Detetive de um Cérebro de Computador

Neste estudo, o autor, Vsevolod Kapatsinski, montou um pequeno jogo de linguagem artificial para testar um modelo de computador chamado GPT-2. Ele inventou uma linguagem onde as frases sempre terminavam com "A" ou "B", mas a escolha dependia das palavras imediatamente anteriores. Algumas combinações de palavras eram muito comuns, enquanto outras eram super raras — exatamente como na vida real, onde algumas frases são usadas diariamente e outras apenas uma vez na vida.

O computador foi treinado nesse jogo, e o pesquisador observou como ele aprendeu. Aqui está a grande descoberta: Sim, o computador usa o agrupamento parcial adaptativo. Quando o computador via uma frase rara, ele não apenas adivinhava com base naquele único exemplo raro. Em vez disso, ele "agrupava" seu conhecimento, olhando para frases semelhantes para fazer uma estimativa melhor. Ele agiu exatamente como o detetive inteligente descrito acima.

No entanto, há uma reviravolta. As habilidades de detetive do computador mudam conforme ele continua treinando.

• No início: Quando o computador está apenas começando a aprender, ele depende fortemente dos padrões gerais. É como um aluno novo que ainda não aprendeu as regras específicas, então ele apenas adivinha com base no que costuma acontecer. Ele agrupa muita informação.
• No meio: À medida que o computador treina um pouco mais, ele atinge um "ponto ideal". Este é o momento em que ele é melhor em equilibrar as pistas específicas raras com os padrões gerais. Nesta fase, ele imita o comportamento perfeito de um detetive humano descrito na matemática da regressão hierárquica.
• Mais adiante: Se o computador continuar treinando por muito tempo (além deste ponto ideal), ele começa a mudar novamente. Ele começa a confiar demais nas pistas específicas e raras. Ele para de olhar para os padrões gerais e começa a pensar que sabe a resposta para cada caso raro perfeitamente. O autor sugere que, com treinamento suficiente, o computador pode se tornar confiante demais em situações raras, perdendo o "agrupamento parcial" útil que o faz parecer humano.

O estudo também descobriu que o computador se comporta como um humano de outras maneiras. Se um grupo de frases é muito diverso (algumas dizem A, outras dizem B), o computador para de agrupar essas informações e as trata separadamente. Mas se um grupo de frases é muito semelhante, o computador felizmente mistura elas. Ele também notou que, se houver muitos tipos diferentes de frases semelhantes (alta frequência de tipos), o computador está mais disposto a agrupar essas informações, assim como humanos têm mais probabilidade de generalizar uma regra se a vir sendo usada de muitas formas diferentes.

Por Que Isso Importa

O artigo não diz apenas que "o computador aprende". Ele mostra como ele aprende. Ele prova que esses cérebros de computador massivos não são apenas gigantescos bancos de memória que memorizam cada palavra. Eles realmente constroem representações internas que se tornam cada vez mais detalhadas ao longo do tempo. Eles começam vendo categorias amplas (como "todos os animais") e lentamente aprendem a distinguir grupos menores (como "peixes vs. pássaros"), assim como as crianças humanas fazem.

A descoberta mais emocionante é o "ponto ideal". O autor sugere que existe um ponto específico no treinamento em que o computador é mais parecido com um aprendiz humano — usando a quantidade certa de generalização para lidar com palavras raras sem pensar demais nelas. Se treinarmos o computador demais, ele pode perder essa flexibilidade humana e se tornar muito rígido em suas previsões para casos raros.

Portanto, da próxima vez que você conversar com um chatbot, lembre-se: ele não está apenas recitando um roteiro. Ele está fazendo um equilíbrio complexo, pesando o que sabe sobre o momento específico contra o que sabe sobre o mundo, e ele faz isso melhor quando está naquele meio-termo perfeito de aprendizado.