Measuring in-context algorithmic reasoning in language models against an exact Bayes-optimal standard

Imagine que você está tentando ensinar um robô a resolver um quebra-cabeça. Você mostra a ele alguns exemplos: "Se eu colocar um bloco vermelho aqui, um bloco azul aparece ali". Então, você pergunta a ele para prever o que acontece em seguida. Às vezes o robô acerta, mas será que ele está realmente pensando sobre as regras do quebra-cabeça, ou está apenas adivinhando com base em como as palavras costumam soar juntas? Este é o grande mistério por trás dos "Modelos de Linguagem de Grande Escala" (LLMs) modernos, os superinteligentes chatbots de IA que usamos hoje. Cientistas chamam isso de "aprendizado em contexto" — a habilidade de aprender uma nova tarefa apenas lendo alguns exemplos em um comando. O problema é que não temos uma régua perfeita para medir se o robô está realmente raciocinando ou apenas fazendo correspondência de padrões. Geralmente, só podemos comparar um robô com outro, ou com um humano, mas não conhecemos a "visão do olho de Deus" do que deveria ser a resposta perfeita.

Para corrigir isso, os autores deste artigo construíram um universo especial, minúsculo e perfeitamente controlado. Eles criaram um benchmark chamado F-ICL. Pense nele como uma biblioteca gigante e exaustiva de todos os programas de computador simples que poderiam resolver um tipo específico de quebra-cabeça binário (usando apenas 0s e 1s). Como eles listaram cada um desses 1,5 bilhão de pequenos programas, eles podem calcular a resposta matematicamente perfeita para qualquer quebra-cabeça. Essa resposta perfeita é chamada de solução "Bayes-óptima". É o padrão ouro: o melhor palpite possível que uma máquina poderia fazer diante das evidências. Agora, eles podem finalmente comparar um modelo de IA real contra esse padrão ouro e ver exatamente o quão longe ele está. É como ter um mapa perfeito de uma cidade e depois verificar se um aplicativo de GPS está realmente guiando você pelo caminho mais curto, ou se está apenas adivinhando com base no tráfego que viu ontem.

O Grande Abismo do Raciocínio

Os pesquisadores pegaram um painel massivo de 105 modelos de IA diferentes — variando de projetos de código aberto aos sistemas de fronteira mais avançados de grandes laboratórios de tecnologia — e os submeteram ao teste F-ICL. Eles queriam ver se esses modelos poderiam agir como raciocinadores bayesianos perfeitos, atualizando suas crenças logicamente conforme novas evidências surgiam.

Aqui está a reviravolta surpreendente: os modelos são ótimos em dar a resposta certa, mas terríveis em raciocinar como uma máquina perfeita.

Embora alguns modelos tenham acertado a resposta final em até 92% das vezes, sua "distribuição de adivinhação" interna (a maneira como eles pesam diferentes possibilidades) era frequentemente pior do que a de um simples adivinhador aleatório. De fato, 45 de 46 modelos tiveram um desempenho pior do que uma "referência de teclas digitadas". Imagine um macaco batendo teclas aleatoriamente em um teclado; esse macaco aleatório produziu uma distribuição de probabilidade que estava mais próxima da verdade matemática perfeita do que a maioria dos modelos de IA avançados. Os modelos não estavam apenas ligeiramente errados; eles estavam confiantemente errados sobre a lógica subjacente.

O Erro de "Sobre-comprometimento"

Uma das descobertas mais lúdicas e reveladoras é como os modelos se comportam quando você lhes dá apenas um exemplo. Um raciocinador perfeito ficaria um pouco melhor com cada nova pista. Mas esses modelos de IA frequentemente ficam piores após verem apenas um exemplo antes de começarem a melhorar.

É como se você mostrasse a um detetive uma única pista sobre um crime e, em vez de pensar cuidadosamente, ele imediatamente gritasse: "Eu sei quem foi!" e focasse no suspeito errado. Somente depois que você lhe mostrasse mais algumas pistas é que ele começaria lentamente a recuar e a olhar para as evidências novamente. O artigo descobriu que 69 de 81 execuções de modelos cometeram esse erro, tirando conclusões precipitadas demais. Eles estão se "sobre-comprometendo" com a primeira peça de dado que veem, em vez de esperar para ver o quadro completo.

Tamanho Não Corrige a Lógica

Você pode pensar que modelos maiores e mais inteligentes resolveriam isso. O artigo testou modelos com bilhões de parâmetros (o "tamanho do cérebro" da IA), desde os minúsculos de 0,8 bilhão até os massivos de 675 bilhões. O resultado? Modelos maiores ficaram melhores em dar a resposta certa, mas não ficaram melhores em raciocinar.

A lacuna entre o comportamento do modelo e o padrão matemático perfeito permaneceu exatamente a mesma, não importava o quão enorme fosse o modelo. Quer o modelo tivesse 1 bilhão ou 600 bilhões de parâmetros, ele ainda lutava para corresponder à lógica "Bayes-óptima" perfeita. É como se você desse a um estudante uma biblioteca de livros cada vez maior (mais dados), mas ele ainda não aprendesse a usar um mapa; ele apenas ficou melhor em memorizar os títulos dos livros.

A Armadilha da "Segurança" e do "Treinamento"

O artigo também analisou o que acontece quando os modelos passam pelo "pós-treinamento" — isto é, quando humanos os ajustam para serem mais úteis, seguir instruções ou serem "seguros". Surpreendentemente, esse treinamento tornou o abismo de raciocínio mais amplo.

Quando os modelos foram ajustados para serem "seguidores de instruções" ou para "pensar" mais, eles na verdade se afastaram ainda mais do padrão lógico perfeito. Parece que ensinar um modelo a ser educado ou a seguir um formato de chat específico pode estar ensinando-o a ignorar a estrutura lógica bruta do problema. É como ensinar um jogador de xadrez a sempre dizer "Bom jogo" após uma partida; ele pode se tornar mais agradável, mas pode esquecer as regras reais do jogo.

A Fronteira está Estagnada

Os pesquisadores também observaram os modelos mais novos e caros das maiores empresas de tecnologia, lançados nos últimos dois anos. Eles descobriram que a fidelidade ao padrão lógico perfeito não melhorou de forma alguma. Os modelos mais novos estão tão longe de ser um raciocinador perfeito quanto os antigos eram. Na verdade, o modelo mais antigo testado (de maio de 2024) foi o mais fiel ao padrão lógico, enquanto os mais novos foram ligeiramente piores.

O Proble de "Terminação"

Uma razão específica para a baixa pontuação dos modelos foi como eles lidaram com o fim de uma frase. O modelo matemático perfeito sabe exatamente quando uma sequência de 0s e 1s deve parar. Os modelos de IA, no entanto, foram muito ruins nisso. Eles frequentemente adivinharam que uma sequência deveria terminar quando não deveria, ou continuaram quando deveriam ter parado. Esse erro específico representou quase 90% de seus erros. É como se os modelos fossem ótimos em escrever a história, mas terríveis em saber quando colocar um ponto final.

O Veredito

O artigo conclui que, embora esses modelos de IA sejam incrivelmente bons em completar padrões — encontrar a próxima palavra mais provável com base no que viram antes —, eles ainda não estão realizando um raciocínio algorítmico genuíno. Eles não estão construindo um modelo mental das regras; estão apenas costurando padrões.

Os autores lançaram seu benchmark, F-ICL, como uma ferramenta aberta para que outros cientistas possam continuar testando. Eles descobriram que os modelos atuais estão presos em uma zona de "correspondência de padrões", situando-se entre um palpite aleatório e um raciocinador lógico perfeito, mas muito mais próximos do palpite aleatório. Até que os modelos consigam fechar essa lacuna, eles podem ser ótimos para escrever ensaios ou trechos de código, mas não estão realmente "pensando" da maneira que esperamos. A lacuna não é resolvida tornando os modelos maiores ou treinando-os por mais tempo; parece exigir uma mudança fundamental na forma como eles processam informações.