Planning with Transformers: Chain of Computation and Structured Context Windows
Este artigo introduz o Chain of Computation (COC), um framework que integra um modelo de linguagem baseado em transformer em um loop iterativo com uma Janela de Contexto Estruturada (SCW) para preencher a lacuna entre a completude de Turing teórica e o desempenho de planejamento empírico, permitindo que modelos pequenos alcancem sucesso quase perfeito em tarefas de planejamento complexas como BlocksWorld e Tower of Hanoi por meio de gerenciamento de contexto especializado e suporte aritmético.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você esteja tentando ensinar um robô brilhante, mas um pouco esquecido, a resolver um quebra-cabeça complexo. Você pode pensar que, se der ao robô um cérebro superinteligente (um Grande Modelo de Linguagem, ou LLM) e pedir para ele "apenas descobrir como fazer", ele teria sucesso. Mas, no mundo da inteligência artificial, esses modelos são como incríveis reconhecedores de padrões que às vezes têm dificuldade quando solicitados a planejar uma jornada longa e de múltiplamente etapas. Eles são ótimos para escrever histórias ou conversar, mas quando se trata de quebra-cabeças lógicos estritos — como mover blocos ou resolver a Torre de Hanói — eles frequentemente se perdem, esquecendo as regras ou os passos que acabaram de dar. Isso é um grande problema porque, se quisermos que a IA nos ajude em tarefas do mundo real, como organizar armazéns ou navegar com robôs, ela precisa ser capaz de planejar com antecedência sem cometer erros bobos. A grande questão que os pesquisadores têm feito é: a IA é realmente burra demais para planejar, ou está apenas usando a ferramenta errada para o trabalho?
Este artigo sugere que a IA não é necessariamente burra; ela está apenas tentando fazer muita coisa de uma só vez. Os autores, Ehsan Futuhi e Nathan R. Sturtevant, propõem uma nova forma de pensar chamada "Cadeia de Computação" (COC). Em vez de pedir à IA para escrever toda a solução em um único fôlego gigante (o que é como pedir a um humano para memorizar um livro inteiro de uma só vez), eles colocam a IA dentro de um loop com um "bloco de notas" especial chamado Janela de Contexto Estruturada (SCW). Pense nisso como um robô com um bloco de notas adesivas. Em vez de tentar lembrar todo o plano, o robô olha para uma instrução pequena no bloco, executa esse pequeno passo, escreve a próxima instrução no bloco e então aponta para onde a próxima instrução está. É como um jogo de "siga o líder" onde o robô é tanto o líder quanto o seguidor, atualizando constantemente seu próprio mapa.
Os pesquisadores testaram essa ideia em três quebra-cabeças clássicos: a Torre de Hanói (mover discos entre pinos), o BlocksWorld (empilhar blocos) e o Quebra-cabeça da Panqueca (ordenar panquecas virando-as). Eles descobriram que, quando deram à IA este sistema de "bloco de notas", mesmo modelos de IA relativamente pequenos treinados do zero puderam resolver esses quebra-cabezas com uma precisão incrível — mais de 99,89% de sucesso nos quebra-cabeças de blocos e panquecas. O truque de mágica foi que a IA não teve que lembrar de todo o histórico; ela só precisou ler a instrução atual, fazer o cálculo para descobrir o próximo passo e escrever onde olhar a seguir.
No entanto, o artigo também descobriu um ponto fraco específico. Quando os quebra-cabeças ficavam muito grandes (como a Torre de Hanói com muitos discos), a IA começava a cometer erros, mas não porque esqueceu o plano. Descobriu-se que a IA estava sendo atrapalhada por matemática simples. Quando o robô tinha que calcular "disco número 7 menos 1" para descobrir o próximo passo, ele às vezes errava o número, especialmente se nunca tivesse visto aquele número específico antes. Os autores mostraram que, se ajudassem a IA fazendo a matemática por ela (ou usando um sistema de "pilha" especial que não exige matemática complexa), a IA poderia resolver até as versões mais difíceis da Torre de Hanói (até 20 discos) perfeitamente. Isso sugere que o cérebro de planejamento da IA é, na verdade, bastante forte, mas precisa de um pouco de ajuda com a aritmética e o gerenciamento de memória para atingir seu pleno potencial.
O Panorama Geral: Por que a IA tem dificuldade com o Planejamento
Para entender por que este artigo é importante, primeiro precisamos entender os dois personagens principais desta história: Grandes Modelos de Linguagem (LLMs) e Planejamento.
LLMs são os cérebros de IA superinteligentes que você deve ter ouvido falar, como aqueles que escrevem ensaios ou código. Eles são treinados em quantidades massivas de texto, aprendendo a prever a próxima palavra em uma frase. Como leram muito, são ótimos em reconhecer padrões. Se você pedir para escreverem uma história sobre um dragão, eles podem fazê-lo porque viram milhares de histórias de dragões. No entanto, o "planejamento" é diferente. Planejar é como resolver um labirinto ou organizar uma viagem: você tem que pensar vários passos à frente, lembrar o que fez e garantir que não quebrará as regras.
Por muito tempo, cientistas notaram que, embora os LLMs sejam ótimos para conversar, eles são terríveis para planejar. Se você pedir a um LLM para mover uma pilha de blocos de um lugar para outro sem deixar cair nenhum, ele frequentemente apresenta um plano que quebra as regras ou esquece um passo. Isso é frustrante porque queremos que a IA seja útil no mundo real, onde as coisas precisam ser feitas na ordem correta.
Existe uma teoria de que os LLMs são, na verdade, "Turing-completos", uma forma matemática elegante de dizer que eles deveriam ser capazes de fazer qualquer cálculo que um computador possa fazer, incluindo o planejamento complexo. Mas, na prática, eles parecem falhar. A grande questão que este artigo aborda é: Por quê? O cérebro da IA está fundamentalmente quebrado para o planejamento, ou é apenas que estamos pedindo a tarefa da maneira errada?
O Problema: A Armadilha do "Tentativa Única"
Imagine que você está tentando resolver um Cubo Mágico. Se alguém lhe pedisse para escrever toda a solução (a sequência de 20 ou 30 movimentos) em uma única frase, sem parar para pensar, você poderia errar. Você poderia esquecer os passos intermediários ou confundir as cores.
É isso que acontece quando pedimos a um LLM padrão para planejar. Geralmente, damos a ele um comando como "Resolva este quebra-cabeça" e ele tenta gerar toda a lista de movimentos de uma só vez. O artigo chama isso de "Passagem Única, Contexto Total". O problema é que, conforme o quebra-cabeça aumenta, a lista de movimentos fica mais longa. A IA tem que manter todos esses movimentos em sua "c cabeça" (sua janela de contexto) ao mesmo tempo. À medida que a lista cresce, a IA começa a perder o controle. É como tentar manter uma conversa com um amigo enquanto também lembra de uma lista de compras, um número de telefone e um problema matemático, tudo ao mesmo tempo. Eventualmente, a IA fica confusa, comete um erro no início e, então, todo o plano desmorona.
Os autores argumentam que a IA não é ruim em planejar; ela é apenas ruim em manter uma lista gigante e desorganizada de instruções em sua cabeça.
A Solução: A "Cadeia de Computação" (COC)
Para corrigir isso, os autores construíram um novo sistema chamado Cadeia de Computação (COC). Em vez de pedir à IA para escrever todo o plano de uma vez, eles colocam a IA dentro de um loop.
Imagine que a IA é um robô trabalhando em uma fábrica. Em vez de dar ao robô um projeto gigante de toda a fábrica, você dá a ele uma Janela de Contexto Estruturada (SCW). Pense na SCW como uma longa tira de papel, como as antigas fitas de papel usadas em computadores antigos ou um bloco de notas adesivo muito longo.
Aqui está como o robô trabalha com este novo sistema:
- Ler: O robô olha para a primeira instrução na fita.
- Pensar: Ele descobre o que fazer a seguir com base naquela única instrução.
- Escrever: Ele escreve uma nova instrução no final da fita.
- Apontar: Ele escreve um "ponteiro" (como uma seta) que diz: "Vá olhar a instrução logo após esta".
- Repetir: O robô move seu "olhar" para a nova instrução e faz o processo novamente.
O robô nunca precisa lembrar de todo o plano. Ele só precisa focar na instrução atual e decidir o que fazer a seguir. É como um jogo de "Siga o Líder" onde o robô está constantemente atualizando o mapa para si mesmo.
O artigo introduz uma ferramenta especial chamada ponteiro. Este ponteiro diz ao robô exatamente qual parte da fita ele deve olhar a seguir. Isso é crucial porque mantém a "atenção" do robது focada em um pedaço pequeno e gerenciável de informação, em vez de deixá-lo se afogar em um mar de texto.
Os Experimentos: Testando o Robô
Os autores testaram este novo robô em três quebra-cabeças famosos para ver se ele poderia aprender a planejar melhor.
1. BlocksWorld
Este é um quebra-cabeça onde você tem vários blocos empilhados em uma mesa e precisa rearranjá-los em uma forma específica. Você só pode mover o bloco do topo de uma pilha.
- O Resultado: O robô foi incrivelmente bom nisso. Mesmo quando o quebra-cabeça se tornava muito complexo (com 40 blocos), o robô o resolvia perfeitamente 100% das vezes. Ele aprendeu a estratégia de "desempilhar tudo, depois reempilhar" e conseguia aplicá-la a qualquer novo arranjo de blocos que nunca tivesse visto antes.
2. O Quebra-cabeça da Panqueca
Neste quebra-cabeça, você tem uma pilha de panquecas de diferentes tamanhos. Você só pode virar a parte superior da pilha (como virar uma panqueca em uma frigideira) para rearranjá-las. O objetivo é deixá-las ordenadas por tamanho.
- O Resultado: Semelhante ao BlocksWorld, o robô foi surpreendentemente bem. Ele resolveu quase todos os quebra-cabeças, mesmo com 40 panquecas. A única vez que ele "falhou" foi quando as panquecas já estavam ordenadas e ele tentou virá-las de qualquer maneira. Mas, como virá-las e virá-las de volta não prejudicava o resultado final, ele ainda alcançou o objetivo. Isso mostrou que o robô havia aprendido a lógica central do quebra-cabeça.
3. Torre de Hanói (TOH)
Este é o quebra-cabeça mais difícil. Você tem três pinos e uma pilha de discos de diferentes tamanhos. Você deve mover toda a pilha de um pino para outro, mas nunca pode colocar um disco grande sobre um pequeno. O número de movimentos necessários cresce exponencialmente (fica enorme muito rápido).
- O Resultado: Aqui, o robô foi bom, mas não perfeito. Ele resolveu cerca de 92% dos quebra-cabeças quando os discos eram pequenos (até 15 discos). À medida que os quebra-cabeças ficavam mais difíceis, ele começou a cometer erros.
O Mistério: Por que o Robô Falhou?
Os autores não pararam apenas no "funcionou". Eles queriam saber por que ele falhou nos quebra-cabeças mais difíceis. Eles analisaram de perto os erros cometidos pelo robô na Torre de Hanói.
Eles descobriram que o robô não estava falhando porque não entendia o plano. Ele sabia exatamente qual disco mover e onde colocá-lo. O problema era a matemática.
Para manter o controle do plano, o robô tinha que fazer aritmética simples, como "Se eu tenho 7 discos, preciso mover os 6 primeiros primeiro". Ele tinha que calcular "7 menos 1" para obter "6". O artigo descobriu que, quando o robô encontrava um número que nunca tinha visto antes (como um número de disco muito grande), ele errava a matemática. Ele poderia calcular "7 menos 1" como "5" ou "8", e então todo o plano saía dos trilhos.
Esta foi uma descoberta enorme. Isso significava que o "cérebro de planejamento" do robô estava, na verdade, funcionando perfeitamente. A falha não estava na lógica; estava na calculadora.
A Correção: Ajudando com Matemática e Memória
Para provar isso, os autores tentaram duas correções diferentes:
Correção 1: Matemática Simbólica
Eles disseram ao robô para parar de tentar fazer a matemática sozinho. Em vez disso, deram a ele instruções "simbólicas". Por exemplo, em vez de dizer "Mova o disco 6", o robô diria "Mova o disco (n-1)". Então, um programa de computador separado e simples (um módulo aritmético) faria a matemática real e diria ao robô o número real.
- O Resultado: Quando fizeram isso, a taxa de sucesso do robô aumentou. Ele podia resolver os quebra-cabeças perfeitamente porque não precisava se preocupar em errar os números. Isso provou que a parte do planejamento estava bem; a matemática era o gargalo.
Correção 2: A Pilha (PDA)
Os autores perceberam que, para a Torre de Hanói, o robô nem precisava ficar pulando de um lado para o outro na fita procurando diferentes instruções. Ele só precisava olhar para o topo da pilha e adicionar novas instruções ao topo. É exatamente assim que uma "Pilha" funciona em ciência da computação (Último a Entrar, Primeiro a Sair).
Eles reformularam o trabalho do robô para agir como um Autômato de Pilha Determinístico (PDA). Este é um termo técnico para uma máquina que usa apenas uma pilha.
- O Resultado: Com essa nova configuração, o robô resolveu 100% dos quebra-cabeças da Torre de Hanói, mesmo com 20 discos (o que requer mais de 1 milhão de movimentos!). Ele não precisou fazer matemática complexa para encontrar a próxima instrução porque a pilha lidou com isso automaticamente.
O Que Isso Significa
Este artigo sugere que os Grandes Modelos de Linguagem não são inerentemente ruins em planejar. O problema era que estávamos pedindo para eles fazerem tudo de uma vez: lembrar todo o plano, fazer a matemática e decidir o próximo passo, tudo isso enquanto encaravam uma parede gigante de texto.
Ao decompor a tarefa em etapas pequenas e iterativas e dar à IA um "bloco de notas" (a SCW) para gerenciar sua memória, a IA pode aprender a planejar de forma muito eficaz. O artigo mostra que mesmo modelos de IA pequenos, treinados do zero, podem aprender estratégias de planejamento complexas se receberem as ferramentas certas.
A principal lição é que o "raciocínio" da IA é forte, mas sua "aritmética" e "gerenciamento de memória" precisam de ajuda. Se separarmos a lógica do planejamento da matemática e dermos à IA uma maneira estruturada de gerenciar seus passos, ela pode resolver problemas que antes eram considerados difíceis demais.
Os autores concluem que, embora tenham dado um grande passo à frente, ainda há muito o que aprender. Eles querem investigar exatamente como o sistema de "ponteiro" ajuda a IA e se este método pode ser usado para tarefas de planejamento ainda mais complexas e do mundo real no futuro. Mas, por enquanto, eles mostraram que, com um pouco de estrutura, a IA pode ser, de fato, uma excelente planejadora.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.