Recursive Agentic Reasoning
Este artigo introduz um framework unificado de três operadores de raciocínio recursivo (GROW, PRUNE e BRANCH) e demonstra, por meio de uma avaliação extensiva, que o ramificamento repetido supera consistentemente outros métodos de raciocínio em tempo de teste através de diversos modelos e benchmarks, ao mesmo tempo em que destaca a importância crítica de protocolos de avaliação pareados para evitar conclusões comparativas enganosas.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Quando um programa de computador tenta resolver um problema difícil, ele frequentemente produz uma única linha de pensamento, uma sequência de palavras que leva a uma resposta. Durante anos, pesquisadores se perguntaram se dar a esses programas mais tempo e mais tentativas os tornaria mais inteligentes. Em vez de aceitar essa primeira resposta, o computador poderia ser solicitado a tentar novamente, a decompor o problema em partes menores ou a gerar várias soluções diferentes e escolher a melhor? Esta questão está no cerne da pesquisa moderna de inteligência artificial. O campo está atualmente repleto de muitas estratégias diferentes para gastar poder computacional extra para melhorar o raciocínio. Alguns métodos pedem ao modelo que refine sua própria resposta, outros pedem que ele decomponha uma tarefa complexa em uma série de etapas mais simples e outros ainda pedem que ele gere várias tentativas independentes e vote no resultado. Como cada uma dessas abordagens foi testada isoladamente, usando diferentes perguntas de teste e diferentes regras de pontuação, tornou-se impossível saber qual estratégia realmente funciona melhor quando o orçamento computacional é o mesmo.
Uma equipe de pesquisadores decidiu resolver esse debate tratando essas diferentes estratégias como variações de um único processo: recursão, ou o ato de um sistema chamar a si mesmo para resolver um problema. Eles definiram três maneiras distintas de um computador fazer isso. A primeira, que chamaram de "grow" (crescer), envolvia pegar uma única linha de raciocínio e pedir ao computador para estendê-la, refinando o mesmo caminho repetidamente. A segunda, "prune" (podar), envolvia pedir ao computador para dividir um problema difícil em uma lista de perguntas menores e ordenadas, resolvê-las uma por uma e, depois, costurar as respostas de volta. A terceira, "branch" (ramificar), envolvia pedir ao computador que gerasse cinco soluções completamente diferentes de uma só vez e, em seguida, selecionasse aquela que aparecesse com mais frequência entre elas. Para garantir uma comparação justa, os pesquisadores executaram todos os três métodos, juntamente com uma tentativa padrão de passagem única, no exato mesmo conjunto de problemas usando os exatos mesmos modelos de computador. Eles testaram esses métodos através de cinco tipos diferentes de desafios, variando de quebra-cabeças de lógica de múltiplas etapas complexas a questões acadêmicas de nível de pós-graduação, usando três dos modelos de IA mais avançados disponíveis.
Os resultados deste experimento controlado foram claros e um tanto surpreendentes. A estratégia de gerar múltiplas soluções e votar na melhor, o método "branch", melhorou a precisão das respostas em cada um dos casos de teste que eles realizaram. Em média, este método aumentou a taxa de respostas corretas em quase seis pontos percentuais em comparação com a tentativa padrão de passagem única. Em contraste, os outros dois métodos foram inconsistentes. O método "grow", que aprofunda um único caminho, melhorou o desempenho na maioria dos casos, mas na verdade tornou o computador pior na resolução de certos tipos de questões difíceis. O método "prune", que decompõe os problemas, mostrou apenas uma melhoria ínfima, muitas vezes indistinguível de um ruído aleatório. Os dados sugeriram que não havia necessidade de um sistema complexo para decidir qual método usar para cada problema; o método que simplesmente tentava múltiplos caminhos e escolhia o vencedor pelo consenso era a escolha superior em todos os casos.
Os pesquisadores investigaram mais profundamente para entender por que esse método de votação funcionava tão bem e descobriram que a razão não era o que a maioria das pessoas esperava. A crença comum era que gerar múltiplas respostas ajuda porque permite que o computador explore muitos caminhos lógicos diferentes e encontre o correto entre eles. No entanto, os dados mostraram que o principal benefício vinha de uma fonte diferente: a recuperação de falhas. Quando esses modelos de computador avançados são solicitados a pensar por um longo tempo, eles frequentemente ficam sem o espaço de memória alocado antes de conseguirem terminar de escrever sua resposta. Em uma tentativa única, isso resulta em uma resposta em branco, que é contada como uma resposta errada. Mas quando o computador é solicitado a tentar cinco vezes, as chances de todas as cinco tentativas falharem no exato mesmo momento são muito baixas. O sistema de votação descarta automaticamente as respostas em branco e seleciona uma válida entre as tentativas bem-sucedidas. Os pesquisadores encontraram uma forte ligação entre a frequência com que o método padrão falhava em produzir uma resposta e o quanto o método de votação melhorava a pontuação. Nos testes mais difíceis, o método de votação reduziu pela metade a taxa de respostas em branco e falhas.
Essa descoberta muda a forma como devemos pensar sobre tornar a inteligência artificial mais inteligente. Sugere que grande parte do benefício de pedir a um computador para tentar várias vezes é simplesmente que ele recupera respostas que, de outra forma, seriam perdidas devido a limites técnicos. Os pesquisadores também destacaram uma lição crítica para estudos futuros: a forma como você conta os resultados importa imensamente. Em sua análise inicial, eles descobriram que, se contassem falhas de conexão de rede ou tempos de espera (timeouts) como respostas erradas, o método de votação parecia ter um desempenho pior em algumas tarefas. Isso ocorreu porque o método de votação realizava mais tentativas, tendo assim mais chances de sofrer um problema técnico. Ao comparar estritamente os métodos apenas nas questões que todos eles responderam com sucesso, os pesquisadores revelaram o verdadeiro desempenho. O trabalho deles demonstra que, para os modelos mais capazes disponíveis hoje, a estratégia mais simples de tentar várias vezes e escolher o consenso é a maneira mais confiável de obter melhores respostas, e que os ganhos vêm amplamente de garantir que o computador termine seu pensamento, em vez de encontrar um caminho mais inteligente para a solução.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.