← Últimos artigos
🤖 machine learning

Steering Recurrent Reasoners at Inference Time with Readout Feedback

Este artigo introduz o Readout Feedback (RoFB), um método de inferência em tempo de execução livre de treinamento que melhora o desempenho de modelos de raciocínio recorrente ao usar probabilidades de leitura intermediárias para direcionar a dinâmica latente, alcançando resultados superiores em tarefas como Sudoku e Labirinto em comparação com o simples aumento de etapas de computação ou amostragem de múltiplas trajetórias.

Autores originais: Shunsuke Kamiya, Masanori Koyama, Seongcheol Jeong, Fumiya Uchiyama, Kenji Kubo, Kohei Hayashi, Masahiro Suzuki, Yutaka Matsuo

Publicado 2026-08-26
📖 7 min de leitura🧠 Leitura aprofundada

Autores originais: Shunsuke Kamiya, Masanori Koyama, Seongcheol Jeong, Fumiya Uchiyama, Kenji Kubo, Kohei Hayashi, Masahiro Suzuki, Yutaka Matsuo

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Na busca por construir máquinas que possam pensar, pesquisadores há muito dependem de um princípio simples: dê ao computador mais tempo e ele provavelmente encontrará uma resposta melhor. Assim como um matemático humano pode pausar para refinar uma prova ou um jogador de xadrez pode reconsiderar um lance após um momento de reflexão, os sistemas modernos de inteligência artificial são cada vez mais projetados para pausar, reconsiderar e iterar. Essa abordagem, conhecida como computação em tempo de inferência, permite que os modelos gerem múltiplos camros de raciocínio possíveis, avaliem-nos e selecionem o mais promissor. Embora essa estratégia tenha se mostrado eficaz para grandes modelos de linguagem, uma classe diferente de máquinas — os modelos recorrentes — opera sob uma lógica ligeiramente distinta. Esses sistemas resolvem problemas atualizando repetidamente um estado interno, uma espécie de bloco de notas mental, repetidas vezes. Em vez de gerar muitos rascunhos separados para comparação, eles refinam um único processo de pensamento em evolução, passo a passo. A questão que perdura é se esse fio único de pensamento pode ser guiado de forma mais eficaz enquanto está acontecendo, em vez de apenas deixá-lo seguir seu curso ou tentar muitos pontos de partida diferentes.

Uma equipe de pesquisadores da Universidade de Tóquio propôs uma nova maneira de direcionar esses processos de pensamento internos em tempo real. Eles chamam seu método de Readout Feedback (Feedback de Leitura), uma técnica que escuta as suposições intermediárias do próprio modelo e usa essa informação para suavemente conduzir seu estado interno em direção a uma solução correta. A ideia central é surpreendentemente intuitiva: à medida que um modelo se aproxima de resolver um quebra-cabeça, suas representações internas das diferentes partes do problema começam a se organizar. Itens que pertencem à mesma categoria naturalmente se agrupam, enquanto aqueles que pertencem a categorias diferentes se afastam. Os pesquisadores descobriram que poderiam detectar esse padrão de organização e injetar uma força sutil no sistema para encorajá-lo, ajudando efetivamente o modelo a encontrar seu caminho fora da confusão sem a necessidade de ser retreinado ou receber mais poder computacional.

Para testar essa ideia, a equipe aplicou seu método a três tipos diferentes de modelos de raciocínio recorrente, cada um com uma arquitetura interna única, e pediu que resolvessem dois quebra-cabeças clássicos de lógica: Sudoku e Labirinto (Maze). No Sudoku, o objetivo é preencher uma grade com números de modo que cada linha, coluna e seção contenha todos os dígitos de um a nove. Na tarefa do Labirinto, o modelo deve encontrar o caminho mais curto através de uma grade repleta de obstáculos. Os pesquisadores submeteram esses modelos ao seu processo de resolução padrão, que envolve atualizar seu estado interno centenas de vezes, e compararam os resultados do processo padrão contra o processo aprimorado com seu novo ciclo de feedback. Eles descobriram que, em quatro das seis combinações de modelo e quebra-cabeça, o método de feedback produziu resultados significativamente melhores. Em alguns casos, o modelo aprimorado resolveu os quebra-cabeças com um nível de precisão que o modelo padrão não conseguiria alcançar mesmo se fosse permitido rodar por muito mais tempo ou se os pesquisadores tentassem dezenas de pontos de partida diferentes.

O mecanismo por trás dessa melhoria baseia-se na própria confiança do modelo. À medida que o modelo processa o quebra-cabeça, ele gera uma probabilidade para cada resposta possível em cada etapa. Os pesquisadores observaram que, quando o modelo está travado ou vagando, essas probabilidades são desordenadas e não estruturadas. No entanto, quando o modelo está prestes a chegar a uma solução, as probabilidades para as respostas corretas começam a se alinhar, formando um padrão claro. O novo método aproveita esse padrão. Em momentos específicos durante o processo de resolução, ele calcula a distância entre os padrões de probabilidade de diferentes partes do quebra-cabeça. Se duas partes do quebra-cabeça forem previstas para ter respostas diferentes, o sistema aplica uma força que empurra seus estados internos para longe um do outro. Se forem previstas para serem iguais, ele as incentiva a permanecerem próximas. Isso cria uma dinâmica autocorretiva que ajuda o modelo a escapar de becos sem saída e a convergir para a solução correta muito mais rápido.

Os resultados foram marcantes em sua especificidade. Para um dos modelos, um sistema compacto projetado para raciocínio complexo, o método de feedback aumentou sua taxa de sucesso no Sudoku de aproximadamente sessenta e oito por cento para mais de setenta e quatro por cento, um ganho substancial alcançado sem alterar o código subjacente ou os dados de treinamento do modelo. Para outro modelo enfrentando o quebra-cabeça do Labirinto, o método permitiu que ele atingisse um alto nível de precisão com muito menos etapas computacionais do que o processo padrão exigia. De fato, o modelo aprimorado às vezes superou o modelo padrão mesmo quando este último foi permitido rodar por centenas de passos extras ou amostrar dezenas de caminhos potenciais diferentes. Isso sugere que a chave para um melhor desempenho não era simplesmente fazer mais trabalho, mas fazer o tipo certo de trabalho, guiando ativamente a dinâmica interna do sistema.

No entanto, os pesquisadores foram cuidadosos ao notar que este método não é uma solução universal. Em dois dos seis casos de teste, o ciclo de feedback não proporcionou qualquer benefício mensurável e, em um caso específico, mal fez diferença porque o modelo já estava operando em um nível próximo da perfeição. Isso indica que a técnica funciona melhor quando o modelo é capaz de resolver o problema, mas está lutando para organizar seus pensamentos de forma eficaz. Quando o modelo já está altamente confiante ou quando a estrutura interna do problema não favorece esse tipo de agrupamento, o sinal de feedback tem pouco sobre o que atuar. O estudo sugere que, embora essa abordagem desbloqueie uma capacidade oculta dentro de modelos existentes, ela não é uma varinha mágica que possa resolver todo tipo de problema de raciocínio.

As implicações deste trabalho estendem-se para além da simples resolução de quebra-cabeças. Oferece uma nova perspectiva sobre como a inteligência artificial pode ser controlada durante o próprio processo de pensamento. Em vez de depender apenas da força bruta — executando mais etapas ou amostrando mais opções — este método demonstra que um modelo pode ser direcionado por seus próprios sinais intermediários. Isso é análogo a uma pessoa resolvendo um problema complexo que, em vez de recomeçar do zero quando fica travada, pausa para olhar suas notas atuais, percebe quais partes de sua lógica estão conflitando e ajusta seu pensamento de acordo. Os pesquisadores descobriram que esse controle de malha fechada poderia ser aplicado a modelos congelados, ou seja, sistemas que já foram treinados e não estão mais aprendendo, simplesmente adicionando uma camada de feedback durante a fase de resolução.

Embora o estudo atual seja limitado a tipos específicos de quebra-cabeças lógicos e modelos de pequena escala, as descobertas sugerem uma direção promissora para o futuro dos sistemas de raciocínio. Os autores reconhecem que aplicar essa técnica a grandes modelos de linguagem, que lidam com vastos vocabulários e linguagem humana complexa, seria um desafio significativo e pode exigir adaptações diferentes. No entanto, o sucesso em tarefas estruturadas fornece evidências fortes de que a dinâmica interna dos modelos de raciocínio contém um potencial subutilizado. Ao ouvir a própria voz do modelo e usá-la para guiar a jornada, os pesquisadores encontraram uma maneira de tornar esses sistemas mais eficazes no pensamento, provando que, às vezes, a melhor maneira de melhorar o raciocínio de uma máquina não é ensiná-la mais, mas ajudá-la a ouvir a si mesma.

Afogado em artigos na sua área?

Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.

Experimentar Digest →