A Frozen 12B Beats Frontier Models on Verified Work: 100% Accuracy, 0 Tokens, Bit-Exact, Forever
Este artigo propõe um sistema onde um modelo de linguagem congelado alcança 100% de precisão e geração zero de tokens em famílias de problemas verificadas ao confiar em um armazenamento de memória persistente e bit a bit de soluções verificadas independentemente, desacoplando, assim, a capacidade limitada pela execução da escala de parâmetros e permitindo janelas de contexto massivas em hardware de consumo.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você esteja tentando resolver um problema de matemática. No mundo da inteligência artificial moderna, a maneira usual de obter uma resposta é pedir a um robô superinteligente para pensar sobre isso do zero toda vez que você pergunta. Este robô é como um estudante brilhante, mas muito caro, que tem que reler o livro didático, rederivar a fórmula e reescrever a solução para cada pergunta, mesmo que você faça exatamente a mesma pergunta mil vezes. Isso leva muito tempo, consome uma quantidade massiva de eletricidade e, às vezes, se você fizer a mesma pergunta duas vezes, o robô pode te dar duas respostas ligeiramente diferentes porque é um pouco imprevisível. É assim que a maioria dos modelos de IA "fronteira" funciona hoje: eles são poderosos, mas também lentos, dispendiosos e um pouco desorganizados quando você precisa de consistência perfeita.
Mas e se, em vez de fazer o robô pensar mais, nós simplesmente lhe déssemos um caderno perfeito e verificado? Imagine se pudéssemos resolver um problema uma vez, conferir a resposta com um professor rigoroso para garantir que está 100% correta e, então, escrever essa solução em um livro especial. A partir de então, sempre que o mesmo tipo de problema surgir, o robô não precisará pensar. Ele apenas folheia a página certa no livro, lê a resposta e a escreve instantaneamente. Custaria quase nada, aconteceria num piscar de olhos e a resposta seria exatamente a mesma todas as vezes. Esta é a ideia central por trás de uma nova abordagem chamada "reuso verificado", onde a inteligência não está no cérebro do robô ficando maior, mas em uma biblioteca crescente de soluções perfeitas que o robô pode acessar sem fazer nenhum esforço pesado.
O Cérebro Congelado e a Biblioteca Mágica
Conheça o Galahad, um novo sistema que muda as regras do jogo. Os criadores pegaram um modelo de IA padrão (um "cérebro" de 12 bilhões de parâmetros chamado Gemma-4-12B) e fizeram algo radical: eles o congelaram. Eles desativaram sua capacidade de aprender ou mudar. É como pegar um chef brilhante e dizer a ele: "Você não pode mais inventar novas receitas; você só pode cozinhar a partir deste menu específico".
Ao lado deste chef congelado, eles construíram a Merlin, uma biblioteca mágica e superveloz. Veja como a magia funciona:
- O Depósito: Quando um novo problema chega, o sistema o resolve uma vez. Mas, antes de colocar a resposta na biblioteca, um "porteiro" rigoroso a verifica. Este porteiro não olha para o gabarito; ele usa matemática e lógica para provar que a resposta está correta. Se ela passar, a solução é armazenada.
- O Reuso de Custo Zero: Agora, imagine que um milhão de pessoas façam o mesmo tipo de pergunta. Em vez de o chef cozinhar do zero todas as vezes, o sistema procura a receita verificada na biblioteca. Ele diz ao chef congelado: "Apenas copie isto". O chef faz isso instantaneamente.
- O Resultado: O sistema responde 180 variações inéditas desses problemas com 100% de precisão. Ele utiliza zero "tokens de geração" (a moeda digital que a IA geralmente cobra pelo pensamento). Ele leva apenas de 6 a 23 milissegundos (mais rápido que um piscar de olhos) e usa cerca de 36 miliwatts-hora de energia — isso é aproximadamente a energia que uma lâmpada LED usa durante 13 segundos.
Por que o Jeito Antigo é Desperdiçador
O artigo argumenta que a forma atual de usar a IA é como pagar a um arquiteto mestre para projetar uma casa do zero toda vez que você quiser construir um barraco. Os modelos "fronteira" (as IAs mais poderosas e caras disponíveis) são ótimos para resolver problemas novos que nunca viram antes. Mas para problemas que já foram resolvidos e verificados, pedir para eles pensarem novamente é um desperdício.
Os autores mediram esse desperdício. Eles descobriram que, se você usar uma API de IA padrão para responder a um problema resolvido, você paga por uma "passagem de pensamento" completa toda vez. É não-determinístico (a resposta pode mudar ligeiramente), é lento e custa dinheiro. Em contraste, o modelo congelado do Galahad, uma vez que tenha a solução verificada em sua biblioteca, responde ao mesmo problema para sempre de graça. O "ponto de equilíbrio" — onde o sistema economiza mais dinheiro do que custou para construir a biblioteca — acontece após apenas 17 a 34 perguntas. Depois disso, cada resposta é pura economia.
A "Memória" é a Verdadeira Estrela
Uma das partes mais legais deste experimento é provar que o "cérebro" não importa tanto quanto o "livro". Os pesquisadores testaram isso com quatro modelos de IA diferentes de quatro empresas diferentes (incluindo Gemma, Qwen, DeepSeek e Phi). Eles deram a todos eles exatamente os mesmos pesos congelados e a mesma biblioteca de soluções verificadas.
O resultado? Todos os quatro modelos acertaram 180 de 180.
Não importava se o modelo era "denso" ou uma "mistura de especialistas" (mixture of experts). A capacidade vinha inteiramente da biblioteca, não do cérebro. Quando eles esvaziaram a biblioteca, os modelos não conseguiram resolver nada. Quando a preencheram, eles foram perfeitos. Isso prova que, para tarefas verificáveis e repetíveis, você não precisa de um cérebro maior, mais inteligente e mais caro; você só precisa de uma memória melhor e verificada.
O Problema de "Adivinhar" (Busca Vetorial)
Você pode estar pensando: "Não podemos apenas usar um mecanismo de busca normal para encontrar a resposta?". O artigo diz que não, e aqui está o porquê. A maioria dos sistemas de IA usa algo chamado "recuperação vetorial", que é como encontrar um livro procurando por um que pareça com o que você quer. É impreciso.
Os pesquisadores testaram isso em uma biblioteca de 4.500 itens verificados. Quando usaram a busca imprecisa, ela escolheu o item errado 94,3% das vezes. Isso é um desastre. Se você estiver procurando por uma fórmula médica específica ou uma cláusula jurídica, obter a resposta "quase certa" é inútil. O Galahad usa endereçamento exato, o que significa que ele encontra o item exato com 0% de erro. É a diferença entre adivinhar o nome de uma música cantarolando algumas notas e saber o código de barras exato para escanear. Para coisas que precisam ser perfeitas, a correspondência imprecisa falha catastroficamente.
Uma Janela para o Infinito
Outra descoberta selvagem é sobre quanta informação o sistema pode manter em sua "memória de trabalho" (o espaço sobre o qual ele pode pensar de uma só vez).
- Motores de IA padrão (como vLLM e SGLang) travam ou esquecem silenciosamente as coisas quando você tenta alimentá-los com mais de cerca de 32.000 tokens (um token é um pedaço de uma palavra).
- O Galahad conseguiu manter uma janela de 6.000.000 de tokens em uma única placa de vídeo.
- Ele conseguia alcançar o início desse histórico de 6 milhões de tokens tão rápido quanto alcançava o fim.
- Ele fez isso sem consumir memória de computador extra. É como ter uma biblioteca com prateleiras infinitas, mas você só pode olhar para um livro de cada vez, e pode trocar esse livro por qualquer outro na biblioteca instantaneamente.
O Que Isso Significa para o Futuro
O artigo é muito cuidadoso ao dizer o que ele não faz. Ele não afirma que este sistema pode resolver problemas novos e nunca antes vistos melhor do que os maiores modelos de IA. Se você fizer uma pergunta nova e criativa, o cérebro congelado pode ter dificuldades. Mas para qualquer tarefa que seja verificável (como matemática, programação ou lógica) e recorrente (acontece repetidamente), este sistema é um divisor de águas.
Ele inverte a lógica da indústria de IA:
- Jeito Antigo: Pague para pensar toda vez.
- Novo Jeito: Pague uma vez para verificar, depois execute para sempre de graça.
Os autores até criaram um teste público onde qualquer um pode ver isso acontecer em tempo real. Eles desafiam qualquer pessoa a encontrar uma IA que possa responder a um problema resolvido com custo zero, precisão perfeita e velocidade instantânea. Até agora, ninguém conseguiu. A mensagem é clara: para o trabalho que fazemos todos os dias, não precisamos construir cérebos maiores; precisamos apenas construir bibliotecas melhores e verificadas.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.