🤖 AI

CoBa: Cost-Effective Test-Time Scaling via Compute-Balanced Routing

Este artigo apresenta o CoBa, uma política de roteamento com equilíbrio de computação que otimiza o escalonamento em tempo de teste ao alocar dinamicamente recursos de inferência entre geração e verificação, alcançando precisão de estado da arte em benchmarks de raciocínio matemático enquanto reduz significativamente os custos computacionais em comparação com métodos tradicionais de escalonamento.

Autores originais: Yan Zhou, Yue Ouyang, Kaiyang Zheng, Suncheng Xiang

Publicado 2026-08-11

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Yan Zhou, Yue Ouyang, Kaiyang Zheng, Suncheng Xiang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando resolver um enigma realmente difícil. Você tem uma quantidade limitada de energia para gastar e tem três maneiras de usá-la: você pode pensar em uma nova resposta, pode conferir uma resposta que já possui ou pode apenas dizer: "Ok, terminei, aqui está o meu melhor palpite". Por muito tempo, computadores tentando resolver problemas difíceis (como enigmas matemáticos) foram instruídos a apenas "tentar mais forte" fazendo uma dessas coisas repetidamente. Eles podem gerar cem respostas diferentes e escolher a mais popular, ou podem gastar uma quantidade enorme de energia verificando cada uma das respostas com um robô juiz superinteligente e lento. O problema é que isso é como usar um marreta para quebrar uma noz. Se a resposta é óbvia, verificar cem vezes é um desperdício. Se a resposta é super difícil, apenas adivinhar aleatoriamente pode nunca encontrar a solução. A grande questão para os cientistas é: como gastamos nossa energia limitada para obter a resposta correta sem esgotar a bateria?

É aqui que uma nova ideia chamada CoBa entra. Pense no CoBa como um gerente inteligente para uma equipe de trabalhadores. Em vez de dizer a cada trabalhador para fazer exatamente a mesma coisa, o CoBa observa a situação e decide o melhor próximo passo. Se os trabalhadores já estão concordando sobre uma resposta fácil, o Cobá diz: "Ótimo, parem! Terminamos". Se eles estiverem confusos, o CoBa pode dizer: "Vamos pedir ideias para mais duas pessoas". Mas se eles estiverem travados em um problema realmente difícil, o CoBa diz: "Ok, vamos enviar as duas melhores ideias para o super-especialista juiz para verificar". Os pesquisadores testaram isso em milhares de problemas matemáticos e descobriram que, ao ser um gerente inteligente, o CoBa conseguiu obter as mesmas pontuações altas que os métodos "força bruta" (que tentam de tudo), mas usou 49,1% menos das "unidades de energia" caras (chamadas de tokens ponderados por parâmetros). É como conseguir a mesma refeção deliciosa usando metade dos ingredientes.

O Problema: A Armadilha do "Mais é Melhor"

Por um tempo, a melhor maneira de tornar a IA mais inteligente na resolução de problemas era apenas jogar mais poder de computação nela. Se você queria uma resposta melhor, pedia para a IA gerar mais soluções. Se você queria ter certeza, pedia para uma segunda IA verificar todas elas. Isso é como tentar encontrar uma agulha em um palheiro trazendo mil pessoas para procurar em todo o palheiro, mesmo que a agulha esteja bem na superfície. Funciona, mas é incrivelmente caro e lento.

O artigo argumenta que essa abordagem de "tamanho único" é um desperdício. Alguns problemas são fáceis e precisam de um olhar rápido. Outros são difíceis e precisam de um pensamento profundo. Mas os métodos antigos tratavam todos os problemas da mesma forma. Eles gastariam a mesma quantidade enorme de energia em uma questão matemática simples que gastariam em um enigma complexo de nível de Olimpíada. Os autores deste artigo queriam corrigir isso transformando o escalonamento em tempo de teste (fazer a IA pensar mais durante o teste) em um problema de alocação de recursos. Eles perguntaram: "Dado um orçamento fixo de energia, devemos gastar o próximo pouco de energia gerando uma nova ideia, verificando uma ideia antiga ou apenas parando?"

A Solução: O Gerente Inteligente (CoBa)

Os autores introduziram o CoBa (escalonamento de tempo de teste equilibrado por computação), que atua como um controlador de tráfego para o cérebro da IA. Veja como funciona, passo a passo:

O Aquecimento: Primeiro, o CoBa pede à IA para gerar um conjunto pequeno e diversificado de respostas (como pedir ideias a dois amigos). Este é o "aquecimento".
A Verificação Barata: Em seguida, ele executa uma verificação rápida e de baixa energia em todas as respostas. Isso é como perguntar a um amigo: "Isso parece correto?". É rápido e barato.
A Decisão: Com base no que a verificação barata encontrou, o CoBá faz uma escolha:
- Parar: Se todos concordam e a verificação barata está confiante, o CoBa para imediatamente. Não há necessidade de desperdiçar energia.
- Gerar Mais: Se as respostas estiverem todas espalhadas, o CoBa pede mais algumas ideias para obter mais opções.
- Verificação Forte: Se houver algumas respostas promissoras que ainda são um pouco incertas, o CoBa as envia apenas para essas candidatas específicas para uma verificação profunda e minuciosa de um "Super Juiz" (um modelo de IA muito mais poderoso e caro).

Esta é a diferença fundamental: em vez de verificar tudo com o Super Juiz, o CoBa envia apenas os candidatos mais interessantes. Ele economiza a energia cara para os momentos em que ela realmente importa.

Os Resultados: Mais Inteligente, Não Mais Difícil

Os pesquisadores testaram este sistema em mais de 3.000 problemas matemáticos, variando de matemática escolar padrão a enigmas de nível de competição muito difíceis (como AIME e AMC). Eles compararam o CoBa contra os métodos antigos de "força bruta".

A Grande Vitória: A melhor versão do CoBa (chamada CoBa-Routed-Strong) alcançou uma precisão de 85,13%. Isso é quase exatamente o mesmo que os métodos mais caros, que pontuaram 85,20% (usando um sistema de votação ponderada de autoavaliação) e 85,12% (usando um "melhor de 16" por voto de maioria).
A Economia: Aqui está a parte mágica. Para obter essa mesma pontuação alta, os métodos caros usaram uma quantidade massiva de poder computacional. O CoBa-Routed-Strong usou 49,1% menos tokens ponderados por parâmetros do que o método de autoavaliação e 58,9% menos do que o método "melhor de 16".
O Equilíbrio: O artigo observa que o método "melhor de 16" (que apenas gera 16 respostas e escolhe a mais comum) ainda foi ligeiramente mais preciso por uma fração mínima (0,01 pontos), mas custou 2,43 vezes mais para rodar. O CoBa sugere que, para a maioria dos usos no mundo real, o ganho ínfimo de precisão não vale o custo enorme.

O Que Isso Significa para o Futuro

O artigo sugere que o futuro do raciocínio da IA não é apenas criar modelos maiores e mais fortes. É ser mais inteligente com os recursos que temos. Os autores descobriram que o maior gargalo nem sempre é a verificação; às vezes, é que a IA simplesmente não gerou a resposta certa em primeiro lugar. Nos problemas mais difíceis (como AIME 2025), nem mesmo o gerente mais inteligente conseguiu encontrar a resposta certa se o "pool" inicial de ideias não a contivesse.

No entanto, para a grande maioria dos problemas, o CoBa mostrou que podemos parar de desperdiçar energia. Ao usar um sistema de "triagem" — verificações baratas para todos e verificações caras apenas para os casos complicados — podemos obter os melhores resultados sem quebrar o banco. O artigo conclui que esta abordagem transforma o "hiato do oráculo" (a diferença entre o que a IA poderia fazer se soubesse a resposta e o que ela realmente faz) em um sinal útil. Se a IA falhar, agora sabemos exatamente onde olhar: paramos cedo demais? Verificamos os candidatos errados? Ou apenas precisávamos gerar ideias melhores em primeiro lugar?

Em resumo, o CoBa nos ensina que, no mundo da IA, o tempo e o alvo são tão importantes quanto o poder bruto. Não se trata de o quão forte você pensa; trata-se de saber quando pensar profundamente e quando parar.

Resumo Técnico: CoBa – Escalonamento de Tempo de Teste com Custo-Benefício via Roteamento de Computação Balanceada

1. Formulação do Problema

O artigo aborda o desafio do escalonamento de tempo de teste (test-time scaling) em Grandes Modelos de Linguagem (LLMs). As estratégias atuais tipicamente escalam a computação ao longo de um único eixo: gerando mais soluções (amostragem), estendendo cadeias de raciocínio ou aplicando avaliadores mais fortes. Sob um orçamento de inferência fixo, essas estratégias competem entre si; gastar computação em uma ação impede que ela seja usada em outro lugar.

Os autores formalizam o raciocínio em tempo de teste como um problema de alocação de computação. Em qualquer estado de decisão $t$ , um sistema deve determinar a próxima ação ideal a partir de um espaço que inclui:

Amostragem: Gerar um novo candidato de solução.
Verificação: Aplicar verificadores leves ( $V_1$ ) ou fortes ( $V_L$ ) aos candidatos existentes.
Parada: Finalizar a resposta.

O objetivo é maximizar a utilidade da tarefa (acurácia) enquanto minimiza o custo (medido em tokens, chamadas de modelo e tokens ponderados por parâmetros) dentro de um orçamento fixo $B$ . A hipótese central é que os ganhos de acurácia e a economia de custos são melhor alcançados não pela aplicação uniforme de ações caras, mas pelo roteamento dinâmico de computação com base no "valor" da próxima unidade de computação para um exemplo específico.

2. Metodologia: Política de Roteamento CoBa

A solução proposta, CoBa (Compute-Balanced test-time scaling), implementa uma política de roteamento em estágios (Algoritmo 1) que trata a inferência como um processo de alocação de computação. Ela opera sem rótulos de verdade fundamental (ground-truth) durante a decisão de roteamento.

Componentes Principais:

Representação de Estado: O estado do sistema $s_t$ inclui o conjunto atual de candidatos $C_t$ , as pontuações de verificador observadas $S_t$ , o orçamento restante $B_t$ e características de histórico (ex: diversidade de respostas, limites de tokens).
Fase de Aquecimento (Warm-up): O sistema começa com um número fixo e pequeno de gerações ( $k=2$ ) para estabelecer a diversidade inicial de candidatos.
Camada de Triagem (Verificação Barata): Todos os candidatos são pontuados por um verificador leve (ex: um modelo menor ou uma verificação de frequência baseada em regras). Isso fornece "evidência barata" sobre o acordo de respostas e confiança.
Lógica de Roteamento:
- Parar: Se a resposta principal for estável (alto acordo) e a pontuação leve for alta, o sistema para.
- Amostrar: Se o sistema estiver incerto, ele gera um candidato adicional.
- Rotear para Verificação Forte: Se candidatos específicos forem incertos ou de alto valor, eles são roteados para um verificador mais forte e caro ( $V_L$ ).
Classificação Final: A resposta final é selecionada usando uma pontuação de classificação fundida $R(c)$ que combina frequência de resposta, pontuações leves e pontuações de verificador forte (Eq. 6).
Variantes: O artigo avalia três configurações:
- CoBa-Routed-Light: Aquecimento + apenas verificação barata.
- CoBa-Routed: Aquecimento + até 4 candidatos + roteamento de 2 para verificação forte.
- CoBa-Routed-Strong: Aquecimento + até 8 candidatos + roteamento de 4 para verificação forte.

Métricas de Custo:
O artigo distingue entre custo total de tokens e custo de tokens ponderado por parâmetros ( $C_{ptok}$ ), que contabiliza o gasto computacional de modelos maiores (ex: um modelo de 14B é ponderado mais alto que um de 8B).

3. Configuração Experimental

Datasets: As avaliações abrangem 3.129 pares gerador-exemplo através de MATH-500, AIME 2024/2025, AMC 2023 e um subconjunto de raciocínio simbólico procedural (Reasoning Gym).
Modelos: Os geradores incluem Qwen3-14B, Phi-4-reasoning e Qwen3-8B. O Qwen3-8B serve como juiz leve; o Qwen3-14B serve como o verificador forte.
Protocolo: É utilizado um protocolo de replay offline. Todos os métodos operam sobre um pool compartilhado de $N=16$ candidatos pré-gerados por problema. Isso garante uma comparação justa, isolando a estratégia de alocação da capacidade de geração.
Baselines: As comparações incluem decodificação gulosa (greedy decoding), raciocínio de comprimento fixo, votação de maioria Best-of-N, consistência própria (self-consistency) e vários proxies de alocação adaptativa (ex: votação ponderada por autoavaliação).

4. Resultados Principais

Acurácia vs. Custo: O CoBa-Routed-Strong atinge 85,13% de acurácia macro. É estatisticamente indistinguível do proxy de Votação Ponderada por Autoavaliação (85,20%), mas utiliza 49,1% menos tokens ponderados por parâmetros.
Comparação com Best-of-N: O CoBa-Routed-Strong iguala o Best-of-16 da votação de maioria (85,12% vs. 85,13%) enquanto utiliza 58,9% menos tokens ponderados por parâmetros.
Significância: Testes de bootstrap pareados confirmam que o CoBa-Routed-Strong supera significativamente a decodificação gulosa (+3,74 pontos) e é estatisticamente comparável a baselines de alto custo.
Especificidades do Dataset:
- No AIME 2024, o roteamento melhora significativamente a acurácia (de 65,6% na decodificação gulosa para 82,2%).
- No AIME 2025, uma grande lacuna permanece entre o CoBa e o "Pool Oracle" (o máximo teórico se uma resposta correta existir no pool). Isso sugere que, para os problemas mais difíceis, o gargalo muda da alocação para a geração de candidatos (ou seja, a resposta correta não está no pool gerado).
Distribuição de Ações: A análise mostra que o CoBa adapta seu comportamento: exemplos fáceis param cedo após a verificação barata, enquanto exemplos difíceis disparam amostragem adicional e verificação forte. Isso contrasta com baselines uniformes que aplicam o mesmo orçamento de computação a todos os exemplos.

5. Contribuições e Significância

O artigo reivindica três contribuições primárias:

Formalização: Reenquadra o raciocínio em tempo de teste como um problema unificado de alocação de computação sobre ações de geração, verificação e parada.
Metodologia: Introduz uma política de roteamento local e reproduzível (CoBa) que utiliza um sistema de verificação de dois níveis (leve e forte) para tomar decisões de alocação adaptativas.
Evidência Empírica: Através de experimentos de replay controlados, demonstra que o roteamento adaptativo pode atingir a acurácia de baselines de amostragem e escalonamento de avaliador muito mais caros com custos significativamente menores.

Significância e Alegações:

Melhoria de Pareto: O artigo argumenta que o CoBa alcança uma melhoria de Pareto sobre os comuns baselines de custo moderado, oferecendo alta acurácia com computação substancialmente reduzida.
Modos de Falha Acionáveis: A análise do "gap do oracle" fornece uma ferramenta diagnóstica. Se o gap for devido a erros de alocação (resposta correta no pool, mas perdida), é necessário um melhor roteamento. Se o gap for devido a erros de geração (resposta correta não está no pool), é necessária uma melhor geração de candidatos.
Escalonamento Operacional: Os autores sugerem que futuros sistemas de tempo de teste devem tratar a geração e a verificação como um orçamento compartilhado. A estratégia de escalonamento mais eficaz não é "mais computação em todo lugar", mas "computação onde ela é mais valiosa".
Normas de Relato: O artigo defende o relato da "mistura de ações" (quantas amostras vs. quantos verificadores) juntamente com a acurácia e o custo para tornar os mecanismos de alocação falsificáveis e transparentes.

O artigo conclui que, embora o CoBa otimize efetivamente o uso da computação disponível, o teto de desempenho restante nos datasets mais difíceis indica que ganhos futuros exigirão uma combinação de estimativa de incerteza mais nítida, sinais de processo mais ricos e melhor geração de candidatos.