🤖 AI

CoBa: Cost-Effective Test-Time Scaling via Compute-Balanced Routing

Este artículo presenta CoBa, una política de enrutamiento de cómputo equilibrado que optimiza el escalado en tiempo de prueba al asignar dinámicamente los recursos de inferencia entre la generación y la verificación, logrando una precisión de vanguardia en evaluaciones de razonamiento matemático al tiempo que reduce significativamente los costos computacionales en comparación con los métodos de escalado tradicionales.

Autores originales: Yan Zhou, Yue Ouyang, Kaiyang Zheng, Suncheng Xiang

Publicado 2026-08-11

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Yan Zhou, Yue Ouyang, Kaiyang Zheng, Suncheng Xiang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando resolver un acertijo realmente difícil. Tienes una cantidad limitada de energía para gastar, y tienes tres formas de usarla: puedes pensar en una respuesta nueva, puedes verificar una respuesta que ya tienes, o simplemente puedes decir: "Está bien, he terminado, aquí está mi mejor suposición". Durante mucho tiempo, las computadoras que intentan resolver problemas difíciles (como acertijos matemáticos) han sido instruidas a simplemente "esforzarse más" haciendo una de estas cosas repetidamente. Podrían generar cien respuestas diferentes y elegir la más popular, o podrían gastar una enorme cantidad de energía revisando cada una de las respuestas con un robot juez súper inteligente y lento. El problema es que esto es como usar un mazo para romper una nuez. Si la respuesta es obvia, revisarla cien veces es un desperdicio. Si la respuesta es súper difícil, simplemente adivinar al azar podría no encontrarla nunca. La gran pregunta para los científicos es: ¿cómo gastamos nuestra energía limitada para obtener la respuesta correcta sin agotar la batería?

Aquí es donde entra una nueva idea llamada CoBa. Piensa en CoBa como un gerente inteligente para un equipo de trabajadores. En lugar de decirle a cada trabajador que haga exactamente lo mismo, CoBa observa la situación y decide el mejor siguiente paso. Si los trabajadores ya están de acuerdo en una respuesta fácil, CoBa dice: "¡Genial, deténganse! Hemos terminado". Si están confundidos, CoBa podría decir: "Pidamos ideas a dos personas más". Pero si están trabados en un problema realmente difícil, Coب dice: "Bien, enviemos las dos mejores ideas al juez experto para que las revise". Los investigadores probaron esto en miles de problemas matemáticos y descubrieron que, al ser un gerente inteligente, CoBa podía obtener los mismos puntajes altos que los métodos de "fuerza bruta" (que lo intentan todo) pero utilizó un 49.1% menos de las "unidades de energía costosas" (llamadas tokens ponderados por parámetros). Es como obtener la misma comida deliciosa pero usando la mitad de los ingredientes.

El Problema: La trampa del "Más es Mejor"

Durante un tiempo, la mejor manera de hacer que la IA fuera más inteligente para resolver problemas era simplemente lanzarle más potencia de cómputo. Si querías una mejor respuesta, le pedías a la IA que generara más soluciones. Si querías estar seguro, le pedías a una segunda IA que las revisara todas. Esto es como intentar encontrar una aguja en un pajar trayendo a mil personas para que busquen en todo el pajar, incluso si la aguja está justo encima. Funciona, pero es increíblemente caro y lento.

El artículo argumenta que este enfoque de "talla única" es un desperdicio. Algunos problemas son fáciles y necesitan una mirada rápida. Otros son difíciles y necesitan un pensamiento profundo. Pero los métodos antiguos trataban cada problema de la misma manera. Gastarían la misma enorme cantidad de energía en una pregunta matemática simple que en un complejo rompecabezas de nivel Olimpiada. Los autores de este artículo querían solucionar esto convirtiendo el escalado en tiempo de prueba (hacer que la IA piense más duro durante la prueba) en un problema de asignación de recursos. Se preguntaron: "Dado un presupuesto fijo de energía, ¿deberíamos gastar el siguiente poco de energía generando una nueva idea, verificando una antigua o simplemente deteniéndonos?".

La Solución: El Gerente Inteligente (CoBa)

Los autores introdujeron CoBa (escalado de tiempo de prueba equilibrado por cómputo), que actúa como un controlador de tráfico para el cerebro de la IA. Así es como funciona, paso a paso:

El Calentamiento: Primero, CoBa le pide a la IA que genere un conjunto pequeño y diverso de respuestas (como pedir ideas a dos amigos). Este es el "calentamiento".
La Verificación Barata: Luego, ejecuta una revisión rápida y de baja energía en todas las respuestas. Esto es como preguntarle a un amigo: "¿Esto suena bien?". Es rápido y barato.
La Decisión: Basándose en lo que encontró la verificación barata, CoBa toma una decisión:
- Detenerse: Si todos están de acuerdo y la verificación barata tiene confianza, CoBa se detiene inmediatamente. No hay necesidad de desperdiciar energía.
- Generar Más: Si las respuestas están por todos lados, CoBa pide algunas ideas más para obtener más opciones.
- Verificación Fuerte: Si hay algunas respuestas prometedoras que aún son un poco inciertas, CoBa las envía solo a esas candidatas específicas a un "Súper Juez" (un modelo de IA mucho más potente y costoso) para una revisión profunda y exhaustiva.

Esta es la diferencia clave: en lugar de revisar todo con el Súper Juez, CoBa solo envía los candidatos más interesantes. Ahorra la energía costosa para los momentos en que realmente importa.

Los Resultados: Más Inteligente, No Más Duro

Los investigadores probaron este sistema en más de 3,000 problemas matemáticos, que van desde matemáticas escolares estándar hasta acertijos muy difíciles de nivel de competencia (como AIME y AMC). Compararon CoBa contra los métodos antiguos de "fuerza bruta".

La Gran Victoria: La mejor versión de CoBa (llamada CoBa-Routed-Strong) logró una precisión del 85.13%. Esto es casi exactamente lo mismo que los métodos más caros, que puntuaron 85.20% (usando un sistema de votación de autoevaluación) y 85.12% (usando un "best-of-16" de voto por mayoría).
Los Ahorros: Aquí está la parte mágica. Para obtener ese mismo puntaje alto, los métodos costosos usaron una enorme cantidad de potencia de cómputo. CoBa-Routed-Strong utilizó un 49.1% menos de tokens ponderados por parámetros que el método de autoevaluación y un 58.9% menos que el método "best-of-16".
El Intercambio: El artículo señala que el método "best-of-16" (que simplemente genera 16 respuestas y elige la más común) fue todavía ligeramente más preciso por una fracción minúscula (0.01 puntos), pero costó 2.43 veces más ejecutarlo. CoBa sugiere que, para la mayoría de los usos en el mundo real, la ganancia de precisión mínima no vale el enorme costo.

Qué Significa para el Futuro

El artículo sugiere que el futuro del razonamiento de la IA no es solo hacer modelos más grandes y fuertes. Es ser más inteligentes con los recursos que tenemos. Los autores encontraron que el mayor cuello de botella no siempre es la verificación; a veces, es que la IA simplemente no llegó a la respuesta correcta en primer lugar. En los problemas más difíciles (como AIME 2025), incluso el gerente más inteligente no pudo encontrar la respuesta correcta si el "grupo inicial" de ideas no la contenía.

Sin embargo, para la gran mayoría de los problemas, CoBa demostró que podemos dejar de desperdiciar energía. Al utilizar un sistema de "triaje" —verificaciones baratas para todos, y verificaciones caras solo para los complicados— podemos obtener los mejores resultados sin romper el banco. El artículo concluye que este enfoque convierte la "brecha del oráculo" (la diferencia entre lo que la IA podría hacer si supiera la respuesta y lo que realmente hace) en una señal útil. Si la IA falla, ahora sabemos exactamente dónde mirar: ¿nos detuvimos demasiado pronto? ¿Verificamos los candidatos equivocados? ¿O simplemente necesitábamos generar mejores ideas en primer lugar?

En resumen, CoBa nos enseña que en el mundo de la IA, el tiempo y el objetivo son tan importantes como la potencia bruta. No se trata de qué tan duro pienses; se trata de saber cuándo pensar duro y cuándo detenerte.

Resumen Técnico: CoBa – Escalamiento de Tiempo de Prueba con Eficiencia de Costos mediante el Enrutamiento Balanceado de Cómputo

1. Formulación del Problema

El artículo aborda el desafío del escalamiento en el tiempo de prueba (test-time scaling) en los Modelos de Lenguaje Grande (LLMs). Las estrategias actuales suelen escalar el cómputo a lo largo de un único eje: generar más soluciones (muestreo), extender las cadenas de razonamiento o aplicar evaluadores más fuertes. Bajo un presupuesto de inferencia fijo, estas estrategias compiten entre sí; dedicar cómputo a una acción impide utilizarlo en otra.

Los autores formalizan el razonamiento en el tiempo de prueba como un problema de asignación de cómputo. En cualquier estado de decisión $t$ , un sistema debe determinar la siguiente acción óptima de un espacio que incluye:

Muestreo: Generar una nueva solución candidata.
Verificación: Aplicar verificadores ligeros ( $V_1$ ) o fuertes ( $V_L$ ) a los candidatos existentes.
Parada: Finalizar la respuesta.

El objetivo es maximizar la utilidad de la tarea (precisión) mientras se minimiza el costo (medido en tokens, llamadas al modelo y tokens ponderados por parámetros) dentro de un presupuesto fijo $B$ . La hipótesis central es que las ganancias de precisión y el ahorro de costos se logran mejor no aplicando uniformemente acciones costosas, sino enrutando dinámicamente el cómputo basándose en el "valor" de la siguiente unidad de computación para un ejemplo específico.

2. Metodología: Política de Enrutamiento CoBa

La solución propuesta, CoBa (Compute-Balanced test-time scaling), implementa una política de enrutamiento por etapas (Algoritmo 1) que trata la inferencia como un proceso de asignación de cómputo. Opera sin etiquetas de verdad fundamental (ground-truth) durante la decisión de enrutamiento.

Componentes Clave:

Representación del Estado: El estado del sistema $s_t$ incluye el conjunto actual de candidatos $C_t$ , los puntajes de verificación observados $S_t$ , el presupuesto restante $B_t$ y características del historial (p. ej., diversidad de respuestas, límites de tokens).
Fase de Calentamiento (Warm-up): El sistema comienza con un número fijo y pequeño de generaciones ( $k=2$ ) para establecer la diversidad inicial de los candidatos.
Capa de Triaje (Verificación Ligera): Todos los candidatos son puntuados por un verificador ligero (p. ej., un modelo de lenguaje más pequeño o un chequeo de frecuencia basado en reglas). Esto proporciona "evidencia barata" respecto al acuerdo de las respuestas y la confianza.
Lógica de Enrutamiento:
- Parar: Si la respuesta principal es estable (alto acuerdo) y el puntaje ligero es alto, el sistema se detiene.
- Muestrear: Si el sistema tiene incertidumbre, genera un candidato adicional.
- Enrutar a Verificación Fuerte: Si ciertos candidatos son inciertos o de alto valor, se enrutan a un verificador más fuerte y costoso ( $V_L$ ).
Clasificación Final: La respuesta final se selecciona utilizando un puntaje de clasificación fusionado $R(c)$ que combina la frecuencia de la respuesta, los puntajes ligeros y los puntajes del verificador fuerte (Ec. 6).
Variantes: El artículo evalúa tres configuraciones:
- CoBa-Routed-Light: Calentamiento + solo verificación barata.
- CoBa-Routed: Calentamiento + hasta 4 candidatos + enrutamiento de 2 a verificación fuerte.
- CoBa-Routed-Strong: Calentamiento + hasta 8 candidatos + enrutamiento de 4 a verificación fuerte.

Métricas de Costo:
El artículo distingue entre el costo total de tokens y el costo de tokens ponderado por parámetros ( $C_{ptok}$ ), que contabiliza el gasto computacional de modelos más grandes (p. ej., un modelo de 14B tiene un peso mayor que uno de 8B).

3. Configuración Experimental

Conjuntos de Datos: Las evaluaciones abarcan 3,129 pares generador-ejemplo en MATH-500, AIME 2024/2025, AMC 2023 y un subconjunto de razonamiento simbólico procedimental (Reasoning Gym).
Modelos: Los generadores incluyen Qwen3-14B, Phi-4-reasoning y Qwen3-8B. Qwen3-8B actúa como el juez ligero; Qwen3-14B actúa como el verificador fuerte.
Protocolo: Se utiliza un protocolo de reproducción fuera de línea (offline replay protocol). Todos los métodos operan sobre un conjunto compartido de $N=16$ candidatos pregenerados por problema. Esto asegura una comparación justa al aislar la estrategia de asignación de la capacidad de generación.
Líneas Base (Baselines): Las comparaciones incluyen decodificación codiciosa (greedy decoding), razonamiento de longitud fija, votación por mayoría de Best-of-N, consistencia propia (self-consistency) y varios proxies de asignación adaptativa (p. ej., votación ponderada por autoevaluación).

4. Resultados Clave

Precisión vs. Costo: CoBa-Routed-Strong alcanza un 85.13% de precisión macro. Es estadísticamente indistinguible del proxy de Votación Ponderada por Autoevaluación (85.20%), pero utiliza un 49.1% menos de tokens ponderados por parámetros.
Comparación con Best-of-N: CoBa-Routed-Strong iguala a la votación por mayoría de Best-of-16 (85.12% vs. 85.13%) mientras utiliza un 58.9% menos de tokens ponderados por parámetros.
Significancia: Las pruebas de bootstrap emparejadas confirman que CoBa-Routed-Strong supera significativamente a la decodificación codiciosa (+3.74 puntos) y es estadísticamente comparable a las líneas base de alto costo.
Especificidad de los Conjuntos de Datos:
- En AIME 2024, el enrutamiento mejora significativamente la precisión (del 65.6% de la decodificación codiciosa al 82.2%).
- En AIME 2025, persiste una gran brecha entre CoBa y el "Oráculo del Pool" (el máximo teórico si existe una respuesta correcta en el grupo). Esto sugiere que para los problemas más difíciles, el cuello de botella se desplaza de la asignación a la generación de candidatos (es decir, la respuesta correcta no está en el grupo generado).
Distribución de Acciones: El análisis muestra que CoBa adapta su comportamiento: los ejemplos fáciles se detienen temprano tras la verificación barata, mientras que los ejemplos difíciles activan el muestreo adicional y la verificación fuerte. Esto contrasta con las líneas base uniformes que aplican el mismo presupuesto de cómputo a todos los ejemplos.

5. Contribuciones y Significancia

El artículo reclama tres contribuciones primarias:

Formalización: Replantea el razonamiento en el tiempo de prueba como un problema unificado de asignación de cómputo sobre acciones de generación, verificación y parada.
Metodología: Introduce una política de enrutamiento local reproducible (CoBa) que utiliza un sistema de verificación de dos niveles (ligero y fuerte) para tomar decisiones de asignación adaptativas.
Evidencia Empírica: A través de experimentos de reproducción controlados, demuestra que el enrutamiento adaptativo puede alcanzar la precisión de líneas base de muestreo y escalamiento de evaluadores mucho más costosos con un costo significativamente menor.

Significancia y Afirmaciones:

Mejora de Pareto: El artículo argumenta que CoBa logra una mejora de Pareto sobre las líneas base comunes de costo moderado, ofreciendo alta precisión con un cómputo sustancialmente reducido.
Modos de Fallo Accionables: El análisis de la "brecha del oráculo" proporciona una herramienta de diagnóstico. Si la brecha se debe a errores de asignación (la respuesta correcta está en el grupo pero se perdió), se necesita un mejor enrutamiento. Si la brecha se debe a errores de generación (la respuesta correcta no está en el grupo), se requiere una mejor generación de candidatos.
Escalamiento Operativo: Los autores sugieren que los futuros sistemas de tiempo de prueba deben tratar la generación y la verificación como un presupuesto compartido. La estrategia de escalamiento más efectiva no es "más cómputo en todas partes", sino "cómputo donde sea más valioso".
Normas de Reporte: El artículo aboga por reportar la "mezcla de acciones" (cuántos muestreos vs. cuántos verificadores) junto con la precisión y el costo para hacer que los mecanismos de asignación sean falsables y transparentes.

El artículo concluye que, si bien CoBa optimiza eficazmente el uso del cómputo disponible, el techo de rendimiento restante en los conjuntos de datos más difíciles indica que las ganancias futuras requerirán una combinación de estimación de incertidumbre más aguda, señales de proceso más ricas y una mejor generación de candidatos.