💬 NLP

Not All Tokens Are Equal: Inflation-Aware Routing for Agentic LLM Systems

Este artículo presenta InflationAgent, un novedoso marco de enrutamiento que aborda la brecha de la "inflación de tokens" en los sistemas de LLM agénticos mediante la predicción de costos a nivel de flujo de trabajo a través de la Entropía de Ramificación de CoT y la optimización de la selección de modelos mediante una Tasa de Intercambio Semántico, logrando así una mayor precisión con menos tokens que los métodos existentes como FrugalGPT.

Autores originales: Heming Fu, Shan Lin, Qianqian Xie, Guojun Xiong

Publicado 2026-08-17

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Heming Fu, Shan Lin, Qianqian Xie, Guojun Xiong

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que diriges un servicio de entrega para una flota de robots. Algunos robots son diminutos, rápidos y baratos de operar, pero a veces se confunden y dejan caer los paquetes. Otros son gigantes, súper inteligentes y caros, pero casi nunca cometen un error. En el mundo de la Inteligencia Artificial, estos robots son "Modelos de Lenguaje Extensos" (LLM). Ellos son los cerebros detrás de los chatbots y los asistentes de programación. Usualmente, cuando hacemos una pregunta, simplemente la enviamos a un solo robot y esperamos una respuesta. Pero en el mundo real, las cosas se complican. Si el robot diminuto se equivoca, un sistema inteligente no se rinde simplemente; le pide al robot que lo intente de nuevo. Incluso podría pedirle al robot gigante que intervenga. Esto se llama un "sistema agéntico": un equipo de agentes de IA trabajando juntos para resolver un problema.

El problema es que hemos estado contando mal el costo de estas entregas. Hemos estado pagando por el precio de un solo viaje, olvidando que si el robot choca y tiene que volver al almacén para intentarlo de nuevo, estamos pagando por todo el viaje de ida y vuelta, no solo por el boleto de ida. Este artículo trata sobre una nueva forma de gestionar estos equipos de IA para que no agotemos accidentalmente nuestro presupuesto enviando el robot equivocado a un trabajo que requiere demasiados reintentos.

El costo oculto del "Intentar de nuevo"

Imagina que estás en un carnaval en un puesto de juegos. Tienes una cantidad limitada de dinero (fichas) para jugar. Puedes elegir entre una máquina barata y destartalada que cuesta $1 por intento, o una máquina lujosa y de alta tecnología que cuesta $10 por intento.

La vieja forma de pensar era simple: "¡La máquina barata cuesta $1, así que elegiré esa!". Pero aquí está el truco: la máquina barata es caprichosa. Si le haces una pregunta difícil, podría equivocarse. Así que tienes que pagar $1 de nuevo para intentarlo una segunda vez. Y una tercera. Y una cuarta. Para cuando finalmente obtienes la respuesta correcta, has gastado $5 en la máquina barata. Mientras tanto, la máquina lujosa lo habría logrado a la primera por $10.

Este artículo llama a este costo extra oculto "Inflación de Tokens". Es la brecha entre lo que crees que estás pagando (un intento) y lo que realmente pagas (cinco intentos). Los autores descubrieron que, para tareas difíciles, esta inflación puede ser enorme. Un modelo pequeño y barato podría terminar costando 4.25 veces más de lo esperado porque falla continuamente y requiere reintentos.

La nueva estrategia: El "InflationAgent"

Los investigadores construyeron un nuevo sistema llamado InflationAgent para solucionar esto. En lugar de mirar solo el precio de un solo intento, este sistema actúa como un hábil gerente de carnaval que sabe exactamente qué máquinas son propensas a descomponerse.

Así es como funciona, paso a paso:

1. El "Chequeo de Instinto" (Entropía de Ramificación de CoT)
Antes de que el sistema siquiera le pida a un robot que resuelva un problema, realiza una prueba rápida y gratuita. Le pide a un robot pequeño y local que piense en el problema de tres maneras diferentes.

Si el robot da la misma respuesta las tres veces, el sistema sabe que el problema es fácil.
Si el robot da tres respuestas totalmente diferentes y confusas, el sistema sabe que el problema es difícil y que es probable que el robot se quede atrapado en un bucle de reintentos.
Los autores llaman a esta medición Entropía de Ramificación de CoT. Es como revisar si el motor de un coche está fallando antes de siquiera iniciar el viaje. Esto no cuesta nada extra porque ocurre en una computadora local, no en los costosos servidores de la nube.

2. El Calculador de "Etiqueta de Precio"
Usando ese "chequeo de instinto", el sistema predice cuánta "inflación" habrá. No solo adivina; utiliza un calculador pequeño y listo (un modelo de aprendizaje automático) entrenado con datos pasados. Predice: "Si enviamos esta pregunta difícil al robot pequeño, probablemente fallará 3 veces, por lo que el costo real es 3 veces el precio".

3. El Selector de la "Mejor Oferta"
Ahora el sistema calcula la Tasa de Intercambio Semántico (SER). Esta es una forma elegante de preguntar: "¿Cuánta precisión obtengo por cada dólar que realmente gasto?".

Si el robot pequeño es barato pero fallará 4 veces, su "oferta" es terrible.
Si el robot grande es caro pero lo logrará a la primera, su "oferta" podría ser en realidad mejor.
El sistema elige al robot que ofrece el mejor valor, no solo el precio de etiqueta más bajo.

4. La Regla del "Comienzo Fresco"
Este es el truco más importante. Si el sistema envía una pregunta a un robot y este falla, y luego decide escalar a un robot más grande y más inteligente, descarta el intento fallido anterior.
Los investigadores descubrieron algo sorprendente: si le muestras al robot grande las notas desordenadas y confusas del intento fallido del robot pequeño, ¡el robot grande también se confunde! Es como mostrarle a un estudiante genio una página de garabatos de un estudiante con dificultades; el genio podría empezar a dudar de sí mismo.
Al darle al robot grande un prompt fresco (un lienzo limpio), el sistema mantiene la precisión alta. Si hubieran pasado las notas fallidas, la precisión del robot grande habría caído 34.8 puntos porcentuales en preguntas difíciles.

Lo que encontraron

El equipo realizó pruebas en problemas matemáticos (GSM8K) y preguntas de trivia complicadas (HotpotQA). Esto fue lo que sucedió:

La Inflación es Real: En preguntas de trivia difíciles, el modelo pequeño (Qwen2.5-7B) tuvo una tasa de inflación de 4.25×. Significaba que por cada dólar que pensabas que estabas gastando, en realidad estabas gastando $4.25 porque el robot fallaba repetidamente.
Mejores Resultados por Menos Dinero: Cuando establecieron un presupuesto fijo (un límite estricto de cuántos tokens podían gastar), su nuevo sistema (InflationAgent) obtuvo el 94.7% de las respuestas correctas. El método antiguo y popular (FrugalGPT) solo obtuvo el 91.0% de aciertos.
Ahorro de Tokens: Para lograr la misma precisión del 91.0% que el método antiguo, el nuevo sistema utilizó un 31% menos de tokens. Este es un ahorro masivo.
El Peligro de "Más Reintentos": Descubrieron que simplemente darle al robot pequeño más oportunidades para intentar (hasta 10 veces) no funcionaba para siempre. Después de cierto punto, el robot se confundía con sus propios fallos pasados, y su precisión en realidad bajaba. A veces, es mejor cambiar a un robot más inteligente que seguir dándose cabezazos contra la pared.

La Conclusión

Este artículo demuestra que, en el mundo de la IA, lo "barato" no siempre es barato. Si un modelo es propenso a fallar y necesita intentar de nuevo y de nuevo, se vuelve costoso e ineficiente. Al medir qué tan probable es que un modelo se quede estancado (usando la entropía del "chequeo de instinto") y al comenzar de cero al cambiar a un modelo más inteligente, podemos ahorrar dinero y obtener mejores respuestas.

Los autores están seguros de estos resultados basándose en sus pruebas con conjuntos de datos específicos de matemáticas y trivia. Sugieren que, aunque esto funciona muy bien para tareas de razonamiento, aún necesitamos descubrir cómo aplicarlo a conversaciones más abiertas o herramientas. Pero por ahora, han demostrado que un poco de planificación inteligente ayuda mucho a evitar que el presupuesto de la IA se infle fuera de control.

Resumen Técnico: No todos los tokens son iguales: Enrutamiento consciente de la inflación para sistemas de LLM agénticos

Declaración del problema

Los sistemas agénticos modernos construidos sobre Modelos de Lenguaje de Gran Escala (LLM) emplean frecuentemente mecanismos de reintento cuando un modelo falla al responder una consulta o produce una cadena de razonamiento incompleta. Mientras que los sistemas de enrutamiento existentes (por ejemplo, FrugalGPT, RouteLLM) optimizan los costos basados en el precio por token de una única llamada, no logran contabilizar el costo acumulado de los reintentos.

Los autores definen la Inflación de Tokens como la relación entre el costo real del flujo de trabajo (incluyendo todos los reintentos) y el costo estimado de una sola llamada.
$\text{Inflación}(m, x) = \frac{C_{\text{real}}(m, x)}{C_{\text{directo}}(m, x)}$
Donde $C_{\text{real}}$ es la suma de los tokens consumidos a través de $k^*$ intentos hasta el éxito (o el agotamiento de los reintentos), y $C_{\text{directo}}$ es el recuento de tokens de un solo intento.

El artículo demuestra que esta inflación es no despreciable y altamente variable. Para tareas multi-paso difíciles, un modelo pequeño "barato" puede fallar repetidamente, resultando en un costo real 4.25 veces mayor que la estimación de una sola llamada. Consecuentemente, las decisiones de enrutamiento basadas únicamente en estimaciones de una sola llamada pueden subestimar sistemáticamente los costos reales en más de 2×, lo que conduce a una selección de modelos suboptimal.

Metodología: InflationAgent

Para abordar esto, los autores proponen InflationAgent, un pipeline de enrutamiento de cuatro etapas diseñado para maximizar la Tasa de Intercambio Semántico (SER), definida como la precisión esperada dividida por el costo real predicho:
$\text{SER}(m, x) = \frac{U(m)}{\hat{C}_{\text{real}}(m, x)}$

El pipeline opera de la siguiente manera:

Extracción de características (Local): El sistema extrae características estructurales de la consulta (recuento de tokens, diversidad de vocabulario, pistas de multi-paso) sin realizar llamadas a la API.
Cálculo de la Entropía de Ramificación de CoT (CBE) (Local): El sistema muestrea $K$ cadenas de razonamiento independientes de un modelo local. Calcula la entropía de Shannon de la distribución de respuestas resultante:
$\text{CBE}(x) = -\sum_{c} p_c \log_2 p_c$
Una alta entropía indica caminos de razonamiento divergentes y una alta dificultad de la consulta, sirviendo como un proxy de costo cero para la probabilidad de reintento.
Predicción de Inflación y Enrutamiento: Un Perceptrón Multicapa (MLP) ligero predice el factor de inflación ( $\hat{\text{Inflación}}$ ) utilizando cuatro características: CBE, puntuación de acuerdo, longitud promedio de la cadena y recuento de tokens del prompt. El sistema estima el costo real ( $\hat{C}_{\text{real}} = C_{\text{directo}} \times \hat{\text{Inflación}}$ ) y selecciona el nivel de modelo con el SER más alto.
Ejecución con Escalada Fresca: El modelo seleccionado ejecuta la consulta. Si la inflación observada supera 2× la predicción, el sistema escala a un nivel de modelo más fuerte. Crucialmente, esta escalada utiliza un prompt fresco, descartando la cadena de razonamiento fallida para evitar la contaminación del contexto.

Contribuciones Clave

Medición sistemática de la Inflación de Tokens: Los autores instrumentaron un arnés de reintento agéntico a través de tres niveles de modelos (Qwen2.5-7B, GPT-4o-mini, GPT-4o) y dos conjuntos de datos (GSM8K, HotpotQA). Encontraron que la inflación varía significativamente según el tipo de tarea, alcanzando 4.25× para un modelo 7B en QA de multi-paso, mientras que GPT-4o en la misma tarea infló solo 2.92×.
Entropía de Ramificación de CoT (CBE): Una novedosa señal de dificultad pre-ejecución computada enteramente mediante inferencia local. Predice una alta inflación con un AUROC de 0.887, permitiendo al sistema anticipar la sobrecarga de reintento sin incurrir en costos de API.
Enrutamiento por Tasa de Intercambio Semántico (SER): Un objetivo de enrutamiento que equilibra la precisión contra el costo real predicho, en lugar de solo el costo de una sola llamada.
Política de Escalada Fresca: Un hallazgo empírico de que el envío de cadenas de razonamiento fallidas a un modelo más fuerte degrada el rendimiento. Los autores muestran que contaminar a GPT-4o con cadenas fallidas de un modelo más pequeño reduce su precisión en 34.8 puntos porcentuales en consultas difíciles, validando la necesidad de descartar el contexto fallido durante la escalada.

Resultados Experimentales

La evaluación se realizó en GSM8K y HotpotQA con un presupuesto de tokens fijo y un máximo de 5 reintentos.

Precisión vs. Costo: En GSM8K, InflationAgent logró un 94.7% de precisión comparado con el 91.0% de la línea base FrugalGPT. Para alcanzar el nivel de precisión de FrugalGPT, InflationAgent requirió un 31% menos de tokens.
Predicción de Inflación: El predictor MLP logró una correlación de Pearson de 0.714 y un AUROC de 0.887 en el conjunto de prueba retenido para detectar consultas de alta inflación (umbral $\ge$ 2×).
Rendimientos Marginales: Aumentar los reintentos para un modelo pequeño (Qwen2.5-7B) mostró rendimientos decrecientes; la precisión alcanzó su pico a 5× el presupuesto (92.5%) y cayó a 82.0% a 10× debido a la interferencia de la ventana de contexto por las cadenas fallidas.
Contaminación de Contexto: En un experimento controlado, la precisión de GPT-4o cayó de 73.9% a 39.1% cuando se le alimentó con cadenas de razonamiento fallidas de Qwen2.5-7B, una caída estadísticamente significativa ( $p=0.0078$ ).

Significancia y Reivindicaciones

El artículo afirma que la inflación de tokens es un factor crítico, previamente pasado por alto, en el diseño de sistemas agénticos. Al ignorar la sobrecarga de reintento, las estrategias de enrutamiento existentes pueden seleccionar inadvertidamente modelos que son "baratos" por token pero costosos por tarea exitosa.

Los autores aseguran que InflationAgent resuelve esto:

Modelando explícitamente la brecha entre las estimaciones de una sola llamada y los costos reales del flujo de trabajo.
Utilizando inferencia local (CBE) para predecir esta brecha sin costos adicionales de API.
Implementando una estrategia de "escalada fresca" que evita la degradación del rendimiento del modelo descendente causada por la contaminación del contexto.

El trabajo establece que, para tareas difíciles de multi-paso, un modelo nominalmente barato con alta inflación no es ni rentable ni efectivo. El marco propuesto ofrece un camino hacia una inferencia agéntica más eficiente al alinear las decisiones de enrutamiento con el costo económico real de completar la tarea.

Limitaciones

Los autores señalan que su evaluación está limitada a dos benchmarks de razonamiento (GSM8K, HotpotQA) y no se extiende a la generación de código abierto, diálogos multi-turno o agentes de uso de herramientas. El predictor de inflación es entrenado en distribuciones de tareas específicas, y la generalización entre tareas sigue siendo una pregunta abierta. Además, las relaciones de unidades de cómputo utilizadas son fijas y no consideran precios de API dinámicos.