🤖 machine learning

BAGEN: Are LLM Agents Budget-Aware?

El artículo introduce BAGEN, un marco que define la conciencia presupuestaria como una estimación de intervalos progresiva y demuestra que, si bien los agentes de LLM de vanguardia fallan consistentemente al predecir o alertar sobre excesos de presupuesto, su capacidad para realizar paradas tempranas accionables puede mejorarse significamente mediante el ajuste fino supervisado y el aprendizaje por refuerzo.

Autores originales: Yuxiang Lin, Zihan Wang, Mengyang Liu, Yuxuan Shan, Longju Bai, Junyao Zhang, Xing Jin, Boshan Chen, Jinyan Su, Xingyao Wang, Jiaxin Pei, Manling Li

Publicado 2026-06-02

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Yuxiang Lin, Zihan Wang, Mengyang Liu, Yuxuan Shan, Longju Bai, Junyao Zhang, Xing Jin, Boshan Chen, Jinyan Su, Xingyao Wang, Jiaxin Pei, Manling Li

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que envías a un robot en una misión larga y compleja, como un repartidor que tiene que navegar por una ciudad, recoger paquetes y entregarlos. Le das al robot un presupuesto: tal vez 1,000 "puntos de energía" (tokens) o una cantidad específica de dinero real.

El gran problema que identifica este artículo es que los robots inteligentes actuales (Agentes de IA) son terribles para saber cuánto presupuesto les queda mientras trabajan. Normalmente solo se dan cuenta de que se han quedado sin dinero después de que el trabajo ya se ha arruinado.

Aquí está la historia del artículo, desglosada con analogías sencillas:

1. El Problema Central: El Robot "Ciego"

Actualmente, si le preguntas a un robot: "¿Cuánto costará este viaje?", normalmente hace una suposición una sola vez al principio.

El Defecto: Es como un excursionista que intenta adivinar cuántas millas le quedan por caminar antes de siquiera empezar a caminar. No tiene en cuenta si se pierde, si hay mal tiempo o si toma un camino equivoco.
La Realidad: El artículo encontró que incluso los robots más inteligentes son excesivamente optimistas. Piensan: "¡Definitivamente puedo terminar esto con el dinero que me queda!", incluso cuando en realidad se están quedando sin gasolina. Siguen gastando dinero en tareas que ya son imposibles de terminar, solo por seguir intentándolo.

2. La Nueva Idea: El Agente "Consciente del Presupuesto" (BAGEN)

Los autores proponen un nuevo tipo de robot que actúa como un gestor de proyectos inteligente. En lugar de adivinar una sola vez, este robot revisa su billetera en cada paso del camino.

Estimación de Intervalo Progresivo: En lugar de decir "necesito exactamente 500 puntos más", el robot dice: "Probablemente necesite entre 400 y 600 puntos, pero si no encuentro la respuesta pronto, es posible que deba detenerme".
El Botón de "Imposible": Si el robot se da cuenta de que está en un hoyo del que no puede salir, debería presionar un gran botón rojo que diga "IMPOSIBLE" y detenerse inmediatamente, en lugar de desperdiciar los últimos dólares intentando cavar más profundo.

3. Lo que Encontraron (La "Boleta de Calificaciones")

Los investigadores probaron cinco de los modelos de IA más inteligentes del mundo en cuatro tipos diferentes de tareas (como resolver acertijos, buscar en la web y gestionar un almacén). Esto es lo que descubrieron:

Ser Inteligente $\neq$ Ser Consciente del Presupuesto: El hecho de que un robot sea excelente resolviendo el acertijo no significa que sea bueno contando su dinero. De hecho, la correlación era débil. El mejor resolutor de acertijos era, a menudo, el peor estimando costos.
El "Sesgo de Optimismo": Cada uno de los robots probados era demasiado esperanzador. Subestimaron consistentemente cuánto dinero necesitarían. Cuanto más débil era el robot en la tarea, más optimista era respecto a su presupuesto.
Demasiado Tarde para Salvarse: Los robots solían darse cuenta de que iban a fallar solo después de haber gastado el 80% de su presupuesto. Para cuando decían: "Oh no, no podemos terminar", ya era demasiado tarde para detener la pérdida de recursos.
Se Puede Enseñar: La buena noticia es que esta habilidad se puede entrenar. Al enseñar a los robots (usando un método llamado SFT + RL), aprendieron a detenerse antes.
- El Resultado: Si le dices al robot que se detenga tan pronto como diga "Imposible", puedes ahorrar entre el 28% y el 64% del dinero desperdiciado en intentos fallidos, con solo una mínima disminución en la cantidad de tareas que completan con éxito.

4. Los Dos Tipos de "Presupuestos"

El artículo analizó dos tipos de gastos:

Presupuesto Interno (El Combustible del Cerebro): Esta es la potencia de cómputo y los "tokens" que la IA utiliza solo para pensar y hablar.
Presupuesto Externo (El Costo del Mundo Real): Este es el dinero real, el tiempo o los recursos físicos (como el espacio en un almacén) que la IA gasta cuando realiza una acción en el mundo real.
Los robots tuvieron dificultades con ambos, pero el problema del "exceso de optimismo" fue el mismo para ambos.

5. La Conclusión

El artículo concluye que la conciencia del presupuesto es una habilidad separada de la inteligencia. Actualmente, los agentes de IA son como conductores que siguen conduciendo hacia un destino incluso después de que su tanque de gasolina está vacío, esperando que mágicamente encuentren una gasolinera.

La solución no es necesariamente hacer al IA "más inteligente" en la tarea, sino entrenarlo para ser un mejor contador de sí mismo. Si les enseñamos a estos agentes a decir "no puedo hacer esto" más temprano, podemos ahorrar una cantidad masiva de recursos sin perder mucho en términos de éxito.

En resumen: No debemos pedirle a los agentes de IA que solo "hagan el trabajo", sino empezar a enseñarles a vigilar su billetera mientras trabajan.

Resumen Técnico: BAGEN: ¿Son los Agentes de LLM Conscientes del Presupuesto?

1. Planteamiento del Problema

Los agentes actuales de Modelos de Lenguaje Extensos (LLM) se despliegan cada vez más en tareas de largo horizonte y alto riesgo que implican un consumo significativo de recursos, como el uso de tokens (presupuesto interno), llamadas a API, costos monetarios o tiempo (presupuesto externo). Sin embargo, los paradigmas de evaluación existentes tratan el presupuesto principalmente como una métrica post-hoc, midiendo el costo solo después de que la ejecución se completa.

El artículo identifica una brecha crítica: los agentes carecen de conciencia presupuestaria, definida como la capacidad de estimar, durante la ejecución, cuánto presupuesto queda y si una tarea aún es realizable. Sin esta capacidad, los agentes no pueden tomar decisiones de control críticas, como abortar tareas imposibles, solicitar recursos adicionales o reasignar presupuestos entre subobjetivos. Además, los estudios existentes suelen depender de una estimación de punto único (una única predicción al inicio de la tarea), lo que no logra capturar la evolución de la viabilidad en tareas de largo horizonte y no permite un refinamiento progresivo basado en el progreso observado.

2. Metodología

2.1. Modalidades de Presupuesto

Los autores formalizan dos tipos distintos de presupuesto:

Presupuesto Interno: Computación generada por el propio razonamiento del modelo (por ejemplo, recuento de tokens).
Presupuesto Externo: Costos comprometidos en el entorno (por ejemplo, dinero, tiempo, inventario), que pueden ser multidimensionales y acoplados (por ejemplo, mantener inventario aumenta los ingresos pero consume la capacidad del almacén).

2.2. Protocolo de Estimación de Intervalos Progresivos

Para abordar las limitaciones de la estimación de punto único, el artículo propone la Estimación de Intervalos Progresivos. En lugar de una predicción de punto único, se consulta al agente en cada turno $k$ de una trayectoria $\tau$ para predecir:

Un intervalo $[\hat{R}^{lo}_k, \hat{R}^{hi}_k]$ que representa el presupuesto restante si la tarea se considera viable.
Una declaración de imposible si la tarea se considera inviable dado el presupuesto restante.

Este protocolo introduce tres propiedades clave:

Incertidumbre: Expresada mediante la amplitud del intervalo.
Progresividad: Las estimaciones se actualizan a medida que el agente observa el progreso parcial.
Conciencia de Inviabilidad: Una opción explícita de "imposible" permite el paro temprano.

2.3. Evaluación de Rollout-Replay

Para desacoplar la capacidad de estimación de presupuesto de la capacidad de completar la tarea, los autores emplean un protocolo de rollout-replay:

Generación de Rollout: El agente ejecuta una tarea sin restricciones de presupuesto para generar una trayectoria completa y los costos reales (ground-truth).
Replay de Prefijo: El prefijo registrado hasta el turno $k$ se reproduce ante el agente, el cual es consultado para estimar el presupuesto restante y la viabilidad.
Calificación: Las predicciones se califican frente al costo restante realizado y el resultado real.

2.4. Métricas de Sub-Capacidad

La conciencia presupuestaria se descompone en tres sub-capacidades medibles:

Predicción de Viabilidad: Una clasificación binaria (viable vs. imposible) medida por Macro-F1.
Detección Temprana de Fallos: La capacidad de reconocer trayectorias condenadas tempranamente, medida por Fail-F1 (precisión/exhaustividad sobre la clase "imposible").
Estimación de Presupuesto Restante: La precisión de las predicciones de intervalo en trayectorias exitosas, medida por Cobertura (si el costo real cae dentro del intervalo) y Estrechez (penalizando intervalos excesivamente amplios).

2.5. Configuración Experimental

El estudio evalúa cinco modelos de frontera (GPT-5.2, Claude Opus 4.7, Claude Sonnet 4.6, Gemini 3.1 Pro, Qwen3-235B) en cuatro entornos:

Presupuesto Interno: Sokoban (planificación), Search-R1 (recuperación de múltiples saltos), SWE-bench (resolución de problemas de GitHub).
Presupuesto Externo: Warehouse (un entorno de cadena de suministro con dimensiones acopladas de costo, tiempo e inventario).

3. Resultados Clave

3.1. Desacoplamiento del Rendimiento de la Tarea y la Conciencia Presupuestaria

Correlación Débil: La tasa de éxito de la tarea se correlaciona débilmente con la calidad de la estimación del presupuesto ( $r \approx 0.35$ ). Los ejecutores de tareas fuertes no son necesariamente estimadores fuertes. Por ejemplo, en Search-R1, Opus logró el mayor éxito en la tarea (75.8%) pero Sonnet produjo mejores estimaciones de intervalo (tasa de acierto del 36.5% frente al 23.1%).
Sin Modelo Dominante: Ningún modelo único sobresale en las tres sub-capacidades (viabilidad, detección temprana, calibración de intervalos).

3.2. Fallos Sistemáticos

Sesgo Optimista: Todos los modelos subestiman consistentemente el presupuesto restante (sesgo optimista). Este sesgo es más pronunciado en los modelos más débiles y persiste en todos los entornos.
Reconocimiento de Fallo Tardío: Los agentes reconocen el fallo demasiado tarde para actuar. En trayectorias fallidas, los modelos suelen predecir "viable" con >70% de confianza incluso después de haber consumido el 60% del presupuesto. La "alarma" suele activarse solo en el último 20% de la ejecución.
Inestabilidad: Las estimaciones del primer turno suelen discrepar con las de los turnos posteriores, y la dirección de este desacuerdo varía según el modelo y la tarea.

3.3. Entrenamiento y Accionabilidad

La Viabilidad Binaria es un Problema de Calibración: El Ajuste Fino Supervisado (SFT) por sí solo elevó la precisión de viabilidad de Qwen-7B del 25.5% a aproximadamente el 90%, lo que sugiere que la capacidad era latente pero requería calibración de formato.
La Estimación de Intervalos es un Problema de Razonamiento: El SFT mejoró la cobertura de los intervalos, pero fue necesario añadir Aprendizaje por Refuerzo (SFT+RL) para elevar la cobertura al 47%. Sin embargo, el RL sin un pre-entrenamiento de SFT causó el colapso del entrenamiento.
Señal Accionable: Implementar una política simple de parada temprana (terminar cuando el modelo predice "imposible") ahorró entre 28 y 64% de los tokens en trayectorias fallidas con un costo mínimo en la tasa de éxito general (1.6 a 4.2 puntos porcentuales).

4. Contribuciones

Definición de Conciencia Presupuestaria: Formaliza la conciencia presupuestaria como una capacidad distinta de la ejecución de tareas, definida mediante la estimación de intervalos progresivos.
Protocolo de Evaluación: Introduce el protocolo de rollout-replay para aislar las capacidades de estimación de las capacidades de ejecución.
Análisis Empírico: Demuestra sistemáticamente que los modelos de frontera sufren de optimismo sistemático y reconocimiento tardío de fallos, y que estos fallos son distintos del rendimiento de la tarea.
Perspectivas de Entrenamiento: Muestra que la viabilidad binaria es un problema de calibración resoluble con SFT, mientras que la estimación precisa de intervalos es un cuello de botella de razonamiento que requiere SFT+RL, y que la señal es inmediatamente accionable para el ahorro de recursos.

5. Significado y Reivindicaciones

El artículo sostiene que el presupuesto debe tratarse como una señal de control activa en lugar de una métrica de contabilidad pasiva. Los autores argumentan que los agentes actuales carecen del monitoreo metacognitivo necesario para gestionar los recursos de manera efectiva en tareas de largo horizonte.

La importancia radica en demostrar que:

La conciencia presupuestaria es una capacidad entrenable y accionable, incluso si los modelos actuales son imperfectos en ella.
Intervenciones simples (como el paro temprano basado en la autopredicción del modelo) pueden generar ahorros sustanciales de recursos con un costo mínimo en la tasa de éxito.
La brecha entre el rendimiento de la tarea y la estimación del presupuesto sugiere que el desarrollo futuro de agentes debe apuntar explícitamente al automonitoreo y la calibración, en lugar de asumir que estos emergen naturalmente de la mejora en el razonamiento o el éxito de la tarea.

El artículo concluye que, si bien la calibración precisa de intervalos sigue siendo un desafío (limitándose al 47% de cobertura tras el entrenamiento), la capacidad de detectar la inviabilidad y estimar costos es una capacidad crítica y distinta que debe desarrollarse para permitir que los agentes limitados por recursos operen eficazmente en entornos del mundo real de alto riesgo.