🤖 machine learning

BAGEN: Are LLM Agents Budget-Aware?

Le document introduit BAGEN, un cadre qui définit la conscience budgétaire comme une estimation d'intervalle progressive et démontre que, bien que les agents de pointe basés sur les LLM échouent systématiquement à prédire ou à signaler avec précision les dépassements de budget, leur capacité à effectuer des arrêts précoces exploitables peut être considérablement améliorée grâce au réglage fin supervisé et à l'apprentissage par renforcement.

Auteurs originaux : Yuxiang Lin, Zihan Wang, Mengyang Liu, Yuxuan Shan, Longju Bai, Junyao Zhang, Xing Jin, Boshan Chen, Jinyan Su, Xingyao Wang, Jiaxin Pei, Manling Li

Publié 2026-06-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yuxiang Lin, Zihan Wang, Mengyang Liu, Yuxuan Shan, Longju Bai, Junyao Zhang, Xing Jin, Boshan Chen, Jinyan Su, Xingyao Wang, Jiaxin Pei, Manling Li

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous envoyiez un robot pour une mission longue et complexe, comme un livreur qui doit naviguer dans une ville, récupérer des colis et les livrer. Vous donnez au robot un budget : peut-être 1 000 « points d'énergie » (tokens) ou une certaine quantité d'argent réel.

Le gros problème identifié par cet article est que les robots intelligents d'aujourd'hui (les agents IA) sont terribles pour savoir combien de budget il leur reste pendant qu'ils travaillent. Ils ne se rendent compte qu'ils sont à court de moyens qu'une fois que la mission est déjà gâchée.

Voici l'histoire de l'article, décomposée avec des analogies simples :

1. Le problème central : Le robot « aveugle »

Actuellement, si vous demandez à un robot : « Combien va coûter ce trajet ? », il se contente généralement de deviner une seule fois au tout début.

La faille : C'est comme un randonneur qui devine combien de kilomètres il lui reste à parcourir avant même de commencer à marcher. Il ne tient pas compte du fait de s'égarer, du mauvais temps ou d'un mauvais tournant.
La réalité : L'article a découvert que même les robots les plus intelligents sont trop optimistes. Ils pensent : « Je peux certainement finir avec l'argent qu'il me reste ! », même lorsqu'ils sont en train de tomber en panne d'essence. Ils continuent de dépenser de l'argent pour des tâches qui sont déjà impossibles à terminer, juste pour continuer d'essayer.

2. La nouvelle idée : L'agent « conscient du budget » (BAGEN)

Les auteurs proposent un nouveau type de robot qui agit comme un gestionnaire de projet intelligent. Au lieu de deviner une seule fois, ce robot vérifie son portefeuille à chaque étape du chemin.

Estimation d'intervalle progressive : Au lieu de dire « J'ai besoin de exactement 500 points de plus », le robot dit : « J'aurai probablement besoin entre 400 et 600 points, mais si je ne trouve pas la réponse bientôt, je devrais peut-être m'arrêter ».
Le bouton « Impossible » : Si le robot réalise qu'il est dans un trou dont il ne peut pas sortir, il devrait appuyer sur un gros bouton rouge qui dit « IMPOSSIBLE » et s'arrêter immédiatement, plutôt que de gaspiller les derniers dollars à essayer de creuser plus profondément.

3. Ce qu'ils ont découvert (Le « bulletin de notes »)

Les chercheurs ont testé cinq des modèles d'IA les plus intelligents au monde sur quatre types de tâches différentes (comme résoudre des puzzles, chercher sur le web ou gérer un entrepôt). Voici ce qu'ils ont découvert :

Être intelligent $\neq$ Être conscient du budget : Ce n'est pas parce qu'un robot est excellent pour résoudre un puzzle qu'il est bon pour compter son argent. En fait, la corrélation était faible. Le meilleur solveur de puzzles était souvent le pire pour estimer les coûts.
Le « biais d'optimisme » : Chaque robot testé était trop plein d'espoir. Ils sous-estimaient systématiquement l'argent dont ils auraient besoin. Plus le robot était faible dans sa tâche, plus il était optimiste concernant son budget.
Trop tard pour sauver les meubles : Les robots ne réalisaient généralement qu'ils allaient échouer qu'après avoir déjà dépensé 80 % de leur budget. Au moment où ils disaient : « Oh non, nous ne pouvons pas finir », il était trop tard pour stopper l'hémorragie.
Cela peut s'apprendre : La bonne nouvelle est que cette compétence peut être apprise. En enseignant aux robots (en utilisant une méthode appelée SFT + RL), ils ont appris à s'arrêter plus tôt.
- Le résultat : Si vous dites au robot de s'arrêter dès qu'il dit « Impossible », vous pouvez économiser de 28 % à 64 % de l'argent gaspillé sur les tentatives ratées, avec seulement une infime baisse du nombre de tâches réussies.

4. Les deux types de « budgets »

L'article a examiné deux types de dépenses :

Budget interne (Le carburant du cerveau) : C'est la puissance informatique et les « tokens » que l'IA utilise juste pour réfléchir et parler.
Budget externe (Le coût dans le monde réel) : C'est l'argent réel, le temps ou les ressources physiques (comme l'espace dans un entrepôt) que l'IA dépense lorsqu'elle passe à l'action.
Les robots ont eu des difficultés avec les deux, mais le problème de « l'optimisme excessif » est le même pour les deux.

5. La conclusion

L'article conclut que la conscience du budget est une compétence distincte de l'intelligence. Actuellement, les agents IA sont comme des conducteurs qui continuent de rouler vers une destination même après que leur réservoir est vide, espérant qu'ils trouveront une station-service par magie.

La solution n'est pas nécessairement de rendre l'IA plus « intelligente » pour la tâche, mais de l'entraîner à être un meilleur comptable pour elle-même. Si nous apprenons à ces agents à dire « Je ne peux pas faire ça » plus tôt, nous pouvons économiser une quantité massive de ressources sans perdre beaucoup en termes de succès.

En bref : Nous devons cesser de demander aux agents IA de simplement « faire le travail » et commencer à leur apprendre à garder un œil sur leur portefeuille pendant qu'ils travaillent.

Résumé technique : BAGEN : Les agents LLM sont-ils conscients de leur budget ?

1. Énoncé du problème

Les agents basés sur les grands modèles de langage (LLM) sont de plus en plus déployés dans des tâches à long horizon et à enjeux élevés impliquant une consommation de ressources significative, telle que l'utilisation de jetons (budget interne), les appels d'API, les coûts monétaires ou le temps (budget externe). Cependant, les paradigmes d'évaluation actuels traitent le budget principalement comme une métrique post-hoc, mesurant le coût uniquement après la fin de l'exécution.

Le papier identifie une lacune critique : les agents manquent de conscience budgétaire (budget awareness), définie comme la capacité à estimer, en cours d'exécution, la part de budget restante et si une tâche est encore réalisable. Sans cette capacité, les agents ne peuvent pas prendre de décisions de contrôle critiques, telles qu'abandonner des tâches sans espoir, demander des ressources supplémentaires ou réallouer des budgets entre différents sous-objectifs. De plus, les études existantes reposent souvent sur une estimation à point unique (une prédiction unique au début de la tâche), ce qui ne parvient pas à capturer l'évolution de la faisabilité des tâches à long horizon et ne permet pas un raffinement progressif basé sur les progrès observés.

2. Méthodologie

2.1. Modalités de budget

Les auteurs formalisent deux types de budgets distincts :

Budget Interne : Calcul généré par le raisonnement propre du modèle (ex: nombre de jetons/tokens).
Budget Externe : Coûts engagés dans l'environnement (ex: argent, temps, inventaire), qui peuvent être multidimensionnels et couplés (ex: détenir de l'inventaire augmente le chiffre d'affaires mais consomme la capacité d'entrepôt).

2.2. Protocole d'estimation d'intervalle progressif

Pour remédier aux limites de l'estimation à point unique, le papier propose l'Estimation d'Intervalle Progressif. Au lieu d'une prédiction ponctuelle, l'agent est interrogé à chaque tour $k$ d'une trajectoire $\tau$ pour prédire :

Un intervalle $[\hat{R}^{lo}_k, \hat{R}^{hi}_k]$ représentant le budget restant si la tâche est jugée réalisable.
Une déclaration d'impossibilité si la tâche est jugée irréalisable compte tenu du budget restant.

Ce protocole introduit trois propriétés clés :

Incertitude : Exprimée via la largeur de l'intervalle.
Progressivité : Les estimations se mettent à jour à mesure que l'agent observe les progrès partiels.
Conscience de l'infaisabilité : Une option explicite "impossible" permet un arrêt précoce.

2.3. Évaluation par rejeu de déploiement (Rollout-Replay)

Pour découpler la capacité d'estimation du budget de la capacité d'accomplissement de la tâche, les auteurs utilisent un protocole de rejeu de déploiement :

Génération de déploiement (Rollout) : L'agent exécute une tâche sans contraintes budgétaires pour générer une trajectoire complète et les coûts réels (ground-truth).
Rejeu de préfixe : Le préfixe enregistré jusqu'au tour $k$ est rejoué à l'agent, qui est ensuite sollicité pour estimer le budget restant et la faisabilité.
Score : Les prédictions sont évaluées par rapport au coût restant réalisé et au résultat réel.

2.4. Métriques de sous-capacité

La conscience budgétaire est décomposée en trois sous-capacités mesurables :

Prédiction de faisabilité : Une classification binaire (réalisable vs impossible) mesurée par le Macro-F1.
Détection précoce d'échec : La capacité à reconnaître les trajectoires vouées à l'échec tôt, mesurée par le Fail-F1 (précision/rappel sur la classe "impossible").
Estimation du budget restant : La précision des prédictions d'intervalle sur les trajectoires réussies, mesurée par la Couverture (si le coût réel se trouve dans l'intervalle) et la Rigueur (Tightness, pénalisant les intervalles trop larges).

2.5. Configuration expérimentale

L'étude évalue cinq modèles de pointe (GPT-5.2, Claude Opus 4.7, Claude Sonnet 4.6, Gemini 3.1 Pro, Qwen3-235B) à travers quatre environnements :

Budget Interne : Sokoban (planification), Search-R1 (récupération multi-sauts), SWE-bench (résolution de problèmes GitHub).
Budget Externe : Warehouse (un environnement de chaîne d'approvisionnement avec des dimensions couplées de coût, de temps et d'inventaire).

3. Résultats Clés

3.1. Découplage de la performance de la tâche et de la conscience budgétaire

Faible corrélation : Le taux de succès de la tâche est faiblement corrélé à la qualité de l'estimation du budget ( $r \approx 0,35$ ). Les performeurs de tâches robustes ne sont pas nécessairement de bons estimateurs. Par exemple, sur Search-R1, Opus a obtenu le taux de succès de tâche le plus élevé (75,8 %) mais Sonnet a produit de meilleurs intervalles d'estimation (taux de réussite de 36,5 % contre 23,1 %).
Pas de modèle dominant : Aucun modèle ne excelle dans les trois sous-capacités (faisabilité, détection précoce, calibration d'intervalle).

3.2. Échecs systématiques

Biais d'optimisme : Tous les modèles sous-estiment systématiquement le budget restant (biais optimiste). Ce biais est plus prononcé chez les modèles plus faibles et persiste dans tous les environnements.
Reconnaissance tardive de l'échec : Les agents reconnaissent l'échec trop tard pour agir. Sur les trajectoires échouées, les modèles prédisent souvent "réalisable" avec une confiance >70 % même après que 60 % du budget a été consommé. L' "alarme" ne se déclenche généralement que dans les derniers 20 % de l'exécution.
Instabilité : Les estimations du premier tour divergent souvent de celles des tours ultérieurs, et la direction de cette divergence varie selon le modèle et la tâche.

3.3. Entraînement et actionnabilité

La faisabilité binaire est un problème de calibration : Le réglage fin supervisé (SFT) seul a fait passer la précision de faisabilité de Qwen-7B de 25,5 % à environ 90 %, suggérant que la capacité était latente mais nécessitait un calibrage de format.
L'estimation d'intervalle est un problème de raisonnement : Le SFT a amélioré la couverture des intervalles, mais l'ajout de l'apprentissage par renforcement (SFT+RL) était nécessaire pour pousser la couverture à 47 %. Cependant, le RL sans un pré-entraînement SFT a provoqué un effondrement de l'entraînement.
Signal actionnable : L'implémentation d'une politique simple d'arrêt précoce (terminer lorsque le modèle prédit "impossible") a permis d'économiser 28 à 64 % des jetons sur les trajectoires échouées avec un coût minimal sur le taux de succès global (1,6 à 4,2 points de pourcentage).

4. Contributions

Définition de la conscience budgétaire : Formalise la conscience budgétaire comme une capacité distincte de l'exécution de la tâche, définie via l'estimation d'intervalle progressif.
Protocole d'évaluation : Introduit le protocole de rejeu de déploiement pour isoler les capacités d'estimation des capacités d'exécution.
Analyse empirique : Démontre systématiquement que les modèles de pointe souffrent d'un optimisme systématique et d'une reconnaissance tardive de l'échec, et que ces échecs sont distincts de la performance de la tâche.
Aperçus sur l'entraînement : Montre que la faisabilité binaire est un problème de calibration résoluble par SFT, tandis que l'estimation précise des intervalles est un goulot d'étranglement du raisonnement nécessitant SFT+RL, et que le signal est immédiatement actionnable pour l'économie de ressources.

5. Signification et Revendications

Le papier soutient que le budget doit être traité comme un signal de contrôle actif plutôt que comme une métrique de comptabilité passive. Les auteurs affirment que les agents actuels manquent de la surveillance métacognitive requise pour gérer efficacement les ressources dans des tâches à long horizon.

La signification réside dans la démonstration que :

La conscience budgétaire est une capacité entraînable et actionnable, même si les modèles actuels sont imparfaits à cet égard.
Des interventions simples (comme l'arrêt précoce basé sur l'auto-prédiction du modèle) peuvent générer des économies de ressources substantielles.
L'écart entre la performance de la tâche et l'estimation du budget suggère que le développement futur des agents doit viser explicitement l'auto-surveillance et la calibration plutôt que de supposer que ces capacités émergent naturellement d'un meilleur raisonnement ou du succès de la tâche.

Le papier conclut que bien que la calibration précise des intervalles reste un défi (plafonnant à 47 % de couverture après entraînement), la capacité à détecter l'infaisabilité et à estimer les coûts est une capacité distincte et critique qui doit être développée pour permettre aux agents limités en ressources d'opérer efficacement dans des environnements réels à enjeux élevés.