🤖 machine learning

BAGEN: Are LLM Agents Budget-Aware?

यह शोध पत्र BAGEN को पेश करता है, जो बजट-जागरूकता को प्रोग्रेसिव इंटरवल एस्टिमेशन (प्रगतिशील अंतराल अनुमान) के रूप में परिभाषित करने वाला एक ढांचा है और यह प्रदर्शित करता है कि जबकि फ्रंटियर एलएलएम (LLM) एजेंट बजट ओवररन का सटीक अनुमान लगाने या चेतावनी देने में लगातार विफल रहते हैं, सुपरवाइज्ड फाइन-ट्यूनिंग और सुदृढीकरण लर्निंग (reinforcement learning) के माध्यम से समय रहते कार्रवाई करने (actionable early stops) की उनकी क्षमता में महत्वपूर्ण सुधार किया जा सकता है।

मूल लेखक: Yuxiang Lin, Zihan Wang, Mengyang Liu, Yuxuan Shan, Longju Bai, Junyao Zhang, Xing Jin, Boshan Chen, Jinyan Su, Xingyao Wang, Jiaxin Pei, Manling Li

प्रकाशित 2026-06-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yuxiang Lin, Zihan Wang, Mengyang Liu, Yuxuan Shan, Longju Bai, Junyao Zhang, Xing Jin, Boshan Chen, Jinyan Su, Xingyao Wang, Jiaxin Pei, Manling Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक लंबे, जटिल मिशन पर भेज रहे हैं, जैसे कि एक डिलीवरी ड्राइवर जिसे शहर में रास्ता खोजना है, पैकेज उठाने हैं और उन्हें डिलीवर करना है। आप रोबोट को एक बजट देते हैं: शायद 1,000 "ऊर्जा अंक" (टोकन) या वास्तविक धन की एक विशिष्ट राशि।

सबसे बड़ी समस्या जो यह शोध पत्र पहचानता है वह यह है कि आज के स्मार्ट रोबोट (AI एजेंट्स) काम करते समय यह जानने में बहुत खराब हैं कि उनके पास कितना बजट बचा है। वे आमतौर पर तभी एहसास करते हैं कि उनका पैसा खत्म हो गया है जब काम पहले ही बिगड़ चुका होता है।

यहाँ इस शोध पत्र की कहानी दी गई है, जिसे सरल उपमाओं (analogies) के माध्यम से समझाया गया है:

1. मुख्य समस्या: "अंधा" रोबोट

अभी, यदि आप एक रोबोट से पूछते हैं, "इस यात्रा की लागत कितनी होगी?" तो वह आमतौर पर शुरुआत में ही एक बार अनुमान लगा लेता है।

दोष: यह एक ऐसे हाइकर (पर्वतारोही) की तरह है जो पैदल चलना शुरू करने से पहले ही अनुमान लगा लेता है कि उसे कितने मील चलना बाकी है। वे इस बात पर ध्यान नहीं देते कि वे रास्ता भटक सकते हैं, मौसम खराब हो सकता है, या वे गलत मोड़ ले सकते हैं।
वास्तविकता: शोध में पाया गया कि सबसे स्मार्ट रोबोट भी अति-आशावादी (over-optimistic) होते हैं। वे सोचते हैं, "मैं निश्चित रूप से बचे हुए पैसों के साथ इसे पूरा कर सकता हूँ!" भले ही वास्तव में उनका ईंधन खत्म हो रहा हो। वे उन कार्यों पर पैसा खर्च करना जारी रखते हैं जिन्हें पूरा करना पहले ही असंभव हो चुका है, सिर्फ कोशिश करते रहने के लिए।

2. नया विचार: "बजट-जागरूक" एजेंट (BAGEN)

लेखक एक नए प्रकार के रोबोट का प्रस्ताव देते हैं जो एक स्मार्ट प्रोजेक्ट मैनेजर की तरह काम करता है। केवल एक बार अनुमान लगाने के बजाय, यह रोबोट हर एक कदम पर अपने बटुए की जाँच करता है।

प्रोग्रेसिव इंटरवल एस्टीमेशन (Progressive Interval Estimation): "मुझे शायद 400 से 600 अंक और चाहिए" कहने के बजाय, रोबोट कहता है, "मुझे शायद 400 से 600 अंकों की आवश्यकता होगी, लेकिन अगर मुझे जल्द ही उत्तर नहीं मिला, तो मुझे रुकना पड़ सकता है।"
"इम्पॉसिबल" (असंभव) बटन: यदि रोबोट को एहसास होता है कि वह एक ऐसे गड्ढे में फंस गया है जिससे वह बाहर नहीं निकल सकता, तो उसे तुरंत एक बड़ा लाल बटन दबाना चाहिए जिस पर लिखा हो "IMPOSSIBLE" और रुक जाना चाहिए, बजाय इसके कि वह आखिरी कुछ डॉलर बर्बाद करने के लिए और गहराई तक खुदाई करता रहे।

3. उन्होंने क्या पाया (रिपोर्ट कार्ड)

शोधकर्ताओं ने दुनिया के पांच सबसे स्मार्ट AI मॉडलों का चार अलग-अलग प्रकार के कार्यों (जैसे पहेलियाँ सुलझाना, वेब सर्च करना और वेयरहाउस मैनेज करना) पर परीक्षण किया। यहाँ उन्होंने क्या खोजा:

होशियार होना $\neq$ बजट के प्रति जागरूक होना: सिर्फ इसलिए कि एक रोबोट पहेली सुलझाने में माहिर है, इसका मतलब यह नहीं है कि वह अपने पैसे गिनने में भी माहिर है। वास्तव में, इनके बीच संबंध बहुत कमजोर था। सबसे अच्छा पहेली सुलझाने वाला अक्सर बजट का अनुमान लगाने में सबसे खराब था।
"आशावाद पूर्वाग्रह" (Optimism Bias): परीक्षण किए गए हर एक रोबोट बहुत आशावादी थे। वे लगातार अपने बजट का कम अनुमान लगाते रहे। रोबोट कार्य करने में जितना कमजोर था, वह बजट के मामले में उतना ही अधिक आशावादी था।
बचाने के लिए बहुत देर हो चुकी थी: रोबोट आमतौर पर तभी एहसास कर पाते थे कि वे असफल होने वाले हैं जब वे अपना 80% बजट पहले ही खर्च कर चुके होते। जब तक वे कहते, "ओह नहीं, हम यह नहीं कर सकते," तब तक नुकसान को रोकने के लिए बहुत देर हो चुकी होती थी।
इसे सिखाया जा सकता है: अच्छी खबर यह है कि इस कौशल को सिखाया जा सकता है। रोबोटों को प्रशिक्षित करके (SFT + RL नामक विधि का उपयोग करके), वे जल्दी रुकना सीख गए।
- परिणाम: यदि आप रोबोट को तब रुकने के लिए कहते हैं जब वह "असंभव" कहता है, तो आप सफल प्रयासों में बर्बाद हुए धन में से 28% से 64% तक की बचत कर सकते हैं, जबकि उनके सफल होने की संख्या में बहुत मामूली गिरावट आती है।

4. बजट के दो प्रकार

शोध पत्र ने दो प्रकार के खर्चों को देखा:

आंतरिक बजट (मस्तिष्क का ईंधन): यह वह कंप्यूटर पावर और "टोकन" है जिसका उपयोग AI सोचने और बात करने के लिए करता है।
बाहरी बजट (वास्तविक दुनिया की लागत): यह वास्तविक पैसा, समय, या भौतिक संसाधन (जैसे वेयरहाउस स्पेस) है जिसे AI वास्तविक दुनिया में कार्रवाई करते समय खर्च करता है।
रोबोट दोनों के साथ संघर्ष करते थे, लेकिन "अति-आशावाद" की समस्या दोनों में समान थी।

5. निष्कर्ष (Takeaway)

शोध पत्र निष्कर्ष निकालता है कि बजट जागरूकता एक अलग कौशल है, जो बुद्धिमत्ता से अलग है। वर्तमान में, AI एजेंट्स उन ड्राइवरों की तरह हैं जो गंतव्य की ओर तब भी गाड़ी चलाते रहते हैं जब उनका टैंक खाली हो चुका होता है, इस उम्मीद में कि उन्हें जादुई रूप से कोई पेट्रोल पंप मिल जाएगा।

समाधान अनिवार्य रूप से AI को "स्मार्टर" बनाना नहीं है, बल्कि इसे अपने लिए एक बेहतर लेखाकार (accountant) बनने के लिए प्रशिक्षित करना है। यदि हम इन एजेंट्स को यह सिखाते हैं कि वे "मैं यह नहीं कर सकता" जल्दी कहें, तो हम सफलता की दर में बहुत कम कमी के साथ संसाधनों की एक बड़ी मात्रा बचा सकते हैं।

संक्षेप में: हमें AI एजेंट्स से केवल "काम करने" के लिए पूछना बंद करना होगा और उन्हें काम करते समय अपने बटुए पर नज़र रखना भी सिखाना होगा।

तकनीकी सारांश: BAGEN: क्या LLM एजेंट बजट के प्रति जागरूक हैं?

1. समस्या विवरण

वर्तमान लार्ज लैंग्वेज मॉडल (LLM) एजेंटों को तेजी से लंबे समय तक चलने वाले, उच्च-दांव वाले कार्यों में तैनात किया जा रहा है जिनमें महत्वपूर्ण संसाधन खपत शामिल है, जैसे कि टोकन उपयोग (आंतरिक बजट) और API कॉल, मौद्रिक लागत, या समय (बाहरी बजट)। हालांकि, मौजूदा मूल्यांकन प्रतिमान बजट को मुख्य रूप से एक post-hoc metric (कार्य पूरा होने के बाद मापा जाने वाला मीट्रिक) के रूप में देखते हैं, जो निष्पादन पूरा होने के बाद लागत को मापता है।

यह शोध एक महत्वपूर्ण अंतर की पहचान करता है: एजेंटों में बजट जागरूकता (budget awareness) का अभाव है, जिसे इस क्षमता के रूप में परिभाषित किया गया है कि वे निष्पादन के दौरान, यह अनुमान लगा सकें कि कितना बजट शेष है और क्या कार्य अभी भी पूरा किया जा सकता है। इस क्षमता के बिना, एजेंट महत्वपूर्ण नियंत्रण निर्णय नहीं ले सकते, जैसे कि निराशाजनक कार्यों को रोकना, अतिरिक्त संसाधनों का अनुरोध करना, या उप-लक्ष्यों (sub-goals) के बीच बजट का पुनर्वितरण करना। इसके अलावा, मौजूदा अध्ययन अक्सर single-point estimation (कार्य की शुरुआत में एक एकल भविष्यवाणी) पर निर्भर करते हैं, जो लंबे समय तक चलने वाले कार्यों की बदलती व्यवहार्यता (feasibility) को पकड़ने में विफल रहता है और देखे गए प्रगति के आधार पर क्रमिक सुधार (progressive refinement) की अनुमति नहीं देता है।

2. कार्यप्रणाली

2.1. बजट के प्रकार (Budget Modalities)

लेखक दो अलग-अलग बजट प्रकारों को औपचारिक रूप देते हैं:

आंतरिक बजट (Internal Budget): मॉडल की अपनी तर्क प्रक्रिया (reasoning) द्वारा उत्पन्न गणना (जैसे, टोकन संख्या)।
बाहरी बजट (External Budget): वातावरण में प्रतिबद्ध लागतें (जैसे, पैसा, समय, इन्वेंट्री), जो बहु-आयामी और युग्मित (coupled) हो सकती हैं (जैसे, इन्वेंट्री रखने से राजस्व बढ़ता है लेकिन वेयरहाउस क्षमता का उपभोग होता है)।

2.2. प्रोग्रेसिव इंटरवल एस्टीमेशन प्रोटोकॉल (Progressive Interval Estimation Protocol)

Single-point estimation की सीमाओं को दूर करने के लिए, शोध पत्र Progressive Interval Estimation का प्रस्ताव करता है। केवल एक बिंदु भविष्यवाणी के बजाय, एक प्रक्षेपवक्र (trajectory) $\tau$ के प्रत्येक टर्न $k$ पर एजेंट से निम्नलिखित की भविष्यवाणी करने के लिए पूछा जाता है:

एक इंटरवल (interval) $[\hat{R}^{lo}_k, \hat{R}^{hi}_k]$ जो शेष बजट को दर्शाता है यदि कार्य को व्यवहार्य (feasible) माना जाता है।
एक असंभव (impossible) घोषणा यदि शेष बजट को देखते हुए कार्य को अव्यावहारिक माना जाता है।

यह प्रोटोकॉल तीन प्रमुख गुण पेश करता है:

अनिश्चितता (Uncertainty): इसे इंटरवल की चौड़ाई के माध्यम से व्यक्त किया जाता है।
प्रगतिशीलता (Progressiveness): एजेंट द्वारा आंशिक प्रगति देखने पर अनुमान अपडेट होते हैं।
अव्यवहार्यता जागरूकता (Infeasibility Awareness): एक स्पष्ट "असंभव" विकल्प शीघ्र रोक (early stopping) की अनुमति देता है।

2.3. रोलआउट-रिप्ले मूल्यांकन (Rollout-Replay Evaluation)

बजट अनुमान लगाने की क्षमता को कार्य पूरा करने की क्षमता से अलग करने के लिए, लेखक एक rollout-replay protocol का उपयोग करते हैं:

रोलआउट जनरेशन: एजेंट बिना बजट बाधाओं के एक कार्य को निष्पादित करता है ताकि एक पूर्ण प्रक्षेपवक्र और वास्तविक (ground-truth) लागत उत्पन्न की जा सके।
प्रीफिक्स रिप्ले (Prefix Replay): टर्न $k$ तक के लॉग किए गए प्रीफिक्स को एजेंट को फिर से दिखाया जाता है, जिसके बाद उससे शेष बजट और व्यवहार्यता का अनुमान लगाने के लिए कहा जाता है।
स्कोरिंग: भविष्यवाणियों को वास्तविक शेष लागत और वास्तविक परिणाम के विरुद्ध स्कोर किया जाता है।

2.4. उप-क्षमता मीट्रिक्स (Sub-Capability Metrics)

बजट जागरूकता को तीन मापने योग्य उप-क्षमताओं में विभाजित किया गया है:

व्यवहार्यता भविष्यवाणी (Feasibility Prediction): एक बाइनरी वर्गीकरण (व्यवहार्य बनाम असंभव) जिसे Macro-F1 द्वारा मापा जाता है।
शीघ्र विफलता का पता लगाना (Early Failure Detection): विफल होने वाले प्रक्षेपवड़ों को जल्दी पहचानने की क्षमता, जिसे Fail-F1 (असंभव क्लास पर प्रिसिजन/रिकॉल) द्वारा मापा जाता है।
शेष बजट का अनुमान (Remaining Budget Estimation): सफल प्रक्षेपवड़ों पर इंटरवल भविष्यवाणियों की सटीकता, जिसे Coverage (क्या वास्तविक लागत इंटरवल के भीतर है) और Tightness (अत्यधिक विस्तृत इंटरवल को दंडित करना) द्वारा मापा जाता है।

2.5. प्रयोगात्मक सेटअप (Experimental Setup)

यह अध्ययन चार वातावरणों में पांच फ्रंटियर मॉडलों (GPT-5.2, Claude Opus 4.7, Claude Sonnet 4.6, Gemini 3.1 Pro, Qwen3-235B) का मूल्यांकन करता है:

आंतरिक बजट: Sokoban (प्लानिंग), Search-R1 (मल्टी-हॉप रिट्रीवल), SWE-bench (GitHub इश्यू रेजोल्यूशन)।
बाहरी बजट: Warehouse (एक आपूर्ति-श्रृंखला वातावरण जिसमें युग्मित लागत, समय और इन्वेंट्री आयाम हैं)।

3. मुख्य परिणाम

3.1. कार्य प्रदर्शन और बजट जागरूकता का अलगाव

कमजोर सहसंबंध (Weak Correlation): कार्य सफलता दर और बजट अनुमान की गुणवत्ता के बीच कमजोर सहसंबंध ( $r \approx 0.35$ ) है। मजबूत कार्य प्रदर्शन करने वाले मॉडल आवश्यक रूप से मजबूत अनुमानकर्ता नहीं होते हैं। उदाहरण के लिए, Search-R1 पर, Opus ने उच्चतम कार्य सफलता (75.8%) प्राप्त की लेकिन Sonnet ने बेहतर इंटरवल अनुमान (36.5% हिट रेट बनाम 23.1%) दिए।
कोई प्रभावी मॉडल नहीं (No Dominant Model): कोई भी एकल मॉडल तीनों उप-क्षमताओं (व्यवहार्यता, शीघ्र पता लगाना, इंटरवल कैलिब्रेशन) में उत्कृष्ट नहीं है।

3.2. व्यवस्थित विफलताएं (Systematic Failures)

आशावादी पूर्वाग्रह (Optimistic Bias): सभी मॉडल लगातार शेष बजट को कम आंकते हैं (आशावादी पूर्वाग्रह)। यह पूर्वाग्रह कमजोर मॉडलों में अधिक स्पष्ट है और सभी वातावरणों में बना रहता है।
देर से विफलता की पहचान (Late Failure Recognition): एजेंट विफलता को कार्य करने के लिए बहुत देर से पहचानते हैं। विफल प्रक्षेपवड़ों पर, मॉडल अक्सर 60% बजट खपत होने के बाद भी >70% विश्वास के साथ "व्यवहार्य" (feasible) की भविष्यवाणी करते हैं। "अलार्म" आमतौर पर निष्पादन के अंतिम 20% में ही बजता है।
अस्थिरता (Instability): पहले टर्न के अनुमान अक्सर बाद के टर्न के अनुमानों से भिन्न होते हैं, और इस असहमति की दिशा मॉडल और कार्य के अनुसार बदलती रहती है।

3.3. प्रशिक्षण और क्रियाशीलता (Training and Actionability)

बाइनरी व्यवहार्यता एक कैलिब्रेशन समस्या है: Supervised Fine-Tuning (SFT) अकेले Qwen-7B की व्यवहार्यता सटीकता को 25.5% से बढ़ाकर ~90% कर देता है, जो बताता है कि क्षमता मौजूद थी लेकिन उसे फॉर्मेट कैलिब्रेशन की आवश्यकता थी।
इंटरवल अनुमान एक तर्क (Reasoning) की समस्या है: SFT ने इंटरवल कवरेज में सुधार किया, लेकिन कवरेज को 47% तक धकेलने के लिए Reinforcement Learning (SFT+RL) आवश्यक था। हालांकि, SFT वार्म-स्टार्ट के बिना RL के उपयोग से प्रशिक्षण विफल (collapse) हो गया।
क्रियाशील संकेत (Actionable Signal): एक सरल early-stop policy (जब मॉडल "असंभव" की भविष्यवाणी करता है तो रोकना) को लागू करने से विफल प्रक्षेपवड़ों पर 28–64% टोकन बचाए गए, जबकि कुल सफलता दर में न्यूनतम कमी (1.6–4.2 प्रतिशत अंक) हुई।

4. योगदान

बजट जागरूकता की परिभाषा: बजट जागरूकता को एक विशिष्ट क्षमता के रूप में औपचारिक रूप दिया, जिसे कार्य निष्पादन से अलग, प्रोग्रेसिव इंटरवल एस्टीमेशन के माध्यम से परिभाषित किया गया है।
मूल्यांकन प्रोटोकॉल: अनुमान क्षमताओं को निष्पादन क्षमताओं से अलग करने के लिए रोलआउट-रिप्ले प्रोटोकॉल पेश किया।
अनुभवजन्य विश्लेषण (Empirical Analysis): व्यवस्थित रूप से प्रदर्शित किया कि फ्रंटियर मॉडल आशावादी पूर्वाग्रह और देर से विफलता की पहचान जैसी समस्याओं से ग्रस्त हैं, और ये विफलताएं उनके कार्य प्रदर्शन से अलग हैं।
प्रशिक्षण अंतर्दृष्टि: दिखाता है कि बाइनरी व्यवहार्यता एक कैलिब्रेशन समस्या है जिसे SFT से हल किया जा सकता है, जबकि सटीक इंटरवल अनुमान एक रीजनिंग बॉटलनेक है जिसके लिए SFT+RL की आवश्यकता होती है, और यह संकेत तुरंत क्रियाशील है।

5. महत्व और दावे

यह शोध दावा करता है कि बजट को एक निष्क्रिय लेखांकन मीट्रिक (passive accounting metric) के बजाय एक सक्रिय नियंत्रण संकेत (active control signal) के रूप में माना जाना चाहिए। लेखक तर्क देते हैं कि वर्तमान एजेंटों में लंबे समय तक चलने वाले कार्यों में संसाधनों को प्रभावी ढंग से प्रबंधित करने के लिए आवश्यक मेटाकॉग्निटिव मॉनिटरिंग (metacognitive monitoring) का अभाव है।

इसका महत्व इस बात में निहित है कि:

बजट जागरूकता एक प्रशिक्षण योग्य और क्रियाशील क्षमता है, भले ही वर्तमान मॉडल इसमें अपूर्ण हों।
सरल हस्तक्षेप (जैसे मॉडल के स्वयं के पूर्वानुमान के आधार पर शीघ्र रोकना) कुल सफलता दर में मामूली कमी के साथ पर्याप्त संसाधन बचत प्रदान कर सकते हैं।
कार्य प्रदर्शन और बजट अनुमान के बीच का अंतर यह सुझाव देता है कि भविष्य के एजेंट विकास को स्पष्ट रूप से स्व-निगरानी और कैलिब्रेशन को लक्षित करना चाहिए, न कि यह मान लेना चाहिए कि ये बेहतर तर्क या कार्य सफलता से स्वतः विकसित हो जाएंगे।

शोध निष्कर्ष निकालता है कि हालांकि सटीक इंटरवल कैलिब्रेशन एक चुनौती बनी हुई है (SFT के बाद भी 47% कवरेज तक सीमित), अक्षमता का पता लगाने और लागत का अनुमान लगाने की क्षमता एक महत्वपूर्ण, विशिष्ट क्षमता है जिसे संसाधन-सीमित एजेंटों को वास्तविक, उच्च-दांव वाले वातावरण में प्रभावी ढंग से संचालित करने में सक्षम बनाने के लिए विकसित किया जाना चाहिए।