🤖 AI

The Shadow Price of Reasoning: Economic Perspective on Optimal Budget Allocation for LLMs

यह शोध पत्र CLEAR का प्रस्ताव करता है, जो एक आर्थिक-प्रेरित आवंटन ढांचा है जो एक वैश्विक शैडो प्राइस (shadow price) के आधार पर संसाधनों को समाधान योग्य क्वेरीज़ से असाध्य क्वेरीज़ की ओर गतिशील रूप से पुनर्वितरित करके लार्ज लैंग्वेज मॉडल्स के लिए इन्फरेंस बजट को अनुकूलित करता है, जिससे सख्त कम्प्यूटेशनल बाधाओं के तहत सटीकता में महत्वपूर्ण सुधार होता है।

मूल लेखक: Xu Wan, Speed Zhu, Jianwei Cai, Guang Chen, XiMing Huang, Wiggin Zhou, Mingyang Sun

प्रकाशित 2026-06-03

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xu Wan, Speed Zhu, Jianwei Cai, Guang Chen, XiMing Huang, Wiggin Zhou, Mingyang Sun

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक व्यस्त रेस्टोरेंट किचन के मैनेजर हैं। आपके पास उच्च-गुणवत्ता वाली सामग्री (आपका कंप्यूटेशनल बजट) की एक सीमित मात्रा है और ग्राहकों की एक कतार है जिनके अलग-अलग ऑर्डर हैं (आपके AI क्वेरीज़)।

कुछ ऑर्डर सरल हैं, जैसे ग्रिल्ड चीज़ सैंडविच। उन्हें बनाने में बहुत कम प्रयास लगता है, और एक बार बन जाने के बाद, उन्हें "अधिक उत्तम" बनाने से कोई खास मूल्य नहीं जुड़ता। कुछ ऑर्डर जटिल होते हैं, जैसे कि 10-कोर्स वाला टेस्टिंग मेनू। यदि आप शेफ को केवल 5 मिनट देते हैं, तो वे इसे बिल्कुल भी पका नहीं पाएंगे। लेकिन अगर आप उन्हें 20 मिनट देते हैं, तो वे एक उत्कृष्ट कृति (मास्टरपीस) बना सकते हैं।

आज की मानक AI प्रणालियों के साथ समस्या यह है कि वे हर ग्राहक के साथ एक जैसा व्यवहार करती हैं। वे हर ऑर्डर को समय और सामग्री का बिल्कुल समान हिस्सा देती हैं, चाहे वह सैंडविच हो या भव्य भोज (बैनक्वेट)। यह बर्बादी है: आप जटिल व्यंजनों के लिए भोजन समाप्त कर सकते हैं क्योंकि आपने उन सरल व्यंजनों पर बहुत अधिक खर्च कर दिया जिन्हें इसकी आवश्यकता नहीं थी।

यह शोध पत्र, "द शैडो प्राइस ऑफ रीजनिंग" (The Shadow Price of Reasoning), बुनियादी आर्थिक सिद्धांतों का उपयोग करके इस तरह से किचन चलाने का एक स्मार्ट तरीका प्रस्तावित करता है। यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:

1. खाना पकाने का "S-कर्व" (The "S-Curve" of Cooking)

लेखकों ने पाया है कि तर्क (reasoning) सीधा नहीं चलता है। यह एक S-आकार के वक्र (S-shaped curve) का पालन करता है जिसमें तीन स्पष्ट चरण होते हैं:

"स्ट्रिक्ट" चरण (मौन शुरुआत - The "Strict" Phase): शुरुआत में, शेफ प्याज काट रहा है और तैयारी कर रहा है। यदि आप घड़ी रोक देते हैं, तो व्यंजन खराब हो जाएगा। आप चाहे कितना भी समय दें, परिणाम शून्य ही रहेगा क्योंकि न्यूनतम सीमा (threshold) पार नहीं हुई है।
"सर्ज" चरण (जादुई क्षण - The "Surge" Phase): एक बार तैयारी पूरी हो जाने के बाद, खाना पकाने की प्रक्रिया तेज होती है। यहीं पर जादू होता है। यहाँ थोड़ा और समय देने से गुणवत्ता में भारी उछाल आता है। यह "स्वीट स्पॉट" है।
"एम्पल" चरण (घटता हुआ प्रतिफल - The "Ample" Phase): अंततः, व्यंजन तैयार हो जाता है। यदि आप खाना पकाना जारी रखते हैं, तो आप या तो उसे जला देंगे या उसमें बहुत अधिक मसाले डाल देंगे। यहाँ अधिक समय देने से लगभग कोई मूल्य नहीं जुड़ता और यह परिणाम को नुकसान भी पहुँचा सकता है।

2. "शैडो प्राइस" (समय की बाजार कीमत - The "Shadow Price")

अर्थशास्त्र में, शैडो प्राइस एक संसाधन का मूल्य है जब वह दुर्लभ हो। इसे शेफ के समय के एक मिनट की "बाजार कीमत" के रूप में समझें।

पेपर का तर्क है कि सर्वोत्तम परिणाम प्राप्त करने के लिए, आपको समय को बेतरतीब ढंग से नहीं बांटना चाहिए। इसके बजाय, आपको एक स्मार्ट मार्केट की तरह कार्य करना चाहिए:

तर्कसंगत परित्याग (Rational Abandonment): यदि किसी ग्राहक ने 10-कोर्स का भोजन ऑर्डर किया है लेकिन आपके पास केवल एक सैंडविच के लिए पर्याप्त सामग्री है, तो आपको विनम्रता से उस ग्राहक से कहना चाहिए, "हम आज आपकी सेवा नहीं कर सकते।" उस असंभव ऑर्डर पर अपने सीमित संसाधनों को बर्बाद करने के बजाय उसे छोड़ देना बेहतर है।
पुनर्वितरण (Reallocation): "परित्यक्त" (abandoned) ऑर्डर्स से जो सामग्री बची है, उसे उन ग्राहकों को दिया जाता है जो बिल्कुल "सर्ज चरण" (Surge Phase) में हैं। ये वे ऑर्डर हैं जो बस थोड़े से अतिरिक्त सहयोग से महान बनने ही वाले हैं।

3. CLEAR सिस्टम

लेखकों ने इसे स्वचालित रूप से करने के लिए CLEAR (Constrained Latent-utility Equilibrium Allocation for Reasoning) नामक एक टूल बनाया है।

थ्रेशोल्ड का अनुमान लगाना: यह एक प्रश्न को देखता है और अनुमान लगाता है, "इसे शुरू करने के लिए कितने समय की आवश्यकता है?" (थ्रेशोल्ड)।
कीमत खोजना: यह समय के लिए एक "ग्लोबल प्राइस" की गणना करता है। यदि कोई प्रश्न बहुत कठिन है (शुरू करने की लागत समय की कीमत से अधिक है), तो उसे छोड़ दिया जाता है।
गणितीय जादू: जिन प्रश्नों को सेवा दी जाती है, उनके लिए यह सटीक मात्रा में समय तय करने के लिए एक विशिष्ट गणितीय सूत्र (जिसमें लैम्बर्ट W फंक्शन शामिल है) का उपयोग करता है—इतना समय देना जो बस "सर्ज चरण" के शिखर तक पहुँच जाए, लेकिन इतना भी नहीं कि वे "एम्पल चरण" में चले जाएँ जहाँ समय बर्बाद होता है।

4. परिणाम

टीम ने गणितीय समस्याओं और कोडिंग कार्यों पर इसका परीक्षण किया।

जब संसाधन कम हों: CLEAR एक गेम-चेंजर साबित हुआ। इसने मानक पद्धति (जहाँ सबको समान समय दिया जाता है) की तुलना में सटीकता में 3 गुना तक सुधार किया।
यह कैसे काम करता है: इसने उन समस्याओं पर समय बर्बाद करना बंद कर दिया जिन्हें उपलब्ध बजट के साथ हल करना बहुत कठिन था और उन संसाधनों को उन समस्याओं में डाल दिया जो हल होने के बिल्कुल करीब थीं।
जब संसाधन प्रचुर हों: यदि आपके पास अनंत समय है, तो CLEAR और मानक विधि समान प्रदर्शन करते हैं, क्योंकि हर किसी को अपना भोजन पकाने के लिए पर्याप्त समय मिल जाता है।

सारांश

संक्षेप में, यह पेपर हमें सिखाता है कि निष्पक्ष होना (सबको समान समय देना) कुशल होने के बराबर नहीं है। AI रीजनिंग को सीमित बजट वाले एक मार्केटप्लेस की तरह मानकर, हम असंभव कार्यों पर प्रयास बर्बाद करना बंद कर सकते हैं और अपना ध्यान उन कार्यों पर केंद्रित कर सकते हैं जो सफलता से बस एक कदम दूर हैं। इससे बिना बड़े या अधिक महंगे मॉडल बनाए, अधिक स्मार्ट और सटीक AI प्राप्त होता है।

तकनीकी सारांश: तर्क का शैडो प्राइस (The Shadow Price of Reasoning)

1. समस्या विवरण (Problem Statement)

यह शोध पत्र सख्त कम्प्यूटेशनल बाधाओं के तहत लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए इन्फरेंस-टाइम बजट आवंटन (inference-time budget allocation) की महत्वपूर्ण चुनौती को संबोधित करता है। जबकि हालिया शोध इस बात पर प्रकाश डालता है कि टेस्ट-टाइम कंप्यूट (इन्फरेंस-टाइम स्केलिंग) बढ़ाने से तर्क करने की क्षमता (reasoning performance) में उल्लेखनीय वृद्धि होती है, वास्तविक दुनिया में तैनाती सीमित टोकन बजट द्वारा बाधित होती है।

वर्तमान मानक अभ्यास आमतौर पर समान आवंटन (uniform allocation) का उपयोग करते हैं, जिसमें प्रत्येक क्वेरी के लिए एक निश्चित अधिकतम टोकन सीमा निर्धारित की जाती है। लेखक तर्क देते हैं कि यह उप-इष्टतम (suboptimal) है क्योंकि विभिन्न क्वेरीज के लिए तर्क संबंधी उपयोगिता (reasoning utility) अत्यधिक विषम और गैर-रैखिक होती है। जैसा कि अनुभवजन्य अवलोकनों द्वारा स्पष्ट किया गया है, टोकन संख्या और तर्क सफलता के बीच का संबंध एक S-आकार के वक्र (S-shaped curve) का अनुसरण करता है:

कठोर चरण (Strict Phase): एक निश्चित थ्रेशोल्ड से नीचे, अतिरिक्त टोकन नगण्य उपयोगिता प्रदान करते हैं (मॉडल समस्या को हल करने के लिए पर्याप्त रूप से "सोच" नहीं पाता है)।
उभार चरण (Surge Phase): एक बार थ्रेशोल्ड पार होने के बाद, उपयोगिता तेजी से बढ़ती है (उच्च उत्तोलन/high leverage)।
प्रचुर चरण (Ample Phase): एक बिंदु के बाद, अतिरिक्त टोकन घटते प्रतिफल (diminishing returns) देते हैं।

समान आवंटन विफल हो जाता है क्योंकि यह अक्सर कठिन क्वेरीज को कठोर चरण में छोड़ देता है (असंयोज्य कार्यों पर बजट बर्बाद करना) जबकि आसान क्वेरीज को प्रचुर चरण में धकेल देता है (अनावश्यक टोकन पर बजट बर्बाद करना)। मुख्य समस्या को एक वैश्विक निरंतर अनुकूलन समस्या (global constrained optimization problem) के रूप में तैयार किया गया है: एक निश्चित कुल टोकन बजट को विभिन्न प्रकार की क्वेरीज के बैच में वितरित करके कुल तर्क उपयोगिता को कैसे अधिकतम किया जाए।

2. कार्यप्रणाली: CLEAR

लेखक Constrained Latent-utility Equilibrium Allocation for Reasoning (CLEAR) का प्रस्ताव करते हैं, जो आर्थिक सिद्धांतों पर आधारित एक प्लग-एंड-प्ले इन्फरेंस फ्रेमवर्क है।

2.1. सैद्धांतिक आधार: शिफ्टेड-सर्ज यूटिलिटी (Shifted-Surge Utility)

लेखक एक क्वेरी $i$ के लिए लेटेंट रीजनिंग यूटिलिटी $\phi_i(t)$ को एक शिफ्टेड-सर्ज फंक्शन का उपयोग करके मॉडल करते हैं:
$\phi_i(t) = \begin{cases} 0 & 0 \le t < \tau_i \\ \alpha_i(t - \tau_i) \cdot e^{-\beta_i(t - \tau_i)} & t \ge \tau_i \end{cases}$
जहाँ:

$\tau_i$ : उद्भव थ्रेशोल्ड (emergence threshold) (उत्पादक तर्क चरण में प्रवेश करने के लिए आवश्यक न्यूनतम टोकन)।
$\alpha_i$ : प्रारंभिक वेग (उपयोगिता लाभ का परिमाण)।
$\beta_i$ : क्षय दर (घटते प्रतिफल की दर)।

2.2. आर्थिक अनुकूलन: शैडो प्राइस पैरिटी (Shadow Price Parity)

आवंटन समस्या को लैग्रेंज मल्टीप्लायर्स (Lagrange multipliers) का उपयोग करके हल किया जाता है। लेखक यह निष्कर्ष निकालते हैं कि वैश्विक इष्टतम (global optimum) पर, प्रत्येक सक्रिय क्वेरी की सीमांत उपयोगिता (marginal utility) एक सामान्य वैश्विक शैडो प्राइस ( $\lambda$ ) के बराबर होनी चाहिए।

तर्कसंगत परित्याग (Rational Abandonment): यदि किसी क्वेरी का अधिकतम संभावित शुद्ध अधिशेष (लागत पर उपयोगिता) नकारात्मक है, तो उसे शून्य टोकन आवंटित किए जाते हैं।
इष्टतम आवंटन: समाधान योग्य क्वेरीज के लिए, इष्टतम टोकन संख्या $t^*_i$ को लैम्बर्ट W फंक्शन (Lambert W function) का उपयोग करके क्लोज्ड-फॉर्म में प्राप्त किया जाता है:
$t^*_i(\lambda) = \tau_i + \frac{1}{\beta_i} \left[ 1 - W_0\left(\frac{\lambda e}{\alpha_i}\right) \right]$
यह नीति बजट को तब तक समायोजित करके बजट को संतुलित करती है जब तक कि आवंटित टोकनों का योग कुल बजट $B_{total}$ के बराबर न हो जाए।

2.3. CLEAR एल्गोरिदम

CLEAR तीन चरणों के साथ एक कम्प्यूटेशनल मार्केट के रूप में कार्य करता है:

थ्रेशोल्ड भविष्यवाणी: एक हल्का प्रेडिक्टर (DeBERTa-v3-base) प्रत्येक क्वेरी के लिए उद्भव थ्रेशोल्ड $\hat{\tau}_i$ का अनुमान लगाता है। बैकबोन LLM की औसत गतिशीलता को मॉडल करने के लिए ग्लोबल हाइपरपैरामीटर्स $\alpha$ और $\beta$ का उपयोग किया जाता है।
मूल्य खोज (Price Discovery): बाइनरी सर्च (बाइसेक्शन विधि) एक अद्वितीय मार्केट-क्लियरिंग शैडो प्राइस $\lambda^*$ खोजता है जो वैश्विक बजट बाधा को संतुष्ट करता है।
इष्टतम आवंटन: $\lambda^*$ का उपयोग करके, सिस्टम प्रत्येक क्वेरी के लिए $t^*_i$ की गणना करता है। नकारात्मक अधिशेष वाली क्वेरीज को त्याग दिया जाता है (0 टोकन), और संसाधनों को उनके सर्ज थ्रेशोल्ड के पास वाली समाधान योग्य क्वेरीज में पुनर्वितरित किया जाता है।

3. प्रमुख योगदान

गैर-कन्केव यूटिलिटी का औपचारिकीकरण: शोध पत्र LLM तर्क में तीन-चरणीय (Strict-Surge-Ample) कंप्यूट-यूटिलिटी पैटर्न की पहचान और औपचारिकीकरण करता है, जो इन्फरेंस आवंटन को एक वैश्विक शैडो प्राइस द्वारा नियंत्रित गैर-कन्केव वक्रों पर एक निरंतर अनुकूलन के रूप में प्रस्तुत करता है।
क्लोज्ड-फॉर्म आवंटन नीति: लेखक लैम्बर्ट W फंक्शन का उपयोग करके एक क्लोज्ड-फॉर्म समाधान प्राप्त करते हैं, जो बैकबोन मॉडल को पुन: प्रशिक्षित किए बिना कुशल, सटीक टोकन सीमा की गणना सक्षम बनाता है।
प्लग-एंड-प्ले फ्रेमवर्क (CLEAR): वे इस सिद्धांत को CLEAR में स्थापित करते हैं, जो एक सिस्टम है जो लेटेंट-थ्रेशोल्ड भविष्यवाणी को मार्केट-क्लियरिंग प्राइस डिस्कवरी के साथ जोड़ता है। इसके लिए बैकबोन LLM को फाइन-ट्यून करने की आवश्यकता नहीं है और यह एक इन्फरेंस रैपर के रूप में कार्य करता है।

4. प्रयोगात्मक परिणाम

लेखकों ने गणितीय तर्क बेंचमार्क (GSM8K, MATH-500, AIME-24/25, आदि) और कोड जनरेशन कार्यों (HumanEval, MBPP, BigCodeBench) पर CLEAR का मूल्यांकन किया।

प्रदर्शन लाभ: संसाधन-दुर्लभ शासन (जैसे, प्रति क्वेरी 256 टोकन) में, CLEAR यूनिफॉर्म आवंटन से काफी बेहतर प्रदर्शन करता है।
- बैलेंस्ड (Balanced) स्ट्रीम पर, CLEAR ने यूनिफॉर्म की तुलना में सटीकता में +11.6 अंक का सुधार किया।
- मोस्टली-ईजी (Mostly-Easy) स्ट्रीम पर, लाभ +24.0 अंक था, जो दर्शाता है कि यूनिफॉर्म आवंटन उन क्वेरीज पर दुर्लभ टोकन बर्बाद करता है जिन्हें बजट के भीतर हल नहीं किया जा सकता।
- मोस्टली-हार्ड (Mostly-Hard) और U-शेप्ड (U-Shaped) स्ट्रीम में, क्रमशः +5.2 और +14.2 अंकों का लाभ हुआ।
सामान्यीकरण (Generalization): यह पद्धति कोड जनरेशन में भी सामान्यीकृत हुई, जिसने सभी तीन कोड बेंचमार्क में यूनिफॉर्म आवंटन की तुलना में निरंतर सुधार दिखाया।
मजबूती (Robustness): सिस्टम प्रेडिक्टर शोर (noise) के प्रति मजबूत रहा और $\alpha$ पैरामीटर के संबंध में स्केल इनवेरिएंस (scale invariance) दिखाया; ऑप्टिमाइज़र $\alpha$ में बदलाव की भरपाई के लिए शैडो प्राइस को स्वचालित रूप से समायोजित करता है।
संरचनात्मक वेरिएंट: ट्राइएंगुलर (Triangular) और क्वाड्रेटिक (Quadratic) यूटिलिटी फंक्शन के साथ प्रयोगों ने पुष्टि की कि प्राथमिक लाभ विशिष्ट यूटिलिटी कर्व के आकार से नहीं, बल्कि वैश्विक बजट क्लियरिंग और तर्कसंगत परित्याग तंत्र से आता है।

5. महत्व और दावे

शोध पत्र का दावा है कि LLM परिनियोजन (deployment) में केंद्रीय चुनौती सैद्धांतिक बुद्धिमत्ता की सीमाओं को बढ़ाने से बदलकर निश्चित कम्प्यूटेशनल कैप के तहत वैश्विक उपयोगिता को अधिकतम करने की ओर स्थानांतरित हो गई है।

लेखक दावा करते हैं कि उनका दृष्टिकोण आवंटन के प्रतिमान को मौलिक रूप से बदल देता है:

समान से इक्विलिब्रियम तक: सभी क्वेरीज के साथ समान व्यवहार करने के बजाय, CLEAR बैच को एक बाजार के रूप में मानता है, जिससे सिस्टम को "दिवालिया" (insolvent) क्वेरीज को छोड़ने और संसाधनों को वहां केंद्रित करने की अनुमति मिलती जहां सीमांत उपयोगिता (marginal utility) उच्चतम हो।
कमी में दक्षता: यह विधि संसाधन-दुर्लभ शासन में सबसे प्रभावी है, जहाँ यूनिफॉर्म आवंटन कठिन समस्याओं के उद्भव थ्रेशोल्ड को पार करने के लिए कंप्यूट को बहुत अधिक फैला देता है।
व्यावहारिकता: बैकबोन को पुन: प्रशिक्षित किए बिना एक रैपर के रूप में कार्य करके, CLEAR वास्तविक दुनिया के LLM परिनियोजन में लागत-सटीकता पेरेटो फ्रंटियर (cost-accuracy Pareto frontier) को बेहतर बनाने के लिए एक तत्काल, व्यावहारिक समाधान प्रदान करता है।

यह कार्य निष्कर्ष निकालता है कि कुशल इन्फरेंस के लिए तर्कसंगत परित्याग और गतिशील पुनर्वितरण आवश्यक हैं, जो अत्यधिक प्रतिबंधित सेटिंग्स में यूनिफॉर्म आवंटन की तुलना में 3 गुणा तक वैश्विक सटीकता में सुधार प्रदान कर सकते हैं।