📈 economics

Online Pandora's Box for Contextual LLM Cascading

यह शोध पत्र आउटपुट-मध्यस्थता फीडबैक को मॉडल करने और आयाम-निर्भर $\widetilde O(\sqrt T)$ संचयी रिग्रेट (cumulative regret) प्राप्त करने के लिए GMM अनुमान के साथ एक पैरामीट्रिक रिजर्वेशन इंडेक्स दृष्टिकोण का उपयोग करते हुए, आउटपुट-मध्यस्थता फीडबैक को मॉडल करके और एक पैरामीट्रिक रिजर्वेशन इंडेक्स दृष्टिकोण को UCB-शैली की कॉन्फिडेंस बाउंड्स के साथ नियोजित करके, लार्ज लैंग्वेज मॉडल (LLM) API को अनुकूल रूप से चुनने के लिए एक ऑनलाइन कॉन्टेक्स्टुअल पेंडोरा बॉक्स (Pandora's Box) फ्रेमवर्क प्रस्तावित करता है।

मूल लेखक: Alexandre Belloni, Yan Chen, Yehua Wei

प्रकाशित 2026-06-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alexandre Belloni, Yan Chen, Yehua Wei

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कंपनी में मैनेजर हैं जिसे दैनिक समस्याओं की एक श्रृंखला को हल करने की आवश्यकता है। प्रत्येक समस्या को हल करने के लिए, आपके पास एक "टूलबॉक्स" है जिसमें कई अलग-अलग AI सहायक (APIs) शामिल हैं। कुछ सहायक सस्ते हैं लेकिन औसत दर्जे का उत्तर दे सकते हैं; कुछ महंगे हैं लेकिन आमतौर पर शानदार उत्तर देते हैं।

चुनौती यह है: आप तय कैसे करेंगे कि किस सहायक से पूछना है, और कब पूछना बंद करना है?

यदि आप केवल सस्ते वाले से पूछते हैं, तो आपको एक बुरा उत्तर मिल सकता है और उसे ठीक करने में समय बर्बाद हो सकता है। यदि आप तुरंत महंगे वाले से पूछते हैं, तो आप उन आसान समस्याओं के लिए पैसा बर्बाद करते हैं जिन्हें सस्ते वाले ने हल कर लिया होता। यदि आप सभी से पूछते हैं, तो आप दिवालिया हो जाएंगे।

यह शोध पत्र, जिसका शीर्षक "Online Pandora's Box for Contextual LLM Cascading" है, एलेक्जेंड्रे बेलोनी, यान चेन और येहुआ वे द्वारा लिखा गया है, इस सटीक समस्या को हल करने के लिए एक स्मार्ट, गणितीय रणनीति प्रस्तावित करता है। वे अपनी रणनीति को COSMOS कहते हैं।

यहाँ उनके विचार का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. "पंडोरा बॉक्स" गेम में एक ट्विस्ट

क्लासिक "पंडोरा बॉक्स" कहानी में, आपके पास कई बॉक्स होते हैं। आप एक बॉक्स खोल सकते हैं यह देखने के लिए कि उसके अंदर क्या है (इनाम/रिवॉर्ड) और खोलने के शुल्क के रूप में एक फीस चुकाते हैं। आप सबसे अच्छा खजाना खोजने का प्रयास करते हैं जबकि खोलने के शुल्क पर कम से कम खर्च करते हैं।

इस पेपर में ट्विस्ट:
वास्तविक दुनिया में AI के मामले में, एक बॉक्स खोलने (एक AI से पूछने) का मतलब तुरंत यह जानना नहीं है कि उत्तर "अच्छा" है या नहीं।

चरण 1 (क्वेरी/पूछताछ): आप एक AI से पूछते हैं। वह एक ड्राफ्ट उत्तर देता है और आपसे शुल्क लेता है। आप ड्राफ्ट देखते हैं, लेकिन अभी तक यह नहीं जानते कि वह वास्तव में ग्राहक की समस्या को हल करेगा या नहीं।
चरण 2 (चयन): आपको अब तक एकत्र किए गए ड्राफ्टों में से एक को चुनना होगा और उसे ग्राहक को भेजना होगा। केवल तभी आपको पता चलेगा कि वह एक सफलता (इनाम) थी या विफलता।

यह पेचीदा है क्योंकि आप ड्राफ्ट देखने के लिए भुगतान कर रहे हैं, लेकिन आपको केवल उस एक के लिए क्रेडिट मिलता है जिसे आप अंततः चुनते हैं।

2. "रिजर्वेशन इंडेक्स" (जादुई संख्या)

लेखक सुझाव देते हैं कि हर संभव उत्तर को याद करने (जो असंभव है) के बजाय, आपको प्रत्येक विशिष्ट स्थिति के लिए प्रत्येक AI को एक "रिजर्वेशन इंडेक्स" देना चाहिए।

इस इंडेक्स को एक "Worth-It Score" (कितना सार्थक है) के रूप में सोचें।

यदि "AI सहायक A" के लिए स्कोर उच्च है, तो इसका अर्थ है: "भले ही सहायक A एक औसत दर्जे का उत्तर दे, फिर भी उन्हें पूछना सार्थक है क्योंकि वे आमतौर पर विश्वसनीय होते हैं।"
यदि स्कोर कम है, तो इसका अर्थ है: "जब आपके पास कोई अन्य विकल्प न हो, तब तक उनसे परेशान न हों।"

पेपर एक गणितीय नियम (जो एक प्रसिद्ध अर्थशास्त्री वीत्ज़मैन पर आधारित है) का उपयोग करके इस स्कोर की गणना करता है। नियम कहता है: पहले उस AI से पूछें जिसका स्कोर सबसे अधिक है। यदि उनके द्वारा दिया गया उत्तर अगले सबसे अच्छे AI के स्कोर से बेहतर है, तो रुक जाएं और वह उत्तर चुनें। यदि नहीं, तो अगले वाले से पूछें।

3. सीखने की समस्या: "स्कोर का अनुमान लगाना"

समस्या यह है कि शुरुआत में, मैनेजर को वास्तविक "Worth-It Scores" का पता नहीं होता है। उन्हें काम करते हुए इन्हें सीखना पड़ता है।

वे ठीक से नहीं जानते कि एक विशेष प्रकार के प्रश्न के लिए एक AI कितना अच्छा है।
वे यह भी नहीं जानते कि एक AI कितना शुल्क लेगा (क्योंकि लागत इस बात पर निर्भर करती है कि उत्तर कितना लंबा है)।

लेखकों का समाधान एक लर्निंग एल्गोरिदम है जिसे COSMOS कहा जाता है। यह एक स्मार्ट खोजकर्ता (explorer) की तरह काम करता है:

आशावाद (Optimism): यह मान लेता है कि स्कोर वास्तव में होने की तुलना में थोड़े बेहतर हैं। यह सिस्टम को विभिन्न AI को आज़माने के लिए प्रोत्साहित करता है ताकि यह देखा जा सके कि वे वास्तव में कितने अच्छे हैं (एक्सप्लोरेशन)।
सुधार (Correction): जैसे-जैसे सिस्टम अधिक प्रश्न पूछता है और परिणाम देखता है, यह अपने "Worth-It Scores" को अधिक सटीक बनाने के लिए उन्हें अपडेट करता है।
दो-भाग वाली लर्निंग:
- यह सीखता है कि अंतिम उत्तर की गुणवत्ता (इनाम) की भविष्यवाणी कैसे की जाए।
- यह प्रत्येक AI के लिए रिजर्वेशन इंडेक्स (कितना सार्थक होने की संभावना है) को सीखता है।

4. परिणाम: पैसा और समय बचाना

यह पेपर गणितीय रूप से सिद्ध करता है कि यह रणनीति बहुत अच्छी तरह से काम करती है। लंबे समय में (मान लीजिए, दैनिक अनुरोधों के एक वर्ष में), कुल "रिग्रेट" (वह पैसा और गुणवत्ता जो एक आदर्श विकल्प न चुनने के कारण खो दी गई) बहुत धीरे-धीरे बढ़ता है।

विशेष रूप से, वे दिखाते हैं कि उनकी विधि इतनी कुशल है कि वह बिना लागत को अनियंत्रित किए हजारों अनुरोधों को संभाल सकती है। यह इनके बीच का सही संतुलन (sweet spot) ढूंढ लेती है:

बहुत सस्ता: खराब उत्तर मिलना जिन्हें ठीक करने की आवश्यकता होती है।
बहुत महंगा: आसान कार्यों पर पैसा बर्बाद करना।
बिल्हीं सही: सही कीमत पर, सही समय पर, सही AI से पूछना।

सारांश

कल्पना कीजिए कि आप एक केस को सुलझाने के लिए जासूसों की एक टीम को काम पर रख रहे हैं।

पुराना तरीका: या तो आप तुरंत सबसे महंगे जासूस को काम पर रखते हैं (साधारण सुरागों पर पैसा बर्बाद करना) या सबसे सस्ते जासूस को (एक बुरा समाधान जोखिम में डालना)।
COSMOS का तरीका: आपके पास जासूसों की एक सूची है। प्रत्येक सुराग के लिए, आपके पास एक "पूर्वाभास" (रिजर्वेशन इंडेक्स) है कि कौन सा जासूस बुलाने लायक है। आप उस जासूस को बुलाते हैं जिसके पास सबसे अच्छा पूर्वाभास है। यदि उनकी रिपोर्ट पर्याप्त अच्छी है, तो आप रुक जाते हैं। यदि नहीं, तो आप सूची में अगले व्यक्ति को बुलाते हैं।
जादू: सिस्टम हर दिन स्मार्ट होता जाता है। यह सीखता है कि कौन से जासूस वास्तव में किस प्रकार के सुरागों के लिए अच्छे हैं, जिससे यह सुनिश्चित होता है कि आप कभी भी एक खराब रिपोर्ट के लिए भुगतान न करें और कभी भी एक बेहतरीन रिपोर्ट को हाथ से न जाने दें।

लेखकों का मुख्य दावा यह है कि इस विशिष्ट गणितीय ढांचे का उपयोग करके, कंपनियां AI टूल्स का बहुत अधिक कुशलता से उपयोग कर सकती हैं, जिससे उच्च गुणवत्ता बनाए रखते हुए महत्वपूर्ण धन की बचत होती है।

तकनीकी सारांश: संदर्भगत LLM कैस्केडिंग के लिए ऑनलाइन पेंडोरा बॉक्स (Pandora's Box)

1. समस्या का निरूपण (Problem Formulation)

यह शोध पत्र LLM कैस्केडिंग की परिचालन चुनौती को संबोधित करता है, जहाँ एक संगठन को उच्च गुणवत्ता वाली सामग्री लागत प्रभावी ढंग से उत्पन्न करने के लिए पोर्टफोलियो में मौजूद विभिन्न Large Language Model (LLM) APIs को क्रमिक रूप से क्वेरी करना होता है। मानक मॉडल रूटिंग (प्रति अनुरोध एक एकल API चुनना) के विपरीत, कैस्केडिंग में एक क्रमिक खोज प्रक्रिया शामिल है: निर्णय लेने वाला (Decision-Maker - DM) एक-एक करके बॉक्स (APIs) को क्वेरी करता है, लागत वहन करता है और आउटपुट देखता है, जब तक कि एक स्टॉपिंग कंडीशन (stopping condition) पूरी नहीं हो जाती, जिसके बाद एक एकल आउटपुट को चुना और तैनात किया जाता है।

लेखक इसे एक विशिष्ट दो-चरणीय संरचना वाले ऑनलाइन कॉन्टेक्स्टुअल पेंडोरा बॉक्स (Online Contextual Pandora's Box) समस्या के रूप में औपचारिक रूप देते हैं:

क्वेरी चरण (Query Phase): DM एक अनुरोध संदर्भ (request context) $x_t$ को देखता है और क्रमिक रूप से बॉक्स (APIs) को क्वेरी करता है। बॉक्स $a$ को क्वेरी करने से एक स्टोकेस्टिक आउटपुट $\omega_{at}$ प्रकट होता है और इसमें लागत $c_{at}$ लगती है। DM देखे गए आउटपुट और लागत के आधार पर यह निर्णय लेता है कि क्वेरी जारी रखनी है या रुकना है।
चयन चरण (Selection Phase): रुकने पर, DM तैनात करने के लिए क्वेरी किए गए आउटपुट्स में से एक को चुनता है। DM केवल चुने गए आउटपुट से जुड़े डाउनस्ट्रीम रिवॉर्ड (downstream reward) $r_t$ को देखता है, न कि अन-चुने (unselected) क्वेरी किए गए आउटपुट्स के रिवॉर्ड को।

मुख्य अंतर: यह शास्त्रीय पेंडोरा बॉक्स मॉडलों से भिन्न है जहाँ बॉक्स खोलने से सीधे उसका रिवॉर्ड प्रकट होता है। यहाँ, रिवॉर्ड "आउटपुट-मध्यस्थ" (output-mediated) है: रिवॉर्ड एक साझा रिवॉर्ड फंक्शन $\mu^*$ के माध्यम से अनुरोध-आउटपुट युग्म $(x_t, \omega_{at})$ पर निर्भर करता है, जबकि API-विशिष्ट विषमता (heterogeneity) केवल आउटपुट और लागत के वितरणों के माध्यम से उत्पन्न होती है। फीडबैक आंशिक है; DM केवल चयनित आउटपुट्स से रिवॉर्ड फंक्शन के बारे में सीखता है, लेकिन वह सभी क्वेरी किए गए आउटपुट्स से रिजर्वेशन इंडेक्स (reservation indices) के बारे में सीखता है।

लक्ष्य एक ऑरेकल पॉलिसी (oracle policy) के सापेक्ष $T$ क्षितिज (horizon) पर संचयी पछतावा (cumulative regret) को कम करना है, जो कंडीशनल आउटपुट डिस्ट्रीब्यूशन, कॉस्ट फंक्शन और रिवॉर्ड फंक्शन को जानता हो।

2. कार्यप्रणाली (Methodology)

लेखक COSMOS (COst-aware Sequential MOdel query and Selection) प्रस्तावित करते हैं, जो एक ऑनलाइन लर्निंग पॉलिसी है जो पूर्ण कंडीशनल डिस्ट्रीब्यूशन का अनुमान लगाने से बचती है। इसके बजाय, यह पैरामीट्रिक संरचनाओं का उपयोग करके सीधे रिजर्वेशन इंडेक्स (reservation indices) और रिवॉर्ड फंक्शन को मॉडल और सीखती है।

मुख्य घटक:

पैरामीट्रिक मॉडलिंग (Parametric Modeling):
- रिवॉर्ड फंक्शन: इसे एक जनरलाइज्ड लीनियर फंक्शन के रूप में मॉडल किया गया है: $\mu^*(x, \omega) = G(\theta^*{}^\top \phi(x, \omega))$ ।
- रिजर्वेशन इंडेक्स: इन्हें कॉन्टेक्स्ट के जनरलाइज्ड लीनियर फंक्शन्स के रूप में मॉडल किया गया है: $\sigma^*_a(x) = \Lambda(\rho_a^\top \psi(x))$ । ये इंडेक्स वीत्ज़मैन (Weitzman) की इष्टतम नीति से प्राप्त होते हैं, जो मोमेंट इक्वेशन (moment equation) $\mathbb{E}[(\mu^*(x, \omega) - \sigma^*_a(x))^+ | x] = \mathbb{E}[c_a | x]$ को संतुष्ट करते हैं।
ऑप्टिमिज्म-आधारित लर्निंग (Optimism-Based Learning): पॉलिसी रिवॉर्ड फंक्शन और रिजर्वेशन इंडेक्स दोनों के लिए ऑप्टिमिस्टिक अपर बाउंड्स (optimistic upper bounds) का निर्माण करती है।
- रिवॉर्ड एस्टीमेशन: तैनात किए गए आउटपुट्स के आधार पर $\theta^*$ के लिए एक पेनलाइज्ड मैक्सिमम लाइक्लीहुड एस्टिमेटर (MLE) का उपयोग करता है, जो सेल्फ-नॉर्मलाइज्ड मार्टिंगेल इनइक्वेलिटी (self-normalized martingale inequality) के माध्यम से अपर कॉन्फिडेंस बाउंड्स (UCB) का निर्माण करता है।
- इंडेक्स एस्टीमेशन: $\rho_a$ का अनुमान लगाने के लिए एक जनरलाइज्ड मेथड ऑफ मोमेंट्स (GMM) दृष्टिकोण (विशेष रूप से एक $M$ -एस्टीमेशन फॉर्मुलेशन) का उपयोग करता है। लॉस फंक्शन को इस तरह बनाया गया है कि इसकी फर्स्ट-ऑर्डर कंडीशन वीत्ज़मैन मोमेंट इक्वेशन के सैंपल एनालॉग को रिकवर करती है। यह बिना पूर्ण डिस्ट्रीब्यूशन का अनुमान लगाए, सीधे क्वेरी किए गए आउटपुट-कॉस्ट पेयर्स से इंडेक्स सीखने की अनुमति देता है।
रिग्रेट डिकंपोजिशन (Regret Decomposition): एक प्रमुख सैद्धांतिक अंतर्दृष्टि यह है कि ऑप्टिमिज्म के तहत, प्रति-अवधि रिग्रेट दो स्वतंत्र एरर टर्म्स में विभाजित होता है:
1. चुने गए आउटपुट के लिए रिवॉर्ड का अनुमान लगाने में त्रुटि।
2. सभी क्वेरी किए गए बॉक्सों के लिए रिजर्वेशन इंडेक्स का अनुमान लगाने में त्रुटि का योग।
  यह डिकंपोजिशन लेखकों को दोनों घटकों पर अलग-अलग मानक UCB-शैली का विश्लेषण (एलिप्टिकल पोटेंशियल आर्गुमेंट्स) लागू करने की अनुमति देता है।

एल्गोरिदम फ्लो (COSMOS):

संदर्भ $x_t$ देखें।
ऑप्टिमिस्टिक एस्टिमेट्स $\hat{\sigma}_{at}$ और $\hat{\mu}_t$ का निर्माण करें।
बॉक्सों को घटते क्रम (descending order) में $\hat{\sigma}_{at}$ द्वारा व्यवस्थित करें।
बॉक्सों को क्रमिक रूप से क्वेरी करें। यदि क्वेरी किए गए आउटपुट्स का अधिकतम ऑप्टिमिस्टिक रिवॉर्ड अगले बॉक्स के ऑप्टिमिस्टिक इंडेक्स से अधिक हो जाता है, तो बॉक्स $k$ को क्वेरी करना बंद कर दें।
उच्चतम ऑप्टिमिस्टिक रिवॉर्ड एस्टिमेट वाले क्वेरी किए गए बॉक्स का चयन करें।
वास्तविक रिवॉर्ड को देखें और एस्टिमेटर्स को अपडेट करें।

3. मुख्य योगदान (Key Contributions)

नवीन मॉडल फॉर्मुलेशन: यह पेपर विशेष रूप से LLM कैस्केडिंग के लिए तैयार किया गया एक ऑनलाइन कॉन्टेक्स्टुअल पेंडोरा बॉक्स मॉडल पेश करता है। यह महत्वपूर्ण "आउटपुट-मध्यस्थ" फीडबैक संरचना को कैप्चर करता है जहाँ रिवॉर्ड केवल तैनात आउटपुट्स के लिए देखे जाते हैं, जो शास्त्रीय सेटिंग्स से अलग है जहाँ निरीक्षण पर ही रिवॉर्ड प्रकट हो जाता है।
डायरेक्ट इंडेक्स मॉडलिंग: जटिल कंडीशनल आउटपुट डिस्ट्रीब्यूशन और कॉस्ट को सीखने के बजाय, लेखक पैरामीट्रिक संरचनाओं का उपयोग करके सीधे रिजर्वेशन इंडेक्स को मॉडल करने का प्रस्ताव करते हैं। यह GMM-आधारित $M$ -एस्टीमेशन दृष्टिकोण के माध्यम से प्राप्त किया जाता है जो मोमेंट कंडीशन का लाभ उठाता है जो इष्टतम इंडेक्स को परिभाषित करता है।
रिग्रेट गारंटी (Regret Guarantees): पेपर COSMOS पॉलिसी के लिए औपचारिक रिग्रेट बाउंड प्रदान करता है।
- ज्ञात रिवॉर्ड व्यवस्था (Known Reward Regime): यदि रिवॉर्ड फंक्शन ज्ञात है (जैसे, ऑफलाइन डेटा के माध्यम से), तो पॉलिसी $\tilde{O}(A m \sqrt{T})$ का रिग्रेट बाउंड प्राप्त करती है, जहाँ $A$ APIs की संख्या है और $m$ इंडेक्स फीचर मैप का आयाम है।
- अज्ञात रिवॉर्ड व्यवस्था (Unknown Reward Regime): जब रिवॉर्ड फंक्शन को ऑनलाइन सीखना होता है, तो पॉलिसी $\tilde{O}([d + A(m + \sqrt{dm})]\sqrt{T})$ का रिग्रेट बाउंड प्राप्त करती है, जहाँ $d$ रिवॉर्ड फीचर मैप का आयाम है।
- ये बाउंड्स लोकल कर्वेचर (local curvature) धारणाओं का लाभ उठाकर मौजूदा कॉन्टेक्स्टुअल पेंडोरा बॉक्स परिणामों (जैसे, $\tilde{O}(T^{5/6})$ ) में सुधार करते हुए इष्टतम $\tilde{O}(\sqrt{T})$ दर प्राप्त करते हैं।

4. परिणाम और धारणाएं (Results and Assumptions)

सैद्धांतिक परिणाम निम्नलिखित रेगुलैरिटी कंडीशंस (regularity conditions) पर आधारित हैं:

धारणा 1 और 2 (इंडेक्स): लिंक फंक्शन $\Lambda$ स्मूथ और स्ट्रिक्टली इंक्रीजिंग है; लॉस फंक्शन में ट्रू इंडेक्स के आसपास लोकल कर्वेचर है (यह सुनिश्चित करता है कि मोमेंट इक्वेशन शून्य को एक सीमित ढलान के साथ क्रॉस करता है)।
धारणा 3 और 4 (रिवॉर्ड): रिवॉर्ड फंक्शन एक जनरलाइज्ड लीनियर मॉडल का पालन करता है जिसमें स्ट्रिक्टली इंक्रीजिंग लिंक $G$ है; रिवॉर्ड कैनोनिकल एक्सपोनेंशियल फैमिली से संबंधित हैं।
धारणा 5 (एंटी-कंसंट्रेशन): यह सुनिश्चित करता है कि चयनित आउटपुट्स के फीचर्स (जो रिवॉर्ड लर्निंग के लिए उपयोग किए जाते हैं) इंडेक्स के एस्टीमेशन एरर (जो क्वेरी किए गए आउटपुट्स पर निर्भर करते हैं) को नियंत्रित करने के लिए पर्याप्त सूचनात्मक हैं। यह रिवॉर्ड सीखने के लिए उपयोग किए गए डेटा और इंडेक्स सीखने के लिए उपयोग किए गए डेटा के बीच "मिसमैच" को रोकता है।

पेपर सिद्ध करता है कि इन शर्तों के तहत, COSMOS पॉलिसी डायमेंशन-डिपेंडेंट $\tilde{O}(\sqrt{T})$ संचयी रिग्रेट प्राप्त करती है।

5. महत्व और दावे (Significance and Claims)

लेखक दावा करते हैं कि वे जॉइंट क्वेरी और सिलेक्शन के साथ ऑनलाइन कॉन्टेस्टिक पेंडोरा बॉक्स के रूप में LLM कैस्केडिंग को औपचारिक रूप देने वाले पहले व्यक्ति हैं, जो औपचारिक रिग्रेट गारंटी प्रदान करते हैं। यह हीयुरिस्टिक (heuristic) LLM कैस्केडिंग विधियों (जैसे FrugalGPT) और कठोर ऑनलाइन लर्निंग थ्योरी के बीच के अंतर को पाटता है।

इसका महत्व निम्नलिखित में निहित है:

व्यावहारिक प्रासंगिकता: यह LLM परिनियोजन (deployment) में इन्फरेंस लागत और आउटपुट गुणवत्ता के बीच वास्तविक दुनिया के ट्रेड-ऑफ को संबोधित करता है, जो क्रमिक API क्वेरी को प्रबंधित करने का एक सिद्धांत आधारित तरीका प्रदान करता है।
सैद्धांतिक प्रगति: यह आउटपुट-मध्यस्थ फीडबैक वाली सेटिंग्स के लिए पेंडोरा बॉक्स साहित्य का विस्तार करता है और LLM कैस्केडिंग की विशिष्ट फीडबैक संरचना को संभालने के लिए GMM और UCB तकनीकों को संयोजित करने वाला एक नया लर्निंग एल्गोरिथ्म विकसित करता है।
दक्षता: पूर्ण डिस्ट्रीब्यूशन को मॉडल करने के बजाय सीधे रिजर्वेशन इंडेक्स को मॉडल करके, यह दृष्टिकोण हाई-डायमेंशनल कॉन्टेक्स्ट के लिए अधिक कम्प्यूटेशनल रूप से सुलभ और सांख्यिकीय रूप से कुशल है।

लेखक नोट करते हैं कि उनका कार्य एक मानक क्रमिक क्वेरी संरचना और पैरामीट्रिक मॉडल मानता है, जो नॉन-पैरामीट्रिक सेटिंग्स, बैच क्वेरी और आउटपुट एनसेम्बलिंग के लिए भविष्य की दिशाओं के रूप में विस्तार छोड़ता है।