Context Assembly as the Controlled Variable: A Control-Theoretic View of Harness Policies for Frozen LLM Agents
यह शोधपत्र फ्रोजन (frozen) LLM एजेंटों के लिए एक नियंत्रण-सैद्धांतिक (control-theoretic) ढांचे का प्रस्ताव करता है जो संदर्भ संयोजन (context assembly) को नियंत्रित चर के रूप में मानता है, और प्रॉम्प्ट घटकों को गतिशील रूप से अनुकूलित करने के लिए एक ऑनलाइन आउटर पॉलिसी (outer policy) का उपयोग करता है, साथ ही औपचारिक स्थिरता गारंटी और अनिश्चितता अंशांकन (uncertainty calibration) भी प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक आदर्श प्रॉम्प्ट की कला: कंट्रोल थ्योरी की एक कहानी
कल्पना कीजिए कि आप एक बेहद बुद्धिमान, लेकिन अविश्वसनीय रूप से जिद्दी रोबोट को एक रहस्य सुलझाना सिखाने की कोशिश कर रहे हैं। यह रोबोट एक AI है, और यह "फ्रोज़न" (जमा हुआ) है, जिसका अर्थ है कि इसका मस्तिष्क पत्थर की लकीर की तरह स्थिर है; आप इसके न्यूरॉन्स को फिर से नहीं लिख सकते या इसे नई जानकारी नहीं सिखा सकते। यह बहुत कुछ जानता है, लेकिन जब तक आप इसे सही निर्देश नहीं देते, तब तक यह नहीं जानता कि आपके विशिष्ट पहेली के लिए उस ज्ञान का उपयोग कैसे करना है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इस सेटअप को "एजेंट" कहा जाता है। लंबे समय से, शोधकर्ता इन एजेंटों को विश्वसनीय बनाने का तरीका खोजने की कोशिश कर रहे हैं, उन्हें ऐसी मशीनों की तरह देख रहे हैं जिन्हें नियंत्रित करने की आवश्यकता होती है। वे "कंट्रोल थ्योरी" के विचारों का उपयोग करते हैं, जो मूल रूप से चीजों को स्थिर और ट्रैक पर रखने का विज्ञान है—जैसे कि कार में क्रूज कंट्रोल सिस्टम जो गति को स्थिर रखने के लिए लगातार गैस पेडल को एडजस्ट करता है, या कैसे एक थर्मोस्टेट कमरे को आरामदायक बनाए रखने के लिए गर्मी को कम या ज्यादा करता है।
बड़ा सवाल जिसे यह पेपर संबोधित करता है वह है: हमें वास्तव में क्या नियंत्रित करना चाहिए? अधिकांश लोग यह नियंत्रित करने की कोशिश कर रहे हैं कि रोबोट आगे क्या करेगा (जैसे कि कौन सा टूल उठाना है) या वह किससे बात करेगा। लेकिन यह पेपर सुझाव देता है कि असली जादू रोबोट के हिलने-डुलने से पहले ही शुरू हो जाता है। यह "कॉन्टेक्स्ट" (संदर्भ) को नियंत्रित करने के बारे में है—विशिष्ट निर्देश, उदाहरण जो आप उसे दिखाते हैं, और वह पृष्ठभूमि जानकारी जो आप उसे देते हैं। इसे एक ऐसे शेफ की तरह समझें जो रेसिपी बुक तो नहीं बदल सकता (फ्रोज़न AI), लेकिन वह बेहतरीन व्यंजन बनाने के लिए सामग्री, रसोई की लाइटिंग और काउंटर पर रखे नोट्स को बदल सकता है। लेखक जानना चाहते हैं कि क्या हम एक स्मार्ट सिस्टम बना सकते हैं जो स्वचालित रूप से यह तय कर सके कि इन निर्देशों को चलते-फिरते (on the fly) सबसे अच्छे तरीके से कैसे सेट किया जाए, और क्या वह सिस्टम भरोसेमंद होने के लिए पर्याप्त स्थिर है।
पेपर का बड़ा विचार: रोबोट को नहीं, बल्कि सेटअप को नियंत्रित करना
जुलाई 2026 में डेबज्योति पॉल द्वारा लिखे गए इस पेपर में AI एजेंटों को देखने का एक नया तरीका प्रस्तावित किया गया है। रोबोट के कार्यों को सीधे नियंत्रित करने के बजाय, लेखक कॉन्टेक्स्ट असेंबली (संदर्भ संयोजन) को नियंत्रित करने का सुझाव देते हैं। सरल शब्दों में, इसका अर्थ है प्रॉम्प्ट के "सेटअप" को नियंत्रित करना: कौन सा टेम्पलेट उपयोग करना है, AI को कितने उदाहरण दिखाने हैं, डेटाबेस से कितनी जानकारी प्राप्त करनी है, और AI को अपने काम की कितनी बार जांच करनी चाहिए।
लेखक एक दो-भाग वाली प्रणाली की कल्पना करते हैं। पहला भाग "फ्रोज़न" AI एजेंट है—वह रोबोट जो वास्तव में काम करता है। दूसरा भाग एक "हार्नेस" (हार्नेस) या कंट्रोलर है जो रोबोट के बाहर बैठा है। यह कंट्रोलर एक स्मार्ट लर्नर है (एक "कॉन्टेक्स्टुअल बैंडिट" या "REINFORCE" पॉलिसी जैसे तरीकों का उपयोग करने वाला), जो लगातार अलग-अलग सेटअप के साथ प्रयोग करता है ताकि यह देख सके कि कौन सा सेटअप सबसे अच्छे परिणाम देता है। यह एक स्टेज मैनेजर की तरह है जो अभिनेता के संवाद नहीं बदल सकता (क्योंकि अभिनेता फ्रीज़्ड है), लेकिन वह अभिनेता को बेहतर प्रदर्शन करने में मदद करने के लिए लाइटिंग, प्रॉप्स और स्क्रिप्ट नोट्स को बदल सकता है।
उन्होंने क्या पाया: वास्तविकता की जाँच
लेखकों ने केवल इस विचार की कल्पना नहीं की; उन्होंने इसे परीक्षण किया कि क्या यह वास्तव में काम करता है और क्या यह स्थिर है। उन्होंने एक विशिष्ट सेटअप के साथ प्रयोग किए जहाँ कंट्रोलर को 729 अलग-अलग कॉन्फ़िगरेशन (विभिन्न प्रॉम्प्ट शैलियों, टूल्स, मेमोरी पॉलिसी और वेरिफिकेशन स्टेप्स का एक संयोजन) में से चुनना था। उन्होंने इन परीक्षणों को 60 एपिसोड (प्रयासों) के लिए चलाया, जो विभिन्न सीड्स (seeds) केAcross कुल 240 एपिसोड थे।
यहाँ ईमानदारी से बताया गया सत्य है कि उन्होंने क्या पाया:
1. स्थिरता परीक्षण (क्या यह बेहतर हो रहा है?)
लेखक यह देखना चाहते थे कि क्या कंट्रोलर समय के साथ बेहतर होने के लिए सीख रहा है, जिसे वे "स्थिरता" कहते हैं। एक आदर्श दुनिया में, कंट्रोलर का प्रदर्शन सीखने के साथ बढ़ना चाहिए या समान रहना चाहिए। हालाँकि, उनके डेटा ने कुछ अलग दिखाया। परीक्षण किए गए 60 एपिसोड के दौरान, प्रदर्शन वास्तव में थोड़ा नीचे की ओर गया या अधिकांश रन के लिए स्थिर रहा। चार में से तीन टेस्ट रन में मामूली नकारात्मक ढलान (negative slope) देखी गई।
लेखक बताते हैं कि यह आवश्यक रूप से उनके विचार की विफलता नहीं है, बल्कि परीक्षण के आकार की एक सीमा है। उनका तर्क है कि 729 विकल्पों में से चुनने के साथ, 60 एपिसोड कंट्रोलर को बारीकियां सीखने के लिए पर्याप्त समय नहीं है। यह 729 अलग-अलग भाषाओं के विशाल पुस्तकालय को कुछ ही दिनों में सीखने की कोशिश करने जैसा है; आपने अभ्यास करने के लिए पर्याप्त समय नहीं पाया है। वे नोट करते हैं कि भले ही उन्होंने 300 एपिसोड (उनके स्थिरता परीक्षण से पांच गुना अधिक) के साथ अपने साथी पेपर में देखा कि सिस्टम अभी भी एक स्थिर, पूर्व-निर्धारित बेसलाइन को हराने में सक्षम नहीं था। निष्कर्ष यह है कि सिस्टम वर्तमान में एक "अंडर-सैंपल्ड" (कम नमूना लिया गया) शासन में है—यह दीर्घकालिक सिद्धांत को सिद्ध करने के लिए बहुत छोटा सैंपल साइज है, भले ही सिद्धांत स्वयं तर्कसंगntिक हो।
2. आत्मविश्वास परीक्षण (क्या इसे पता है कि यह अनुमान लगा रहा है?)
दूसरी चीज़ जो उन्होंने जाँची वह थी "अनिश्चितता अंशांकन" (uncertainty calibration)। यह पूछता है: क्या कंट्रोलर को पता है कि वह कब आश्वस्त है और कब अनिश्चित है? वास्तविक दुनिया के परिदृश्य में, यदि AI अनिश्चित है, तो उसे किसी इंसान को हस्तक्षेप करने के लिए कहना चाहिए।
यहाँ के परिणाम काफी आश्चर्यजनक और थोड़े अस्त-व्यस्त थे। कंट्रोलर का "कॉन्फिडेंस" स्कोर (इस आधार पर कि वह अपने चुनाव को कितना संभावित मानता था) अत्यंत कम था—लगभग 0.0014—जबकि कार्यों की वास्तविक सफलता दर बहुत अधिक थी, लगभग 0.64 (64%) और 0.58 (58%)। यह एक बहुत बड़ा अंतर है, लगभग दो ऑर्डर ऑफ मैग्नीट्यूड का।
लेखक बताते हैं कि यह सीखने में कोई बग नहीं है, बल्कि एक गणितीय समस्या है। क्योंकि 729 विकल्प हैं, इसलिए किसी एक को चुनने की संभावना स्वाभाविक रूप से बहुत कम (लगभग 1/729, या 0.0014) है। इसलिए, कंट्रोलर हमेशा "अनकन्फिडेंट" दिखता है, भले ही वह सही उत्तर चुनता है। इसका मतलब है कि यदि आप यह तय करने के लिए इस कच्चे कॉन्फिडेंस नंबर का उपयोग करने का प्रयास करते हैं कि कब मानव की मदद लेनी है, तो यह काम नहीं करेगा—आप हर कार्य के लिए, यहाँ तक कि आसान कार्यों के लिए भी, इंसान को बुला लेंगे। पेपर सुझाव देता है कि इसे ठीक करने के लिए, आपको कॉन्फिडेंस सिग्नल को पुन: अंशांकित (recalibrate) करने की आवश्यकता होगी (शायद कच्चे संभाव्यता के बजाय शीर्ष दो विकल्पों के बीच के अंतर को देखकर), लेकिन वे स्वीकार करते हैं कि उन्होंने अभी तक उस सुधार का परीक्षण नहीं किया है।
निचोड़
यह पेपर यह दावा नहीं करता कि उसने AI नियंत्रण की समस्या को हल कर लिया है। इसके बजाय, यह एक नए तरीके पर एक बहुत ही विशिष्ट, ईमानदार नज़र डालता है: क्रिया (action) के बजाय संदर्भ (context) को नियंत्रित करना। यह तर्क देता है कि हालांकि यह एक आशाजनक और अलग विचार है, वर्तमान प्रयोगों से पता चलता है कि हम एक दीवार से टकरा रहे हैं क्योंकि संभावनाओं का स्थान (729 कॉन्फ़िगरेशन) बहुत बड़ा है, जितना कि डेटा हम वास्तव में एक दिन में एकत्र कर सकते हैं।
लेखक बहुत सावधान हैं कि वे इसे एक बड़ी उपलब्धि न कहें। वे स्पष्ट रूप से कहते हैं कि उनके स्थिरता परिणाम "शोर-प्रधान" (noise-dominated) हैं और उनके कॉन्फिडेंस सिग्नल अतिरिक्त सुधारों के बिना "सूचनाहीन" (uninformative) हैं। वे अनिवार्य रूप से कह रहे हैं, "यहाँ एक नया लीवर है जिसे खींचना है, लेकिन अभी, हमारे पास यह जानने के लिए पर्याप्त अभ्यास के प्रयास नहीं हैं कि क्या यह पूरी तरह से काम करता है, और हमारे कॉन्फिडेंस को मापने का वर्तमान तरीका टूटा हुआ है।" यह जीत की घोषणा के बजाय अधिक डेटा और बेहतर अंशांकन विधियों के लिए एक आह्वान है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।