Agentic Context Engineering: Evolving Contexts for Self-Improving Language Models
यह शोध पत्र एजेंटिक कॉन्टेक्स्ट इंजीनियरिंग (ACE) को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो संदर्भों (contexts) को विकसित होते हुए 'प्लेबुक्स' के रूप में मानता है ताकि संक्षिप्तता पूर्वाग्रह (brevity bias) और संदर्भ पतन (context collapse) को दूर किया जा सके, जिससे स्व-सुधार करने वाले भाषा मॉडल बिना किसी लेबल वाली निगरानी के संरचित, वृद्धिशील अपडेट के माध्यम से एजेंट और डोमेन-विशिष्ट बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त करने में सक्षम हो सकें।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: "शॉर्ट-नोट" का जाल (The "Short-Note" Trap)
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान लेकिन भूलक्कड़ इंटर्न (AI) को एक जटिल काम करने के लिए प्रशिक्षित कर रहे हैं, जैसे कि एक बैंक का प्रबंधन करना या एक सॉफ्टवेयर कंपनी चलाना।
अतीत में, जब भी इंटर्न कोई गलती करता था, तो बॉस (डेवलपर) उसके पूरे निर्देश मैनुअल (instruction manual) को फिर से लिखकर उसे ठीक करने की कोशिश करता था। लेकिन एक समस्या थी: बॉस उस मैनुअल को जितना हो सके उतना छोटा और संक्षिप्त बनाने की कोशिश करता रहता था ताकि उसे पढ़ना आसान हो।
इससे दो बड़ी समस्याएं पैदा हुईं:
- "बहुत छोटा" होने की समस्या (The "Too Short" Problem): मैनुअल को छोटा बनाने के लिए, बॉस को उन सूक्ष्म और विशिष्ट विवरणों को हटाना पड़ता था जो वास्तव में महत्वपूर्ण थे (जैसे "हमेशा तारीख का प्रारूप चेक करें" या "इस विशिष्ट API पर भरोसा न करें")। मैनुअल एक अस्पष्ट सारांश बन गया जैसे "सावधान रहें," जो मददगार नहीं था।
- "मेमोरी कोलैप्स" की समस्या (The "Memory Collapse" Problem): हर बार जब बॉस मैनुअल को फिर से लिखता था, तो इंटर्न नए नोट्स का सारांश बनाने के चक्कर में पुराने, उपयोगी नोट्स को अनजाने में डिलीट कर देता था। कुछ हफ्तों के बाद, मैनुअल इतना छोटा और खाली हो गया कि इंटर्न अपने काम में शुरूआती स्थिति से भी बदतर प्रदर्शन करने लगा।
समाधान: ACE (एक "जीवंत प्लेबुक")
इस शोध पत्र के लेखकों ने एक नया सिस्टम बनाया जिसे ACE (एजेंटिक कॉन्टेक्स्ट इंजीनियरिंग) कहा जाता है। हर बार पूरे मैनुअल को फिर से लिखने के बजाय, ACE निर्देशों को एक बढ़ते हुए, जीवंत प्लेबुक (जैसे कि एक स्पोर्ट्स कोच की रणनीति वाली बाइंडर या एक शेफ की रेसिपी बुक) की तरह मानता है।
ACE कैसे काम करता है, इसे किचन एनालॉजी (रसोई के उदाहरण) से समझते हैं:
कल्पना कीजिए कि एक मुख्य शेफ (AI) एक आदर्श भोजन पकाने की कोशिश कर रहा है।
1. तीन विशिष्ट भूमिकाएँ (The Three Specialized Roles)
एक व्यक्ति द्वारा सब कुछ करने के बजाय, ACE काम को तीन विशिष्ट भूमिकाओं में विभाजित करता है:
- जेनेरेटर (रसोइया/The Cook): यह वह AI है जो वास्तव में कार्य कर रहा है। यह समस्या को हल करने की कोशिश करता है (भोजन पकाना)। यदि टोस्ट जल जाता है, तो यह नोट करता है कि क्या हुआ।
- रिफ्लेक्टर (फूड क्रिटिक/The Food Critic): यह एक स्मार्ट ऑब्जर्वर है। यह रसोइए की गलतियों और सफलताओं को देखता है। केवल यह कहने के बजाय कि "आप असफल रहे," यह एक विशिष्ट नोट लिखता है: "टोस्ट इसलिए जला क्योंकि ओवन को 'बेक' के बजाय 'ब्रॉयल' पर सेट किया गया था। अगली बार, डायल चेक करें।"
- क्यूरेटर (लाइब्रेरियन/The Librarian): यह संगठक (organizer) है। यह क्रिटिक के विशिष्ट नोट्स लेता है और उन्हें प्लेबुक में जोड़ देता है। यह पूरे पन्ने को फिर से नहीं लिखता; यह बस मौजूदा सूची में एक नया स्टिकी नोट या एक नया बुलेट पॉइंट जोड़ देता है।
2. "डेल्टा अपडेट" (स्टिकी नोट्स जोड़ना)
पुराने तरीके हर बार पूरे प्लेबुक को शुरू से लिखने की कोशिश करते थे। ACE अलग है। यह "डेल्टा अपडेट्स" का उपयोग करता है।
इसे एक गूगल डॉक की तरह समझें जहाँ आप किसी टाइपिंग की गलती को सुधारने के लिए पूरा पेज डिलीट नहीं करते। आप बस एक छोटा सा कमेंट या एक नया बुलेट पॉइंट जोड़ देते हैं।
- पुराना तरीका: "यहाँ नया मैनुअल है। यह 2 पन्नों का है।" (पुराने 50 पन्ने गायब हो गए)।
- ACE का तरीका: "यहाँ पुराना मैनुअल है। मैं एक नया नियम जोड़ रहा हूँ: 'ओवन डायल चेक करें।'"
यह "मेमोरी कोलैप्स" को रोकता है क्योंकि पुराने, विस्तृत नियम किताब में सुरक्षित रहते हैं, और नए विचार बस उनके ऊपर जोड़े जाते हैं।
3. "ग्रो एंड रिफाइन" रणनीति (The "Grow and Refine" Strategy)
जैसे-जैसे AI अधिक समस्याओं को हल करता है, प्लेबुक बड़ी होती जाती है। लेकिन एक विशाल किताब को पढ़ना कठिन होता है। इसलिए, ACE में एक "रिफाइनमेंट" (परिष्करण) चरण होता है।
- यदि प्लेबुक बहुत अस्त-व्यस्त हो जाती है, तो क्यूरेटर डुप्लिकेट नोट्स (जैसे, "ओवन चेक करें" और "सुनिश्चित करें कि ओवन चालू है") को ढूंढता है और उन्हें आपस में मिला देता है।
- यह किताब को व्यापक (विस्तारों से भरपूर) बनाए रखता है लेकिन व्यवस्थित (ढूंढने में आसान) भी रखता है।
यह क्यों महत्वपूर्ण है (परिणाम)
इस शोध पत्र ने इस सिस्टम का परीक्षण दो मुख्य चीजों पर किया:
- AI एजेंट्स: AI को टूल्स (जैसे ईमेल भेजना या उड़ान बुक करना) का उपयोग करने की क्षमता देना।
- विशेषज्ञ ज्ञान (Specialized Knowledge): जैसे वित्तीय विश्लेषण या चिकित्सा निदान।
परिणाम अद्भुत थे:
- बेहतर प्रदर्शन: ACE का उपयोग करने वाले AI ने पिछले सर्वोत्तम तरीकों की तुलना में काफी उच्च स्कोर (लग लगभग 10% बेहतर) प्राप्त किया।
- सस्ता और तेज़: क्योंकि ACE को हर बार पूरा मैनुअल फिर से नहीं लिखना पड़ता, इसलिए यह भारी मात्रा में कंप्यूटिंग पावर और समय बचाता है।
- शिक्षक की आवश्यकता नहीं: ACE केवल यह देखकर सीख सकता है कि AI वास्तविक दुनिया में सफल रहा या विफल। इसे अपना होमवर्क चेक कराने के लिए किसी इंसान की जरूरत नहीं है।
- दिग्गजों को पछाड़ना: "AppWorld" नामक एक प्रसिद्ध टेस्ट पर, ACE का उपयोग करने वाले एक ओपन-सोर्स AI ने एक प्रमुख टेक कंपनी के टॉप-टियर, महंगे क्लोज्ड-सोर्स AI सिस्टम के बराबर या उससे बेहतर प्रदर्शन किया।
निष्कर्ष (The Takeaway)
ACE खेल को "सारांश निकालने" (Summarizing) से बदलकर "संचय करने" (Accumulating) में बदल देता है।
AI को संक्षिप्त होने के लिए विवरण भूलने के लिए मजबूर करने के बजाय, ACE AI को अनुभव का एक विशाल, विस्तृत पुस्तकालय बनाने की अनुमति देता है। यह AI की मेमोरी को एक नैपकिन पर लिखे छोटे नोट के रूप में नहीं, बल्कि एक बढ़ते हुए एनसाइक्लोपीडिया के रूप में देखता है जो हर दिन स्मार्ट, अधिक विस्तृत और अधिक विश्वसनीय होता जाता है, बिना किसी महत्वपूर्ण जानकारी को खोए।
यह पूरी किताब को एक वाक्य के सारांश के रूप में याद रखने की कोशिश करने और एक अच्छी तरह से व्यवस्थित लाइब्रेरी होने के बीच का अंतर है जहाँ आप ज़रूरत पड़ने पर बिल्कुल सही चीज़ ढूँढ सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।