Token Optimization and Context Window Management in Multi-Agent AI Workflows
यह शोध पत्र मल्टी-एजेंट AI वर्कफ़्लो में टोकन उपयोग को अनुकूलित करने और कॉन्टेक्स्ट विंडो को प्रबंधित करने के लिए एक अभ्यावहारिक ढांचा प्रस्तुत करता है, जो उत्पादन डेटा और नियंत्रित अध्ययनों के माध्यम से यह प्रदर्शित करता है कि कॉन्टेक्स्ट स्ट्रैटिफिकेशन (context stratification) और "रेलेवेंस-कॉन्ट्रास्ट" (relevance-contrast) कॉन्टेक्स्ट कंपोजिशन जैसी रणनीतियाँ मॉडल की सटीकता में सुधार करते हुए विलंबता (latency) और लागत को महत्वपूर्ण रूप से कम कर सकती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से विकसित होती दुनिया में, एक नए प्रकार के सिस्टम का उदय हुआ है जहाँ कई कंप्यूटर प्रोग्राम, या "एजेंट्स", जटिल समस्याओं को हल करने के लिए मिलकर काम करते हैं। डिजिटल सहायकों की एक टीम की कल्पना करें: एक जानकारी एकत्र करता है, दूसरा उसे व्यवस्थित करता है, और तीसरा अंतिम रिपोर्ट लिखता है। इन टीमों के कार्य करने के लिए, वे लार्ज लैंग्वेज मॉडल्स (LLMs) पर निर्भर करते हैं, जो उनकी सोचने की शक्ति को संचालित करने वाले इंजन हैं। हालाँकि, इन इंजनों की अपनी "वर्किंग मेमोरी" में एक समय में कितनी जानकारी रखी जा सकती है, इसकी एक सख्त सीमा होती है। इस सीमा को 'टोकन' में मापा जाता है, जो टेक्स्ट की छोटी इकाइयाँ हैं जिनसे शब्द और वाक्य बनते हैं। जब कोई वर्कफ़्लो बहुत लंबा या अनावश्यक विवरणों से भरा हो जाता है, तो सिस्टम धीमा हो जाता है, इसे चलाने में अधिक लागत आती है, और कभी-कभी गलतियाँ भी होती हैं क्योंकि महत्वपूर्ण तथ्य शोर के समुद्र में खो जाते हैं। इंजीनियरों के लिए चुनौती केवल स्मार्ट एजेंट बनाने की नहीं है, बल्कि उन्हें अपनी मेमोरी को कुशलतापूर्वक प्रबंधित करना सिखाने की भी है, यह सुनिश्चित करते हुए कि वे केवल उसी चीज़ को देखें जो काम को अच्छी तरह से करने के लिए वास्तव में आवश्यक है।
शोधकर्ता डीवीर शामय का एक हालिया अध्ययन ठीक इसी समस्या पर प्रहार करता है, जो सैद्धांतिक विचारों से आगे बढ़कर एक वास्तविक उत्पादन वातावरण (production environment) में व्यावहारिक तरीकों का परीक्षण करता है। यह शोध एक डैशबोर्ड पर केंद्रित है जिसका उपयोग इंजीनियरिंग कार्यों को ट्रैक करने के लिए किया जाता है, एक ऐसा सिस्टम जो महत्वपूर्ण कार्यों को निकालने और प्रगति का सारांश देने के लिए मीटिंग ट्रांसक्रिप्ट, ईमेल और चैट संदेशों को लगातार ग्रहण करता है। टीम ने पाया कि सूचना को फीड करने के तरीके को सावधानीपूर्वक पुनर्गठित करके, वे डेटा को प्रोसेस करने में लगने वाले समय और आवश्यक कंप्यूटिंग पावर को काफी कम कर सकते थे। उन्होंने पाया कि सबसे प्रभावी दृष्टिकोण AI को सब कुछ शामिल करने वाला एक विशाल टेक्स्ट ब्लॉक फीड करना नहीं था, बल्कि केवल प्रत्येक चरण के लिए आवश्यक विशिष्ट प्रकार का डेटा भेजना था। डेटा को एक बार प्राप्त करने और उसे स्थानीय रूपв रूप से प्रोसेस करने से (बजाय बार-बार उसी जानकारी को पुनः प्राप्त करने के लिए सिस्टम से पूछने के), उन्होंने कार्यों के एक ताज़ा सेट को लोड करने में लगने वाले समय को लगभग साढ़े तीन से साढ़े दस मिनट से घटाकर साठ-एक से एक सौ सोलह सेकंड के बीच कर दिया। इस बदलाव ने प्रोसेसिंग की अनुमानित लागत को साठ से सत्तर प्रतिशत तक कम कर दिया, जिससे यह सिद्ध हुआ कि बेहतर संगठन एक अधिक शक्तिशाली कंप्यूटर जितना ही प्रभावशाली है।
शायद सबसे आश्चर्यजनक खोज इस अध्ययन में उन धारणाओं को चुनौती देती है कि ये सिस्टम कैसे सीखते हैं। इंजीनियर अक्सर यह मान लेते हैं कि सर्वोत्तम परिणाम प्राप्त करने के लिए, उन्हें AI को केवल सबसे प्रासंगिक, उच्च-गुणवत्ता वाली जानकारी ही देनी चाहिए और बाकी सब कुछ हटा देना चाहिए। शोधकर्ताओं ने कार्यस्थल के संचार की एक सूची से महत्वपूर्ण वस्तुओं की पहचान करने के लिए AI से पूछकर इसका परीक्षण किया। उन्होंने पूरी तरह से उच्च-प्रासंगिकता वाली वस्तुओं से भरे प्रॉम्प्ट्स की तुलना उन प्रॉम्प्ट्स से की जिनमें उच्च-प्रासंगिकता वाली वस्तुओं के साथ कम-प्रासंगिक, लेकिन संबंधित सामग्री का मिश्रण था। विरोधाभासी रूप से, सिस्टम का प्रदर्शन तब बेहतर रहा जब सूची में कुछ "शोर" (noise) शामिल था—ऐसी वस्तुएं जो महत्वपूर्ण नहीं थीं लेकिन उसी विषय से संबंधित थीं। जब AI ने उन उदाहरणों को देखा जो महत्वपूर्ण नहीं थे, तो वह यह पहचानने में बहुत बेहतर हो गया कि क्या महत्वपूर्ण था। परीक्षणों में, पचास प्रतिशत महत्वपूर्ण वस्तुओं के साथ पचास प्रतिशत कम महत्वपूर्ण वस्तुओं को मिलाने से केवल महत्वपूर्ण वस्तुओं का उपयोग करने की तुलना में AI की स्कोरिंग की सटीकता में उल्लेखनीय सुधार हुआ। यह सुझाव देता है कि AI को अपने निर्णय को कैलिब्रेट करने के लिए सिग्नल और शोर के बीच के अंतर को देखने की आवश्यकता होती है, ठीक वैसे ही जैसे किसी व्यक्ति को यह समझने के लिए कि "गर्म" वास्तव में क्या है, तापमान की एक सीमा को देखने की आवश्यकता होती है।
अध्ययन ने यह भी जांचा कि सूचना का क्रम प्रदर्शन को कैसे प्रभावित करता है। जबकि कुछ सिद्धांत सुझाव देते हैं कि लंबी सूची के बीच में रखी गई जानकारी को अनदेखा कर दिया जाता है, शोधकर्ताओं ने पाया कि छोटी सूचियों के लिए, व्यवस्था महत्वपूर्ण वस्तुओं और गैर-महत्वपूर्ण वस्तुओं के अनुपात की तुलना में कम मायने रखती थी। हालाँकि, उन्होंने इस बात की पुष्टि भी की कि जब सूची बहुत लंबी हो जाती है, तो बीच में महत्वपूर्ण तथ्यों को दबाने से वास्तव में वे छूट सकते हैं। एक अन्य व्यावहारिक निष्कर्ष एक ही कार्य के कई प्रयासों को संभालने से संबंधित था। जब सिस्टम ने पांच बार जानकारी निकालने का प्रयास किया और फिर परिणामों को मिलाने के लिए एक स्मार्ट AI का उपयोग किया, तो यह पांच प्रयासों में से मिले सभी अद्वितीय आइटम्स के 'यूनियन' (union) को लेने से बेहतर प्रदर्शन नहीं कर सका। जटिल, बुद्धिमान विलय (merging) वाला चरण बिना किसी परिणाम सुधार के केवल लागत और समय बढ़ा रहा था, जो यह सुझाव देता है कि जानकारी एकत्र करने के लिए एक सरल यांत्रिक संयोजन अक्सर सबसे विश्वसनीय तरीका होता है।
ये निष्कर्ष AI सिस्टम बनाने वालों के लिए एक स्पष्ट मार्ग प्रदान करते हैं। शोध यह प्रदर्शित करता है कि दक्षता और सटीकता केवल सबसे उन्नत मॉडल चुनने के बारे में नहीं है, बल्कि सूचना के प्रवाह को इंजीनियर करने के बारे में है। AI तक पहुँचने से पहले डेटा को फ़िल्टर करके, एक स्पष्ट मानक स्थापित करने के लिए पर्याप्त संदर्भ मिलाकर, और परिणामों को संयोजित करने के तरीके में अनावश्यक जटिलता से बचकर, टीमें अपने सिस्टम को तेज़, सस्ता और अधिक विश्वसनीय बना सकती हैं। अध्ययन यह दावा नहीं करता है कि उसने आर्टिफिशियल इंटेलिजेंस की हर समस्या को हल कर लिया है, न ही यह सुझाव देता है कि ये नियम हर एकल कार्य पर लागू होते हैं। इसके बजाय, यह मापे गए, दोहराने योग्य पैटर्न का एक सेट प्रदान करता है जो एक लाइव प्रोडक्शन वातावरण में काम करने के लिए सिद्ध हुए हैं। स्वचालित कार्य (automated work) के भविष्य का निर्माण करने वालों के लिए सबक स्पष्ट है: बेहतर प्रदर्शन की कुंजी अक्सर अधिक जोड़ने में नहीं, बल्कि जो आपके पास है उसे अधिक सटीकता के साथ व्यवस्थित करने में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।