Remember, Don't Re-read: Stateful ReAct Agents for Token-Efficient Autonomous Experimentation
यह शोध पत्र LangGraph का उपयोग करके एक स्टेटफुल (stateful) ReAct एजेंट आर्किटेक्चर प्रस्तुत करता है जो टोकन-अकुशल, स्टेटलेस ऑटोरिसर्च पैटर्न को एक पर्सिस्टेंट स्टेट मैकेनिज्म से बदल देता है, जिससे हाइपरपैरामीटर ट्यूनिंग और कोड ऑप्टिमाइज़ेशन कार्यों में तुलनीय प्रदर्शन बनाए रखते हुए महत्वपूर्ण टोकन कमी (90% तक) प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक वैज्ञानिक हैं जो केक की एकदम सही रेसिपी खोजने की कोशिश कर रहे हैं। हर बार जब आप केक का एक नया बैच बनाते हैं, तो आप उसे चखते हैं, लिखते हैं कि क्या हुआ, और फिर अगले बैच के लिए तय करते हैं कि क्या बदलाव करना है।
पुराना तरीका (स्टेटलेस एजेंट): "भुलक्कड़ शेफ"
पारंपरिक विधि में, जिसका वर्णन इस पेपर में किया गया है, एआई (AI) शेफ की याददाश्त बहुत खराब होती है। हर बार जब वह केक का एक नया बैच बनाता है, तो वह केवल पिछले केक को ही नहीं देखता। बल्कि, वह एक विशाल नोटबुक निकालता है जिसमें उसने अब तक बनाए गए हर एक केक का इतिहास दर्ज है, पहले केक से लेकर वर्तमान तक।
वह यह याद रखने के लिए कि उसने पहले क्या किया था, पूरी नोटबुक को फिर से शब्द-दर-शब्द पढ़ता है।
- समस्या: यदि आप 10 केक बनाते हैं, तो नोटबुक छोटी होती है। लेकिन यदि आप 100 केक बनाते हैं, तो नोटबुक बहुत बड़ी हो जाती है। शेफ अपना अधिकांश समय और ऊर्जा नए केक के बारे में सोचने के बजाय पुराने नोट्स पढ़ने में बिता देता है। पेपर इसे O(n²) समस्या कहता है: जैसे-जैसे प्रयोगों की संख्या बढ़ती है, काम तेजी से (exponentially) बढ़ता जाता है। यह ऐसा है जैसे किसी किताब का कोई विशिष्ट पन्ना खोजने के लिए आपको हर बार पन्ना 1 से पूरी किताब पढ़नी पड़े।
नया तरीका (स्टेटफुल एजेंट): "व्यवस्थित लाइब्रेरियन"
लेखकों ने LangGraph नामक टूल का उपयोग करके एक स्मार्ट सिस्टम बनाया है। एक भुलक्कड़ शेफ के बजाय, एक ऐसे एआई की कल्पना करें जिसका अपना एक व्यक्तिगत लाइब्रेरियन है।
- लाइब्रेरियन इतिहास रखता है: लाइब्रेरियन (जिसे "स्टेट" कहा जाता है) के पास बनाए गए हर केक, किए गए हर बदलाव और देखे गए हर परिणाम का पूरा इतिहास होता है। एआई को यह भारी किताब अपने साथ ले जाने की ज़रूरत नहीं है।
- सारांश नोट (Summary Note): जब एआई को यह तय करने की आवश्यकता होती है कि आगे क्या करना है, तो लाइब्रेरियन उसे पूरी लाइब्रेरी नहीं सौंपता। इसके बजाय, लाइब्रेरियन एक छोटा, 3-वाक्यों वाला स्टिकी नोट लिखता है: "आपने 25 बैच आजमाए हैं। सबसे अच्छा बैच 1.9x तेज़ था। यहाँ आपके द्वारा किए गए पिछले 5 प्रयास दिए गए हैं। बैच #7 में हुई गलती को न भूलें।"
- परिणाम: एआई केवल इस छोटे से नोट को पढ़ता है। इससे कोई फर्क नहीं पड़ता कि एआई ने 10 केक बनाए हैं या 1,000; नोट की लंबाई हमेशा एक समान छोटी रहती है। इसके लिए आवश्यक कार्य (O(1)) स्थिर रहता है।
उन्होंने क्या टेस्ट किया
शोधकर्ताओं ने इस "लाइब्रेरियन" सिस्टम का दो विशिष्ट कार्यों पर "भुलक्कड़ शेफ" के विरुद्ध परीक्षण किया:
- रेडियो ट्यूनिंग करना (हाइपरपैरामीटर ट्यूनिंग): उन्होंने एक मशीन लर्निंग मॉडल के लिए एकदम सही सेटिंग्स खोजने की कोशिश की।
- परिणाम: लाइब्रेरियन सिस्टम ने समान परिणाम प्राप्त करने के लिए 90% कम शब्दों (टोकन) का उपयोग किया। यह ऐसा था जैसे शेफ ने इतिहास की पूरी किताब पढ़ना बंद कर दिया और बस एक 'चीट शीट' देख ली।
- धीमे कंप्यूटर प्रोग्राम को ठीक करना (कोड ऑप्टिमाइज़ेशन): उन्होंने कोड के एक धीमे हिस्से को तेज़ बनाने के लिए उसे फिर से लिखने की कोशिश की।
- परिणाम: भले ही यहाँ "नोट्स" लंबे थे (क्योंकि उनमें वास्तविक कोड भी शामिल करना था), लाइब्रेरियन ने फिर भी "भुलक्कड़ शेफ" की तुलना में आधे शब्दों का ही उपयोग किया। भुलक्कड़ शेफ कोड परिवर्तनों के पूरे इतिहास को बार-बार पढ़ता रहा, जबकि लाइब्रेरियन ने केवल वर्तमान सर्वोत्तम संस्करण और पिछले कुछ प्रयासों को दिखाया।
बड़ी सीख
यह पेपर एआई को सबसे अच्छा केक या कोड खोजने में "स्मार्टर" बनाने के बारे में नहीं है। दोनों तरीकों ने समान गुणवत्ता वाले समाधान खोजे।
यह सफलता दक्षता (Efficiency) के बारे में है।
- पुराना तरीका: जैसे-जैसे आप अधिक प्रयोग चलाते हैं, लागत (कंप्यूटर समय और पैसा) विस्फोट की तरह बढ़ती है क्योंकि एआई को हर बार सब कुछ फिर से पढ़ना पड़ता है।
- नया तरीका: लागत स्थिर रहती है। आप सैकड़ों प्रयोग चला सकते हैं बिना एआई के अपने ही इतिहास के बोझ तले दबे।
संक्षेप में:
पेपर दिखाता है कि एक एआई को एक स्थायी "मेमोरी बैंक" (स्टेट) और उस मेमोरी को सारांशित करने का तरीका (ReAct एजेंट) देकर, आप उसे अपनी डायरी को बार-बार पढ़ने में ऊर्जा बर्बाद करने से रोक सकते हैं। यह एआई को अपने इतिहास के विशाल आकार से अभिभूत हुए बिना लंबे, जटिल प्रयोग चलाने की अनुमति देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।