Recovering Wasted Compute in Autoresearch Agents
यह शोधपत्र टैबुलर डेटासेट पर लागू ऑटो-रिसर्च एजेंटों में सामान्य विफलता मोड, जैसे कि अनावश्यक डिबगिंग और खराब अन्वेषण, की पहचान करता है और यह प्रदर्शित करता है कि लक्षित एजेंटिक डिज़ाइन हस्तक्षेप, अंतर्निहित भाषा मॉडल को बदले बिना, महत्वपूर्ण रूप से बर्बाद हुए कंप्यूट को पुनः प्राप्त कर सकते हैं और प्रदर्शन को बढ़ा सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल जासूस और बर्बाद हुआ लंच मनी
कल्पित कीजिए एक ऐसी दुनिया जहाँ कंप्यूटर केवल निर्देश ही नहीं मानते, बल्कि वास्तव में वैज्ञानिक बनने के लिए स्कूल भी जाते हैं। यह ऑटोरिसर्च (autoresearch) का रोमांचक (और कभी-कभी अराजक) क्षेत्र है। इस विज्ञान के कोने में, हम "एजेंट्स" बनाते हैं—स्मार्ट कंप्यूटर प्रोग्राम जो लार्ज लैंग्वेज मॉडल्स (LLMs) द्वारा संचालित होते हैं—जिन्हें एक अस्त-व्यस्त डेटासेट और हल करने के लिए एक समस्या दी जाती है। एक इंसान द्वारा डेटा को साफ करने, मॉडल को प्रशिक्षित करने और परिणामों की जांच करने के लिए कोड लिखने के बजाय, ये एजेंट यह सब खुद करते हैं। वे डिजिटल जासूसों की तरह काम करते हैं, अपना खुद का कोड लिखते हैं, प्रयोग चलाते हैं, और सर्वोत्तम संभव समाधान खोजने की कोशिश करते हैं।
इन एजेंटों को जूनियर जासूसों की एक टीम की तरह समझें जिन्हें एक रहस्य सुलझाने के लिए भेजा गया है। उनके पास "जासूसी समय" (एक कंप्यूट बजट) सीमित होता है। यदि वे अपना सारा समय एक ही मृत अंत (dead end) की दोबारा जांच करने में या एक कमरे में जो सीखा उसे दूसरे कमरे में खोजते समय भूल जाने में बिता देते हैं, तो वे अपराधी को खोजने से पहले ही अपना समय समाप्त कर देते हैं। शोधकर्ता जो बड़ा सवाल पूछ रहे हैं वह यह है: हम इन डिजिटल जासूसों को अपनी ही की गई गलतियों पर अपना लंच मनी बर्बाद करने से कैसे रोकें? यह पेपर ठीक इसी पर गहराई से नज़र डालता है, कि क्यों ये स्मार्ट एजेंट अक्सर लूप (loops) में फंस जाते हैं और हम उन्हें बिना और अधिक "स्मार्ट" बनाए कैसे स्मार्ट बना सकते हैं।
समस्या: स्मार्ट एजेंट, बेवकूफी भरी आदतें
इस पेपर के शोधकर्ताओं ने दो सबसे लोकप्रिय "जासूसी टीमों" (जिन्हें AIDE और ML-Master कहा जाता है) को देखा और पाया कि वे समय प्रबंधित करने में आश्चर्यजनक रूप से खराब थे। उन्नत एआई द्वारा संचालित होने के बावजूद, वे टैबुलर डेटा समस्याओं (सोचिए डेटा जो पंक्तियों और स्तंभों में व्यवस्थित है, जैसे एक स्प्रेडशीट) को हल करने की कोशिश करते समय बार-बार वही चार मूर्खतापूर्ण गलतियाँ करते थे:
- "ग्राउंडहौंड डे" बग (The "Groundhog Day" Bug): एजेंट बार-बार एक ही कोड एरर (त्रुटि) से टकराते रहते थे। यह एक जासूस के एक कमरे में जाने, कालीन से टकराकर गिरने और फिर अगले कमरे में जाने, और फिर से उसी कालीन से टकराकर गिरने जैसा है, भले ही पहले जासूस ने दूसरे को पहले ही कह दिया हो, "हे, उस कालीन से बचकर रहना!" क्योंकि उनके सर्च के विभिन्न हिस्सों ने आपस में नोट्स साझा नहीं किए थे, उन्होंने बार-बार एक ही टूटे हुए कोड को ठीक करने में बहुत सारा समय बर्बाद किया।
- "ठीक है, इतना काफी है" का जाल (The "Good Enough" Trap): एजेंटों को एक ऐसा समाधान मिल जाता था जो काम करता था, वे खुश हो जाते थे और खोजना बंद कर देते थे। लेकिन उनके पास अभी भी काफी समय बचा था! वे समाधान को और बेहतर बनाने के लिए नॉब्स (hyperparameters) को ट्यून करने के महत्वपूर्ण हिस्से को छोड़ देते थे, सिर्फ इसलिए क्योंकि उन्हें लगा कि वे काम पूरा कर चुके हैं।
- डेड एंड (The Dead End): कभी-कभी, एजेंट एक ऐसी समस्या को ठीक करने के लूप में फंस जाते थे जिसे ठीक नहीं किया जा सकता था, जिससे उनका पूरा बजट उस रास्ते पर जल जाता था जो कहीं नहीं ले जाता था।
- अनदेखा सुराग (The Ignored Clue): एजेंट डेटा को देखते थे, कुछ दिलचस्प पैटर्न (एक्सप्लोरेटरी डेटा एनालिसिस) देखते थे, और फिर अपने अंतिम निर्णयों को लेते समय उन सुरागों को पूरी तरह से अनदेखा कर देते थे। यह एक जासूस के उंगली के निशान खोजने, उन्हें लिखने और फिर उस निशान को देखे बिना ही केस सुलझाने का फैसला करने जैसा है।
समाधान: एजेंटों को साझा करना और सीखना सिखाना
लेखकों ने AI को एक बड़े, अधिक महंगे दिमाग का उपयोग करके "स्मार्टर" बनाने की कोशिश नहीं की। इसके बजाय, उन्होंने कैसे एजेंट काम करते हैं, इसे बदला। उन्होंने बर्बादी को रोकने के लिए कुछ चतुर तरीके पेश किए:
- ग्लोबल "बग कंसल्टेंट" (The Global "Bug Consultant"): कल्पना कीजिए एक सुपर-संगठित नोट लेने वाले की जो जासूची कमरे के बीच में बैठता है। हर बार जब कोई भी जासूस कालीन से टकराता है (एक कोड बग), तो कंसल्टेंट उसे एक विशाल व्हाइटबोर्ड पर लिख देता है जिसे सभी देख सकते हैं। इसे डिबग कंसल्टेंट (Debug Consultant) कहा जाता है। यह एजेंटों को एक ही गलती दोबारा करने से रोकता है। यदि सर्च का एक हिस्सा किसी विशिष्ट त्रुटि के कारण विफल होता है, तो कंसल्टेंट अन्य सभी शाखाओं को बताता है, "ऐसा मत करो! यह काम नहीं करता!" इस सरल बदलाव का मतलब था कि एजेंट ज्ञात त्रुटियों पर समय बर्बाद करना बंद कर देते हैं और बहुत तेजी से काम करने वाले समाधान खोजने लगते हैं।
- "चलते रहो" कोच (The "Keep Going" Coach): एजेंटों को बहुत जल्दी हार मानने से रोकने के लिए, शोधकर्ताओं ने एक नियम जोड़ा: "आप तब तक नहीं रुक सकते जब तक आपने नॉब्स को ट्यून करने की कोशिश नहीं की!" उन्होंने एजेंटों को मजबूर किया कि वे सर्वोत्तम स्कोर प्राप्त करने के लिए सेटिंग्स को बदलने में अपना शेष समय खर्च करें, न कि केवल एक "ठीक-ठाक" उत्तर पर समझौता करें।
- स्मार्ट बैकट्रैक (The Smart Backtrack): जब एक एजेंट डेड एंड में फंस जाता था, तो बेतरतीब ढंग से एक नया रास्ता चुनने के बजाय, उन्होंने थॉम्पसन सैंपलिंग (Thompson Sampling) नामक रणनीति का उपयोग किया। इसे एक ऐसे जुआरी के रूप में सोचें जो इस बात का हिसाब रखता है कि कौन सी स्लॉट मशीनें सबसे ज्यादा भुगतान करती हैं। यदि एक रास्ता बार-बार विफल होता है, तो एजेंट उस पर दांव लगाना बंद करने और अपने पैसे को उन रास्तों पर लगाने के बारे में सीख जाता है जो अधिक आशाजनक दिखते हैं। इसने एजेंटों को डेड एंड से निकलने और अधिक विश्वसनीय रूप से बेहतर समाधान खोजने में मदद की।
परिणाम: अधिक सोना, कम बर्बादी
परिणाम प्रभावशाली थे। केवल एजेंटों के काम करने के तरीके को बदलकर, उन्होंने अधिक शक्तिशाली कंप्यूटर दिमाग की आवश्यकता के बिना समस्याओं को हल करने में बहुत बेहतर प्रदर्शन किया।
- दुगना सोना: एक एजेंट (AIDE) के लिए, "गोल्ड मेडल" समाधानों (सभी मानवीय प्रयासों के शीर्ष 10%) की संख्या लगभग दोगुनी हो गई, जो 22 से बढ़कर 38 हो गई।
- कोई विफलता नहीं: "डिबग कंसल्टेंट" इतना प्रभावी था कि इसने AIDE के लिए सभी विफल रन को समाप्त कर दिया। पहले, 90 में से 17 प्रयास बिना किसी समाधान के समाप्त हुए; सुधार के बाद, प्रत्येक प्रयास ने एक वैध परिणाम दिया।
- तेजी से शुरुआत: एजेंटों ने लगभग तुरंत अपना पहला काम करने वाला समाधान पा लिया। पुराने सिस्टम में, एक काम करने वाला कोड पाने में औसतन 6 स्टेप्स लगते थे; कंसल्टेंट के साथ, इसमें 0 स्टेप्स लगे क्योंकि कंसल्टेंट ने उन्हें शुरू करने से पहले ही नियम दे दिए थे।
- बेहतर समाधान: क्योंकि एजेंट बग्स पर समय बर्बाद नहीं कर रहे थे, इसलिए उनके पास जटिल, उच्च-गुणवत्ता वाले मॉडल बनाने के लिए अधिक समय था। उदाहरण के लिए, एक प्रतियोगिता में, पुराने एजेंट ने एक साधारण मॉडल बनाया और 0.87 का स्कोर प्राप्त किया। नए एजेंट ने, अधिक समय के साथ इटरेशन करने के कारण, एक परिष्कृत "एंसेम्बल" (साथ मिलकर काम करने वाली मॉडलों की एक टीम) बनाया और स्कोर को बढ़ाकर 0.95 कर दिया।
यह पेपर सुझाव देता है कि वर्तमान एजेंट अपनी क्षमता से बहुत नीचे काम कर रहे हैं। वे इसलिए विफल नहीं हो रहे हैं क्योंकि वे पर्याप्त स्मार्ट नहीं हैं; वे इसलिए विफल हो रहे हैं क्योंकि वे अव्यवस्थित हैं। उन्हें एक साझा स्मृति, एक सख्त कोच और रास्तों को चुनने का एक स्मार्ट तरीका देकर, हम बर्बाद हुई कंप्यूटिंग शक्ति के एक विशाल हिस्से को वापस पा सकते हैं। यह पता चला है कि कभी-कभी, AI को स्मार्ट बनाने का सबसे अच्छा तरीका बस उसे अपने नोट्स साझा करना सिखाना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।