HarnessCompass: Guiding Automatic Harness Evolution toward Generalizable and Effective Agent Harnesses
HarnessCompass एक नवीन स्वचालित हार्नेस इवोल्यूशन फ्रेमवर्क है जो कार्य-अज्ञेय (task-agnostic) बाधाओं को लागू करके, सक्रिय एजेंट फीडबैक को एकीकृत करके और घटक अनुकूलन को अलग करके एजेंट के प्रदर्शन और सामान्यीकरण को बढ़ाता है, जिससे मौजूदा तरीकों की तुलना में SWE-bench Verified पर बेहतर परिणाम प्राप्त होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक शानदार, अत्यंत बुद्धिमान रोबोट मस्तिष्क बनाया है। यह किताबें पढ़ सकता है, कोड लिख सकता है और लगभग किसी भी अन्य व्यक्ति से बेहतर पहेलियाँ सुलझा सकता है। लेकिन इसमें एक पेच है: यह मस्तिष्क एक ऐसे जीनियस की तरह है जो कभी अपने कमरे से बाहर नहीं निकला है। यह बाहरी दुनिया से बात करना नहीं जानता, इसे नहीं पता कि पेचकश (screwdriver) का उपयोग कैसे किया जाता है, या फंस जाने पर मदद कैसे मांगी जाती है। इस मस्तिष्क को वास्तविक दुनिया में कुछ करने के योग्य बनाने के लिए, आपको इसके लिए एक "शरीर" और एक "कंट्रोल पैनल" बनाना होगा। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इस कंट्रोल पैनल को हार्नेस (harness) कहा जाता है। यह वह सॉफ्टवेयर लेयर है जो एआई (AI) को बताती है कि कंप्यूटर स्क्रीन को कैसे देखना है, वह किन उपकरणों का उपयोग कर सकता है, और चीजें गलत होने पर उसे कैसे प्रतिक्रिया देनी है। इसे एआई के अनियंत्रित विचारों और कंप्यूटर के कठोर नियमों के बीच एक अनुवादक के रूप में समझें।
लंबे समय तक, इंजीनियरों को इन कंट्रोल पैनल्स को हाथ से बनाना पड़ता था, उन्हें एक मैकेनिक की तरह ट्यून करना पड़ता था जो रेस कार को ट्यून करता है। लेकिन जैसे-जैसे एआई मस्तिष्क अधिक स्मार्ट होते जा रहे हैं, पुराने कंट्रोल पैनल्स बाधा (bottleneck) बनते जा रहे हैं। वे उनके साथ तालमेल नहीं बिठा पा रहे हैं। इसलिए, वैज्ञानिकों ने एआई को अपने स्वयं के कंट्रोल पैनल को स्वचालित रूप से ठीक करने देने की कोशिश शुरू की। उन्होंने "मेटा-एजेंट्स" (छोटे पर्यवेक्षक) बनाए जो एआई के काम पर नज़र रखते हैं, देखते हैं कि वह कहाँ विफल होता है, और उसे बेहतर बनाने के लिए नियमों को फिर से लिखने का प्रयास करते हैं। यह एक सपने जैसा लगता है, लेकिन एक समस्या है: ये पर्यवेक्षक अक्सर अपनी चतुराई के कारण ही गड़बड़ कर जाते हैं। वे सामान्य कौशल सीखने के बजाय विशिष्ट परीक्षण प्रश्नों को रटने लगते हैं, बिल्कुल उस छात्र की तरह जो अभ्यास क्विज़ के उत्तर तो रट लेता है लेकिन वास्तविक परीक्षा में फेल हो जाता है क्योंकि प्रश्न थोड़े अलग होते हैं। वे गलत चीजों के लिए गलतियों का दोष भी मढ़ते हैं और सब कुछ एक साथ ठीक करने की कोशिश करते हैं, जिससे अक्सर सिस्टम और भी भ्रमित हो जाता है।
यहीं पर हार्नेस-कम्पास (HarnessCompass) नामक एक नया ढांचा आता है। इसके पीछे के शोधकर्ताओं ने महसूस किया कि एक वास्तव में स्मार्ट और अनुकूलन योग्य कंट्रोल पैनल बनाने के लिए, आप केवल पर्यवेक्षक को बेतहाशा दौड़ने की अनुमति नहीं दे सकते। आपको उसे एक दिशा-सूचक यंत्र (compass) देना होगा। एआई को कोई भी बदलाव करने की छूट देने के बजाय, हार्नेस-कम्पास उसे तीन सख्त नियमों का पालन करने के लिए मजबूर करता है। पहला, यह "ओवरफिटिंग" (overfitting) पर प्रतिबंध लगाता है। एआई को विशिष्ट समस्याओं के लिए उत्तर हार्ड-कोड करने की अनुमति नहीं है; इसे सामान्य सिद्धांतों को सीखना होगा जो किसी भी समस्या के लिए काम करें, न कि केवल उन्हीं के लिए जिनका वह अभ्यास कर रहा है। दूसरा, यह एआई को बोलने के लिए कहता है। केवल अंतिम स्कोर देखने के बजाय, सिस्टम एआई से पूछता है, "हे, तुम कहाँ फंस गए थे? तुम्हें किस उपकरण की कमी महसूस हुई?" यह पर्यवेक्षक को बाहर से केवल दुर्घटना को देखने के बजाय, संघर्ष का प्रथम-व्यक्ति दृष्टिकोण प्रदान करता है। तीसरा, यह एआई को इंजन, टायर और स्टीयरिंग व्हील सबको एक साथ ठीक करने से रोकता है। इसके बजाय, यह उन्हें एक-एक करके अनुकूलित (optimize) करता है, यह सुनिश्चित करते हुए कि इंजन को ठीक करने वाला सुधार गलती से ब्रेक को खराब न कर दे।
इसके परिणाम प्रभावशाली हैं। जब इसे SWE-bench Verified नामक वास्तविक दुनिया की कोडिंग चुनौतियों के एक विशाल सेट पर परखा गया, तो हार्नेस-कम्पास ने एक एआई एजेंट की सफलता दर को केवल 5 विकास चरणों (evolution rounds) में 54% से बढ़ाकर 66% कर दिया। यह एक बहुत बड़ी छलांग है, और यह पिछले तरीकों की तुलना में बहुत तेजी से हुआ, जिन्हें 63% के निचले स्कोर तक पहुँचने के लिए 20 चरणों की आवश्यकता थी। लेकिन असली जादू केवल गति नहीं है; यह सामान्यीकरण (generalization) है। जब शोधकर्ताओं ने एक विशिष्ट एआई मॉडल के लिए विकसित किए गए कंट्रोल पैनल को एक पूरी तरह से अलग एआई मॉडल (जिसे उसने पहले कभी नहीं देखा था) पर परीक्षण किया, तब भी यह मूल सेटअप से बेहतर काम कर रहा था। यह सुझाव देता है कि हार्नेस-कम्पास ने केवल एआई को परीक्षण रटना नहीं सिखाया; बल्कि इसने वास्तव में उसे सामान्य रूप से एक बेहतर इंजीनियर बनना सिखाया। यह पेपर सुझाव देता है कि इन अनुशासन की परतों को जोड़कर—परिवर्तनों को सीमित करके, एआई की अपनी शिकायतों को सुनकर, और हिस्सों को अलग-अलग ठीक करके—हम ऐसे एआई सिस्टम बना सकते हैं जो न केवल शक्तिशाली हैं, बल्कि वास्तविक और अप्रत्याशित दुनिया को संभालने के लिए पर्याप्त विश्वसनीय भी हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।