Evo-Bench: Can Language Models Improve Agent Harness?
यह शोध पत्र Evo-Bench प्रस्तुत करता है, जो भाषा मॉडलों की अपने ऑपरेटिंग हार्नेस को स्वायत्त रूप से विकसित करने की अंतर्निहित क्षमता को अलग करने और मूल्यांकन करने के लिए डिज़ाइन किया गया पहला बेंचमार्क है, जो महत्वपूर्ण प्रदर्शन लाभ और हस्तांतरणीय तर्क संरचनाओं को प्रकट करता है और अत्यधिक विशिष्ट वर्कफ़्लो की आवश्यकता वाले कार्यों में डोमेन-विशिष्ट चुनौतियों को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक सुपर-स्मार्ट रोबोट दिमाग बनाया है। यह लगभग किसी भी अन्य व्यक्ति से बेहतर पढ़ सकता है, लिख सकता है और पहेलियाँ सुलझा सकता है। लेकिन इसमें एक पेंच है: यह दिमाग एक प्रतिभाशाली लेकिन अनाड़ी शेफ की तरह है। इसके पास सभी सामग्रियाँ (ज्ञान) तो हैं, लेकिन खाना बनाने के लिए कोई रेसिपी (निर्देश) नहीं है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इस "रेसिपी" को एजेंट हार्नेस (agent harness) कहा जाता है। यह उन नियमों, उपकरणों और वर्कफ़्लो का समूह है जो एआई को यह बताते हैं कि अपने दिमाग का उपयोग काम पूरा करने के लिए कैसे किया जाए—जैसे कि वेब पर सर्च करना, स्प्रेडशीट को एडिट करना या रिपोर्ट लिखना।
लंबे समय तक, इंसान ही ये रेसिपी लिखते रहे हैं, उन्हें बेहतर बनाने के लिए सावधानीपूर्वक उनमें बदलाव करते रहे हैं। लेकिन क्या होगा अगर एआई खुद अपनी रेसिपी लिख सके? क्या होगा अगर हमें एआई को उसकी गलतियों को सुधारने के लिए बताने के बजाय, एआई खुद अपनी विफलताओं को देख सके, यह पता लगा सके कि क्या गलत हुआ, और बेहतर बनने के लिए अपने निर्देशों को फिर से लिख सके? यह वह बड़ा सवाल है जो वैज्ञानिक पूछ रहे हैं: क्या एआई वास्तव में खुद को एक बेहतर कार्यकर्ता बनाने के लिए खुद को सिखा सकता है, या इसे बस एक इंसान के हाथ पकड़ने की ज़रूरत है? यह पेपर सीधे उसी रहस्य में उतरता है, और यह परीक्षण करता है कि क्या एआई अपने स्वयं के भाग्य का स्वामी बनने के लिए अपना खुद का "ऑपरेटिंग सिस्टम" विकसित कर सकता है।
द ग्रेट एआई सेल्फ-इम्प्रूवमेंट एक्सपेरिमेंट (महान एआई आत्म-सुधार प्रयोग)
मिलिए Evo-Bench से, जो विशेष रूप से यह परीक्षण करने के लिए डिज़ाइन किया गया पहला "जिम" है कि क्या एआई अपने सॉफ़्टवेयर को अपग्रेड कर सकता है। इसे एक वीडियो गेम की तरह समझें जहाँ पात्र केवल अनुभव अंक (experience points) प्राप्त करके लेवल अप नहीं करता; इसके बजाय, पात्र को अधिक शक्तिशाली बनने के लिए अपने स्वयं के कोड को फिर से लिखने की अनुमति दी जाती है। शोधकर्ताओं ने तीन अलग-अलग प्रकार के "मिशनों" के साथ एक नियंत्रित वातावरण तैयार किया: सर्च (Search) (इंटरनेट पर जानकारी ढूँढना), ऑफिस (Office) (जटिल दस्तावेज़ों और स्प्रेडशीट का प्रबंधन करना), और जनरल (General) (जटिल, खुले अंत वाले कार्यों का मिश्रण संभालना)।
इस प्रयोग में, उन्होंने विभिन्न एआई मॉडलों को निर्देशों का एक बुनियादी, सरल सेट (एक "सीड हार्नेस") और समय एवं कंप्यूटर पावर का एक सख्त बजट दिया। एआई का काम एक स्वायत्त इंजीनियर की तरह कार्य करना था: यह देखना कि वह कहाँ विफल हुआ, अनुमान लगाना कि क्यों, और फिर इसे ठीक करने के लिए अपने स्वयं के कोड को फिर से लिखना। उन्होंने केवल एआई को अनुमान लगाने के लिए नहीं छोड़ा; उन्होंने इसे अंतिम, गुप्त "इवैल्यूएशन" (मूल्यांकन) सेट का सामना करने से पहले एक "वैलिडेशन" (पुष्टि) सेट के कार्यों पर अपने सुधारों को साबित करने के लिए मजबूर किया। इसने यह सुनिश्चित किया कि एआई केवल उत्तरों को रट नहीं रहा है, बल्कि वास्तव में बेहतर उपकरण बनाना सीख रहा है।
परिणाम: प्रतिभा और गड़बड़ियों का एक मिला-जुला संगम
परिणाम उतार-चढ़ाव से भरे रहे। शीर्ष प्रदर्शन करने वाले एआई मॉडल, जैसे कि GPT-5.6 Sol और Claude Opus 4.8, ने दिखाया कि वे वास्तव में खुद को सुधारना सीख सकते हैं। वे अपने शुरुआती बिंदु से 16.6 अंक की भारी बढ़त हासिल करने में सफल रहे, और उन प्रणालियों के स्तर के बहुत करीब पहुँच गए जिन्हें बनाने में इंसानों ने सालों की इंजीनियरिंग की है।
हालाँकि, यह कहानी केवल "एआई की जीत" वाली सरल कहानी नहीं है। पेपर में पाया गया कि एआई की आत्म-सुधार की क्षमता इस बात पर बहुत अधिक निर्भर करती है कि वह क्या करने की कोशिश कर रहा है:
- सर्च टास्क (Search Tasks): एआई यहाँ एक सुपरस्टार था। उसने वेब पर नेविगेट करने और अव्यवस्थित डेटा को साफ करने का तरीका इतनी अच्छी तरह से खोजा कि वह लगभग मानव विशेषज्ञों के बराबर पहुँच गया।
- जनरल टास्क (General Tasks): इन व्यापक, रचनात्मक चुनौतियों में, एआई ने वास्तव में मानव-निर्मित प्रणालियों को पछाड़ दिया। उसने सोचने के ऐसे नए तरीके विकसित किए जिनके बारे में इंसानों ने नहीं सोचा था।
- ऑफिस टास्क (Office Tasks): यह एआई का कमजोर पक्ष था। जब काम में बहुत विशिष्ट, कठोर वर्कफ़्लो की आवश्यकता थी (जैसे जटिल स्प्रेडशीट को संभालना), तो एआई संघर्ष करता रहा। वह आवश्यक सटीक चरणों को नहीं समझ सका, और अक्सर अटक गया या छोटी, दोहराव वाली गलतियाँ करता रहा।
"अर्ली सैचुरेशन" (शीघ्र संतृप्ति) का जाल
सबसे दिलचस्प खोजों में से एक वह घटना है जिसे लेखक "अर्ली सैचुरेशन" (early saturation) कहते हैं। कल्पना कीजिए कि एक छात्र परीक्षा दे रहा है। वह कड़ी मेहनत करता है, पहली बार में ही एक शानदार स्कोर प्राप्त करता है, और फिर और अधिक अध्ययन करने का निर्णय लेता है। लेकिन बेहतर होने के बजाय, वह अधिक सोचने लगता है और गलती से अपने उत्तरों को और खराब कर देता है। पेपर सुझाव देता है कि कई एआई मॉडल बहुत जल्दी एक "स्वीट स्पॉट" पर पहुँच जाते हैं, एक बेहतरीन समाधान ढूंढ लेते हैं, लेकिन फिर बाद के दौरों में उसके साथ छेड़छाड़ करना जारी रखते हैं, जिससे अनजाने में वह चीज़ टूट जाती है जो काम कर रही थी। वे वास्तव में एक पूर्ण प्रणाली खोजने से पहले ही अपना समय या धैर्य खो देते हैं।
प्रतिभा की कीमत
पेपर ने इस आत्म-सुधार की कीमत पर भी नज़र डाली। यह पता चला है कि सर्वोत्तम परिणाम प्राप्त करना महंगा है। शीर्ष प्रदर्शन करने वाले एआई को इस प्रयोग के माध्यम से चलाने के लिए **40 से कम में अच्छे परिणाम हासिल किए। यह एक "पारेटो फ्रंटियर" (Pareto frontier) का सुझाव देता है—एक ट्रेड-ऑफ कर्व जहाँ आपको पूर्णता के अंतिम कुछ अंकों के लिए बहुत सारा पैसा खर्च करना पड़ता है।
निष्कर्ष
तो, क्या लैंग्वेज मॉडल्स अपने स्वयं के एजेंट हार्नेस में सुधार कर सकते हैं? हाँ, लेकिन सीमाओं के साथ। पेपर दिखाता है कि एआई खुले अंत वाले और सर्च-आधारित कार्यों के लिए खुद को फिर से आविष्कार करने में बहुत अच्छा हो रहा है, और कभी-कभी मानव इंजीनियरों को भी मात दे रहा है। लेकिन उन कार्यों के लिए जिनमें कठोर, विशिष्ट प्रक्रियाओं की आवश्यकता होती है, उसे अभी भी रास्ता दिखाने के लिए एक मानवीय हाथ की आवश्यकता है। शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि हम वास्तविक एआई आत्म-विकास की पहली चिंगारी देख रहे हैं, लेकिन हम अभी तक वहाँ नहीं पहुँचे हैं। एआई एक प्रतिभाशाली प्रशिक्षु की तरह है जो एक नई कुकिंग तकनीक तो आविष्कार कर सकता है, लेकिन उसे प्याज काटने का सटीक तरीका बताने के लिए अभी भी एक मास्टर शेफ की आवश्यकता है। यह नया बेंचमार्क, Evo-Bench, हमें एक स्पष्ट मानचित्र देता है कि आज एआई कहाँ खड़ा है और कल उसे कहाँ जाने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।