Cross-Benchmark Generalization in Long-Horizon Agents

द ग्रेट एआई डिटेक्टिव: एक रोबोट को केवल फायदा उठाना नहीं, बल्कि सोचना कैसे सिखाएं

कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन शरारती छात्र को एक जटिल भूलभुलैया (maze) सुलझाना सिखा रहे हैं। यदि आप उन्हें केवल एक विशिष्ट भूलभुलैया में अभ्यास करने देते हैं जिसका लेआउट बहुत ही अनुमानित है, तो वे नेविगेट करना नहीं सीख पाएंगे; इसके बजाय, वे बस यह याद कर सकते हैं कि "लाल ईंट पर बाईं ओर मुड़ने से हमेशा निकास मिलता है।" उन्होंने नेविगेशन का कौशल नहीं सीखा है; उन्होंने बस उस एक कमरे के लिए एक विशेष ट्रिक सीखी है। यह आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक बहुत बड़ी समस्या है, विशेष रूप से "एजेंट्स" के लिए—ऐसे प्रोग्राम जिन्हें उड़ान बुक करने, कोड लिखने या फाइलों को व्यवस्थित करने जैसे कार्य करने के लिए डिज़ाइन किया गया है। ये एजेंट अक्सर अपने प्रशिक्षण कार्यों में इसलिए बहुत अच्छे हो जाते हैं क्योंकि वे परीक्षण वातावरण के सूक्ष्म, आकस्मिक सुरागों का फायदा उठाते हैं, जैसे कि कंप्यूटर द्वारा अंक गिनने का एक विशिष्ट तरीका या निर्देशों में कोई अजीब पैटर्न।

बड़ा सवाल जो वैज्ञानिक पूछ रहे हैं वह यह है: क्या हम एक AI को काम करने का एक वास्तविक तरीका सिखा सकते हैं जो उसे उन समस्याओं को हल करने में मदद करे जिन्हें उसने पहले कभी नहीं देखा है? यह एक ऐसे छात्र के बीच का अंतर है जो अभ्यास परीक्षा के उत्तर रट लेता है और एक ऐसे छात्र के बीच जो गणित को इतना अच्छी तरह समझता है कि वह एक बिल्कुल नए प्रकार की समस्या को हल कर सके। यह शोध पत्र उसी सटीक रहस्य की गहराई में जाता है। यह पूछता है: यदि हम एक AI को कई ऑफिस-शैली के कार्यों (जैसे कैलेंडर और स्प्रेडशीट प्रबंधित करना) पर प्रशिक्षित करते हैं, तो क्या वह वास्तव में पूरी तरह से अलग कामों, जैसे कंप्यूटर कोड को ठीक करने में बेहतर हो जाएगा, या उसने केवल ऑफिस कार्यों का फायदा उठाना सीखा है?

प्रयोग: ऑफिस की अराजकता पर एक डिजिटल इंटर्न को प्रशिक्षित करना

Surge AI के शोधकर्ताओं ने इस विचार को परखने के लिए Qwen3.5 नामक एक बहुत बड़े, ओपन-सोर्स AI मॉडल का उपयोग किया। इस मॉडल को एक सुपर-स्मार्ट डिजिटल इंटर्न के रूप में सोचें। वे देखना चाहते थे कि क्या वे इस इंटर्न को पेशेवर काम की 27 विभिन्न श्रेणियों से जुड़े 363 लंबे, जटिल कार्यों के एक विशिष्ट सेट पर प्रशिक्षित कर सकते हैं—जैसे स्प्रेडशीट का उपयोग करना, कैलेंडर प्रबंधित करना, वेब ब्राउज़ करना और फाइलों को संभालना। उन्होंने मॉडल कॉन्टेक्स्ट प्रोटोकॉल (MCP) नामक एक प्रणाली का उपयोग किया, जो इस इंटर्न को विभिन्न ऐप्स के एक विशाल टूलबॉक्स देने जैसा है जिनसे वह बात कर सकता है।

महत्वपूर्ण रूप से, उन्होंने यह सुनिश्चित किया कि इंटर्न ने प्रशिक्षण के दौरान कभी भी सॉफ्टवेयर इंजीनियरिंग कार्यों (जैसे कोड में बग ठीक करना) को नहीं देखा। लक्ष्य यह देखना था कि क्या एक अच्छा ऑफिस असिस्टेंट बनने का प्रशिक्षण इस इंटर्न को एक बेहतर कोडर भी बना देगा। ऐसा करने के लिए, उन्होंने दो-चरणीय प्रशिक्षण पद्धति का उपयोग किया। पहले, उन्होंने इंटर्न को इन ऑफिस कार्यों को हल करने के उदाहरण दिखाए (सुपरवाइज्ड फाइन-ट्यूनिंग)। फिर, उन्होंने इंटर्न को अपने आप कार्य करने दिया और उसके प्रदर्शन के आधार पर उसे पुरस्कार दिए, जिससे उसे काम करने का सबसे अच्छा तरीका खोजने के लिए प्रोत्साहित किया गया (रीइन्फोर्समेंट लर्निंग)।

परिणाम: एक आश्चर्यजनक अपग्रेड

जब उन्होंने नए प्रशिक्षित इंटर्न का परीक्षण किया, तो परिणाम आश्चर्यजनक रूप से सकारात्मक रहे। भले ही इंटर्न ने कभी कोडिंग का अभ्यास नहीं किया था, वह सॉफ्टवेयर इंजीनियरिंग बेंचमार्क में काफी बेहतर हो गया। विशेष रूप से, दो प्रमुख कोडिंग टेस्ट, SWE-Bench Pro और Terminal-Bench 2 पर, इसके प्रदर्शन में क्रमशः 5.8 प्रतिशत अंक और 2.8 प्रतिशत अंक का सुधार हुआ। यह अन्य टूल-यूज़ टेस्ट जैसे Toolathlon और BFCL-V4 में भी बेहतर हुआ।

लेखक सावधानी बरतते हुए कहते हैं कि यह कोई जादुई समाधान या हल की गई समस्या नहीं है। उन्होंने प्रयोग केवल एक बार चलाया, इसलिए वे 100% सांख्यिकीय रूप से आश्वस्त नहीं हो सकते कि ये नंबर दोबारा चलाने पर नहीं बदलेंगे। हालांकि, तथ्य यह है कि मॉडल पांच अलग-अलग बाहरी परीक्षणों में बेहतर हुआ, जिनमें वे भी शामिल थे जिन पर उसे कभी प्रशिक्षित नहीं किया गया था, यह सुझाव देता है कि कुछ वास्तविक हुआ है। मॉडल ने केवल ऑफिस कार्यों को याद नहीं किया; ऐसा लगता है कि उसने काम करने का एक बेहतर "तरीका" या "स्टाइल" सीखा है।

"कैसे": चार नई आदतें

पेपर का सबसे रोमांचक हिस्सा केवल स्कोर नहीं है; बल्कि यह "क्यों" है। शोधकर्ताओं ने प्रशिक्षित मॉडल के व्यवहार की तुलना अन-ट्रेन्ड मॉडल से बहुत बारीकी से की, जैसे एक जासूस दो संदिग्धों के बयानों की तुलना करता है। उन्होंने पाया कि चार विशिष्ट व्यवहार परिवर्तन थे जो दोनों ऑफिस कार्यों और कोडिंग कार्यों में दिखाई दिए:

1. बेहतर लक्ष्य निर्धारण (Better Goal Setting): प्रशिक्षित मॉडल एक बड़े, डरावने कार्य को छोटे, सही चरणों में तोड़ने में बेहतर था। अनुमान लगाने के बजाय, उसने वर्तमान स्थिति को देखा और एक सटीक स्थानीय लक्ष्य बनाया। उदाहरण के लिए, यदि उसे विकास (growth) की गणना करने की आवश्यकता थी, तो उसने शुरू करने से पहले डेटा को सही ढंग से समझने पर ध्यान केंद्रित किया, बजाय इसके कि वह केवल एक फॉर्मूले का अनुमान लगाता।
2. एक बेहतर मानसिक मानचित्र बनाना (Building a Better Mental Map): जब मॉडल को नई जानकारी मिली, तो उसने अपने मन में एक अधिक सटीक "वर्किंग स्टेट" बनाया। यदि उसने कोई फ़ाइल या टूल आउटपुट देखा, तो उसने अगली चाल चलाने के लिए उस जानकारी का उपयोग किया, बजाय इसके कि उसे अनदेखा करे या भूल जाए। यह एक ऐसे शेफ की तरह था जो रेसिपी का आँख बंद करके पालन करने के बजाय, नमक डालने से पहले सॉस को चखकर देखता है।
3. लक्ष्य पर टिके रहना (Staying the Course): जब चीजें गलत हुईं (जो अक्सर होती हैं), तो प्रशिक्षित मॉडल ने बड़े लक्ष्य को खोए बिना छोटी गलती को ठीक करने में बेहतर प्रदर्शन किया। यदि उसने बग ठीक करते समय टाइपो (typo) किया, तो वह टाइपो को ठीक करेगा लेकिन यह याद रखेगा कि मुख्य लक्ष्य अभी भी प्रोग्राम को चालू रखना है, बजाय इसके कि वह भ्रमित होकर पूरे प्रोग्राम को ही बदल दे।
4. अपने काम की दोबारा जाँच करना (Double-Checking the Work): प्रशिक्षित मॉडल अपने काम को पूरा करने के बाद "मैं समाप्त हूँ" कहने से पहले उसकी पुष्टि करने की बहुत अधिक संभावना रखता था। कोडिंग टेस्ट में, प्रशिक्षित मॉडल ने यह जांचने के लिए औपचारिक परीक्षण चलाए कि उसके बदलाव वास्तव में काम कर रहे हैं या नहीं, जबकि अन-ट्रेन्ड मॉडल अक्सर मान लेता था कि वह सही है। प्रशिक्षित मॉडल का टेस्ट चलाने का प्रतिशत 37.5% से बढ़कर 73.3% हो गया।

इसका क्या अर्थ है

यह पेपर सुझाव देता है कि जटिल, लॉन्ग-होरिजन कार्यों पर AI को प्रशिक्षित करके, जहाँ उसे कई अलग-अलग टूल्स का उपयोग करना पड़ता है, हम उसे काम करने का एक "तरीका" सिखा सकते हैं जो पूरी तरह से अलग क्षेत्रों में भी काम आता है। यह किसी को एक अस्त-व्यस्त गैरेज व्यवस्थित करना सिखाने जैसा है; यदि वे व्यवस्थित, सावधान और गहन होने का हुनर सीख जाते हैं, तो वे आश्चर्यजनक रूप से लाइब्रेरी को व्यवस्थित करने में भी बेहतर हो सकते हैं, भले ही उन्होंने कभी किताबों के साथ अभ्यास न किया हो।

हालाँकि, लेखक अपनी सीमाओं के प्रति ईमानदार हैं। वे स्वीकार करते हैं कि कुछ सुधार इसलिए भी हो सकता है क्योंकि उन्होंने मॉडल को "अधिक प्रयास करने" और हार न मानने के लिए प्रोत्साहित किया। उन्होंने यह साबित नहीं किया कि मॉडल ने अपने मस्तिष्क के अंदर इन आदतों को वास्तव में कैसे सीखा, और उन्होंने प्रयोग केवल एक बार चलाया। लेकिन सबूत एक आशाजनक विचार की ओर इशारा करते हैं: यदि हम ऐसे प्रशिक्षण वातावरण डिजाइन करते हैं जो AI को सावधानी से सोचने और अपने काम को सत्यापित करने के लिए मजबूर करते हैं, तो हम ऐसे एजेंट बना सकते हैं जो वास्तव में स्मार्ट और अनुकूलन योग्य हों, न कि केवल विशिष्ट परीक्षणों का फायदा उठाने में बेहतर।