What is Missing from AI Post-Training AI: An Empirical Analysis
यह शोध पत्र तर्क देता है कि यद्यपि एआई एजेंट पूर्व-निर्धारित प्रशिक्षण रणनीतियों को प्रभावी ढंग से निष्पादित कर सकते हैं, लेकिन उनमें प्रशिक्षण के बाद की प्रक्रिया के दौरान अपनी उच्च-स्तरीय रणनीतियों का स्वतः पुनर्मूल्यांकन और संशोधन करने की अंतर्निहित क्षमता का अभाव है, जो अनुभव, मानवीय मार्गदर्शन और अतिरिक्त तर्क संबंधी गणना (reasoning compute) में सुधार के बावजूद एक निरंतर बनी रहने वाली सीमा है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, एक नए प्रकार के कार्यकर्ता का उदय हुआ है: एआई एजेंट। ये केवल प्रश्न पूछने या टेक्स्ट लिखने वाले प्रोग्राम नहीं हैं; ये ऐसी प्रणालियाँ हैं जो समय के साथ जटिल कार्यों की योजना बनाने और उन्हें निष्पादित करने में सक्षम हैं। वे कंप्यूटर कोड लिख सकते हैं, प्रयोग शुरू कर सकते हैं, और अन्य आर्टिफिशियल इंटेलिजेंस मॉडल को प्रशिक्षित भी कर सकते हैं। इस क्षमता ने "एआई के लिए एआई" (AI for AI) के दृष्टिकोण को जन्म दिया है, जहाँ बुद्धिमान प्रणालियाँ निरंतर लूप में खुद को बेहतर बनाती हैं, जिससे संभावित रूप से ऐसी मशीनें बन सकती हैं जो बिना मानवीय हस्तक्षेप के बेहतर मशीनों को डिजाइन करती हैं। इस दृष्टिकोण का परीक्षण करने के लिए, शोधकर्ताओं ने एक विशिष्ट चुनौती निर्धारित की है जहाँ एक एआई एजेंट को एक बुनियादी भाषा मॉडल को लेना है और उसे कठिन कार्यों, जैसे कि गणित की समस्याओं को हल करने या कोड लिखने में बेहतर प्रदर्शन करने के लिए परिष्कृत करना है। उम्मीद यह है कि एजेंट एक कुशल वैज्ञानिक की तरह कार्य करेगा, एक योजना प्रस्तावित करेगा, एक प्रयोग चलाएगा, देखेगा कि क्या गलत हुआ, और फिर कुछ नया करने के प्रयास में अपने दृष्टिकोण को मौलिक रूप से बदलेगा।
त्सिंहहुआ विश्वविद्यालय, रेमिन विश्वविद्यालय चीन, और इलेक्ट्रॉनिक साइंस एंड टेक्नोलॉजी यूनिवर्सिटी ऑफ चाइना के शोधकर्ताओं की एक टीम ने हाल ही में जांच की कि क्या इन एआई एजेंटों में वास्तव में यह वैज्ञानिक लचीलापन मौजूद है। उन्होंने हजारों रिकॉर्ड किए गए सत्रों की जांच की जहाँ विभिन्न एआई एजेंटों ने सात अलग-अलग बेंचमार्क पर भाषा मॉडल को बेहतर बनाने का प्रयास किया, जिसमें ग्रेड-स्कूल गणित से लेकर स्नातक स्तर के वैज्ञानिक तर्क तक शामिल थे। शोधकर्ताओं ने एजेंट द्वारा किए जाने वाले दो प्रकार के कार्यों के बीच अंतर स्पष्ट किया। पहला है निष्पादन (execution): एक चुनी गई योजना को पूरा करने की क्षमता, जैसे कि कोड में बग को ठीक करना, सीखने की गति को समायोजित करना, या डेटा को साफ करना। दूसरा है रणनीति (strategy): परिणामों को देखने और यह निर्णय लेने की क्षमता कि पूरी योजना ही गलत है, और फिर पूरी तरह से एक अलग पद्धति पर स्विच करना। अध्ययन में पाया गया कि जबकि एजेंट पहले प्रकार के कार्य में उल्लेखनीय रूप से अच्छे थे, वे दूसरे प्रकार के कार्य में लगभग पूरी तरह से अक्षम थे।
शोधकर्ताओं ने इन 1,300 से अधिक प्रशिक्षण सत्रों का विश्लेषण किया, जिन्हें पोस्टट्रेनबेंच (PostTrainBench) नामक एक सार्वजनिक डेटासेट में रिकॉर्ड किया गया था। उन्होंने एक चौंकाने वाला पैटर्न पाया: लगभग हर मामले में, एआई एजेंट ने सत्र के पहले कुछ मिनटों के भीतर अपने उच्च-स्तरीय दृष्टिकोण का निर्णय ले लिया और पूरे दस घंटे की अवधि के लिए उस पर अडिग रहा। यदि किसी एजेंट ने 'फुल-पैरामीटर फाइन-ट्यूनिंग' नामक विधि का उपयोग करके मॉडल को सिखाने से शुरुआत की, तो वह उसी विधि के साथ घंटों तक चलता रहेगा, भले ही परिणाम खराब हों। वह लर्निंग रेट बदलने या डेटा को रीफॉर्मेट करने जैसे छोटे-छोटे समायोजन करने में अपना समय बिताएगा, लेकिन वह पूरी तरह से अलग प्रशिक्षण पद्धति पर विचार भी नहीं करेगा। इसके विपरीत, यदि किसी एजेंट ने 'पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग' नामक एक अलग विधि के साथ शुरुआत की, तो वह भी उसी दृष्टिकोण पर अड़ा रहा। रणनीति का चुनाव उस कार्य पर निर्भर करने के बजाय कि वह क्या हल करने की कोशिश कर रहा है, उस विशिष्ट एआई एजेंट के उपयोग पर अधिक निर्भर था। इस "लॉक-इन" का अर्थ था कि एजेंट प्रभावी रूप से एक ही घेरे में घूम रहे थे, एक ही दृष्टिकोण को तब तक परिष्कृत कर रहे थे जब तक कि वह उपयोगी रहना बंद न कर दे।
यह समझने के लिए कि ऐसा क्यों हो रहा था, शोधकर्ताओं ने तीन संभावित स्पष्टीकरणों का परीक्षण किया, और एजेंटों को इस लूप से बाहर निकालने के लिए अपने हस्तक्षेपों को बढ़ाते गए। सबसे पहले, उन्होंने सोचा कि क्या एजेंटों के पास अनुभव की कमी है। उन्होंने एजेंटों को अपने अवलोकनों को रिकॉर्ड करने के लिए एक डिजिटल जर्नल, ओपन-सोर्स परियोजनाओं से प्राप्त कौशल का एक पुस्तकालय, और निदान एवं सुझाव प्रदान करने के लिए एक अलग मूल्यांकनकर्ता एजेंट दिया। इस सेटअप ने एजेंटों की अपने कार्यों को निष्पादित करने की क्षमता में काफी सुधार किया, जिससे गणित और कोडिंग बेंचमार्क पर उनके प्रदर्शन में वृद्धि हुई। हालांकि, इस अतिरिक्त मदद और इस स्पष्ट प्रमाण के बावजूद कि उनका वर्तमान दृष्टिकोण विफल हो रहा है, एजेंटों ने अपनी उच्च-स्तरीय रणनीति बदलने से इनकार कर दिया। वे एक सेटिंग को ट्वीक करने के लिए मूल्यांकनकर्ता की सलाह का पालन तो करेंगे, लेकिन पूरी पद्धति को बदलने के सुझावों को अनदेखा कर देंगे।
इसके बाद, शोधकर्ताओं ने परीक्षण किया कि क्या एजेंटों को बेहतर मार्गदर्शन की आवश्यकता है। उन्होंने एक मानव समीक्षक को पेश किया जो प्रशिक्षण शुरू होने से पहले एजेंट की प्रारंभिक योजना को देखेगा और स्पष्ट रूप से उसे एक अलग रणनीति चुनने के लिए कहेगा। यह शुरुआत में पूरी तरह से काम कर गया; एजेंटों ने नए निर्देशों को समझा और एक अलग योजना को लागू किया। हालांकि, जैसे ही प्रशिक्षण वास्तव में शुरू हुआ, एजेंटों ने जल्दी ही अपनी पुरानी आदतों को अपना लिया। वे स्थानीय समायोजन करने लगे और व्यापक रणनीति पर विचार करना बंद कर दिया, जिससे उन्होंने काम शुरू होते ही मानवीय मार्गदर्शन को प्रभावी रूप से अनदेखा कर दिया। अंत में, शोधकर्ताओं ने परीक्षण किया कि क्या एजेंटों को सोचने के लिए अधिक समय की आवश्यकता है। उन्होंने एजेंटों को अपने निर्णयों पर विचार करने के लिए काफी अधिक कंप्यूटिंग पावर दी। आसान कार्यों पर, इस अतिरिक्त सोचने के समय ने परिणामों को बेहतर बनाने में मदद की। लेकिन सबसे कठिन कार्यों पर, अतिरिक्त शक्ति से लगभग कोई लाभ नहीं हुआ। एजेंटों ने बस अपनी लॉक-इन रणनीति को और अधिक परिष्कृत करने के लिए अतिरिक्त समय का उपयोग किया, बजाय इसके कि उन्हें दिशा बदलने की आवश्यकता थी।
अध्ययन यह निष्कर्ष निकालता है कि स्वचालित एआई अनुसंधान में गायब घटक अनुभव, मार्गदर्शन या कच्ची कंप्यूटिंग शक्ति की कमी नहीं है। एजेंटों में एक नई रणनीति को समझने और कहे जाने पर उसे लागू करने की स्पष्ट क्षमता है। जो चीज उनके पास नहीं है वह है सहजता (spontaneity) से यह पहचानना कि उनका वर्तमान पथ विफल हो रहा है और स्वेच्छा से दिशा बदलने का निर्णय लेना। परिकल्पना प्रस्तावित करने, प्रयोग चलाने और दृष्टिकोण को संशोधित करने का लूप केवल छोटे, स्थानीय सुधारों के स्तर पर ही बंद होता है। समग्र रणनीति के स्तर पर, लूप खुला रहता है। इन एजेंटों की सीमा उनके द्वारा लिए गए पहले निर्णय की गुणवत्ता द्वारा निर्धारित होती है, न कि इस बात से कि वे कितने समय तक काम करते हैं या कितना सोचते हैं। जब तक एआई एजेंट निष्पादन के दौरान रणनीतिक विकल्प को स्वतः पुनः खोलने में सक्षम नहीं होते, वे सक्षम कार्यकर्ता तो बने रहेंगे लेकिन वास्तविक वैज्ञानिक के रूप में कार्य करने में असमर्थ रहेंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।