Scaffolding Minds: Optimizing Latent Visual Target Representations for Multimodal Reasoning
यह शोधपत्र "स्कैफोल्डिंग माइंड्स" (Scaffolding Minds) का प्रस्ताव करता है, जो सुपरवाइज्ड फाइन-ट्यूनिंग में बेहतर लेटेंट टारगेट रिप्रेजेंटेशन के लिए एक समर्पित स्कैफोल्डिंग एनकोडर पेश करके और प्रभावी एक्सप्लोरेशन को सक्षम करने के लिए सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) सैंपलर के लिए माध्य और विचरण दोनों को सीखकर मल्टीमॉडल रीजनिंग को अनुकूलित करता है, जिससे यह विभिन्न विजुअल रीजनिंग कार्यों में मौजूदा बेसलाइनों से काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस लंबे समय से दुनिया को उसी तरह देखने के लिए संघर्ष कर रहा है जैसे इंसान देखते हैं। जब एक कंप्यूटर किसी तस्वीर को देखता है, तो वह अक्सर वस्तुओं की पहचान कर सकता है, लेकिन वह उनके बीच के संबंधों को समझने या किसी जटिल दृश्य पहेली के माध्यम से तर्क करने में अक्सर विफल रहता है। वर्षों से, शोधकर्ताओं ने मशीनों को ज़ोर से "सोचना" सिखाकर इसे ठीक करने की कोशिश की है, जिससे उन्हें उत्तर देने से पहले टेक्स्ट में चरण-दर-चरण स्पष्टीकरण लिखने के लिए मजबूर किया जाता है। हालांकि यह मदद करता है, लेकिन यह अक्सर मशीन को समृद्ध, विस्तृत दृश्य जानकारी को उथले शब्दों में बदलने के लिए मजबूर करता है, जिससे रास्ते में महत्वपूर्ण बारीकियां खो जाती हैं। एक नया दृष्टिकोण इस समस्या को हल करने का प्रयास करता है, जिसमें मशीन को एक छिपी हुई, आंतरिक भाषा रखने की अनुमति दी जाती है—डेटा का एक निरंतर प्रवाह जो केवल कंप्यूटर के मस्तिष्क के भीतर मौजूद होता है। यह विधि, जिसे 'लेटेंट रीजनिंग' (latent reasoning) कहा जाता है, मॉडल को वाक्यों में वर्णन किए बिना दृश्य विवरणों को थामे रखने की अनुमति देती है। हालांकि, इस उन्नत तकनीक ने भी एक दीवार से टक्कर खाई है: मशीन द्वारा उत्पन्न आंतरिक विचार अक्सर सामान्य, पूर्व-निर्मित उपकरणों पर आधारित होते हैं जिन्हें उस विशिष्ट समस्या के लिए डिज़ाइन नहीं किया गया था जिसके लिए वे काम कर रहे हैं, और मशीन सर्वोत्तम समाधान खोजने के लिए सोचने के विभिन्न तरीकों को खोजने में संघर्ष करती है।
गूगल डीपमाइंड और यूनिवर्सिटी ऑफ कैलिफोर्निया, सैन डिएगो के शोधकर्ताओं की एक टीम ने इन बाधाओं को दूर करने के लिए 'स्कैफोल्डिंग माइंड्स' (Scaffolding Minds) नामक एक नया ढांचा विकसित किया है। उनका कार्य उन दो विशिष्ट चरणों पर केंद्रित है जहाँ ये आंतरिक तर्क प्रणालियाँ आमतौर पर विफल हो जाती हैं। पहले, प्रारंभिक शिक्षण चरण के दौरान, मशीन को आमतौर पर एक मानक, 'ऑफ-द-शेल्फ' विज़न एनकोडर के आउटपुट की नकल करने के लिए सिखाया जाता है—एक ऐसा उपकरण जिसे बिल्लियों, कारों और परिदृश्यों को पहचानने के लिए लाखों सामान्य छवियों पर प्रशिक्षित किया गया है। समस्या यह है कि यह सामान्य उपकरण उस विशिष्ट तर्क कार्य के लिए अनुकूलित नहीं है जिसे मशीन हल करने की कोशिश कर रही है। यह अप्रासंगिक दृश्य विवरणों को सुरक्षित रख सकता है जबकि पहेली को हल करने के लिए आवश्यक महत्वपूर्ण साक्ष्यों को मिस कर सकता है। दूसरा, जब मशीन परीक्षण और त्रुटि के माध्यम से खुद को सुधारने की कोशिश करती है, तो मौजूदा तरीके अक्सर उसे विचार के एक एकल पथ पर मजबूती से टिके रहने के लिए मजबूर करते हैं या केवल उसके लिखित उत्तरों को समायोजित करने की अनुमति देते हैं, जिससे आंतरिक दृश्य तर्क अपरिवित्त रहता है। यह मशीन को समस्या को हल करने के नए, बेहतर तरीके खोजने से रोकता है।
इसे ठीक करने के लिए, शोधकर्ताओं ने दो-भागों वाली एक प्रणाली पेश की है जो मशीन के आंतरिक विचारों के लिए एक विशेष रूप से निर्मित मार्गदर्शक के रूप में कार्य करती है। पहले चरण में, एक सामान्य उपकरण पर भरोसा करने के बजाय, उन्होंने एक समर्पित "स्कैफोल्डिंग एनकोडर" को प्रशिक्षित किया। इसे एक विशेष ट्यूटर के रूप में समझें: जो यह सीखता है कि विशिष्ट कार्य के लिए किस प्रकार के आंतरिक नोट्स सबसे सहायक होंगे, न कि केवल एक सामान्य शब्दकोश की नकल करता है। यह ट्यूटर एक सहायक छवि (helper image)—जो प्रशिक्षण के दौरान ही प्रदान की जाने वाली एक दृश्य सहायता है—को अनुकूलित आंतरिक टोकन के सेट में परिवर्तित करता है जो तर्क चुनौती के लिए पूरी तरह से ट्यून किए गए हैं। एक बार जब मशीन अपने आप ये अनुकूलित नोट्स बनाना सीख जाती है, तो ट्यूटर को हटा दिया जाता है, और मशीन बिना किसी मदद के काम करने के लिए तैयार होती है।
दूसरे चरण में, शोधकर्ताओं ने उन कठोर नियमों को बदल दिया जो आमतौर पर मशीन के आंतरिक विचारों को नियंत्रित करते हैं, और इसके स्थान पर एक लचीला, सीखने-आधारित 'सैंपलर' (sampler) रखा। मशीन को एक एकल, पूर्व निर्धारित पथ पर रहने के लिए मजबूर करने के बजाय, यह नया तरीका मशीन को अभ्यास के दौरान अपने आंतरिक विचारों के विभिन्न संस्करणों को नमूना लेने (sample) की अनुमति देता है। यह अपने विचारों के "मीन" (mean) और "वैरिएंस" (variance) को समायोजित करना सीखता है, जो प्रभावी रूप से संभावनाओं की एक विस्तृत श्रृंखला का पता लगाने की अनुमति देता है ताकि यह देखा जा सके कि कौन सा आंतरिक पथ सही उत्तर की ओर ले जाता है। यह अन्वेषण पुरस्कारों (rewards) द्वारा निर्देशित होता है, जो मशीन को केवल पहले मिलने वाले पथ पर समझौता करने के बजाय सबसे प्रभावी तर्क पथ खोजने के लिए प्रोत्साहित करता है।
इस दृष्टिकोण के परिणामों का परीक्षण 'फ्रोजनलेक' (FrozenLake) नामक एक स्थानिक नियोजन खेल सहित कई चुनौतीपूर्ण दृश्य तर्क कार्यों पर किया गया था, जहाँ एक पात्र को लक्ष्य तक पहुँचने के लिए बर्फ और छेदों के ग्रिड के माध्यम से नेविगेट करना होता है। मानक 8x8 ग्रिड पर, इस नई विधि ने पिछले सबसे मजबूत प्रयासों की तुलना में मशीन की सटीकता में 9.5 प्रतिशत का सुधार किया। जैसे-जैसे पहेलियाँ अधिक कठिन होती गईं, ग्रिड 32x32 तक बढ़ गया, और लाभ काफी बढ़ गया, जहाँ नया सिस्टम पिछले सर्वोत्तम तरीकों से 19 प्रतिशत बेहतर प्रदर्शन कर गया। शोधकर्ताओं ने सूक्ष्म अवलोकन और तुलना की आवश्यकता वाले नौ अन्य दृश्य तर्क बेंचमार्क पर भी इस प्रणाली का परीक्षण किया। इन सभी परीक्षणों में, इस पद्धति ने लगातार प्रदर्शन में सुधार किया, जिससे औसत सटीकता में 5.2 प्रतिशत की वृद्धि हुई।
अध्ययन ने स्पष्ट रूप से इस विचार को खारिज कर दिया कि तर्क प्रक्रिया के दौरान नई छवियां उत्पन्न करना सफलता के लिए आवश्यक है। अन्य तरीके जो मशीन को मदद करने के लिए मध्यवर्ती चित्र बनाने की कोशिश करते हैं, वे अक्सर उच्च कम्प्यूटेशनल लागत और धीमी गति से ग्रस्त होते हैं। स्कैफोल्डिंग माइंड्स दृष्टिकोण ने बिना कोई अतिरिक्त छवि उत्पन्न किए श्रेष्ठ परिणाम प्राप्त किए, जिससे यह सिद्ध हुआ कि दृश्य डेटा के आंतरिक, छिपे हुए प्रतिनिधित्व को अनुकूलित करना दृश्य मध्यवर्ती चरणों को बनाने की तुलना में अधिक प्रभावी है। शोधकर्ताओं ने पाया कि दो सुधार—आंतरिक नोट्स के लिए कस्टम-प्रशिक्षित ट्यूटर और उन नोट्स का लचीला अन्वेषण—दोनों मिलकर सबसे अच्छा काम करते हैं। बिना कस्टम ट्यूटर के, लचीला अन्वेषण अपनी पूरी क्षमता तक नहीं पहुँच सका, और बिना अन्वेषण के, कस्टम ट्यूटर सर्वोत्तम समाधान के लिए अपने पथ को परिष्कृत नहीं कर सका।
यह कार्य यह सुझाव देता है कि मशीन के आंतरिक लक्ष्य की गुणवत्ता उतनी ही महत्वपूर्ण है जितना कि वह तरीका जिसका उपयोग वह वहां तक पहुँचने के लिए करती है। मशीन को अपने स्वयं के अनुकूलित आंतरिक नोट्स उत्पन्न करने के लिए सिखाकर और फिर उसे उन नोट्स के विभिन्न संस्करणों का पता लगाने की अनुमति देकर, शोधकर्ताओं ने एक ऐसी प्रणाली बनाई है जो जटिल दृश्य समस्याओं को अधिक सटीकता और विश्वसनीयता के साथ हल कर सकती है। निष्कर्ष बताते हैं कि भविष्य के दृश्य तर्क में प्रगति मशीनों को अधिक "देखने" या बेहतर "बोलने" के बजाय, उन्हें उनके छिपे हुए, आंतरिक विचारों को इस तरह से संरचित करने के बारे में सिखाने पर निर्भर करेगी जो कार्य के साथ पूरी तरह से संरेखित हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।