Quantum Models with Multi-Stage Training for Compositional Concept Generalization
यह शोध पत्र मल्टीमॉडल क्वांटम मशीन लर्निंग के लिए एक बहु-चरणीय प्रशिक्षण ढांचे का प्रस्ताव करता है जो टेंसरों और वेरिएशनल क्वांटम सर्किटों का उपयोग करके संज्ञा (noun) और संबंध (relation) निरूपणों को अलग करता है, जो क्लासिकल बेसलाइन की तुलना में बहुत कम प्रशिक्षण योग्य मापदंडों के साथ CLEVR डेटासेट पर महत्वपूर्ण रूप से बेहतर कंपोजिशनल जनरलाइजेशन प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मानव बुद्धि में सरल, सीखे गए विचारों को पूरी तरह से नई स्थितियों में पुनर्संयोजित करने की एक उल्लेखनीय क्षमता होती है। एक व्यक्ति जो समझता है कि "कार" क्या है और "पीला" का क्या अर्थ है, वह तुरंत एक पीली कार को पहचान सकता है जिसे उसने पहले कभी नहीं देखा है, इस नए संयोजन पर अपने ज्ञान को लागू करता है। यह क्षमता, जिसे 'कंपोजिशनल जनरलाइजेशन' (compositional generalization) कहा जाता है, हमें एक ऐसी दुनिया में नेविगेट करने की अनुमति देती है जहाँ हम लगातार परिचित भागों के नए अरेंजमेंट का सामना करते हैं। हालाँकि, आर्टिफिशियल इंटेलिजेंस के लिए, यह कौशल एक कठिन बाधा बना हुआ है। जबकि आधुनिक प्रणालियाँ उन पैटर्न को पहचानने में उत्कृष्ट हैं जिन्हें उन्होंने प्रशिक्षण के दौरान देखा है, वे तब लड़खड़ा जाती हैं जब उन्हें उन्हीं पैटर्न को नए संयोजनों में लागू करने के लिए कहा जाता है, जैसे कि एक विशिष्ट वस्तु को एक नए स्थानिक संबंध (spatial relationship) में रखना। यह सीमा बताती है कि वर्तमान मॉडल वास्तव में चीजों के आपस में जुड़ने के अंतर्निहित नियमों को समझने के बजाय उदाहरणों को याद कर रहे हैं।
यूनिवर्सिटी कॉलेज लंदन और यूनिवर्सिटी ऑफ एम्स्टर्डम के शोधकर्ताओं ने इस समस्या को हल करने के लिए एक अलग रास्ते की खोज की है, और क्वांटम मैकेनिक्स के विचित्र और शक्तिशाली तर्क की ओर रुख किया है। IEEE क्वांटम वीक कॉन्फ्रेंस में प्रस्तुत उनके कार्य में, वे प्रस्तावित करते हैं कि जिस तरह से क्वांटम कंप्यूटर सूचना को संसाधित करते हैं, वह स्वाभाविक रूप से इस बात के साथ संरेखित हो सकता है कि मनुष्य अवधारणाओं को कैसे जोड़ते हैं। वस्तुओं को सीखने से लेकर उनके बीच के संबंधों को सीखने को अलग करके एक मॉडल बनाकर, उन्होंने एक ऐसी प्रणाली विकसित की जो पारंपरिक तरीकों की तुलना में बहुत अधिक प्रभावी ढंग से अनदेखे परिदृश्यों में सामान्यीकरण (generalize) कर सकती है, और वह भी बहुत कम कंप्यूटेशनल शक्ति का उपयोग करते हुए।
टीम ने एक ऐसे कार्य पर ध्यान केंद्रित किया जहाँ एक कंप्यूटर को दो ज्यामितीय आकृतियों की छवि देखनी होती है और उनके संबंध के सही विवरण को दो विकल्पों में से चुनना होता है। उदाहरण के लिए, एक शंकु (cone) के बाईं ओर एक घन (cube) की छवि दी जाने पर, सिस्टम को सही वाक्यांश "घन बाईं ओर शंकु" को एक भटकाने वाले जैसे "घन दाईं ओर शंकु" से अलग करना होगा। मशीन को सिखाने के लिए, शोधकर्ताओं ने गोले, सिलेंडर और शंकु जैसी आकृतियों की छवियों वाले डेटासेट का उपयोग किया। चुनौती यह थी कि सिस्टम को कुछ संयोजनों, जैसे कि घन के दाईं ओर एक शंकु, पर प्रशिक्षित किया जाए और फिर इसे उन संयोजनों पर टेस्ट किया जाए जो उसने पहले कभी नहीं देखे, जैसे कि घन के बाईं ओर एक शंकु। यह सेटअप मॉडल को "बाएं" और "दाएं" की अवधारणा को स्वतंत्र नियमों के रूप में सीखने के लिए मजबूर करता है जिन्हें किसी भी आकृति पर लागू किया जा सकता है, न कि केवल विशिष्ट चित्रों को याद करने के लिए।
पूरे सिस्टम को एक साथ प्रशिक्षित करने के बजाय, शोधकर्ताओं ने एक दो-चरणीय दृष्टिकोण अपनाया जो एक पाठ्यक्रम (curriculum) की नकल करता है। पहले चरण में, मॉडल ने व्यक्तिगत वस्तुओं को पहचानना सीखा। उसे एकल आकृतियों, जैसे कि एक अकेला गोला या एक एकल घन की छवियां दिखाई गईं, और उसे उनके नामों के साथ मिलान करने के लिए सिखाया गया। एक बार जब मॉडल ने इन बुनियादी निर्माण खंडों (building blocks) में महारत हासिल कर ली, तो शोधकर्ताओं ने उसकी उन आकृतियों के दिखने की स्मृति को फ्रीज (freeze) कर दिया। दूसरे चरण में, उन्होंने संबंधपरक कार्य (relational task) पेश किया। अब मॉडल को दो आकृतियों के साथ चित्र दिखाए गए और उसे केवल यह सीखना था कि वे एक-दूसरे से कैसे संबंधित हैं, जो पहले से ही सीखी गई आकृतियों की स्थिर परिभाषाओं का उपयोग कर रहा था। इस डिज़ाइन ने यह सुनिश्चित किया कि सिस्टम हर बार नया संबंध देखते समय यह दोबारा न सीखे कि "घन" क्या है, बल्कि इसे एक निश्चित वस्तु पर लागू किए जाने वाले एक अलग रूपांतरण (transformation) के रूप में देखने के लिए मजबूर किया।
इसे लागू करने के लिए, टीम ने एक ढांचे का उपयोग किया जो भाषा और अर्थ को टेंसर (tensors) नामक गणितीय संरचनाओं में अनुवादित करता है, जिन्हें सीधे क्वांटम सर्किटों पर मैप किया जा सकता है। उन्होंने विभिन्न तरीकों का परीक्षण किया कि कैसे इमेज डेटा को इन क्वांटम सर्किटों में फीड किया जाए। एक विधि, जिसे 'एम्प्लीट्यूड एनकोडिंग' (amplitude encoding) कहा गया, ने मूल इमेज डेटा की सटीक ज्यामिति को संरक्षित करने की कोशिश की। दूसरी विधि, जिसे 'एंगल एनकोडिंग' (angle encoding) कहा गया, ने डेटा को इस तरह से रूपांतरित किया जिससे गैर-रेखीय (non-linear) परिवर्तन आए, जिससे सूचना को प्रभावी रूप से नया आकार मिला ताकि संबंधों के बीच के अंतर को अधिक स्पष्ट किया जा सके। उन्होंने एक "कोलाज" (collage) विधि के साथ भी प्रयोग किया, जहाँ दो अलग-अलग आकृतियों के क्वांटम सर्किट को एक एकल संबंधपरक छवि का प्रतिनिधित्व करने के लिए भौतिक रूप से जोड़ा गया था।
उनके सिमुलेशन के परिणाम बहुत महत्वपूर्ण थे। जब शोधकर्ताओं ने अपने मल्टी-स्टेज क्वांटम मॉडल की तुलना एक मानक क्लासिकल सिस्टम से की, तो दक्षता में अंतर स्पष्ट था। क्लासिक बेसलाइन को इस कार्य को करने के लिए 150 मिलियन से अधिक प्रशिक्षण योग्य मापदंडों (trainable parameters) की आवश्यकता थी, फिर भी वह सामान्यीकरण करने में विफल रहा, और अनदेखे संयोजनों पर केवल 50 प्रतिशत स्कोर प्राप्त किया—जो कि मूल रूप से केवल अनुमान लगाना था। इसके विपरीत, क्वांटिक मॉडल ने केवल 426 प्रशिक्षण योग्य मापदंडों का उपयोग करके मजबूत सामान्यीकरण हासिल किया। उनके सिस्टम के सबसे सफल संस्करण ने, जिसने एंगल एनकोडिंग के साथ कोलाज विधि का उपयोग किया था, अनदेखे टेस्ट मामलों पर 72 प्रतिशत से अधिक की सटीकता प्राप्त की। यह प्रदर्शन एक सिंगल-स्टेज क्वांटम मॉडल की तुलना में काफी बेहतर था जिसने सब कुछ एक साथ सीखने की कोशिश की थी, जिससे यह सिद्ध हुआ कि वस्तुओं को सीखने से संबंधों को सीखने के रूप में अलग करना महत्वपूर्ण था।
शोधकर्ताओं ने पाया कि उनके मॉडल की सफलता इस बात पर बहुत निर्भर थी कि डेटा को कैसे एनकोड किया गया। एंगल एनकोडिंग विधि, जिसने गैर-रेखीय रूपांतरण पेश किए, एम्प्लीट्यूड एनकोडिंग विधि की तुलना में श्रेष्ठ सिद्ध हुई। यह सुझाव देता है कि मूल इमेज डेटा, जैसा कि मानक उपकरणों द्वारा संसाधित किया जाता है, स्थानिक संबंधों को स्पष्ट रूप से अलग नहीं कर पाता था जिनकी इस कार्य के लिए आवश्यकता थी। क्वांटम एनकोडिंग प्रक्रिया ने स्वयं सूचना को पुनर्गठित करने में मदद की, जिससे "बाएं" और "दाएं" के बीच का अंतर मॉडल के लिए अधिक दृश्यमान हो गया। जबकि एम्प्लीट्यूड एनकोडिंग ने डेटा के मूल आकार को सुरक्षित रखा, इसने विभिन्न स्थानिक व्यवस्थाओं के बीच भ्रमित करने वाली समानताओं को बरकरार रखा, जिससे उन्हें पहचानना कठिन हो गया।
ये निष्कर्ष, जो पूरी तरह से कंप्यूटर सिमुलेशन से प्राप्त हुए हैं, यह सुझाव देते हैं कि संरचित क्वांटम प्रतिनिधित्व मशीनों को कंपोजिशनलिटी (compositionality) समझने के लिए प्रशिक्षित करने का एक आशाजनक मार्ग प्रदान करते हैं। यह सुनिश्चित करके कि चीजें क्या हैं और वे कैसे संबंधित हैं के बीच एक स्पष्ट अलगाव हो, और क्वांटम सर्किटों का उपयोग करके डेटा को अधिक विभाज्य रूप में नया आकार देकर, मॉडल ने उस स्तर का सामान्यीकरण हासिल किया जिसे क्लासिकल सिस्टम बहुत अधिक संसाधनों के साथ भी प्राप्त करने के लिए संघर्ष कर रहे थे। लेखक यह दावा नहीं करते हैं कि उन्होंने आर्टिफिशियल इंटेलिजेंस की समस्या को हल कर लिया है, लेकिन वे यह प्रदर्शित करते हैं कि सीखने का एक विशिष्ट, संरचित दृष्टिकोण—जहाँ पहले प्रिमिटिव्स (primitives) को सीखा जाता है और फिर उन्हें संयोजित किया जाता है—क्वांटम कंप्यूटिंग के अद्वितीय गुणों के साथ जुड़ने पर अत्यधिक प्रभावी हो सकता है। लेखक नोट करते हैं कि भविष्य के कार्यों को इन विचारों को वास्तविक क्वांटम हार्डवेयर पर परीक्षण करने की आवश्यकता होगी और यह पता लगाने की आवश्यकता होगी कि क्या ये विधियाँ अधिक जटिल दृश्यों और समृद्ध शब्दावलियों तक स्केल कर सकती हैं, लेकिन वर्तमान परिणाम मशीन लर्निंग के बारे में सोचने के एक नए तरीके के लिए एक सम्मोहक प्रमाण प्रस्तुत करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।