Cautious optimism for deep parameterized quantum circuits
यह शोध पत्र विश्लेणात्मक प्रमाणों और संख्यात्मक प्रयोगों के माध्यम से यह प्रदर्शित करता है कि ग्रेडिएंट-आधारित पैरामीटराइज्ड क्वांटम सर्किट मॉडल का आकार बढ़ने के साथ अनदेखे डेटा पर बेहतर सामान्यीकरण (जनरलाइजेशन) प्रदर्शित कर सकते हैं, जो एक "डबल डिसेंट" घटना को दर्शाता है जो इस पारंपरिक दृष्टिकोण को चुनौती देता है कि बड़े मॉडल खराब प्रदर्शन की ओर ले जाते हैं और डीप क्वांटम मशीन लर्निंग के लिए सतर्क आशावाद प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को तस्वीरों में बिल्लियों को पहचानना सिखाने की कोशिश कर रहे हैं। मशीन लर्निंग की दुनिया में, इस रोबोट का "दिमाग" एक जटिल गणितीय संरचना है जिसे 'मॉडल' कहा जाता है। लंबे समय तक वैज्ञानिकों का मानना था कि एक सरल नियम है: यदि आप मॉडल को बहुत बड़ा बना देते हैं और उसमें घुमाने के लिए बहुत अधिक नॉब्स (पैरामीटर्स) दे देते हैं, तो वह भ्रमित होने लगता है। वह प्रशिक्षण तस्वीरों को पूरी तरह से याद कर लेता है लेकिन जब उसे कोई नई तस्वीर दिखाई जाती है जिसे उसने पहले नहीं देखा है, तो वह बुरी तरह विफल हो जाता है। यह उस छात्र की तरह है जो अभ्यास परीक्षण के उत्तरों को रट लेता है लेकिन वास्तविक परीक्षा में विफल हो जाता है क्योंकि उसने वास्तव में अवधारणाओं को नहीं सीखा। इस पारंपरिक दृष्टिकोण ने सुझाव दिया कि बड़े मॉडल सीखने में बदतर होते थे।
हालांकि, हाल के वर्षों में, शोधकर्ताओं ने क्लासिकल कंप्यूटिंग में "डबल डिसेंट" (double descent) नामक एक अजीब मोड़ की खोज की। यह पता चला कि यदि आप मॉडल को और भी बड़ा बनाते रहते हैं—उस बिंदु से आगे जहाँ इसके पास हर एक प्रशिक्षण फोटो को याद करने के लिए पर्याप्त नॉब्स हैं—तो मॉडल अचानक फिर से स्मार्ट हो जाता है। त्रुटि दर (error rate) दूसरी बार गिर जाती है। यह ऐसा है जैसे छात्र, अभ्यास परीक्षण को रटने के बाद, अचानक ब्रह्मांड के अंतर्निध पैटर्न को समझ जाता है और वास्तविक परीक्षा में शानदार प्रदर्शन करने लगता है। यह पुराने विचार को चुनौती देता है कि "बड़ा होना हमेशा बुरा होता है।" अब, वैज्ञानिक पूछ रहे हैं कि क्या यह जादुई ट्रिक क्वांटम कंप्यूटरों के लिए भी काम करती है? क्वांटम कंप्यूटर सूचना को संसाधित करने के लिए भौतिकी के अजीब नियमों, जैसे सुपरपोजिशन और एंटैंगलमेंट का उपयोग करते हैं। यदि हम लाखों पैरामीटर्स वाला एक क्वांटम "दिमाग" बनाते हैं, तो क्या वह भी "बहुत बड़ा" होने के बाद स्मार्ट हो जाएगा, या वह बस टूट जाएगा?
यह शोध पत्र, जिसका शीर्षक "कौशियस ऑप्टिमिज्म फॉर डीप पैरामीटराइज्ड क्वांटम सर्किट्स" (Cautious optimism for deep parameterized quantum circuits) है, ठीक इसी प्रश्न की जांच करता है। लेखकों की टीम, जो यूरोप और कनाडा के विश्वविद्यालयों और तकनीकी कंपनियों के शोधकर्ताओं की एक टीम है, यह देखने के लिए निकली है कि क्या क्वांटम मशीन लर्निंग मॉडल भी इसी तरह के "डबल डिसेंट" व्यवहार को प्रदर्शित करते हैं। उन्होंने एक विशिष्ट प्रकार के क्वांटम मॉडल पर ध्यान केंद्रित किया जिसे 'पैरामीटराइज्ड क्वांटम सर्किट' (PQC) कहा जाता है, जो अनिवार्य रूप से एक समायोज्य सेटिंग्स वाला क्वांटम सर्किट है जिसे समस्याओं को हल करने के लिए प्रशिक्षित किया जा सकता है।
शोधकर्ताओं ने इन क्वांटम मॉडलों में कितने प्रशिक्षण योग्य पैरामीटर्स होते हैं, इसे जांचने के लिए उन्नत गणित और कंप्यूटर सिमुलेशन के मिश्रण का उपयोग किया। उन्होंने शुरुआत में सैद्धांतिक सीमाओं को देखने के लिए किया। "एड-वन-इन पर्टरबेशन" (add-one-in perturbation) नामक एक गणितीय तकनीक का उपयोग करके (जो कि ऐसा पूछने जैसा है कि, "हमारे मॉडल के प्रदर्शन में क्या होगा यदि हम इसमें बस एक अतिरिक्त प्रशिक्षण फोटो शामिल कर दें?"), उन्होंने सूत्र निकाले कि कैसे मॉडल का प्रदर्शन बदल जाएगा। उन्होंने पाया कि, सैद्धांतिक रूप से, इन क्वांटम मॉडलों के लिए त्रुटि दर उसी U-आकार के वक्र (curve) का पालन करेगी जो क्लासिकल कंप्यूटरों में देखा जाता है: जैसे-जैसे मॉडल आकार में बढ़ता है, यह प्रशिक्षण डेटा के आकार के करीब पहुँचने पर बढ़ता है, ठीक उसी बिंदु पर चरम पर पहुँचता है जहाँ मॉडल के पास डेटा को याद करने के लिए पर्याप्त पैरामीटर्स होते हैं, और फिर अत्यधिक ओवरपैरामीटराइज्ड होने पर फिर से नीचे गिर जाता है।
इस बात को साबित करने के लिए कि यह केवल एक गणितीय ट्रिक नहीं है, उन्होंने संख्यात्मक प्रयोग चलाए। उन्होंने तीन अलग-अलग कार्यों को हल करने के लिए क्वांटम मॉडल बनाए: हस्तलिखित अंकों को पहचानना (MNIST-1D नामक डेटासेट का उपयोग करके), फैशन वस्तुओं की पहचान करना (Fashion MNIST), और एक जटिल रिग्रेशन समस्या को हल करना। उन्होंने इन मॉडलों को विभिन्न मात्रा में डेटा पर प्रशिक्षित किया, जो 21 से 48 नमूनों तक फैला हुआ था, और क्वांटम सर्किट के आकार को डेटा बिंदुओं से कम पैरामीटर्स से लेकर सैकड़ों अधिक पैरामीटर्स तक बदला।
परिणाम उत्साहजनक थे। उनके सिमुलेशन में, टेस्ट एरर (कि मॉडल नए, अनदेखे डेटा पर कैसा प्रदर्शन करता है) ने वास्तव में "डबल डिसेंट" पैटर्न दिखाया। जैसे-जैसे उन्होंने अधिक पैरामीटर्स जोड़े, त्रुटि ठीक उस बिंदु के आसपास बढ़ी जहाँ पैरामीटर्स की संख्या प्रशिक्षण नमूनों की संख्या से मेल खाती थी (इंटरपोलेशन थ्रेशोल्ड)। लेकिन एक बार जब उन्होंने उस थ्रेशोल्ड को पार कर लिया और और अधिक पैरामीटर्स जोड़े, तो त्रुटि काफी कम हो गई। यह सुझाव देता है कि, क्लासिकल मशीन लर्निंग की तरह ही, क्वांटम मॉडल को बड़ा बनाने से जरूरी नहीं कि उसकी सामान्यीकरण (generalize) करने की क्षमता खराब हो जाए; वास्तव में, यह उसे बेहतर सीखने में मदद कर सकता है, बशर्ते कि मॉडल को वास्तव में प्रशिक्षित किया जा सके।
हालांकि, लेखक अपनी उत्तेजना को नियंत्रण में रखने के लिए सावधान हैं, इसीलिए शीर्षक "कौशियस ऑप्टिमिज्म" (Cautious optimism) है। वे दो प्रमुख चेतावनियों की ओर इशारा करते हैं। पहला, उनके परिणाम केवल तभी मान्य हैं जब क्वांटम मॉडल "प्रशिक्षण योग्य" (trainable) हो। क्वांटम दुनिया में, एक ज्ञात समस्या है जिसे "बैरेन प्लेटो" (barren plateaus) कहा जाता है, जहाँ मॉडल एक सपाट परिदृश्य में फंस जाता है और कुछ भी नहीं सीख पाता है। यदि मॉडल इस अवस्था में फंसा हुआ है, तो उसे बड़ा बनाना मदद नहीं करेगा। उनके निष्कर्ष यह मानकर चलते हैं कि मॉडल पहले से ही ऐसी स्थिति में है जहाँ वह सीख सकता है। दूसरा, जबकि उनके परिणाम दिखाते हैं कि ओवरपैरामीटराइज्ड मॉडल बदतर नहीं होते हैं, वे यह साबित नहीं करते हैं कि वे स्वचालित रूप से छोटे मॉडलों से बेहतर हैं। वे केवल यह दिखाते हैं कि बड़ा होना एक बंद रास्ता नहीं है।
संक्षेप में, यह शोध पत्र सुझाव देता है कि "डबल डिसेंट" का अजीब, प्रति-सहज व्यवहार संभवतः क्वांटम क्षेत्र में भी मौजूद है। यह एक उम्मीद की किरण प्रदान करता है कि जैसे-जैसे हम गहरे और अधिक जटिल क्वांटम न्यूरल नेटवर्क बनाते हैं, हम घटते रिटर्न की दीवार से नहीं टकराएंगे। इसके बजाय, हमें मिल सकता है कि बेहतर क्वांटम AI का मार्ग बड़े, अधिक जटिल मॉडल बनाने में निहित है, बशर्ते हम उनके साथ आने वाली प्रशिक्षण चुनौतियों को हल कर सकें। यह क्वांटम मशीन लर्निंग को भविष्य के लिए स्केल करने के तरीके को समझने की दिशा में एक छोटा लेकिन महत्वपूर्ण कदम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।