Fourier analysis of quantum neural network with non-linear data embedding

तकनीकी सारांश: गैर-रेखीय डेटा एम्बेडिंग के साथ क्वांटम न्यूरल नेटवर्क का फूरियर विश्लेषण

समस्या विवरण
वैरिएशनल क्वांटम सर्किट्स (VQCs), क्वांटम मशीन लर्निंग (QML) के केंद्र में हैं, फिर भी उनकी प्रशिक्षण क्षमता अक्सर 'बैरन प्लेटो' (BPs) द्वारा बाधित होती है, जहाँ क्यूबिट्स की संख्या के साथ ग्रेडिएंट तेजी से (exponentially) लुप्त हो जाते हैं। VQCs की अभिव्यक्तता (expressivity) को समझने और BPs का निदान करने के लिए फूरियर विश्लेषण एक महत्वपूर्ण उपकरण के रूप में उभरा है। हालाँकि, एम्प्लीट्यूड-एम्बेडिंग के बिना, केवल 'एंगल-एम्बेडिंग' प्रोटोकॉल और शोर-मुक्त (noiseless) वातावरण तक सीमित मौजूदा साहित्य में एक स्केलेबिलिटी बाधा है: इसमें इनपुट फीचर आयाम के साथ आवश्यक क्यूबिट्स की संख्या रैखिक रूप से बढ़ती है, जो उच्च-आयामी डेटा (जैसे चित्र, पाठ, या लार्ज लैंग्वेज मॉडल टोकन) के लिए अव्यावहारिक है। इसके विपरीत, 'एम्प्लीट्यूड एम्बेडिंग' क्यूबिट्स का लघुगणकीय स्केलिंग ($O(\log N)$) प्रदान करता है, लेकिन इसमें एक कठोर फूरियर विश्लेषण ढांचे का अभाव है, विशेष रूप से इस संबंध में कि शोर की उपस्थिति में गैर-रेखीय डेटा एम्बेडिंग अभिव्यक्तता और प्रशिक्षण क्षमता को कैसे प्रभावित करती है।

कार्यप्रणाली
लेखक एम्प्लीट्यूड एम्बेडिंग का उपयोग करने वाले VQCs के लिए फूरकी विश्लेषण हेतु एक सैद्धांतिक ढांचा विकसित करते हैं। यह अध्ययन निम्नलिखित कार्यप्रणालीगत चरणों के माध्यम से आगे बढ़ता है:

1. सैद्धांतिक व्युत्पत्ति: लेखक एक VQC को एक पैरामीट्रिक फलन $f_\theta(x) = \langle 0|U(x,\theta)^\dagger O U(x,\theta)|0\rangle$ के रूप में मॉडल करते हैं, जहाँ इनपुट $x$ को कंप्यूटेशनल बेसिस स्टेट्स के एम्प्लीट्यूड में एनकोड किया जाता है। वे यह मान लेते हैं कि पैरामीटर स्पेस द्वारा उत्पन्न यूनिटरी का समूह (ensemble of unitaries) यूनिटरी ग्रुप के संबंध में एक 2-डिज़ाइन बनाता है। वेइन्गार्ट कैलकुलस (Weingarten calculus) का उपयोग करते हुए, वे फूरियर गुणांकों $c_\omega(\theta)$ के माध्य (mean) और प्रसरण (variance) के विश्लेषणात्मक व्युत्पन्न प्राप्त करते हैं।
2. डोमेन विश्लेषण: अध्ययन इनपुट फीचर्स के लिए दो एनकोडिंग डोमेन के बीच अंतर करता है: गैर-ऋणात्मक (non-negative) (जैसे, $[0, R]$) और सममित (symmetric) (जैसे, $[-R/2, R/2]$)। लेखक यह विश्लेषण करते हैं कि डोमेन का चयन शून्य-आवृत्ति गुणांक ($c_0$) को कैसे प्रभावित करता है।
3. शोर मॉडलिंग (Noise Modeling): इस ढांचे को यूनिटरी क्रॉस ऑपरेटरों (unitary Kraus operators) और संभावनाओं $\{p_k\}$ द्वारा परिभाषित शोर चैनलों (noise channels) के साथ विस्तारित किया गया है। लेखक यह व्युत्पन्न करते हैं कि फूरियर गुणांकों का प्रसरण शोर अनुप्रयोगों की संख्या $Q$ और संभावनाओं $\{p_k\}$ पर निर्भर कारक द्वारा कैसे कम होता है।
4. सिमुलेशन और सत्यापन: विश्लेषणात्मक परिणामों को शोर-मुक्त और शोर वाले क्वांटम सिम्युलेटरों पर संख्यात्मक सिमुलेशन के माध्यम से सत्यापित किया गया है। सिमुलेशन में 30 वैरिएशनल लेयर्स वाले 2-क्यूबिट VQC का उपयोग किया गया है, जो पूर्णांक (integer) और गैर-पूर्णांक (non-integer) आवृत्तियों में विभाजित लक्षित फलनों (target functions) पर प्रशिक्षित है। अध्ययन गैर-ऋणात्मक बनाम सममित एनकोडिंग के प्रदर्शन की तुलना करता है और आवृत्ति नॉर्म्स ($L_1$ और $L_2$) तथा शोर की शक्ति के विरुद्ध गुणांक प्रसरण के स्केलिंग का विश्लेषण करता है।

प्रमुख योगदान

• एम्प्लीट्यूड एम्बेडिंग के लिए फूरियर विश्लेषण का विस्तार: यह शोध एम्प्लीट्यूड एम्बेडिंग वाले VQCs के लिए पहला कठोर फूरियर विश्लेषण प्रदान करता है, जो स्थापित एंगल-एम्बेडिंग साहित्य से आगे बढ़ता है।
• शून्य-आवृत्ति अभिव्यक्तता का अंतर: एक महत्वपूर्ण निष्कर्ष यह है कि शून्य-आवृत्ति फूरियर गुणांक ($c_0$) की अभिव्यक्तता पूरी तरह से एनकोडिंग डोमेन पर निर्भर करती है।
  • सममित डोमेन (Symmetric domain) एनकोडिंग के तहत, $c_0(\theta)$ सभी मापदंडों $\theta$ के लिए शून्य हो जाता है (यह मानते हुए कि ऑब्जर्वेबल ट्रेसलेस है), जिससे मॉडल स्थिर ऑफसेट्स (constant offsets) सीखने में असमर्थ हो जाता है।
  • गैर-ऋणात्मक डोमेन (Non-negative domain) एनकोडिंग के तहत, $c_0(\theta)$ गैर-शून्य और सीखने योग्य (trainable) होता है, जिससे मॉडल कम-आवृत्ति वाले फीचर्स को कैप्चर करने में सक्षम होता है।
• प्रसरण का घातीय क्षय (Exponential Decay of Variance): लेखक सिद्ध करते हैं कि गैर-ऋणात्मक एम्प्लीट्यूड एम्बेडिंग के लिए, फूरियर गुणांकों का प्रसरण आवृत्ति के परिमाण ($\|\omega\|$) के साथ घातीय रूप से घटता है। यह बैरन प्लेटो की उपस्थिति की पुष्टि करता है, लेकिन एम्प्लीट्यूड-एनकोडेड मॉडलों के लिए एक विशिष्ट स्केलिंग नियम प्रदान करता है।
• शोर दमन कारक (Noise Suppression Factor): अध्ययन यह व्युत्पन्न करता है कि यूनिटरी क्रॉस ऑपरेटरों वाले शोर चैनल, $(\sum_k p_k^2)^Q$ के कारक द्वारा फूरियर गुणांकों के प्रसरण को कम कर देते हैं, जहाँ $Q$ चैनल इंस्टेंस की संख्या है। यह इंगित करता है कि शोर अभिव्यक्तता को और कम करता है, विशेष रूप से उच्च-आवृत्ति घटकों के लिए।
• गैर-पूर्णांक आवृत्ति मॉड्यूलेशन: एंगल-एम्बेडिंग के विपरीत, जो आमतौर पर एनकोडिंग हैमिल्टोनियन द्वारा निर्धारित पूर्णांक मानों तक सीमित रहती है, एम्प्लीट्यूड एम्बेडिंग मॉडल गैर-पूर्णांक आवृत्तियों के लिए फूरियर गुणांकों को मॉड्यूलेट करने की क्षमता प्रदर्शित करता है, हालांकि उच्च आवृत्तियों पर अभिव्यक्तता कम होती है।

परिणाम

• विश्लेषणात्मक परिणाम: प्राप्त शोर-मुक्त, गैर-ऋणात्मक एम्प्लीट्यूड एम्बेडिंग के लिए प्रसरण $O(\exp(-\|\omega\|_1))$ के रूप में स्केल करता है। जब शोर पेश किया जाता है, तो प्रसरण को शोर-निर्भर क्षय कारक द्वारा और अधिक कम कर दिया जाता है।
• एनकोडिंग डोमेन का सिमुलेशन: सिमुलेशन पुष्टि करते हैं कि सममित एनकोडिंग का उपयोग करने वाले मॉडल गैर-शून्य स्थिर घटकों वाले लक्षित फलनों को सीखने में विफल रहते हैं (MSE महत्वपूर्ण रूप से कम नहीं होता है), जबकि गैर-ऋणात्मक एनकोडिंग सफलतापूर्वक लक्षित $c_0$ तक पहुँचती है।
• आवृत्ति स्केलिंग: फूरियर गुणांकों का प्रसरण आवृत्ति नॉर्म्स के साथ घातीय रूप से घटता है। अध्ययन देखता है कि जबकि दोनों एंगल और एम्प्लीट्यूड एम्बेडिंग घातीय क्षय प्रदर्शित करते हैं, एम्प्लीट्यूड एम्बेडिंग मॉडल कम आवृत्तियों पर तेज़ क्षय दिखाते हैं लेकिन एंगल-एम्बेडिंग मॉडलों की ऊपरी सीमाओं की तुलना में उच्च आवृत्तियों पर अपेक्षाकृत उच्च अभिव्यक्तता बनाए रखते हैं।
• शोर का प्रभाव: डिपोलराइजिंग शोर (depolarizing noise) के साथ सिमुलेशन दर्शाते हैं कि जबकि मॉडल अभी भी सीख सकता है, फूरियर गुणांकों का लक्षित मान से औसत विचलन एक गैर-शून्य मान पर स्थिर (plateau) हो जाता है, जो शोर द्वारा आरोपित अभिव्यक्तता की सीमा को दर्शाता है। शोर की शक्ति के साथ मानक विचलन का स्केलिंग एक बहुपद क्षय (polynomial decay) का पालन करता है जो सैद्धांतिक भविष्यवाणी के अनुरूप है।

महत्व
यह शोध विशेष रूप से एम्प्लीट्यूड-एनकोडेड VQCs के लिए एक कठोर फूरियर ढांचा स्थापित करता है। इसका प्राथमिक महत्व आवृत्ति डोमेन में एक अधिक स्केलेबल एनकोडिंग योजना के लिए अभिव्यक्तता और प्रशिक्षण क्षमता स्केलिंग पर सैद्धांतिक गारंटी प्रदान करने में निहित है। शून्य-आवृत्ति गुणांक पर इनपुट डोमेन (गैर-ऋणात्मक बनाम सममित) की महत्वपूर्ण भूमिका की पहचान करके, यह कार्य उन VQCs को डिजाइन करने के लिए व्यावहारिक मार्गदर्शन प्रदान करता है जो प्रशिक्षण क्षमता को अधिकतम करते हैं। इसके अतिरिक्त, शोर दमन कारकों का व्युत्पन्न एम्प्लीट्यूड-एनकोडेड मॉडलों पर शोर के प्रभाव को समझने के लिए एक मात्रात्मक आधार प्रदान करता है, जो उन्हें निकट-अवधि (near-term), शोर वाले क्वांटम उपकरणों पर तैनात करने के लिए आवश्यक है। गैर-पूर्णांक आवृत्तियों को संभालने की क्षमता पारंपरिक एंगल-एम्बेडिंग आर्किटेक्चर की तुलना में किसी भी मनमाने फलन (arbitrary function) को फिट करने की क्षमता का सुझाव देती है।