⚛️ quantum physics

Benign Overfitting with Quantum Kernels

यह शोध पत्र एक नवीन "लोकल-ग्लोबल" (स्थानीय-वैश्विक) क्वांटम कर्नेल रणनीति प्रस्तावित करता है जो बेनाइन ओवरफिटिंग (benign overfitting) की घटना का लाभ उठाकर मौजूदा क्वांटम कर्नेल के घातीय संकेंद्रण (exponential concentration) और खराब सामान्यीकरण (poor generalization) को दूर करने के लिए स्थानीय उपप्रणाली मापों को वैश्विक पूर्ण-प्रणाली मापों के साथ जोड़ता है।

मूल लेखक: Joachim Tomasi, Sandrine Anthoine, Hachem Kadri

प्रकाशित 2026-07-08

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Joachim Tomasi, Sandrine Anthoine, Hachem Kadri

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को किताबों के एक विशाल पुस्तकालय में पैटर्न पहचानना सिखाने की कोशिश कर रहे हैं। आप चाहते हैं कि रोबोट किताबों के पीछे की कहानी (सामान्य नियम) को सीखे, न कि केवल हर एक पन्ने पर लिखे सटीक शब्दों (विशिष्ट विवरणों) को रटे।

क्वांटम मशीन लर्निंग (Quantum Machine Learning) की दुनिया में, वैज्ञानिक इन रोबोटों की मदद करने के लिए "क्वांटम कर्नेल" (quantum kernels) का उपयोग करते हैं। क्वांटम कर्नेल को एक विशेष आवर्धक लेंस (magnifying glass) के रूप में समझें जो यह देखता है कि दो डेटा के टुकड़े एक-दूसरे से कितने समान हैं।

समस्या: बहुत "तेज़" आवर्धक लेंस

लेख बताता है कि वर्तमान के कई क्वांटम आवर्धक लेंस बहुत अधिक शक्तिशाली हैं। जैसे-जैसे आप रोबोट को स्मार्ट बनाने के लिए अधिक "लेंस" (qubits) जोड़ते हैं, आवर्धक लेंस इतना तेज़ हो जाता है कि वह विभिन्न किताबों के बीच की समानता को देखना बंद कर देता है। इसके बजाय, वह हर किताब को पूरी तरह से अद्वितीय मान लेता है, भले ही वे बहुत समान हों।

तकनीकी शब्दों में, यह रोबोट को ओवरफिटिंग (overfitting) की ओर ले जाता है। यह ट्रेनिंग डेटा को पूरी तरह से रट लेता है (उस टेस्ट पर 100% स्कोर प्राप्त करता है जिसका इसने अभ्यास किया था) लेकिन एक नई किताब देखते ही बुरी तरह विफल हो जाता है। यह एक ऐसे छात्र की तरह है जिसने अभ्यास टेस्ट के उत्तर तो रट लिए, लेकिन वास्तविक परीक्षा में असफल रहा क्योंकि वह अवधारणाओं (concepts) को समझ नहीं पाया।

आमतौर पर, जब ऐसा होता है, तो वैज्ञानिक आवर्धक लेंस को "कम बुद्धिमान" बनाने की कोशिश करते हैं ताकि उसे कम तेज़ बनाया जा सके, इस उम्मीद में कि इससे सामान्यीकरण (generalization) में सुधार होगा। लेकिन यह पेपर एक अलग, चतुर दृष्टिकोण का सुझाव देता है।

समाधान: "लोकल-ग्लोबल" रणनीति

लेखक इन क्वांटम आवर्धियों को बनाने का एक नया तरीका प्रस्तावित करते हैं, जिसे वे लोकल-ग्लोबल क्वांटम कर्नेल (Local-Global Quantum Kernels) कहते हैं।

कल्पना कीजिए कि आप एक भीड़ भरे कमरे में अपने दोस्त को पहचानने की कोशिश कर रहे हैं।

ग्लोबल व्यू (द "स्पाइकी" पार्ट - Global View): आप एक साथ पूरे कमरे को देखते हैं। क्योंकि कमरा बहुत बड़ा और भीड़भाड़ वाला है, इसलिए जब तक आपका दोस्त ठीक उसी जगह खड़ा न हो जहाँ आप उम्मीद कर रहे हैं, तब तक उसे ढूंढना बहुत कठिन है। यह दृश्य बहुत "स्पाइकी" (spiky) है—यह केवल तभी मिलान देखता है जब सब कुछ एकदम सही हो। यह रोबोट को विशिष्ट ट्रेनिंग डेटा को याद रखने में मदद करता है।
लोकल व्यू (द "स्मूथ" पार्ट - Local View): आप केवल अपने दोस्त के चेहरे या उसकी शर्ट पर ज़ूम करते हैं। यह दृश्य "स्मूथ" (smooth) है। यह अराजक भीड़ को नज़रअंदाज़ करता है और उन आवश्यक विशेषताओं पर ध्यान केंद्रित करता है जो आपके दोस्त को आपका दोस्त बनाती हैं। यह रोबोट को "दोस्ती" की सामान्य अवधारणा को समझने और विभिन्न परिस्थितियों में भी उसे पहचानने में मदद करता है।

लेखक की नवीनता इन दोनों दृश्यों को जोड़ने में है। वे एक ऐसी प्रणाली बनाते हैं जो ट्रेनिंग डेटा को याद करने (interpolation) के लिए "ग्लोबल" दृश्य का उपयोग करती है और अंतर्निहित पैटर्न (generalization) को समझने के लिए "लोकल" दृश्य का उपयोग करती है।

जादू: "बेनाइन ओवरफिटिंग" (Benign Overfitting)

अतीत में, वैज्ञानिकों ने सोचा था कि यदि कोई मॉडल डेटा को बहुत अच्छी तरह से रट लेता है (overfitting), तो यह हमेशा एक बुरी बात होती है। यह पेपर "बेनाइन ओवरफिटिंग" की अवधारणा पेश करता है।

इसे इस तरह समझें:

कैटास्ट्रोफिक ओवरफिटिंग (Catastrophic Overfitting): एक छात्र अभ्यास टेस्ट के उत्तर रट लेता है लेकिन सवाल में मामूली बदलाव होने पर भी भ्रमित हो जाता है।
बेनाइन ओवरफिटिंग (Benign Overfitting): एक छात्र अभ्यास टेस्ट के उत्तरों को पूरी तरह से रट लेता है, लेकिन क्योंकि उसने विषय के गहरे तर्क (logic) को भी सीखा है ( "लोकल" दृश्य की मदद से), वह अभी भी नए, अनदेखे प्रश्नों के सही उत्तर दे सकता है।

लेखक गणितीय रूप से सिद्ध करते हैं और प्रयोगों के माध्यम से दिखाते हैं कि उनका "लोकल-ग्लोबल" तरीका क्वांटम मॉडल को ट्रेनिंग डेटा को याद रखने (जो आमतौर पर विफलता का कारण बनता है) की अनुमति देता है और साथ ही नए डेटा पर भी सटीक प्रदर्शन करने की क्षमता रखता है।

उन्होंने इसका परीक्षण कैसे किया

शोधकर्ताओं ने इस विचार का परीक्षण दो प्रकार के डेटा पर किया:

सिंथेटिक डेटा (Synthetic Data): विशिष्ट गणितीय गुणों का परीक्षण करने के लिए बनाया गया बनावटी डेटा।
रियल-वर्ल्ड डेटा (Real-World Data): उन्होंने हवाई जहाज के पंखों (airfoils) के आकार के बारे में एक डेटासेट का उपयोग किया ताकि 'लिफ्ट' (lift) की भविष्यवाणी की जा सके।

दोनों मामलों में, उन्होंने पाया कि उनके नए तरीके ने मॉडल को बिना नए डेटा की भविष्यवाणी करने की क्षमता खोए, ट्रेनिंग डेटा को पूरी तरह से फिट (शून्य त्रुटि) करने की अनुमति दी। वास्तव में, कुछ मामलों में, इसने पारंपरिक तरीकों से बेहतर प्रदर्शन किया जो पूरी तरह से रटने (memorization) से बचने की कोशिश करते हैं।

मुख्य निष्कर्ष

पेपर का दावा है कि हमें क्वांटम मशीन लर्निंग में डेटा को "रटने" से डरने की ज़रूरत नहीं है। क्वांटम सिस्टम को सावधानीपूर्वक डिज़ाइन करके जिसमें एक "तेज़" मेमोरी घटक और एक "स्मूथ" समझ वाला घटक दोनों हों, हम ऐसे मॉडल बना सकते हैं जो ब्रह्मांड के नियमों को इतनी अच्छी तरह से सीखते हैं कि वे सबक को भूले बिना उदाहरणों को याद रख सकते हैं। यह सीखने के लिए प्रभावी क्वांटम कंप्यूटर बनाने का एक नया तरीका है।

तकनीकी सारांश: क्वांटम कर्नेल के साथ बेनाइन ओवरफिटिंग (Benign Overfitting)

समस्या विवरण
क्वांटम कर्नेल विधियाँ पैरामीटराइज्ड क्वांटम सर्किट (PQCs) के माध्यम से क्लासिकल डेटा को उच्च-आयामी हिल्बर्ट स्पेस में एनकोड करके क्वांटम लाभ का एक संभावित मार्ग प्रदान करती हैं। हालाँकि, एक महत्वपूर्ण चुनौती इनके व्यावहारिक उपयोग में बाधा डालती है: घातांकीय अभिसरण (exponential concentration) की घटना। जैसे-जैसे क्विबिट्स की संख्या बढ़ती है, अत्यधिक अभिव्यंजक क्वांटम कर्नेल (जैसे कि मानक क्वांटम फिडेलिटी कर्नेल) शून्य के करीब केंद्रित होने लगते हैं, जिससे कर्नेल मैट्रिक्स पहचान मैट्रिक्स (identity matrix) के करीब पहुँच जाता है। इसके परिणामस्वरूप "स्पाइकी" (spiky) व्यवहार होता है जहाँ मॉडल सार्थक डेटा सहसंबंधों को पकड़ने में विफल रहता है, जिससे प्रशिक्षण डेटा का इंटरपोलेशन करने के बावजूद खराब सामान्यीकरण (generalization) होता है। जबकि बैंडविड्थ ट्यूनिंग और आयामी कमी जैसी नियमितीकरण (regularization) तकनीकों को इस अभिसरण को कम करने के लिए प्रस्तावित किया गया है, वे अक्सर अभिसरण को केवल एक दोष के रूप में देखते हैं न कि एक ऐसी विशेषता के रूप में जिसे उपयोग किया जा सकता है।

कार्यप्रणाली
लेखक लोकल-ग्लोबल क्वांटम कर्नेल (Local-Global Quantum Kernels) नामक एक नवीन निर्माण प्रस्तावित करते हैं, जो क्लासिकल मशीन लर्निंग में "बेनाइन ओवरफिटिंग" की अवधारणा और "स्पाइकी-स्मूथ" (spiky-smooth) कर्नेल अपघटन से प्रेरित है। मुख्य विचार एक ऐसा कर्नेल बनाना है जो दो अलग-अलग घटकों को जोड़ता है:

एक स्थानीय घटक (A Local Component): एक छोटे सबसिस्टम (रिड्यूस्ड डेंसिटी मैट्रिसेस) पर माप से प्राप्त। यह घटक एक सुचारू (smooth) संरचना बनाए रखता है, जो विभिन्न इनपुट के बीच गैर-तुच्छ सहसंबंधों को संरक्षित करता है और सामान्यीकरण का समर्थन करता है।
एक वैश्विक घटक (A Global Component): पूर्ण क्वांटम सिस्टम पर माप से प्राप्त। यह घटक मजबूत अभिसरण प्रभाव प्रदर्शित करता है, जो प्रशिक्षण डेटा के इंटरपोलेशन को सक्षम करने के लिए संकीर्ण "स्पाइक्स" (spikes) बनाता है।

प्रस्तावित कर्नेल एक भारित योग (weighted sum) के रूप में परिभाषित है:
$k_{LG}(x, z) = \lambda_L k_L(x, z) + \lambda_G k_G(x, z)$
जहाँ $k_L$ स्थानीय कर्नेल है और $k_G$ वैश्विक कर्नेल है।

सैद्धांतिक विश्लेषण को सुगम बनाने के लिए, लेखक एक सेपरेबल ग्लोबल एनकोडिंग (Separable Global Encoding) योजना पेश करते हैं। इस सेटअप में, कुल क्विबिट्स $t$ का संख्या $s$ के आकार का एक गुणक है ( $t = q \cdot s$ )। एनकोडिंग यूनिटरी $q$ ब्लॉक्स में फैक्टराइज़ होती है। इस योजना के तहत, वैश्विक कर्नेल आधार कर्नेल का $q$ -वाँ घात बन जाता है ( $k_G = k_B^q$ ), जबकि स्थानीय कर्नेल आधार कर्नेल के समान रहता है ( $k_L \propto k_B$ )। परिणामी कर्नेल इस रूप में होता है:
$k_{LG}(x, z) = \tilde{\lambda}_L k_B(x, z) + \lambda_G k_B(x, z)^q$
जैसे-जैसे $q$ बढ़ता है, वैश्विक घटक अधिक स्पाइकी (स्थानीयकृत) होता जाता है, जबकि स्थानीय घटक सुचारू बना रहता है।

प्रमुख योगदान

लोकल-ग्लोबल क्वांटम कर्नेल परिभाषा: यह पेपर एक ऐसा ढांचा पेश करता है जो स्पष्ट रूप से क्वांटम कर्नेल को सुचारू (smooth) और स्पाइकी (spiky) घटकों में विभाजित करता है, जो क्लासिकल सेटिंग्स के लिए Haas et al. [2023] द्वारा प्रस्तावित स्पाइकी-स्मूथ कर्नेल का क्वांटम संस्करण बनाता है।
बेनाइन ओवरफिटिंग का सैद्धांतिक प्रमाण: लेखक सिद्ध करते हैं कि आवधिक, ट्रांसलेशन-इनवेरिएंट क्वांटम फिडेलिटी कर्नेल (विशेष रूप से कोसाइन क्वांटम कर्नेल) के वर्ग के लिए, लोकल-ग्लोबल कर्नेल का उपयोग करके रिजलेस रिग्रेशन (ridgeless regression) शोर वाले प्रशिक्षण डेटा को सटीक रूप से इंटरपोलेट कर सकता है और साथ ही सांख्यिकीय रूप से सुसंगत (consistent) भी बना रह सकता है। यह दर्शाता है कि उच्च-आयामी क्वांटम कर्नेल की "स्पाइकी" प्रकृति का उपयोग सामान्यीकरण से समझौता किए बिना इंटरपोलेशन के लिए किया जा सकता है, बशर्ते कि एक सुचारू स्थानीय घटक मौजूद हो।
सर्किट कार्यान्वयन: पेपर में लोकल-ग्लोबल कर्नेल के ठोस क्वांटम सर्किट कार्यान्वयन दिए गए हैं, जिनमें शामिल हैं:
- $t$ क्विबिट्स पर स्थानीय और वैश्विक अवलोकनों (observables) के भारित योग का उपयोग करके एक पूर्ण क्वांटम कार्यान्वयन।
- एक हाइब्रिड क्वांटम-क्लासिकल कार्यान्वयन जो $s$ क्विबिट्स पर आधार कर्नेल की गणना करता है और पावर लॉ (power law) को क्लासिकली लागू करता है, जिससे क्वांटम संसाधनों की आवश्यकता काफी कम हो जाती है।
अनुभवजन्य सत्यापन (Empirical Validation): सिंथेटिक और वास्तविक दुनिया के डेटासेट (जैसे एयरफॉइल डेटासेट) पर प्रयोगों से पता चलता है कि लोकल-ग्लोबल कर्नेल प्रशिक्षण डेटा का इंटरपोलेशन करते हुए भी कम टेस्ट एरर बनाए रखता है, जो मानक रिजलेस रिग्रेशन को पीछे छोड़ देता है और कुछ मामलों में रेगुलराइज्ड रिज रिग्रेशन के प्रदर्शन के बराबर या उससे बेहतर प्रदर्शन करता है।

परिणाम

ओवरफिटिंग का फेज डायग्राम: 1D में संख्यात्मक प्रयोगों में खराब बायस-वैरिएंस ट्रेड-ऑफ (छोटा $q$ ) से विनाशकारी ओवरफिटिंग (मध्यवर्ती $q$ ) और अंततः बेनाइन ओवरफिटिंग (बड़ा $q$ ) तक एक संक्रमण को दर्शाते हैं, जहाँ प्रेडिक्टर डेटा को इंटरपोलेट करता है लेकिन प्रशिक्षण बिंदुओं से दूर सुचारू रहता है।
सुसंगतता (Consistency): सिंथेटिक डेटा पर, टेस्ट मीन स्क्वेयर्ड एरर (MSE) का लोकल-ग्लोबल रिजलेस एस्टिमेटर प्रशिक्षण आकार बढ़ने के साथ शोर के स्तर की ओर अभिसरित होता है, जो इसके सैद्धांतिक सुसंगतता परिणाम की पुष्टि करता है। इसके विपरीत, केवल बेस कर्नेल के साथ रिजलेस रिग्रेशन को असंगत दिखाया गया है।
सामान्यीकरण (Generalization): लोकल-ग्लोबल कर्नेल वास्तविक दुनिया के डेटा पर सफलतापूर्वक सामान्यीकरण करता है और साथ ही प्रशिक्षण सेट का इंटरपोलेशन भी करता है, जो इस परिकल्पना की पुष्टि करता है कि स्थानीय सुचारूता और वैश्विक स्पाइकीनेस का संयोजन बेनाइन ओवरफिटिंग को सक्षम बनाता है।

महत्व
यह पेपर विशेष रूप से क्वांटम कर्नेल के लिए बेनाइन ओवरफिटिंग के पहले सैद्धांतिक और अनुभवजन्य लक्षण वर्णन का दावा करता है। क्वांटम कर्नेल के घातांकीय अभिसरण को केवल एक विफलता मोड के रूप में नहीं, बल्कि इंटरपोलेशन के एक तंत्र के रूप में पुनर्गठित करके, लेखक एक ऐसा डिज़ाइन सिद्धांत प्रस्तावित करते हैं जो स्वाभाविक रूप से सामान्यीकरण को बढ़ावा देता है। यह कार्य बेनाइन ओवरफिटिंग के विश्लेषण के दायरे को क्लासिकल लर्निंग में श्रिंकिंग-बैंडविड्थ निर्माणों से आगे बढ़ाकर क्वांटम सेटिंग्स तक विस्तारित करता है, जिसमें लोकलाइजेशन प्राप्त करने के लिए वैश्विक कर्नेल घटक के पावर कंसंट्रेशन का उपयोग किया जाता है। निष्कर्ष बताते हैं कि सावधानीपूर्वक डिज़ाइन किए गए क्वांटम फीचर्स डेटा को इंटरपोलेट कर सकते हैं बिना भविष्य कहनेवाला प्रदर्शन (predictive performance) से समझौता किए, जो प्रभावी क्वांटम कर्नेल के निर्माण के लिए एक आशाजनक रणनीति प्रदान करते हैं। यह कार्य NISQ युग में प्रभावी क्वांटम कर्नेल के निर्माण के लिए एक दिशा प्रदान करता है।

समस्या: बहुत "तेज़" आवर्धक लेंस

समाधान: "लोकल-ग्लोबल" रणनीति

जादू: "बेनाइन ओवरफिटिंग" (Benign Overfitting)

उन्होंने इसका परीक्षण कैसे किया

मुख्य निष्कर्ष

इसी तरह के और पेपर