"Train classical, deploy quantum" requires rethinking generalization
यह शोध पत्र यह प्रदर्शित करता है कि मोमेंट-मैचिंग लॉस (जैसे MMD) का उपयोग करके शास्त्रीय रूप से प्रशिक्षित क्वांटम जनरेटिव मॉडल अक्सर लाइकलीहुड-प्रशिक्षित मॉडलों की तुलना में सामान्यीकरण (generalization) करने में विफल रहते हैं, जो यह सुझाव देता है कि "शास्त्रीय रूप से प्रशिक्षित करें, क्वांटम पर तैनात करें" (train-classical, deploy-quantum) प्रतिमान को नए दृष्टिकोणों की आवश्यकता है जो सीधे सामान्यीकरण को लक्षित करते हैं, न कि अभिसरित प्रशिक्षण लॉस (converged training losses) पर एक प्रॉक्सी के रूप में निर्भर करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक विज्ञान की हलचल भरी दुनिया में, शोधकर्ता उन समस्याओं को हल करने के लिए कंप्यूटरों की ओर तेजी से मुड़ रहे हैं जो उप-परमाणु (subatomic) दुनिया के अजीब, संभाव्य नियमों की नकल करते हैं, ताकि उन समस्याओं को सुलझाया जा सके जो पारंपरिक मशीनों को उलझा देती हैं। ये क्वांटम कंप्यूटर केवल संख्याओं को तेजी से ही नहीं संसाधित करते; वे स्वाभाविक रूप से नया डेटा उत्पन्न कर सकते हैं, जिससे संख्याओं के ऐसे पैटर्न बनते हैं जो वास्तविक दुनिया की घटनाओं जैसे दिखते हैं, जैसे कि नए अणुओं के आकार से लेकर जेनेटिक कोड की संरचना तक। इन मशीनों को उपयोगी बनाने के लिए, वैज्ञानिक अक्सर "क्लासिकल ट्रेन करें, क्वांटम पर तैनात करें" (train classical, deploy quantum) नामक रणनीति का उपयोग करते हैं। इस दृष्टिकोण में एक मॉडल को एक मानक, शक्तिशाली कंप्यूटर पर सिखाना शामिल है जहाँ गणना सस्ती और आसान होती है, और फिर तैयार मॉडल को अंतिम परिणाम उत्पन्न करने के लिए एक क्वांटम डिवाइस को सौंप दिया जाता है। उम्मीद यह है कि क्वांटम मशीन जटिल, वास्तविक नमूने उत्पन्न करेगी जिन्हें एक क्लासिकल कंप्यूटर अपने आप कभी नहीं बना सकता। हालाँकि, एक महत्वपूर्ण प्रश्न बना हुआ है: सिर्फ इसलिए कि एक मॉडल को कंप्यूटर पर सफलतापूर्वक प्रशिक्षित किया गया है, क्या वह वास्तव में डेटा के अंतर्निहित नियमों को समझता है, या उसने केवल दिखाए गए उदाहरणों को याद कर लिया है?
शोधकर्ताओं की एक टीम ने इस सवाल का जवाब देने के लिए कई तरह के जनरेटिव मॉडल्स को परीक्षण के दायरे में रखा। उन्होंने तेरह अलग-अलग मॉडल्स की तुलना की, जिनमें क्लासिकल डिजाइन और क्वांटम हार्डवेयर के लिए बनाए गए दोनों शामिल थे, और दो बहुत ही अलग प्रकार के डेटा के विरुद्ध उनका परीक्षण किया। पहला डेटासेट बिट्स की स्ट्रिंग्स वाला एक गणितीय पहेली था जहाँ एक और शून्य की संख्या का पूरी तरह से संतुलित होना आवश्यक था, एक ऐसा प्रतिबंध जो सोलह से तीस बिट्स तक की प्रणालियों में सत्य रहता है। दूसरा डेटासेट वास्तविक दुनिया के जीव विज्ञान से लिया गया था, जिसमें विशिष्ट जीवों के हजारों देखे गए जेनेटिक सीक्वेंस शामिल थे। शोधकर्ताओं ने इन मॉडल्स को एक सामान्य पद्धति का उपयोग करके प्रशिक्षित किया जो विशिष्ट सांख्यिकीय औसत (statistical averages) को मिलाने पर केंद्रित है, एक ऐसी तकनीक जिसे व्यापक रूप से यह मानने के लिए विश्वसनीय माना जाता है कि मॉडल सही ढंग से सीख रहा है। इसके बाद उन्होंने मॉडल्स को स्वतंत्र रूप से चलने दिया, जिससे हजारों नए नमूने उत्पन्न हुए, यह देखने के लिए कि क्या मॉडल्स वैध, अनदेखा डेटा उत्पन्न कर सकते हैं जो मूल सेटों के वास्तविक वितरण से मेल खाता हो।
परिणामों ने इस बात के बीच एक आश्चर्यजनक विसंगति को प्रकट किया कि एक मॉडल प्रशिक्षण के दौरान कैसा प्रदर्शन करता है और वास्तव में व्यवहार में वह कैसा काम करता है। शोधकर्ताओं ने पाया कि सांख्यिकीय औसत को मिलाने के लिए प्रशिक्षित मॉडल्स अक्सर एक ऐसी स्थिति में अभिसरित (converge) हो गए जहाँ उनका प्रशिक्षण स्कोर उत्कृष्ट था, फिर भी वे नया, वैध डेटा उत्पन्न करने में विफल रहे। गणितीय पहेली में, इन मॉडल्स ने ऐसी स्ट्रिंग्स बनाईं जो लगभग पूरी तरह से अमान्य थीं, जो खेल के बुनियादी नियमों का पालन करने में विफल रहीं, बावजूद इसके कि उनके पास लगभग-पूर्ण प्रशिक्षण स्कोर था। इसके विपरीत, एक अलग दृष्टिकोण का उपयोग करके प्रशिक्षित मॉडल्स, जो डेटा की संभावना (likelihood) पर केंद्रित था, ने लगातार उच्च-गुणवत्ता वाले, वैध नमूने तैयार किए। सांख्यिकीय प्रशिक्षण स्कोर, जिसे सफलता के विश्वसनीय संकेतक के रूप में भरोसेमंद माना जाता था, वास्तव में एक खराब भविष्यवक्ता साबित हुआ कि क्या कोई मॉडल वास्तव में नई स्थितियों में सामान्यीकरण (generalize) कर सकता है।
यह विफलता केवल एक मामूली त्रुटि नहीं थी; यह स्वयं प्रशिक्षण पद्धति की एक मौलिक सीमा थी। शोधकर्ताओं ने सैद्धांतिक रूप से प्रदर्शित किया कि एक मॉडल प्रशिक्षण के दौरान उपयोग किए जाने वाले सांख्यिकीय औसत को पूरी तरह से मिला सकता है, फिर भी वह संभावित वैध परिणामों के एक अत्यंत छोटे, घातीय रूप से छोटे अंश को ही कवर कर सकता है। यह संभव है कि दो पूरी तरह से अलग वितरण इन विशिष्ट औसत के लेंस से देखने पर समान दिखें, फिर भी एक पूरे वैध परिदृश्य को कवर कर सकता है जबकि दूसरा एक एकल, संकीमित कोने तक सीमित हो सकता है। अपने सिमुलेशन में, उन्होंने एक विशिष्ट उदाहरण बनाया जहाँ एक मॉडल ने प्रत्येक आवश्यक सांख्यिकीय औसत को पूरी तरह से मिलाया लेकिन केवल 7% वैध स्थान को ही कवर किया, जो प्रभावी रूप से डेटा की व्यापक संरचना को सीखने में विफल रहा। इसने सिद्ध किया कि कम प्रशिक्षण स्कोर यह गारंटी नहीं देता कि मॉडल ने नियम सीख लिए हैं; यह केवल यह गारंटी देता है कि उसने उन विशिष्ट संख्याओं को मिला लिया है जिन्हें प्रशिक्षण प्रक्रिया देख रही थी।
अध्ययन ने यह भी दिखाया कि डेटा का प्रकार महत्वपूर्ण होता है। जब शोधकर्ताओं ने उसी प्रशिक्षण पद्धति को जीनोमिक डेटासेट पर लागू किया, तो सांख्यिकीय औसत पर प्रशिक्षित मॉडल्स ने फिर से वैध जेनेटिक सीक्वेंस बनाने में संघर्ष किया, जबकि संभावना-आधारित (likelihood-based) मॉडल्स ने बहुत बेहतर प्रदर्शन किया। दिलचस्प बात यह है कि एक विशिष्ट क्वांटम मॉडल ने वैध डेटा उत्पन्न करने में सफलता प्राप्त की, लेकिन केवल इसलिए क्योंकि इसके आंतरिक डिजाइन ने इसे अमान्य स्ट्रिंग्स उत्पन्न करने से शारीरिक रूप से रोक दिया था, न कि इसलिए कि प्रशिक्षण प्रक्रिया ने इसे सिखाया था। इसने इस बात पर प्रकाश डाला कि आउटपुट की सीधी जांच के बिना, केवल प्रशिक्षण स्कोर पर भरोसा करना जोखिम भरा है। शोधकर्ताओं ने निष्कर्ष निकाला कि क्लासिकल कंप्यूटरों पर प्रशिक्षण देने और क्वांटम पर तैनात करने की वर्तमान रणनीति को एक बड़े पुनर्विचार की आवश्यकता है। यह मानते हुए कि एक कम प्रशिक्षण लॉस (training loss) का अर्थ है कि मॉडल तैयार है, वैज्ञानिकों को सीधे मॉडल की नए, वैध नमूनों को उत्पन्न करने की क्षमता को मापना चाहिए। आगे का रास्ता संभवतः प्रशिक्षण उद्देश्यों को बदलकर सीधे सामान्यीकरण को लक्षित करने या ऐसे मॉडल्स को डिजाइन करने में निहित है जो शुरुआत से ही आवश्यक बाधाओं के साथ बने हों, जिससे यह सुनिश्चित हो सके कि क्वांटम लाभ वास्तविक है न कि केवल एक अच्छी तरह से फिट किए गए स्कोर का भ्रम।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।