Invariance can prevent overfitting and shortcut learning in Quantum Neural Networks
यह शोध पत्र यह प्रदर्शित करता है कि क्वांटम न्यूरल नेटवर्क्स में समरूपता (symmetry) को शामिल करने से विविध इमेज क्लासिफिकेशन कार्यों में समान आर्किटेक्चर और पैरामीटर गणना वाले गैर-इनवेरिएंट (non-invariant) मॉडलों की तुलना में सामान्यीकरण (generalization), शॉर्टकट लर्निंग के प्रति मजबूती और शोर लचीलापन (noise resilience) में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखक ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, कंप्यूटर छवियों को स्कैन करके और पैटर्न ढूंढकर दुनिया को देखना सीख रहे हैं। जब कोई मशीन बिल्ली की तस्वीर देखती है, तो उसे इस बात से कोई फर्क नहीं पड़ता कि बिल्ली सीधी बैठी है, लेटी हुई है, या किसी अलग कोण से देखी जा रही है; "बिल्ली" का लेबल समान रहता है। यह पहचानना कि किसी वस्तु की मूल पहचान स्थिति बदलने पर भी स्थिर रहती है, 'इनवेरिएंस' (invariance) कहलाता है। दशकों से, इंजीनियरों ने शास्त्रीय कंप्यूटर प्रोग्राम बनाए हैं जिनमें इस नियम को हार्ड-कोड किया गया है, जिससे उन्हें रोटेशन (घूर्णन) और रिफ्लेक्शन (परावर्तन) को अनदेखा करना सिखाया जाता है ताकि वे तेजी से और अधिक सटीक रूप से सीख सकें। अब, वैज्ञानिक एक नए प्रकार का कंप्यूटर बनाने की कोशिश कर रहे हैं जो सूचना को प्रोसेस करने के लिए क्वांटम भौतिकी के विचित्र नियमों का उपयोग करता है। ये क्वांटम मशीनें सैद्धांतिक रूप से अविश्वसनीय रूप से शक्तिशाली हैं, लेकिन वर्तमान में वे बहुत छोटी और नाजुक हैं, और सीमित डेटा से सीखने की कोशिश करते समय गलतियाँ करने के प्रति संवेदनशील हैं। एक प्रमुख प्रश्न यह था कि क्या ये नई क्वांटम मशीनें भी किसी वस्तु की स्थिति को अनदेखा करना सीख सकती हैं ताकि वे बेहतर शिक्षार्थी बन सकें, या क्या उनका अद्वितीय भौतिक विज्ञान उन्हें ऐसे विवरणों के प्रति बहुत संवेदनशील बनाता है।
शोधकर्ताओं की एक टीम ने चार अलग-अलग क्वांटम मॉडल बनाकर इस प्रश्न का उत्तर देने का प्रयास किया। वे यह देखना चाहते थे कि क्या क्वांटम कंप्यूटर को एक छवि की समरूपता (symmetry) का सम्मान करने के लिए मजबूर करना—अर्थात, एक घूमी हुई छवि को एक ही वस्तु मानना—उसे बेहतर सीखने में मदद करेगा। निष्पक्षता के लिए, उन्होंने चार अलग-अलग मॉडल बनाए जो समरूपता को संभालने के तरीके के अलावा हर तरह से समान थे। उन्होंने क्वांटम बिट्स की समान संख्या, समान समायोज्य सेटिंग्स और समान अंतर्निहित गणितीय संरचना का उपयोग किया। इनमें से दो मॉडल स्वभाव से "इनवेरिएंट" (invariant) बनाए गए थे, जिसका अर्थ है कि उनके आंतरिक नियम उन्हें छवि के ओरिएंटेशन (अभिविन्यास) को अनदेखा करने के लिए मजबूर करते थे। अन्य दो को ओरिएंटेशन को नोटिस करने की अनुमति दी गई थी, जिससे घूमी हुई छवि को एक पूरी तरह से अलग इनपुट माना जाता था। शोधकर्ताओं ने इन मॉडलों का चार अलग-अलग चुनौतियों पर परीक्षण किया: हस्तलिखित संख्याओं को पहचानना, सरल ज्यामितीय आकृतियों की पहचान करना, दो प्रकार की आकाशगंगाओं के बीच अंतर करना, और लाल रक्त कोशिकाओं के विभिन्न आकारों को पहचानना। प्रत्येक मामले में, छवियां यादृच्छिक रोटेशन में दिखाई दीं, ठीक वैसे ही जैसे वे वास्तविक दुनिया में हो सकती हैं।
परिणाम सभी चार कार्यों में स्पष्ट और सुसंगत थे। वे मॉडल जिन्हें छवियों के ओरिएंटेशन को अनदेखा करने के लिए बनाया गया था, वे बहुत तेजी से सीखे और नई, अनदेखी तस्वीरों पर कम गलतियाँ कीं। क्योंकि उन्हें केवल वस्तु के आकार पर ध्यान केंद्रित करने के लिए मजबूर किया गया था और उसके स्थान पर नहीं, इसलिए उन्होंने प्रशिक्षण तस्वीरों के विशिष्ट विवरणों को याद करने में अपनी सीमित सीखने की क्षमता बर्बाद नहीं की। इसके विपरीत, जो मॉडल ओरिएंटेशन को नोटिस करने की अनुमति देते थे, उन्होंने उन्हें दिखाए गए कुछ चित्रों के सटीक पोज़ को जल्दी से याद कर लिया। जब इन नॉन-इनवेरिएंट (non-invariant) मॉडलों का सामना एक अलग रोटेशन वाली नई छवि से हुआ, तो वे अक्सर पूरी तरह से विफल हो गए। शोधकर्ताओं ने पाया कि क्वांटम कंप्यूटर के सर्किट को केवल सममित (symmetric) बनाना पर्याप्त नहीं था; अंतिम चरण जहाँ कंप्यूटर अपना उत्तर पढ़ता है, उसे भी सममित होना आवश्यक था। यदि कंप्यूटर को सममित नियमों के साथ बनाया गया था लेकिन उसे गैर-सममित उत्तर देने के लिए कहा गया, तो वह अभी भी सामान्यीकरण करने में विफल रहा।
अध्ययन ने मशीन लर्निंग की एक आम समस्या का भी पता लगाया जिसे "शॉर्टकट लर्निंग" (shortcut learning) कहा जाता है, जहाँ एक मॉडल वास्तविक नियम सीखने के बजाय उत्तर का अनुमान लगाने के लिए एक आसान ट्रिक खोज लेता है। शोधकर्ताओं ने यह देखने के लिए प्रत्येक प्रशिक्षण छवि के कोने में एक छोटा, छिपा हुआ वॉटरमार्क जोड़ा कि क्या मॉडल उस पर निर्भर करेगा। वे मॉडल जो ओरिएंटेशन को देख सकते थे, उन्होंने इस ट्रिक को तुरंत सीख लिया; वे कोने को देखते थे, वॉटरमार्क देखते थे, और मुख्य छवि को देखे बिना ही उत्तर का अनुमान लगा लेते थे। जब शोधकर्ताओं ने वॉटरमार्क को दूसरे कोने में स्थानांतरित किया, तो वे मॉडल विफल हो गए, और यादृच्छिक अनुमान (random guessing) के स्तर तक गिर गए। हालांकि, इनवेरिएंट मॉडल वॉटरमार्क को बिल्कुल नहीं देख सके क्योंकि वह छवि के रोटेशन के साथ घूम रहा था। इसके बजाय, उन्हें तस्वीर की वास्तविक सामग्री को देखने के लिए मजबूर किया गया, और वे ट्रिक को हटाने के बाद भी वस्तुओं को सही ढंग से पहचानने में सक्षम रहे।
अंत में, टीम ने यह परीक्षण किया कि ये निष्कर्ष वर्तमान क्वांटम हार्डवेयर की शोर (noise) और त्रुटियों के विरुद्ध कैसे टिकते हैं। वास्तविक क्वांटम कंप्यूटर अपूर्ण होते हैं, और उनके सिग्नल अक्सर गर्मी और हस्तक्षेप से विकृत हो जाते हैं। शोधकर्ताओं ने इन स्थितियों का अनुकरण किया और पाया कि इनवेरिएंट मॉडलों का लाभ बना रहा। भले ही क्वांटम सिग्नल शोर वाले थे, ओरिएंटेशन को अनदेखा करने वाले मॉडल अधिक सटीक और ओवरफिटिंग (overfitting) के प्रति कम संवेदनशील रहे। अध्ययन बताता है कि क्वांटम कंप्यूटरों को वास्तविक दुनिया में उपयोगी बनाने के लिए, विशेष रूप से जब डेटा दुर्लभ हो, उनकी डिज़ाइन में समरूपता को सीधे शामिल करना एक शक्तिशाली उपकरण है। यह एक रेलिंग (guardrail) की तरह कार्य करता है, जो मशीन को अप्रासंगिक विवरणों से विचलित होने से रोकता है और उसे दुनिया के चारों ओर परिभाषित करने वाले वास्तविक पैटर्न पर ध्यान केंद्रित करने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।