When Error Mitigation Makes Things Worse: Budget-Aware Evaluation, Extrapolation Failure, and the Calibration Trust Boundary
यह शोध पत्र प्रदर्शित करता है कि त्रुटि शमन तकनीकें, विशेष रूप से अनकन्स्ट्रेंड ज़ीरो-नॉइज़ एक्सट्रैपोलेशन और न्यूरल करेक्टर्स, मिसकैलिब्रेशन या बजट बाधाओं के तहत त्रुटियों को महत्वपूर्ण रूप से बढ़ा सकती हैं और टेल रिस्क का पता लगाने में विफल हो सकती हैं, जिससे कैलिब्रेशन अखंडता और मूल्यांकन पद्धतियों के संबंध में निकट-अवधि (near-term) क्वांटम लर्निंग पाइपलाइनों की महत्वपूर्ण कमजोरियां उजागर होती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
उन शांत, अत्यंत ठंडे प्रयोगशालाओं में जहाँ अगली पीढ़ी के कंप्यूटरों का निर्माण किया जा रहा है, वैज्ञानिक एक मौलिक समस्या से जूझ रहे हैं: शोर (नॉइज़)। ये मशीनें, जिन्हें क्वांटम कंप्यूटर कहा जाता है, उप-परमाणु कणों की विचित्र अवस्थाओं के हेरफेर द्वारा जटिल समस्याओं को हल करने के लिए डिज़ाइन की गई हैं। हालाँकि, इनका हार्डवेयर अविश्वसनीय रूप से नाजुक है। जरा सा कंपन या तापमान में बदलाव भी कणों को अप्रत्याशित व्यवहार करने के लिए मजबूर कर देता है, जिससे डेटा के उपयोग में आने से पहले ही वह दूषित हो जाता है। इसे ठीक करने के लिए, शोधकर्ताओं ने 'एरर मिटिगेशन' (त्रुटि न्यूनीकरण) नामक तकनीकों का एक समूह विकसित किया है। इसका लक्ष्य सरल है: मशीन से प्राप्त अव्यवस्थित, शोर वाले आउटपुट को लेना और गणितीय रूप से उसे साफ करना ताकि उसके नीचे छिपे वास्तविक उत्तर को प्रकट किया जा सके। यह एक रेडियो स्टेशन को शोर के तूफान के बीच सुनने और संगीत को स्पष्ट रूप से सुनने के बीच के अंतर जैसा है। इस क्षेत्र को आगे बढ़ने के लिए, वैज्ञानिकों को यह विश्वास होना चाहिए कि ये सफाई करने वाली विधियाँ वास्तव में काम करती हैं और सिग्नल को और खराब नहीं करती हैं।
वर्कडे एआई रिसर्च (Workday AI Research) का एक हालिया अध्ययन इस विश्वास को चुनौती देता है, जो यह प्रकट करता है कि सबसे लोकप्रिय सफाई विधि कभी-कभी उन्हीं त्रुटियों को बढ़ा सकती है जिन्हें हटाने के लिए इसे बनाया गया है। शोधकर्ताओं ने 'ज़ीरो-नॉइज़ एक्सट्रैपोलेशन' (zero-noise extrapolation) नामक एक तकनीक पर ध्यान केंद्रित किया, जो नियंत्रित चरणों में कंप्यूटर को जानबूझकर अधिक शोर वाला बनाकर और फिर यह अनुमान लगाकर काम करती है कि यदि शोर शून्य होता तो परिणाम क्या होता। यह कुछ वैसा ही है जैसे किसी व्यक्ति का वजन करने के लिए उन्हें तब तौलना जब वे लगातार भारी होते बैकपैक पहने हों और फिर पीछे की ओर गणना करके उनके वास्तविक वजन का अनुमान लगाना। अध्ययन में पाया गया कि जब कंप्यूटर की आंतरिक सेटिंग्स थोड़ी सी भी गलत होती हैं—एक ऐसी स्थिति जिसे मिसकैलिब्रेशन (miscalibration) कहा जाता है—तो यह अनुमान लगाने वाला खेल बुरी तरह विफल हो जाता है। सिमुलेशन में, इस विधि ने 38 से प्रतिशत मामलों में बिना कुछ किए (डेटा को वैसे ही छोड़ने) की तुलना में भी बदतर परिणाम दिए। इससे भी अधिक चिंताजनक बात यह है कि जब यह विफल हुआ, तो त्रुटियां केवल थोड़ी सी ही नहीं थीं; वे अत्यधिक थीं, जिससे ऐसे नंबर प्राप्त हुए जो वास्तविक गलती से सैकड़ों गुना बड़े थे।
शोधकर्ताओं ने अपने इन निष्कर्षों का परीक्षण आईबीएम (IBM) द्वारा प्रदान किए गए एक छोटे, वास्तविक क्वांटम कंप्यूटर पर किया, और सिमुलेशन सच साबित हुआ। इस वास्तविक हार्डवेयर पर, त्रुटि-न्यूनीकरण विधि ने 80 से 88 प्रतिशत परीक्षणों में परिणामों को और खराब कर दिया। औसत त्रुटि कच्चे, बिना सुधारे गए डेटा की तुलना में तीन से चार गुना बढ़ गई। यह सुझाव देता है कि यह विधि नाजुक है। यह इस धारणा पर निर्भर करती है कि मशीन का शोर एक सुचारू, अनुमानित तरीके से व्यवहार करता है। जब मशीन में एक छिपा हुआ, स्थिर पूर्वाग्रह (bias) होता है—जैसे कि एक तराजू जो लगातार कुछ ग्राम कम या ज्यादा तौलता है—तो विधि का गणितीय अनुमान पूरी तरह से भटक जाता है। अध्ययन ने यह भी नोट किया कि यदि वैज्ञानिक केवल "मध्य" परिणाम या माध्यिका (median) को देखते, तो वे इन विफलताओं को पूरी तरह से मिस कर देते। औसत त्रुटि भयानक दिखती, लेकिन मध्य मान सामान्य दिखाई देता, जिससे यह तथ्य छिप जाता कि सिस्टम खतरनाक आउटलियर्स (outliers) पैदा कर रहा है।
इन मुद्दों को संबोधित करने के लिए, टीम ने एक अलग दृष्टिकोण का पता लगाया जिसमें कृत्रिम बुद्धिमत्ता (एआई), विशेष रूप से एक न्यूरल नेटवर्क का उपयोग किया गया, ताकि त्रुटियों को सुधारने के लिए सीखा जा सके। उन्होंने इस कंप्यूटर प्रोग्राम को हजारों सिम्युलेटेड उदाहरणों पर प्रशिक्षित किया, जिससे उसे शोर के पैटर्न को पहचानने और उन्हें घटाने की शिक्षा दी गई। महत्वपूर्ण रूप से, उन्होंने इस नई विधि की तुलना पुराने तरीके से उसी सख्त सीमा के आधार पर की कि क्वांटम कंप्यूटर को कितनी बार गणना चलाने के लिए कहा जा सकता है। यह "बजट" एक महत्वपूर्ण बाधा है क्योंकि इन मशीनों को चलाना महंगा और समय लेने वाला होता है। अध्ययन में पाया गया कि एक बार जब एआई के प्रशिक्षण की लागत चुका दी गई, तो न्यूरल नेटवर्क कम बजट पर बहुत अच्छा प्रदर्शन करता है, जो पारंपरिक विधि से बेहतर है। हालाँकि, एआई की अपनी सीमाएँ भी थीं। यह अपने ज्ञान को वास्तविक हार्डवेयर पर बिना किसी और समायोजन के पूरी तरह से स्थानांतरित नहीं कर सका, और यह मशीन के निर्माता द्वारा वर्तमान स्थिति के बारे में प्रदान की गई जानकारी पर बहुत अधिक निर्भर था।
निर्माता के डेटा पर इस निर्भरता ने संभावित सुरक्षा जोखिमों के लिए एक नया द्वार खोल दिया। शोधकर्ताओं ने क्लाउड सेवा द्वारा प्रदान किए गए कैलिब्रेशन डेटा को एक "ट्रस्ट बाउंड्री" (विश्वास सीमा) के रूप में माना, जिसका अर्थ है कि उपयोगकर्ता को निर्माता की बात पर भरोसा करना पड़ता है क्योंकि वे स्वयं इसकी पुष्टि नहीं कर सकते। उन्होंने प्रदर्शित किया कि यदि कोई हमलावर इस कैलिब्रेशन डेटा को सूक्ष्म रूप से बदल दे—उदाहरण के लिए, एक संख्या बदलकर जो मशीन के नियंत्रणों को कैसे सेट किया जाता है उसका वर्णन करती है—तो एआई का सुधार गलत हो जाएगा। एक परीक्षण में, मेटाडेटा में एक छोटी, गणना की गई परिवर्तन ने त्रुटि को आठ गुना से अधिक बढ़ा दिया। एआई, गलत जानकारी पर भरोसा करते हुए, डेटा को सुधारने के बजाय उसे और खराब कर देता है। यह वर्तमान प्रणाली में एक भेद्यता को उजागर करता है: गणना की सुरक्षा प्रदाता से आने वाले डेटा स्ट्रीम की अखंडता पर निर्भर करती है, जो वर्तमान में छेड़छाड़ के विरुद्ध सुरक्षित नहीं है।
अध्ययन का निष्कर्ष है कि इस क्षेत्र को इन त्रुटि-सुधार उपकरणों का मूल्यांकन करने के लिए अधिक ईमानदार तरीके की आवश्यकता है। वैज्ञानिकों को पूर्ण तस्वीर देखनी चाहिए, जिसमें चलाने की लागत, अत्यधिक त्रुटियों का जोखिम और डेटा इनपुट की सुरक्षा शामिल है। केवल शोर स्केलिंग के आधार पर उत्तर का अनुमान लगाने की पारंपरिक विधि कोई रामबाण समाधान नहीं है; यह चुपचाप और विनाशकारी रूप से विफल हो सकती है। हालांकि सीखने पर आधारित विधियां आशाजनक दिखती हैं, लेकिन वे अभी तक पूरी तरह से हल की गई समस्या नहीं हैं, विशेष रूप से सिमुलेशन से वास्तविक मशीनों तक जाने के मामले में। आगे का रास्ता कठोर परीक्षण की मांग करता है जो इस तथ्य को ध्यान में रखे कि ये मशीनें अपूर्ण हैं, उनकी सेटिंग्स बदल सकती हैं, और उनके डेटा के साथ हेरफेर किया जा सकता है। जब तक इन कारकों को पूरी तरह से समझा और सुरक्षित नहीं कर लिया जाता, तब तक इन शक्तिशाली नए कंप्यूटरों से आने वाले नंबरों को संदेह की दृष्टि से देखा जाना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।