Can Quantum Federated Learning Withstand Circuit-Level Backdoors?
यह शोध पत्र सर्किट-लेवल बैकडोर थ्रेट (CULT) मॉडल को पेश करता है ताकि यह प्रदर्शित किया जा सके कि कैसे दुर्भावनापूर्ण क्लाइंट क्वांटम फेडरेटेड लर्निंग में क्वांटम-विशिष्ट तंत्रों का फायदा उठाकर गुप्त रूप से गंभीर सटीकता गिरावट उत्पन्न कर सकते हैं, जिससे यह पता चलता है कि मौजूदा रक्षा तंत्र अक्सर सबसे खराब स्थिति वाली विफलताओं को रोकने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि पड़ोसियों का एक समूह खाना पकाने के लिए एक एकल, सुपर-स्मार्ट रेसिपी बुक (व्यंजन पुस्तिका) बनाने की कोशिश कर रहा है। इसके बजाय कि वे अपने गुप्त पारिवारिक व्यंजन साझा करें (जिनमें निजी डेटा होता है), वे प्रत्येक अपने घर पर अपने व्यंजनों को सुरक्षित रखते हैं। हर हफ्ते, वे अपने व्यंजनों में किए गए बदलावों को एक केंद्रीय आयोजक (organizer) को भेजते हैं, जो उन्हें एक बेहतर "ग्लोबल" संस्करण बनाने के लिए आपस में मिला देता है। यह फेडरेटेड लर्निंग (Federated Learning) है।
अब, कल्पना कीजिए कि यह समूह इस रेसिपी बुक को लिखने में मदद करने के लिए क्वांटम कंप्यूटरों (ऐसी मशीनें जो जानकारी को प्रोसेस करने के लिए भौतिकी के अजीब नियमों का उपयोग करती हैं) का उपयोग करना शुरू कर देता है। यह क्वांटम फेडरेटेड लर्निंग (QFL) है।
यह पेपर एक डरावने नए तरीके के बारे में बताता है जिससे एक "बुरा पड़ोसी" बिना किसी को पता चले पूरे रेसिपी बुक को बर्बाद कर सकता है। लेखक इसे CULT (सर्किट-लेवल बैकडोर थ्रेट) कहते हैं।
यहाँ बताया गया है कि यह कैसे काम करता है, सरल उपमाओं (analogies) का उपयोग करते हुए:
1. सेटअप: द क्वांटम रेसिपी बुक
इस सिस्टम में, हर पड़ोसी के पास एक "क्वांटम सर्किट" होता है। इस सर्किट को एक जटिल, बहु-चरणीय मशीन के रूप में सोचें जो सामग्रियों (डेटा) को खाना पकाने के निर्देश (एक भविष्यवाणी) में बदल देती है।
- अच्छे पड़ोसी: वे अपने मशीनों में थोड़ा बदलाव करते हैं ताकि ग्लोबल रेसिपी बेहतर हो सके।
- बुरा पड़ोसी: वह रेसिपी बुक को इस तरह से खराब करना चाहता है कि, उदाहरण के लिए, बिल्लियों की सभी तस्वीरों को कुत्तों के रूप में गलत पहचान लिया जाए, लेकिन बाकी की रेसिपी एकदम सही दिखे।
2. हमला: "CULT" मॉडल
पेपर का तर्क है कि वर्तमान सुरक्षा उपाय यह नहीं जानते कि एक बुरे पड़ोसी को कैसे पहचाना जाए जो उनके अपने क्वांटम मशीन के अंदर के हिस्से के साथ छेड़छाड़ कर रहा है। लेखक बुरा पड़ोसी सिस्टम को नुकसान पहुँचाने के चार विशिष्ट तरीके प्रस्तावित करते हैं:
- "ग्रोवर" हमला (छिपा हुआ ट्रिगर): कल्पना कीजिए कि बुरे पड़ोसी ने अपनी मशीन में एक गुप्त स्विच लगा दिया है। यदि आप एक बिल्ली की तस्वीर में एक विशिष्ट छोटा सा धूल का कण (ट्रिगर) डालते हैं, तो मशीन एक स्विच घुमा देती है और चिल्लाती है "कुत्ता!" यह इस तरह किया जाता है कि क्वांटम तरंगें एक-दूसरे के साथ कैसे हस्तक्षेप (interfere) करती हैं, उसे बदल दिया जाता है।
- "पॉली" हमला (स्पिन टवीक): क्वांटम कणों में एक गुण होता है जिसे "स्पिन" कहते हैं। बुरा पड़ोसी इन स्पिन को सूक्ष्म रूप से घुमाता है। यह एक दिशा सूचक यंत्र (compass) की सुई को थोड़ा झुकाने जैसा है। यह मशीन को तोड़ता नहीं है, लेकिन यह धीरे-धीरे ग्लोबल रेसिपी को गलत दिशा में मोड़ देता है।
- "बिट-फ्लिप" हमला (कभी-कभार होने वाली गड़बड़ी): कल्पना कीजिए कि बुरे पड़ोसी की मशीन 10 में से 9 बार बिल्कुल सही काम करती है, लेकिन 10वीं बार में, यह एक सिंगल कॉइन को 'हेड्स' से 'टेल्स' में बदल देती है। इस तरह एक विशिष्ट, लयबद्ध पैटर्न में ऐसा करके, वे डेटा में एक छिपा हुआ बहाव (drift) पैदा करते हैं जो आयोजक को सामान्य शोर (noise) जैसा लगता है।
- "साइन-फ्लिप" हमला (रिवर्स ओडोमीटर): यह ऐसा है जैसे बुरे पड़ोसी की मशीन अचानक यह तय कर लेती है कि "पॉजिटिव" का मतलब "नेगेटिव" है। यह सीखने के संकेत (learning signal) की दिशा को उलट देता है, प्रभावी रूप से समूह को सही उत्तर को "अन-लर्न" (भूलने) के लिए कहता है।
3. स्टेल्थ: वे कैसे छिपते हैं
सबसे डरावनी बात यह है कि बुरा पड़ोसी कैसे छिपता है।
- "नॉर्म" ट्रिक: अधिकांश सुरक्षा प्रणालियाँ यह जाँचती हैं कि किसी पड़ोसी का अपडेट "बहुत बड़ा" या "बहुत अजीब" है या नहीं (जैसे यह देखना कि रेसिपी में बदलाव 100 पन्नों का है या नहीं)। बुरा पड़ोसी इस अध्ययन में अपने अपडेट को सामान्य आकार का बनाता है। वे अपनी क्वांटम मशीन में बस इतना बदलाव करते हैं कि नुकसान हो जाए, लेकिन इतना नहीं कि वह पैमाने (ruler) पर संदिग्ध लगे।
- "हिस्ट्री" ट्रिक: बुरा पड़ोसी एक डायरी रखता है कि अच्छे पड़ोसी आमतौर पर क्या करते हैं। जब वे अपना हमला करने वाला अपडेट भेजते हैं, तो वे उसे ठीक वैसा ही दिखाते हैं जैसा एक अच्छा पड़ोसी भेजेगा। वे इसमें थोड़ा सा "नॉइज़" (स्टैटिक) भी जोड़ देते हैं ताकि यह एक सामान्य, बिखरे हुए क्वांटम माप जैसा दिखे।
4. परिणाम: कितना बुरा है यह?
लेखकों ने इसका परीक्षण दो प्रसिद्ध डेटासेट्स (MNIST और CIFAR-10) पर किया, जो AI के लिए मानक परीक्षा की तरह हैं।
- एक बुरा सेब: यदि 20 में से केवल एक पड़ोसी बुरा है (5%), तो पूरे समूह का प्रदर्शन गिर सकता है।
- MNIST टेस्ट पर, सटीकता (accuracy) 92% से गिरकर 40% हो गई।
- CIFAR-10 टेस्ट पर, सटीकता 70% से गिरकर 34% हो गई।
- डिफेंस की विफलता: इस पेपर ने लोकप्रिय सुरक्षा उपकरणों (जैसे "Krum" या "FoolsGold") का परीक्षण किया जो बुरे पड़ोसियों को बाहर निकालने के लिए बनाए गए हैं।
- परिणाम: ये उपकरण सबसे खराब हमलों को रोकने में विफल रहे। कई मामलों में, सटीकता अभी भी 50% तक गिर गई।
- क्यों? क्योंकि बुरे अपडेट इतने अच्छे अपडेट जैसे दिख रहे थे कि सुरक्षा उपकरण उनके बीच अंतर नहीं कर सके। यह एक चोर के पुलिस की वर्दी पहनने जैसा है; सुरक्षा गार्ड उसे अंदर जाने देता है।
5. निष्कर्ष
पेपर निष्कर्ष निकालता है कि क्वांटम फेडरेटेड लर्निंग वर्तमान में इन विशिष्ट प्रकार के सर्किट-लेवल हमलों के प्रति बहुत संवेदनशील है।
- वर्तमान बचाव तंत्र घास के ढेर में सुई खोजने जैसा है, लेकिन बुरे पड़ोसी ने उस सुई को घास के एक ऐसे टुकड़े में बदल दिया है जो बाकी घास जैसा ही दिखता है।
- लेखक चेतावनी देते हैं कि हम केवल परिणामों को "औसत" (averaging) करने या "अजीब आकार" की जाँच करने पर निर्भर नहीं रह सकते। हमें नए सुरक्षा तरीकों की आवश्यकता है जो इन गुप्त हमलावरों को पकड़ने के लिए विशेष रूप से क्वांटम सर्किट के भौतिक विज्ञान (physics) को समझते हों।
संक्षेप में: एक अकेला दुर्भावनापूर्ण उपयोगकर्ता गुप्त रूप से साझा लर्निंग प्रोजेक्ट के क्वांटम "इंजन" को फिर से वायर (rewire) कर सकता है ताकि वह बुरी तरह विफल हो जाए, और वर्तमान सुरक्षा गार्ड केवल "तेज" आवाजों की जाँच करने में इतने व्यस्त हैं कि वे शांत घात (quiet sabotage) को नोटिस नहीं कर पाते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।