Compiler-Guided Polynomial-Level Parallelism for FHE-Encrypted Machine Learning Inference
यह शोध पत्र CRISP को प्रस्तुत करता है, जो एक कंपाइलर-निर्देशित दृष्टिकोण है जो ANT-ACE कंपाइलर फ्रेमवर्क के भीतर रनटाइम SIMD वेक्टरकरण के स्थान पर कंपाइल-टाइम OpenMP समानांतरता (parallelism) का उपयोग करके, FHE-एन्क्रिप्टेड मशीन लर्निंग इन्फरेंस के लिए सुरक्षित बहुपद-स्तर (polynomial-level) की समानांतरता को सक्षम बनाता है, जिसके परिणामस्वरूप महत्वपूर्ण गति वृद्धि और विलंबता में कमी आती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक डिजिटल दुनिया में, संवेदनशील जानकारी अक्सर उन नेटवर्क के माध्यम से यात्रा करती है जो अजनबियों द्वारा नियंत्रित होते हैं। एक बैंक आपके ऋण आवेदन को उस सर्वर पर प्रोसेस कर सकता है जिसका वह स्वामी नहीं है, या एक अस्पताल तीसरे पक्ष द्वारा संचालित क्लाउड सेवा का उपयोग करके रोगी के रिकॉर्ड का विश्लेषण कर सकता है। इन परिदृश्यों में, डेटा असुरक्षित होता है; यदि सर्वर के साथ समझौता किया जाता है, तो निजी जानकारी उजागर हो जाती है। दशकों तक, ऐसी स्थितियों में डेटा को सुरक्षित रखने का एकमात्र तरीका इसे ऑफलाइन रखना था या सर्वर ऑपरेटर पर पूरी तरह से भरोसा करना था। फुली होमोमॉर्फिक एन्क्रिप्शन (Fully homomorphic encryption) एक अलग मार्ग प्रदान करता है। यह एक गणितीय विधि है जो कंप्यूटर को उस डेटा पर गणना करने की अनुमति देती है जो एन्क्रिप्टेड अवस्था में लॉक रहता है। कंप्यूटर वास्तविक नंबरों को कभी नहीं देखता; यह केवल बिखरे हुए कोड (scrambled code) के साथ हेरफेर करता है। जब गणना समाप्त हो जाती है, तो सही उत्तर प्रकट करने के लिए परिणाम को डिक्रिप्ट किया जाता है, जैसे कि कार्य मूल, अन-एन्क्रिप्टेड डेटा पर किया गया हो। यह तकनीक एक ऐसा भविष्य का वादा करती है जहाँ गोपनीयता संरक्षित रहती है, भले ही गणना अविश्वसनीय बुनियादी ढांचे (untrusted infrastructure) पर हो रही हो।
हालाँकि, इस गोपनीयता की एक भारी कीमत चुकानी पड़ती है। क्योंकि कंप्यूटर को स्पष्ट नंबरों के बजाय बिखरे हुए कोड के साथ काम करना पड़ता है, इसलिए गणनाएँ अविश्वसनीय रूप से धीमी होती हैं। एक कार्य जो सामान्य डेटा पर एक सेकंड के अंश में होता है, एन्क्रिप्टेड होने पर घंटों या दिनों तक चल सकता है। इस सुस्ती ने इस तकनीक को वास्तविक समय के अनुप्रयोगों (real-time applications), जैसे कि मेडिकल स्कैन का विश्लेषण करने या चलते समय वित्तीय लेनदेन को संसाधित करने के लिए उपयोग करने से रोका है। बाधा इस बात में है कि कंप्यूटर को एन्क्रिप्शन को बरकरार रखने के लिए आवश्यक गणितीय कार्यों की विशाल मात्रा को कैसे संभालना पड़ता है। इस तकनीक को व्यावहारिक बनाने के लिए, शोधकर्ताओं को डेटा को सुरक्षित रखने वाले सुरक्षा नियमों को तोड़े बिना इन गणनाओं की गति बढ़ाने के तरीके खोजने होंगे।
हुनान विश्वविद्यालय और ग्वांगडोंग प्रांतीय की लेबोरेटरी ऑफ पावर सिस्टम नेटवर्क सिक्योरिटी के शोधकर्ताओं की एक टीम ने इस गति की समस्या से निपटने के लिए एक नई विधि विकसित की है। उन्होंने CRISP नामक एक प्रणाली बनाई है, जो कंप्यूटर कोड के लिए एक विशेष अनुवादक (specialized translator) के रूप में कार्य करती है जो इन एन्क्रिप्टेड गणनाओं को चलाता है। उनका कार्य CKKS नामक एक विशिष्ट प्रकार के एन्क्रिप्शन स्कीम पर केंद्रित है, जो मशीन लर्निंग कार्यों के लिए व्यापक रूप से उपयोग किया जाता है। इस स्कीम में, एन्क्रिप्टेड डेटा को 'पॉलीनोमियल्स' (polynomials) नामक बड़े गणितीय ऑब्जेक्ट्स के संग्रह के रूप में दर्शाया जाता है। गणना करने के लिए, कंप्यूटर को इन पॉलिनोमियल्स को छोटे टुकड़ों में तोड़ने और फिर से जोड़ने की प्रक्रिया से गुजरना पड़ता है। शोधकर्ताओं ने पाया कि इन गणनाओं को चलाने के लिए उपयोग किया जाने वाला मौजूदा सॉफ्टवेयर आधुनिक कंप्यूटर प्रोसेसर की शक्ति का पूरी तरह से उपयोग नहीं कर रहा था।
आधुनिक कंप्यूटर प्रोसेसर में कई कोर होते हैं, जो एक टीम के कार्यकर्ताओं के समान होते हैं, जिनमें से प्रत्येक एक साथ एक काम करने में सक्षम होता है। एन्क्रिप्टेड गणनाओं के लिए मानक सॉफ्टवेयर को SIMD नामक एक तकनीक का उपयोग करने के लिए डिज़ाइन किया गया था, जो एक अकेले कार्यकर्ता द्वारा एक विशेष उपकरण का उपयोग करके एक साथ कई छोटी वस्तुओं पर कार्य करने जैसा है। प्रभावी होने के बावजूद, यह दृष्टिकोण एक ही समय में सक्रिय होने वाले कार्यकर्ताओं की संख्या को सीमित करता है। शोधकर्ताओं ने महसूस किया कि एन्क्रिप्टेड गणनाओं की संरचना एक अलग रणनीति की अनुमति देती है: हर छोटी वस्तु के लिए विशेष उपकरण पर निर्भर रहने के बजाय, वे काम के विभिन्न बड़े हिस्सों को अलग-अलग कार्यकर्ताओं को सौंप सकते थे। उन्होंने एक कंपाइलर-निर्देशित (compiler-guided) दृष्टिकोण विकसित किया जो कोड को चलने से पहले पुनर्गठित करता है, जिससे कंप्यूटर अपने कई कोर का अधिक प्रभावी ढंग से उपयोग कर सके। एक एकल-कार्यकर्ता, कई-वस्तुओं वाले दृष्टिकोण से कई-कार्यकर्ताओं, कई-खंडों (many-workers, many-chunks) वाले दृष्टिकोण की ओर यह बदलाव उनके नवाचार का मूल है।
शोधकर्ताओं ने अपना सिस्टम, CRISP, एक मौजूदा एंड-टू-एंड कंपाइलर ANT-ACE के ऊपर बनाया है। यह कंपाइलर एक मशीन लर्निंग मॉडल को लेता है, जैसे कि छवियों को पहचानने के लिए उपयोग किया जाने वाला मॉडल, और स्वचालित रूप से इसे एक ऐसे प्रोग्राम में बदल देता है जो एन्क्रिप्टेड डेटा पर चल सके। टीम ने अपनी नई पैरेललाइजेशन रणनीति को इस प्रक्रिया के अंतिम चरण में डाला, जहाँ प्रोग्राम को उन पॉलीनोमियल ऑपरेशन्स में अनुवादित किया जाता है जिन्हें एन्क्रिप्शन लाइब्रेरी समझती है। ऐसा कंपाइलर स्तर पर करने से, वे गणना की पूरी संरचना देख सके और यह सुनिश्चित कर सके कि काम को विभाजित करने का नया तरीका एन्क्रिप्शन के सख्त नियमों का उल्लंघन न करे। उन्हें सावधान रहना पड़ा क्योंकि एन्क्रिप्टेड डेटा के विशिष्ट गणितीय गुण होते जिन्हें संरक्षित किया जाना चाहिए; यदि काम को गलत तरीके से विभाजित किया जाता है, तो अंतिम उत्तर गलत होगा। उनकी विधि गणना के विभिन्न भागों के बीच निर्भरता का सावधानीपूर्वक विश्लेषण करती है ताकि यह सुनिश्चित हो सके कि पैरेलल कार्यकर्ता एक-दूसरे के साथ हस्तक्षेप न करें।
उनके प्रयोगों के परिणाम महत्वपूर्ण थे। उन्होंने छह विभिन्न एन्क्रिप्टेड मशीन लर्निंग मॉडल के साथ एक मानक मल्टी-कोर कंप्यूटर प्रोसेसर पर अपने सिस्टम का परीक्षण किया। जब उन्होंने अपने नए तरीके के साथ एन्क्रिप्टेड गणनाएँ चलाईं, तो मुख्य गणितीय ऑपरेशन मानक तरीके की तुलना में औसतन 2.65 गुना तेज़ हो गए। यह गति वृद्धि एन्क्रिप्टेड नंबरों के जोड़ और गुणा सहित विभिन्न प्रकार की गणनाओं में सुसंगत थी। पूरे मशीन लर्निंग इन्फरेंस (inference) प्रक्रिया के लिए—जिसमें एक डेटा के टुकड़े पर मॉडल चलाने में लगने वाला समय शामिल है—नए तरीके ने मौजूदा सर्वोत्तम संस्करण की तुलना में कुल समय में औसतन 137 सेकंड की कमी की। कुछ मामलों में, यह कमी और भी नाटकीय थी, जहाँ सिस्टम विशिष्ट गुणा कार्यों के लिए लगभग सात गुना तेज़ चला। ये सुधार मौजूदा एन्क्रिप्शन स्कीम को बदले बिना या नए हार्डवेयर की आवश्यकता के बिना प्राप्त किए गए; लाभ पूरी तरह से मौजूदा काम को व्यवस्थित करने के एक स्मार्ट तरीके से आए।
शोधकर्ताओं ने यह भी सत्यापित किया कि उनका तरीका अन्य अनुकूलन (optimizations) के साथ मिलकर अच्छी तरह से काम करता है। मशीन लर्निंग मॉडल में अक्सर जटिल चरण शामिल होते हैं जहाँ समय बचाने के लिए विभिन्न ऑपरेशन्स को एक साथ मिला दिया जाता है। टीम ने दिखाया कि उनकी पैरेललाइजेशन रणनीति इन विलय तकनीकों (merging techniques) के साथ सह-अस्तित्व में रह सकती है, जिससे दोनों के लाभ सुरक्षित रहते हैं। उन्होंने सोलह प्रोसेसर कोर तक के सिस्टम का परीक्षण किया और पाया कि प्रदर्शन में सुधार होता रहा, हालांकि जैसे-जैसे सिस्टम अपनी मेमोरी बैंडविड्थ की सीमाओं के करीब पहुँचा, लाभ स्थिर होने लगा। यह इंगित करता है कि यह विधि अधिक शक्तिशाली हार्डवेयर के साथ अच्छी तरह से स्केल करती है। महत्वपूर्ण रूप से, उन्होंने पुष्टि की कि नए सिस्टम द्वारा उत्पन्न परिणाम मानक सिस्टम द्वारा उत्पन्न परिणामों के गणितीय रूप से समान थे, जिससे यह सिद्ध हुआ कि गति सटीकता की कीमत पर नहीं आई।
यह कार्य एन्क्रिप्टेड मशीन लर्निंग को वास्तविक दुनिया के उपयोग के लिए व्यवहार्य बनाने की दिशा में एक व्यावहारिक कदम है। गणनाओं को पैरेललाइज करने के नियंत्रण को रनटाइम लाइब्रेरी से कंपाइलर की ओर स्थानांतरित करके, शोधकर्ताओं ने प्रदर्शन के एक नए स्तर को अनलॉक किया जो पहले अप्राप्य था। उनका दृष्टिकोण किसी जादू या नए सैद्धांतिक ब्रेकथ्रू पर निर्भर नहीं है बल्कि मौजूदा उपकरणों के उपयोग के तरीके के सावधानीपूर्वक पुनर्गठन पर आधारित है। निष्कर्ष बताते हैं कि एन्क्रिप्टेड डेटा प्रोसेसिंग को उन अनुप्रयोगों के लिए पर्याप्त तेज़ बनाया जा सकता है जिनमें तत्काल परिणामों की आवश्यकता होती है, जैसे कि रीयल-टाइम धोखाधड़ी का पता लगाना या निजी चिकित्सा निदान। टीम ने अपने कार्यान्वयन को अध्ययन और निर्माण के लिए दूसरों के लिए उपलब्ध कराया है, जिससे आगे के शोध के द्वार खुल गए हैं। जैसे-जैसे गोपनीयता-संरक्षण गणना (privacy-preserving computation) की मांग बढ़ रही है, CRISP जैसी विधियाँ सुरक्षित डेटा प्रसंस्करण को एक सैद्धांतिक संभावना के बजाय डिजिटल परिदृश्य का एक मानक हिस्सा बनाने के लिए एक स्पष्ट मार्ग प्रदान करती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।