Privacy-Preserving Fully Distributed Gaussian Process Regression

कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ आपके स्मार्ट उपकरण, जैसे आपका फोन या आपका होम थर्मोस्टेट, आपकी आदतों से लगातार सीख रहे हैं ताकि वे बेहतर भविष्यवाणियाँ कर सकें। वे एक चतुर गणितीय उपकरण का उपयोग करते हैं जिसे गौसियन प्रोसेस रिग्रेशन (GPR) कहा जाता है। GPR को एक सुपर-स्मार्ट जासूस के रूप में सोचें जो केवल अनुमान नहीं लगाता; यह आपको यह भी बताता है कि वह अपने अनुमान को लेकर कितना आश्वस्त है। यह स्व-चालित कारों (self-driving cars) या चिकित्सा निगरानी जैसी चीजों के लिए अविश्वसनीय रूपamente उपयोगी है, जहाँ भविष्यवाणी से अधिक महत्वपूर्ण "अनिश्चितता" (uncertainty) को जानना होता है।

आमतौर पर, इन जासूसों को सुपर-स्मार्ट बनाने के लिए, आपको हर उपकरण के सभी डेटा को एक विशाल केंद्रीय मस्तिष्क में डालना होगा। लेकिन यह गोपनीयता का एक दुस्वप्न है। आपके स्वास्थ्य रिकॉर्ड या दैनिक दिनचर्या एक एकल सर्वर पर नहीं होनी चाहिए जहाँ से उन्हें लीक किया जा सके। इसलिए, वैज्ञानिकों ने डिस्ट्रीब्यूटेड लर्निंग (Distributed Learning) का आविष्कार किया, जहाँ प्रत्येक उपकरण अपना डेटा अपने पास रखता है और केवल अपने निष्कर्षों को अपने पड़ोसियों के साथ साझा करता है। हालाँकि, वे निष्कर्ष भी कभी-कभी अनजाने में आपके मूल डेटा के बारे में रहस्य प्रकट कर सकते हैं। यह शोध पत्र इस पेचीदा समस्या का समाधान करता है कि कैसे ये उपकरण सहयोग कर सकते हैं और एक साथ सीख सकते हैं, बिना किसी को यह पता चले कि दूसरों का निजी डेटा वास्तव में कैसा दिखता है।

---

सीखने वाली मशीनों का गुप्त क्लब

इस शोध पत्र में, लेखक, योंगजुन जेंग और उनकी टीम, एक नया तरीका प्रस्तावित करते हैं जिससे एजेंटों का एक समूह (आइए उन्हें "लर्निंग रोबोट्स" कहें) अपने निजी टुकड़ों को एक-दूसरे को दिखाए बिना एक पहेली को एक साथ हल कर सकता है। वे अपने समाधान को प्राइवेसी-प्रिजर्विंग फुली डिस्ट्रीब्यूटेड गौसियन प्रोसेस रिग्रेशन प्रोटोकॉल कहते हैं।

यहाँ परिदृश्य है: कल्पना कीजिए कि अस्पतालों का एक समूह यह अनुमान लगाने की कोशिश कर रहा है कि एक नया रोगी उपचार के प्रति कैसी प्रतिक्रिया देगा। प्रत्येक अस्पताल के पास अपने पिछले रोगियों की अपनी निजी सूची है। वे एक बेहतर उत्तर प्राप्त करने के लिए अपने ज्ञान को संयोजित करना चाहते हैं, लेकिन वे सख्त गोपनीयता कानूनों के कारण अपनी रोगी सूचियों को साझा नहीं कर सकते। उन्हें डेटा रखने के लिए एक केंद्रीय "सुपर-सर्वर" पर भी भरोसा नहीं है, क्योंकि उस सर्वर को हैक किया जा सकता है या वह एक प्रतिस्पर्धी हो सकता है।

लेखकों का बड़ा विचार सिक्योर मल्टी-पार्टी कंप्यूटेशन (SMPC) नामक एक क्रिप्टोग्राफिक ट्रिक का उपयोग करना है। इसे समझने के लिए, कल्पना करें कि अस्पताल अपने सभी रोगियों की औसत ऊंचाई की गणना करने की कोशिश कर रहे हैं, लेकिन वे किसी को भी अपने विशिष्ट रोगी की ऊंचाई नहीं बताना चाहते।

"सीक्रेट शेयरिंग" का जादू

यह शोध पत्र एडिटिव सीक्रेट शेयरिंग (Additive Secret Sharing) नामक एक तकनीक का उपयोग करता है। हमारी कहानी में यह कैसे काम करता है, यहाँ देखें:

1. विभाजन (The Split): अपना वास्तविक नंबर (मान लीजिए 170 सेमी) भेजने के बजाय, एक अस्पताल इसे रैंडम "शार्ड्स" (shards) में विभाजित करता है। उदाहरण के लिए, अस्पताल A +50 का एक शार्ड रख सकता है, अस्पताल B को -30 का एक शार्ड भेज सकता है, और अस्पताल C को -20 का एक शार्ड भेज सकता है।
2. शोर (The Noise): पड़ोसियों के लिए, ये शार्ड रैंडम शोर की तरह दिखते हैं। अस्पताल B "-30" देखता है और उसे पता नहीं चलता कि मूल संख्या 170 थी, 500 थी, या -100 थी। जब तक सभी शार्ड्स पास न हों, मूल संख्या का अनुमान लगाना गणितीय रूप से असंभव है।
3. पुनर्गठन (The Reassembly): अस्पताल इन शार्ड्स को एक घेरे में घुमाते हैं। अंततः, वे सभी प्राप्त शार्ड्स को जोड़ देते हैं। क्योंकि गणित को पूरी तरह से व्यवस्थित किया गया है, रैंडम शोर रद्द हो जाता है, और योग सही कुल (या औसत) को प्रकट करता है बिना किसी को व्यक्तिगत संख्या देखे।

लेखकों ने इस अवधारणा पर अपना पूरा सिस्टम बनाया है, लेकिन उन्हें इसे वास्तविक दुनिया के डेटा के लिए काम करने योग्य बनाने के लिए कुछ पेचीदा समस्याओं को हल करना पड़ा।

"क्वांटाइजेशन" की बाधा

वास्तविक दुनिया का डेटा (जैसे रोगी की ऊंचाई या तापमान) दशमलव (decimals) से जुड़ा होता है। लेकिन सीक्रेट शेयरिंग आमतौर पर पूर्णांकों (integers) के साथ सबसे अच्छा काम करती है। इसे ठीक करने के लिए, लेखकों ने एक "रूलर" या स्केल फैक्टर पेश किया। वे रोबोट्स को बताते हैं कि वे अपने नंबरों को रूलर के निकटतम निशान तक राउंड करें।

• समझौता (The Trade-off): यदि रूलर में बहुत बारीक निशान (छोटा स्केल फैक्टर) हैं, तो गणित बहुत सटीक है, लेकिन संख्याएँ बहुत बड़ी हो जाती हैं, जिससे संचार धीमा हो जाता है। यदि रूलर में मोटे निशान हैं, तो यह तेज़ है लेकिन कम सटीक है।
• निष्कर्ष: टीम ने साबित किया कि एक पर्याप्त बारीक रूलर चुनकर और प्रोटोकॉल को पर्याप्त राउंड चलाने से आप इस राउंडिंग से होने वाली त्रुटि को जितना चाहें उतना छोटा कर सकते हैं। उन्होंने दिखाया कि इस राउंडिंग के साथ भी, अंतिम परिणाम व्यावहारिक रूप से वही है जो आपको तब मिलता जब सभी ने अपना कच्चा डेटा खुले तौर पर साझा किया होता।

"मास्किंग" का नृत्य

एक और खतरा था: क्या होगा यदि दो अस्पताल मिलीभगत (collude) करें? यदि अस्पताल A और अस्पताल B पड़ोसी हैं, तो क्या वे अस्पताल C के छिपे हुए रहस्य का पता लगा सकते हैं?
इसे रोकने के लिए, लेखकों ने एक मास्किंग चरण जोड़ा। अपने शार्ड्स भेजने से पहले, रोबोट अतिरिक्त "डमी" नंबर उत्पन्न करते हैं जो एक-दूसरे को पूरी तरह से रद्द कर देते हैं। यह एक गुप्त नोट पास करने वाले नर्तकों के समूह जैसा है; वे नोट को एक त्रिकोण में घुमाते हैं ताकि कोई भी दो लोग कभी भी पूरे मार्ग को देख न सकें। पेपर सिद्ध करता है कि जब तक रोबोट्स का नेटवर्क पर्याप्त रूप से जुड़ा हुआ है (विशेष रूप से, यदि प्रत्येक जोड़ी के पड़ोसियों का एक सामान्य मित्र है), तो "सेमी-होनेस्ट" रोबोट्स का एक छोटा समूह (जो नियमों का पालन करते हैं लेकिन झाँकने की कोशिश करते हैं) अंतिम औसत परिणाम के अलावा और कुछ नहीं जान सकता।

"सीक्रेट सॉस" का अनुकूलन

यह शोध पत्र एक ऐसी समस्या को भी संबोधित करता है जिसे अक्सर गोपनीयता अनुसंधान में अनदेखा किया जाता है: हाइपरपैरामीटर ऑप्टिमाइजेशन (Hyperparameter Optimization)।
GPR में, कुछ "नॉब्स" (जिन्हें हाइपरपैरामीटर कहा जाता है) होते हैं जो मॉडल के सीखने को नियंत्रित करते हैं। इन नॉब्स को सही ढंग से घुमाना सटीकता के लिए महत्वपूर्ण है। आमतौर पर, आपको सर्वोत्तम सेटिंग्स खोजने के लिए सभी डेटा को देखने की आवश्यकता होती है। लेखकों ने दिखाया कि कैसे रोबोट बिना कभी भी अपने स्थानीय डेटा को प्रकट किए, उसी सीक्रेट-शेयरिंग डांस का उपयोग करके इन नॉब्स को एक साथ समायोजित कर सकते हैं। उन्होंने रोबोट्स को सर्वोत्तम सेटिंग की ओर छोटे कदम उठाने दिया, प्रत्येक चरण में अपनी प्रगति को सुरक्षित रूप से औसत किया।

उन्होंने क्या पाया

टीम ने अपने तरीके का परीक्षण दो वास्तविक दुनिया के डेटासेट पर किया:

1. SARCOS: रोबोटिक आर्म की गतिविधियों के बारे में एक डेटासेट (बड़े पैमाने की समस्याओं के परीक्षण के लिए उपयोग किया गया)।
2. Diabetes: रोगी के स्वास्थ्य रिकॉर्ड के बारे में एक डेटासेट (जहाँ गोपनीयता महत्वपूर्ण है)।

उन्होंने अपने तरीके की तुलना अन्य गोपनीयता तकनीकों से की जो एक केंद्रीय सर्वर या भारी एन्क्रिप्शन पर निर्भर करती हैं।

• गति (Speed): उनका तरीका अन्य विकल्पों की तुलना में काफी तेज़ था, जो अक्सर 300 सेकंड से अधिक समय ले लेते थे। हालांकि, सटीक गति नेटवर्क सेटअप पर निर्भर करती है। 4 पड़ोसियों वाले 20-एजेंट नेटवर्क के लिए, उनका तरीका लगभग 0.59 सेकंड में समाप्त हो गया। लेकिन यदि नेटवर्क बड़ा है (40 एजेंट) या अधिक सघन रूप से जुड़ा है (प्रति एजेंट 19 पड़ोसी), तो समय बढ़कर लगभग 0.99 सेकंड या 6.69 सेकंड हो जाता है (डेटासेट के आधार पर)। हालांकि हमेशा एक सेकंड से कम नहीं, फिर भी यह प्रतिस्पर्धी तरीकों की तुलना में कई गुना तेज़ है।
• सटीकता (Accuracy): परिणाम "परफेक्ट" गैर-निजी संस्करण के बहुत करीब थे। अंतर (RMSE के रूप में मापा गया) बहुत कम था, अक्सर 0.02 से भी कम।
• गोपनीयता (Privacy): उन्होंने गणितीय रूप से सिद्ध किया कि यह प्रोटोकॉल मिलीभगत करने वाले एजेंटों के एक निश्चित आकार के समूह के विरुद्ध सुरक्षित है। इस "सुरक्षित समूह" का आकार प्रत्येक रोबोट के पड़ोसियों की संख्या पर निर्भर करता है; अधिक कनेक्शन मतलब बेहतर गोपनीयता।

मुख्य निष्कर्ष

यह शोध पत्र केवल एक अच्छा विचार ही नहीं सुझाता; यह एक कामकाजी रेसिपी प्रदान करता है। लेखकों ने प्रदर्शित किया है कि आप एक साथ मिलकर अपनी व्यक्तिगत जानकारी को पूरी तरह से छिपाते हुए एक शक्तिशाली, सटीक मॉडल सीख सकते हैं, और इसके लिए किसी विश्वसनीय केंद्रीय बॉस की आवश्यकता नहीं है। उन्होंने दिखाया है कि सीक्रेट शेयरिंग और थोड़े से गणितीय "राउंडिंग" का उपयोग करके, आप इसे एक पूर्णतः वितरित तरीके से प्राप्त कर सकते हैं जो तेज़ और सुरक्षित दोनों है।

परिणाम बताते हैं कि यह दृष्टिकोण वास्तविक दुनिया के उपयोग के लिए तैयार है, जो स्वास्थ्य सेवा, वित्त और स्मार्ट शहरों जैसे गोपनीयता-संवेदनशील अनुप्रयोगों के लिए एक व्यावहारिक मार्ग प्रदान करता है, जहाँ डेटा साझा करने के लिए बहुत कीमती है लेकिन उसे अनदेखा करना भी बहुत महत्वपूर्ण है।