🤖 machine learning

DP-IVON-Gradsq: Differentially Private Squared-Gradient Improved Variational Online Newton

यह शोध पत्र DP-IVON-Gradsq प्रस्तुत करता है, जो इम्प्रूव्ड वेरिएशनल ऑनलाइन न्यूटन ऑप्टिमाइज़र का एक डिफरेंशियल प्राइवेट संस्करण है जो बेयसियन अनिश्चितता परिमाणीकरण को गोपनीयता गारंटी के साथ प्रभावी ढंग से संयोजित करने के लिए एक नॉइज़-करेक्टेड स्क्वेयर्ड-ग्रेडिएंट एस्टिमेटर का उपयोग करता है, जो कमजोर-से-मध्यम गोपनीयता बाधाओं के तहत CIFAR-10 पर प्रतिस्पर्धी प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Nour Jamoussi, Ikram Dridi, Giuseppe Serra, Marios Kountouris

प्रकाशित 2026-07-28

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nour Jamoussi, Ikram Dridi, Giuseppe Serra, Marios Kountouris

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को बिल्लियों, कुत्तों और कारों को पहचानना सिखा रहे हैं। आमतौर पर, आप उसे लाखों तस्वीरें खिलाते हैं, और वह परीक्षण और त्रुटि (trial and error) के माध्यम से सीखता है, और अंततः एक प्यारी सी टैबी बिल्ली को पहचानने में माहिर बन जाता है। लेकिन क्या होगा अगर वे तस्वीरें असली लोगों की हों, और आप रोबोट को उनके चेहरे या निजी विवरण याद करने की अनुमति नहीं दे सकते? यहीं पर डिफरेंशियल प्राइवेसी (Differential Privacy) काम आती है। इसे एक "प्राइवेसी शील्ड" की तरह समझें जो रोबोट की सीखने की प्रक्रिया में थोड़ा सा 'स्टैटिक नॉइज़' (static noise) जोड़ देती है। यह ऐसा है जैसे आप एक पंखे के माध्यम से रोबोट को निर्देश फुसफुसा रहे हैं; रोबोट सामान्य नियम तो सीख जाता है, लेकिन वह स्टैटिक यह समझने में असंभव बना देता है कि उसने वास्तव में कौन सी विशिष्ट तस्वीरें देखी थीं।

अब, कल्पना कीजिए कि आप केवल यह नहीं चाहते कि रोबोट "बिल्ली" का अनुमान लगाए, बल्कि यह भी जानना चाहते हैं कि वह इसे लेकर कितना आश्वस्त है। शायद वह एक धुंधली तस्वीर है, और रोबोट को कहना चाहिए, "मुझे लगता है कि यह एक बिल्ली है, लेकिन मैं केवल 60% आश्वस्त हूँ।" यह बेयसियन लर्निंग (Bayesian Learning) का जादू है। एक ही "परफेक्ट" उत्तर खोजने के बजाय, यह उत्तरों की एक पूरी श्रृंखला सीखता है, जैसे कि एक मौसम विज्ञानी जो आपको केवल 'हाँ' या 'नहीं' कहने के बजाय बारिश की संभावना बताता है। सबसे बड़ी चुनौती वैज्ञानिकों के सामने यह है कि इन दोनों विचारों को कैसे जोड़ा जाए: आप प्राइवेसी नॉइज़ जोड़ते हुए भी रोबोट के अनिश्चितता अनुमानों (uncertainty estimates) को सटीक कैसे रख सकते हैं? आमतौर पर, प्राइवेसी नॉइज़ रोबोट के आत्मविश्वास को बिगाड़ देती है, जिससे वह या तो अनुमान लगाने में बहुत डर जाता है या गलत होने पर बहुत अधिक आत्मविश्वासी हो जाता है।

यह DP-IVON-Gradsq नामक एक नए तरीके की कहानी है, जो ठीक इसी पहेली को सुलझाने का एक चतुर प्रयास है। शोधकर्ता, नूर जमौसी और उनकी टीम, एक ऐसा प्राइवेसी शील्ड बनाना चाहते थे जो रोबोट की "मुझे यकीन नहीं है" कहने की क्षमता को न तोड़े। उन्होंने एक मौजूदा स्मार्ट लर्निंग टूल IVON (जो रोबोट के लिए एक सुपर-कुशल नेविगेटर की तरह है) लिया और उसे एक प्राइवेसी अपग्रेड दिया।

यहाँ उनका नया टूल एक सरल उपमा का उपयोग करके काम करता है। कल्पना कीजिए कि रोबोट एक ऊबड़-खाबड़ रास्ते पर चलने की कोशिश कर रहा है (सीखने की प्रक्रिया)। निजी रहने के लिए, रोबोट को आँखों पर पट्टी बांधनी पड़ती है और एक शोर वाले रेडियो को सुनना पड़ता है (प्राइवेसी नॉइज़)। पुराने तरीकों में, रोबोट पट्टी बांधकर और शोर के बीच जमीन को महसूस करते हुए रास्ते के उभारों का अनुमान लगाने की कोशिश करता था, जिससे वह अक्सर लड़खड़ा जाता था क्योंकि शोर उसके स्पर्श की समझ को भ्रमित कर देता था।

टीम का नया तरीका, DP-IVON-Gradsq, खेल बदल देता है। शोर के माध्यम से सीधे उभारों को महसूस करने के बजाय, रोबोट जिसे वह प्राप्त करता है उसके स्क्वेर्ड (squared) संस्करण को देखता है। यह प्राप्त सिग्नल के "लाउडनेस" (loudness) की गणना करता है, जिसमें वास्तविक पथ का आकार और स्टैटिक दोनों शामिल होते हैं। फिर, यह एक गणितीय ट्रिक करता: यह स्वयं प्राइवेसी नॉइज़ के ज्ञात "लाउडनेस" को उस कुल मान से घटा देता है। यही उनके नाम का "नॉइज़-करेक्टेड स्क्वेर्ड-ग्रेडिएंट" (noise-corrected squared-gradient) वाला हिस्सा है। अपने स्क्वेर्ड सिग्नल से अपेक्षित नॉइज़ वेरिएंस को घटाकर, रोबोट पथ के वास्तविक आकार (वक्रता/curvature) का अनुमान लगा सकता है, बिना यह सुनिश्चित किए कि प्राइवेसी नॉइज़ और उसका अपना आंतरिक अनुमान आपस में उलझकर भ्रमित न हो जाएं।

शोधकर्ताओं ने इस नए रोबोट का परीक्षण CIFAR-10 नामक एक प्रसिद्ध चित्र पहेली पर किया, जिसमें रोजमर्रा की वस्तुओं की 60,000 छोटी छवियां हैं। उन्होंने अपने नए तरीके की तुलना दो मानक प्राइवेसी टूल्स: DP-SGD और DP-Adam से की। परिणाम अच्छे समाचार और वास्तविकता के अहसास का मिश्रण थे।

जब प्राइवेसी के नियम "कमजोर-से-मध्यम" थे (यानी, प्राइवेसी बजट, या $\epsilon$ , सीखने की पर्याप्त स्वतंत्रता देने के लिए पर्याप्त बड़ा था), तो DP-IVON-Gradsq एक स्टार खिलाड़ी साबित हुआ। इसने मानक उपकरणों के समान प्रदर्शन किया, वस्तुओं को सही ढंग से पहचाना और महत्वपूर्ण रूप से, अपने आत्मविश्वास के स्तर को सटीक रखा। यह एक ऐसे छात्र की तरह था जो थोड़े से बैकग्राउंड शोर के साथ परीक्षा दे सकता है और अभी भी 'A' ग्रेड प्राप्त कर सकता है, जबकि उसे पता है कि कौन से प्रश्न कठिन थे।

हालाँकि, कहानी थोड़ी नाटकीय हो जाती है जब प्राइवेसी के नियम "कठोर" हो जाते हैं (यानी, $\epsilon$ बहुत छोटा है, और शोर बहुत अधिक है)। इन कठिन परिस्थितियों में, नया तरीका लड़खड़ाने लगता है। शोधकर्ताओं ने पाया कि जैसे-जैसे प्राइवेसी नॉइज़ तेज होता गया, रोबोट के आत्मविश्वास के अनुमान अविश्वसनीय होते गए। वह कभी-कभी गलत उत्तर के बारे में अत्यधिक आत्मविश्वासी हो जाता या अपना रास्ता पूरी तरह से भटक जाता। ऐसा इसलिए हुआ क्योंकि जिस "नॉइज़ घटाने" की ट्रिक का उन्होंने उपयोग किया, उसकी एक सीमा है। जब सिग्नल (वास्तविक लर्निंग) शोर की तुलना में बहुत कमजोर हो जाता है, तो शोर को घटाने से अनजाने में सिग्नल पूरी तरह से खत्म हो सकता है, जिससे रोबोट के पास पथ के आकार के बारे में शून्य जानकारी बचती है।

टीम का सुझाव है कि यह विधि एक आशाजनक कदम है, विशेष रूप से उन स्थितियों के लिए जहाँ आपको सख्त संभव प्राइवेसी की आवश्यकता नहीं है। यह दिखाता है कि आप रोबोट को बहुत अधिक धीमा किए बिना प्राइवेसी और अनिश्चितता-जागरूक लर्निंग को कैसे जोड़ सकते हैं। लेकिन वे यह भी स्वीकार करते हैं कि सबसे संवेदनशील डेटा के लिए, जहाँ प्राइवेसी सर्वोपरि है, वर्तमान गणित अभी इतना मजबूत नहीं है। वे सुझाव देते हैं कि भविष्य के काम को यह खोजने की आवश्यकता है कि जब शोर बहुत अधिक हो, तो पथ के आकार का बेहतर अनुमान कैसे लगाया जाए।

संक्षेप में, DP-IVON-Gradsq एक स्मार्ट नया टूल है जो रोबोट को निजी तौर पर सीखने में मदद करता है और साथ ही अनिश्चितता के बारे में उनकी "अंतरात्मा की आवाज" (gut feelings) को बरकरार रखता है, लेकिन यह हर स्थिति के लिए जादुई समाधान नहीं है। यह तब बहुत अच्छा काम करता है जब प्राइवेसी शील्ड हल्की होती है, लेकिन जब शील्ड बहुत भारी हो जाती है, तो रोबोट को स्टैटिक के बीच देखने के लिए बेहतर चश्मे की आवश्यकता होती है। इस नए तरीके का कोड दूसरों के परीक्षण के लिए उपलब्ध है, जो समुदाय को गणित को और परिष्कृत करने और रोबोट को भविष्य में और भी स्मार्ट बनाने में मदद करने के लिए आमंत्रित करता है।

तकनीकी सारांश: DP-IVON-Gradsq

समस्या विवरण
संवेदनशील क्षेत्रों (जैसे स्वास्थ्य सेवा, वित्त) में डीप न्यूरल नेटवर्क की तैनाती के लिए कठोर गोपनीयता गारंटी की आवश्यकता होती है, जो आमतौर पर डिफरेंशियल प्राइवेसी (DP) द्वारा प्रदान की जाती है। साथ ही, उच्च-दांव वाले अनुप्रयोगों को ऐसे मॉडलों की आवश्यकता होती है जो अनिश्चितता-जागरूक भविष्यवाणी (uncertainty-aware prediction) करने में सक्षम हों, एक ऐसी क्षमता जो बेयसियन डीप लर्निंग (BDL) द्वारा प्रदान की जाती है। हालांकि, इन दोनों उद्देश्यों को मिलाना चुनौतीपूर्ण है। मानक DP विधियाँ (जैसे DP-SGD) डेटा की सुरक्षा के लिए ग्रेडिएंट्स में शोर (noise) जोड़ती हैं, जबकि BDL विधियाँ (जैसे वेरिएशनल इन्फरेंस) पोस्टीरियर सैंपलिंग के माध्यम से स्टोकेस्टिसिटी (stochasticity) पेश करती हैं। इंजेक्ट किए गए प्राइवेसी शोर और पोस्टीरियर सैंपलिंग शोर के बीच की अंतःक्रिया गैर-तुच्छ है; सहज संयोजन अक्सर प्रदर्शन में गिरावट या अस्थिर अनिश्चितता अनुमानों का कारण बनते हैं। मौजूदा प्राइवेट बेयसियन विधियाँ, जैसे कि DP-SGLD (स्टोकेस्टिक ग्रेडिएंट लैंघ्विन डायनेमिक्स) और DP-Bayes by Backprop (DP-BBP), स्केलेबिलिटी संबंधी समस्याओं, विश्लेषणात्मक पोस्टीरियर्स (analytic posteriors) की कमी, या मोंटे कार्लो सैंपलिंग को ग्रेडिएंट क्लिपिंग और शोर इंजेक्शन के साथ संयोजित करने की जटिलता के कारण कम्प्यूटेशनल अक्षमता से ग्रस्त हैं।

कार्यप्रणाली
लेखक DP-IVON-Gradsq प्रस्तावित करते हैं, जो इम्प्रूव्ड वेरिएशनल ऑनलाइन न्यूटन (IVON) ऑप्टिमाइज़र का एक डिफरेंशियल प्राइवेट वेरिएंट है। IVON एक स्केलेबल वेरिएशनल लर्निंग विधि है जो कुशल सेकंड-ऑर्डर अपडेट का उपयोग करके मॉडल पैरामीटर्स पर एक गॉसियन पोस्टीरियर ( $q(\theta) = \mathcal{N}(m, \text{diag}(\sigma_v^2))$ ) बनाए रखती है, जिससे पुनर्गठित हेसियन अनुमानों (reparameterized Hessian estimates) से प्राप्त कम्प्यूटेशनल लागत एडम-आधारित अनुकूलन (Adam-based optimization) के समान रहती है।

DP-IVON-Gradsq की मुख्य नवीनता प्राइवेसी के लिए ग्रेडिएंट को सैनिटाइज करने और प्राइवेसी शोर तथा वेरिएशनल सैंपलिंग शोर के बीच के जुड़ाव (coupling) को कम करने के अपने दृष्टिकोण में निहित है:

मानक DP सैनिटाइजेशन: यह विधि मानक DP तंत्रों का उपयोग करती है: प्रति-उदाहरण ग्रेडिएंट क्लिपिंग (एक $\ell_2$ -नॉर्म बाधा $C$ का उपयोग करके) और मिनीबैच-औसत ग्रेडिएंट ( $g_{dp}$ ) में कैलिब्रेटेड गॉसियन शोर जोड़ना।
शोर-सुधारित स्क्वेयर्ड-ग्रेडिएंट कर्वेचर (Noise-Corrected Squared-Gradient Curvature): मानक IVON में, कर्वेचर अनुमान (हेसियन सन्निकटन) पुनर्गठित एस्टीमेटर $\hat{h}_{IVON} = g_{dp} \odot \frac{\theta - m}{\sigma_v^2}$ पर निर्भर करता है, जो स्पष्ट रूप से निजीकृत ग्रेडिएंट को de sampled पैरामीटर विक्षेपण ( $\theta - m$ ) के साथ जोड़ता है। इन शोर स्रोतों को अलग करने के लिए, DP-IVON-Gradsq इसे एक स्क्वेयर्ड-ग्रेडिएंट कर्वेचर एस्टीमेट ( $g_{dp}^2$ ) से बदल देता है।
बायस सुधार (Bias Correction): चूंकि $g_{dp}$ में गॉसियन शोर होता है, इसलिए सीधे $g_{dp}^2$ करने से कर्वेचर अनुमान में प्राइवेसी शोर का विचरण (variance) आ जाता है। लेखक एक शोर-सुधार चरण पेश करते हैं:
$\hat{v} = \max\left(g_{dp}^2 - \frac{\sigma_p^2 C^2}{b^2}, 0\right)$
जहाँ $\sigma_p$ शोर मल्टीप्लायर है और $b$ बैच का आकार है। यह परिणाम को नॉन-नेगेटिव ऑर्थेंट पर प्रोजेक्ट करने से पहले इंजेक्ट किए गए शोर के ज्ञात विचरण को घटाता है।
पोस्ट-प्रोसेसिंग: कर्वेचर एस्टीमेट $\hat{h}$ को $\hat{v}$ का उपयोग करके IVON रिकर्सन के माध्यम से अपडेट किया जाता है। महत्वपूर्ण रूप से, कर्वेचर अपडेट, मोमेंटम अपडेट, और पोस्टीरियर मीन/वेरिएंस अपडेट को निजीकृत ग्रेडिएंट पर पोस्ट-प्रोसेसिंग ऑपरेशन्स के रूप में माना जाता है, जिसका अर्थ है कि वे अतिरिक्त प्राइवेसी बजट का उपभोग नहीं करते हैं।

इसका कार्यान्वयन प्रति-उदाहरण ग्रेडिएंट गणना और RDP अकाउंटिंग के लिए Opacus लाइब्रेरी का उपयोग करता है, जिसे IVON के विशिष्ट वेरिएशनल अपडेट को संभालने के लिए एक कस्टम ऑप्टिमाइज़र के साथ रैप किया गया है।

मुख्य योगदान

DP-IVON-Gradsq एल्गोरिदम: एक अभिनव प्राइवेट ऑप्टिमाइज़र जो नेटवर्क आर्किटेक्चर या ट्रेनिंग ऑब्जेक्टिव को बदले बिना IVON फ्रेमवर्क में डिफरेंशियल प्राइवेसी को एकीकृत करता है।
शोर स्रोतों का अलगाव (Decoupling Noise Sources): कर्वेचर मैट्रिक्स के निर्माण के लिए एक शोर-सुधारित स्क्वेयर्ड-ग्रेडिएंट एस्टीमेटर का परिचय, जिसे विशेष रूप से प्राइवेसी शोर और पोस्टीरियर सैंपलिंग शोर के बीच की अंतःक्रिया को कम करने के लिए डिज़ाइन किया गया है।
कुशल कार्यान्वयन: एक व्यावहारिक, Opacus-संगत कार्यान्वयन जो एडम-जैसे ऑप्टिमाइज़र की कम्प्यूटेशनल दक्षता बनाए रखता है जबकि अनिश्चितता-जागरूक भविष्यवाणियां प्रदान करता है।
अनुभवजन्य मूल्यांकन (Empirical Evaluation): विभिन्न प्राइवेसी बजट ( $\epsilon$ ), बैच साइज और क्लिपिंग नॉर्म्स के तहत DP-SGD और DP-Adam जैसे मानक प्राइवेट ऑप्टिमाइज़र के विरुद्ध CIFAR-10 पर एक व्यापक मूल्यांकन।

परिणाम
CIFAR-10 पर प्रयोग निम्नलिखित ट्रेड-ऑफ (trade-offs) प्रकट करते हैं:

कमजोर-से-मध्यम प्राइवेसी ( $\epsilon$ बड़ा है): DP-IVON-Gradsq सटीकता (accuracy), नेगेटिव लॉग-लाइक्लीहुड (NLL), और एक्सपेक्टेड कैलिब्रेशन एरर (ECE) के मामले में DP-SGD और DP-Adam के प्रतिस्पर्धी है। यह मध्यम प्राइवेसी विक्षोभ के तहत IVON के अनिश्चितता-जागरूक व्यवहार को सफलतापूर्वक सुरक्षित रखता है।
मजबूत प्राइवेसी ( $\epsilon$ छोटा है): यह विधि बेसलाइन की तुलना में प्रदर्शन में अधिक तीव्र गिरावट प्रदर्शित करती है, विशेष रूप से छोटे बैच साइज और उच्च क्लिपिंग नॉर्म्स के लिए।
- सटीकता (Accuracy): जैसे-जैसे $\epsilon$ घटता है, प्रदर्शन तेजी से गिरता है।
- अनिश्चितता अंशांकन (Uncertainty Calibration): उच्च-प्राइवेसी शासन में NLL और ECE काफी बढ़ जाते हैं। लेखक इसका श्रेय कर्वेचर एस्टीमेटर में शोर-सुधार चरण को देते हैं। जब ग्रेडिएंट्स छोटे हो जाते हैं (जैसे, प्रशिक्षण के अंत में), तो प्राइवेसी शोर के विचरण को घटाना सिग्नल पर हावी हो सकता है, जिससे अनुमानित कर्वेचर $\hat{v}$ प्रोजेक्शन द्वारा शून्य हो जाता है। इसके परिणामस्वरूप सूचनात्मक कर्वेचर संकेतों का नुकसान होता है, जिससे खराब पोस्टीरियर वेरिएंस अनुमान और अति-आत्मविश्वासी या खराब कैलिब्रेटेड भविष्यवाणियां होती हैं।
बैच साइज संवेदनशीलता: बड़े बैच साइज इंजेक्ट किए गए शोर के प्रभावी पैमाने को कम करके सभी विधियों के लिए स्थिरता में सुधार करते हैं, लेकिन यह लाभ विशेष रूप से DP-IVON-Gradsq के लिए अपने कर्वेचर अनुमानों को स्थिर करने के लिए महत्वपूर्ण है।

महत्व और दावे
यह पेपर दावा करता है कि DP-IVON-Gradsq अनिश्चितता-जागरूक निजी प्रशिक्षण की ओर एक व्यावहारिक मार्ग प्रदान करता है, जिसकी कम्प्यूटेशनल लागत नियतात्मक (deterministic) DP ऑप्टिमाइज़र के समान है। यह प्रदर्शित करता है कि सैंपलिंग-आधारित निजी विधियों की भारी कम्प्यूटेशनल ओवरहेड के बिना बेयसियन वेरिएशनल लर्निंग के साथ डिफरेंशियल प्राइवेसी को एकीकृत करना संभव है।

हालांकि, लेखक अपनी सीमाओं के संबंध में विनम्र हैं। वे स्वीकार करते हैं कि जबकि विधि कमजोर-से-मध्यम प्राइवेसी बाधाओं के तहत प्रतिस्पर्धी है, यह मजबूत प्राइवेसी बाधाओं के तहत संघर्ष करती है। पेपर कर्वेचर एस्टीमेटर में शोर-सुधार और प्रोजेक्शन चरण को एक संभावित बाधा के रूप में पहचानता है, जहाँ प्राइवेसी विचरण को घटाने से उच्च-शोर वाले शासन में शून्य-कर्वेचर अनुमान हो सकते हैं। फलस्वरूप, यह कार्य सख्त प्राइवेसी गारंटियों के तहत अधिक मजबूत निजी कर्वेचर अनुमान तकनीकों और बेहतर हाइपरपैरामीटर ट्यूनिंग रणनीतियों की आवश्यकता को रेखांकित करता है। यह पेपर उच्च प्राइवेसी और उच्च-निष्ठा अनिश्चितता मात्रा निर्धारण (high-fidelity uncertainty quantification) के बीच मौलिक तनाव को हल करने का दावा नहीं करता है, बल्कि स्केलेबल प्राइवेट वेरिएशनल ऑप्टिमाइज़ेशन की दिशा में एक कदम प्रदान करता है।

इसी तरह के और पेपर