📊 statistics

AdaPrivate-TS: Private Thompson Sampling for Contextual Bandits with Privacy Amplification

AdaPrivate-TS एक डिफरेंशियल प्राइवेट कॉन्टेक्स्टुअल बैंडिट एल्गोरिदम है जो थॉम्पसन सैंपलिंग के भीतर बढ़ी हुई अनिश्चितता के रूप में प्राइवेसी नॉइज़ की व्याख्या का लाभ उठाता है, जो बैचड zCDP कंपोज़िशन और प्राइवेसी एम्प्लीफिकेशन के माध्यम से लॉगरिदमिक प्राइवेसी लागत के साथ निकट-इष्टतम प्रदर्शन प्राप्त करता है।

मूल लेखक: Mohammadreza Riyazat, Eranga Ukwatta

प्रकाशित 2026-06-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mohammadreza Riyazat, Eranga Ukwatta

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ AdaPrivate-TS पेपर का स्पष्टीकरण दिया गया है, जिसे रोजमर्रा के उदाहरणों का उपयोग करके सरल अवधारणाओं में विभाजित किया गया है।

मुख्य समस्या: "शर्मीले ग्राहक" की दुविधा

कल्पना कीजिए कि आप एक बहुत बड़ी ऑनलाइन बुकस्टोर चलाते हैं। आप हर ग्राहक को उनकी पसंद की एकदम सही किताब सुझाना चाहते हैं। ऐसा करने के लिए, आपको यह जानने की ज़रूरत है कि उन्हें क्या पसंद है। लेकिन यहाँ एक पेंच है: ग्राहक शर्मीले हैं। वे नहीं चाहते कि आप उनकी पढ़ने की सटीक आदतों को जानें क्योंकि वह एक निजी जानकारी है।

कंप्यूटर विज्ञान की दुनिया में, इसे डिफरेंशियल प्राइवेसी (Differential Privacy) कहा जाता है। यह एक गणितीय गारंटी है जो कहती है, "हम सामान्य रुझानों को सीख सकते हैं बिना यह जाने कि विशेष रूप से आपने क्या किया।"

समस्या यह है कि गोपनीयता की रक्षा करने के लिए, कंप्यूटरों को डेटा में "शोर" (noise/random static) जोड़ना पड़ता है। आमतौर पर, यह शोर धुंध की तरह काम करता है—यह कंप्यूटर को भ्रमित कर देता है, जिससे वह किताबें सुझाने में कम कुशल हो जाता है। अधिकांश मौजूदा एल्गोरिदम इस शोर को एक बाधा के रूप में देखते हैं, जैसे बारिश वाली खिड़की के माध्यम से मेनू पढ़ने की कोशिश करना।

बड़ी अंतर्दृष्टि: शोर धुंध नहीं, बल्कि एक संकेत है

इस पेपर के लेखकों ने कुछ बहुत चतुर खोजा। उन्होंने एक विशिष्ट अनुशंसा रणनीति (recommendation strategy) को देखा जिसे थॉम्पसन सैंपलिंग (Thompson Sampling - TS) कहा जाता है।

थॉम्पसन सैंपलिंग को एक जिज्ञासु खोजकर्ता (explorer) की तरह समझें। केवल पिछले डेटा के आधार पर सबसे अच्छी दिखने वाली किताब चुनने के बजाय, खोजकर्ता कभी-कभी यह देखने के लिए एक रैंडम किताब चुनता है कि क्या होता है। इसे "एक्सप्लोरेशन" (exploration) कहा जाता है।

लेखकों ने महसूस किया कि जब आप डेटा में प्राइवेसी शोर जोड़ते हैं, तो यह केवल खोजकर्ता को भ्रमित नहीं करता है। इसके बजाय, यह खोजकर्ता को यह सोचने पर मजबूर करता है, "हम्म, मैं इस किताब के बारे में निश्चित नहीं हूँ। शायद मुझे और अधिक एक्सप्लोर करना चाहिए।"

पुराना तरीका (UCB): प्राइवेसी शोर को भ्रष्टाचार (corruption) के रूप में देखता है। यह ऐसा है जैसे खोजकर्ता चक्कर खाकर लड़खड़ा रहा हो।
नया तरीका (AdaPrivate-TS): प्राइवेसी शोर को अनिश्चितता (uncertainty) के रूप में देखता है। यह ऐसा है जैसे खोजकर्ता को धुंध दिखाई देती है और वह निर्णय लेता है, "चूंकि मैं स्पष्ट रूप से देख नहीं पा रहा हूँ, इसलिए मैं सुरक्षित रहने के लिए कुछ अलग रास्ते आज़माऊँगा।"

शोर को "मुझे अभी पर्याप्त जानकारी नहीं है" के रूप में व्याख्यायित करके, एल्गोरिदम वास्तव में गोपनीयता सुरक्षा का उपयोग बेहतर सीखने के लिए करता है।

यह कैसे काम करता है: "बैचिंग" (Batching) की रणनीति

एल्गोरिदम, जिसका नाम AdaPrivate-TS है, दो चरणों में काम करता है:

बैचिंग (साप्ताहिक रिपोर्ट): हर एक बुक क्लिक के बाद अपने ज्ञान को अपडेट करने के बजाय (जिसके लिए हर बार शोर जोड़ना होगा और यह बहुत अव्यवस्थित हो जाएगा), एल्गोरिदम प्रतीक्षा करता है। यह इंटरैक्शन के एक बैच (जैसे, 300 क्लिक) को इकट्ठा करता है और फिर एक साथ प्राइवेसी शोर जोड़ता है।
- उदाहरण: कल्पना कीजिए कि एक शिक्षक पेपर चेक कर रहा है। यदि वे एक-एक करके पेपर चेक करते हैं और प्रत्येक ग्रेड में एक रैंडम त्रुटि जोड़ते हैं, तो अंतिम औसत बहुत खराब होगा। लेकिन यदि वे 300 पेपर चेक करते हैं, औसत निकालते हैं, और फिर अंतिम औसत में एक छोटा सा रैंडम एरर जोड़ते हैं, तो परिणाम बहुत अधिक सटीक होता है। इसे पैरेलल कंपोजिशन (Parallel Composition) कहा जाता है। यह एल्गोरिदम को उच्च गोपनीयता बनाए रखते हुए भी कम शोर का उपयोग करने की अनुमति देता है।
एडेप्टिव एक्सप्लोरेशन (विश्वास का डायल): शुरुआत में, एल्गोरिदम बहुत अनिश्चित होता है, इसलिए वह बहुत अधिक एक्सप्लोर करता है। जैसे-जैसे वह सीखता है, वह अधिक आत्मविश्वासी हो जाता है और सबसे अच्छी किताबें सुझाने पर ध्यान केंद्रित करता है। एल्गोरिदम समय के साथ इस "कॉन्फिडेंस डायल" को स्वचालित रूप से समायोजित करता है।

"सीक्रेट सॉस": प्राइवेसी एम्प्लीफिकेशन

उन उपयोगकर्ताओं के लिए जिन्हें अत्यधिक गोपनीयता (बहुत सख्त नियम) की आवश्यकता है, लेखकों ने एक तकनीक जोड़ी है जिसे पॉइसन सबसैंपलिंग (Poisson Subsampling) कहा जाता है।

उदाहरण: कल्पना कीजिए कि आप एक स्टेडियम में लोगों की औसत ऊंचाई जानना चाहते हैं, लेकिन आप सभी को नहीं माप सकते। आप यादृच्छिक रूप से (randomly) 30% लोगों को मापने के लिए चुनते हैं। क्योंकि आप केवल एक छोटे, रैंडम हिस्से को देख रहे हैं, इसलिए किसी के लिए भी यह पता लगाना और भी कठिन है कि स्टेडियम में कौन मौजूद था। यह गोपनीयता को "एम्प्लीफाई" (बढ़ाता) करता है।
एल्गोरिदम इसका उपयोग शोर की मात्रा को कम करने के लिए करता है, जिससे सख्त गोपनीयता नियमों के तहत भी सटीक सिफारिशें बनी रहती हैं।

परिणाम: यह वास्तव में काम करता है

शोधकर्ताओं ने सिंथेटिक डेटा और वास्तविक दुनिया के डेटासेट (जैसे MovieLens और Jester, जिनका उपयोग अनुशंसा प्रणालियों का परीक्षण करने के लिए किया जाता है) पर इसका परीक्षण किया। उन्हें निम्नलिखित परिणाम मिले:

पुराने तरीके से बेहतर: AdaPrivate-TS ने मानक प्राइवेट विधि (जिसे UCB कहा जाता है) की तुलना में काफी बेहतर प्रदर्शन किया। कुछ मामलों में, यह समान स्तर की गोपनीयता बनाए रखते हुए अच्छी सिफारिशें बनाने में 18% तक बेहतर था।
बिना प्राइवेसी वाले सिस्टम के लगभग बराबर: सख्त प्राइवेसी सेटिंग्स के साथ भी, एल्गोरिदम ने एक नॉन-प्राइवेट सिस्टम (जो आपके सभी डेटा को देखता है) के प्रदर्शन का 93–99% हासिल किया।
स्थिर सीखना: अन्य तरीकों के विपरीत, जो प्राइवेसी शोर के आने पर शुरुआत में लड़खड़ा जाते हैं, AdaPrivate-TS शुरुआत से ही सुचारू रूप से सीखता है।
प्राइवेट फीचर्स के साथ भी कारगर: भले ही वस्तुओं के फीचर्स (जैसे मूवी के जॉनर टैग्स) को भी प्राइवेट किया गया हो, फिर भी यह अन्य तरीकों की तुलना में बड़े अंतर से बेहतर प्रदर्शन करता है (+11%)।

यह क्यों महत्वपूर्ण है

यह पेपर दिखाता है कि हमें प्राइवेसी और परफॉरमेंस के बीच चुनाव करने की आवश्यकता नहीं है। प्राइवेसी के लिए आवश्यक "शोर" को कैसे समझने के तरीके को बदलकर—इसे एक गलती के बजाय सीखने के संकेत के रूप में देखकर—हम ऐसी अनुशंसा प्रणालियाँ बना सकते हैं जो उपयोगकर्ता की गोपनीयता का सम्मान करती हैं बिना मूर्ख या गलत हुए।

संक्षेप में: AdaPrivate-TS प्राइवेसी के "स्टैटिक" को सीखने के एक उपयोगी उपकरण में बदल देता है, जिससे कंप्यूटर आपको प्रभावी ढंग से चीजें सुझा पाते हैं, भले ही वे कानूनी रूप से आपके विशिष्ट व्यवहार के विवरणों को "भूलने" के लिए बाध्य हों।

तकनीकी सारांश: AdaPrivate-TS

समस्या विवरण
ऑनलाइन अनुशंसा प्रणाली (recommender systems) एक मौलिक तनाव का सामना करती है: उपयोगकर्ता की निजी व्यवहार संबंधी डेटा से प्राथमिकताओं को सीखना और साथ ही कठोर गोपनीयता गारंटी प्रदान करना। जबकि डिफरेंशियल प्राइवेसी (DP) मजबूत सुरक्षा प्रदान करती है, इसमें इंजेक्ट किया गया शोर (noise) आमतौर पर सीखने के प्रदर्शन को कम कर देता है। मौजूदा निजी कॉन्टेक्स्टुअल बैंडिट एल्गोरिदम अक्सर गोपनीयता शोर को शुद्ध भ्रष्टाचार (pure corruption) के रूप में देखते हैं। यह शोध पत्र इवेंट-लेवल DP के तहत कॉन्टेक्स्टुअल बैंडिट्स में उच्च उपयोगिता (utility) बनाए रखने की चुनौती को संबोधित करता है, जहाँ आसन्न डेटासेट (adjacent datasets) एक एकल उपयोगकर्ता-रिवॉर्ड जोड़ी द्वारा भिन्न होते हैं। लेखक तर्क देते हैं कि प्रतिकूल संदर्भों (adversarial contexts) और जॉइंट DP की आवश्यकता वाले पिछले असंभवता परिणाम (impossibility results) स्टोकेस्टिक संदर्भों के साथ इवेंट-लेवल प्राइवेसी पर लागू नहीं होते हैं, जिससे अधिक कुशल गोपनीयता तंत्र संभव हो पाते हैं।

कार्यप्रणाली (Methodology)
लेखक AdaPrivate-TS प्रस्तावित करते हैं, जो एक डिफरेंशियल प्राइवेट कॉन्टेक्स्टुअल बैंडिट एल्गोरिदम है जो थॉम्पसन सैंपलिंग (TS) को बैचड ज़ीरो-कंसन्ट्रेटेड डिफरेंशियल प्राइवेसी (zCDP) के साथ एकीकृत करता है।

शोर एक पोस्टीरियर इन्फ्लेशन के रूप में (Noise as Posterior Inflation): मुख्य अंतर्दृष्टि यह है कि पर्याप्त सांख्यिकी वेक्टर $b$ में गॉसियन शोर $\eta \sim \mathcal{N}(0, \sigma^2 I)$ जोड़ना केवल TS के अनुमान को भ्रष्ट नहीं करता है। इसके बजाय, यह संरचनात्मक रूप से पोस्टीरियर कोवेरियेंस (posterior covariance) को फुला देता है। विशेष रूप से, सैंपलिंग वितरण $\tilde{\theta}_t \sim \mathcal{N}(\hat{\theta}_t, v^2 A_t^{-1} + \sigma^2 A_t^{-2})$ बन जाता है। TS इस बढ़े हुए कोवेरियेंस को बढ़ी हुई अनिश्चितता के रूप में व्याख्यायित करता है, जिससे गोपनीयता शोर को त्रुटि मानने के बजाय अन्वेषण (exploration) में परिवर्तित कर दिया जाता है।
बैचड पैरेलल कंपोजिशन (Batched Parallel Composition): एल्गोरिदम आकार $B$ के बैचों में कार्य करता है। शोर केवल बैच सीमाओं पर बैचड रिवॉर्ड सम्स में जोड़ा जाता है। क्योंकि प्रत्येक बैच डेटा के विलगित (disjoint) उपसमुच्चय को प्रोसेस करता है, इसलिए गोपनीयता लागत समानांतर (parallel) रूप से संयोजित होती है। यह सुनिश्चित करता है कि कुल गोपनीयता लागत प्रति बैच के अधिकतम लागत ( $\rho$ ) द्वारा निर्धारित होती है, न कि सभी राउंड के योग द्वारा। यह गोपनीयता लागत को एमोर्टाइज (amortize) करने की अनुमति देता है, जिसके परिणामस्वरूप $T$ में लॉगरिदमिक रिग्रेट बाउंड प्राप्त होता है।
प्राइवेसी एम्प्लीफिकेशन (Privacy Amplification): कड़े गोपनीयता बजट ( $\varepsilon \le 1$ ) के लिए, विधि दर $q$ के साथ पॉइसन सबसैंपलिंग (Poisson subsampling) का उपयोग करती है। सबसैम्पल्ड गॉसियन मैकेनिज्म के रेनी डिफरेंशियल प्राइवेसी (RDP) का विश्लेषण करके, लेखक दिखाते हैं कि प्रभावी गोपनीयता लागत $q^2$ से संबंधित कारक द्वारा कम हो जाती है, जिससे समान $(\varepsilon, \delta)$ गारंटी बनाए रखते हुए निम्न शोर स्तर ( $\sigma_{amp} < \sigma_{base}$ ) संभव होता है।
अनुकूली अन्वेषण (Adaptive Exploration): गोपनीयता शोर के कारण होने वाले अत्यधिक प्रारंभिक अन्वेषण को कम करने के लिए, एल्गोरिदम अन्वेषण पैरामीटर $v_k$ को ज्यामितीय रूप से घटाता है ( $v_k = v_0 \cdot \gamma^{k-1}$ )।

प्रमुख योगदान

सैद्धांतिक ढांचा (Theoretical Framework): यह शोध पत्र सिद्ध करता है कि स्टोकेस्टिक संदर्भों के साथ इवेंट-लेवल DP के तहत, रिग्रेट बाउंड में गोपनीयता लागत $O(\sqrt{d} \cdot \log T / \sqrt{\rho})$ है, जो $T$ में लॉगरिदमिक है। यह जॉइंट DP के तहत $\tilde{O}(T^{3/4})$ या सीक्वेंशियल कंपोजिशन के तहत $O(\sqrt{d} \cdot \sqrt{T}/\sqrt{\rho})$ के विपरीत है।
प्राइवेसी एम्प्लीफिकेशन विश्लेषण: लेखक बैंडिट्स के लिए पॉइसन सबसैंपलिंग के गहन RDP-आधारित विश्लेषण प्रदान करते हैं, यह प्रदर्शित करते हुए कि यह कम $\varepsilon$ पर प्रभावी शोर को कम कर सकता है, बिना उन संवेदनशीलता-रीस्केलिंग कैंसिलेशन समस्याओं के जो मानक DP अकाउंटिंग में पाई जाती हैं।
एल्गोरिदम डिज़ाइन: AdaPrivate-TS, निजी बैंडिट फ्रेमवर्क में UCB को TS से बदल देता है, जिससे "शोर-एक-अनिश्चितता-के-रूप में" (noise-as-uncertainty) गुण का लाभ उठाकर बेहतर रिग्रेट प्राप्त होता है।

परिणाम
सिंथेटिक और वास्तविक दुनिया के डेटासेट (MovieLens-25M और Jester) पर प्रयोग निम्नलिखित प्रदर्शित करते हैं:

गैर-निजी बेसलाइनों के विरुद्ध प्रदर्शन: $\varepsilon \in [0.5, 5]$ पर AdaPrivate-TS, गैर-निजी प्रदर्शन का 93–99% प्राप्त करता है।
UCB की श्रेष्ठता: डिफ़ॉल्ट सेटिंग्स के तहत AdaPrivate-TS, निजी UCB (AdaPrivate-UCB) से 0.5–3.7% बेहतर प्रदर्शन करता है। ट्यून्ड एडेप्टिव एक्सप्लोरेशन के साथ, अत्यधिक $\varepsilon$ पर यह लाभ बढ़कर 18% तक हो जाता है।
प्राइवेसी एम्प्लीफिकेशन लाभ: पॉइसन सबसैंपलिंग का उपयोग कम $\varepsilon$ (जैसे, $\varepsilon=1$ ) पर अतिरिक्त 2–5% लाभ प्रदान करता है।
वास्तविक दुनिया का प्रभुत्व: MovieLens और Jester पर, AdaPrivate-TS इवेंट-लेवल बेसलाइनों में समग्र सर्वश्रेष्ठ प्रदर्शन प्राप्त करता है, विशेष रूप से $\varepsilon \ge 2$ पर।
DP-SVD फीचर्स: जब फीचर्स को DP-SVD का उपयोग करके निजीकृत किया जाता है, तो TS का UCB पर लाभ +11% बढ़ जाता है, जो पुष्टि करता है कि "शोर-एक-अनिश्चितता-के-रूप में" की व्याख्या फीचर प्राइवेसी के लिए भी मान्य है।
स्थिरता (Stability): UCB के विपरीत, जो गोपनीयता शोर के पहले बैच के आगमन पर प्रारंभिक CTR गिरावट से जूझता है, AdaPrivate-TS स्थिर लर्निंग डायनेमिक्स दिखाता है, जो बिना किसी महत्वपूर्ण गिरावट के निरंतर ऊपर चढ़ता है।

महत्व
यह शोध पत्र दावा करता है कि थॉम्पसन सैंपलिंग, अपर कॉन्फिडेंस बाउंड (UCB) विधियों की तुलना में निजी कॉन्टेक्स्टुअल बैंडिट्स के लिए स्वाभाविक रूप से बेहतर ढंग से सुसज्जित है क्योंकि यह गोपनीयता शोर को पोस्टीरियर अनिश्चितता में स्वाभाविक रूप से व्याख्यायित करती है। बैचड पैरेलल कंपोजिशन का उपयोग करके, यह विधि $T$ में लॉगरिदमिक गोपनीयता लागत प्राप्त करती है, जो मौजूदा बाउंड्स में महत्वपूर्ण सुधार करती है। यह कार्य एक कठोर सैद्धांतिक आधार और व्यापक अनुभवजन्य सत्यापन प्रदान करता है, जो यह प्रदर्शित करता है कि केंद्रीय क्यूरेटर या जॉइंट DP जैसे मजबूत गोपनीयता मॉडल की आवश्यकता के बिना सख्त इवेंट-लेवल प्राइवेसी बाधाओं के तहत उच्च उपयोगिता बनाए रखी जा सकती है।