Protecting User Prompts Via Character-Level Differential Privacy
यह शोध पत्र एक कैरेक्टर-लेवल डिफरेंशियल प्राइवेसी पद्धति का प्रस्ताव करता है जो उपयोगकर्ता के प्रॉम्प्ट्स को रिमोट LLM पर भेजने से पहले पात्रों (characters) को यादृच्छिक रूप से विचलित करके उन्हें सैनिटाइज करता है, जो इसके बाद सामान्य गैर-संवेदनशील शब्दों को पुनर्गठित करता है और प्रभावी ढंग से दुर्लभ संवेदनशील जानकारी को अस्पष्ट करता है, जिससे बिना किसी स्पष्ट PII पहचान की आवश्यकता के एक मजबूत गोपनीयता-उपयोगिता ट्रेडऑफ प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन थोड़ी जिज्ञासु, सहायक (एक लार्ज लैंग्वेज मॉडल या LLM) है जो दूसरे देश में रहता है। आप चाहते हैं कि वह आपके लिए किसी मेडिकल रिपोर्ट या ईमेल का सारांश तैयार करे। समस्या क्या है? आपकी रिपोर्ट में आपका घर का पता, आपका फ़ोन नंबर और आपके डॉक्टर का नाम शामिल है। यदि आप कच्चा टेक्स्ट (raw text) भेजते हैं, तो सहायक इसे याद कर सकता है, लीक कर सकता है, या गलती से इसे किसी और को दिखा सकता है।
यह शोध पत्र (paper) आपके संदेश भेजने का एक चतुर तरीका प्रस्तावित करता है जो आपके रहस्यों की रक्षा करता है लेकिन साथ ही सहायक को अपना काम करने भी देता है। यहाँ इसका सरल विवरण दिया गया है:
समस्या: "कांच का घर" (The Glass House)
वर्तमान में, जब आप किसी AI से बात करते हैं, तो आप अनिवार्य रूप से अपने रहस्यों को एक कांच के घर में चिल्लाकर बोल रहे होते हैं। AI सब कुछ देख लेता है। यदि आप टाइप करते हैं "मेरा नाम जॉन डो है और मैं 123 मेपल स्ट्रीट पर रहता हूँ," तो AI "जॉन डो" और "123 मेपल स्ट्रीट" को स्पष्ट रूप से देख लेता है।
समाधान: "स्कैम्बलर" (The Scrambler) और "फिक्सर" (The Fixer)
लेखक एक दो-चरणीय प्रक्रिया का सुझाव देते हैं जो आपके कंप्यूटर से आपका संदेश बाहर निकलने से पहले ही हो जाती है।
चरण 1: स्कैम्बलर (कैरेक्टर-लेवल नॉइज़)
अपने संदेश में विशिष्ट रहस्यों को खोजने या छिपाने की कोशिश करने के बजाय (जो कि कठिन है क्योंकि आपसे कुछ छूट सकता है), वे आपके संदेश के हर एक अक्षर को बेतरतीब ढंग से स्कैम्बल (बदलने) करने का प्रस्ताव देते हैं।
- उपमा: कल्पना कीजिए कि आप एक पत्र भेज रहे हैं, लेकिन लिफाफे में डालने से पहले, आप कैंची लेते हैं और हर शब्द से बेतरतीब ढंग से कुछ अक्षर काट देते हैं, और उन्हें रैंडम कचरे (gibberish) से बदल देते हैं।
- मूल: "John Doe"
- स्कैम्बल किया हुआ: "Joh3 D0e" या "Jxhn D#e"
- मूल: "Call me at 555-0199"
- स्कैम्बल किया हुआ: "C@ll m3 555-0!99"
यह डिफरेंशियल प्राइवेसी (Differential Privacy) नामक एक गणितीय नियम का उपयोग करके किया जाता है। यह गारंटी देता है कि स्कैम्बल किया गया संस्करण किसी के लिए भी लगभग एक रैंडम गड़बड़ी जैसा दिखेगा जिसने इसे बीच में पकड़ा हो।
चरण 2: फिक्सर (AI की सुपरपावर)
अब, आप इस स्कैम्बल किए गए, अव्यवस्थित टेक्स्ट को AI को भेजते हैं और कहते हैं: "कृपया गलतियों (typos) को ठीक करें, इसे पठनीय बनाएं, और फिर इसका सारांश तैयार करें।"
यहीं पर जादू होता है। AI एक सुपर-स्मार्ट संपादक की तरह है जिसने लाखों किताबें पढ़ी हैं।
- सामान्य शब्द: यदि स्कैम्बल किया गया शब्द "Call" था, और वह "C@ll" जैसा दिखता है, तो AI तुरंत जान जाता है, "ओह, यह 'Call' है!" क्योंकि "Call" एक सामान्य शब्द है, और संदर्भ (जैसे "me at") इसे स्पष्ट बनाता है। AI इसे आसानी से ठीक कर देता है।
- दुर्लभ/गुप्त शब्द: यदि स्कैम्बल किया गया शब्द किसी विशिष्ट नाम जैसा है जैसे "Harlan", और वह "H_rlan" या "H@rld" जैसा दिखता है, तो AI अटक जाता है। उसे नहीं पता कि वह नाम "Harlan" है, "Herman" है, या "Harold"। वह "Harold" का अनुमान लगा सकता है, लेकिन वह केवल एक अनुमान है, असली रहस्य नहीं। क्योंकि ये नाम दुर्लभ और अद्वितीय होते हैं, AI उन्हें सही ढंग से नहीं पहचान पाता।
परिणाम: एक "मैजिक फ़िल्टर"
इस शोध पत्र ने वास्तविक मेडिकल रिकॉर्ड और ईमेल पर परीक्षण किया। परिणाम प्रभावशाली थे:
- अच्छी चीज़ें (उपयोगिता/Utility): AI ने सामान्य शब्दों (जैसे "रोगी", "डॉक्टर", "अस्पताल") को सफलतापूर्वक ठीक कर दिया। अंतिम सारांश पूरी तरह से समझ में आने योग्य और बहुत उपयोगी था।
- गुप्त चीज़ें (गोपनीयता/Privacy): AI विशिष्ट नामों, फ़ोन नंबरों और पतों का अनुमान लगाने में विफल रहा। उन्होंने इन्हें रैंडम अनुमान लगाने की दर से बेहतर तरीके से पुनर्गठित नहीं किया।
यह अन्य तरीकों से बेहतर क्यों है?
- पुराना तरीका (रेडैक्शन/Redaction): कल्पना कीजिए कि आप काले मार्कर से लिखकर रहस्यों को छिपाने की कोशिश कर रहे हैं। यदि आप एक भी जगह छोड़ देते हैं, तो रहस्य उजागर हो जाएगा। साथ ही, यदि आप बहुत अधिक हिस्सा काट देते हैं, तो वाक्य समझ में नहीं आएगा।
- इस पेपर का तरीका: आपको यह जानने की ज़रूरत नहीं है कि क्या एक रहस्य है। आप बस सब कुछ स्कैम्बल कर देते हैं। AI स्वाभाविक रूप से उबाऊ चीज़ों को ठीक कर देता है लेकिन रहस्यों को एक रहस्य बनाए रखता है। यह एक ऐसी पहेली भेजने जैसा है जहाँ आसान टुकड़े आसानी से जुड़ जाते हैं, लेकिन अद्वितीय, गुप्त टुकड़े धुंधले बने रहते हैं।
निचोड़ (Bottom Line)
यह तरीका एक धुंधली खिड़की (foggy window) के माध्यम से पत्र भेजने जैसा है।
- यदि आप धुंध के माध्यम से एक सामान्य वस्तु (जैसे कुर्सी) देखते हैं, तो आप अभी भी बता सकते हैं कि वह कुर्सी है।
- यदि आप धुंध के माध्यम से एक विशिष्ट, अद्वितीय वस्तु (जैसे आपकी घर की चाबी) देखते हैं, तो आप नहीं बता सकते कि वह क्या है।
लेखकों ने पाया कि इस "धुंधलेपन" (जिसे एप्सिलॉन/epsilon कहा जाता है) को समायोजित करके, आप एक आदर्श संतुलन प्राप्त कर सकते हैं: AI अपना काम करने के लिए पर्याप्त स्पष्टता प्राप्त करता है, लेकिन आपके रहस्य धुंध में सुरक्षित रूप से छिपे रहते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।