PrivScope: Task-scoped Disclosure Control for Hybrid Agentic Systems
PrivScope हाइब्रिड एजेंटिक सिस्टम्स के लिए एक विश्वसनीय ऑन-डिवाइस पेलोड गवर्नर है जो अप्रासंगिक संदर्भ को फ़िल्टर करके और संवेदनशील विवरणों को उनके सबसे कम-प्रकटीकरण वाले रूप में संक्षिप्त करके कार्य-आधारित प्रकटीकरण नियंत्रण को लागू करता है, जिससे विभिन्न क्लाउड लैंग्वेज मॉडल्स में उच्च कार्य सफलता दर बनाए रखते हुए प्रोफाइल लीकेज को समाप्त करता है और पुन: पहचान के जोखिमों को कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके फोन पर एक बहुत ही समझदार, मददगार व्यक्तिगत सहायक (लोकल कंट्रोलर) रहता है। यह सहायक आपके बारे में सब कुछ जानता है: आपका पता, आपका बीमा नंबर, आपका मेडिकल इतिहास और आपका शेड्यूल। जब आप उससे कोई जटिल काम करने के लिए कहते हैं, जैसे "मेरे दांत दर्द के लिए मुझे एक डेंटिस्ट ढूंढ कर दो," तो यह सहायक स्थानीय स्तर पर सारा भारी काम करता है।
हालाँकि, कभी-कभी आपका फोन पूरे इंटरनेट को खोजने या जटिल तर्क (reasoning) करने के लिए पर्याप्त शक्तिशाली नहीं होता है। इसलिए, सहायक को मदद के लिए एक सुपर-स्मार्ट, क्लाउड-आधारित मस्तिष्क (क्लाउड LLM) से पूछना पड़ता है।
समस्या: "ज़रूरत से ज़्यादा बताने वाला" सहायक
समस्या यह है कि जब आपका स्थानीय सहायक क्लाउड मस्तिष्क से मदद मांगता है, तो वह बहुत अधिक बातें करने लगता है और ज़रूरत से ज़्यादा जानकारी भेज देता है, जिसमें शामिल है:
- आपका सटीक घर का पता (भले ही क्लाउड को केवल आपके शहर के बारे में जानने की आवश्यकता हो)।
- आपका बीमा आईडी नंबर (भले ही क्लाउड को केवल आपकी बीमा कंपनी के बारे में जानने की आवश्यकता हो)।
- तीन साल पहले आपके डेंटिस्ट के पास जाने का विवरण (भले ही आप आज एक नए अपॉइंटमेंट के बारे में पूछ रहे हों)।
यह एक ट्रैवल एजेंट को फ्लाइट बुक करने के लिए बुलाने जैसा है, लेकिन उसे अपनी पूरी जीवन कहानी, अपने बैंक खाते के नंबर और अपनी बचपन की डायरी थमा देना। ट्रैवल एजेंट को टिकट बुक करने के लिए इसकी ज़रूरत नहीं है, लेकिन अब उसके पास यह सब है, जो गोपनीयता (privacy) के लिए एक जोखिम है।
समाधान: PRIVSCOPE (एक "स्मार्ट फ़िल्टर")
यह पेपर PRIVSCOPE को पेश करता है, जो एक सख्त लेकिन मददगार गेटकीपर की तरह काम करता है, जो आपके फोन द्वारा जानकारी क्लाउड पर भेजने से ठीक पहले खड़ा होता है। यह काम को रोकता नहीं है; यह बस यह सुनिश्चित करता है कि क्लाउड केवल वही देखे जिसकी उसे उस विशिष्ट कार्य को करने के लिए अत्यंत आवश्यकता है।
PRIVSCOPE कैसे काम करता है, यहाँ एक सरल उपमा (analogy) दी गई है:
1. "इन्वेंट्री चेक" (एक्सट्रैक्शन/निष्कर्षण)
जब आपका स्थानीय सहायक क्लाउड के लिए संदेश तैयार करता है, तो PRIVSCOPE पहले संदेश को व्यक्तिगत टुकड़ों में तोड़ देता है (जैसे किसी रेसिपी में सामग्री को अलग करना)। यह "नाम," "पता," "लक्षण," और "बीमा आईडी" जैसी चीजों की पहचान करता है।
2. "सेफ डिपॉजिट बॉक्स" (लोकल बाइंडिंग)
PRIVSCOPE तुरंत उन संवेदनशील वस्तुओं को पकड़ लेता है जिनकी क्लाउड को कभी भी आवश्यकता नहीं होती, जैसे कि आपका सटीक घर का पता या आपका विशिष्ट बीमा आईडी नंबर। यह उन्हें आपके फोन पर ही एक "सेफ डिपॉजिट बॉक्स" में लॉक कर देता है। क्लाउड इसे कभी नहीं देख पाएगा।
3. "जानने की ज़रूरत" वाला फ़िल्टर (क्लाउड आवश्यकता)
इसके बाद, यह पूछता है: "क्या क्लाउड मस्तिष्क को डेंटिस्ट खोजने के लिए इस जानकारी की वास्तव में आवश्यकता है?"
- यदि हाँ: तो यह इसे रखता है, लेकिन...
- यदि नहीं: तो यह इसे फेंक देता है।
- यदि यह किसी पिछले कार्य का "कैरियोवर" (बचा हुआ हिस्सा) है: तो यह बहुत सख्त हो जाता है। यदि आपने पिछले महीने डेंटिस्ट के बारे में पूछा था, तो यह जानकारी इस महीने के अनुरोध के लिए क्लाउड को स्वतः नहीं भेजी जाती है, जब तक कि आपने विशेष रूप से इसके लिए न पूछा हो।
4. "ब्लर इफेक्ट" (एब्स्ट्रैक्शन/अमूर्तीकरण)
यह सबसे चतुर हिस्सा है। यदि क्लाउड को कुछ जानकारी चाहिए, तो PRIVSCOPE सटीक, संवेदनशील संस्करण नहीं भेजता है। यह एक अस्पष्ट लेकिन उपयोगी संस्करण भेजता है।
- "123 मेपल स्ट्रीट, अपार्टमेंट 4बी" भेजने के बजाय, यह "रोचेस्टर, न्यूयॉर्क" भेजता है।
- "दांतों में दर्द और मसूड़ों से खून आना" के बजाय, यह "डेंटल असुविधा" भेजता है।
- "मार्च 18 और 19" के बजाय, यह "मार्च का तीसरा सप्ताह" भेजता है।
क्लाउड मस्तिष्क इस अस्पष्ट जानकारी के साथ सही डेंटिस्ट ढूंढ सकता है, लेकिन वह यह सटीक रूप से नहीं जान सकता कि आप कौन हैं या आपका सटीक शेड्यूल क्या है।
5. "लोकल फिनिश" (रेज़ोल्यूशन/समाधान)
एक बार जब क्लाउड मस्तिष्क संभावित डेंटिस्टों की एक सूची वापस भेज देता है, तो संदेश आपके फोन पर वापस आता है। आपका स्थानीय सहायक (जिसके पास अभी भी आपके वास्तविक पते और बीमा आईडी वाला "सेफ डिपॉजिट बॉक्स" है) उस सूची को लेता है और अंतिम बुकिंग करता है। वह क्लाउड से मिली अस्पष्ट सूची को आपके वास्तविक विवरणों के साथ मिलाता है ताकि कार्य पूरा किया जा सके।
यह क्यों महत्वपूर्ण है (परिणाम)
शोधकर्ताओं ने इस प्रणाली का परीक्षण 100 अलग-अलग मेडिकल बुकिंग परिदृश्यों के साथ किया। यहाँ उन्होंने क्या पाया:
- गोपनीयता (Privacy): पुराने तरीके में (PRIVSCOPE के बिना), क्लाउड 17.7% बार आपके निजी प्रोफाइल विवरण देख पाता था। PRIVSCOPE के साथ, यह घटकर 0% हो गया।
- पुनः पहचान (Re-identification): यदि कोई हैकर भेजी गई अस्पष्ट जानकारी के आधार पर यह अनुमान लगाने की कोशिश करता कि आप कौन हैं, तो पुराने तरीके के साथ वह 64.3% बार सफल रहा। PRIVSCOPE के साथ, वह केवल 23.1% बार सफल हो सका।
- उपयोगिता (Utility): क्या यह सिस्टम अभी भी काम कर रहा था? हाँ! क्लाउड ने अभी भी बेहतरीन डेंटिस्ट खोजे, और कार्य लगभग पहले की तरह ही सफलतापूर्वक पूरा हुआ।
- गति (Speed): इसने आपके फोन पर केवल कुछ सेकंड की देरी जोड़ी, जो आपकी गोपनीयता बनाए रखने के लिए एक छोटा सा मूल्य है।
सारांश में
PRIVSCOPE आपके डिजिटल सहायक के लिए एक प्राइवेसी फ़िल्टर की तरह है। यह सुनिश्चित करता है कि जब आपका फोन मदद के लिए क्लाउड से पूछता है, तो वह केवल काम पूरा करने के लिए आवश्यक "न्यूनतम जानकारी" साझा करे, जिससे आपके सबसे संवेदनशील विवरण आपके डिवाइस पर सुरक्षित रहते हैं। यह सहायक को कम उपयोगी बनाए बिना "ज़रूरत से ज़्यादा बताने" की समस्या को हल करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।