Ghost Tool Calls: Issue-Time Privacy for Speculative Agent Tools
यह शोध पत्र "घोस्ट टूल कॉल्स" (ghost tool calls) को एक गोपनीयता भेद्यता के रूप में पहचानता है जहाँ अनुमानित टूल इनवोकेशन्स (speculative tool invocations), किसी एजेंट द्वारा किसी शाखा (branch) को प्रतिबद्ध करने से पहले बाहरी पर्यवेक्षकों को उपयोगकर्ता के इरादे को लीक कर देते हैं, और "स्पेक्टिव टूल प्राइवेसी कॉन्ट्रैक्ट्स" (Speculative Tool Privacy Contracts) को एक रनटाइम एब्स्ट्रैक्शन के रूप में प्रस्तावित करता है जो डिस्पैच से पूर्व तर्कों (arguments) और गंतव्यों (destinations) को बदलने या दबाने के लिए इश्यू-टाइम नीतियों को लागू करके इस जोखिम को कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही कुशल, लेकिन थोड़ी अति-उत्साही, व्यक्तिगत सहायक (personal assistant) को एक कठिन समस्या में मदद करने के लिए काम पर रख रहे हैं। मान लीजिए कि आपने पूछा, "समय से पहले मेरा लीज (lease) तोड़ने का दंड क्या है?"
एक सामान्य सहायक सोचेगा, "ठीक है, मुझे किरायेदार कानूनों (tenant laws) को खोजना होगा," वह उसके लिए खोज करेगा, और फिर आपको उत्तर देगा।
लेकिन एक अनुमान लगाने वाला सहायक (speculative assistant - जैसा कि यह शोध पत्र बताता है) बहुत तेज़ होने की कोशिश कर रहा है। वह सोचता है, "मुझे पता है कि उपयोगकर्ता को आगे क्या चाहिए हो सकता है! शायद वे अपार्टमेंट की तलाश कर रहे हैं, इसलिए मैं अपार्टमेंट खोजूँ। शायद वे पैसे को लेकर चिंतित हैं, इसलिए मैं ऋण दरों (loan rates) की जाँच करूँ। और यदि आवश्यकता पड़ी, तो मैं बेदखली कानूनों (eviction laws) के बारे में भी जानकारी निकाल लूँ।"
वह इन सभी अनुरोधों को एक साथ भेज देता है जबकि वह अभी भी यह तय कर रहा होता है कि वास्तव में सही उत्तर कौन सा है।
समस्या: "घोस्ट कॉल्स" (Ghost Calls)
यहाँ पेच यह है: सहायक अंततः निर्णय लेता है, "वास्तव में, मुझे केवल किरायेदार कानून की खोज की आवश्यकता थी।" वह आपके उत्तर के लिए उसी परिणाम का उपयोग करता है। लेकिन अन्य अनुरोध—अपार्टमेंट की खोज और ऋण दर की जाँच—इंटरनेट पर तब भेजे जा चुके थे जब सहायक ने उन्हें रद्द करने का निर्णय लिया।
इस शोध पत्र में इन छोड़े गए अनुरोधों को "घोस्ट टूल कॉल्स" (Ghost Tool Calls) कहा गया है।
भले ही सहायक ने उनके परिणामों का उपयोग नहीं किया, लेकिन वेबसाइटों (प्रदाताओं) को अनुरोध पहले ही मिल चुके थे। उन्होंने उन्हें लॉग किया। उन्होंने देखा कि आप अपार्टमेंट और ऋण की तलाश कर रहे थे। सहायक इन "भूतों" को वापस नहीं ले सकता। जैसे ही अनुरोध सहायक के मस्तिष्क से बाहर निकलता है, नुकसान हो जाता है, न कि तब जब सहायक निर्णय लेता है कि उसे उत्तर का उपयोग करना है या नहीं।
गलतफहमी
वर्तमान सुरक्षा नियम एक क्लब के बाउंसर की तरह हैं जो आपका आईडी कार्ड तभी चेक करते हैं जब आप पहले ही इमारत के अंदर प्रवेश कर चुके होते हैं। वे पूछते हैं, "क्या आपके पास प्रवेश करने की अनुमति थी?" लेकिन वे आपको दरवाजे से अंदर जाने और प्रवेश से पहले ही कालीन पर अपने पदचिह्न छोड़ने से नहीं रोक पाते।
यह शोध पत्र तर्क देता है कि गोपनीयता के लिए, हमें अनुरोध को भेजने से पहले ("इश्यू-टाइम" पर) जांचने की आवश्यकता है। एक बार जब "घोस्ट कॉल" इंटरनेट पर पहुँच जाता है, तो सफाई करना बहुत देर हो चुकी होती है।
समाधान: "प्राइवेसी कॉन्ट्रैक्ट्स" (Privacy Contracts)
लेखक एक नई प्रणाली प्रस्तावित करते हैं जिसे स्पेक्युलेटिव टूल प्राइवेसी कॉन्ट्रैक्ट्स (Speculative Tool Privacy Contracts) कहा जाता है। इसे हर उस अनुरोध के लिए एक सख्त "प्री-फ्लाइट चेकलिस्ट" के रूप में समझें जिसे सहायक बाहरी दुनिया को भेजना चाहता है।
इससे पहले कि सहायक बाहरी दुनिया को कोई अनुरोध भेजे, एक "मॉनिटर" (सुरक्षा गार्ड) एक अनुबंध (contract) के विरुद्ध उस अनुरोध की जाँच करता है। इस अनुबंध में कुछ नियम हैं:
- रीराइट (Rewrite - फिर से लिखना): यदि अनुरोध कहता है, " मेरे विशिष्ट अपार्टमेंट के लिए खोजें," तो गार्ड इसे बदलकर "सामान्य अपार्टमेंट खोजें" कर देता है, इससे पहले कि इसे भेजा जाए। वेबसाइट को अभी भी एक अनुरोध मिलता है, लेकिन उसे आपकी विशिष्ट स्थिति का पता नहीं चलता।
- शैडो (Shadow - छाया): यदि अनुरोध बहुत संवेदनशील है (जैसे ऋण दरों की जाँच करना), तो गार्ड उसे वास्तविक वेबसाइट पर नहीं भेजता है। इसके बजाय, गार्ड एक सुरक्षित, स्थानीय "डमी" संस्करण का उपयोग करके एक मोटा-मोटा उत्तर प्राप्त करता है। वास्तविक वेबसाइट को अनुरोध कभी नहीं दिखता।
- वेट (Wait - प्रतीक्षा करना/स्थगित करना): यदि सहायक सुनिश्चित नहीं है कि उसे अभी अनुरोध की आवश्यकता है या नहीं (कम आत्मविश्वास), तो गार्ड अनुरोध को रोककर रखता है और तब तक प्रतीक्षा करता है जब तक कि सहायक 100% निश्चित न हो जाए। यदि सहायक अपना विचार बदल लेता है, तो अनुरोध कभी भेजा ही नहीं जाता।
- ब्लॉक (Block - रोकना): यदि कोई अनुरोध वर्जित है, तो उसे तुरंत रोक दिया जाता है।
उन्होंने क्या पाया
शोधकर्ताओं ने विभिन्न "गार्ड्स" और विभिन्न प्रकार के सहायकों के साथ इस प्रणाली का परीक्षण किया। यहाँ उन्होंने क्या खोजा:
- बाद में सफाई करना काम नहीं आता: यदि आप अनुरोध भेजे जाने के बाद लॉग को हटाने की कोशिश करते हैं, तो बहुत देर हो चुकी होती है। वेबसाइट ने इसे पहले ही देख लिया था।
- केवल "रीड ओनली" (केवल पढ़ने की अनुमति) कहना पर्याप्त नहीं है: भले ही सहायक केवल डेटा पढ़ता है (कुछ बदलता नहीं है), प्रश्न पूछने की क्रिया ही आपके रहस्यों को उजागर कर देती है।
- "रीराइट" और "शैडो" गार्ड सबसे अच्छा काम करते हैं: भेजने से पहले शब्दों को बदलने या स्थानीय नकली संस्करण का उपयोग करने से, वे वेबसाइटों को आपकी गुप्त जानकारी जानने से सफलतापूर्वक रोक देते हैं।
- गति बनाम गोपनीयता: यह प्रणाली अभी भी तेज़ हो सकती है। "गार्ड्स" ने चीजों को बहुत अधिक धीमा नहीं किया, और वे "घोस्ट" जानकारी को लीक होने से सफलतापूर्वक रोकते रहे।
निष्कर्ष
जब AI एजेंट आपकी अगली आवश्यकता का अनुमान लगाकर तेज़ होने की कोशिश करते हैं, तो वे अनजाने में आपके रहस्यों को इंटरनेट पर लीक कर देते हैं, इससे पहले कि उन्हें पता चले कि वे सही थे या नहीं। इसे ठीक करने के लिए, हम बाद में गंदगी साफ नहीं कर सकते। हमें अनुरोधों पर एक फ़िल्टर लगाना होगा, जो संवेदनशील हिस्सों को बदलने या छिपाने के लिए उन्हें घर से बाहर निकलने से पहले ही बदल देता है, ताकि बाहरी दुनिया कभी भी उन "भूतों" को देख सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।