SlotGuard: Stop Oversharing Private Local Context in LLM Agent Transcri
SlotGuard एक स्थानीय ट्रांसक्रिप्ट बाउंड्री सिस्टम है जो संवेदनशील डेटा को एक सेशन ग्राफ के माध्यम से जुड़े फॉर्मेट-प्रिजर्विंग सिंथेटिक स्लॉट्स में पुनर्गठित करके LLM एजेंटों को निजी संदर्भ और क्रेडेंशियल्स लीक करने से सुरक्षित रूप से रोकता है, जिससे मौजूदा रेडैक्शन विधियों की भंगुरता के बिना शून्य क्रेडेंशियल लीकेज और लगभग पूर्ण कार्य सफलता प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट सहायक है जो लगभग सब कुछ कर सकता है: यह आपके कंप्यूटर की फाइलें पढ़ सकता है, ईमेल भेज सकता है, कोड चला सकता है, और यहाँ तक कि अन्य सॉफ़्टवेयर से बात भी कर सकता है। इन कामों को करने के लिए, रोबोट को आपकी निजी जानकारी देखने की आवश्यकता होती है, जैसे कि आपके फ़ाइल पाथ (file paths), आपका ईमेल पता, और यहाँ तक कि आपके गुप्त पासवर्ड भी। लेकिन एक पेंच है: अपना अगला काम तय करने के लिए, रोबोट को अक्सर अपने काम का एक सारांश एक विशाल, क्लाउड-आधारित "मस्तिष्क" (एक लार्ज लैंग्वेज मॉडल) को भेजना पड़ता है, जो एक टेक कंपनी के स्वामित्व में है। इस सारांश को "ट्रांसक्रिप्ट" (transcript) कहा जाता है।
समस्या यह है कि यह ट्रांसक्रिप्ट एक डायरी प्रविष्टि की तरह है जिसे किसी अजनबी को भेजा जाता है। यदि रोबोट गलती से आपका गुप्त पासवर्ड या आपका घर का पता अपनी डायरी में लिख देता है, तो क्लाउड कंपनी इसे देख सकती है, स्टोर कर सकती है, या भविष्य के रोबोटों को प्रशिक्षित करने के लिए इसका उपयोग कर सकती है। यह ठीक वैसा ही है जैसे आप किसी दोस्त से केक बनाने में मदद मांगते हैं, लेकिन आपको उसे अपने किचन की एक फोटो भेजनी पड़ती है, और उस फोटो में आपकी घर की चाबी आटे के बिल्कुल बगल में रखी हुई है। आप चाहते हैं कि आपका दोस्त किचन देखे ताकि वह आपको बैटर (घोल) मिलाने के बारे में बता सके, लेकिन आप निश्चित रूप से नहीं चाहते कि वह आपकी चाबी देखे। यह पेपर इस पेचीदा सवाल पर चर्चा करता है कि कैसे रोबोट को आपकी निजी दुनिया देखने दी जाए बिना क्लाउड ब्रेन को आपके रहस्यों में झांकने दिए।
यहाँ आता है SlotGuard, एक चतुर नया सिस्टम जिसे एक "प्राइवेसी बाउंसर" (privacy bouncer) के रूप में आपके कंप्यूटर के भीतर ही डिज़ाइन किया गया है। SlotGuard को अपने रोबोट सहायक और क्लाउड ब्रेन के बीच एक जादुई अनुवादक के रूप में समझें। इसका काम आपके घर से बाहर जाने से पहले रोबोट की डायरी को फिर से लिखना है। रोबोट को आपका वास्तविक गुप्त पासवर्ड (जैसे SuperSecret123!) लिखने देने के बजाय, SlotGuard इसे एक नकली, लेकिन बिल्कुल सही आकार के प्लेसहोल्डर (जैसे 🔑-SYNTHETIC-KEY-99) से बदल देता है।
यही असली जादू है: वह नकली प्लेसहोल्डर क्लाउड ब्रेन के लिए बिल्कुल असली चीज़ जैसा दिखता है और महसूस होता है। यदि वास्तविक पासवर्ड अक्षरों और संख्याओं की एक लंबी स्ट्रिंग थी, तो नकली वाला भी अक्षरों और संख्याओं की एक लंबी स्ट्रिंग ही होगा। यदि वास्तविक फ़ाइल पाथ /Users/Alice/Secrets/Plan.pdf था, तो नकली वाला [REPO_ROOT_1]/Secrets/Plan.pdf जैसा हो सकता है। क्लाउड ब्रेन अभी भी संरचना को पढ़ सकता है—वह जानता है कि यह एक फ़ाइल है, वह जानता है कि यह एक रहस्य है, और वह इसके बारे में बात करना जानता है—लेकिन उसे वास्तविक रहस्य का पता नहीं चलता। यह क्लाउड ब्रेन को एक ऐसा नक्शा देने जैसा है जहाँ खजाना वास्तविक निर्देशांकों (coordinates) के बजाय एक सामान्य "X" के रूप में अंकित है।
लेकिन जादू यहाँ खत्म नहीं होता। जब क्लाउड ब्रेन निर्देश वापस भेजता है जैसे कि "उस फ़ाइल को खोलें," तो SlotGuard उस संदेश को आपके रोबोट तक पहुँचने से पहले ही पकड़ लेता है। यह अपनी गुप्त सूची की जाँच करता है, देखता है कि [REPO_ROOT_1] वास्तव में /Users/Alice/Secrets/Plan.pdf का अर्थ है, और केवल आपके विश्वसनीय कंप्यूटर के अंदर ही नकली को वास्तविक चीज़ में बदल देता है। रोबोट फिर वास्तविक फ़ाइल खोलता है, और क्लाउड ब्रेन को कभी पता ही नहीं चलता कि वास्तविक नाम क्या था।
शोधकर्ताओं ने इस सिस्टम का परीक्षण कुछ गंभीर होमवर्क के साथ किया। उन्होंने हजारों नकली परिदृश्य बनाए जहाँ रोबलेट संवेदनशील डेटा (जैसे निजी दस्तावेज़ पढ़ना या गुप्त कुंजियों का उपयोग करना) से जुड़े कार्यों को करने की कोशिश कर रहे थे। उन्होंने पाया कि बिना SlotGuard के, रोबोट लगभग सब कुछ लीक कर देते थे—100% समय। यहाँ तक कि सरल "रेडैक्शन" (redaction) विधियाँ भी, जो रहस्यों को [PASSWORD] जैसे शब्दों से बदल देती हैं, एक आपदा थीं; वे रोबोट की काम करने की क्षमता को तोड़ देती थीं, जिससे वे 97.5% बार विफल हो जाते थे क्योंकि रोबोट विवरणों की कमी के कारण भ्रमित हो जाता था।
हालाँकि, SlotGuard एक गेम-चेंजर साबित हुआ। उनके परीक्षणों में, सिस्टम के पूर्ण संस्करण ने (जिसमें एक स्मार्ट ट्रैकिंग ग्राफ शामिल है) सभी प्लांट किए गए क्रेडेंशियल्स को सफलतापूर्वक छिपा दिया और सभी क्रेडेंशियल लीकेज को रोक दिया (0.0% लीकेज)। स्ट्रक्चरल डेटा जैसे पाथ और ईमेल के लिए, इसने दृश्यमान संवेदनशील वर्णों को 100% हटा दिया, सिवाय एक विशिष्ट एज केस (edge case) के जिसमें रूट-ओन्डेड एब्सोल्यूट पाथ शामिल है, जो वर्तमान प्रोटोटाइप में एक मामूली कमी है। इससे भी बेहतर, इसने रोबोट के मस्तिष्क को नहीं तोड़ा। SlotGuard का उपयोग करने वाले रोबोट अपने काम में लगभग उतने ही अच्छे थे जितने कि वे वास्तविक रहस्यों को देखने के बाद होते, जिससे विभिन्न मॉडलों में उनकी सफलता दर उच्च बनी रही। यह सिस्टम अविश्वसनीय रूप से तेज़ भी है, जो बातचीत के एक एकल टर्न को फिर से लिखने में एक पल से भी कम समय (लगभग 14 माइक्रोसेकंड) लेता है, इसलिए यह किसी भी चीज़ को धीमा नहीं करता है।
यह पेपर यह भी बताता है कि SlotGuard क्या नहीं करता है। यह कोई मन पढ़ने वाली ढाल नहीं है; यदि क्लाउड ब्रेन बातचीत के संदर्भ से आपके रहस्य का अनुमान लगाने के लिए पर्याप्त स्मार्ट है, तो SlotGuard उसे नहीं रोक सकता। यह आपको तब भी नहीं बचाता है जब आपका अपना कंप्यूटर पहले से ही हैक हो चुका हो। लेकिन आपके निजी डेटा को क्लाउड ट्रांसक्रिप्ट में लीक होने से बचाने की विशिष्ट समस्या के लिए, SlotGuard एक मजबूत, तेज़ और स्मार्ट समाधान प्रदान करता है जो आपके रहस्यों को सुरक्षित रखते हुए आपके रोबोट को अपना काम करने देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।