Good-Enough LLM Obfuscation (GELO)
GELO एक हल्का प्रोटोकॉल है जो अनट्रस्टेड एक्सेलेरेटर्स पर हिडन स्टेट्स (hidden states) पर फ्रेश, प्रति-बैच इन्वर्टिबल मिक्सिंग लागू करके LLMs के लिए प्रॉम्प्ट प्राइवेसी को सुरक्षित रखता है, जो केवल 20-30% लेटेंसी ओवरहेड के साथ सटीक आउटपुट सटीकता बनाए रखते हुए सांख्यिकीय हमलों को प्रभावी ढंग से विफल करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक स्वादिष्ट, गुप्त पारिवारिक रेसिपी वाला केक बनाना चाहते हैं, लेकिन आपके पास इसे खुद करने के लिए पर्याप्त बड़ा किचन नहीं है। इसलिए, आप एक बहुत तेज़, बहुत शक्तिशाली बेकर (अविश्वसनीय एक्सेलेरेटर/GPU) को काम करने के लिए काम पर रखते हैं: बैटर मिलाना, आटा गूंथना और बेक करना।
हालाँकि, एक समस्या है: वह बेकर थोड़ा जिज्ञासु है। यदि वे उन सामग्रियों को देख लेते हैं जो आप उन्हें सौंपते हैं, तो वे आपकी गुप्त रेसिपी का पता लगा सकते हैं। यदि वे बैटर को मिलाते समय देख सकते हैं, तो वे अंदाज़ा लगा सकते हैं कि केक का स्वाद कैसा होगा।
यह बिल्कुल वही समस्या है जिसे GELO (Good-Enough LLM Obfuscation) आर्टिफिशियल इंटेलिजेंस के लिए हल करता है।
यहाँ यह कहानी है कि GELO कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए।
समस्या: जिज्ञासु बेकर
लार्ज लैंग्वेज मॉडल्स (जैसे कि वह जिसका आप अभी उपयोग कर रहे हैं) बहुत विशाल होते हैं। वे आपके फोन या लैपटॉप पर चलाने के लिए बहुत बड़े हैं, इसलिए वे विशाल क्लाउड कंप्यूटरों (GPUs) पर चलते हैं।
- जोखिम: यदि कोई हैकर क्लाउड कंप्यूटर को नियंत्रित करता है, तो वे AI के सोचने के दौरान उसकी "मेमोरी" (किचन काउंटर) में झांक सकते हैं। वे AI के "छिपे हुए स्टेट्स" (AI के वर्तमान विचार) देख सकते हैं और संभावित रूप से आपके निजी प्रश्नों (प्रॉम्प्ट्स) को फिर से बना सकते हैं।
- पुराने समाधान:
- "जादुई बॉक्स" (एन्क्रिप्शन): आप सामग्रियों को एक अटूट, जादुई बॉक्स में रख सकते हैं। बेकर बिना बॉक्स खोले केक बना सकता है, लेकिन जादू इतना धीमा है कि केक को पकने में 100 घंटे लगते हैं। यह रियल-टाइम चैट के लिए बहुत धीमा है।
- "स्थिर मास्क" (पुराना ओब्फस्केशन): आप अपना चेहरा छिपाने के लिए मास्क पहन सकते हैं। लेकिन यदि बेकर आपको हर दिन देखता है, तो वह मास्क के पीछे आपके चेहरे के आकार को सीख जाता है। एक बार जब वे मास्क को जान जाते हैं, तो वे अंदाज़ा लगा सकते हैं कि आप कौन हैं।
GELO समाधान: "शफल और स्वैप" का तरीका
GELO एक चतुर, हल्का तरीका है जो बेकर को भारी काम करने देता है, बिना वास्तविक सामग्रियों को देखे। यह म्यूजिकल चेयर्स के एक ट्विस्ट के साथ खेलने जैसा है।
यहाँ चरण-दर-चरण प्रक्रिया दी गई है:
1. गुप्त शफल (द "मिक्स")
इससे पहले कि आप सामग्रियों (AI के छिपे हुए विचारों) को बेकर को सौंपें, आप (एक ट्रस्टेड TEE, एक सुरक्षित, लॉक किया गया कमरा) डेटा का प्रतिनिधित्व करने वाले ताश के पत्तों की एक गड्डी लेते हैं।
- आप इस विशिष्ट बैच की सामग्रियों के लिए एक नया, रैंडम शफल पैटर्न जनरेट करते हैं।
- आप इस पैटर्न का उपयोग करके सामग्रियों को आपस में मिला देते हैं। अब, "बैटर" एक अराजक, रैंडम मलबे जैसा दिखता है। यह अभी भी समान मात्रा में बैटर है, लेकिन क्रम बदल गया है।
- महत्वपूर्ण बिंदु: आप इस शफल पैटर्न को उपयोग के तुरंत बाद फेंक देते हैं। आप इसे दोबारा कभी उपयोग नहीं करते हैं।
2. बेकर का काम (द "ऑफलोड")
आप यह बिखरा हुआ, अस्त-व्यस्त बैटर जिज्ञासु बेकर को सौंप देते हैं।
- बेकर बिखरे हुए बैटर पर भारी गणित (मिलाना, बेक करना) करता है।
- क्योंकि बेकर को शफल पैटर्न का पता नहीं है, इसलिए वे मूल सामग्री का पता नहीं लगा सकते। वे केवल एक उलझा हुआ ढेर देखते हैं।
- वे तैयार, बिखरा हुआ केक वापस आपको भेज देते हैं।
3. गुप्त अन-स्कैंबल (द "अन-मिक्स")
आप बिखरा हुआ केक अपने सुरक्षित कमरे में वापस ले जाते हैं।
- आप उस शफल पैटर्न का उल्टा (रिवर्स) लागू करते हैं जिसे आपने पहले उपयोग किया था।
- पूफ! बिखरा हुआ केक तुरंत वापस मूल, परफेक्ट केक में बदल जाता है।
- बेकर ने कभी असली केक नहीं देखा; उन्होंने केवल बिखरा हुआ संस्करण देखा।
यह "गुड-इनफ" क्यों है?
इसे पेपर में "गुड-इनफ" कहा गया है क्योंकि यह एक किले की तरह गणितीय रूप से अटूट होने की कोशिश नहीं करता है (जो बहुत धीमा है)। इसके बजाय, यह हैकर के काम को इतना कठिन बना देता है कि यह उनके समय के लायक नहीं रह जाता।
- "वन-टाइम" नियम: क्योंकि आप हर सिंगल बैच के लिए एक नया शफल पैटर्न उपयोग करते हैं, इसलिए हैकर पिछले प्रयासों से सीख नहीं सकता है। यह एक पहेली को सुलझाने जैसा है जहाँ हर बार पलक झपकते ही तस्वीर बदल जाती है।
- "शील्ड" वेक्टर्स: कभी-कभी, स्मार्ट हैकर्स बार-बार आने वाले शब्दों (जैसे "the" या "and") को देखकर पैटर्न का अनुमान लगाने की कोशिश करते हैं। GELO मिश्रण में कुछ "डेकॉय" सामग्रियां (रैंडम नॉइज़) जोड़ता है। ये डेकॉयर्स बैटर में मुट्ठी भर ग्लिटर डालने जैसा है। यह पैटर्न का अनुमान लगाने के लिए बेकर की सांख्यिकीय ट्रिक्स को बिगाड़ देता है, लेकिन यह केक को खराब नहीं करता है।
परिणाम
शोधकर्ताओं ने इस परीक्षण को एक लोकप्रिय AI मॉडल (Llama 2) पर किया:
- गति: इसने चीजों को केवल लगभग 20-30% धीमा किया। गोपनीयता के लिए यह एक छोटी कीमत है, विशेष रूप से एन्क्रिप्शन के 100x धीमेपन की तुलना में।
- सटीकता: केक का स्वाद बिल्कुल वैसा ही था। AI ने बिना किसी निगरानी के समान उत्तर दिए।
- सुरक्षा: जब हैकर्स ने पैटर्न को "अनस्कैंबल" करने के लिए उन्नत गणित का उपयोग करने की कोशिश की, तो वे विफल रहे। बिखरा हुआ डेटा रैंडम शोर जैसा लग रहा था, और वे मूल गुप्त प्रश्नों को फिर से नहीं बना सके।
बड़ी तस्वीर
GELO एक व्यावहारिक समझौता है। यह स्वीकार करता है कि हम हमेशा पूर्ण, धीमी एन्क्रिप्शन नहीं रख सकते, और हम क्लाउड कंप्यूटरों पर पूरी तरह भरोसा नहीं कर सकते।
इसके बजाय, यह एक डायनेमिक, लगातार बदलने वाले भेष का उपयोग करता है। यह हर बार कमरे में जाने पर एक अलग, रैंडम कॉस्ट्यूम पहनने जैसा है। भले ही कमरा जासूसों से भरा हो, वे यह नहीं जान सकते कि आप कौन हैं क्योंकि जब तक वे आपको पहचानने की कोशिश करते हैं, आप पहले ही अपना कॉस्ट्यूम बदल चुके होते हैं।
यह हमें अपने निजी रहस्यों को उजागर किए बिना शक्तिशाली, साझा AI क्लाउड का उपयोग करने की अनुमति देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।