APrivacy-Preserving Architecture for On-Device Intelligent Computing Using a Small Language Model with Input and Output Guardrails: Prototype Implementation and Preliminary Evaluation

आधुनिक दुनिया में, हम अक्सर कंप्यूटरों से अपने लिए सोचने के लिए कहते हैं, ईमेल लिखने, समस्याओं को हल करने या प्रश्नों के उत्तर देने के लिए शक्तिशाली आर्टिफिशियल इंटेलिजेंस का उपयोग करते हैं। इनमें से अधिकांश स्मार्ट सिस्टम क्लाउड में रहते हैं, जिसका अर्थ है कि आपके शब्द प्रसंस्करण के लिए एक दूर स्थित सर्वर तक इंटरनेट के माध्यम से यात्रा करते हैं। हालांकि यह अच्छी तरह से काम करता है, लेकिन यह एक शांत चिंता पैदा करता है: हर बार जब आप ईमेल पता या फोन नंबर जैसा कोई व्यक्तिगत विवरण टाइप करते हैं, तो वह जानकारी आपके डिवाइस से बाहर निकल जाती है और किसी और के सिस्टम में प्रवेश कर जाती है। इसे हल करने के लिए, शोधकर्ताओं ने इन सोचने वाली मशीनों के छोटे, अधिक सघन संस्करण विकसित किए हैं जो सीधे आपके अपने कंप्यूटर या फोन पर चल सकते हैं। यह आपके डेटा को वहीं रखता है जहाँ वह होना चाहिए, यानी आपके डिवाइस पर। हालाँकि, केवल इसलिए कि एक कंप्यूटर स्थानीय (लोकल) है, इसका मतलब यह नहीं है कि वह सुरक्षित है। "प्रॉम्प्ट इंजेक्शन" नामक एक चालाक तरकीब अभी भी मशीन को उसके नियमों को अनदेखा करने या रहस्यों को उजागर करने के लिए मूर्ख बना सकती है, और मशीन अनजाने में उस निजी जानकारी को उगल सकती है जिसे उसे छिपाने के लिए बनाया गया था। इसलिए, चुनौती एक ऐसा सिस्टम बनाने की है जो स्थानीय रहे लेकिन एक सतर्क गार्ड की तरह भी कार्य करे, जो अंदर जाने वाली और बाहर आने वाली चीज़ों की जाँच करे।

भारत में संजीवनी यूनिवर्सिटी के एक शोधकर्ता हर्षल गाडेकरर ने ठीक इसी विचार का परीक्षण करने के लिए एक वर्किंग प्रोटोटाइप बनाया है। उन्होंने एक गोपनीयता-केंद्रित सहायक बनाया है जो 'ओलामा' (Ollama) नामक टूल का उपयोग करके पूरी तरह से एक स्थानीय कंप्यूटर पर 'फी-3 मिनी' (Phi-3 Mini) नामक एक छोटे लैंग्वेज मॉडल को चलाता है। इस सिस्टम को दोहरी सुरक्षा परत के साथ डिज़ाइन किया गया है, जैसे कि एक सुरक्षा चेकपॉइंट जो यात्रियों के सवार होने से पहले और आगमन के बाद फिर से उनकी जांच करता है। कंप्यूटर के उत्तर के बारे में सोचने से पहले ही, एक "इनपुट गार्डरेल" उपयोगकर्ता के संदेश को स्कैन करता है। यह संकेतों की तलाश करता है कि क्या कोई सिस्टम को धोखा देने की कोशिश कर रहा है, जैसे कि पिछले निर्देशों को अनदेखा करने या मशीन के छिपे हुए नियमों को प्रकट करने वाले कमांड। यदि इसे कोई ऐसी चाल मिलती है, तो यह अनुरोध को तुरंत रोक देता है। यह ईमेल पते जैसे संवेदनशील व्यक्तिगत विवरणों की भी जांच करता है और उन्हें कंप्यूटर द्वारा पढ़े जाने से पहले ही छिपा देता है। एक बार जब स्थानीय कंप्यूटर एक प्रतिक्रिया उत्पन्न कर देता है, तो एक दूसरा "आउटपुट गार्डरेल" उत्तर की जांच करता है ताकि यह सुनिश्चित हो सके कि कोई निजी जानकारी गलती से निकल तो नहीं गई।

शोधकर्ता ने यह देखने के लिए कि यह वास्तविक दुनिया में कैसा व्यवहार करता है, सावधानीपूर्वक चुने गए प्रश्नों के एक छोटे सेट के साथ इस प्रणाली का परीक्षण किया। जब "आर्टिफिशियल इंटेलिजेंस क्या है?" जैसे सरल, हानिरहित प्रश्न पूछा गया, तो सिस्टम ने पूरी तरह से काम किया। इसने अनुरोध को स्थानीय रूप से संसाधित किया, सभी सुरक्षा जांचों को पार किया, और तीन सेकंड से कुछ अधिक समय में उत्तर लौटा दिया। स्क्रीन ने दिखाया कि इनपुट साफ था, कोई चालाकी नहीं पकड़ी गई, और अंतिम उत्तर प्रदर्शित करने के लिए सुरक्षित था। इसके बाद सिस्टम को चार अलग-अलग कोशिशों का सामना करना पड़ा, जहाँ उपयोगकर्ताओं ने मशीन को अपने गुप्त निर्देश प्रकट करने या अपने सुरक्षा नियमों को अनदेखा करने का आदेश देने की कोशिश की। इन सभी मामलों में, इनपुट गार्डरेल ने कोशिश को पकड़ लिया। सिस्टम ने चालाकी की पहचान की, अनुरोध को ब्लॉक कर दिया और उत्तर उत्पन्न करने देने के बजाय एक चेतावनी संदेश दिखाया। इससे यह सिद्ध हुआ कि भले ही कंप्यूटर आपकी अपनी मेज पर चल रहा हो, फिर भी उसे हेरफेर से रोकने के लिए एक गार्ड की आवश्यकता होती है।

परीक्षण में एक प्रश्न भी शामिल था जिसमें फर्जी व्यक्तिगत डेटा, विशेष रूप से एक बनावटी ईमेल पता और एक फोन नंबर था। यहाँ, सिस्टम ने अपनी ताकत और एक स्पष्ट कमजोरी दोनों को दिखाया। जब उपयोगकर्ता ने ईमेल पता टाइप किया, तो सिस्टम ने इसे पहचान लिया, टेक्स्ट को "ईमेल रिडैक्टेड" (ईमेल हटा दिया गया) वाले प्लेसहोल्डर से बदल दिया, और संदेश को कंप्यूटर को भेज दिया। अंतिम उत्तर ने रिडैक्टेड टेक्स्ट दिखाया, जिसका अर्थ था कि ईमेल सफलतापूर्वक सुरक्षित था। हालाँकि, सिस्टम आठ अंकों के फोन नंबर को पकड़ने में विफल रहा। इसने नंबर को बिना किसी बदलाव के गुजरने दिया, और अंतिम आउटपुट ने पूरे फोन नंबर को ऐसे प्रदर्शित किया जैसे कुछ हुआ ही न हो। आउटपुट गार्डरेल भी इसे पकड़ने में विफल रहा, जिसने रिपोर्ट किया कि उत्तर में कोई संवेदनशील डेटा नहीं पाया गया। यह परिणाम इस बात पर प्रकाश डालता है कि हालांकि स्थानीय, सुरक्षित कंप्यूटिंग का विचार व्यवहार्य है, लेकिन निजी जानकारी को पहचानने के वर्तमान नियम अभी भी पूर्ण नहीं हैं। सिस्टम ने चालाकी को सफलतापूर्वक रोका और ईमेल को पकड़ा, लेकिन फोन नंबर को खुला छोड़ दिया।

अध्ययन यह निष्कर्ष निकालता है कि एक एकल, हल्के वजन वाले पाइपलाइन में स्थानीय कंप्यूटिंग को सुरक्षा जांच के साथ जोड़ा जा सकता है। सिस्टम ने प्रदर्शित किया कि यह एक व्यक्तिगत डिवाइस पर चल सकता है, धोखाधड़ी के सामान्य प्रयासों को रोक सकता है, और निजी डेटा के कुछ प्रकारों को छिपा सकता है। फिर भी, शोधकर्ता यह नोट करने में सावधान हैं कि ये निष्कर्ष प्रारंभिक हैं। परीक्षण सेट बहुत छोटा था, जिसमें केवल कुछ ही प्रश्न शामिल थे, और परिणाम एक ही मशीन पर देखे गए थे बिना यह मापे कि सिस्टम कितनी बार गलतियाँ कर सकता है या भारी लोड के तहत इसकी गति क्या होगी। फोन नंबर को पकड़ने में विफलता यह बताती है कि व्यक्तिगत डेटा के विभिन्न प्रारूपों को कवर करने के लिए पहचान नियमों का विस्तार करने की आवश्यकता है। इससे पहले कि इस दृष्टिकोण को रोजमर्रा के उपयोग के लिए पूरी तरह विश्वसनीय माना जा सके, सिस्टम का बहुत अधिक विविध इनपुट पर परीक्षण किया जाना चाहिए, जिसमें अधिक जटिल चालाकियाँ और व्यक्तिगत जानकारी के विभिन्न प्रकार शामिल हों। फिलहाल, यह कार्य एक आशाजनक 'प्रूफ ऑफ कॉन्सेप्ट' के रूप में खड़ा है, जो दिखाता है कि एक सुरक्षित, निजी एआई सहायक पहुंच के भीतर है, बशर्ते सुरक्षा गार्डों में निरंतर सुधार किया जाए।