Mastyf Guard 1.5B: Cognitive Harvard Architectures for Sub-Millisecond AI Agent Perimeter Defense and Capability-Based Access Control

एक ऐसी दुनिया की कल्पना करें जहाँ कंप्यूटरों को अपने आप कार्य करने की क्षमता दी गई है, न कि केवल प्रश्नों के उत्तर देने के लिए, बल्कि ईमेल भेजने, डेटाबेस प्रबंधित करने या स्मार्ट होम उपकरणों को नियंत्रित करने जैसे कार्य करने के लिए। ये स्वायत्त एजेंट (autonomous agents) शक्तिशाली हैं, लेकिन वे एक मौलिक सुरक्षा समस्या का सामना करते हैं जो इस बात में निहित है कि उन्हें कैसे बनाया गया है। दशकों से, कंप्यूटर सिस्टम एक ऐसे डिज़ाइन पर काम कर रहे हैं जहाँ मशीन को क्या करना है यह बताने वाले निर्देश और मशीन जिस डेटा को प्रोसेस कर रही है, वे एक ही मेमोरी स्पेस में साथ रहते हैं। यह व्यवस्था, लचीली होने के बावजूद, एक भेद्यता (vability) पैदा करती है: यदि कोई दुर्भावनापूर्ण अभिनेता डेटा स्ट्रीम में एक छिपा हुआ निर्देश डाल देता है, तो कंप्यूटर उस डेटा को एक कमांड समझकर उसका पालन कर सकता है। आर्टिफिशियल इंटेलिजेंस के क्षेत्र में, यह दोष एक नए रूप में वापस आ गया है। क्योंकि ये एआई एजेंट अपने निर्देशों और इंटरनेट से एकत्र की गई अविश्वसनीय जानकारी को एक साथ पढ़ते हैं, इसलिए उन्हें छलावा किया जा सकता है। एक हमलावर एक हानिरहित दिखने वाली उत्पाद समीक्षा या ईमेल के भीतर एक कमांड छिपा सकता है, और एआई, सुरक्षित डेटा और छिपे हुए आदेश के बीच अंतर करने में असमर्थ होकर, उस आदेश का पालन कर सकता है और वे कार्य कर सकता है जो उसे कभी करने के लिए नहीं दिए गए थे, जैसे कि फाइलें हटाना या पासवर्ड चुराना।

कोलकाता, भारत में 'मास्टिफ एआई रिसर्च लैबोरेटरी' (Mastyf AI AI Research Laboratory) के एक शोधकर्ता ने इस विशिष्ट समस्या के समाधान के रूप में एक प्रस्ताव दिया है, जिसे वे "कॉग्निटिव हार्वर्ड आर्किटेक्चर" (Cognitive Harvard Architecture) कहते हैं। उनका कार्य, जो "मास्टिफ गार्ड 1.5B" (Mastyf Guard 1.5B) नामक एक अध्ययन में विस्तृत है, इन स्वायत्त एजेंटों को सुरक्षित करने का एक नया तरीका पेश करता है। एआई को अपने निर्देशों और डेटा को स्वतंत्र रूप से मिलाने देने के बजाय, शोधकर्ता ने एक ऐसा सिस्टम डिज़ाइन किया है जो भौतिक रूप से दोनों को अलग करता है। इस नए सेटअप में, एआई को अविश्वसनीय जानकारी पढ़ने और यह सोचने की अनुमति है कि क्या करना है, लेकिन वह वास्तव में अपने आप कोई कार्रवाई नहीं कर सकता। इससे पहले कि एआई कोई कार्य करे, जैसे कि कोई फ़ाइल खोलना या संदेश भेजना, उसका अनुरोध एक सख्त सुरक्षा चेकपॉइंट से गुजरना चाहिए। यह चेकपॉइंट एक द्वारपाल (gatekeeper) के रूप में कार्य करता है जो एजेंट की अनुमतियों की जांच कार्यों की एक विशिष्ट सूची के विरुद्ध करता है। यदि अनुरोध एक विश्वसनीय स्रोत से आता है और अनुमतियों से मेल खाता है, तो वह आगे बढ़ जाता है। यदि अनुरोध किसी ऐसी चीज़ को करने की कोशिश कर रहा है जो उसके दायरे से बाहर है, या यदि यह डेटा के रूप में छिपा हुआ कमांड प्रतीत होता है, तो द्वारपाल इसे तुरंत रोक देता है। यह दृष्टिकोण कंप्यूटर हार्डवेयर की एक पुरानी अवधारणा पर आधारित है जहाँ निर्देश मेमोरी और डेटा मेमोरी को ठीक इसी तरह के भ्रम को रोकने के लिए अलग-अलग भौतिक स्थानों में रखा जाता है।

शोधकर्ता ने इस विचार का परीक्षण करने के लिए "मास्टिफ गार्ड" (Mastyf Guard) नामक एक सॉफ्टवेयर टूल बनाया। उन्होंने इस सुरक्षा द्वारपाल के रूप में कार्य करने के लिए एक विशेष एआई मॉडल को प्रशिक्षित किया, जो अपेक्षाकृत छोटा और कुशल है। यह देखने के लिए कि क्या यह काम करता है, उन्होंने इसे पचास हजार विभिन्न परिदृश्यों वाले एक कठोर परीक्षण से गुजारा। इनमें से आधे वास्तविक दुनिया के सुरक्षित डेवलपर कमांड के उदाहरण थे, जैसे कि डेटाबेस अपडेट करना या कोड मर्ज करना। शेष आधा हिस्सा सावधानीपूर्वक तैयार किए गए हमलों का था जिन्हें एआई को हानिकारक कार्य करने के लिए छला गया था। इन हमलों में टेक्स्ट में छिपे हुए निर्देश, सुरक्षा फिल्टर को बायपास करने के प्रयास और संवेदनशील जानकारी चुराने के अनुरोध शामिल थे। परिणाम आश्चर्यजनक थे। मास्टिफ गार्ड सिस्टम ने 99.33% दुर्भावनापूर्ण प्रयासों की सफलतापूर्वक पहचान की और उन्हें रोका। इसके विपरीत, उस समय उपलब्ध अन्य अग्रणी सुरक्षा उपकरण आधे से अधिक हमलों को पकड़ने में विफल रहे। नया सिस्टम न केवल अधिक सटीक था बल्कि अविश्वसनीय रूप से तेज़ भी था। यह पांच माइक्रोसेकंड से भी कम समय में एक सुरक्षा निर्णय ले सकता था, जिससे इसकी गति इतनी थी कि इसे महंगे, विशेष ग्राफिक्स हार्डवेयर की आवश्यकता के बिना मानक कंप्यूटर प्रोसेसर पर चलाया जा सके।

अध्ययन ने यह भी रेखांकित किया कि एआई की सुरक्षा के पिछले तरीके क्यों विफल रहे। कई मौजूदा सुरक्षा उपकरण चैट बातचीत में घृणास्पद भाषण या हिंसा जैसे स्पष्ट खतरों को पहचानने के लिए बनाए गए थे। उन्हें यह पहचानने के लिए नहीं बनाया गया था कि कब एक विनम्र लगने वाला वाक्य एक सर्वर को हटाने या दरवाजा खोलने के छिपे हुए कमांड को समाहित करता है। क्योंकि ये पुराने उपकरण बुरे शब्दों को देखते थे न कि खतरनाक कार्यों को, इसलिए इन्होंने परिष्कृत हमलों को आसानी से निकल जाने दिया। हालाँकि, मास्टिफ गार्ड सिस्टम केवल बुरे शब्दों को नहीं देखता है; यह संदर्भ और अनुमतियों की जाँच करता है। यह समझता है कि एक पूरी तरह से विनम्र वाक्य भी खतरनाक हो सकता है यदि वह उस टूल का उपयोग करने की कोशिश कर रहा है जिसे छूने की अनुमति एजेंट को नहीं है। एजेंट के लिए केवल उन्हीं टूल्स का उपयोग करने के सख्त नियम को लागू करके, सिस्टम एआई को एक "कन्फ्यूज्ड डिप्टी" (confused deputy) बनने से रोकता है—यह एक ऐसा शब्द है जिसका उपयोग एक भरोसेमंद प्रोग्राम के लिए किया जाता है जिसे हमलावर द्वारा हानिकारक कार्य करने के लिए ठगा जाता है।

अपने सफल होने के बावजूद, शोधकर्ता ने अपने कार्य की सीमाओं को नोट करने में सावधानी बरती। यह सिस्टम उन हमलों को रोकने में अत्यधिक प्रभावी है जो एजेंट को उन टूल्स का उपयोग करने के लिए प्रेरित करते हैं जिन्हें एक्सेस करने का अधिकार उसके पास नहीं है। हालाँकि, यदि कोई हमलावर एजेंट को उस टूल के विवरण को बदलने के लिए धोखा देने में सफल हो जाता है जिसे उपयोग करने की अनुमति उसे पहले से ही है, तो सिस्टम अर्थ के सूक्ष्म अंतर को पहचानने की एआई की क्षमता पर निर्भर करता है। इन विशिष्ट मामलों में, सिस्टम ने लगभग 78.5% खतरों को पकड़ा, जो कि मजबूत है लेकिन पूर्ण नहीं है। शोधकर्ता ने यह भी जोर दिया कि उनका समाधान हल्का और किफायती है। क्योंकि यह मानक कंप्यूटर मेमोरी पर कुशलतापूर्वक चलता है, इसलिए इसे बड़े एआई मॉडल की तरह भारी मात्रा में बिजली और महंगे हार्डवेयर की आवश्यकता नहीं होती है। यह कंपनियों के लिए बिना किसी बड़े वित्तीय बोझ के अपने स्वायत्त एजेंटों को सुरक्षित करना संभव बनाता है।

निष्कर्ष बताते हैं कि हमें सुरक्षित एआई सिस्टम बनाने के तरीके में बदलाव करने की आवश्यकता है। एआई को यह जानने के लिए पर्याप्त स्मार्ट बनाने पर भरोसा करने के बजाय कि क्या सुरक्षित है, आर्किटेक्चर को ही सुरक्षा लागू करनी चाहिए। एआई के सोचने वाले हिस्से को उसके कार्य करने वाले हिस्से से अलग करके और उनके बीच एक सख्त, अनुमति-आधारित गेट रखकर, शोधकर्ता ने एक ऐसा सिस्टम बनाया है जो वर्तमान विकल्पों की तुलना में अधिक तेज़ और अधिक सुरक्षित है। यह अध्ययन एक स्पष्ट मार्ग प्रदान करता है कि निरंतर आपदा का जोखिम उठाए बिना वास्तविक दुनिया में संचालित होने वाले स्वायत्त एजेंटों को कैसे बनाया जाए। यह प्रदर्शित करता है कि कंप्यूटर आर्किटेक्चर के मौलिक सिद्धांतों को आर्टिफिशियल इंटेलिजेंस की नई चुनौतियों पर लागू करके, एक ऐसा रक्षा तंत्र बनाया जा सकता है जो गणितीय रूप से सुदृढ़ और व्यावहारिक रूप से प्रभावी दोनों है। यह कार्य स्वायत्त एजेंटों को हमारे डिजिटल इंफ्रास्ट्रक्चर का एक सुरक्षित और विश्वसनीय हिस्सा बनाने की दिशा में एक महत्वपूर्ण कदम है, जो यह सिद्ध करता है कि सुरक्षा के लिए गति या दक्षता से समझौता करना आवश्यक नहीं है।