DualTrust: Asymmetric Bayesian Reputation and Cryptographic Gating for Autonomous AI Agents

कंप्यूटिंग की दुनिया चुपचाप बदल रही है। दशकों से, हम मशीनों के साथ स्क्रीन के माध्यम से बातचीत करते आए हैं, स्पष्ट निर्देश देने के लिए कांच को टैप करते हैं और माउस क्लिक करते हैं। अब, "एम्बिएंट इंटेलिजेंस" (परिवेशी बुद्धिमत्ता) का एक नया युग उभर रहा है, जहाँ स्मार्ट ग्लास, घड़ियाँ और सेंसर बैकग्राउंड में काम करते हैं, हमारे बोले गए अनुरोधों को सुनते हैं और बिना किसी बटन को छुए उन पर कार्रवाई करते हैं। इस भविष्य में, एक व्यक्तिगत सॉफ्टवेयर एजेंट आपकी यह बात सुन सकता है, "मेरी दैनिक यात्रा को सुरक्षित करो," और फिर स्वचालित रूप से एक सवारी बुक कर सकता है, ट्रैफ़िक की जाँच कर सकता है और किराया चुका सकता है। ये एजेंट शक्तिशाली हैं, लेकिन वे जोखिम भरे भी हैं। क्योंकि ये लार्ज लैंग्वेज मॉडल्स द्वारा संचालित होते हैं जो गलतियाँ कर सकते हैं या बुरे तत्वों द्वारा धोखे में लाए जा सकते हैं, उन्हें अपने बैंक खाते या अपने घर की सुरक्षा प्रणाली की चाबियाँ सौंपना एक भयानक संभावना है। यदि कोई एजेंट अनियंत्रित हो जाता है, तो वह आपकी जमापूंजी खत्म कर सकता है या आपके दरवाजे खोल सकता है। वैज्ञानिकों के लिए केंद्रीय चुनौती यह है कि इन एजेंटों को स्वतंत्र रूप से काम करने कैसे दिया जाए, जबकि उन्हें तुरंत रोका जा सके यदि वे कुछ हानिकारक करने की कोशिश करते हैं, और यह सब अनुभव को धीमा किए बिना या कंप्यूटिंग पावर की भारी लागत के बिना किया जाए।

शोधकर्ताओं ने एक दूसरे, धीमे AI का उपयोग करके एक जज के रूप में कार्य करने के लिए, जो एजेंट द्वारा किए जाने वाले हर एक कार्य की जाँच करता है, इसे हल करने का प्रयास किया है। हालाँकि, यह दृष्टिकोण वास्तविक दुनिया के लिए बहुत धीमा है। निर्णय लेने में सैकड़ों मिलीसेकंड लग सकते हैं, जो उस समय एक अनंत काल के समान है जब एक कार ट्रैफ़िक में नेविगेट कर रही हो या कोई चिकित्सा उपकरण रोगी पर प्रतिक्रिया दे रहा हो। इसके अलावा, अनुमति के लिए लगातार दूसरे AI से पूछना महंगा है और पहनने योग्य उपकरणों (वियरेबल्स) की बैटरी को खत्म कर देता है। एक अन्य दृष्टिकोण स्थिर नियमों का उपयोग करता है, जैसे कि एक बाउंसर जो केवल दरवाजे पर एक बार आपका आईडी चेक करता है, लेकिन यह तब विफल हो जाता है जब कोई एजेंट समय के साथ अपने व्यवहार को धीरे-धीरे बदलता है या एक-एक करके छोटी, अवैध कार्रवाइयों को चुराने की कोशिश करता है। इस अंतर को पाटने के लिए, खैरान नूर फध्लिल्लाह नामक एक शोधकर्ता ने 'डुअलट्रस्ट' (DualTrust) नामक एक नई प्रणाली विकसित की है। इसे एक उच्च-गति वाले गेटकीपर के रूप में डिज़ाइन किया गया है जो एजेंट और उन उपकरणों के बीच बैठता है जिनका वह उपयोग करना चाहता है, जिससे मिलीसेकंड के बजाय माइक्रोसेकंड में निर्णय लिए जाते हैं।

डुअलट्रस्ट के पीछे का मूल विचार मानव स्वामी को सॉफ्टवेयर एजेंट से अलग करना है। इस प्रणाली में, मानव के पास एक निश्चित क्रेडिट के साथ एक वित्तीय खाता होता है, जबकि एजेंट के पास उसके व्यवहार के आधार पर एक प्रतिष्ठा स्कोर (reputation score) होता है। यदि एजेंट कोई गलती करता है या कुछ खतरनाक करने की कोशिश करता है, तो सिस्टम मानव को दंडित नहीं करता है; इसके बजाय, यह एजेंट की प्रतिष्ठा को दंडित करता है। यह मानव को अपना डिवाइस इस्तेमाल करने की अनुमति देता है भले ही उनका विशिष्ट सॉफ्टवेयर सहायक हैक कर लिया गया हो या भ्रमित हो गया हो। सिस्टम एजेंट के इतिहास को एक गणितीय विधि का उपयोग करके ट्रैक करता है जो अच्छे व्यवहार के विरुद्ध बुरे व्यवहार को तौलता है। महत्वपूर्ण रूप से, यह बार-बार होने वाली गलतियों को एक एकल त्रुटि की तुलना में बहुत अधिक कठोरता से मानता है। यदि कोई एजेंट छोटी-छोटी अवैध कार्रवाइयों की एक श्रृंखला को चुराने की कोशिश करता है—जिसे "सलामी स्लाइसिंग" (salami slicing) नामक रणनीति कहा जाता है—तो प्रत्येक नई गलती के लिए दंड तेजी से बढ़ता है, जिससे एजेंट को बहुत जल्दी पूरी तरह से बाहर (क्वारंटाइन) कर दिया जाता है।

बुरे तत्वों को इन नियमों को बायपास करने के लिए नए, ताज़ा एजेंट बनाने से रोकने के लिए, डुअलट्रस्ट प्रत्येक नए एजेंट को मूल मानव की सत्यापित पहचान और क्रेडिट से जोड़ता है। एक नया एजेंट कम स्तर के विश्वास के साथ शुरू होता है और उसे वित्तीय हस्तांतरण या भौतिक नियंत्रण जैसे खतरनाक उपकरणों तक पहुँचने की अनुमति मिलने से पहले कई सुरक्षित कार्यों को करके खुद को साबित करना होता है। यह एक ऐसी बाधा पैदा करता है जो हमलावर के लिए अपनी प्रतिष्ठा को रीसेट करना कठिन और महंगा बना देती है। सिस्टम इस बात से भी सुरक्षा करता है कि समूहों में फर्जी एजेंट एक अच्छे एजेंट को फंसाने की कोशिश न करें। यदि एक कम-विश्वास वाला एजेंट एक उच्च-विश्वास वाले एजेंट पर अपराध का आरोप लगाने की कोशिश करता है, तो सिस्टम उस आरोप को अनदेखा कर देता है, यह सुनिश्चित करता है कि एक सत्यापित एजेंट झूठ बोलने वाले झुंड द्वारा नीचे न गिराया जा सके।

शोधकर्ताओं ने इस प्रणाली का व्यापक परीक्षण किया ताकि यह देखा जा सके कि क्या यह वास्तविक दुनिया के उपयोग की गति और अराजकता को संभाल सकती है। उन्होंने हमलों के हजारों चक्रों के साथ सिमुलेशन चलाए, जिसमें एजेंटों द्वारा छोटी गलतियाँ चुराने और दूसरों द्वारा फर्जी आरोपों के साथ सिस्टम को ओवरवेल करने के प्रयास शामिल थे। परिणामों ने दिखाया कि डुअलट्रस्ट लगभग 47 माइक्रोसेकंड में प्राधिकरण निर्णय ले सकता है, जो न्यूरल नेटवर्क पर निर्भर वर्तमान AI-आधारित सुरक्षा प्रणालियों की तुलना में छह हजार गुना से अधिक तेज़ है। यहाँ तक कि जब सिस्टम रिकॉर्ड रखने के लिए अपने निर्णयों को एक स्थायी स्टोरेज ड्राइव में लिख रहा था, तब भी देरी एक मिलीसेकंड से कम थी। यह गति महत्वपूर्ण है क्योंकि इसका अर्थ है कि सुरक्षा जाँच इतनी तेज़ी से होती है कि उपयोगकर्ता को कोई रुकावट महसूस नहीं होती, फिर भी सिस्टम इतना मजबूत है कि वह जटिल हमलों को पकड़ सके जो धीमे, नियम-आधारित फिल्टरों से बच निकल सकते हैं।

सबसे महत्वपूर्ण निष्कर्षों में से एक यह था कि सिस्टम सुरक्षा के "त्रिपथ" (trilemma) को कैसे संभालता है: गति, लागत और सुरक्षा के बीच का संघर्ष। एक दूसरे AI का उपयोग करने के बजाय जो हर चाल को जज करे, एक नियत (deterministic), नियम-आधारित इंजन का उपयोग करके, डुअलट्रस्ट ने टोकन शुल्क की उच्च लागत और बड़े मॉडल्स को चलाने के भारी ऊर्जा खर्च को समाप्त कर दिया। इसने सिद्ध किया कि एजेंट को सुरक्षित रखने के लिए आपको सुपरकंप्यूटर की आवश्यकता नहीं है; आपको एक स्मार्ट, तेज़ और गणितीय रूप से कठोर गेटकीपर की आवश्यकता है। सिस्टम ने सिम्युलेटेड हमलावरों को संसाधनों को खाली करने या नियमों को बायपास करने से सफलतापूर्वक रोका, अक्सर खराब व्यवहार के कुछ ही चक्रों के भीतर उन्हें क्वारंटाइन कर दिया। इसने यह भी प्रदर्शित किया कि यह नेटवर्क ग्लिच के कारण किसी टूल के विफल होने जैसे 'फॉल्स अलार्म' से कैसे उबर सकता है, जो अस्थायी त्रुटि और जानबूझकर किए गए हमले के बीच अंतर करता है।

अध्ययन ने हर निर्णय का छेड़छाड़-रोधी (tamper-evident) रिकॉर्ड रखने के महत्व पर भी प्रकाश डाला। डुअलट्रस्ट हर कार्रवाई, हर दंड और हर अनुमोदन को एक सुरक्षित, अपरिवर्तनीय लेजर में लॉग करता है। यह एक स्थायी इतिहास बनाता है जिसे बाद में ऑडिट किया जा सकता है ताकि यह देखा जा सके कि वास्तव में क्या हुआ था, यह सुनिश्चित करते हुए कि यदि कुछ गलत होता है, तो यह स्पष्ट गणितीय प्रमाण होगा कि किसने, क्या और कब किया। यह विशेषता उस दुनिया में विश्वास बनाने के लिए महत्वपूर्ण है जहाँ स्वायत्त एजेंट वास्तविक दुनिया के निर्णय ले रहे हैं। शोधकर्ताओं ने उल्लेख किया कि हालांकि यह प्रणाली सिमुलेशन और नियंत्रित परीक्षणों में अत्यधिक प्रभावी है, फिर भी यह सेंसर और टूल्स की सटीकता पर निर्भर करती है जो त्रुटियों की रिपोर्ट करते हैं। यदि सिस्टम गलती को देख नहीं पाता है, तो वह उसे दंडित नहीं कर सकता है, और भविष्य के कार्य इस बात पर केंद्रित होना चाहिए कि ये एजेंट वास्तविक दुनिया में लाइव, अप्रत्याशित AI मॉडल्स के साथ बातचीत करते समय कैसा प्रदर्शन करते हैं।

अंततः, यह कार्य एक ऐसे भविष्य के लिए एक व्यावहारिक ब्लूप्रिंट प्रदान करता है जहाँ हम अपने उपकरणों पर निरंतर पर्यवेक्षण के बिना अपनी ओर से कार्य करने के लिए भरोसा कर सकते हैं। यह एक धीमे, महंगे AI जज के विचार से हटकर एक तेज़, कुशल और गणितीय रूप से सुदृढ़ संरक्षक की ओर बढ़ता है। मानव की पहचान को एजेंट के व्यवहार से अलग करके और वास्तविक समय में खतरों के अनुकूल होने वाली प्रणाली का उपयोग करके, डुअलट्रस्ट पहनने योग्य तकनीक की अगली पीढ़ी के लिए एक आधार प्रदान करता है। यह सुझाव देता है कि हमारे पास शक्तिशाली, स्वायत्त सहायक हो सकते हैं जो न केवल स्मार्ट हैं, बल्कि सुरक्षित, तेज़ और जवाबदेह भी हैं, जिससे हम नियंत्रण खोने के डर के बिना एक परिवेशी दुनिया में कदम रख सकते हैं।