Verifiable Delegated Authority for LLM Agents in Banking: A Formal Architecture, Capability Protocol, and Audit Guarantees
यह शोध पत्र बैंकिंग में सुरक्षित एलएलएम (LLM) एजेंटों के लिए एक औपचारिक आर्किटेक्चर प्रस्तावित करता है जो एटेन्युएटेड कैपेबिलिटी टोकन (attenuated capability tokens) और डिटर्मिनिस्टिक पॉलिसी इंजनों का उपयोग करके प्राधिकरण को मॉडल से अलग करता है, जिससे प्रतिकूल अभिनेताओं के विरुद्ध अधिकार नियंत्रण, सीमित वित्तीय हानि और ऑडिट अखंडता के लिए प्रमाणिक गारंटी प्रदान की जाती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बैंकिंग की उच्च-दांव वाली दुनिया में, विश्वास पारंपरिक रूप से कठोर नियमों और पूर्वानुमेय अभिनेताओं पर आधारित रहा है। दशकों से, बैंकों ने यह सुनिश्चित करके अपने डिजिटल दरवाजों को सुरक्षित किया है कि हर कार्रवाई किसी ज्ञात मानव या एक विश्वसनीय, पूर्व-प्रोग्राम किए गए कंप्यूटर सेवा से आती है। ये प्रणालियाँ एक सरल धारणा पर काम करती हैं: यदि कोई अनुरोध सही व्यक्ति द्वारा हस्ताक्षरित है और सही चरणों का पालन करता है, तो इसे निष्पादित करना सुरक्षित है। हालाँकि, एक नए प्रकार के कार्यकर्ता ने दृश्य में प्रवेश किया है: आर्टिफिशियल इंटेलिजेंस (AI) एजेंट। एक मानव या मानक कंप्यूटर प्रोग्राम के विपरीत, ये एजेंट लार्ज लैंग्वेज मॉडल्स (LLMs) द्वारा संचालित होते हैं जो ईमेल या रिपोर्ट जैसी जटिल, असंरचित जानकारी के माध्यम से तर्क कर सकते हैं। वे स्वयं निर्णय ले सकते हैं कि आगे कौन से कदम उठाने हैं। यह लचीलापन उन्हें जटिल बैक-ऑफिस कार्यों को संभालने के लिए अविश्वसनीय रूप से उपयोगी बनाता है, लेकिन यह एक गहरा अनिश्चितता भी पेश करता है। क्योंकि ये एजेंट हमेशा एक ही जानकारी मिलने पर भी एक जैसा निर्णय नहीं लेते हैं, इसलिए पुराने सुरक्षा मॉडल जो एक पूर्वानुमेय अभिनेता मानकर चलते हैं, अब प्रभावी नहीं रह गए हैं। यदि एक AI एजेंट को धन स्थानांतरित करने की चाबियाँ दे दी जाती हैं, तो बैंक कैसे सुनिश्चित कर सकता है कि वह गलती से या दुर्भावनापूर्ण रूप से वह धन स्थानांतरित नहीं कर देगा जिसे उसे नहीं करना चाहिए?
इन्फोसिस के एक शोधकर्ता, नीरज अग्रवाल, बैंकिंग के लिए विशेष रूप से डिज़ाइन किए गए एक नए फ्रेमवर्क के साथ इसी समस्या का समाधान करते हैं। मूल विचार AI को पूरी तरह से सुरक्षित बनाने की कोशिश करने के बजाय, इसके चारों ओर एक सुरक्षित पिंजरा बनाना है। इस नई वास्तुकला (architecture) में, AI को एक भरोसेमंद निर्णय लेने वाले के रूप में नहीं, बल्कि एक अविश्वसनीय 'प्रस्तावक' (proposer) के रूप में माना जाता है। इसे कार्य सुझाने की अनुमति है, लेकिन इसे सीधे निष्पादित करने की अनुमति कभी नहीं दी जाती है। इसके बजाय, प्रत्येक सुझाव को एक अलग, नियतात्मक (deterministic) नीति इंजन से गुजरना चाहिए जो एक सख्त द्वारपाल के रूप में कार्य करता है। यह इंजन सुझाव की जांच नियमों के एक सेट और एक विशिष्ट "कैपेबिलिटी टोकन" (capability token) के विरुद्ध करता है जो यह सीमित करता है कि एजेंट वास्तव में क्या कर सकता है, कितना पैसा स्थानांतरित कर सकता है, और कितने समय के लिए। सिस्टम को इस तरह से डिज़ाइन किया गया है कि भले ही AI को किसी दुर्भावनापूर्ण प्रॉम्प्ट द्वारा ठगा जाए या खराब डेटा से भ्रमित कर दिया जाए, वह अपनी निर्धारित सीमाओं से बाहर नहीं निकल सकता। शोधकर्ता गणितीय रूप से सिद्ध करते हैं कि इस डिज़ाइन के तहत, एजेंट कभी भी अपने विशेषाधिकारों को बढ़ाकर वह काम नहीं कर सकता जिसके लिए वह अधिकृत नहीं था, और वे एक सटीक ऊपरी सीमा की गणना करते हैं कि यदि सिस्टम पर बिना मानवीय हस्तक्षेप के हमला होता है, तो कितना पैसा खो सकता है।
यह सुनिश्चित करने के लिए कि सब कुछ सही ढंग से हुआ है, शोधकर्ताओं ने सत्यापन योग्य साक्ष्य (verifiable evidence) की एक प्रणाली भी बनाई है। एजेंट द्वारा उठाया गया प्रत्येक कदम, प्रारंभिक विचार से लेकर अंतिम निष्पादन तक, एक सुरक्षित, अपरिवर्तनीय लॉग में दर्ज किया जाता है जो एक श्रृंखला की तरह हस्ताक्षरित और आपस में जुड़ा होता है। यह एक ऑडिटर, या यहाँ तक कि दूसरे कंप्यूटर को, महीनों बाद रिकॉर्ड देखने और यह सत्यापित करने की अनुमति देता है कि एजेंट अपने नियमों के भीतर रहा, बिना AI की आंतरिक विचार प्रक्रिया को देखे या AI को दोबारा चलाए। सिस्टम एक दूसरे के काम की समीक्षा करने के लिए कई AI एजेंटों का उपयोग करने की विधि भी पेश करता है। शोधकर्ताओं ने पाया कि केवल अधिक समीक्षकों को जोड़ने से सुरक्षा की गारंटी नहीं मिलती है; इसके बजाय, कुंजी विविध समीक्षकों को रखने में है, जिसका अर्थ है कि वे अलग-अलग मॉडल्स पर आधारित हैं या अलग तरह से प्रशिक्षित हैं। यदि सभी समीक्षकों की एक ही कमी (blind spot) है, तो वे एक ही गलती करेंगे। इस जोखिम को मापकर, सिस्टम यह तय कर सकता है कि कब दूसरी राय वास्तव में लागत के लायक है और कब रुककर मानव से मदद मांगना आवश्यक है।
टीम ने इन विचारों का परीक्षण करने के लिए एक वर्किंग प्रोटोटाइप बनाया और इसे हजारों सिम्युलेटेड हमलों के माध्यम से चलाया। इन परीक्षणों में, एक एडवर्सरियल कंप्यूटर ने—जो एक दुर्भावनापूर्ण एजेंट के रूप में कार्य कर रहा था, जिसमें वास्तविक लैंग्वेज मॉडल शामिल नहीं था—सिस्टम को अनधिकृत कार्यों को करने के लिए, जैसे कि टोकन बनाना, पुराने कमांड को दोहराना, या लॉग के साथ छेड़छाड़ करना, धोखा देने की कोशिश की। 700,000 प्रयासों में, सिस्टम ने हर अनधिकृत निष्पादन को सफलतापूर्वक रोका। सिमुलेशन, जो सिंथेटिक डेटा पर निर्भर थे और डिजिटल हस्ताक्षरों के स्थान पर HMAC-SHA256 का उपयोग करते थे, ने पुष्टि की कि वित्तीय हानि की गणितीय सीमाएँ सटीक थीं; जब हमलावरों ने सिस्टम को उसकी पूर्ण सीमा तक धकेलने की कोशिश की, तो नुकसान ठीक उसी अनुमानित अधिकतम राशि के बराबर था, जिससे सिद्ध हुआ कि सुरक्षा जाल मजबूत था। परीक्षणों ने प्रारंभिक डिज़ाइन में दो विशिष्ट कमजोरियों को भी उजागर किया: एक जो टोकन की वैधता की अवधि से संबंधित था और दूसरा लॉग को पिछली स्थिति में वापस करने (roll back) की क्षमता के संबंध में। अंतिम डिज़ाइन ने इन कमियों को दूर किया, यह सुनिश्चित करते हुए कि यदि कोई हमलावर टोकन चुराने में सफल भी हो जाता है, तो इसका उपयोग केवल एक बार और केवल बहुत कम समय के लिए ही किया जा सकता है।
यह दृष्टिकोण महत्वपूर्ण बुनियादी ढांचे में बुद्धिमान प्रणालियों को सुरक्षित करने के बारे में हमारे सोचने के तरीके में एक बदलाव है। AI के हमेशा सही व्यवहार करने की उम्मीद करने के बजाय, सिस्टम यह मान लेता है कि वह सही नहीं हो सकता है और एक प्रवर्तन परत (enforcement layer) बनाता है जो AI के तर्क से अलग होती है। परिणाम एक ऐसा वर्कफ़्लो है जहाँ AI जटिल जानकारी को छाँटने और समाधान प्रस्तावित करने का अपना काम कर सकता है, जबकि बैंक अंतिम कार्रवाई पर पूर्ण नियंत्रण बनाए रखता है। शोधकर्ताओं ने प्रदर्शित किया है कि बैंकिंग वातावरण में शक्तिशाली, स्वचालित एजेंटों का होना संभव है बिना एक अन-ऑडिटेबल जोखिम पैदा किए। AI को एक 'प्रस्तावक' और निष्पादन परत को 'प्रवर्तक' के रूप में मानकर, और प्रत्येक निर्णय का एक छेड़छाड़-मुक्त रिकॉर्ड रखकर, बैंक इन उपकरणों का उपयोग सुरक्षा और जवाबदेही के उस स्तर के साथ कर सकते हैं जो पहले असंभव था। यह कार्य एक औपचारिक मॉडल और एक सिमुलेशन बना हुआ है, लेकिन यह प्रायोगिक उपकरणों से विनियमित वित्तीय संचालन के मुख्य भाग में AI एजेंटों को ले जाने के लिए एक स्पष्ट, सिद्ध मार्ग प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।