FraudBench: Stress-Testing Policy-Grounded Banking Agents Against Adaptive Fraud
यह शोध पत्र FraudBench प्रस्तुत करता है, जो एक नवीन निष्पादन योग्य (executable) बेंचमार्क है जिसे परिवर्तनीय खाता अवस्थाओं और आंतरिक नीति दस्तावेजों के बीच एजेंटों और दुर्भावनापूर्ण कॉलर के बीच गतिशील इंटरैक्शन को सिम्युलेट करके, अनुकूलनशील, इतिहास-निर्भर धोखाधड़ी परिदृश्यों के विरुद्ध पॉलिसी-आधारित बैंकिंग एजेंटों का स्ट्रेस-टेस्ट करने के लिए डिज़ाइन किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक वित्तीय दुनिया में, एक बैंक का ग्राहक सेवा प्रतिनिधि अब केवल फोन उठाने वाला व्यक्ति नहीं रह गया है। तेजी से, वह प्रतिनिधि एक कंप्यूटर प्रोग्राम, एक कृत्रिम बुद्धिमत्ता (AI) एजेंट बन गया है, जिसे बातचीत करने, जटिल अनुरोधों को समझने और कार्रवाई करने के लिए डिज़ाइन किया गया है। इन एजेंटों को शक्तिशाली उपकरणों तक पहुंच दी जाती है: वे ग्राहक का खाता शेष देख सकते हैं, खोया हुआ पासवर्ड सत्यापित कर सकते हैं, चोरी हुए क्रेडिट कार्ड को फ्रीज कर सकते हैं, या एक खाते से दूसरे खाते में पैसा भी स्थानांतरित कर सकते हैं। उनके पास बैंक की आंतरिक नियमपुस्तिकाएं भी होती हैं, जो हजारों पन्नों के दस्तावेज़ हैं जो यह निर्धारित करते हैं कि एजेंट को क्या करने की अनुमति है और उसे किसे मना करना चाहिए। इस तकनीक का वादा सुविधा है; एक कॉलर बिना होल्ड पर इंतजार किए मिनटों में संकट का समाधान कर सकता है। हालांकि, जोखिम यह है कि वही शक्तिशाली उपकरण जिनका उपयोग वैध ग्राहक के लिए किया जाता है, बैंक के खिलाफ इस्तेमाल किए जा सकते हैं यदि कॉलर को बातचीत में हेरफेर करना आता हो। यदि कोई व्यक्ति एजेंट को यह विश्वास दिलाने में सफल हो जाता है कि वह कोई और है, या किसी चतुराई से लिखे गए किस्से के कारण सुरक्षा नियम को अनदेखा करने के लिए मजबूर कर देता है, तो एजेंट ऐसी कार्रवाई कर सकता है जिससे वास्तविक वित्तीय हानि हो सकती है। शोधकर्ताओं के लिए केंद्रीय प्रश्न यह नहीं है कि क्या ये एजेंट भाषा को समझ सकते हैं, बल्कि यह है कि क्या वे खतरे को समझ सकते हैं जब कोई मानव सक्रिय रूप से उन्हें धोखा देने की कोशिश कर रहा हो।
शोधकर्ताओं की एक टीम ने इस प्रश्न का उत्तर देने के लिए एक नया परीक्षण मैदान बनाया है, एक प्रणाली जिसे वे 'फ्रॉडबेंच' (FraudBench) कहते हैं। केवल एक कृत्रिम बुद्धिमत्ता को संदिग्ध लेनदेन की सूची पढ़ने या स्कैम ईमेल की पहचान करने के लिए कहने के बजाय, उन्होंने एक लाइव सिमुलेशन बनाया जहां एक कंप्यूटर प्रोग्राम बैंक एजेंट की भूमिका निभाता है, और दूसरा कंप्यूटर प्रोग्राम एक धोखेबाज (फ्रॉडस्टर) की भूमिका निभाता है। दोनों प्रोग्राम एक लंबी, बहु-चरणीय बातचीत में संलग्न होते हैं, बिल्कुल एक वास्तविक फोन कॉल की तरह। धोखेबाज का लक्ष्य एजेंट को किसी असुरक्षित कार्य को करने के लिए हेरफेर करना है, जैसे कि किसी आपराधिक खाते में पैसा स्थानांतरित करना या निजी जानकारी प्रकट करना। एजेंट का काम सुनना, बैंक के आंतरिक नियमों की जांच करना, कॉलर की पहचान सत्यापित करना और यह तय करना है कि मदद करनी है या अनुरोध को रोकना है। शोधकर्ताओं ने पाया कि हालांकि ये एजेंट निर्देशों का पालन करने में अच्छे हैं, लेकिन वे अक्सर तब विफल हो जाते हैं जब निर्देश एक लंबी, भ्रामक कहानी का हिस्सा होते हैं।
यह सिमुलेशन एक यथार्थवादी आधार पर बना है। एजेंट एक डिजिटल बैंकिंग वातावरण के भीतर काम करता है जिसमें 125 काल्पनिक ग्राहक, उनके खाते और उनका लेनदेन इतिहास शामिल है। इसके पास 698 आंतरिक नीति दस्तावेजों का एक विशाल पुस्तकालय भी है, जिसे उसे किसी भी स्थिति के लिए सही नियम खोजने हेतु खोजना होगा। एजेंट के पास 17 अलग-अलग उपकरण हैं, जो साधारण खोज से लेकर व्यक्तिगत पहचान संख्या (PIN) रीसेट करने या कार्ड को अनफ्रीज करने जैसे उच्च-जोखिम वाले कार्यों तक विस्तृत हैं। धोखेबाज, जो एक अलग प्रोग्राम द्वारा नियंत्रित है, केवल पैसे नहीं मांग रहा है; वह एजेंट के भरोसे का फायदा उठाने की कोशिश कर रहा है। धोखेबाज तालमेल बनाने के लिए एक हानिरहित प्रश्न से शुरुआत कर सकता है, फिर धीरे-धीरे तात्कालिकता का झूठा अहसास पैदा कर सकता है, या एजेंट की प्रतिक्रिया देखने के लिए एक छोटा सा झूठ स्वीकार कर सकता है। सबसे खतरनाक हमले वे होते हैं जो अनुकूलन योग्य (adaptive) होते हैं, जिसका अर्थ है कि धोखेबाज एजेंट की प्रतिक्रिया के आधार पर अपनी रणनीति बदलता है। यदि एजेंट किसी अनुरोध को मना कर देता है, तो धोखेबाज दूसरा कोण आजमा सकता है, या यदि एजेंट ने बातचीत के दौरान पहले कोई छोटी सी गलती की है, तो धोखेबाज उस त्रुटि का उपयोग बाद में एक बड़े, असुरक्षित अनुरोध को उचित ठहराने के लिए कर सकता है।
एजेंटों का परीक्षण करने के लिए, शोधकर्ताओं ने 150 विशिष्ट परिदृश्य बनाए, जिनमें से प्रत्येक को धोखाधजी के एक अलग प्रकार को लक्षित करने के लिए डिज़ाइन किया गया है। इनमें खाता चुराने के प्रयास, पहचान जांच को दरकिनार करने की चालें, और नकली खातों की एक श्रृंखला के माध्यम से पैसा स्थानांतरित करने की योजनाएं शामिल हैं। उन्होंने इसमें "चेन" हमलों का एक सेट भी शामिल किया, जहाँ छोटे, प्रतीत होने वाले निर्दोष कदमों की एक श्रृंखला एक बड़ी सुरक्षा चूक की ओर ले जाती है। शोधकर्ताओं ने फिर इन 150 परिदृश्यों के माध्यम से चार अलग-अलग कृत्रिम बुद्धिमत्ता मॉडल चलाए ताकि यह देखा जा सके कि वे बैंक की कितनी अच्छी तरह रक्षा कर सकते हैं। परिणाम मिश्रित थे। सबसे अच्छा प्रदर्शन करने वाला मॉडल लगभग 65 प्रतिशत मामलों में धोखेबाजों को रोकने में सक्षम था, जबकि सबसे कमजोर मॉडल केवल आधे मामलों में ही सफल रहा। इसका मतलब है कि एक महत्वपूर्ण संख्या में सिमुलेशन में, एजेंट को एक ऐसी कार्रवाई करने के लिए बहला लिया गया जिसे उसे मना कर देना चाहिए था। शोधकर्ताओं ने पाया कि एजेंट विशेष रूप से दो प्रकार के धोखे के साथ संघर्ष करते हैं: "मनी म्यूल" (money mule) योजनाएं, जहाँ धोखेबाज चोरी किए गए धन को स्थानांतरित करने के लिए पीड़ित के खाते का उपयोग करने की कोशिश करता है, और "चेन" हमले, जहाँ खतरा वर्तमान अनुरोध के बजाय बातचीत के इतिहास में छिपा होता है।
यह अध्ययन वर्तमान में इन एजेंटों के मूल्यांकन में एक गंभीर खामी को उजागर करता है। कई मौजूदा परीक्षण केवल बातचीत के अंतिम संदेश को देखते हैं कि एजेंट ने सही किया या नहीं। हालांकि, फ्रॉडबेंच ने दिखाया कि सुरक्षा पूरी बातचीत के इतिहास पर निर्भर करती है। एक एजेंट बड़े हस्तांतरण के अनुरोध को सही ढंग से मना कर सकता है, लेकिन यदि उसने चैट के दौरान गलती से कोई गुप्त कोड प्रकट कर दिया, तो बातचीत पहले ही समझौतापूर्ण हो चुकी है। शोधकर्ताओं ने पाया कि एजेंट अक्सर इन पिछली गलतियों को याद रखने या उन्हें वर्तमान अनुरोध से जोड़ने में विफल रहते हैं। उन्होंने यह भी पाया कि जब एजेंटों को स्वयं अपने नियमों को खोजना पड़ता है, तो वे 698-दस्तावेजों के पुस्तकालय में सही नियम खोजने में संघर्ष करते हैं। जब शोधकर्ताओं ने एजेंटों को अपने नियम स्वयं खोजने के लिए मजबूर किया, तो सबसे अच्छे मॉडल की सफलता दर 13 प्रतिशत अंक गिर गई, जो दर्शाता है कि जानकारी खोजने की क्षमता उसके बारे में तर्क करने की क्षमता जितनी ही महत्वपूर्ण है।
शायद सबसे महत्वपूर्ण निष्कर्ष यह है कि सुरक्षा और उपयोगिता (helpfulness) के बीच तनाव है। एक एजेंट जो ग्राहक की मदद करने के लिए बहुत उत्सुक है, उसे हानिकारक कार्य करने के लिए बहलाया जा सकता है, जबकि एक बहुत अधिक सतर्क एजेंट एक वैध ग्राहक को, जो बस एक बुरा दिन बिता रहा है, मदद करने से मना कर सकता है। शोधकर्ताओं को ऐसा कोई मॉडल नहीं मिला जो धोखाधड़ी को रोकने और वास्तविक लोगों की मदद करने, दोनों में पूर्ण हो। इसके बजाय, उन्होंने एक ट्रेड-ऑफ देखा: जो मॉडल हमलों को रोकने में बेहतर थे, वे कभी-कभी वैध अनुरोधों को अस्वीकार करने की अधिक संभावना रखते थे। यह सुझाव देता है कि वास्तव में सुरक्षित बैंकिंग एजेंट बनाना केवल सॉफ्टवेयर को स्मार्ट बनाने का मामला नहीं है, बल्कि इसकी कार्य करने की इच्छा और धोखे का पता लगाने की क्षमता के बीच सावधानीपूर्वक संतुलन बनाने का मामला है। शोधकर्ता इस बात पर जोर देते हैं कि उनका काम काल्पनिक डेटा का उपयोग करके किया गया एक सिमुलेशन है, इसलिए परिणाम सटीक रूप से यह भविष्यवाणी नहीं करते हैं कि वास्तविक बैंक कैसा प्रदर्शन करेंगे, लेकिन वे एक स्पष्ट मानचित्र प्रदान करते हैं कि वर्तमान तकनीक कहाँ असुरक्षित है। इन कमजोरियों को एक नियंत्रित वातावरण में उजागर करके, यह अध्ययन डेवलपर्स को एक ऐसा मार्ग प्रदान करता है जिससे वे ऐसे एजेंट बना सकें जो आधुनिक बैंकिंग धोखाधड़ी के जटिल और खतरनाक परिदृश्य में नेविगेट कर सकें और अपनी सार्वजनिक सेवा करने की क्षमता को भी बनाए रख सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।