Adversarial Training for Tabular Credit Scoring: A Multi-Attack Robustness Evaluation in P2P Lending
यह शोध पत्र विभिन्न आवेदक-हेरफेर वाले प्रतिकूल हमलों (adversarial attacks) के विरुद्ध P2P ऋण देने में मशीन लर्निंग क्रेडिट स्कोरिंग मॉडल की मजबूती का मूल्यांकन करता है, जो यह प्रदर्शित करता है कि जबकि एकल-हमला प्रतिकूल प्रशिक्षण सीमित सामान्यीकरण प्रदान करता है, मिश्रित-हमला प्रशिक्षण स्वच्छ-डेटा प्रदर्शन से समझौता किए बिना विषम खतरों के बीच सबसे संतुलित रक्षा प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक वित्तीय दुनिया में, पैसा उधार देने का निर्णय एक बैंकर की मेज से हटकर एक एल्गोरिदम के पास चला गया है। जब आप पीयर-टू-पीयर प्लेटफॉर्म के माध्यम से ऋण के लिए आवेदन करते हैं, तो एक कंप्यूटर सिस्टम तुरंत आपकी आय, आपके ऋण और आपके इतिहास का विश्लेषण करता है ताकि यह तय किया जा सके कि क्या आप भरोसेमंद हैं। ये प्रणालियाँ मशीन लर्निंग पर निर्भर करती हैं, जो आर्टिफिशियल इंटेलिजेंस की एक शाखा है जो भविष्यवाणियां करने के लिए डेटा की विशाल मात्रा में पैटर्न खोजती है। दशकों से, इन मॉडलों का मूल्यांकन इस आधार पर किया जाता रहा है कि वे सामान्य परिस्थितियों में कैसा प्रदर्शन करते हैं, यह मानते हुए कि उधारकर्ता द्वारा प्रदान की गई जानकारी ईमानदार और सटीक है। हालाँकि, शोधकर्ताओं के बीच एक बढ़ती हुई चिंता यह है कि क्या होता है जब वह धारणा टूट जाती है। जिस तरह एक सुरक्षा गार्ड को एक चतुर वेशभूषा द्वारा मूर्ख बनाया जा सकता है, उसी तरह एक क्रेडिट-स्कोरिंग एल्गोरिदम को तब धोखा दिया जा सकता है जब कोई आवेदक रणनीतिक रूप से रिपोर्ट किए गए नंबरों में बदलाव करता है। अध्ययन का यह क्षेत्र, जिसे एडवरसैरियल मशीन लर्निंग (adversarial machine learning) कहा जाता है, यह जांच करता है कि जब डिजिटल निर्णय लेने वाले जानबूझकर किए गए धोखे के प्रयासों का सामना करते हैं, तो वे कैसी प्रतिक्रिया देते हैं।
नीदरलैंड के यूनिवर्सिटी ऑफ ट्वेंटे के शोधकर्ताओं की एक टीम ने इन क्रेडिट-स्कोरिंग प्रणालियों की ऐसे धोखे के खिलाफ लचीलेपन का परीक्षण करने का लक्ष्य रखा। उन्होंने पीयर-टू-पीयर लेंडिंग मार्केट पर ध्यान केंद्रित किया, जहाँ व्यक्ति बिना किसी पारंपरिक बैंक को मध्यस्थ बनाए एक-दूसरे को पैसा उधार देते हैं। लगभग 4,00,000 ऋण रिकॉर्ड वाले एक विशाल डेटासेट का उपयोग करते हुए, टीम ने एक ऐसी स्थिति का अनुकरण किया जहाँ आवेदक अपनी प्रोफाइल में हेरफेर करने की कोशिश करते थे ताकि वे उन ऋणों के लिए स्वीकृत हो सकें जिनके लिए वे शायद पात्र नहीं होते। उन्होंने केवल एक प्रकार की चाल का परीक्षण नहीं किया; उन्होंने हेरफेर की चार अलग-अलग विधियों का उपयोग किया। इनमें से दो विधियाँ डेटा को सटीक गणितीय दिशा में बदलने के लिए गणना करने पर आधारित थीं, जबकि एक अन्य विधि अराजकता पैदा करने के लिए डेटा मानों को बेतरतीब ढंग से बदलने से संबंधित थी, और चौथी विधि ने अस्वीकृति को स्वीकृति में बदलने के लिए आवश्यक सबसे छोटे संभव परिवर्तन की तलाश की। शोधकर्ताओं ने इन हमलों को संभालने के लिए तीन अलग-अलग प्रकार के कंप्यूटर मॉडल—एक सरल लीनियर मॉडल, एक जटिल न्यूरल नेटवर्क, और एक आधुनिक ट्रांसफार्मर मॉडल—को प्रशिक्षित किया।
उनके प्रयोग के मुख्य भाग में प्रशिक्षण और परीक्षण की एक कठोर प्रक्रिया शामिल थी। उन्होंने मॉडलों को इन विशिष्ट तरकीबों को पहचानने के लिए सिखाया, जिसके लिए सीखने के चरण के दौरान उन्हें हेरफेर किए गए डेटा के उदाहरण दिए गए, जिसे एडवरसैरियल ट्रेनिंग (adversarial training) नामक तकनीक कहा जाता है। इसके बाद, उन्होंने परीक्षण किया कि प्रशिक्षित मॉडल उन्हीं तरकीबों के साथ, और उन अन्य तरकीबों के साथ कैसा प्रदर्शन करते हैं जिन्हें उन्होंने पहले कभी नहीं देखा था। परिणामों ने एक स्पष्ट पैटर्न का खुलासा किया: जब एक मॉडल को किसी विशेष प्रकार के हेरफेर को पहचानने के लिए प्रशिक्षित किया गया था, तो वह उस सटीक चाल को पकड़ने में बेहद कुशल हो गया। उदाहरण के लिए, एक मॉडल जिसे एक विशिष्ट प्रकार के गणनात्मक बदलाव का विरोध करने के लिए प्रशिक्षित किया गया था, वह उसी बदलाव के प्रति अत्यधिक प्रतिरोधी बन गया, जिससे डेटा बदलने के बावजूद उसकी सटीकता बनी रही। हालाँकि, यह सुरक्षा अन्य प्रकार के धोखों तक स्वतः विस्तारित नहीं हुई। एक मॉडल जो गणनात्मक बदलाव का विरोध करने के लिए प्रशिक्षित किया गया था, वह रैंडम, अराजक डेटा भ्रष्टाचार के प्रति आश्चर्यजनक रूप से संवेदनशील बना रहा, और इसके विपरीत भी।
शायद सबसे महत्वपूर्ण निष्कर्ष यह था कि एक ही प्रकार के बचाव पर भरोसा करना सुरक्षा की झूठी भावना पैदा करता है। शोधकर्ताओं ने पाया कि केवल एक प्रकार के हमले के खिलाफ मॉडल को प्रशिक्षित करने से वह अन्य हमलों के प्रति असुरक्षित रह जाता है, ठीक वैसे ही जैसे एक ताला जो 'स्केलेटन की' (skeleton key) के खिलाफ मजबूत है लेकिन 'बम्प की' (bump key) के खिलाफ कमजोर है। इसे हल करने के लिए, उन्होंने मिश्रित प्रशिक्षण (mixed training) की रणनीति का परीक्षण किया, जहाँ मॉडलों को एक साथ सभी चार हेरफेर प्रकारों के संयोजन के संपर्क में लाया गया। इस दृष्टिकोण ने सबसे संतुलित परिणाम दिया। इन मॉडलों ने सामान्य, ईमानदार आवेदनों पर अपनी उच्च सटीकता बनाए रखी और साथ ही विभिन्न प्रकार के हमलों, चाहे वे गणनात्मक हों या अराजक, के खिलाफ मजबूत प्रतिरोध भी दिखाया। अध्ययन का सुझाव है कि वित्तीय संस्थानों के लिए, अधिक सुरक्षित प्रणाली का मार्ग किसी एक ज्ञात खतरे के खिलाफ बचाव को पूर्ण करने में नहीं है, बल्कि मॉडलों को धोखे की एक विविध श्रेणी के खिलाफ स्ट्रेस-टेस्ट करने में है। ऐसा करके, ऋणदाता ऐसे सिस्टम बना सकते हैं जो विश्वसनीय बने रहें, भले ही आवेदक सिस्टम के साथ हेरफेर करने की कोशिश करें, यह सुनिश्चित करते हुए कि अर्थव्यवस्था की सेवा करने वाली तकनीक उतनी ही सुदृढ़ हो जितने कि वे लोग जिनकी वह सेवा कर रही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।