KAN-Robust-Bench: A Benchmark for Evaluating the Robustness of Kolmogorov-Arnold Networks
यह शोध पत्र KAN-Robust-Bench प्रस्तुत करता है, जो इष्टतम रक्षा रणनीतियों और आर्किटेक्चर की पहचान करने के लिए मजबूत इवेजन हमलों (evasion attacks) के विरुद्ध कोलमोगोरोव-आर्नोल्ड नेटवर्क (Kolmogorov-Arnold Networks) की प्रमाणित और अनुभवजन्य मजबूती का मूल्यांकन करने वाला एक बेंचमार्क है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) दैनिक जीवन में एक शांत साथी बन गया है, जो हमारे ईमेल को छाँटता है, हमारी कारों का मार्गदर्शन करता है और बीमारियों का निदान करता है। ये प्रणालियाँ डेटा की विशाल मात्रा में पैटर्न खोजकर सीखती हैं, ठीक वैसे ही जैसे एक बच्चा बिल्लियों की कई तस्वीरें देखकर बिल्ली को पहचानना सीखता है। हालाँकि, इस सीखने की प्रक्रिया में एक छिपी हुई कमजोरी है। जिस तरह एक इंसान को एक चतुर भ्रम द्वारा मूर्ख बनाया जा सकता है, उसी तरह इन कंप्यूटर मॉडलों को उनके द्वारा देखी जाने वाली छवियों में सूक्ष्म, लगभग अदृश्य बदलावों द्वारा धोखा दिया जा सकता है। एक शोधकर्ता एक स्टॉप साइन (रुकने के संकेत) की तस्वीर में कुछ डिजिटल कण जोड़ सकता है—ऐसे बदलाव जिन्हें मानवीय आँख कभी नहीं देख पाएगी—और कंप्यूटर अचानक उसे स्पीड लिमिट साइन (गति सीमा संकेत) के रूप में देख सकता है। इस भेद्यता को "इवेजन अटैक" (बचाव हमला) के रूप में जाना जाता है, और यह उन किसी भी प्रणाली के लिए एक गंभीर सुरक्षा जोखिम है जो सुरक्षित निर्णय लेने के लिए आर्टिफिशियल इंटेलिजेंस पर निर्भर करती है।
इन प्रणालियों की रक्षा कैसे की जाए, इसे समझने के लिए वैज्ञानिक लगातार नए प्रकार के 'कंप्यूटर मस्तिष्क' का परीक्षण कर रहे हैं। दशकों से, मानक डिज़ाइन एक विशिष्ट प्रकार का नेटवर्क रहा है जो परतों (layers) में सूचना को संसाधित करता है। हाल ही में, एक अलग डिज़ाइन उभरा है जिसे कोलोमोगोरोव-अर्नोल्ड नेटवर्क (Kolmogorov-Arnold Network) या KAN कहा जाता है, जो एक आशाजनक विकल्प है। जबकि पुराना डिज़ाइन निश्चित कार्यों (fixed functions) की परतों को स्टैक करता है, KAN लचीले, सीखने योग्य वक्रों (curves) का उपयोग करता है जो डेटा में जटिल आकृतियों के अनुकूल अधिक स्वाभाविक रूप से ढल सकते हैं। शोधकर्ताओं के लिए बड़ा सवाल यह था कि क्या यह नया, अधिक लचीला डिज़ाइन भी अधिक नाजुक है। यदि कोई मॉडल सीखने में बेहतर है, तो क्या उसे धोखा देना भी आसान है? न्यू ब्रंसविक विश्वविद्यालय के शोधकर्ताओं की एक टीम ने कई नए KAN डिज़ाइनों को कठोर तनाव परीक्षणों (stress tests) से गुजारकर, उन्हें आर्टिफिशियल इंटेलिजेंस को मूर्ख बनाने के सबसे मजबूत ज्ञात तरीकों के विरुद्ध खड़ा करके, इस प्रश्न का उत्तर देने का प्रयास किया।
शोधकर्ताओं ने तीन विशिष्ट KAN आर्किटेक्चर पर ध्यान केंद्रित किया, जिनमें से प्रत्येक को तस्वीरों में वस्तुओं को पहचानने जैसे दृश्य कार्यों को संभालने के लिए बनाया गया था। उन्होंने इन मॉडलों का परीक्षण छवियों के दो मानक सेटों पर किया: एक जिसमें कारें और जानवर जैसी सामान्य वस्तुएं थीं, और दूसरा जिसमें सड़क के संकेतों पर पाए जाने वाले अंक थे। यह देखने के लिए कि ये मॉडल कितनी अच्छी तरह टिक पाते हैं, टीम ने उन्हें तीन अलग-अलग प्रकार के डिजिटल हमलों के अधीन किया। पहला प्रकार एक त्वरित, एक-चरणीय (one-step) चाल थी जिसने छवि को उस दिशा में धकेला जहाँ मॉडल के गलती करने की संभावना सबसे अधिक थी। दूसरा प्रकार एक अधिक धैर्यवान, बहु-चरणीय (multi-step) हमला था जिसने मॉडल को भ्रमित करने का सही तरीका खोजने के लिए बार-बार चाल को परिष्कृत किया। तीसरा प्रकार एक अत्यधिक परिष्कृत ऑप्टिमाइज़ेशन हमला था जिसने विफलता का कारण बनने के लिए आवश्यक न्यूनतम संभव परिवर्तन की खोज की।
इन चालों से बचाव के लिए, टीम ने तीन अलग-अलग रणनीतियों का प्रयास किया। पहला यह था कि मॉडलों को सामान्य चित्रों और भ्रामक, परिवर्तित संस्करणों दोनों को दिखाकर प्रशिक्षित किया जाए, जिससे कंप्यूटर को शोर (noise) को अनदेखा करना सिखाया जा सके। दूसरी रणनीति में, मॉडल के देखने से पहले छवियों में यादृच्छिक स्टेटिक (random static) या शोर जोड़ना शामिल था, जो प्रभावी रूप से उन तीखे किनारों को धुंधला कर देता है जिन पर हमलावर भरोसा करते हैं। तीसरा तरीका गणितीय रूप से यह सिद्ध करना था कि यदि छवि को एक निश्चित सीमा के भीतर बदला जाता है, तो मॉडल का निर्णय नहीं बदलेगा, जिससे स्थिरता की गारंटी देने वाला एक सुरक्षा जाल तैयार होता है।
परिणामों ने एक स्पष्ट तस्वीर पेश की कि ये नए नेटवर्क दबाव में कैसा व्यवहार करते हैं। जब मॉडलों को बिना किसी विशेष सुरक्षा के छोड़ दिया गया, तो वे आश्चर्यजनक रूप से नाजुक निकले। सबसे उन्नत KAN डिज़ाइन भी सरल हमलों से मूर्ख बनाए जा सकते थे, जिसमें शोर बढ़ने के साथ उनकी सटीकता नाटकीय रूप से गिर गई। हालाँकि, जब शोधकर्ताओं ने मॉडलों को भ्रामक छवियों के साथ प्रशिक्षित करने की रणनीति लागू की, तो परिणाम पूरी तरह बदल गए। यह विधि, जिसे 'एडवर्सरियल ट्रेनिंग' (adversarial training) कहा जाता है, सबसे शक्तिशाली ढाल साबित हुई। इस प्रशिक्षण से गुजरे मॉडलों ने सबसे मजबूत, बहु-चरणीय हमलों का सामना करने के बावजूद उच्च सटीकता बनाए रखी। उदाहरण के लिए, सड़क संकेतों के डेटासेट पर, इस तरह से प्रशिक्षित एक मॉडल ने अधिकतम शक्ति पर हमले के दौरान भी 67 प्रतिशत से ऊपर की सटीकता बनाए रखी, जबकि बिना प्रशिक्षित संस्करण शून्य के करीब गिर गया।
अन्य दो रक्षा रणनीतियों ने अलग-अलग प्रकार की सुरक्षा प्रदान की। वह विधि जिसने छवियों में यादृच्छिक शोर जोड़ा, वह मॉडलों को प्रशिक्षण विधि जितनी प्रभावी ढंग से धोखा देने से नहीं रोक सकी, लेकिन इसने एक अलग प्रकार की सुरक्षा प्रदान की। इसने एक गणितीय गारंटी दी कि यदि छवि को एक विशिष्ट, छोटे स्तर तक बदला जाता है, तो मॉडल का उत्तर नहीं बदलेगा। यह मूल्यवान है क्योंकि यह सुरक्षा की एक ज्ञात सीमा प्रदान करता है, भले ही सबसे मजबूत हमलों के खिलाफ मॉडल का समग्र प्रदर्शन प्रशिक्षण वाले मॉडलों जितना उच्च न हो। तीसरी रणनीति, जिसने स्थिरता की जांच के लिए गणितीय सीमाओं का उपयोग किया, ने मॉडलों के लचीलेपन में सुधार किया, लेकिन यह आम तौर पर सीधे हमलों के साथ मॉडलों को प्रशिक्षित करने से मिलने वाली सुरक्षा से पीछे रह गई।
सबसे दिलचस्प निष्कर्षों में से एक यह था कि मॉडल की आंतरिक संरचना का चुनाव रक्षा रणनीति जितने ही महत्वपूर्ण स्तर पर मायने रखता था। परीक्षण किए गए तीन अलग-अलग KAN डिज़ाइनों में से, एक विशिष्ट आर्किटेक्चर ने लगातार दूसरों से बेहतर प्रदर्शन किया। इस विशेष डिज़ाइन ने, जिसने छवि विशेषताओं को मिलाने के विभिन्न तरीकों को संयोजित किया था, सभी परीक्षणों में सबसे अधिक मजबूती दिखाई। इसने त्वरित चालों, धैर्यवान बहु-चरणीय हमलों और परिष्कृत ऑप्टिमाइज़ेशन हमलों के खिलाफ बेहतर ढंग से मुकाबला किया। यह सुझाव देता है कि केवल एक नए प्रकार के नेटवर्क पर स्विच करना पर्याप्त नहीं है; नेटवर्क को किस तरह से बनाया जाता है, यह निर्धारित करता है कि वह हमले का सामना कितनी अच्छी तरह कर सकता है।
अध्ययन ने यह भी खुलासा किया कि कार्य की कठिनाई ने परिणाम बदल दिए। मॉडलों ने सामान्य वस्तुओं के डेटासेट की तुलना में सड़क के संकेतों के डेटासेट पर काफी बेहतर प्रदर्शन किया। सड़क संकेतों पर, बिना प्रशिक्षित मॉडल भी हमलों का प्रतिरोध करने में आश्चर्यजनक रूप से अच्छे थे, और संरक्षित मॉडल 90 प्रतिशत से ऊपर सटीकता स्तर तक पहुँच गए। यह इंग दर्शाता है कि दृश्य डेटा के कुछ प्रकार इन प्रणालियों के लिए अन्य की तुलना में स्वाभाविक रूप से सुरक्षित रूप से संभालना आसान होता है।
अंततः, यह शोध दिखाता है कि जबकि ये नए कोलोमोगोरोव-अर्नोल्ड नेटवर्क शक्तिशाली उपकरण हैं, वे धोखे से अछूत नहीं हैं। उन्हें सुरक्षित करने का सबसे विश्वसनीय तरीका यह है कि उनके सीखने के चरण के दौरान उन्हें एक हमले जैसा क्या दिखता है, यह सिखाया जाए। जबकि अन्य विधियाँ सुरक्षा की गणितीय गारंटी प्रदान कर सकती हैं, वे हमेशा सबसे मजबूत चालों के खिलाफ वास्तविक दुनिया के प्रदर्शन के समान स्तर में अनुवादित नहीं होती हैं। यह कार्य डेवलपर्स के लिए एक स्पष्ट रोडमैप प्रदान करता है: यदि वे इन नए, लचीले नेटवर्क को सुरक्षित देखना चाहते हैं, तो उन्हें अपने बचाव को सीधे प्रशिक्षण प्रक्रिया में बनाना होगा, यह सुनिश्चित करते हुए कि मॉडल केवल शोर को अनदेखा करने के बजाय उसके पार देखना सीखें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।