Stabilizing Multi-Attack Adversarial Training via Bandit Optimization
यह शोध पत्र कैलिब्रेटेड एडवरसैरियल सैंपलिंग (CAS) का प्रस्ताव करता है, जो एक मल्टी-आर्म्ड बैंडिट-आधारित ढांचा है जो अन्वेषण (exploration) और दोहन (exploitation) के बीच संतुलन बनाने के लिए प्रति पुनरावृत्ति (iteration) में गतिशील रूप से एक एकल हमले का चयन करके मल्टी-अटैक एडवरसैरियल ट्रेनिंग को कुशलतापूर्वक स्थिर करता है, जिससे कम्प्यूटेशनल लागत कम होती है और अत्यधिक पैरामीटर ड्रिफ्ट को रोकते हुए समग्र मजबूती में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को बिल्ली और कुत्ते को पहचानना सिखा रहे हैं। आप चाहते हैं कि वह सुपर स्मार्ट हो, लेकिन एक पेच है: चालाक धोखेबाज उसे बेवकूफ बनाने की कोशिश कर रहे हैं। ये धोखेबाज बिल्ली की तस्वीर में बहुत ही सूक्ष्म, अदृश्य खरोंचें जोड़ सकते हैं (ताकि रोबोट उसे कुत्ता समझ ले), या वे रोशनी बदल सकते हैं, तस्वीर को धुंधला कर सकते हैं, या यहाँ तक कि तस्वीर को एक अजीब बहुरूपदर्शक (kaleidoscope) पैटर्न में बदल सकते हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन तरकीबों को "एडवर्सरियल अटैक्स" (adversarial attacks) कहा जाता है। इन तरकीबों को रोकने के लिए, वैज्ञानिक "एडवर्सरियल ट्रेनिंग" नामक एक प्रशिक्षण विधि का उपयोग करते हैं, जहाँ वे रोबोट को जानबूझकर ये टेढ़ी-मेढ़ी तस्वीरें दिखाते हैं ताकि वह इन चालों को अनदेखा करना सीख सके।
समस्या यह है कि इन तरकीबों के बहुत सारे प्रकार हैं—कुछ पिक्सेल की सूक्ष्म खरोंचें हैं, तो कुछ मौसम के बड़े प्रभाव जैसे कोहरा या बारिश। यदि आप रोबोट को एक साथ सभी चीज़ों को संभालने के लिए सिखाने की कोशिश करते हैं, तो वह भ्रमित हो जाता है। यदि आप उसे एक-एक करके सिखाने की कोशिश करते हैं, तो वह उन चीज़ों को भूल सकता है जो उसने पहले सीखी थीं। यह एक साथ आग, पानी और रेत के साथ करतब दिखाने (juggling) जैसा है; आग पर बहुत अधिक ध्यान केंद्रित करने से आप पानी को गिरा सकते हैं। यह शोध पत्र उस उलझन भरे मध्य मार्ग को संबोधित करता है जहाँ हमें अपनी AI को हर तरह की चाल के खिलाफ मजबूत होना है, बिना कंप्यूटर को थकाए या रोबोट को सब कुछ भुलाए।
इस अध्ययन के पीछे के शोधकर्ता, रुई वांग, ज़ेमिंग वेई, ज़ियाओक्स्यू झांग और मेंग सुन ने महसूस किया कि पुराने तरीके या तो बहुत धीमे थे या बहुत अस्थिर। कुछ तरीकों ने हर एक हमले के प्रकार से एक ही समय में लड़ने की कोशिश की, जो एक शेफ से एक ही चूल्हे पर बीस अलग-अलग जटिल व्यंजन एक साथ पकाने के लिए कहने जैसा था—इसमें बहुत समय लगता और खाना जल जाता। अन्य तरीकों ने किसी एक हमले को चुनने के लिए रैंडम चुनाव किया, जो तेज़ तो था लेकिन इसके कारण रोबोट एक ही तरह की चाल का "नशेड़ी" हो जाता था और दूसरों को भूल जाता था, जिससे वह एक बुरी आदत से दूसरी आदत की ओर झूलता रहता था।
इसे ठीक करने के लिए, टीम ने एक चतुर नई रणनीति विकसित की जिसे कैलिब्रेटेड एडवर्सरियल सैंपलिंग (CAS) कहा जाता है। उन्होंने प्रशिक्षण प्रक्रिया को स्लॉट मशीनों (या जिसे गणित के लोग "मल्टी-आर्म्ड बैंडिट्स" कहते हैं) के खेल की तरह मानने का निर्णय लिया। कल्पना कीजिए कि आपके पास स्लॉट मशीनों की एक पंक्ति है, और प्रत्येक मशीन एक अलग प्रकार के हमले (एक कोहरे के लिए, एक पिक्सेल खरोंच के लिए, एक धुंधलेपन के लिए, आदि) का प्रतिनिधित्व करती है। आप नहीं जानते कि कौन सी मशीन अभी आपको सबसे अच्छा "इनाम" (जो रोबोट को स्मार्ट बनाता है) देगी।
हर लीवर को एक साथ खींचने के बजाय (जो बहुत धीमा है) या बस एक को रैंडमली खींचने के बजाय (जो बहुत अराजक है), CAS एक स्मार्ट जुआरी की तरह काम करता है। यह प्रत्येक मशीन के लिए एक स्कोरकार्ड रखता है। यदि कोई मशीन (हमले का प्रकार) हाल ही में रोबोट को सुधारने में मदद कर रही है, तो जुआरी उस लीवर को अधिक बार खींचता है। लेकिन जादू यह है: जुआरी उन मशीनों पर भी नज़र रखता है जिन्हें उसने काफी समय से नहीं देखा है। यदि रोबोट को कोहरे को संभालने में बहुत अच्छा होने लगता है लेकिन वह बर्फ को संभालना भूल जाता है, तो सिस्टम नोटिस करता है और कहता है, "हे, चीजों को संतुलित रखने के लिए चलो बर्फ वाले लीवर को कुछ और बार खींचते हैं।"
शोध पत्र दिखाता है कि यह "स्मार्ट जुआरी" वाला दृष्टिकोण अविश्वसनीय रूप से अच्छी तरह काम करता है। विभिन्न हमलों पर अभ्यास करने में समय को सावधानीपूर्वक संतुलित करके, रोबोट कई तरह के हमलों के खिलाफ मजबूत होना सीख जाता है, बिना एक साथ सब कुछ कंप्यूट किए। अपने प्रयोगों में, उन्होंने CIFAR-10 और CIFAR-100 जैसे मानक डेटासेट्स पर परीक्षण किया, जिसमें 21 अलग-अलग हमले शामिल थे, जिनमें मानक पिक्सेल हमले और अजीब सेमेटिक हमले जैसे कि "Wood," "Elastic," और "Prison" (हाँ, ये वास्तव में इमेज डिस्टॉर्शन के नाम हैं) शामिल थे।
परिणाम उत्साहजनक थे। नया तरीका, CAS, धीमी और भारी विधियों की तरह ही हमलों के खिलाफ रोबोट को मजबूत बनाने में सक्षम रहा, लेकिन इसने यह काम बहुत तेज़ी से किया। इसने रोबोट की "क्लीन एक्यूरेसी" (कि वह सामान्य तस्वीरों को कितनी अच्छी तरह पहचानता है) को भी ऊँचा रखा, जो एक आम समस्या है जब आप AI को बहुत सख्त बनाने की कोशिश करते हैं। शोधकर्ताओं ने पाया कि अगली बार किस हमले का अभ्यास करना है, यह तय करने के लिए एक विशिष्ट गणितीय सूत्र का उपयोग करके, वे रोबोट को एक अच्छे शिक्षार्थी से बहुत दूर जाने से रोक सकते हैं। उन्होंने गणितीय रूप से यह भी सिद्ध किया कि यह विधि स्थिर है और रोबोट को पागल नहीं करेगी, बशर्ते आप इसे बहुत अधिक न धकेलें।
संक्षेप में, यह शोध पत्र सुझाव देता है कि हमें एक सुपर-सिक्योर AI के लिए 'ब्रूट-फोर्स' (शक्ति के बल पर प्रयास) करने की आवश्यकता नहीं है। इसके बजाय, अन्वेषण (नई चीज़ें आज़माना) और दोहन (जो काम करता है उस पर टिके रहना) के बीच संतुलन बनाने वाली एक स्मार्ट, अनुकूलन योग्य रणनीति का उपयोग करके, हम ऐसे मॉडल प्रशिक्षित कर सकते हैं जो लगभग किसी भी चीज़ के खिलाफ मजबूत हों, बिना किसी सुपरकंप्यूटर की आवश्यकता के। यह एक मार्शल आर्टिस्ट को प्रशिक्षित करने जैसा है: आप केवल हर दिन एक ही भारी बैग पर पंच नहीं मारते; आप इसमें स्पैरिंग, फुटवर्क और डिफेंस ड्रिल को इस तरह मिलाते हैं कि आपका शरीर संतुलित और किसी भी सरप्राइज के लिए तैयार रहे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।