🤖 AI

SHIELD: Secure Hypernetworks for Incremental Expansion Learning Defense

यह शोध पत्र SHIELD को प्रस्तुत करता है, जो एक नया ढांचा है जो तीव्र प्रतिकूल हमलों (strong adversarial attacks) के तहत प्रमाणित रूप से सुदृढ़ (certifiably robust), स्केलेबल और रिप्ले-मुक्त निरंतर शिक्षण (replay-free continual learning) प्राप्त करने के लिए इंटरवल बाउंड प्रोपेगेशन (Interval Bound Propagation) और एक नई इंटरवल मिक्सअप (Interval MixUp) रणनीति के साथ हाइपरनेटवर्क-आधारित आर्किटेक्चर को जोड़ता है।

मूल लेखक: Patryk Krukowski, Łukasz Gorczyca, Piotr Helm, Kamil KsiąĊek, Przemysław Spurek

प्रकाशित 2026-06-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Patryk Krukowski, Łukasz Gorczyca, Piotr Helm, Kamil KsiąĊek, Przemysław Spurek

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को जीवन भर सीखने (lifelong learner) के लिए प्रशिक्षित कर रहे हैं। आप चाहते हैं कि रोबोट एक के बाद एक नए कौशल सीखे—जैसे पहले शहर में गाड़ी चलाना सीखना, फिर बर्फ में गाड़ी चलाना सीखना, और फिर एक निर्माण स्थल (construction site) पर रास्ता खोजना सीखना।

समस्या दोहरी है:

"भूलने" की समस्या (The "Forgetting" Problem): जब रोबोट बर्फ में गाड़ी चलाना सीखता है, तो वह अक्सर शहर में गाड़ी चलाना भूल जाता है।
"धोखेबाज" की समस्या (The "Trickster" Problem): एक चतुर हैकर स्टॉप साइन पर एक छोटा सा, लगभग अदृश्य स्टिकर लगा सकता है जो रोबोट को यह सोचने पर मजबूर कर देता है कि वह स्पीड लिमिट साइन है। इसे "एडवर्सरियल अटैक" (adversarial attack) कहा जाता है।

मौजूदा अधिकांश तरीके एक समस्या को हल करने की कोशिश करते हैं लेकिन दूसरी में विफल हो जाते हैं। या तो वे नए कौशल सीखने के लिए पुराने कौशल भूल जाते हैं, या वे हैकर्स के खिलाफ इतने कठोर हो जाते हैं कि वे कुछ भी नया नहीं सीख पाते।

SHIELD एक नया सिस्टम है जिसे इस पेपर में प्रस्तावित किया गया है जो इन दोनों समस्याओं को एक साथ हल करता है। यह कैसे काम करता है, इसके लिए सरल उपमाओं (analogies) का उपयोग करें:

1. मास्टर शेफ और रेसिपी बुक (द हाइपरनेटवर्क)

हर नए कार्य के लिए एक नया मस्तिष्क बनाने के बजाय (जिसमें बहुत अधिक मेमोरी लगती है और भूलने की समस्या होती है), SHIELD एक मास्टर शेफ (जिसे हाइपरनेटवर्क कहा जाता है) का उपयोग करता है।

यह कैसे काम करता है: आप मास्टर शेफ को एक छोटा, संक्षिप्त नोट (एक "टास्क एम्बेडिंग") देते हैं जो कहता है, "अब बर्फ में गाड़ी चलाने का समय है।"
जादू: उस नोट के आधार पर, शेफ तुरंत एक कस्टम रेसिपी (विशिष्ट वेट्स/weights जनरेट करना) लिखता है जो एक "बर्फ में गाड़ी चलाने वाले मस्तिष्क" के लिए होती है। जब आप "शहर में गाड़ी चलाने" पर स्विच करते हैं, तो शेफ एक नई रेसिपी लिखता है।
लाभ: शेफ को पुराने मस्तिष्क की विशाल लाइब्रेरी रखने की आवश्यकता नहीं है (कोई "रीप्ले बफर" नहीं)। यह केवल रेसिपी बुक रखता है। इसका मतलब है कि रोबोट कभी भी पुरानी रेसिपी नहीं भूलता क्योंकि उन्हें फिर से तुरंत लिखने के लिए हमेशा तैयार रखा जाता है।

2. "सुरक्षा बुलबुला" (इंटरवल बाउंड प्रोपेगेशन)

रोबोट को "धोखेबाज" (एडवर्सरियल हमलों) से बचाने के लिए, SHIELD केवल इमेज को नहीं देखता; यह इमेज के चारों ओर एक सुरक्षा बुलबुले (Safety Bubble) को देखता है।

अवधारणा: कल्पना कीजिए कि रोबोट एक स्टॉप साइन देखता है। केवल उस एक विशिष्ट पिक्सेल व्यवस्था की जांच करने के बजाय, यह उस साइन के आसपास संभावनाओं के एक छोटे 3D क्यूब (हाइपरक्यूब) की जांच करता है। यह पूछता है: "यदि कोई इस साइन को इस बुलबुले के भीतर किसी भी दिशा में थोड़ा सा हिला दे, तो क्या मैं अभी भी इसे स्टॉप साइन के रूप में पहचान पाऊंगा?"
गारंटी: इसे इंटरवल बाउंड प्रोपेगेशन (IBP) कहा जाता है। यह गणितीय रूप से सिद्ध करता है कि जब तक हैकर का छल इस बुलबुले के भीतर रहता है, रोबोट को धोखा नहीं दिया जा सकता। यह एक सुरक्षा गार्ड की तरह है जो न केवल दरवाजे पर मौजूद व्यक्ति की जांच करता है, बल्कि उस पूरे स्थान की भी जांच करता है जहाँ वह व्यक्ति हो सकता है।

3. "स्ट्रेची रबर बैंड" (इंटरवल मिक्सअप)

यहीं पर यह पेपर अपना सबसे रचनात्मक विचार पेश करता है: इंटरवल मिक्सअप (Interval MixUp)।

समस्या: यदि आप केवल "सुरक्षा बुलबुले" पद्धति का उपयोग करके रोबोट को सिखाने की कोशिश करते हैं, तो गणित जटिल हो सकता है और रोबोट भ्रमित हो सकता है, खासकर जब वह नई चीजें सीख रहा हो। यह एक रबर बैंड को बहुत अधिक खींचने जैसा है; वह टूट जाता है।
समाधान: लेखकों ने वर्चुअल उदाहरण (Virtual Examples) बनाने का एक तरीका आविष्कार किया है।
- कल्पना कीजिए कि आपके पास एक बिल्ली की तस्वीर है और एक कुत्ते की तस्वीर है।
- मानक प्रशिक्षण केवल दोनों का एक धुंधला मिश्रण रोबोट को दिखाएगा।
- इंटरवल मिक्सअप बिल्ली और कुत्ते के चारों ओर के "सुरक्षा बुलबुलों" को लेता है, उन्हें एक-दूसरे की ओर खींचता है, और बीच में एक नया वर्चुअल बुलबुला बनाता है।
- महत्वपूर्ण रूप से, जैसे-जैसे यह नया वर्चुअल बुलबुला वास्तविक बिल्ली या कुत्ते से दूर होता जाता है, इसका सुरक्षा बुलबुला भी छोटा होता जाता है।
यह क्यों मदद करता है: यह रोबोट को श्रेणियों के बीच सहज, कोमल बदलावों को सीखने के लिए मजबूर करता है। यह "निर्णय रेखा" (जहाँ रोबोट "बिल्ली" बनाम "कुत्ता" तय करता है) को वास्तविक डेटा से बहुत दूर धकेलता है, जिससे एक विस्तृत, सुरक्षित बफर ज़ोन बनता है। यह रोबोट को धोखा देना बहुत कठिन बना देता है।

परिणाम: उन्होंने क्या पाया?

शोधकर्ताओं ने कई मानक "लर्निंग चुनौतियों" (जैसे घुमावदार नंबरों को पहचानना या जटिल इमेज डेटासेट को विभाजित करना) पर SHIELD का परीक्षण किया।

हैकर्स को हराना: जब शक्तिशाली, परिष्कृत हैकर्स (PGD और AutoAttack जैसी विधियों का उपयोग करने वाले) द्वारा हमला किया गया, तो SHIELD ने अपना संयम बनाए रखा। यह उन पिछले तरीकों की तुलना में काफी अधिक सटीक था जो मजबूत होने का प्रयास करते थे।
कोई भूलना नहीं: क्योंकि यह "मास्टर शेफ" दृष्टिकोण का उपयोग करता है, इसलिए यह नए कार्य सीखते समय पुराने कार्यों को नहीं भूलता है।
"मिक्सअप" का बढ़ावा: "इंटरवल मिक्सअप" तकनीक को जोड़ने से सिस्टम और भी बेहतर हो गया, जिससे साफ छवियों और हमले के तहत छवियों दोनों पर इसकी सटीकता में सुधार हुआ।

सारांश में

SHIELD एक ऐसे रोबोट की तरह है जिसके पास पुराने कौशल को तुरंत याद करने के लिए एक मास्टर शेफ है ताकि मेमोरी में भीड़ न हो, और एक सुरक्षा बुलबुला प्रणाली है जो गणितीय रूप से गारंटी देती है कि उसे छोटे, अदृश्य परिवर्तनों से धोखा नहीं दिया जा सकता। इसका असली मंत्र इंटरवल मिक्सअप है, जो एक रबर बैंड की तरह काम करता है, रोबोट की समझ को खींचकर विभिन्न अवधारणाओं के बीच चौड़े, सुरक्षित अंतराल बनाता है, जिससे उसे बेवकूफ बनाना अविश्वसनीय रूप से कठिन हो जाता है।

पेपर का दावा है कि यह पहली विधि है जो सफलतापूर्वक सर्टिफाइड सुरक्षा (सुरक्षा का गणितीय प्रमाण) को लाइफलों लर्निंग (पुराने कार्यों को भूले बिना नई चीजें सीखना) के साथ जोड़ती है, जो एक तरह से स्केलेबल और प्रभावी भी है।

तकनीकी सारांश: SHIELD – क्रमिक विस्तार शिक्षण रक्षा के लिए सुरक्षित हाइपरनेटवर्क्स (Secure Hypernetworks for Incremental Expansion Learning Defense)

1. समस्या विवरण (Problem Statement)

डीप न्यूरल नेटवर्क स्थिर प्रशिक्षण वातावरणों में उत्कृष्ट हैं लेकिन वास्तविक दुनिया के परिदृश्यों में संघर्ष करते हैं जिनमें निरंतर शिक्षण (Continual Learning - CL) की आवश्यकता होती है—अर्थात, पूर्व ज्ञान को बनाए रखते हुए क्रमिक कार्यों (sequential tasks) के अनुकूल होने की क्षमता। साथ ही, ये मॉडल प्रतिकूल विक्षोभों (adversarial perturbations) के प्रति अत्यधिक संवेदनशील होते हैं, जहाँ सूक्ष्म, निर्मित इनपुट परिवर्तन आत्मविश्वासपूर्ण लेकिन गलत भविष्यवाणियों को प्रेरित करते हैं।

मौजूदा शोध इन चुनौतियों को अलग-अलग रूप में देखता है। जो दृष्टिकोण इन्हें जोड़ने का प्रयास करते हैं, वे महत्वपूर्ण सीमाओं का सामना करते हैं:

स्केलेबिलिटी और गोपनीयता (Scalability and Privacy): डबल ग्रेडिएंट प्रोजेक्शन (DGP) जैसे तरीके बड़े पैमाने पर डेटासेट के लिए अव्यावहारिक हैं और गोपनीयता संबंधी चिंताएं पैदा करते हैं क्योंकि उन्हें प्रत्येक कार्य के लिए बड़ी मात्रा में ग्रेडिएंट जानकारी या पूर्ण मॉडल स्नैपशॉट को संग्रहीत करने की आवश्यकता होती है।
मजबूती बनाम प्रदर्शन (Robustness vs. Performance): कुछ विधियाँ, जैसे कि अनसुपरवाइज्ड डेटा ऑग्मेंटेशन (AIR), लघु कार्य अनुक्रमों तक सीमित हैं। अन्य, जैसे कि ग्रेडिएंट प्रोजेक्शन मेमोरी (GPM), CL प्रदर्शन में सुधार तो करती हैं लेकिन अनजाने में प्रतिकूल हमलों के प्रति संवेदनशीलता बढ़ा देती हैं।
अंतराल (The Gap): एक ऐसे ढांचे (framework) की कमी है जो बिना रिप्ले बफर या व्यापक भंडारण पर निर्भर रहे, प्रमाणित प्रतिकूल मजबूती (certified adversarial robustness) (सबसे खराब स्थिति के विक्षोभों के विरुद्ध औपचारिक गारंटी) और स्केलेबल निरंतर शिक्षण को एक साथ प्रदान कर सके।

2. कार्यप्रणाली: SHIELD ढांचा (Methodology: SHIELD Framework)

लेखक SHIELD का प्रस्ताव करते हैं, जो एक नवीन ढांचा है जो प्रमाणित रूप से मजबूत निरंतर शिक्षण को सक्षम करने के लिए इंटरवल बाउंड प्रोपेगेशन (IBP) को एक हाइपरनेटवर्क-आधारित आर्किटेक्चर के साथ एकीकृत करता है।

2.1. मुख्य आर्किटेक्चर (Core Architecture)

हाइपरनेटवर्क ( $H$ ): प्रत्येक कार्य के लिए एक अलग मॉडल प्रशिक्षित करने या पूर्ण मॉडल प्रतियों को संग्रहीत करने के बजाय, SHIELD एक साझा हाइपरनेटवर्क का उपयोग करता है जो $\Phi$ $Φ$ द्वारा पैरामीटराइज्ड है। यह हाइपरनेटवर्क एक संक्षिप्त, प्रशिक्षित टास्क एम्बेडिंग $e_t$ $e_{t}$ को इनपुट के रूप में लेता है और लक्ष्य कार्य $t$ $t$ के लिए विशिष्ट भार (weights) $\theta_t$ $θ_{t}$ उत्पन्न करता है।
- लाभ: यह रिप्ले बफर या ग्रेडिएंट लॉग की आवश्यकता को समाप्त करता है, जिससे स्केलेबिलिटी और गोपनीयता सुनिश्चित होती है।
IBP के साथ लक्ष्य नेटवर्क (Target Network with IBP): लक्ष्य नेटवर्क एकल वास्तविक-मान वाले इनपुट को प्रोसेस नहीं करता है। इसके बजाय, यह इनपुट विक्षोभों (perturbations) का प्रतिनिधित्व करने वाले $\ell_\infty$ -बाउंडेड हाइपरक्यूब्स (अंतरालों) को प्रसारित करता है।
- इंटरवल अरिथमेटिक (Interval Arithmetic) का उपयोग करते हुए, नेटवर्क प्रत्येक परत के सक्रियण (activation) के निचले ( $\underline{z}_k$ ) और ऊपरी ( $\bar{z}_k$ ) स्तरों की गणना करता है।
- यह मॉडल को त्रिज्या $\epsilon$ के भीतर सबसे खराब स्थिति के इनपुट विक्षोभ को ध्यान में रखने की अनुमति देता है, जिससे औपचारिक मजबूती की गारंटी मिलती है।

2.2. प्रशिक्षण रणनीति: इंटरवल मिक्सअप (Training Strategy: Interval MixUp)

मानक मिक्सअप (जो एकल बिंदुओं का इंटरपोलेशन करता है) और उच्च आयामों में अंतराल अंकगणित (interval arithmetic) में "रैपिंग प्रभाव" (wrapping effect) की सीमाओं को दूर करने के लिए, लेखक इंटरवल मिक्सअप पेश करते हैं।

तंत्र (Mechanism): दो $\ell_\infty$ -बाउंडेड हाइपरक्यूब्स के मध्य बिंदुओं (midpoints) का इंटरपोलेशन करने के बजाय, इंटरवल मिक्सअप मध्य बिंदुओं का इंटरपोलेशन करता है।
अनुकूली त्रिज्या (Adaptive Radius): आभासी नमूने (virtual sample) के लिए विक्षोभ त्रिज्या का गतिशील स्केलिंग एक महत्वपूर्ण नवाचार है। यदि $\lambda$ $λ$ मिश्रण गुणांक (mixing coefficient) है, तो नया रेडियस $\epsilon'$ $ϵ^{'}$ इस प्रकार परिभाषित है:
$\epsilon' = |2\lambda - 1| \cdot \epsilon$
- यह सुनिश्चित करता है कि मूल डेटा मैनिफोल्ड्स के करीब वाले आभासी नमूने (जहाँ $\lambda \approx 0$ या $1 $) एक बड़ा रेडियस बनाए रखते हैं, जबकि बीच के नमूने ($ \lambda = 0.5$) शून्य रेडियस वाले होते हैं।
प्रभाव: यह रणनीति प्रॉपेगेशन के दौरान अंतराल त्रिज्या को छोटा रखकर 'रैपिंग प्रभाव' को कम करती है, जिससे अधिक सटीक और सूचनात्मक सीमाएँ (bounds) प्राप्त होती हैं और निर्णय सीमाएँ (decision boundaries) सुगम बनती हैं।

2.3. लॉस फंक्शन (Loss Function)

कुल लॉस फंक्शन तीन घटकों को जोड़ता है:

इंटरवल मिक्सअप लॉस ( $\mathcal{L}_{\text{IMixUp}}$ ): नाममात्र (nominal) इनपुट पर मानक क्रॉस-एन्ट्रॉपी और एक सबसे खराब स्थिति वाले अंतराल-आधारित लॉस का एक भारित संयोजन। सबसे खराब स्थिति वाला लॉस अंतराल के भीतर वास्तविक क्लास के निचले स्तर और अन्य सभी क्लासेस के ऊपरी स्तरों पर विचार करता है।
हाइपरनेटवर्क रेगुलराइजेशन ( $\mathcal{L}_{\text{out}}$ ): एक पद जो पिछले कार्यों के लिए हाइपरनेटवर्क के आउटपुट में होने वाले परिवर्तनों को दंडित करता है। यह सुनिश्चित करता है कि नए कार्य के लिए भार अपडेट करने से पिछले कार्यों का प्रदर्शन या मजबूती कम न हो, जो प्रभावी रूप से कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) को रोकता है।
शेड्यूल्ड एनीलिंग (Scheduled Annealing): अनुकूलन (optimization) को स्थिर करने के लिए प्रशिक्षण के दौरान मानक और अंतराल-आधारित लॉस के बीच संतुलन को गतिशील रूप से समायोजित किया जाता है।

3. प्रमुख योगदान (Key Contributions)

SHIELD आर्किटेक्चर: एक एकीकृत रूप से मजबूत निरंतर शिक्षण ढांचा जो साझा हाइपरनेटवर्क के माध्यम से कार्य-विशिष्ट पैरामीटर उत्पन्न करता है, जिससे रिप्ले बफर की आवश्यकता समाप्त हो जाती है और स्केलेबिलिटी सुनिश्चित होती है।
इंटरवल मिक्सअप: एक नवीन प्रशिक्षण रणनीति जो आभासी इंटरपोलेशन को अंतराल अंकगणित के साथ मिलाती है। यह अंतराल को सटीक बनाने और रैपिंग प्रभाव को कम करने के लिए एक रेडियस-स्केलिंग तंत्र पेश करती है, जिससे मजबूती और सटीकता दोनों बढ़ती हैं।
सैद्धांतिक गारंटी: पेपर निरंतर शिक्षण में प्रमाणित मजबूती (Certified Robustness in Continual Learning) की एक औपचारिक परिभाषा प्रदान करता है, यह सिद्ध करते हुए कि पर्याप्त रेगुलराइजेशन के साथ, यह विधि नए कार्यों को सीखते समय पिछले कार्यों की प्रमाणित मजबूती को बनाए रखती है।
स्टेट-ऑफ-द-आर्ट प्रदर्शन: यह विधि कई बेंचमार्क पर बेहतर परिणाम देती है, जो मजबूत व्हाइट-बॉक्स हमलों (PGD, AutoAttack) के विरुद्ध प्रमाणित मजबूती प्रदान करते हुए स्वच्छ डेटा (clean data) पर उच्च सटीकता बनाए रखती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने चार बेंचमार्क पर SHIELD का मूल्यांकन किया: Permuted MNIST, Rotated MNIST, Split CIFAR-100, और Split miniImageNet।

प्रदर्शन: SHIELD लगातार मौजूदा मजबूत निरंतर शिक्षण विधियों (GEM, GPM, DGP, और AIR सहित) को पछाड़ता है।
- Split miniImageNet पर, SHIELD ने AutoAttack के तहत 56.22% का औसत सटीकता (AA) प्राप्त किया, जो अगले सर्वश्रेष्ठ बेसलाइन (DGP 32.1%) से काफी बेहतर है।
- इंटरवल मिक्सअप (SHIELDIM) के साथ, मॉडल ने और सुधार किया, Split miniImageNet पर 57.9% AA और स्वच्छ नमूनों पर 62.67% प्राप्त किया।
मजबूती बनाम सटीकता का ट्रेड-ऑफ: विधि उस विशिष्ट ट्रेड-ऑफ को सफलतापूर्वक कम करती है जहाँ मजबूती ( $\epsilon$ ) बढ़ाने से स्वच्छ सटीकता कम हो जाती है। इंटरवल मिक्सअप ने SHIELD को मूल नमूनों पर प्रदर्शन से समझौता किए बिना उच्च प्रतिकूल सटीकता प्राप्त करने में सक्षम बनाया।
भूलना (Forgetting): विधि ने कम बैकवर्ड ट्रांसफर (BWT) मान प्रदर्शित किए (जैसे, Split miniImageNet पर -0.16), जो पूर्व ज्ञान को प्रभावी ढंग से बनाए रखने का संकेत देता है।
सत्यापन (Verification): इंटरवल मिक्सअप के साथ प्रशिक्षित मॉडलों ने दिखाया कि उनकी "सत्यापित सटीकता" ( $\epsilon$ -बॉल के भीतर सभी विक्षोभों के प्रति मजबूती) उनके शास्त्रीय सटीकता के बहुत करीब थी, जो मानक IBP बेसलाइनों की तुलना में एक महत्वपूर्ण सुधार है।

5. महत्व और दावे (Significance and Claims)

पेपर SHIELD को प्रतिकूल सेटिंग्स में व्यावहारिक और सैद्धांतिक रूप से ठोस निरंतर शिक्षण की ओर एक महत्वपूर्ण कदम के रूप में प्रस्तुत करता है।

प्रथम श्रेणी का: लेखक दावा करते हैं कि SHIELD पहला प्रमाणित रूप से मजबूत निरंतर शिक्षण तरीका है जो क्रमिक कार्यों में मजबूती सुनिश्चित करने के लिए हाइपरनेटवर्क्स को अंतराल अंकगणित के साथ जोड़ता है।
एकीकरण: यह प्रदर्शित करता है कि निरंतर अनुकूलन और औपचारिक गारंटी को एकीकृत किया जा सकता है, जो मजबूती और भूलने (forgetting) के शोध के अलगाव से आगे बढ़ता है।
स्केलेबिलिटी: रिप्ले बफर और पूर्ण मॉडल भंडारण से बचकर, इस दृष्टिकोण को गोपनीयता-संवेदनशील और बड़े पैमाने के अनुप्रयोगों के लिए एक व्यवहार्य समाधान के रूप में प्रस्तुत किया गया है जहाँ मॉडलों को प्रतिकूल खतरों की उपस्थिति में निरंतर सीखना होता है।

लेखक सीमाओं को स्वीकार करते हैं, यह नोट करते हुए कि हालांकि IBP कुशल है, यह अभी भी उच्च-आयामी सेटिंग्स में अत्यधिक रूढ़िवादी (व्यापक) आउटपुट बाउंड बना सकता है, जो कम्प्यूटेशनल दक्षता और मजबूती गारंटी की सटीकता को प्रभावित कर सकता है।