🤖 machine learning

When Muon Optimizer Meets Adversarial Training: A Theoretical and Empirical Study

यह शोध पत्र एक सैद्धांतिक और अनुभवजन्य अध्ययन प्रस्तुत करता है जो यह प्रदर्शित करता है कि म्यूऑन (Muon) ऑप्टिमाइज़र, जो मैट्रिक्स-मान वाले अपडेट्स को ऑर्थोगोनलाइज़ (orthogonalize) करता है, स्पेक्ट्रल-नॉर्म स्थिरता (spectral-norm stability) लागू करके विविध आर्किटेक्चर और थ्रेट मॉडल्स में एडवर्सरियल ट्रेनिंग मजबूती को बढ़ाता है, जिससे ऑप्टिमाइज़र ज्योमेट्री को मॉडल सुरक्षा के एक महत्वपूर्ण कारक के रूप में स्थापित करता है।

मूल लेखक: Jun Yan, Weiquan Huang, Jiankai Zuo, Yujian Mo, Xi Fang, Chengliang Wu, Zeming Wei

प्रकाशित 2026-05-27

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jun Yan, Weiquan Huang, Jiankai Zuo, Yujian Mo, Xi Fang, Chengliang Wu, Zeming Wei

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: चालाक हमलावरों के खिलाफ एक किला बनाना

कल्पना कीजिए कि आप एक रोबट को बिल्ली और कुत्ते को पहचानने के लिए प्रशिक्षित कर रहे हैं। आप चाहते हैं कि वह इतना स्मार्ट हो कि यदि कोई बिल्ली के कान पर एक छोटा, अदृश्य स्टिकर (एक "एडवर्सरियल अटैक") चिपका भी दे, तो भी रोबोट उसे सही ढंग से बिल्ली ही पहचाने। इस प्रक्रिया को, जिसमें रोबोट को इन चालाक चालों को अनदेखा करने के लिए प्रशिक्षित किया जाता है, एडवर्सरियल ट्रेनिंग (AT) कहा जाता है।

लंबे समय से, इस "किले" को बनाने के लिए मानक उपकरण SGD (स्टोकेस्टिक ग्रेडिएंट डिसेंट) नामक एक विधि थी। SGD को एक बहुत ही स्थिर, भरोसेमंद हाइकर (पर्वतारोही) के रूप में सोचें जो पहाड़ पर छोटे, सावधानीपूर्ण कदम उठाता है। यह धीमा है, लेकिन यह शायद ही कभी किसी खाई में गिरता है।

हाल ही में, AdamW नामक एक नया, तेज़ उपकरण लोकप्रिय हुआ। यह एक जेटपैक वाले हाइकर की तरह है जो इलाके के आधार पर अपनी गति को समायोजित करता है। यह (मानक लर्निंग में) पहाड़ की चोटी तक बहुत तेज़ी से पहुँच जाता है, लेकिन "चालाक हमले" वाली ट्रेनिंग के परिदृश्य में, जेटपैक के कारण हाइकर कभी-कभी डगमगा सकता है और खाई में गिर सकता है (खराब सुरक्षा)।

प्रश्न: क्या ऐसा कोई तरीका है जिससे बिना डगमगाए जेटपैक की गति प्राप्त की जा सके?

मुऑन ऑप्टिमाइज़र (Muon Optimizer) से मिलिए: "डांस इंस्ट्रक्टर"

यह पेपर एक नए उपकरण Muon को पेश करता है। लेखक Muon की तुलना एक ऐसे डांस इंस्ट्रक्टर (नृत्य प्रशिक्षक) से करते हैं जो नर्तकों को पूरी तरह से संरेखित (aligned) रखने में विशेषज्ञता रखता है।

मानक उपकरणों के साथ समस्या: जब AdamW सीखने की कोशिश करता है, तो यह कभी-कभी रोबोट की आंतरिक "मांसपेशियों" (गणितीय भार/weights) को बहुत मजबूत या असंतुलित बना देता है, जैसे कि एक वेटलिफ्टर जो गलती से एक ऐसा बारबेल उठा लेता है जो बहुत भारी है और उसकी पीठ टूट जाती है। यह अस्थिरता रोबोट को हमलों के प्रति संवेदनशील बना देती है।
Muon का समाधान: Muon एक सख्त डांस इंस्ट्रक्टर की तरह काम करता है। हर बार जब रोबोट एक कदम उठाने की कोशिश करता है (लर्निंग अपडेट करता है), तो Muon उस चाल की जाँच करता है। यदि चाल बहुत अधिक अनियंत्रित या असंतुलित है, तो Muon रोबोट को अपने कदम को "ऑर्थोगोनलाइज़" (orthogonalize) करने के लिए मजबूर करता है।
- उपमा (Analogy): कल्पना कीजिए कि रोबोट एक भारी बॉक्स को धकेलने की कोशिश कर रहा है। AdamW इसे एक अजीब, टेढ़े कोण पर धकेल सकता है जिससे बॉक्स पलट सकता है। Muon यह सुनिश्चित करता है कि रोबिमोट बॉक्स को एक बिल्कुल सीधी, संतुलित रेखा में धकेले, जैसे कि एक डांसर मंच पर फिसलते हुए चलता है। यह आंदोलन के "आकार" को स्थिर रखता है, जिससे रोबोट "बुरी आदतें" (अस्थिर भार) विकसित नहीं कर पाता जिनका हमलावर फायदा उठा सकें।

पेपर ने क्या पाया (परिणाम)

शोधकर्ताओं ने इस "डांस इंस्ट्रक्टर" (Muon) का परीक्षण तीन अलग-अलग परिदृश्यों में "स्थिर हाइकर" (SGD) और "जेटपैक हाइकर" (AdamW) के विरुद्ध किया:

1. छोटे डेटासेट (जैसे CIFAR-10)

परिणाम: Muon एक बड़ी सफलता रहा। यह AdamW (जो संघर्ष कर रहा था) से बहुत बेहतर था और स्थिर SGD के बराबर या कभी-कभी उससे भी बेहतर था।
सीख: छोटे, प्रबंधनीय कार्यों पर, Muon के "डांस मूव्स" ने इसकी ट्रेनिंग को स्थिर और सुरक्षित रखा, जिससे रोबोट चालाक हमलों से भ्रमित होने से बच गया।

2. विजन ट्रांसफॉर्मर (ViTs)

परिणाम: यहाँ AdamW वास्तव में विफल रहा। जटिल "विज़न ट्रांसफॉर्मर" मॉडल को प्रशिक्षित करने के मामले में, AdamW अक्सर पूरी तरह से क्रैश हो गया, जिसके परिणामस्वरूप एक ऐसा रोबोट मिला जो मूल रूप से केवल अनुमान लगा रहा था। हालाँकि, Muon ने ट्रेनिंग को स्थिर रखा और एक सुरक्षित रोबोट तैयार किया।
सीख: इन जटिल, आधुनिक AI आर्किटेक्चर के लिए, "डांस इंस्ट्रक्टर" (Muon) आवश्यक था। Muon के बिना, ट्रेनिंग बहुत अराजक थी कि सुरक्षित हो सके।

3. बड़े डेटासेट (जैसे ImageNet)

परिणाम: जब वे एक विशाल डेटासेट (लाखों छवियों) पर गए, तो "स्थिर हाइकर" (SGD) अभी भी चैंपियन था। Muon अच्छा था, लेकिन यह विशाल पैमाने के साथ थोड़ा संघर्ष कर रहा था और इसे अच्छी तरह से काम करने के लिए बहुत विशिष्ट ट्यूनिंग की आवश्यकता थी।
सीख: Muon एक शक्तिशाली उपकरण है, लेकिन सबसे बड़े, भारी कामों के लिए, पुराना भरोसेमंद तरीका (SGD) अभी भी बढ़त बनाए हुए है।

जादू के पीछे का "क्यों"

पेपर केवल यह नहीं कहता कि "यह काम करता है"; यह कुछ गणित का उपयोग करके समझाता है कि यह क्यों काम करता है:

गति सीमा (Speed Limit): Muon एक "स्पीड लिमिट" लगाता है कि रोबोट के आंतरिक भार किसी भी एक दिशा में कितना बढ़ सकते हैं। यह उस "अनियंत्रित विकास" को रोकता है जो AdamW के साथ होता है।
सुरक्षा जाल (Safety Net): AdamW को बिना ब्रेक वाली कार के रूप में सोचें जो मोड़ों पर गति बढ़ा देती है। Muon एक ऐसी कार की तरह है जिसमें एक गवर्नर लगा है जो गति को सीमित करता है ताकि वह नियंत्रण से बाहर होकर न घूमे, भले ही सड़क ऊबड़-खाबड़ हो। गणित पर यह "स्पीड लिमिट" यह सुनिश्चित करती है कि रोबोट नाजुक न बने।

निचोड़ (Bottom Line)

पेपर निष्कर्ष निकालता है कि आप सीखने की प्रक्रिया को कैसे "ड्राइव" करते हैं, यह कार के चयन जितना ही महत्वपूर्ण है।

Muon एक नया, रोमांचक ड्राइवर है जो कार को स्थिर और सुरक्षित रखता है, खासकर जब रास्ता कठिन हो (जटिल मॉडल) या ट्रैफिक कम हो (छोटे डेटासेट)।
यह कोई जादुई छड़ी नहीं है जो सब कुछ ठीक कर देती है (इसे विशाल डेटासेट के लिए अभी भी ट्यूनिंग की आवश्यकता है), लेकिन यह सुरक्षा के लिए वर्तमान "जेटपैक" विधि (AdamW) की तुलना में एक बड़ा सुधार है।
लेखक सुझाव देते हैं कि भविष्य में, सुरक्षा विशेषज्ञों को केवल "कार" (मॉडल आर्किटेक्चर) पर ही नहीं, बल्कि उनके द्वारा चुने गए "ड्राइवर" (ऑप्टिमाइज़र) पर भी ध्यान देना चाहिए।

संक्षेप में: यदि आप चाहते हैं कि आपका AI चालाक हमलों के खिलाफ मजबूत हो, तो Muon "डांस इंस्ट्रक्टर" का उपयोग करना आपकी ट्रेनिंग को स्थिर रखने का एक शानदार तरीका है, विशेष रूप से आधुनिक, जटिल AI मॉडलों के लिए।

तकनीकी सारांश: जब म्यूऑन ऑप्टिमाइज़र एडवरसैरियल ट्रेनिंग से मिलता है

समस्या विवरण

एडवरसैरियल ट्रेनिंग (AT) अभी भी एडवरसैरियल हमलों के खिलाफ सबसे विश्वसनीय अनुभवजन्य रक्षा बनी हुई है, फिर भी इसकी मजबूती इस बात पर निर्भर करती है कि अंतर्निहित मिन-मैक्स अनुकूलन (min-max optimization) समस्या को कैसे हल किया जाता है। जबकि स्टोकेस्टिक ग्रेडिएंट डिसेंट (SGD) अपनी देखी गई मजबूती के कारण AT के लिए डिफ़ॉल्ट ऑप्टिमाइज़र है, एडमडब्ल्यू (AdamW) जैसे एडेप्टिव ऑप्टिमाइज़र मानक प्रशिक्षण में सुधार करते हैं लेकिन कमज़ोर मजबूती प्रदान करते हैं। हाल ही में, बड़े पैमाने पर प्रशिक्षण के लिए एक उच्च-प्रदर्शन वाले विकल्प के रूप में म्यूऑन (Muon) ऑप्टिमाइज़र उभरा है, जो अनुमानित पोलर डीकंपोज़िशन (approximate polar decomposition) के माध्यम से ऑर्थोगोनलाइज़्ड मैट्रिक्स-वैल्यूड अपडेट का उपयोग करता है। हालाँकि, मजबूत और विषम खतरे के मॉडलों के तहत इस विशिष्ट ऑप्टिमाइज़र ज्योमेट्री का एडवरसैरियल मजबूती पर प्रभाव अभी तक अनोखला (unexplored) है। यह शोध पत्र इस प्रश्न को संबोधित करता है: क्या ऑर्थोगोनलाइज़्ड अनुकूलन AT में सुधार कर सकता है, और इस व्यवहार को नियंत्रित करने वाले सैद्धांतिक और अनुभवजन्य तंत्र क्या हैं?

कार्यप्रणाली

यह अध्ययन म्यूऑन अपडेट नियम के सैद्धांतिक विश्लेषण और कई आर्किटेक्चर और थ्रेट मॉडल्स के व्यापक अनुभवजन्य मूल्यांकन को संयोजित करते हुए एक दोहरी पद्धति का उपयोग करता है।

सैद्धांतिक विश्लेषण

लेखक म्यूऑन अपडेट नियम का विश्लेषण करते हैं, जहाँ मोमेंटम-संचित ग्रेडिएंट $M_t$ को वेट अपडेट $W_{t+1} = (1-\eta\lambda)W_t - \eta U_t$ से पहले एक अनुमानित पोलर फैक्टर $U_t$ (ऑर्थोगोनलाइज़्ड) में परिवर्तित किया जाता है।

स्पेक्ट्रल-नॉर्म स्थिरता सीमा (Spectral-Norm Stability Ceiling): पेपर सिद्ध करता है कि पोलर अपडेट मैट्रिक्स अपडेट के स्पेक्ट्रल नॉर्म पर एक संरचनात्मक सीमा लगाता है। उन एडेप्टिव ऑप्टिमाइज़र्स के विपरीत जो अनबाउंडेड स्पेक्ट्रल ग्रोथ प्रदर्शित कर सकते हैं, म्यूऑन के ऑर्थोगोनलाइज़्ड अपडेट यह सुनिश्चित करते हैं कि वेट्स का स्पेक्ट्रल नॉर्म लर्निंग रेट, वेट डिके और एप्रोक्सिमेशन एरर के फलन द्वारा सीमित रहे ( $\|W_t\|_2 \leq \max(\|W_0\|_2, \frac{1+\bar{\epsilon}}{\lambda})$ )।
ग्रेडिएंट डायनेमिक्स: सैद्धांतिक परिणाम संकेत देते हैं कि म्यूऑन न्यूक्लियर-नॉर्म दिशा में एडवरसैरियल लॉस को कम करता है। यह मानक ग्रेडिएंट स्टेप्स की तुलना में विशेष रूप से उच्च-वेरिएंस वाले एडवरसैरियल ग्रेडिएंट्स की उपस्थिति में, अधिक संरचित प्रति-चरण डिसेंट गारंटी प्रदान करता है।
रोबस्टनेस बाउंड्स: लेयर स्पेक्ट्रल नॉर्म्स को सीमित करके, लेखक मार्जिन फंक्शन के लिप्सचिट्ज़ कॉन्स्टेंट (Lipschitz constant) पर एक संरचनात्मक सीमा प्राप्त करते हैं, जो मॉडल की $\ell_p$ -बाउंडेड हमलों के विरुद्ध मजबूती को ऑप्टिमाइज़र के अपडेट ज्योमेट्री से जोड़ता है।

अनुभवजन्य मूल्यांकन

लेखकों ने आंतरिक हमले के लूप के रूप में ऑटो प्रोजेक्टेड ग्रेडिएंट डिसेंट (APGD) का उपयोग करके AT के लिए म्यूऑन को अनुकूलित किया। प्रयोग निम्नलिखित पर किए गए:

डेटासेट्स: CIFAR-10 और ImageNet।
आर्किटेक्चर: PreActResNet-18, WideResNet (WRN-34-10, WRN-34-20), और विजन ट्रांसफॉर्मर (ViT-B, ViT-L)।
थ्रेट मॉडल्स: $\ell_\infty$ , $\ell_1$ , $\ell_2$ , और उनके यूनियन।
तुलना के लिए (Comparators): SGD, AdamW, और शार्पनेस-अवेयर मिनिमाइजेशन (SAM)।

मुख्य योगदान

सुरक्षा कारक के रूप में ऑप्टिमाइज़र चयन का पुनर्मूल्यांकन: यह पेपर ऑर्थोगोनलाइज़्ड मैट्रिक्स-अपडेट ज्योमेट्री को एक महत्वपूर्ण, कम खोजे गए कारक के रूप में पहचानता है, जो पारंपरिक SGD बनाम AdamW तुलना से आगे जाता है।
म्यूऑन का यांत्रिक विश्लेषण: लेखक म्यूऑन के व्यवहार के लिए एक सैद्धांतिक स्पष्टीकरण प्रदान करते हैं, यह प्रदर्शित करते हुए कि इसका पोलर अपडेट नियम मैट्रिक्स-वैल्यूड अपडेट पर एक ऑपरेटर-नॉर्म सीमा लगाता है। यह उन अस्थिर स्पेक्ट्रल ग्रोथ को रोकता है जो अक्सर एडेप्टिव ऑप्टिमाइज़र्स के साथ देखी जाती है, जिससे मजबूती में वृद्धि के लिए एक नैदानिक स्पष्टीकरण मिलता है।
नियंत्रित मल्टी-नॉर्म मूल्यांकन: अध्ययन व्यवस्थित रूप से SGD, AdamW और म्यूऑन की विभिन्न सेटिंग्स में तुलना प्रस्तुत करता है। यह ऑर्थोगोनलाइज़्ड अपडेट्स (Muon) और शार्पनेस-अवेयर परटर्बेशन (SAM) के बीच के ट्रेड-ऑफ को स्पष्ट करता है, यह दिखाते हुए कि म्यूऑन एक प्रत्यक्ष प्रतिस्थापन के बजाय एक ऑप्टिमाइज़र-ज्योमेट्री विकल्प के रूप में कार्य करता है।

मुख्य परिणाम

AdamW के विरुद्ध प्रदर्शन: म्यूऑन दोनों CNNs और ViTs में AT के दौरान AdamW से काफी बेहतर प्रदर्शन करता है। ViT आर्किटेक्चर पर, AdamW अक्सर अस्थिरता या लगभग रैंडम प्रदर्शन में गिरावट का शिकार होता है, जबकि म्यूऑन स्थिरता और प्रतिस्पर्धी मजबूती बनाए रखता है।
SGD के विरुद्ध प्रदर्शन: ओवरपैरामीटराइज्ड CNNs (जैसे WRN-34-10/20) के साथ छोटे पैमाने के डेटासेट्स (CIFAR-10) पर, म्यूऑन SGD के बराबर या उससे बेहतर यूनियन रोबस्टनेस प्राप्त करता है। हालाँकि, ImageNet जैसे बड़े पैमाने के डेटासेट्स पर, वर्तमान में SGD बेहतर प्रदर्शन करता है, जो बताता है कि म्यूऑन बड़े पैमाने पर हाइपरपैरामीटर ट्यूनिंग (लर्निंग रेट, वार्मअप) के प्रति अधिक संवेदनशील है।
SAM के साथ तुलना: म्यूऑन SAM द्वारा आवश्यक वेट-परटर्बेशन स्टेप के अतिरिक्त कम्प्यूटेशनल लागत के बिना अपडेट ज्योमेट्री में सुधार करता है। जबकि SAM विशिष्ट सेटिंग्स में थोड़ी उच्च मजबूती प्राप्त कर सकता है, म्यूऑन तुलनीय स्थिरता के साथ एक अधिक कुशल विकल्प प्रदान करता है।
रोबस्ट ओवरफिटिंग: अध्ययन में देखा गया है कि म्यूऑन, SGD की तरह ही, प्रशिक्षण के बाद के चरणों में "रोबस्ट ओवरफिटिंग" के प्रति संवेदनशील है। म्यूऑन-आधारित AT के लिए अर्ली स्टॉपिंग (early stopping) एक आवश्यक रणनीति बनी हुई है।
ब्लैक-बॉक्स रोबस्टनेस: म्यूऑन-प्रशिक्षित मॉडल मजबूत ट्रांसफरेबिलिटी प्रदर्शित करते हैं, ब्लैक-बॉक्स ट्रांसफर हमलों के खिलाफ उच्च मजबूती बनाए रखते हैं, जो यह दर्शाता है कि लाभ केवल व्हाइट-बॉक्स ऑप्टिमाइज़ेशन पथों के आर्टिफैक्ट नहीं हैं।

महत्व और दावे

यह पेपर दावा करता है कि ऑप्टिमाइज़र ज्योमेट्री एडवरसैरियल ट्रेनिंग में एक सुरक्षा-प्रासंगिक कारक है। म्यूऑन को पेश करके, लेखक प्रदर्शित करते हैं कि ऑर्थोगोनलाइज़्ड अपडेट एक स्थिर विकल्प प्रदान कर सकते हैं, विशेष रूप से उन परिदृश्यों में जहाँ एडेप्टिव ऑप्टिमाइज़र्स विफल हो जाते हैं (जैसे, ट्रांसफॉर्मर) या जहाँ SAM की तुलना में कम्प्यूटेशनल दक्षता एक चिंता का विषय है।

लेखक विनम्रतापूर्वक निष्कर्ष निकालते हैं कि म्यूऑन सार्वभौमिक रूप से SGD पर हावी नहीं होता है; बल्कि, यह एक "स्थिर ऑर्थोगोनलाइज़्ड अपडेट ज्योमेट्री" प्रदान करता है जो अक्सर शुरुआती मजबूत अनुकूलन (early robust optimization) में सुधार करता है। उनके निष्कर्षों से पता चलता है कि जबकि म्यूऑन AT के लिए एक शक्तिशाली उपकरण है, बड़े पैमाने (ImageNet) पर इसकी प्रभावशीलता के लिए और अधिक हाइपरपैरामीटर और शेड्यूल डिज़ाइन की आवश्यकता है। यह कार्य पोलर डीकंपोज़िशन और स्पेक्ट्रल स्थिरता के बीच एक सैद्धांतिक संबंध स्थापित करता है, जो यह सुझाव देता है कि मजबूती प्राप्त करने के लिए अपडेट की ज्योमेट्री को नियंत्रित करना उतना ही महत्वपूर्ण है जितना कि लॉस लैंडस्केप।