🤖 machine learning

New Insight of Variance reduce in Zero-Order Hard-Thresholding: Mitigating Gradient Error and Expansivity Contradictions

यह शोध पत्र एक सामान्यीकृत विचरण-न्यूनीकरण शून्य-क्रम हार्ड-थ्रेशोल्डिंग एल्गोरिदम प्रस्तावित करता है जो मौजूदा SZOHT विधि के बीच ग्रेडिएंट विचलन और ऑपरेटर विस्तारशीलता के अंतर्निहित संघर्ष को हल करता है, जिससे यादृच्छिक दिशाओं पर प्रतिबंध समाप्त हो जाते हैं और $\ell_0$ प्रतिबन्धित अनुकूलन के लिए बेहतर अभिसरण दर और व्यापक प्रयोज्यता प्राप्त होती है।

मूल लेखक: Xinzhe Yuan (Harbin Institute of Technology), William de Vazelhes (Mohamed bin Zayed University of Artificial Intelligence), Bin Gu (Mohamed bin Zayed University of Artificial Intelligence, Jilin Univ

प्रकाशित 2026-05-19

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinzhe Yuan (Harbin Institute of Technology), William de Vazelhes (Mohamed bin Zayed University of Artificial Intelligence), Bin Gu (Mohamed bin Zayed University of Artificial Intelligence, Jilin University), Huan Xiong (Harbin Institute of Technology, Mohamed bin Zayed University of Artificial Intelligence)

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: बिना छुए घास के ढेर में सुई ढूँढना

कल्पना कीजिए कि आप एक गुप्त रेसिपी ( "इष्टतम समाधान" या optimal solution) के लिए सामग्रियों के सही संयोजन को खोजने की कोशिश कर रहे हैं। हालाँकि, आपके पास दो प्रमुख नियम हैं:

"जीरो-ऑर्डर" (Zero-Order) नियम: आप सामग्रियों को चखकर यह नहीं देख सकते कि स्वाद कैसे बदल रहा है (आप "ग्रेडिएंट" की गणना नहीं कर सकते)। आप केवल उन्हें मिला सकते हैं, केक बना सकते हैं, और यह देख सकते हैं कि वह अच्छा है या बुरा। आपको सुधार की दिशा का अनुमान लगाने के लिए परीक्षण और त्रुटि (trial and error) पर निर्भर रहना होगा।
"हार्ड-थ्रेशोल्डिंग" (Hard-Thresholding) नियम: आपको 1,000 सामग्रियों के भंडार में से ठीक 5 सामग्रियाँ ही उपयोग करने की अनुमति है। यदि आप छठी सामग्री का उपयोग करते हैं, तो आपको 5 पर बने रहने के लिए तुरंत एक को बाहर फेंकना होगा।

यह शोध पत्र एक विशिष्ट समस्या पर काम करता है: जब आप केवल स्वाद परीक्षणों (Zero-Order) का उपयोग करके अपनी रेसिपी को बेहतर बनाने की कोशिश करते हैं और सामग्रियों को सख्ती से सीमित करते हैं (Hard-Thresholding), तो गणित जटिल हो जाता है। पिछला सबसे अच्छा तरीका (जिसे SZOHT कहा जाता था) एक ऐसे रस्सी पर चलने वाले (tightrope walker) की तरह था जो केवल तभी रस्सी पार कर सकता था जब हवा पूरी तरह शांत हो और रस्सी की लंबाई एक विशिष्ट माप की हो। यदि हवा बहुत तेज चलती (आपके स्वाद परीक्षणों में बहुत अधिक "शोर" या "विचलन/variance" होता) या रस्सी बहुत लंबी होती, तो वह व्यक्ति गिर जाता।

समस्या: "एक्सपेंसिविटी" (Expansivity) का जाल

लेखक बताते हैं कि "हार्ड-थ्रेशोल्डिंग" नियम (केवल शीर्ष 5 सामग्रियाँ रखना) पेचीदा है। चीजों को सुचारू बनाने वाले एक सौम्य फिल्टर के विपरीत, यह नियम "विस्तारवादी" (expansive) है। कल्पना कीजिए कि आप एक बड़ी, उछलने वाली गेंद को एक छोटे छेद से निकालने की कोशिश कर रहे हैं। यदि आप इसे बहुत ज़ोर से धकेलते हैं, तो यह वापस उछल सकती है या एक अजीब आकार में फंस सकती है।

पुराने तरीके (SZOHT) में, एल्गोरिदम को नियंत्रण से बाहर होने से रोकने के लिए, शोधकर्ताओं को अपने "स्वाद परीक्षकों" (ग्रेडिएंट का अनुमान लगाने के लिए उपयोग किए जाने वाले यादृच्छिक दिशाओं) को अत्यंत सटीक होने के लिए मजबूर करना पड़ा। उन्हें यादृच्छिक दिशाओं की एक विशाल संख्या का उपयोग करना पड़ा ताकि यह सुनिश्चित किया जा सके कि शोर गणित को खराब न कर दे। इसने इस तरीके को कई वास्तविक दुनिया की समस्याओं के लिए धीमा और अव्यावहारिक बना दिया।

समाधान: "मेमोरी" (स्मृति) का तरीका (वेरिएंस रिडक्शन)

लेखकों की बड़ी अंतर्दर्दृष्टि यह है कि समस्या केवल "शोर" के बारे में नहीं है; यह विचलन (variance) (अनुमान कितनी दूर तक उछलते हैं) के बारे में है।

वे एक नया दृष्टिकोण प्रस्तावित करते हैं जिसे pM-SZHT और VR-SZHT कहा जाता है। इसे एक शेफ को याददाश्त (memory) देने के रूप में सोचें।

पुराना तरीका: हर बार जब आप केक बनाते हैं, तो आप पिछली बार क्या हुआ था, उसे भूल जाते हैं। आप शून्य से शुरुआत करते हैं, कुछ यादृच्छिक स्थानों को चखते हैं, और दिशा का अनुमान लगाते हैं। क्योंकि आपके पास कोई स्मृति नहीं है, आपके अनुमान इधर-उधर कूदते रहते हैं (उच्च विचलन)। इसे ठीक करने के लिए, आपको एक विश्वसनीय औसत प्राप्त करने के लिए हजारों स्थानों को चखना पड़ता है।
नया तरीका: शेफ पिछले कुछ केक याद रखता है। नए केक को चखते समय, वे पुराने अनुभवों की स्मृति से उसकी तुलना करते हैं। "यह पिछला वाला से थोड़ा मीठा है, लेकिन पिछला वाला बहुत नमकीन था।" नए अनुमान और पुरानी स्मृति के बीच के अंतर को देखकर, वे जंगली उछालों को संतुलित कर देते हैं। इस तरह "शोर" कम हो जाता है।

चूंकि शेफ अनुमानों को सुचारू बनाने के लिए स्मृति का उपयोग कर रहा है, इसलिए उसे एक विश्वसनीय दिशा प्राप्त करने के लिए हजारों स्थानों को चखने की आवश्यकता नहीं है। वह कम स्वाद परीक्षणों के साथ भी काम चला सकता है, और एल्गोरिदम को काम करने के लिए उन सख्त, असंभव शर्तों की आवश्यकता नहीं होती है।

परिणाम: तेज़ और अधिक लचीला

यह शोध पत्र गणितीय रूप से सिद्ध करता है कि इस "स्मृति" (वेरिएंस रिडक्शन) का उपयोग करके:

"हवा" का प्रभाव कम हो जाता है: एल्गोरिदम को स्थिर रहने के लिए अब यादृच्छिक स्वाद परीक्षणों की संख्या बहुत बड़ी होने की आवश्यकता नहीं है। यह अधिक "हवादार" स्थितियों (अधिक शोर वाले डेटा) को संभाल सकता है।
तेज़ अभिसरण (Faster Convergence): रेसिपी बहुत तेज़ी से सही स्वाद तक पहुँच जाती है क्योंकि शेफ उन चीज़ों को दोबारा चखने में समय बर्बाद नहीं करता जिन्हें वह पहले से जानता है।
व्यापक उपयोग: यह विधि उन समस्याओं पर भी काम करती है जहाँ पुराना तरीका पूरी तरह विफल हो जाता।

वास्तविक दुनिया के परीक्षण

लेखकों ने अपने नए "स्मृति वाले शेफ" का दो विशिष्ट कार्यों पर परीक्षण किया:

रिज रिग्रेशन (Ridge Regression): संख्याओं की भविष्यवाणी करने के लिए एक मानक गणितीय समस्या (जैसे विशेषताओं के आधार पर घर की कीमतों की भविष्यवाणी करना)। उन्होंने दिखाया कि उनके तरीके ने पुराने तरीके की तुलना में बेहतर समाधान तेज़ी से खोजा।
ब्लैक-बॉक्स एडवरसेरियल अटैक्स (Black-Box Adversarial Attacks): यह एक सुरक्षा कैमरे (न्यूरल नेटवर्क) को धोखा देने की कोशिश करने जैसा है जिससे वह "प्लेन" की तस्वीर को "ट्रक" के रूप में पहचानने लगे, जिसमें सूक्ष्म, अदृश्य पिक्सेल जोड़े जाते हैं। कैमरा एक "ब्लैक बॉक्स" है (आप इसकी आंतरिक गणित को नहीं देख सकते)। लेखकों ने दिखाया कि उनका तरीका कैमरे को मूर्ख बनाने के लिए सही पिक्सेल सेट को अधिक प्रभावी ढंग से खोज सकता है, भले ही वे केवल कैमरे को "छू" (poke) सकें और परिणाम देख सकें, उसका कोड नहीं।

सारांश

शोध पत्र कहता है: "हमने पाया कि पुराने तरीके के इतना नाजुक होने का कारण यह था कि वह शोर को शांत करने के लिए स्मृति (memory) का उपयोग नहीं करता था। 'वेरिएंस रिडक्शन' स्मृति प्रणाली जोड़कर, हम सख्त और अवास्तविक नियमों की आवश्यकता के बिना एल्गोरिदम को स्थिर बना सकते हैं। यह इसे तेज़ और अधिक कठिन समस्याओं के लिए उपयोगी बनाता है।"

तकनीकी सारांश: ज़ीरो-ऑर्डर हार्ड-थ्रेशोल्डिंग में विचरण न्यूनीकरण (Variance Reduction) का नया दृष्टिकोण

समस्या विवरण
यह शोध पत्र $\ell_0$ -प्रतिबंधित अनुकूलन (optimization) समस्याओं को हल करने की चुनौती को संबोधित करता है, जो उच्च-आयामी मशीन लर्निंग कार्यों के लिए स्पार्स लर्निंग प्राप्त करने हेतु मौलिक हैं। विशिष्ट समस्या को एक नियमितीकृत एम्पिरिकल रिस्क $F(\theta) = \frac{1}{n}\sum_{i=1}^n f_i(\theta)$ को $\|\theta\|_0 \leq k$ के अधीन न्यूनतम करने के रूप में तैयार किया गया है। जबकि हार्ड-थ्रेशोल्डिंग इरेटिव एल्गोरिदम $\ell_0$ बाधाओं के लिए प्रभावी होते हैं, उन्हें पारंपरिक रूप से वास्तविक ग्रेडिएंट्स तक पहुँच की आवश्यकता होती है। कई आधुनिक परिदृश्यों में—जैसे कि बैंडिट समस्याएं, ब्लैक-बॉक्स एडवरसेरियल अटैक्स और रिइन्फोर्समेंट लर्निंग—ग्रेडिएंट्स अप्राप्य होते हैं, जिससे फंक्शन इवैल्यूएशन पर निर्भर ज़ीरो-ऑर्डर (ZO) ऑप्टिमाइज़ेशन विधियों की आवश्यकता होती है।

इस सेटिंग के लिए मौजूदा अत्याधुनिक एल्गोरिदम, स्टोकेस्टिक ज़ीरो-ऑर्डर हार्ड-थ्रेशोल्डिंग (SZOHT), एक गंभीर सीमा से ग्रस्त है। लेखक पहचान करते हैं कि ZO ग्रेडिएंट अनुमानों के विचलन (त्रुटि) और हार्ड-थ्रेशोल्डिंग ऑपरेटर की एक्सपेंसिविटी (गैर-एक्सपेंसिविटी) के बीच एक अंतर्निहित संघर्ष है। अभिसरण (convergence) सुनिश्चित करने के लिए, SZOHT ग्रेडिएंट अनुमान के लिए उपयोग किए जाने वाले रैंडम दिशाओं ( $q$ ) और स्पर्सिटी स्तर ( $k$ ) की संख्या पर कड़े प्रतिबंध लगाता है। ये शर्तें अक्सर व्यावहारिक अनुप्रयोगों के लिए बहुत अधिक प्रतिबंधात्मक होती हैं, जिससे एल्गोरिदम की उपयोगिता सीमित हो जाती है।

कार्यप्रणाली (Methodology)
यह शोध पत्र हार्ड-थ्रेशोल्डिंग और ZO ग्रेडिएंट्स के बीच के संघर्ष को विचरण न्यूनीकरण (variance reduction) पर ध्यान केंद्रित करके हल करने के लिए एक नया दृष्टिकोण प्रस्तावित करता है। लेखक तर्क देते हैं कि संघर्ष मौलिक रूप से हार्ड-थ्रेशोल्डिंग ऑपरेटर और ग्रेडिएंट अनुमान के विचरण के बीच है, न कि केवल अनुमान त्रुटि के बीच।

इसे संबोधित करने के लिए, यह शोध पत्र एक सामान्यीकृत ढांचा जिसे pM-SZHT (p-मेमोराइजेशन स्टोकेस्टिक ज़ीरो-ऑर्डर हार्ड-थ्रेशोल्डिंग) कहा जाता है, पेश करता है। यह ढांचा ऐतिहासिक ग्रेडिएंट्स का उपयोग करके विचरण को कम करने के लिए मेमोरी तंत्र का उपयोग करता है, जो SAGA और SVRG जैसी प्रथम-क्रम विचरण न्यूनीकरण तकनीकों के समान है, लेकिन इसे ZO सेटिंग के लिए अनुकूलित किया गया है। इसके मुख्य घटक हैं:

सामान्यीकृत पुनरावृत्ति अभिव्यक्ति (Generalized Iterative Expression): एल्गोरिदम अपडेट नियम $\theta^{(r+1)} = H_k(\theta^{(r)} - \eta \hat{g}^{(r)}(\theta^{(r)}))$ का पालन करता है, जहाँ $\hat{g}^{(r)}$ विचरण न्यूनीकरण को शामिल करने वाला एक सामान्यीकृत ग्रेडिएंट अनुमान है।
p-मेमोराइजेशन: यह ढांचा एक मेमोरी तंत्र का उपयोग करता है जहाँ प्रत्येक पुनरावृत्ति (iteration) में ग्रेडिएंट अनुमानों के एक यादृच्छिक उपसमुच्चय (random subset) को अपडेट किया जाता है, जिससे एल्गोरिदम ZO अनुमानों को स्थिर करने के लिए ऐतिहासिक जानकारी का लाभ उठा पाता है।
विशिष्ट एल्गोरिदम: इस ढांचे के भीतर, लेखक विशिष्ट एल्गोरिदम पेश करते हैं, जिनमें VR-SZHT (SVRG का एक ZO अनुकूलन) और SARAH-SZHT (SARAH का एक ZO अनुकूलण) शामिल हैं।

सैद्धांतिक विश्लेषण (Theoretical Analysis)
यह शोध पत्र मानक स्पार्स लर्निंग धारणाओं: रिस्ट्रिक्टेड स्ट्रॉन्ग कॉन्वेक्सिटी (RSC) और रिस्ट्रिक्टेड स्ट्रॉन्ग स्मूथनेस (RSS) के तहत एक व्यापक अभिसरण विश्लेषण प्रदान करता है।

संघर्ष शमन (Conflict Mitigation): विश्लेषण यह प्रदर्शित करता है कि विचरण न्यूनीकरण का उपयोग करके, एल्गोरिदम अभिसरण के लिए आवश्यक रैंडम दिशाओं ( $q$ ) की सख्त निर्भरता को समाप्त कर सकता है। SZOHT में, $k$ के सापेक्ष विशिष्ट सीमाओं को संतुष्ट करने के लिए $q$ को बड़ा होना चाहिए; प्रस्तावित विधियों में, अभिसरण $q > 0$ के लिए गारंटीकृत है (बशर्ते अन्य पैरामीटर जैसे लर्निंग रेट सही ढंग से चुने गए हों)।
अभिसरण दरें (Convergence Rates): सैद्धांतिक परिणाम दिखाते हैं कि प्रस्तावित एल्गोरिदम SZOHT की तुलना में बेहतर अभिसरण दर प्राप्त करते हैं। विशेष रूप से, VR-SZHT के लिए क्वेरी कॉम्प्लेक्सिटी $O([n + \frac{\kappa^3}{\kappa^2+1}] \log(1/\epsilon))$ निकाली गई है, जो SZOHT की $O((k + d/s^2)\kappa^2 \log(1/\epsilon))$ जटिलता की तुलना में एक महत्वपूर्ण सुधार है, विशेष रूप से जब कंडीशन नंबर $\kappa$ बड़ा हो।
$q$ से स्वतंत्रता: एक प्रमुख सैद्धांतिक निष्कर्ष यह है कि विचरण न्यूनीकरण अभिसरण की स्थिति को रैंडम दिशाओं की संख्या से अलग (decouple) कर देता है, जिससे अधिक लचीला पैरामीटर चयन संभव होता है।

प्रायोगिक परिणाम (Experimental Results)
लेखक दो प्राथमिक कार्यों पर अपने तरीकों को मान्य करते हैं:

रिज रिग्रेशन (Ridge Regression): सिंथेटिक डेटा का उपयोग करते हुए, प्रस्तावित विचरण-न्यूनीकृत एल्गोरिदम (VR-SZHT, SAGA-SZHT, SARAH-SZHT) लगातार वैनिला SZOHT और फुल-ग्रेडिएंट ZOHT (FGZOHT) से बेहतर प्रदर्शन करते हैं। वे कम हार्ड-थ्रेशोल्डिंग ऑपरेशंस (NHT) और प्रतिस्पर्धी ज़ीरो-ऑर्डर ऑरेकल कॉल्स (IZO) के साथ कम फंक्शन वैल्यू प्राप्त करते हैं।
ब्लैक-बॉक्स एडवरसेरियल अटैक्स: इन विधियों को CIFAR-10 डेटासेट के विरुद्ध एक ब्लैक-बॉक्स क्लासिफायर के खिलाफ स्पार्स यूनिवर्सल एडवरसेरियल परटर्बेशन उत्पन्न करने के लिए लागू किया गया है। परिणाम दर्शाते हैं कि विचरण-न्यूनीकृत विधियाँ, विशेष रूप से SARAH-SZHT और SAGA-SZHT, SZOHT की तुलना में उच्च हमला सफलता दर (attack success rates) और कम लॉस वैल्यू प्राप्त करती हैं। उदाहरण के लिए, SARAH-SZHT ने "एयरोप्लेन" क्लास की 10 में से 7 छवियों पर सफलतापूर्वक हमला किया, जो SZOHT से बेहतर है।

महत्व और दावे (Significance and Claims)
यह शोध पत्र दावा करता है कि यह विचरण न्यूनीकरण के बारे में एक "नया दृष्टिकोण" प्रदान करता है, इसे केवल एक स्पीड-अप तंत्र के रूप में नहीं बल्कि ZO अनुमानों और हार्ड-थ्रेशोल्डिंग ऑपरेटरों के बीच अद्वितीय विरोधाभासों को कम करने के लिए एक आवश्यक उपकरण के रूप में फ्रेम करता है। इस कार्य का महत्व निम्नलिखित में निहित है:

प्रतिबंधों को शिथिल करना: यह SZOHT में पाए जाने वाले रैंडम दिशाओं ( $q$ ) के निषेधात्मक प्रतिबंधों को हटा देता है, जिससे ZO हार्ड-थ्रेशोल्डिंग वास्तविक दुनिया की समस्याओं की एक विस्तृत श्रृंखला के लिए व्यवहार्य हो जाता है।
सामान्य ढांचा: यह एक सामान्य विश्लेषण ढांचा (pM-SZHT) स्थापित करता है जिसमें विभिन्न विचरण-न्यूनीकृत ZO विधियाँ शामिल हैं, जो एक एकीकृत सैद्धांतिक समझ प्रदान करता है।
व्यावहारिक उपयोगिता: एडवरसेरियल अटैक्स और रिग्रेशन पर प्रायोगिक परिणाम दर्शाते हैं कि ये तरीके स्पर्सिटी बाधाओं को बनाए रखते हुए अत्याधुनिक ZO एल्गोरिदम के प्रतिस्पर्धी या बेहतर प्रदर्शन प्राप्त कर सकते हैं।

लेखक निष्कर्ष निकालते हैं कि उनका दृष्टिकोण मौजूदा एल्गोरिदम को प्रभावी ढंग से बढ़ाता है, जो स्पार्स ज़ीरो-ऑर्डर ऑप्टिमाइज़ेशन के लिए अधिक लचीला और लचीला समाधान प्रदान करता है, जहाँ ग्रेडिएंट अप्राप्य होते हैं।