⚡ electrical engineering

Modified Pseudo-Huber Loss Based Zero-Attraction LMS Algorithm for Sparse Systems

यह शोध पत्र एक नवीन ZA-MP-HL-LMS एडेप्टिव फ़िल्टर प्रस्तावित करता है जो स्पार्स सिस्टम आइडेंटिफिकेशन में स्पर्सिटी प्रमोशन और स्थिरता को बढ़ाने के लिए एक संशोधित स्यूडो-ह्यूबर लॉस फंक्शन का उपयोग करता है, जिसे व्यापक सैद्धांतिक अभिसरण विश्लेषण द्वारा समर्थित किया गया है और सिमुलेशन के माध्यम से अत्याधुनिक विधियों पर श्रेष्ठ प्रदर्शन प्रदर्शित किया गया है।

मूल लेखक: S. Radhika, A. Chandrasekar, F. Albu

प्रकाशित 2026-08-10

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: S. Radhika, A. Chandrasekar, F. Albu

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप शोर से भरे समुद्र में एक स्पष्ट स्टेशन पकड़ने के लिए एक विशाल, जटिल रेडियो को ट्यून करने की कोशिश कर रहे हैं। सिग्नल प्रोसेसिंग की दुनिया में, यह एक "एडेप्टिव फ़िल्टर" (अनुकूलनशील फ़िल्टर) का काम है। इसे एक स्मार्ट, स्व-समायोजन करने वाले इक्वलाइज़र के रूप में सोचें जो एक अज्ञात ध्वनि स्रोत के साथ मेल खाने के लिए अपने नॉब्स (बटन) को लगातार ट्यून करता है, जैसे कि पानी के नीचे के शोर वाले चैनल के माध्यम से यात्रा करती कोई आवाज़ या किसी इमारत से टकराता हुआ टीवी सिग्नल। आमतौर पर, ये फ़िल्टर हर एक नॉब (या गुणांक/कोएफिशिएंट) को समान रूप से महत्वपूर्ण मानते हैं, और पूरे क्षेत्र में स्टैटिक (त्रुटि) को कम करने की कोशिश करते हैं। लेकिन यहाँ एक मोड़ है: कई वास्तविक दुनिया के परिदृश्यों में, जैसे कि पानी के नीचे की ध्वनिकी (अंडरवॉटर एकॉस्टिक्स) या टीवी ट्रांसमिशन में, "वास्तविक" सिग्नल वास्तव में स्पार्स (विरल) होता है। इसका मतलब है कि सैकड़ों नॉब्स में से केवल कुछ ही सक्रिय होते हैं; बाकी अनिवार्य रूप से शांत हैं, शून्य पर बैठे हैं।

समस्या यह है कि मानक ट्यूनिंग विधियाँ एक अनाड़ी विशालकाय व्यक्ति की तरह हैं जो उन कुछ सक्रिय नॉब्स को खोजने की कोशिश कर रहा है; वे शांत नॉब्स को समायोजित करने में ऊर्जा बर्बाद करते हैं, जिससे परिणाम धीमा और धुंधला हो जाता है। इसे ठीक करने के लिए, वैज्ञानिकों ने "ज़ीरो-अट्रैक्शन" (शून्य-आकर्षण) तकनीक विकसित की है। कल्पना कीजिए कि एक चुंबकीय बल है जो शांत नॉब्स को "ऑफ" स्थिति (शून्य) की ओर धीरे से खींचता है ताकि फ़िल्टर अपना ध्यान उन चीज़ों पर केंद्रित कर सके जो वास्तव में महत्वपूर्ण हैं। हालाँकि, मौजूदा चुंबकों में खामियां हैं: कुछ बहुत कमजोर हैं, कुछ बहुत आक्रामक हैं और गलती से महत्वपूर्ण नॉब्स को भी कम कर देते हैं, और कुछ शोर के अचानक उछाल (जैसे हमारे रेडियो एनालॉजी में बिजली का कड़कना) को संभालने के लिए बहुत खुरदरे हैं। यह शोध पत्र एक नए, स्मार्ट चुंबकीय उपकरण के बारे में है जिसे इन विशिष्ट समस्याओं को हल करने के लिए डिज़ाइन किया गया है।

शोधकर्ता, एस. राधाका, ए. चंद्रशेखर और एफ. अल्बू, एक नया गणितीय "चुंबक" पेश करते हैं जिसे मॉडिफाइड स्यूडो-हूबर लॉस (MP-HL) कहा जाता है। यह समझने के लिए कि यह क्यों विशेष है, पुराने तरीकों को एक कुंद हथौड़े के रूप में देखें। यदि कोई गुणांक छोटा है, तो हथौड़ा उसे शून्य की ओर धकेलने के लिए ज़ोर से मारता है, लेकिन यदि गुणांक बड़ा है, तो हथौड़ा उसे भी उतनी ही ज़ोर से मारता है, जो अनुचित है और त्रुटियां पैदा करता है। नया MP-HL फंक्शन एक स्मार्ट, आकार बदलने वाले दस्ताने की तरह है। जब यह एक छोटे, शांत गुणांक को छूता है, तो यह इसे शून्य की ओर मजबूती से दबाता है, जिससे शोर प्रभावी रूप से शांत हो जाता है। लेकिन जब यह एक बड़े, महत्वपूर्ण गुणांक को छूता है, तो यह नरम और कोमल हो जाता है, जिससे वह बिना किसी दबाव के बिल्कुल वहीं रह सके जहाँ उसे होना चाहिए। यह "दस्ताना" स्यूडो-हूबर लॉस की अवधारणा पर बना है, जो पहले से ही अपनी सुगमता और स्थिरता के लिए जाना जाता है, लेकिन लेखकों ने इसे शून्य बिंदु के आसपास अधिक तीक्ष्ण (शार्प) बनाने के लिए संशोधित किया है, जिससे यह सिग्नल के बेकार हिस्सों को पहचानने और उन्हें शांत करने में बहुत बेहतर हो गया है।

इस नए दस्ताने का उपयोग करके, टीम ने एक लोकप्रिय एल्गोरिदम का एक नया संस्करण बनाया है जिसे ZA-MP-HL-LMS कहा जाता है। उन्होंने केवल यह अनुमान नहीं लगाया कि यह काम करेगा; उन्होंने इसके लिए भारी गणितीय गणना की। उन्होंने एल्गोरिदम के "सड़क के नियम" (रूल्स ऑफ द रोड) की गणना की, जिससे यह दिखाया कि सिस्टम अस्थिर होने से पहले कदम (लर्निंग रेट) कितने बड़े हो सकते हैं। उन्होंने वास्तविक दुनिया में इसके व्यवहार को देखने के लिए सिमुलेशन भी चलाए। अपने परीक्षणों में, उन्होंने 16 "नॉब्स" वाला एक सिस्टम सेट किया और 30 dB के सिग्नल-टू-नॉइज़ रेशियो वाले शोर वाले वातावरण का अनुकरण किया। उन्होंने देखा कि एल्गोरिदम कैसे अनुकूलित होता है जब सिस्टम अत्यंत स्पार्स (केवल एक सक्रिय नॉब) से मध्यम स्पार्स और अंततः एक गैर-स्पार्स सिस्टम (जहाँ सभी नॉब्स सक्रिय थे) में बदल जाता है।

परिणाम, जो उनके कंप्यूटर सिमुलेशन में दिखाए गए हैं, यह सुझाव देते हैं कि यह नया दृष्टिकोण एक मजबूत दावेदार है। अन्य लोकप्रिय विधियों जैसे ZA-LMS, RZA-LMS और $l_0$ -LMS की तुलना में, नया ZA-MP-HL-LMS एल्गोरिदम लगातार तेज़ गति से स्पष्ट सिग्नल तक पहुँचता है और कम त्रुटि के साथ अधिक सटीक अवस्था में स्थिर होता है। सिमुलेशन ने दिखाया कि एक विशिष्ट "ज़ीरो-अट्रैक्शन" पैरामीटर (जिसे $\rho$ द्वारा दर्शाया गया है) और एक स्केलिंग फैक्टर ( $a$ ) को सावधानीपूर्वक ट्यून करके, यह एल्गोरिदम अपने प्रतिद्वंद्वियों से बेहतर प्रदर्शन कर सकता है। उदाहरण के लिए, लंबे सिस्टम (1024 टैप तक) के परीक्षणों में, नई विधि ने कम 'स्टेडी-स्टेट एरर' बनाए रखा, जिसका अर्थ है कि रेडियो पर "स्टैटिक" अन्य विधियों की तुलना में कम रहा। लेखकों ने यह भी नोट किया कि स्केलिंग पैरामीटर $a$ का चयन एक संतुलन कार्य है: छोटे मान (जैसे $a \le 0.1$ ) गुणांकों को बहुत आक्रामक रूप से शून्य की ओर धकेलते हैं, जो अभिसरण (कन्वर्जेंस) को तेज़ करता है लेकिन थोड़ा उच्च एरर फ्लोर छोड़ सकता है, जबकि बड़े मान (जैसे $a \ge 2$ ) अधिक सौम्य होते हैं, जो धीमी गति से अभिसरण की ओर ले जाते हैं लेकिन संभावित रूप से कम अंतिम त्रुटि देते हैं।

अंततः, यह शोध पत्र सुझाव देता है कि सिग्नल के शांत हिस्सों को शून्य की ओर गणितीय रूप से कैसे "खींचा" जाता है, इसे परिष्कृत करके, हम स्पार्स सिस्टम के लिए स्मार्ट, तेज़ और अधिक मजबूत फ़िल्टर बना सकते हैं। हालांकि निष्कर्ष भौतिक हार्डवेयर परीक्षणों के बजाय सिमुलेशन पर आधारित हैं, गणितीय विश्लेषण और विभिन्न सिस्टम लंबाई (16 से 1024 टैप) में निरंतर प्रदर्शन इस बात का पुख्ता मामला प्रदान करते है कि यह संशोधित लॉस फंक्शन सिग्नल प्रोसेसिंग टूल्स की अगली पीढ़ी के लिए एक आशाजनक अपग्रेड है। लेखक निष्कर्ष निकालते हैं कि यह दृष्टिकोण गति, सटीकता और शोर को संभालने की क्षमता के बीच एक बेहतर संतुलन प्रदान करता है, जो इन मापदंडों को वास्तविक समय में स्वचालित रूप से ट्यून करने के भविष्य के कार्य का मार्ग प्रशस्त करता है।

तकनीकी सारांश: विरल प्रणालियों (Sparse Systems) के लिए संशोधित स्यूडो-हूबर लॉस आधारित ज़ीरो-अट्रैक्शन LMS एल्गोरिदम

समस्या विवरण
सिग्नल प्रोसेसिंग में एडेप्टिव फिल्टर अत्यंत आवश्यक हैं, विशेष रूप से उन विरल प्रणालियों (sparse systems) की पहचान करने के लिए जहाँ आवेग प्रतिक्रिया (impulse response) में गैर-शून्य गुणांकों की तुलना में काफी अधिक शून्य के निकट मान वाले गुणांक होते हैं (जैसे कि अंडरवॉटर ध्वनिक चैनल)। जबकि मानक लीस्ट मीन स्क्वायर (LMS) एल्गोरिदम अपने सरलता के कारण व्यापक रूप से उपयोग किया जाता है, यह एक मीन स्क्वायर एरर (MSE) कॉस्ट फंक्शन का उपयोग करता है जो सिस्टम की विरलता (sparsity) का लाभ नहीं उठा पाता है, जिससे ऐसी स्थितियों में उप-इष्टतम (suboptimal) प्रदर्शन होता है।

मौजूदा स्पैरसिटी-अवेयर समाधान, जैसे कि प्रोपोर्शनेट विधियाँ और ज़ीरो-अट्रैक्शन (ZA) तंत्र, इस समस्या को हल करने का प्रयास करते हैं। हालाँकि, मानक ZA-LMS एल्गोरिदम एक विशिष्ट सीमा से ग्रस्त हैं: वे सभी गुणांकों पर एक समान दंड (uniform penalty) (via $l_1$ norm) लागू करते हैं। इसके परिणामस्वरूप बड़े गुणांकों को छोटे गुणांकों की तुलना में अधिक दंडित किया जाता है, जिससे महत्वपूर्ण सिस्टम टैप्स (taps) विकृत हो सकते हैं। इसके विपरीत, जबकि स्यूडो-हूबर लॉस (P-HL) फंक्शन सुगमता (smoothness), उत्तलता (convexity) और $l_2$ तथा $l_1$ व्यवहार के बीच संक्रमण प्रदान करता है, इसका मानक रूप सटीक स्पैरसिटी (exact sparsity) को प्रभावी ढंग से लागू करने की क्षमता नहीं रखता है। इसका ग्रेडिएंट गुणांक के परिमाण के समानुपाती होता है, जिससे एक समान आकर्षण (uniform attraction) उत्पन्न होता है जो छोटे गुणांकों को पर्याप्त रूप से दबाने में विफल रहता है और बड़े गुणांकों को सुरक्षित रखने में भी अक्षम है, और इसमें इम्पल्सिव नॉइज़ के विरुद्ध मजबूती का अभाव है।

कार्यप्रणाली (Methodology)
इन सीमाओं को दूर करने के लिए, लेखक एक संशोधित स्यूडो-हूबर लॉस (MP-HL) फंक्शन प्रस्तावित करते हैं और इसे ज़ीरो-अट्रैक्शन LMS फ्रेमवर्क में एकीकृत करते हैं, जिसके परिणामस्वरूप ZA-MP-HL-LMS एल्गोरिदम प्राप्त होता है।

संशोधित कॉस्ट फंक्शन: लेखक पारंपरिक स्यूडो-हूबर लॉस के ग्रेडिएंट को संशोधित करते हैं। ग्रेडिएंट में सीधे गुणांक मान $g(n)$ का उपयोग करने के बजाय, वे इसे साइन फंक्शन $sgn[g(n)]$ से बदलते हैं।
- मानक स्यूडो-हूबर ग्रेडिएंट $J'(g) = \frac{|a|g}{\sqrt{g^2 + a^2}}$ है।
- प्रस्तावित संशोधित ग्रेडिएंट $J'_M(g) = sgn[g] \frac{|a|}{\sqrt{g^2 + a^2}}$ है।
- यह संशोधन एक ऐसा कॉस्ट फंक्शन बनाता है (जो इनवर्स हाइपरबोलिक साइन, $sinh^{-1}$ से संबंधित है) जो नॉन-लीनियर और सिमेट्रिक है। यह छोटे गुणांकों पर अधिक प्रभाव डालता है (उन्हें सटीक शून्य बनने के लिए प्रोत्साहित करता है) जबकि मूल बिंदु (origin) से दूर स्थित गुणांकों पर कम प्रभाव डालता है, जिससे महत्वपूर्ण टैप्स में पक्षपात (bias) से बचा जा सके।
एल्गोरिदम फॉर्मूलेशन: नए कॉस्ट फंक्शन को मानक LMS एरर टर्म और एक रेगुलराइजेशन पैरामीटर $\beta$ के साथ जोड़ा गया है। ग्रेडिएंट डिसेंट का उपयोग करके, ZA-MP-HL-LMS के लिए वेट अपडेट नियम व्युत्पन्न किया गया है:
$\mathbf{g}(n+1) = \mathbf{g}(n) + \mu e(n)\mathbf{x}(n) - \rho \frac{sgn[\mathbf{g}(n)]}{\sqrt{\|\mathbf{g}(n)\|^2 + a^2}}$
जहाँ $\rho$ ज़ीरो-अट्रैक्शन पैरामीटर है और $a$ एक स्केलिंग पैरामीटर है जो क्वाड्रेटिक और लीनियर व्यवहार के बीच संक्रमण को नियंत्रित करता है।
सैद्धांतिक विश्लेषण: शोध पत्र ऊर्जा संरक्षण संबंधों (energy conservation relations) का उपयोग करके एक कठोर सैद्धांतिक विश्लेषण प्रदान करता है:
- मीन कन्वर्जेंस (Mean Convergence): एल्गोरिदम को मानक LMS के समान स्टेप-साइज़ स्थिति ( $0 < \mu < 1/\lambda_{max}$ ) के तहत मीन सेंस में स्थिर दिखाया गया है। विश्लेषण इंगित करता है कि एल्गोरिदम एक बायस्ड एस्टीमेट उत्पन्न करता है, लेकिन इस बायस को विरल प्रणालियों में निम्न MSE प्राप्त करने के लिए प्रबंधित किया जा सकता है।
- मीन स्क्वायर कन्वर्जेंस (Mean Square Convergence): मीन स्क्वायर स्थिरता के लिए स्टेप साइज़ की एक सीमा व्युत्पन्न की गई है। स्टेडी-स्टेट एक्स्ट्रास मीन स्क्वायर एरर (EMSE) का विश्लेषण किया गया है, जो ज़ीरो-अट्रैक्शन पैरामीटर $\rho$ के चयन के लिए मार्गदर्शन प्रदान करता है ताकि यह सुनिश्चित किया जा सके कि स्टेडी-स्टेट MSE मानक LMS की तुलना में कम हो।

प्रमुख योगदान
यह शोध पत्र तीन प्राथमिक योगदानों को रेखांकित करता है:

नवीन एल्गोरिदम विकास: प्रस्तावित संशोधित स्यूडो-हूबर लॉस फंक्शन पर आधारित ZA-MP-HL-LMS एडेप्टिव फिल्टर का परिचय, जिसे स्पैरसिटी प्रमोशन बनाए रखते हुए सुगमता और अवकलनीयता (differentiability) बढ़ाने के लिए डिज़ाइन किया गया है।
सैद्धांतिक विश्लेषण: अभिसरण स्थितियों (मीन और मीन स्क्वायर), स्टेडी-स्टेट MSE विश्लेषण और स्टेप-साइज़ सीमाओं का एक व्यापक व्युत्पन्न। महत्वपूर्ण रूप से, शोध पत्र मानक LMS से बेहतर प्रदर्शन सुनिश्चित करने के लिए ज़ीरो-अट्रैक्शन पैरामीटर चुनने के लिए विशिष्ट मार्गदर्शन प्रदान करता है।
प्रदर्शन सत्यापन: विभिन्न स्पैरसिटी स्तरों और फ़िल्टर लंबाई ( $N=16$ से $1024$) के लिए सिस्टम आइडेंटिफिकेशन कार्यों हेतु व्यापक सिमुलेशन।

सिमुलेशन परिणाम
सिस्टम आइडेंटिफिकेशन कार्यों के लिए सिमुलेशन किए गए जहाँ विभिन्न स्पैरसिटी स्तर और फ़िल्टर लंबाई ( $N=16$ से $1024$) का उपयोग किया गया।

स्पैरसिटी स्तर: एल्गोरिदम ने अत्यधिक विरल प्रणालियों में अनुकूल प्रदर्शन प्रदर्शित किया, जहाँ पैरामीटर $p'$ (जो स्टेडी-स्टेट एरर बाउंड से संबंधित है) सकारात्मक बना रहा, जो ज़ीरो-अट्रैक्शन तंत्र की प्रभावशीलता की पुष्टि करता है।
ट्रैकिंग क्षमता: जब सिस्टम की स्पैरसिटी गतिशील रूप से बदलती है (जैसे, अत्यंत विरल से गैर-विरल की ओर शिफ्ट होना), तो ZA-MP-HL-LMS ने मौजूदा एल्गोरिदम की तुलना में बेहतर ट्रैकिंग क्षमता प्रदर्शित की।
पैरामीटर संवेदनशीलता:
- स्केलिंग पैरामीटर ( $a$ ): छोटे मान ( $a \le 0.1$ ) स्पैरसिटी को अधिक आक्रामक रूप से लागू करते हैं, जिससे तेज़ अभिसरण होता है लेकिन अत्यंत विरल प्रणालियों में संभावित रूप से उच्च स्टेडी-स्टेट MSE होता है। बड़े मान ( $a \ge 2$ ) कोमल आकर्षण (gentler attraction) प्रदान करते हैं, जिसके परिणामस्वरूप धीमा अभिसरण होता है लेकिन कम स्टेडी-स्टेट MSE होता है।
- स्टेप साइज़ ( $\mu$ ) और अट्रैक्शन ( $\rho$ ): इष्टतम चयन महत्वपूर्ण पाया गया; अत्यधिक $\rho$ के कारण ओवर-पेनलाइजेशन होता है और प्रदर्शन गिर जाता है।
तुलना: विभिन्न टैप लेंथ और स्पैरसिटी स्तरों में, प्रस्तावित एल्गोरिदम ने लगातार ZA-LMS, RZA-LMS, $l_0$ -LMS और VZA-LMS की तुलना में कम स्टेडी-स्टेट MSE प्राप्त किया।

महत्व और दावे
शोध पत्र का दावा है कि संशोधित स्यूडो-हूबर लॉस को ज़ीरो-अट्रैक्शन तंत्र के साथ एकीकृत करने से पिछले तरीकों में पाई जाने वाली स्पैरसिटी एनफोर्समेंट और गुणांक बायस (coefficient bias) के बीच के ट्रेड-ऑफ को सफलतापूर्वक संबोधित किया गया है। शून्य के निकट गुणांकों के लिए ग्रेडिएंट को तीव्र करके और महत्वपूर्ण वेट्स के लिए इसे सपाट करके, प्रस्तावित विधि तेज़ अभिसरण और बेहतर मॉडलिंग सटीकता प्राप्त करती है। लेखक निष्कर्ष निकालते हैं कि ZA-MP-HL-LMS एल्गोरिदम विरल सिस्टम आइडेंटिफिकेशन के लिए एक मजबूत समाधान प्रदान करता है, जो अभिसरण गति और स्टेडी-स्टेट एरर दोनों में वर्तमान अत्याधुनिक दृष्टिकोणों से बेहतर प्रदर्शन करता है, विशेष रूप से इम्पल्सिव या हेवी-टेल्ड नॉइज़ वाले वातावरण में। भविष्य के कार्य में ज़ीरो-अट्रैक्शन पैरामीटर को गतिशील रूप से ट्यून करने के लिए एडेप्टिव रणनीतियों का पता लगाने का सुझाव दिया गया है।

इसी तरह के और पेपर