← नवीनतम पेपर
💻 computer science

Spectral bias mitigation in physics-informed neural surrogates for nonlinear structural dynamics: Fourier feature encoding versus Kolmogorov-Arnold representations

यह अध्ययन प्रदर्शित करता है कि जबकि कोल्मोगोरोव-आर्नोल्ड नेटवर्क (KANs) गैररेखीय संरचनात्मक गतिशीलता में मानक MLPs की तुलना में स्वाभाविक रूप से स्पेक्ट्रल बायस को बेहतर ढंग से कम करते हैं, फूरियर फीचर एनकोडिंग का अनुप्रयोग सटीकता के लिए प्रमुख कारक है, जिससे फूरियर-उन्नत MLPs, प्लेन KANs और फूरियर-उन्नत KANs दोनों से श्रेष्ठ हो जाते हैं, जो ग्रेडिएंट ऑसिलेशन के कारण प्रदर्शन में गिरावट का शिकार होते हैं जो भौतिकी-सूचित अनुकूलन (physics-informed optimization) के साथ असंगत है।

मूल लेखक: Salih Berkan Aydemir

प्रकाशित 2026-07-15
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Salih Berkan Aydemir

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को यह भविष्यवाणी करना सिखाने की कोशिश कर रहे हैं कि भूकंप के दौरान एक इमारत कैसे डगमगाती है। इमारत केवल एक धीमी, सरल लय में आगे-पीछे नहीं डगमगाती; यह धीमी, भारी लहरों और तेज़, झटकेदार कंपन के एक जटिल मिश्रण के साथ कंपन करती है। यह नॉनलीन स्ट्रक्चरल डायनेमिक्स (nonlinear structural dynamics) की दुनिया है, और लंबे समय तक, इन समस्याओं को हल करने के लिए उपयोग किए जाने वाले मानक रोबोट दिमागों (जिन्हें MLPs या मल्टीलेयर पर्सेप्ट्रॉन्स कहा जाता है) में एक बड़ी खामी थी।

समस्या: "स्पेक्ट्रल बायस" (Spectral Bias) की अंधापन

इन मानक रोबोट दिमागों को एक ऐसे रेडियो की तरह समझें जो केवल 'बेस' (bass) पकड़ सकता है। वे धीमी, कम-आवृत्ति (low-frequency) वाली गतिविधियों (भूकंप की गहरी गूँज) को सीखने में माहिर हैं, लेकिन वे उच्च-पिच वाली, तेज़ कंपनों (तेज़ थरथराहट) को पूरी तरह से अनदेखा कर देते हैं। वैज्ञानिक दुनिया में, इसे स्पेक्ट्रल बायस (spectral bias) कहा जाता है। चाहे आप उन्हें कितना भी लंबे समय तक प्रशिक्षित करें, वे उच्च स्वरों को नहीं सुन पाते, जिससे उनकी भविष्यवाणियाँ एक सपाट रेखा की तरह दिखती हैं, जबकि वास्तव में इमारत हिंसक रूप से हिल रही होती है।

दावेदार: रेडियो को ठीक करने के दो नए तरीके

शोधकर्ताओं ने यह देखने के लिए एक दौड़ आयोजित की कि इसे कैसे ठीक किया जाए। उन्होंने चार अलग-अलग रोबोट मस्तिष्क डिजाइनों का परीक्षण किया, लेकिन एक सख्त नियम के साथ: प्रत्येक मस्तिष्क में ठीक समान संख्या में "न्यूरॉन्स" (लगभग 16,400 पैरामीटर) होने चाहिए। यह सुनिश्चित करने के लिए कि दौड़ निष्पक्ष हो।

उन्होंने दो मुख्य विचारों का परीक्षण किया:

  1. "फूरियर फीचर" (Fourier Feature) अपग्रेड: यह ऐसा है जैसे रोबोट को एक विशेष चश्मा देना जो इनपुट समय को साइन (sine) और कोसाइन (cosine) तरंगों के उच्च-आयामी मानचित्र में बदल देता है। यह रोबोट को शुरुआत से ही उच्च आवृत्तियों को देखने के लिए मजबूर करता है।
  2. "KAN" मस्तिष्क: यह एक नया प्रकार का मस्तिष्क (कोलमोगोरोव-आर्नोल्ड नेटवर्क) है जहाँ न्यूरॉन्स के बीच के संबंध स्थिर नहीं होते; वे सीखने योग्य, लचीली वक्र रेखाएं (विशेष रूप से चेबिशेव पॉलिनोमियल का उपयोग करके) हैं। यह ऐसा है जैसे रोबोट को अपने स्वयं के आंतरिक वायरिंग को डेटा के आकार के अनुसार ढालने की क्षमता देना।

दौड़: चार अलग-अलग भूकंप परिदृश्य

रोबोटों का परीक्षण चार बहुत अलग चुनौतियों पर किया गया:

  • बौक-वेन (Bouc–Wen): एक प्रणाली जो एक चिपचिपे, प्लास्टिक जैसे पदार्थ की तरह व्यवहार करती है जो मुड़ जाती है और पूरी तरह से वापस नहीं आती (हिस्टेरेटिक व्यवहार)।
  • डफिंग (Duffing): एक प्रणाली जिसमें "डबल-वेल" ऊर्जा का आकार होता है, जैसे दो पहाड़ियों के बीच लुढ़कती हुई गेंद।
  • वैन डेर पोल (Van der Pol): एक प्रणाली जो अपनी खुद की लय बनाती है, जैसे दिल की धड़कन या पंख का फड़फड़ाना।
  • 3-DOF बिल्डिंग: एक तीन मंजिला इमारत जो एक साथ कई मोड में डगमगा रही है।

परिणाम: कौन जीता?

परिणाम आश्चर्यजनक और बहुत स्पष्ट थे।

1. चश्मे की जीत हुई
सबसे बड़ी खोज यह थी कि फूरियर फीचर एनकोडिंग (विशेष चश्मा) सबसे महत्वपूर्ण कारक था। जब शोधकर्ताओं ने इन चश्मों को मानक MLP मस्तिष्क पर लगाया, तो वह एक सुपरस्टार बन गया।

  • डफिंग और वैन डेर पोल परीक्षणों में, "फूरियर-MLP" ने अपनी त्रुटि (error) को अत्यंत निम्न स्तर तक कम कर दिया, जिससे L2 एरर 0.001 से नीचे (इन बेंचमार्क के लिए लगभग पूर्ण सटीकता) प्राप्त हुई।
  • बौक-वेन और 3-DOF बिल्डिंग परीक्षणों में, इसने त्रुटियों को 98.6% से 99.7% तक कम कर दिया।
  • इन चश्मों के बिना, मानक MLP पूरी तरह विफल रहा, जिसने लगभग शून्य गति की भविष्यवाणी की (त्रुटि लगभग 1.0 के करीब)।

2. KAN मस्तिष्क: अच्छा, लेकिन केवल बिना चश्मे के
KAN-ओनली मस्तिष्क (बिना फूरियर चश्मे के) वास्तव में काफी चतुर था। वैन डेर पोल परीक्षण में, यह साधारण MLP की तुलना में 3.5 गुना बेहतर था क्योंकि इसके लचीले आंतरिक वक्र एक अंतर्निहित फ्रीक्वेंसी डिकोडर की तरह काम करते थे। हालांकि, यह फूरियर-MLP का मुकाबला नहीं कर सका।

3. विरोधाभास: मिलाने से चीजें खराब हो गईं
यहाँ एक मोड़ है जो शोधकर्ताओं ने पाया बहुत दिलचस्प था। जब उन्होंने फूरियर चश्मे को KAN मस्तिष्क के साथ मिलाने की कोशिश की (एक "FPIKAN" बनाने के लिए), तो प्रदर्शन बिगड़ गया

  • डफिंग परीक्षण में, KAN मस्तिष्क में चश्मा जोड़ने से वास्तव में त्रुटि 201.7% बढ़ गई (यह KAN मस्तिष्क अकेले की तुलना में तीन गुना बदतर हो गया)।
  • वैन डेर पोल परीक्षण में, इससे त्रुटि 9.0% बढ़ गई

मिश्रण क्यों विफल हुआ?

लेखक इसे "ग्रेडिएंट फ्लो" (gradient flow) की अवधारणा का उपयोग करके समझाते हैं, जो यह तय करता है कि रोबोट अपनी गलतियों से कैसे सीखता है।

  • फूरियर चश्मे एक बहुत ही सुचारू, आसान रास्ता बनाते हैं जिससे रोबोट सीख सके।
  • KAN मस्तिष्क के आंतरिक वक्र (चेबिशेव पॉलिनोमियल) बहुत ही टेढ़े-मेढ़े और जटिल होते हैं। जब आप KAN मस्तिष्क को फूरियर चश्मे के माध्यम से देखने के लिए मजबूर करते हैं, तो "सीखने के संकेत" (ग्रेडिएंट्स) बेतहाशा दोलन करने लगते हैं। यह एक उच्च-प्रदर्शन वाली रेस कार (KAN) को एक बिल्कुल चिकने ट्रैक (Fourier) पर चलानेने जैसा है, लेकिन कार का सस्पेंशन इतना संवेदनशील है कि चिकनाई के कारण वह खुद को हिलाकर तोड़ देती है। गणित बहुत जटिल हो जाता है जिससे रोबोट के लिए सटीक समाधान ढूंढना मुश्किल हो जाता है।

अंतिम निर्णय

अध्ययन यह निष्कर्ष निकालता है कि संरचनाओं की गति की भविष्यवाणी करने के लिए, इनपुट प्रतिनिधित्व (चश्मा) मस्तिष्क की वास्तुकला (architecture) से अधिक महत्वपूर्ण है

  • विजेता: फूरियर-MLP (मानक मस्तिष्क + फूरियर चश्मा)। यह सबसे सटीक, प्रशिक्षित करने में सबसे तेज़ और उपयोग करने में सबसे सरल था।
  • उपविजेता: KAN-ओनली मस्तिष्क। यदि आप पहले से फ्रीक्वेंसी रेंज नहीं जानते हैं, तो यह दूसरा सबसे अच्छा विकल्प है, लेकिन यह फूरियर-MLP जितना अच्छा नहीं है।
  • हारने वाला: FPIKAN (KAN + फूरियर)। पेपर स्पष्ट रूप से तर्क देता है कि इन दोनों विशिष्ट तकनीकों को मिलाना उल्टा असर डालता है और वर्तमान रूप में इससे बचना चाहिए।

संक्षेप में, यदि आप चाहते हैं कि आपका रोबोट इमारतों के कंपन की भविष्यवाणी करे, तो केवल एक शानदार मस्तिष्क न बनाएं; उसे सही चश्मा दें ताकि वह उच्च-आवृत्ति विवरण देख सके। और इन शानदार मस्तिष्क को चश्मे के साथ मिलाने की कोशिश न करें, अन्यथा आप पूरे सिस्टम को खराब कर सकते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →