An Embedded RISC-V Evaluation of Kolmogorov--Arnold Networks in Hard-Constrained Recurrent Physics-Informed Models
यह शोध पत्र यह प्रदर्शित करता है कि जबकि कोलमोगोरोव-आर्नोल्ड नेटवर्क (KANs), हार्ड-कंस्ट्रेंड रिकरेंट फिजिक्स-इन्फॉर्म्ड मॉडल्स में रेसिडुअल ब्रांचेस के रूप में पैरामीटर दक्षता प्रदान करते हैं, वे एम्बेडेड RISC-V कोर्स पर निष्पादन विलंबता (execution latency), ऊर्जा खपत और क्वांटाइजेशन के प्रति मजबूती के मामले में मल्टीलेयर पर्सेप्ट्रॉन्स (MLPs) से काफी कम प्रदर्शन करते हैं, जो MLPs को ऐसे डिप्लॉयमेंट्स के लिए अधिक भरोसेमंद डिफॉल्ट बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट बना रहे हैं जिसे सही ढंग से चलने के लिए भौतिकी के नियमों को समझने की आवश्यकता है। यदि आप केवल रोबोट को लाखों तस्वीरों को देखकर यह अनुमान लगाने के लिए सिखाते हैं कि चीजें कैसे चलती हैं, तो वह कुछ नया देखते ही भ्रमित हो सकता है, या इससे भी बुरा, वह कोई ऐसी खतरनाक गलती कर सकता है क्योंकि उसने भौतिकी का एक ऐसा नियम "कल्पना" (hallucinate) कर लिया जो अस्तित्व में ही नहीं है। इसे ठीक करने के लिए, वैज्ञानिक एक चतुर तरकीब का उपयोग करते हैं जिसे "फिजिक्स-इन्फॉर्म्ड" (भौतिकी-सूचित) मॉडल कहा जाता है। इसे ऐसे समझें जैसे रोबोट को ज्ञात नियमों (जैसे गुरुत्वाकर्षण या घर्षण) की एक पाठ्यपुस्तक देना और उसे कहना, "तुम इन नियमों को पूरी तरह से जानते हो। अब, बस अपने दिमाग का उपयोग करके उन छोटे, उलझे हुए विवरणों को समझने की कोशिश करो जिन्हें पाठ्यपुस्तक ने छोड़ दिया था।" यह "दिमाग" आमतौर पर एक सरल, तेज़ कंप्यूटर प्रोग्राम होता है जिसे न्यूरल नेटवर्क कहा जाता है।
हाल ही में, एक नए प्रकार के न्यूरल नेटवर्क, जिसे कोलमोगोरोव-आर्नोल्ड नेटवर्क (या संक्षेप में KAN) कहा जाता है, बहुत लोकप्रिय हुआ है। इसे पुराने "दिमाग" के एक सुपर-कुशल, हल्के संस्करण के रूप में प्रचारित किया गया, जो मेमोरी में कम नंबरों के साथ वही काम करने का वादा करता है। यह एक बड़ी बात है छोटे, बैटरी से चलने वाले उपकरणों जैसे ड्रोन या मेडिकल सेंसर के लिए, जहाँ मेमोरी का हर बिट और ऊर्जा की हर बूंद मायने रखती है। लेकिन इसमें एक पेंच है: जबकि KAN कागज़ पर आकार में छोटा है, वास्तविक दुनिया में एक छोटे, वास्तविक कंप्यूटर चिप पर चलते समय यह अनाड़ी और धीमा हो सकता है। बड़ा सवाल यह है: क्या यह नया "कुशल" दिमाग वास्तव में तैनात किए जाने पर ऊर्जा और समय बचाता है, या इसका फैंसी गणित इसे उपयोगी होने के लिए बहुत धीमा बना देता है?
यह शोध पत्र इस प्रश्न का परीक्षण करता है जिसमें पुराने जमाने के "दिमाग" (जिसे MLP कहा जाता है) को नए KAN के विरुद्ध एक छोटे, वास्तविक दुनिया के कंप्यूटर चिप (एक RISC-V प्रोसेसर) पर लड़ाया गया है। शोधकर्ताओं ने केवल यह नहीं देखा कि उन्होंने कितनी अच्छी तरह सीखा; उन्होंने ठीक से मापा कि निर्णय लेने में कितना समय लगा और प्रत्येक ने कितनी बैटरी शक्ति खर्च की। उन्होंने पाया कि जबकि KAN वास्तव में आकार में छोटा है, यह आश्चर्यजनक रूप से सुस्त और ऊर्जा-खपत करने वाला है। समान कार्य को चलाते समय, KAN को पारंपरिक MLP की तुलना में 8.0 से 13.5 गुना धीमा पाया गया। इससे भी बदतर यह है कि इसने अपनी गणना के प्रत्येक चरण के लिए 5.6 से 11.3 गुना अधिक ऊर्जा का उपभोग किया।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या होता है जब आप अपने नंबरों को राउंड ऑफ करके (एक प्रक्रिया जिसे क्वांटाइजेशन कहा जाता है, जो स्थान बचाने के लिए सामान्य है) इन मॉडलों को और भी छोटा बनाने की कोशिश करते हैं। यहाँ, KAN बहुत तेज़ी से बिखर गए। एक परीक्षण में, KAN के अनुमान केवल 6.5 चरणों के बाद ही पूरी तरह गलत हो गए, जबकि पारंपरिक MLP 282 चरणों तक सही ढंग से काम करता रहा, जो विश्वसनीयता में 43 गुना का अंतर है। अध्ययन यह निष्कर्ष निकालता है कि इन छोटे, मानक कंप्यूटर चिप्स पर, KAN का दक्षता का वादा खरा नहीं उतरता है। जब तक इंजीनियर विशेष रूप से KANs के लिए विशेष हार्डवेयर डिजाइन नहीं करते, तब तक पुराना, पारंपरिक MLP एम्बेडेड डिवाइसों पर भौतिकी-आधारित मॉडलों को चलाने के लिए अधिक भरोसेमंद, तेज़ और ऊर्जा-कुशल विकल्प बना हुआ है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।