Kolmogorov-Arnold Networks Applied to Materials Property Prediction

कल्पना कीजिए कि आप यह अनुमान लगाने की कोशिश कर रहे हैं कि कोई विशिष्ट सामग्री कैसे व्यवहार करेगी—जैसे कि एक नए प्रकार के स्टील की मजबूती कितनी होगी, या एक बैटरी कितनी अच्छी तरह चार्ज रख पाएगी। वैज्ञानिक लंबे समय से इन पहेलियों को सुलझाने के लिए "न्यूरल नेटवर्क" (एक प्रकार का कंप्यूटर मस्तिष्क) का उपयोग करते आए हैं। इन कंप्यूटर मस्तिष्कों का सबसे आम प्रकार MLP (मल्टीलेयर परसेप्ट्रॉन) है। एक MLP को श्रमिकों की एक टीम की तरह समझें जहाँ हर कोई एक ही सरल काम करता है (संख्याओं को जोड़ना और उन्हें गुणा करना) और फिर परिणाम को अगले दल को सौंप देता है। यह विश्वसनीय है, लेकिन यह थोड़ा कठोर हो सकता है और काम को पूरी तरह से करने के लिए बहुत सारे श्रमिकों (पैरामीटर्स) की आवश्यकता होती है।

हाल ही में, कोलमोगोरोव-आर्नोल्ड नेटवर्क (KAN) नामक एक नए प्रकार के कंप्यूटर मस्तिष्क का प्रस्ताव दिया गया है। यदि एक MLP सरल गणित करने वाले श्रमिकों की एक टीम है, तो एक KAN कलाकारों की एक टीम की तरह है जो यह बदल सकते हैं कि वे कैसे पेंट करते हैं। केवल संख्याओं को जोड़ने के बजाय, एक KAN डेटा के अनुरूप वक्र (curve) का सबसे अच्छा आकार सीखना सीखता है। KAN का वादा यह है कि यह अधिक कुशल है (इसे कम श्रमिकों की आवश्यकता है) और इसे समझना आसान है (आप देख सकते हैं कि इसने अपना निर्णय कैसे लिया)।

यह शोध पत्र एक "फील्ड टेस्ट" की तरह है जहाँ लेखकों ने यह देखने के लिए कि क्या वे वास्तव में पुराने मानकों से बेहतर हैं, इन नए KANs को 33 विभिन्न सामग्री विज्ञान समस्याओं पर काम पर लगाया।

यहाँ उन्होंने जो पाया, उसे सरल भाषा में समझाया गया है:

1. "ऑफ-द-शेल्फ" टेस्ट: KANs बनाम पुराना गार्ड

सबसे पहले, लेखकों ने KANs को ठीक वैसे ही लिया जैसा कि उनके मूल रचनाकारों द्वारा डिजाइन किया गया था (एक मानक 2-लेयर सेटअप) और उनसे सामग्री के गुणों की भविष्यवाणी करने के लिए कहा। उन्होंने उनकी तुलना रैंडम फॉरेस्ट (Random Forests) से की, जो डेटा साइंस में एक "वर्कहॉर्स" (कामकाजी घोड़ा) विधि है। रैंडम फॉरेस्ट विशेषज्ञों के एक समूह द्वारा उत्तर पर मतदान करने की तरह हैं; वे बहुत विश्वसनीय हैं और उन्हें अच्छी तरह से काम करने के लिए बहुत अधिक बदलाव की आवश्यकता नहीं होती है।

• परिणाम: जब KANs का उपयोग "आउट ऑफ द बॉक्स" (बिना किसी बदलाव के) किया गया, तो वे औसतन रैंडम फॉरेस्ट से बदतर थे।
• उपमा: कल्पना कीजिए कि आपने एक बिल्कुल नया, हाई-टेक स्पोर्ट्स कार (KAN) खरीदा है जो दिखने में अद्भुत है लेकिन अभी तक इसे ट्यून नहीं किया गया है। आप इसे एक भरोसेमंद, पुराने पिकअप ट्रक (रैंडम फॉरेस्ट) के खिलाफ रेस ट्रैक पर उतारते हैं। पिकअप ट्रक अक्सर जीतता है क्योंकि वह स्थिर और चलाने में आसान है, जबकि स्पोर्ट्स कार थोड़ी अस्थिर है और बिना पेशेवर मैकेनिक के इसे नियंत्रित करना कठिन है।
• सांख्यिकी: KANs लगभग 35% बार रैंडम फॉरेस्ट से बदतर थे, लगभग 60% बार उनके बराबर थे, और केवल 5% बार बेहतर थे। साथ ही, KANs "भंगुर" (brittle) थे, जिसका अर्थ है कि संख्यात्मक गड़बड़ियों के कारण वे कभी-कभी क्रैश हो जाते थे या गलत उत्तर देते थे।

2. "ट्यूनिंग" टेस्ट: KANs को एक मैकेनिक देना

लेखकों को एहसास हुआ कि जिस तरह एक स्पोर्ट्स कार को ट्यूनिंग की आवश्यकता होती है, उसी तरह KANs को भी अपनी सेटिंग्स बदलने (परतों और नोड्स की संख्या बदलना) की आवश्यकता थी। उन्होंने आर्किटेक्चर को मैन्युअल रूप से सुधारा और एक स्वचालित टूल (ऑप्टुना - Optuna) का भी उपयोग किया ताकि सर्वोत्तम सेटिंग्स की खोज की जा सके।

• परिणाम: एक बार जब उन्होंने KANs को ट्यून किया, तो वे बहुत बेहतर हो गए। उनकी त्रुटियाँ (errors) लगभग 10% से 20% तक कम हो गईं।
• उपमा: मैकेनिक द्वारा स्पोर्ट्स कार को ट्यून करने के बाद, वह बहुत सुचारू रूप से चलने लगी। इसने जरूरी नहीं कि हर दौड़ में पिकअप ट्रक को हरा दिया हो, लेकिन यह बहुत प्रतिस्पर्धी बन गई। वास्तव में, ट्यूनिंग के बाद, KANs औसतन रैंडम फॉरेस्ट के समान ही प्रदर्शन करने लगे।
• चुनौती: उन्हें ट्यून करने में प्रयास लगा। लेखकों ने उल्लेख किया कि K-ANs को रैंडम फॉरेस्ट की तुलना में फिट करना कठिन है क्योंकि वे इस बात के प्रति संवेदनशील हैं कि आप उन्हें कैसे सेट करते हैं।

3. "विशेष मिशन": रिएक्टर प्रेशर वेसल्स (RPV)

KANs की विशेष शक्तियों (दक्षता और व्याख्यात्मकता) का परीक्षण करने के लिए, लेखकों ने एक विशिष्ट, कठिन समस्या पर ध्यान केंद्रित किया: परमाणु रिएक्टर स्टील समय के साथ कैसे भंगुर (brittle) होता है, इसकी भविष्यवाणी करना।

• चुनौती: आमतौर पर, वैज्ञानिक इस समस्या के लिए दो प्रकार के मॉडल का उपयोग करते हैं:
  1. हैंड-ट्यून्ड मॉडल: जिन्हें विशेषज्ञों द्वारा भौतिकी के ज्ञान का उपयोग करके एक विशिष्ट फॉर्मूला लिखने में वर्षों बिताकर बनाया जाता है। ये सरल और पढ़ने में आसान हैं, लेकिन इन्हें बनाना कठिन है।
  2. डीप लर्निंग मॉडल: लाखों पैरामीटर्स वाले विशाल कंप्यूटर मस्तिष्क। ये बहुत सटीक होते हैं लेकिन "ब्लैक बॉक्स" होते हैं—किसी को नहीं पता कि उन्होंने उत्तर कैसे प्राप्त किया।
• KAN समाधान: लेखकों ने इस समस्या के लिए एक KAN बनाया।
  • दक्षता: उन्होंने पाया कि एक KAN एक विशाल डीप लर्निंग मॉडल की तुलना में 100 गुना छोटा (कम पैरामीटर्स वाला) था, फिर भी यह उतना ही सटीक था।
  • सरलता: उन्होंने एक "टाइनी KAN" (Tiny KAN) भी बनाया जिसमें 50 से भी कम पैरामीटर्स थे। इस छोटे से मॉडल ने जटिल, हाथ से ट्यून किए गए विशेषज्ञ मॉडलों के समान ही प्रदर्शन किया।
  • व्याख्यात्मकता: क्योंकि KAN बहुत सरल है, वे इसके आंतरिक गणित को एक क्लोज्ड-फॉर्म इक्वेशन (एक पठनीय फॉर्मूला) में बदल सकते हैं। यह फॉर्मूला लगभग उतना ही सटीक था जितना कि मानव विशेषज्ञों द्वारा वर्षों के अध्ययन के बाद बनाया गया फॉर्मूला, लेकिन KAN ने इसे केवल डेटा का उपयोग करके कुछ ही घंटों में खोज लिया, बिना किसी गहरे भौतिकी ज्ञान की आवश्यकता के।

निचोड़ (The Bottom Line)

शोध पत्र निष्कर्ष निकालता है कि KANs एक आशाजनक नया उपकरण हैं, लेकिन वे कोई जादुई छड़ी नहीं हैं जो तुरंत सब कुछ हरा देगी।

• यदि आप एक त्वरित, विश्वसनीय उत्तर चाहते हैं: तो "वर्कहॉर्स" रैंडम फॉरेस्ट के साथ बने रहें।
• यदि आप एक ऐसा मॉडल चाहते हैं जो कुशल, व्याख्या योग्य और पर्याप्त ट्यूनिंग के साथ संभावित रूप से अधिक सटीक हो: तो KANs को तलाशने योग्य हैं।

लेखक सुझाव देते हैं कि हालांकि KANs को पुराने तरीकों की तुलना में सेटअप करने में वर्तमान में अधिक प्रयास की आवश्यकता होती है, लेकिन जटिल डेटा से सरल, समझने योग्य फॉर्मूले बनाने की उनकी क्षमता उन्हें वैज्ञानिक के टूलबॉक्स में एक मूल्यवान जोड़ बनाती है, विशेष रूप से उन समस्याओं के लिए जहाँ भविष्यवाणी क्यों की गई, यह समझना उतना ही महत्वपूर्ण है जितना कि स्वयं भविष्यवाणी।