Deeper network methods for solving 3D American Heston-CIR model
यह शोध पत्र तीन गहरे नेटवर्क विधियों—SoftNet, LinNet, और AddNet—का प्रस्ताव करता है जो फीचर पुन: उपयोग (feature reuse), रैखिक एकत्रीकरण (linear aggregation) और अर्ली एग्जिट (early exits) के साथ उप-नेटवर्कों के गुणात्मक संयोजन (multiplicative ensembling) का उपयोग करते हुए, लुप्त होते ग्रेडिएंट्स (vanishing gradients) और गहरे आर्किटेक्चर में प्रदर्शन ह्रास को प्रभावी ढंग से कम करते हुए 3D अमेरिकन हेस्टन-सीआईआर (Heston-CIR) मॉडल को कुशलतापूर्वक हल करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
वित्त की दुनिया में, किसी संपत्ति की भविष्य की कीमत का अनुमान लगाना संभावनाओं का एक उच्च-दांव वाला खेल है। निवेशक और बैंक विकल्पों (options) के मूल्य को निर्धारित करने के लिए जटिल गणितीय मॉडलों पर भरोसा करते हैं, जो अनुबंध हैं जो किसी निश्चित तिथि तक एक विशिष्ट मूल्य पर कुछ खरीदने या बेचने का अधिकार देते हैं। इन विकल्पों में से एक को "अमेरिकन" विकल्प के रूप में मूल्य निर्धारित करना सबसे कठिन चुनौतियों में से एक है। अपने यूरोपीय समकक्षों के विपरीत, जिन्हें केवल एक विशिष्ट तिथि पर ही प्रयोग किया जा सकता है, अमेरिकन विकल्पों का प्रयोग किसी भी समय किया जा सकता है जब तक कि वे समाप्त न हो जाएं। यह लचीलापन एक चलते-फिरते लक्ष्य (moving target) जैसा बना देता है: मॉडल को न केवल विकल्प के मूल्य की गणना करनी होती है, बल्कि उस सटीक क्षण की भी गणना करनी होती है जब नकदीकरण करना सबसे लाभदायक होता है। यह महत्वपूर्ण क्षण 'अर्ली एक्सरसाइज बाउंड्री' (early exercise boundary) के रूप में जाना जाता है। जब मॉडल में कई बदलते कारक शामिल होते हैं—जैसे कि संपत्ति की कीमत, उसकी अस्थिरता (volatility), और उतार-चढ़ाव वाली ब्याज दरें—तो यह समस्या एक तीन-आयामी पहेली बन जाती है जिसे पारंपरिक कंप्यूटर विधियों से हल करना अत्यंत कठिन होता है।
दशकों से, वैज्ञानिक इन जटिल पहेलियों को सुलझाने के लिए आर्टिफिशियल इंटेलिजेंस, विशेष रूप से डीप लर्निंग की ओर मुड़े हैं। ये कंप्यूटर प्रोग्राम, जिन्हें न्यूरल नेटवर्क कहा जाता है, प्रोसेसिंग इकाइयों की परतों को एक के ऊपर एक रखकर डेटा से पैटर्न सीखने के लिए डिज़ाइन किए गए हैं। परत जितनी गहरी होगी, नेटवर्क सैद्धांतिक रूप से उतने ही जटिल पैटर्न को समझ सकेगा। हालाँकि, एक निरंतर समस्या इन डीप नेटवर्क्स को परेशान करती रही है: जैसे-जैसे वे ऊँचे होते जाते हैं, वे अक्सर अस्थिर हो जाते हैं। नेटवर्क को सिखाने के लिए उपयोग किए जाने वाले संकेत शीर्ष परतों तक पहुँचने से पहले ही फीके पड़ जाते हैं या उनके परिमाण में विस्फोट (explode) हो जाता है, जिससे सिस्टम कुछ भी उपयोगी सीखने में विफल हो जाता है। इस घटना को, जिसे अक्सर 'वेनिशिंग ग्रेडिएंट इफेक्ट' (vanishing gradient effect) कहा जाता है, ऐतिहासिक रूप से इन नेटवर्क्स की गहराई को सीमित किया है, विशेष रूप से वित्तीय गणित में पाए जाने वाले जटिल, गैर-रैखिक (non-linear) समस्याओं के लिए।
हाल ही में एक अध्ययन में, शोधकर्ताओं चिनोंसो एनवांकवो और वेइज़होंग डाई ने इस बाधा को तोड़ने का प्रयास किया। उन्होंने एक विशिष्ट, अत्यधिक जटिल वित्तीय मॉडल पर ध्यान केंद्रित किया जिसे 'अमेरिकन हेस्टन-सीआईआर' (American Heston-CIR) मॉडल कहा जाता है, जो एक साथ तीन चलते हुए हिस्सों को ट्रैक करता है: संपत्ति की कीमत, इसकी अस्थिरता और ब्याज दर। उनका लक्ष्य एक नए प्रकार का न्यूरल नेटवर्क डिजाइन करना था जो पहले से कहीं अधिक परतों के साथ प्रभावी ढंग से प्रशिक्षित हो सके, जिससे यह बाजार के सूक्ष्म और अनियमित व्यवहार को पकड़ सके, बिना अपनी जटिलता के नीचे ढहे। केवल परतों को एक के ऊपर एक रखने के बजाय, उन्होंने तीन अलग-अलग आर्किटेक्चरल रणनीतियों का आविष्कार किया, जिन्हें उन्होंने सॉफ्टनेट (SoftNet), लिननेट (LinNet) और एडनेट (AddNet) नाम दिया। ये नए डिज़ाइन उन सीमाओं को दरकिनार करने के लिए बनाए गए थे जिन्होंने पहले डीप नेटवर्क्स को इतने कठिन कार्यों पर काम करने से रोका था।
शोधकर्ताओं ने मानक, पारंपरिक नेटवर्क्स की सीमाओं का परीक्षण करके शुरुआत की। उन्होंने पाया कि जब उन्होंने केवल तेरह छिपी हुई परतों (hidden layers) के साथ एक पारंपरिक डिज़ाइन का उपयोग करने की कोशिश की, तो नेटवर्क खराब प्रदर्शन करता है। यह विकल्पों के मूल्य और उन्हें कब प्रयोग किया जाना चाहिए, इसके सटीक बिंदु का सटीक अनुमान लगाने में विफल रहा। नेटवर्क जितना गहरा गया, उतना ही बुरा होता गया, जिससे पुष्टि हुई कि मानक दृष्टिकोण एक दीवार से टकरा रहा था। इसे ठीक करने के लिए, टीम ने अपने तीन नए तरीकों को पेश किया। पहला, सॉफ्टनेट (SoftNet), नेटवर्क को छोटे ब्लॉकों में तोड़कर और उन्हें इस तरह से जोड़कर काम करता है जिससे सूचना का कुशलतापूर्वक पुन: उपयोग और साझा किया जा सके, बिल्कुल एक ट्रेन की तरह जहाँ प्रत्येक डिब्बा अपना भार रखते हुए अगले डिब्बे को अपना माल सौंपता है। इस डिज़ाइन ने नेटवर्क को सिग्नल खोए बिना गहरा होने की अनुमति दी। दूसरा तरीका, एडनेट (AddNet), नेटवर्क के भीतर कई "अर्ली एग्जिट" (early exits) बनाकर एक अलग दृष्टिकोण अपनाता है। हर जानकारी को अंत तक यात्रा करने के लिए मजबूर करने के बजाय, नेटवर्क विभिन्न चरणों में आंशिक निर्णय लेता है और अंत में उन्हें जोड़ता है। यह सुनिश्चित करता है कि भले ही सबसे गहरी परतें संघर्ष करें, प्रारंभिक, उथली परतें भी मूल्यवान अंतर्दृष्टि प्रदान करती रहें।
तीसरा और सबसे कुशल डिज़ाइन, लिननेट (LinNet), दोनों दुनियाओं के सर्वश्रेष्ठ गुणों को मिलाता है। यह विशेष प्रसंस्करण ब्लॉकों के माध्यम से गुजरने से पहले रैखिक इकाइयों (linear units) को जोड़ने की एक प्रणाली का उपयोग करता है। यह संरचना नेटवर्क के गहरा होने पर कम्प्यूटेशनल लागत को बढ़ने से रोकती है, जिससे यह अत्यधिक कुशल बनता है। शोधकर्ताओं ने लिननेट को एक चरम गहराई तक धकेला, इसे एक सौ छिपी हुई परतों के साथ प्रशिक्षित किया। उल्लेखनीय रूप से, पारंपरिक नेटवर्क्स के विपरीत जो तेरह परतों पर विफल हो गए थे, लिननेट इस चरम गहराई पर भी उच्च सटीकता बनाए रखने में सफल रहा। परिणामों ने दिखाया कि ये नए आर्किटेक्चर विकल्पों के मूल्य और अर्ली एक्सरसाइज बाउंड्री का सटीक अनुमान लगाने में स्थापित, अत्यधिक सम्मानित गणितीय विधियों के बराबर या उनसे बेहतर स्तर की सटीकता रख सकते हैं। नेटवर्क्स ने वित्तीय डेटा की जटिल सतहों को सफलतापूर्वक मैप किया, जिसमें "ग्रीक्स" (Greeks) नामक संवेदनशील डेरिवेटिव भी शामिल हैं, जो यह मापते हैं कि विकल्प की कीमत बाजार में छोटे बदलावों के प्रति कैसे प्रतिक्रिया करती है।
अध्ययन का एक प्रमुख निष्कर्ष यह था कि इन नए नेटवर्क्स ने सफलता प्राप्त करने के लिए उन सामान्य सुरक्षा नेटों पर निर्भर नहीं किया जिनका उपयोग डीप लर्निंग विशेषज्ञ आमतौर पर त्रुटियों को रोकने के लिए करते हैं, जैसे कि ड्रॉपआउट (dropout) या बैच नॉर्मलाइजेशन (batch normalization)। शोधकर्ताओं ने प्रदर्शित किया कि जिस तरह से उन्होंने परतों को संरचित किया था—विशेष सक्रियण कार्यों (activation functions) और मल्टीप्लिकेटिव एन्सेम्बलिंग (multiplicative ensembling) का उपयोग करके—वह नेटवर्क को स्थिर रखने के लिए पर्याप्त था। उन्होंने यह भी खोजा कि अपने प्रशिक्षण डेटा को समस्या के सबसे कठिन क्षेत्रों में केंद्रित करके, विशेष रूप से उन सीमाओं के पास जहाँ बाजार का व्यवहार सबसे अनिश्चित होता है, नेटवर्क्स ने बहुत तेजी से और अधिक सटीकता से सीखा। अध्ययन ने निष्कर्ष निकाला कि जबकि मानक डीप लर्निंग इस प्रकार की समस्या के लिए तेरह परतों के आसपास एक दीवार से टकरा जाता है, नए सॉफ्टनेट, एडनेट और लिननेट आर्किटेक्चर कहीं अधिक गहरा जा सकते हैं, जिसमें लिननेट विशेष रूप से मजबूत और कुशल साबित हुआ। यह कार्य सुझाव देता है कि न्यूरल नेटवर्क्स को केवल बड़ा बनाने के बजाय, उन्हें कैसे बनाया जाए, इस पर पुनर्विचार करके, वैज्ञानिक वित्तीय मॉडलिंग की कुछ सबसे कठिन समस्याओं को हल कर सकते हैं, जिससे जटिल, वास्तविक दुनिया के वित्तीय उपकरणों के लिए अधिक सटीक मूल्य निर्धारण का मार्ग प्रशस्त होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।