Sequential Structure in Intraday Futures Data: LSTM vs Gradient Boosting on MNQ
यह शोध पत्र यह प्रदर्शित करता है कि चार वर्षों के पांच-मिनट के OHLCV डेटा का उपयोग करके इंट्राडे MNQ फ्यूचर्स की दिशा का पूर्वानुमान लगाने के लिए न तो ग्रेडिएंट बूस्टिंग और न ही LSTM मॉडल 51.8% की बेस रेट से अधिक सांख्यिकीय रूप से महत्वपूर्ण भविष्य कहनेवाला सटीकता प्राप्त कर सकते हैं, जो यह सुझाव देता है कि ऐसे एकल-उपकरण डेटासेट विश्वसनीय अनुक्रमिक वित्तीय मशीन लर्निंग के लिए अपर्याप्त हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप किसी विशेष शहर के लिए मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं, लेकिन आपके पास केवल चार साल का दैनिक मौसम लॉग है। आप जानना चाहते हैं: "यदि दिन के पहले घंटे में बारिश होती है, तो क्या पूरे दिन बारिश होगी?"
यह शोध पत्र मैथियास मेसफिन (Mathias Mesfin) नामक एक शोधकर्ता की रिपोर्ट है, जिन्होंने इस प्रश्न का उत्तर देने का प्रयास किया, लेकिन मौसम के बजाय, उन्होंने शेयर बाजार के फ्यूचर्स (विशेष रूप से MNQ, जो नैस्डैक 100 को ट्रैक करता है) को देखा। वह यह देखना चाहते थे कि क्या आधुनिक, उच्च-तकनीकी कंप्यूटर मस्तिष्क (मशीन लर्निंग) बाजार की उस "धड़कन" में छिपे पैटर्न को खोज सकते हैं जिसे इंसान चूक जाते हैं।
यहाँ उनकी कहानी है कि उन्होंने क्या किया, कैसे किया, और उन्हें क्या मिला, जिसे सरल भाषा में समझाया गया है।
मुख्य विचार: "क्रोनोस" बनाम "लोकल शॉप"
हाल ही में, क्रोनोस (Kronos) नामक एक विशाल AI मॉडल जारी किया गया था। इसे लाखों स्टॉक चार्टों से कई अलग-अलग बाजारों पर प्रशिक्षित किया गया था। इसने सीखा कि मूल्य बार (price bars) के प्रकट होने का क्रम (अनुक्रम) वास्तव में इस बात के संकेत रखता है कि आगे क्या होगा। यह एक मास्टर शेफ की तरह है जिसने लाखों व्यंजन चखे हैं और जानता है कि सामग्री के एक विशिष्ट क्रम का स्वाद कैसा होगा।
मैथियास ने एक सरल प्रश्न पूछा: "यदि हम उसी विचार को लें, लेकिन उसे केवल एक बाजार (MNQ) और केवल चार वर्षों के डेटा पर लागू करें, तो क्या यह अभी भी काम करेगा?"
उन्होंने दो प्रकार के कंप्यूटर शिक्षार्थियों के बीच एक दौड़ आयोजित की:
- "स्कैटरगन" (ग्रेडिएंट बूस्टिंग - Gradient Boosting): यह मॉडल तथ्यों की एक सूची को देखता है (जैसे "कल गर्मी थी," "गैप बड़ा था") लेकिन उन्हें असंबंधित वस्तुओं के ढेर के रूप में मानता है। इसे इस बात से कोई फर्क नहीं पड़ता कि वे किस क्रम में हुए थे।
- "स्टोरीटेलर" (एलएसटीएम - LSTM): यह मॉडल एक कहानी पढ़ने के लिए बनाया गया है। यह सुबह के 12 पांच-मिनट के बार को देखता है और घटनाओं के अनुक्रम को समझने की कोशिश करता है, ठीक वैसे ही जैसे शब्द-दर-शब्द एक वाक्य पढ़ना।
प्रयोग: एक सख्त परीक्षण
मैथियास ने कंप्यूटर को केवल अनुमान लगाने के लिए नहीं छोड़ा। उन्होंने वॉक-फॉरवर्ड वैलिडेशन (Walk-Forward Validation) नामक एक बहुत ही सख्त परीक्षण स्थापित किया।
- नियम: कंप्यूटर 2022 से सीखता है, फिर 2023 की भविष्यवाणी करने की कोशिश करता है। फिर यह 2022-2023 से सीखता है और 2024 की भविष्यवाणी करता है। अंत में, यह 2022-2024 से सीखता है और 2025 की भविष्यवाणी करता है।
- लक्ष्य: यह भविष्यवाणी करना कि क्या बाजार सुबह 10:30 बजे तक अपने ओपनिंग प्राइस से कम से कम 10 अंक ऊपर बंद होगा।
- बेसलाइन (आधार): यदि आप केवल एक सिक्का उछालते, तो आप 51.8% बार सही होते (क्योंकि बाजार अक्सर नीचे जाने के बजाय थोड़ा ऊपर जाता है)। जीतने के लिए, कंप्यूटर को इस सिक्के के उछाल को हराना था।
परिणाम: कंप्यूटर रास्ता भटक गए
परिणाम ईमानदार और "हाई-टेक" उम्मीदों के लिए निराशाजनक थे, लेकिन विज्ञान के लिए बहुत जानकारीपूर्ण थे:
- "स्कैगरगन" (ग्रेडिएंट बूस्टिंग): इसने दैनिक डेटा में पैटर्न खोजने की कोशिश की। कभी-कभी यह भाग्यशाली रहा (एक वर्ष में 54% सटीकता), लेकिन अन्य वर्षों में, इसने सिक्के के उछाल से भी अधिक गलतियाँ कीं। जब मैथियास ने जांचा कि यह निर्णय क्यों ले रहा था, तो इसके कारण हर साल बदल जाते थे। एक साल इसे "ओवरनाइट गैप्स" की परवाह थी, अगले साल इसे "वॉल्यूम" की परवाह थी। यह उस छात्र की तरह था जिसने पिछले साल के टेस्ट के उत्तर रट लिए थे लेकिन वास्तविक गणित सीखने में विफल रहा।
- "स्टोरीटेलर" (एलएसटीएम): यह सबसे बड़ी परीक्षा थी। क्या सुबह के बार का अनुक्रम मायने रखता था? उत्तर था नहीं। मॉडल ने essentially हार मान ली। इसने हर दिन के लिए 50/50 की संभावना की भविष्यवाणी की, चाहे सुबह कुछ भी हुआ हो। इसका "आत्मविश्वास" सपाट था। इसने कुछ नहीं सीखा।
निर्णय: कोई भी मॉडल सिक्के के उछाल से बेहतर बाजार की भविष्यवाणी नहीं कर सका। "स्टोरीटेलर" को कोई कहानी नहीं मिली; उसे केवल शोर (noise) मिला।
"क्यों": लाइब्रेरी का उदाहरण
उच्च-तकनीकी AI क्यों विफल हुआ? शोध पत्र एक लाइब्रेरी एनालॉजी का उपयोग करके एक शानदार स्पष्टीकरण देता है:
- क्रोनोस मॉडल (विजेता): एक लाइब्रेरी की कल्पना करें जिसमें 9 मिलियन किताबें हैं। यदि आप एक दुर्लभ भाषा सीखना चाहते हैं, तो आप लाखों उदाहरण पढ़ सकते हैं और नियम खोज सकते हैं।
- मैथियास का डेटासेट (हारने वाला): एक ऐसी लाइब्रेरी की कल्पना करें जिसमें केवल 944 पेज हैं (चार वर्षों में एक दिन प्रति वर्ष)।
- यदि कोई विशिष्ट पैटर्न केवल 5% समय होता है, तो यह आपके पूरे पुस्तकालय में केवल 47 बार दिखाई देता है।
- एक जटिल AI को यह सिखाने की कोशिश करना कि एक विशिष्ट प्रकार के बादल को कैसे पहचानें, और उसे चार वर्षों में हर दो सप्ताह में एक बार उस बादल की तस्वीर दिखाना, बहुत कठिन है। इंजन चलाने के लिए पर्याप्त "डेटा ईंधन" ही नहीं है।
- AI "मूर्ख" होने के कारण विफल नहीं हुआ। यह इसलिए विफल हुआ क्योंकि यह डेटा के लिए भूखा था। इसे बाजार की "व्याकरण" सीखने के लिए लाखों उदाहरणों की आवश्यकता थी, लेकिन इसे केवल कुछ सौ उदाहरण दिए गए।
निष्कर्ष: एक ईमानदार "नहीं"
इस शोध पत्र का सबसे महत्वपूर्ण हिस्सा यह नहीं है कि मॉडल विफल रहे; बल्कि यह है कि शोधकर्ता ने स्वीकार किया कि वे विफल रहे और स्पष्ट रूप से बताया कि वे क्यों विफल हुए।
- दावा: आप केवल चार वर्षों के 5-मिनट के डेटा का उपयोग करके एकल स्टॉक मार्केट की दैनिक दिशा की भविष्यवाणी करने के लिए उन्नत AI का उपयोग नहीं कर सकते। डेटा बहुत छोटा है।
- सबक: इन मॉडलों को काम करने के योग्य बनाने के लिए, आपको या तो:
- बहुत अधिक इतिहास की आवश्यकता है (दशकों की, वर्षों की नहीं)।
- बहुत तेज़ डेटा की आवश्यकता है (टिक-बाय-टिक डेटा, जो डेटा पॉइंट्स की संख्या को 50 गुना बढ़ा देता है)।
- अधिक बाजार की आवश्यकता है (AI को अधिक उदाहरण देने के लिए नैस्डैक, एसएंडपी और डाउ जोन्स पर एक साथ प्रशिक्षण देना)।
संक्षेप में: "क्रोनोस" सुपर-AI इसलिए काम करता है क्योंकि उसने बाजार का पूरा विश्वकोश पढ़ लिया है। मैथियास ने एक समान AI को शब्दकोश के केवल एक पन्ने का उपयोग करके सिखाने की कोशिश की, और स्वाभाविक रूप से, वह भाषा नहीं सीख सका। यह शोध पत्र शोधकर्ताओं के लिए एक मूल्यवान मानचित्र है जो उन्हें ठीक से बताता है कि "डेटा क्लिफ" (data cliff) कहाँ है, ताकि वे अपर्याप्त डेटा के साथ उसे पार करने की कोशिश में अपना समय बर्बाद न करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।