Do LLMs Understand Limit Order Book Dynamics?
यद्यपि सिंथेटिक लिमिट ऑर्डर बुक डेटा पर प्रशिक्षित एक लार्ज लैंग्वेज मॉडल वैध इवेंट सीक्वेंस उत्पन्न कर सकता है, फिर भी यह अंतर्निहित स्टेट डायनेमिक्स को आत्मसात करने में विफल रहता है, जिसके परिणामस्वरूप पक्षपाती पूर्वानुमान और मिथ्या पूर्वानुमेयता उत्पन्न होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक वित्त की हलचल भरी दुनिया में, बाजार केवल मानवीय अंतर्ज्ञान या व्यापक आर्थिक रुझानों द्वारा संचालित नहीं होते, बल्कि डिजिटल निर्देशों के एक निरंतर, उच्च-गति प्रवाह द्वारा संचालित होते हैं। इन कई बाजारों के केंद्र में 'लिमिट ऑर्डर बुक' (limit order book) नामक एक तंत्र होता है। एक डिजिटल बहीखाते की कल्पना करें जहाँ खरीदार और विक्रेता कतार में खड़े होते हैं, जिनमें से प्रत्येक यह बताता है कि वह किस विशिष्ट कीमत पर भुगतान करने या स्वीकार करने को तैयार है और वह कितनी मात्रा में शेयरों का व्यापार करना चाहता है। यह बहीखाता स्थिर नहीं है; यह एक जीवित, सांस लेता हुआ रिकॉर्ड है जो हर बार तब बदल जाता है जब एक नया आदेश आता है, एक मौजूदा आदेश पूरा होता है, या कोई प्रतिभागी अपने प्रस्ताव को रद्द करने का निर्णय लेता है। इस बहीखाते को नियंत्रित करने वाले नियम सख्त और तार्किक हैं: एक खरीदार किसी स्टॉक को उस न्यूनतम कीमत से कम पर नहीं खरीद सकता जो एक विक्रेता वर्तमान में मांग रहा है, और एक विक्रेता उस उच्चतम कीमत से अधिक पर नहीं बेच सकता जो एक खरीदार दे रहा है। दशकों से, व्यापारियों और गणितज्ञों ने जटिल मॉडल बनाए हैं ताकि यह अनुमान लगाया जा सके कि यह बहीखाता कैसे विकसित होगा, और आपूर्ति एवं मांग के इस जटिल नृत्य में अगले कदम का पूर्वानुमान लगाने की कोशिश की है।
हाल ही में, एक प्रकार का नया कृत्रिम बुद्धिमत्ता, जिसे 'लार्ज लैंग्वेज मॉडल' (large language model) के रूप में जाना जाता है, इन वित्तीय पहेलियों पर लागू किया जाने लगा है। ये मॉडल आमतौर पर भाषा के पैटर्न सीखने के लिए विशाल मात्रा में टेक्स्ट पर प्रशिक्षित होते हैं, लेकिन शोधकर्ताओं ने उन्हें बाजार की घटनाओं के अनुक्रमों (sequences) पर प्रशिक्षित करना शुरू कर दिया है। उम्मीद यह है कि यदि कोई मॉडल बाजार के वैध अनुक्रमों को उत्पन्न करना सीख सकता है—यह सही ढंग से सिम्युलेट कर सकता है कि कैसे एक बाजार एक अवस्था से दूसरी अवस्था में जाता है—तो उसने वास्तव में बाजार के अंतर्निगत यांत्रिकी (mechanics) को समझ लिया है। यह एक गहरा प्रश्न खड़ा करता है: यदि एक मशीन बाजार के चलने के बारे में एक आदर्श कहानी लिख सकती है, तो क्या वह वास्तव में उस कहानी को समझती है, या वह केवल उसके व्याकरण (syntax) की नकल कर रही है? कोलंबिया बिजनेस स्कूल के शोधकर्ताओं ने यह परीक्षण करके इसका उत्तर देने का प्रयास किया कि क्या इन कृत्रिम बुद्धिमत्ताओं के पास वित्तीय बाजारों का वास्तविक "विश्व मॉडल" (world model) है या वे केवल परिष्कृत नकलची (parrots) हैं।
शोधकर्ताओं ने एक सरलीकृत, सिम्युलेटेड 'लिमिट ऑर्डर बुक' बनाकर शुरुआत की। इस डिजिटल सैंडबॉक्स में, उन्होंने मूल्य स्तरों का एक निश्चित सेट और आदेश कैसे रखे, निष्पादित या रद्द किए जा सकते हैं, इसके नियम निर्धारित किए। फिर उन्होंने इस सिमुलेशन से उत्पन्न डेटा का उपयोग करके एक लार्ज लैंग्वेज मॉडल को शून्य से प्रशिक्षित किया। प्रशिक्षण प्रक्रिया कठोर थी: मॉडल को बाजार की एक प्रारंभिक अवस्था और एक लक्षित अवस्था दी गई, और उसे घटनाओं का एक ऐसा अनुक्रम उत्पन्न करने का कार्य सौंपा गया जो बाजार को शुरुआत से अंत तक ले जाए बिना किसी नियम को तोड़े। मॉडल इस कार्य में उत्कृष्ट रहा। जब उसे व्यापारों का एक अनुक्रम उत्पन्न करने के लिए कहा गया, तो वह लगभग हमेशा एक वैध पथ बनाने में सफल रहा, और उन असंभव गतिविधियों से बचा जैसे कि ऐसा स्टॉक बेचना जो मौजूद ही नहीं है या ऐसी कीमत पर व्यापार करना जो बाजार के नियमों का उल्लंघन करती हो। एक सामान्य पर्यवेक्षक के लिए, मॉडल बाजार के तर्क में महारत हासिल करता हुआ प्रतीत हुआ।
हालाँकि, शोधकर्ताओं को संदेह था कि मॉडल की सफलता सतही थी। वे जानना चाहते थे कि क्या मॉडल वास्तव में बाजार की वर्तमान अवस्था को समझता है या यह केवल इस बात पर निर्भर है कि वह वहाँ तक कैसे पहुँचा। एक वास्तविक बाजार में, ऑर्डर बुक का भविष्य का विकास पूरी तरह से उसकी वर्तमान अवस्था पर निर्भर करता है; उस अवस्था तक पहुँचने के लिए तय किए गए मार्ग का कोई महत्व नहीं होना चाहिए। यह एक मौलिक सिद्धांत है जिसे 'मार्कोव प्रॉपर्टी' (Markov property) के रूपas जाना जाता है। यह परीक्षण करने के लिए कि क्या मॉडल इस सिद्धांत का सम्मान करता है, शोधकर्ताओं ने प्रयोगों की एक श्रृंखला डिजाइन की जो केवल नियमों के पालन से आगे बढ़कर थी। उन्होंने मॉडल से यह अनुमान लगाने के लिए कहा कि आगे क्या होगा, न कि केवल एक वैध अनुक्रम उत्पन्न करने के लिए, बल्कि भविष्य की घटनाओं की संभावनाओं (probabilities) का पूर्वानुमान लगाने के लिए।
परिणामों ने मॉडल की समझ में एक महत्वपूर्ण खामी को उजागर किया। जबकि मॉडल वैध अनुक्रम उत्पन्न कर सकता था, उसका आंतरिक दृष्टिकोण पक्षपाती और अधूरा था। जब शोधकर्ताओं ने मॉडल के पूर्वानुमानों की जांच की, तो उन्होंने पाया कि यह लगातार भविष्य की घटनाओं के लिए गलत संभावनाएँ निर्धारित करता था। उदाहरण के लिए, मॉडल एक विशिष्ट मूल्य पर रद्दीकरण आदेश (cancellation order) की संभावना को बहुत अधिक बढ़ा देता था, भले ही वास्तविक गणितीय संभावना बहुत कम हो। अधिक चिंताजनक बात यह थी कि मॉडल के पूर्वानुमान उन घटनाओं के इतिहास से प्रभावित थे जिनके कारण वर्तमान अवस्था आई थी, भले ही वह इतिहास अप्रासंगिक होना चाहिए था। यदि बाजार एक विशिष्ट अवस्था तक दो अलग-अलग मार्गों से पहुँचा, तो एक सही समझ रखने वाला मॉडल दोनों के लिए बिल्कुल समान भविष्य की भविष्यवाणी करेगा। हालाँकि, कृत्रिम बुद्धिमत्ता ने अलग-अलग मार्ग लिए जाने के आधार पर अलग-अलग भविष्यवाणियाँ कीं, जिससे पता चलता है कि वह अतीत के उन विवरणों से चिपकी हुई थी जिनका भविष्य बताने में कोई शक्ति नहीं थी।
इस त्रुटि को मापने के लिए, शोधकर्ताओं ने नए परीक्षण विकसित किए जो मॉडल के पूर्वानुमानों और सिम्युलेटेड बाजार की वास्तविक गणितीय वास्तविकता के बीच की दूरी को मापते थे। उन्होंने पाया कि जैसे-जैसे मॉडल भविष्य में और आगे देखता है, उसकी त्रुटियाँ बढ़ती जाती हैं। ऐसा लगता था कि मॉडल को विश्वास था कि वह अतीत में ऐसे पैटर्न खोज सकता है जो अस्तित्व में ही नहीं थे, जिसे 'स्पूरियस प्रेडिक्टेबिलिटी' (spurious predictability) कहा जाता है। यह ऐसा था मानो मॉडल को यकीन था कि अतीत के खरीद आदेशों की एक श्रृंखला भविष्य के बिक्री आदेश को अधिक संभावित बना देती है, भले ही बाजार की वर्तमान अवस्था में इस तरह के बदलाव का कोई कारण न हो। यह पूर्वाग्रह कोई मामूली गड़बड़ी नहीं थी; यह प्रणाली के मूल गतिशील स्वरूप को समझने में एक व्यवस्थित विफलता थी। मॉडल ने बाजार के व्याकरण को तो सीख लिया था, लेकिन वह इसके भौतिक विज्ञान (physics) को सीखने में विफल रहा था।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या ये समस्याएँ उनके छोटे, सरल सिमुलेशन तक सीमित थीं या क्या वे अधिक जटिल वातावरण में भी बनी रहेंगी। उन्होंने अधिक मूल्य स्तरों और गहरी तरलता (liquidity) वाले बड़े ऑर्डर बुक्स के साथ प्रयोगों को दोहराया। परिणाम सुसंगत थे: जैसे-जैसे बाजार की जटिलता बढ़ी, मॉडल की सही आंतरिक प्रतिनिधित्व बनाए रखने की क्षमता वास्तव में और खराब हो गई। मॉडल वैध अनुक्रम उत्पन्न करना जारी रखता था, लेकिन उसके पूर्वानुमान और भी अविश्वसनीय होते गए। यह सुझाव देता है कि केवल अधिक डेटा पर मॉडल को प्रशिक्षित करना या बाजार सिमुलेशन को बड़ा बनाना इस मौलिक समस्या को ठीक नहीं करेगा। मॉडल का आर्किटेक्चर, जैसा कि वह वर्तमान में है, सिस्टम के इतिहास के शोर से वर्तमान अवस्था को अलग करने में संघर्ष करता है।
इन निष्कर्षों के वित्तीय क्षेत्र में उपयोग के संबंध में महत्वपूर्ण निहितार्थ हैं। यह अध्ययन दर्शाता है कि किसी मॉडल की वैध आउटपुट उत्पन्न करने की क्षमता इस बात का पर्याप्त प्रमाण नहीं है कि वह उस प्रणाली को समझता है जिसका वह सिमुलेशन कर रहा है। वित्तीय बाजारों के संदर्भ में, जहाँ सटीक पूर्वानुमान अत्यंत महत्वपूर्ण है, एक ऐसा मॉडल जो वहां पैटर्न खोजता है जहां कोई नहीं है, महंगी गलतियों का कारण बन सकता है। शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि लार्ज लैंग्वेज मॉडल किसी प्रणाली के नियमों को समझने में आशाजनक दिखते हैं, लेकिन उनमें विश्वसनीय भविष्यवाणी के लिए आवश्यक स्टोकेस्टिक डायनेमिक्स (stochastic dynamics) की गहरी, अंतर्निहित समझ की कमी है। जब तक इन मॉडलों को उस दुनिया की अवस्था को वास्तव में आत्मसात करने के लिए प्रशिक्षित नहीं किया जाता है जिसका वे सिमुलेशन कर रहे हैं (बजाय केवल उन घटनाओं के अनुक्रम के जो वहां तक पहुँचीं), तब तक जटिल, वास्तविक दुनिया के बाजारों में उनके पूर्वानुमान संदिग्ध बने रहेंगे। आगे का रास्ता नए प्रशिक्षण तरीकों और बड़े डेटासेट की मांग करता है, लेकिन मूल चुनौती वही रहती है: एक मशीन को दुनिया को वैसे देखने के लिए सिखाना जैसी वह है, न कि केवल वैसी जैसी उसे याद है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।