🤖 AI

GS-FUSE: Granger-Supervised Gated Fusion and Multi-Granularity Alignment for Event-Driven Financial Forecasting

यह शोधपत्र GS-FUSE का प्रस्ताव करता है, जो एक मल्टीमॉडल फ्रेमवर्क है जो प्रेडिक्टिव टेक्स्ट सिग्नल्स को चुनिंदा रूप से शामिल करने के लिए एक ग्रेंजर-सुपरवाइज्ड गेटेड फ्यूजन मॉड्यूल और टेक्स्ट संकेतों को मार्केट ट्रेजेक्टरीज के साथ बेहतर ढंग से संरेखित करने के लिए एक मल्टी-ग्रैनुलैरिटी अलाइनमेंट मैकेनिज्म को एकीकृत करके वित्तीय घटना पूर्वानुमान को बढ़ाता है, और लगातार मौजूदा अत्याधुनिक मॉडलों से बेहतर प्रदर्शन करता है।

मूल लेखक: Yang Zhang, En Chun, Ziyun Mao, Yulu Wu, Jun Wang

प्रकाशित 2026-05-28

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yang Zhang, En Chun, Ziyun Mao, Yulu Wu, Jun Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। आपके पास जानकारी के दो स्रोत हैं:

बैरोमीटर (कीमत का डेटा): एक मशीन जो हर सेकंड हवा की गति, तापमान और दबाव को रिकॉर्ड करती है। यह वर्तमान रुझानों को दिखाने में बहुत अच्छी है।
न्यूज़ एंकर (घटना का टेक्स्ट): एक व्यक्ति जो अचानक अपडेट चिल्लाकर बताता है जैसे "एक तूफान बन रहा है!" या "सरकार ने अभी टैक्स कानून बदल दिए!"

समस्या:
मौजूदा कंप्यूटर मॉडल इन दोनों स्रोतों को एक स्मूदी की तरह आपस में मिलाने की कोशिश करते हैं। वे बैरोमीटर के डेटा और न्यूज़ एंकर की आवाज़ को हर समय समान रूप से मिला देते हैं।

दोष: कभी-कभी न्यूज़ एंकर केवल पुरानी जानकारी दोहरा रहा होता है या निरर्थक बातें चिल्ला रहा होता है। यदि कंप्यूटर उस शोर (noise) को अपनी मौसम की भविष्यवाणी में मिला देता है, तो वह भ्रमित हो जाता है। दूसरी ओर, जब न्यूज़ एंकर कुछ बहुत बड़ी बात कहता है (जैसे कि अचानक ब्याज दर में बदलाव), तो कंप्यूटर को बहुत ध्यान से सुनने की आवश्यकता होती है, लेकिन वह इसे एक उबाऊ अपडेट के समान ही मानता है।

समाधान: GS-Fuse
इस शोध पत्र के लेखकों ने एक नया सिस्टम बनाया है जिसे GS-1Fuse कहा जाता है। इसे एक स्मार्ट, सतर्क ट्रैफिक कंट्रोलर के रूप में समझें जो बैरोमीटर और न्यूज़ एंकर के बीच खड़ा है।

यह कैसे काम करता है, सरल उपमाओं (analogies) का उपयोग करके देखें:

1. "ग्रेंजर-सुपरवाइज्ड" गेट (स्मार्ट फ़िल्टर)

इसकी मुख्य नवीनता एक विशेष "गेट" है जो यह तय करता है कि न्यूज़ एंकर को कब बोलने देना है।

यह कैसे काम करता है: गेट खुलने से पहले, सिस्टम एक सरल प्रश्न पूछता है: "यदि मैं समाचार को अनदेखा कर दूँ और केवल बैरोमीटर को देखूँ, तो मेरी भविष्यवाणी कितनी खराब होगी? यदि मैं समाचार को जोड़ता हूँ, तो क्या मेरी भविष्यवाणी काफी बेहतर हो जाती है?"
उपमा: कल्पना कीजिए कि आप गाड़ी चला रहे हैं। आपके पास एक जीपीएस (कीमत का डेटा) है जो आमतौर पर बिल्कुल सही काम करता है। अचानक, एक रेडियो उद्घोषक (इवेंट टेक्स्ट) कहता है, "आगे भारी ट्रैफिक जाम है!"
- यदि जीपीएस पहले से ही जाम दिखा रहा है, तो रेडियो केवल वही दोहरा रहा है जो आप जानते हैं। गेट बंद रहता है। आपको अपनी योजना बदलने की आवश्यकता नहीं है।
- यदि जीपीएस एक साफ सड़क दिखा रहा है, लेकिन रेडियो कहता है "पुल टूट गया है!", तो गेट पूरी तरह खुल जाता है। आप तुरंत रेडियो पर भरोसा करते हैं क्योंकि यह आपको नई, जीवन रक्षक जानकारी दे रहा है जो जीपीएस के पास नहीं थी।
परिणाम: सिस्टम समाचार को तभी सुनता है जब समाचार वास्तव में कुछ नया और उपयोगी जोड़ता है। यह "शोर" को अनदेखा कर देता है।

2. मल्टी-ग्रैनुलैरिटी अलाइनमेंट (हाइलाइटर)

एक बार जब गेट खुल जाता है और टेक्स्ट को अंदर आने देता है, तो सिस्टम को यह जानने की आवश्यकता होती है कि टेक्स्ट का कौन सा हिस्सा महत्वपूर्ण है।

समस्या: वित्तीय समाचार रिपोर्ट लंबी होती हैं। उनमें 500 शब्द हो सकते हैं, लेकिन केवल एक वाक्य (जैसे, "मुद्रास्फीति उम्मीद से अधिक तेजी से बढ़ रही है") ही शेयर बाजार को हिला सकता है। बाकी सब केवल उबाऊ कानूनी शब्दावली है।
समाधान: यह सिस्टम एक हाइलाइटर पेन की तरह काम करता है। पूरे समाचार लेख को एक बड़े ढेर के रूप में देखने के बजाय, यह ज़ूम इन करता है। यह टेक्स्ट के विशिष्ट शब्दों (जैसे, "दर में वृद्धि") को मार्केट डेटा के विशिष्ट क्षणों (जैसे, कीमतों में अचानक गिरावट) के साथ जोड़ता है।
उपमा: यह एक शिक्षक की तरह है जो छात्र के निबंध को ग्रेड दे रहा है। पूरे निबंध को एक ग्रेड देने के बजाय, शिक्षक उस एक शानदार वाक्य को घेरता है जो बात को सिद्ध करता है और बाकी फालतू बातों को अनदेखा कर देता है। इससे कंप्यूटर को यह समझने में मदद मिलती है कि बाजार क्यों बदला।

3. "प्लग-एंड-प्ले" अडैप्टर

लेखकों ने इस सिस्टम को इस तरह बनाया है कि यह किसी भी मौजूदा "मस्तिष्क" (टेक्स्ट के लिए लार्ज लैंग्वेज मॉडल्स और नंबरों के लिए टाइम-सीरीज मॉडल्स) के साथ काम कर सके।

उपमा: GS-Fuse को एक यूनिवर्सल पावर अडैप्टर के रूप में सोचें। आप इसे सैमसंग फोन, आईफोन या किसी भी सामान्य चार्जर में लगा सकते हैं। इससे कोई फर्क नहीं पड़ता कि आप किस विशिष्ट "मस्तिष्क" का उपयोग कर रहे हैं; यह अडैप्टर सुनिश्चित करता है कि वे सभी समस्या को हल करने के लिए सुचारू रूप से एक साथ काम करें।

उन्होंने क्या पाया?
टीम ने वास्तविक वित्तीय डेटा पर इस सिस्टम का परीक्षण किया, जिसमें S&P 500 (शेयर बाजार) और ट्रेजरी बॉन्ड्स (सरकारी ऋण) शामिल थे।

परिणाम: GS-Fuse ने लगातार अन्य सभी मॉडलों को पछाड़ दिया। इसने बड़ी खबरों के बाद कीमतों के उतार-चढ़ाव की भविष्यवाणी करने में कम गलतियाँ कीं।
यह क्यों जीता: इसने केवल अनुमान नहीं लगाया; इसने संदिग्ध होना सीखा। यह जानता था कि समाचार को कब अनदेखा करना है और कब बहुत ध्यान देना है, और यह भी जानता था कि समाचार में कौन से शब्द सबसे महत्वपूर्ण थे।

संक्षेप में:
GS-Fuse एक वित्तीय पूर्वानुमान उपकरण है जो न केवल समाचार "पढ़ता" है और चार्ट को "देखता" है। यह एक बुद्धिमान निवेशक की तरह कार्य करता है जो जानता है कि शोर को कब अनदेखा करना है और संकेत (signal) पर कब ध्यान देना है, जिससे यह सुनिश्चित होता है कि भविष्यवाणी करने के लिए उपयोग किया गया प्रत्येक सूचना का अंश वास्तव में मदद करता है।

तकनीकी सारांश: GS-Fuse

समस्या विवरण

महत्वपूर्ण वित्तीय घटनाओं (जैसे, मैक्रोइकोनॉमिक रिलीज़, नीतिगत निर्णय) के परिसंपत्ति कीमतों (asset prices) पर पड़ने वाले प्रभाव का सटीक पूर्वानुमान लगाना निवेशकों और नीति निर्माताओं के लिए अत्यंत महत्वपूर्ण है। जबकि हालिया 'लार्ज लैंग्वेज मॉडल्स' (LLMs) और 'टाइम-सीरीज़ फाउंडेशन मॉडल्स' में प्रगति ने यूनिमोडल पूर्वानुमान (unimodal forecasting) में सुधार किया है, इवेंट-संचालित वित्तीय पूर्वानुमान के लिए मौजूदा मल्टीमॉडल दृष्टिकोणों को तीन प्राथमिक सीमाओं का सामना करना पड़ता है:

इवेंट-इनवेरिएंट फ्यूजन (Event-Invariant Fusion): वर्तमान विधियाँ आमतौर पर साझा परतों (shared layers) का उपयोग करके टेक्स्ट और प्राइस डेटा को सममित रूप से (symmetrically) फ्यूज करती हैं, जो मोडैलिटीज के बीच एक स्थिर संतुलन का अनुमान लगाती हैं। यह वित्तीय बाजारों की विषम प्रकृति (heterogeneous nature) के अनुकूल नहीं है, जहाँ कुछ घटनाएँ सेंटिमेंट (sentiment) द्वारा संचालित होती हैं जबकि अन्य पूर्व-मौजूदा तकनीकी पैटर्न का अनुसरण करती हैं।
कारण-जागरूक फ्यूजन का अभाव (Lack of Causal-Aware Fusion): मौजूदा मॉडलों में यह निर्धारित करने के लिए स्पष्ट तंत्र की कमी है कि कब इवेंट टेक्स्ट ऐतिहासिक कीमतों के अलावा अतिरिक्त भविष्य कहनेवाला मूल्य (predictive value) प्रदान करता है। वे अक्सर मोडैलिटीज को सममित रूप से फ्यूज करते हैं, जिससे शोर वाले या गैर-सूचनात्मक टेक्स्ट के अत्यधिक उपयोग का जोखिम बना रहता है।
मोटे-स्तर का संरेखण (Coarse-Grained Alignment): मानक संरेखण तंत्र इंस्टेंस स्तर (ग्लोबल इवेंट एम्बेडिंग बनाम ग्लोबल टाइम-सीरीज़ एम्बेडिंग) पर कार्य करते हैं। यह इस तथ्य की अनदेखी करता है कि वित्तीय रिलीज़ (जैसे, FOMC बयानों में फॉरवर्ड गाइडेंस) के विशिष्ट अंश ही बाजार की प्रतिक्रियाओं को संचालित करते हैं, जिससे अप्रासंगिक सामग्री से सिग्नल कम (diluted) हो जाते हैं।

कार्यप्रणाली (Methodology)

लेखक GS-Fuse का प्रस्ताव करते हैं, जो एक ग्रेंजर-सुपरवाइज्ड (Granger-supervised), कॉज़ल-अवेयर गेटेड फ्यूजन मैकेनिज्म और मल्टी-ग्रैनुलैरिटी अलाइनमेंट के माध्यम से इन सीमाओं को संबोधित करने के लिए डिज़ाइन किया गया एक मल्टीमॉडल फ्रेमवर्क है। इसकी वास्तुकला (architecture) के चार मुख्य घटक हैं:

1. एनकोडर्स (Encoders)

टेक्स्ट एनकोडर: इवेंट स्क्रिप्ट्स ( $E_i$ ) को टोकन-लेवल रिप्रेजेंटेशन में एनकोड करने के लिए एक प्री-ट्रेन्ड LLM (जैसे, LLaMA, Phi-3) का उपयोग करता है, जिन्हें एक साझा एम्बेडिंग स्पेस में प्रोजेक्ट किया जाता है।
टाइम-सीरीज़ एनकोडर: प्री-इवेंट मार्केट सेगमेंट्स ( $X_i$ ) को स्टेप-वाइज रिप्रेजेंटेशन में एनकोड करने के लिए एक प्री-ट्रेन्ड टाइम-सीरीज़ फाउंडेशन मॉडल (जैसे, MOMENT, Kronos) का उपयोग करता है।
फ्रीजिंग स्ट्रैटेजी: बैकबोन LLM और TS फाउंडेशन मॉडल्स फ्रीज रहते हैं; केवल प्रोजेक्शन हेड्स और डाउनस्ट्रीम मॉड्यूल को प्रशिक्षित किया जाता है।

2. मल्टी-ग्रैनुलैरिटी क्रॉस-मोडल अलाइनमेंट (Multi-Granularity Cross-Modal Alignment)

मोडैलिटी गैप को पाटने के लिए, GS-Fuse दो स्तरों पर संरेखण (alignment) लागू करता है:

इंस्टेंस-लेवल ग्लोबल अलाइनमेंट: टोकन और स्टेप रिप्रेजेंटेशन को इंटरलीव करने के लिए बायडायरेक्शनल क्रॉस-अटेंशन का उपयोग करता है, जिसके बाद ग्लोबल इवेंट और टाइम-सीरीज़ एम्बेडिंग्स को अलाइन करने के लिए एक InfoNCE कंट्रास्टिव लॉस का उपयोग किया जाता है।
टोकन/स्टेप फाइन-ग्रैन्ड अलाइनमेंट: व्यक्तिगत टेक्स्ट टोकन को विशिष्ट टाइम-सीरीज़ स्टेप्स के साथ अलाइन करता है। एक सैलिएंस स्कोरर (salience scorer) टॉप- $K$ "एंकर" टोकन की पहचान करता है, और एक कंट्रास्टिव लॉस इन सैलियंट टोकन को उनके संबंधित टेम्पोरल पैटर्न के साथ अलाइन करने और अन्य इंस्टेंस के असंबंधित स्टेप्स को दूर धकेलने (repel) के लिए प्रोत्साहित करता है।

3. ग्रेंजर-सुपरवाइज्ड कॉज़ल गेटिंग (Granger-Supervised Causal Gating)

यह मुख्य नवाचार है। मॉडल एक गेटिंग मैकेनिज्म का उपयोग करता है जो यह तय करता है कि क्या इवेंट टेक्स्ट को उसके वृद्धिशील भविष्य कहनेवाला उपयोगिता (incremental predictive utility) के आधार पर शामिल किया जाना चाहिए:

ग्रेंजर यूटिलिटी सिग्नल: प्रशिक्षण के दौरान, मॉडल एक "प्रतिबंधित" प्रेडिक्टर (केवल टाइम-सीरीज़ डेटा का उपयोग करके, $\hat{Y}_{ts}$ ) की तुलना एक "अनरिस्ट्रिक्टेड" प्रेडिक्टर (टेक्स्ट और टाइम-सीरीज़ दोनों का उपयोग करके, $\hat{Y}_{full}$ ) से करता है।
सुपरविजन: लॉस डिफरेंशियल ( $\Delta_i = \ell(Y_i, \hat{Y}_{ts}) - \ell(Y_i, \hat{Y}_{full})$ ) ग्रेंजर कॉज़ैलिटी के प्रॉक्सी के रूप में कार्य करता है। यदि टेक्स्ट को शामिल करने से पूर्वानुमान त्रुटि (forecasting error) कम होती है, तो टेक्स्ट को उपयोगी माना जाता है।
गेट ट्रेनिंग: एक गेटिंग नेटवर्क प्रत्येक इंस्टेंस के लिए एक स्केलर ओपननेस स्कोर ( $\alpha_i$ ) की भविष्यवाणी करता है। इसे एक डिस्टिलेशन लॉस के माध्यम से सुपरवाइज किया जाता है ताकि यह ग्रेंजर यूटिलिटी से प्राप्त सॉफ्ट "रिस्पॉन्सिबिलिटी" टारगेट ( $r_i$ ) से मेल खा सके। गेट तभी खुलता है ( $\alpha_i \approx 1$ ) जब टेक्स्ट मापने योग्य मूल्य प्रदान करता है और अन्यथा बंद हो जाता है।

4. डिकोडर (Decoder)

एक लाइटवेट ट्रांसफॉर्मर डिकोडर फ्यूज्ड रिप्रेजेंटेशन (जो गेट द्वारा भारित है) लेता है और भविष्य के मार्केट ट्राजेक्टरी को पूर्वानुमान क्षितिज (forecasting horizon) $H$ पर जेनरेट करता है।

प्रशिक्षण योजना (Training Scheme)

स्थिरता के लिए मॉडल को तीन चरणों में प्रशिक्षित किया जाता है:

TS-only प्री-ट्रेनिंग: एक मजबूत बेसलाइन स्थापित करने के लिए टाइम-सीरीज़ ब्रांच को प्रशिक्षित करना।
टेक्स्ट-ओनली वॉर्म-अप: यह सुनिश्चित करने के लिए टेक्स्ट ब्रांच को प्रशिक्षित करना कि इवेंट रिप्रेजेंटेशन पूर्वानुमान के लिए प्रासंगिक हैं।
मल्टीमोडल फाइन-ट्यूनिंग: पूर्वानुमान हानि (forecasting loss), अलाइनमेंट लॉस और गेट सुपरविजन के संयुक्त उद्देश्य के साथ फ्यूजन और अलाइनमेंट मॉड्यूल को संयुक्त रूप से प्रशिक्षित करना।

प्रमुख योगदान (Key Contributions)

ग्रेंजर-सुपरवाइज्ड गेटेड फ्यूजन: एक नवीन मॉड्यूल जो यह सीखने में सक्षम है कि इवेंट टेक्स्ट पर केवल तभी भरोसा करें जब वह ऐतिहासिक कीमतों के अलावा वृद्धिशील भविष्य कहनेवाला मूल्य प्रदान करता है, जो प्रभावी रूप से इवेंट से प्राइस तक के कॉज़ल डायरेक्शन को मॉडल करता है।
मल्टी-ग्रैनुलैरिटी अलाइनमेंट: एक संयुक्त अलाइनमेंट योजना जो इंस्टेंस स्तर और फाइन-ग्रैन्ड टोकन/स्टेप स्तर दोनों पर कार्य करती है, जिससे मॉडल को उन विशिष्ट टेक्स्ट संकेतों को स्थानीयकृत (localize) करने में मदद मिलती है जो बाजार की प्रतिक्रियाओं को संचालित करते हैं।
प्लग-एंड-प्ले फ्रेमवर्क: एक मॉडल-अग्नोस्टिक एडॉप्टर जो किसी भी LLM और टाइम-सीरीज़ फाउंडेशन मॉडल को रैप कर सकता है, जिससे यह विविध बैकबोन और मार्केट सेटिंग्स के लिए लचीला बनता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने पांच परिसंपत्तियों (S&P500, NASDAQ, INDU, USGG1M, USGG5YR) के विरुद्ध तीन पूर्वानुमान क्षितिजों ( $H \in \{35, 70, 140\}$ 5-मिनट स्टेप्स) में मैक्रोइकोनॉमिक रिलीज़ (CAMEF) और वित्तीय समाचार (FNSPID) को एकीकृत करने वाले एक क्यूरेटेड डेटासेट पर GS-Fuse का मूल्यांकन किया।

प्रदर्शन: GS-Fuse ने लगातार स्टेट-ऑफ-द-आर्ट यूनिमोडल बेसलाइन्स (ARIMA, DLinear, iTransformer, FEDformer) और मल्टीमॉडल बेसलाइन्स (GPT4MTS, TimeCMA, TEST) को पछाड़ दिया। इसने सभी परिसंपत्तियों और क्षितिजों में सबसे कम MSE और MAE प्राप्त किया।
एब्लेशन स्टडीज (Ablation Studies): ग्रेंजर गेट या मल्टी-ग्रैनुलैरिटी अलाइनमेंट को हटाने से प्रदर्शन में महत्वपूर्ण गिरावट आई, जिससे पुष्टि हुई कि दोनों घटक आवश्यक और पूरक हैं।
बैकबोन जनरैलिटी: फ्रेमवर्क ने विभिन्न LLM (LLaMA बनाम Phi) और TS फाउंडेशन (MOMENT बनाम Kronos) संयोजनों में मजबूती प्रदर्शित की, हालांकि विशिष्ट पेयरिंग से प्रदर्शन में मामूली भिन्नता देखी गई।
कॉज़ल विश्लेषण: औसत गेट ओपननेस इक्विटी इंडेक्स के लिए लगभग 51% थी लेकिन ट्रेजरी यील्ड के लिए अधिक (60.68%) थी, जो यह दर्शाता है कि मॉडल एसेट क्लास और इवेंट नैरेटिव की विशिष्ट उपयोगिता के आधार पर टेक्स्ट पर अपनी निर्भरता को गतिशील रूप से समायोजित करता है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि GS-Fuse मौजूदा मल्टीमोडल पूर्वानुमान के मौलिक दोष को संबोधित करता है: यह धारणा कि टेक्स्ट और प्राइस डेटा को हमेशा सममित रूप से फ्यूज किया जाना चाहिए। एक ग्रेंजर-सुपरवाइज्ड गेट पेश करके, मॉडल स्पष्ट रूप से कीमतों की इवेंट टेक्स्ट पर सशर्त निर्भरता (conditional dependence) को सीखता है, जिससे गैर-सूचनात्मक नैरेटिव के शोर से बचाव होता है। मल्टी-ग्रैनुलैरिटी अलाइनमेंट यह भी सुनिश्चित करता है कि मॉडल इवेंट स्क्रिप्ट के उन विशिष्ट हिस्सों पर ध्यान केंद्रित करे जो बाजार की गतिविधियों को संचालित करते हैं।

लेखक GS-Fuse को केवल एक प्रदर्शन सुधार के रूप में नहीं, बल्कि वित्त में कॉज़ल-अवेयर और एडाप्टिव मल्टीमॉडल फ्यूजन की ओर एक पद्धतिगत बदलाव के रूप में प्रस्तुत करते हैं। फ्रेमवर्क को एक लचीले, प्लग-एंड-प्ले समाधान के रूप में प्रस्तुत किया गया है जिसे विभिन्न फाउंडेशन मॉडल्स के साथ स्थापित किया जा सकता है, जो इवेंट-ड्रिवन वित्तीय पूर्वानुमान के लिए एक मजबूत दृष्टिकोण प्रदान करता है जहाँ सूचना का भविष्य कहनेवाला मूल्य विषम और नॉन-स्टेशनरी होता है।