💬 NLP

From Text to Forecasts: Bridging Modality Gap with Temporal Evolution Semantic Space

यह शोध पत्र TESS का प्रस्ताव करता है, जो एक 'टेम्पोरल इवोल्यूशन सिमेंटिक स्पेस' (Temporal Evolution Semantic Space) को पेश करके इवेंट-ड्रिवन टाइम-सीरीज फोरकास्टिंग में मोडैलिटी गैप को पाटने वाला एक नवीन ढांचा है, जो गुणात्मक पाठ्य विवरणों को व्याख्यात्मक, मात्रात्मक टेम्पोरल प्रिमिटिव्स में अनुवादित करता है और अत्याधुनिक बेसलाइन की तुलना में त्रुटियों में महत्वपूर्ण कमी लाता है।

मूल लेखक: Lehui Li, Yuyao Wang, Jisheng Yan, Wei Zhang, Jinliang Deng, Haoliang Sun, Zhongyi Han, Yongshun Gong

प्रकाशित 2026-03-16

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Lehui Li, Yuyao Wang, Jisheng Yan, Wei Zhang, Jinliang Deng, Haoliang Sun, Zhongyi Han, Yongshun Gong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ शोध पत्र "From Text to Forecasts: Bridging Modality Gap with Temporal Evolution" का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करते हुए हिंदी अनुवाद दिया गया है।

बड़ी समस्या: संख्याओं और शब्दों के बीच की "भाषा की बाधा"

कल्पना कीजिए कि आप अगले सप्ताह के मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। आपके पास जानकारी के दो स्रोत हैं:

संख्याएँ (The Numbers): एक स्प्रेडशीट जो कल का तापमान, हवा की गति और आर्द्रता (humidity) दिखा रही है। यह सटीक है, लेकिन यह केवल वही बताती है जो हो चुका है।
शब्द (The Words): एक समाचार रिपोर्ट जिसमें कहा गया है, "एक विशाल तूफान का मोर्चा आगे बढ़ रहा है, जिससे उथल-पुथल और तापमान में अचानक गिरावट आ रही है।" यह बताता है कि चीजें क्यों बदल सकती हैं, लेकिन यह अस्पष्ट है। यह "विशाल" और "उथल-पुथल" जैसे शब्दों का उपयोग करता है न कि विशिष्ट संख्याओं का।

समस्या:
वर्तमान AI मॉडल संख्याओं को पढ़ने में बहुत अच्छे हैं और शब्दों को पढ़ने में भी बहुत अच्छे हैं, लेकिन वे उन्हें जोड़ने (combine) में बहुत खराब हैं।

जब AI समाचार पढ़ता है, तो वह फालतू की बातों (जैसे, "आसमान ग्रे और डरावना दिख रहा था") से विचलित हो जाता है।
उसे "उथल-पुथल" को "हवा की गति 20 mph बढ़ जाएगी" जैसी विशिष्ट संख्या में बदलने में संघर्ष करना पड़ता है।
इस भ्रम के कारण, AI अक्सर उपयोगी समाचारों को अनदेखा कर देता है या उनकी गलत व्याख्या करता है, जिससे भविष्यवाणियाँ खराब हो जाती हैं।

समाधान: TESS ("अनुवादक" और "फ़िल्टर")

लेखकों ने एक नया सिस्टम प्रस्तावित किया है जिसे TESS कहा जाता है। TESS को एक सीधे अनुवादक के रूप में नहीं, बल्कि एक विशेषज्ञ व्याख्याकार (specialized interpreter) के रूप में देखें जो समाचार रिपोर्टर और मौसम विज्ञानी के बीच बैठता है।

मौसम विज्ञानी को सीधे बिखरी हुई समाचार रिपोर्ट पढ़ने देने के बजाय, TESS दो काम करता है:

1. "निष्कर्षण" (The Extraction - अनुवादक)

TESS एक शक्तिशाली लार्ज लैंग्वेज मॉडल (जैसे एक सुपर-स्मार्ट मानव संपादक) का उपयोग समाचार लेख को पढ़ने के लिए करता है। लेकिन केवल सारांश बनाने के बजाय, यह AI को केवल उन चार विशिष्ट प्रकार के "समय-यात्रा संकेतों" (time-travel clues) को निकालने के लिए मजबूर करता है जो भविष्य की भविष्यवाणी करने के लिए वास्तव में मायने रखते हैं:

मीन शिफ्ट (Mean Shift): "क्या औसत ऊपर जा रहा है या नीचे?" (जैसे, "कीमतें उछलेंगी।")
अस्थिरता (Volatility): "क्या यह शांत रहने वाला है या उथल-पुथल भरा?" (जैसे, "भारी उतार-चढ़ाव की उम्मीद करें।")
आकार (Shape): "पैटर्न क्या है?" (जैसे, "यह ऊपर जाएगा, शिखर पर पहुँचेगा और फिर गिर जाएगा।")
लैग (Lag): "यह कब होगा और कितने समय तक चलेगा?" (जैसे, "इसका प्रभाव कल से शुरू होगा और शुक्रवार तक कम हो जाएगा।")

उपमा (Analogy): कल्पना कीजिए कि समाचार लेख लेगो (LEGO) ब्लॉक्स का एक बिखरा हुआ ढेर है। पुराने AI ने पूरे ढेर के साथ टावर बनाने की कोशिश की। TESS पहले उस ढेर को छाँटता है, टूटे हुए टुकड़ों और लाल ईंटों को फेंक देता है, और भविष्य के स्तर को बनाने के लिए केवल आवश्यक नीली और पीली ईंटें ही भविष्यवक्ता को सौंपता है।

2. "कॉन्फिडेंस गेट" (The Confidence Gate - फ़िल्टर)

कभी-कभी, समाचार अस्पष्ट होता है, या AI व्याख्याकार गलती कर सकता है। हो सकता है कि लेख कहता हो "कीमतें बढ़ सकती हैं," लेकिन AI अनुमान लगा ले कि "कीमतें गिर जाएंगी।"

TESS के पास एक कॉन्फिडेंस गेट (Confidence Gate) है। यह पूछता है: "हम इस संकेत के बारे में कितने आश्वस्त हैं?"

यदि AI 90% आश्वस्त है कि टेक्स्ट का अर्थ है "कीमतें बढ़ेंगी," तो गेट खुल जाता है, और भविष्यवक्ता उस संकेत का उपयोग करता है।
यदि AI केवल 40% आश्वस्त है (क्योंकि टेक्स्ट भ्रमित करने वाला था), तो गेट बंद हो जाता है, और भविष्यवक्ता गलती करने से बचने के लिए उस संकेत को ज्यादातर अनदेखा कर देता है।

वास्तविक जीवन में यह कैसे काम करता है

शोधकर्ताओं ने इसका परीक्षण बिटकॉइन की कीमतों और बिजली के उपयोग जैसे वास्तविक दुनिया के डेटा पर किया।

TESS के बिना: AI एक हेडलाइन पढ़ता है जैसे "बाजार में घबराहट के कारण बिकवाली।" वह "घबराहट" शब्द और उसके आसपास की फालतू बातों से भ्रमित हो जाता है। वह भविष्यवाणी कर सकता है कि बाजार में मामूली गिरावट आएगी, जबकि वास्तव में बाजार क्रैश हो सकता है।
TESS के साथ:
1. TESS हेडलाइन पढ़ता है।
2. यह निकालता है: मीन शिफ्ट = भारी गिरावट, अस्थिरता = उच्च, लैग = तत्काल।
3. यह अपने आत्मविश्वास की जांच करता है: "उच्च विश्वास।"
4. यह इन साफ, संख्यात्मक-शैली के संकेतों को पूर्वानुमान मॉडल (forecasting model) को पास करता है।
5. मॉडल सटीक रूप से भारी गिरावट की भविष्यवाणी करता है।

परिणाम: यह क्यों महत्वपूर्ण है

शोधकर्ताओं ने पाया कि इस "मध्यवर्ती अनुवादक" (Temporal Evolution Semantic Space) का उपयोग करके:

सटीकता बढ़ गई: उन्होंने भविष्यवाणी त्रुटियों को 29% तक कम कर दिया। वित्त या ऊर्जा प्रबंधन में यह एक बहुत बड़ी बात है।
कम भ्रम: मॉडल समाचारों में अप्रासंगिक शब्दों से विचलित होना बंद हो गया।
आश्चर्यजनक घटनाओं को बेहतर ढंग से संभालना: जब अप्रत्याशित घटनाएं होती हैं (जैसे तूफान या शेयर बाजार क्रैश), तो TESS भविष्यवाणियों को समायोजित करने में बहुत बेहतर होता है क्योंकि यह संख्याओं के पीछे की कहानी को समझता है।

सारांश उपमा (Summary Analogy)

कल्पना कीजिए कि आप एक कार चला रहे हैं (पूर्वानुमान मॉडल)।

पुराना तरीका: एक यात्री (टेक्स्ट) आगे के ट्रैफिक के बारे में एक लंबी, भ्रामक कहानी चिल्ला रहा है। आप सुनते हुए गाड़ी चलाने की कोशिश करते हैं, लेकिन आप कहानी के विवरणों से विचलित हो जाते हैं और वास्तविक मोड़ मिस कर देते हैं।
TESS वाला तरीका: एक पेशेवर नेविगेटर (TESS) यात्री की बात सुनता है, शोर को फ़िल्टर करता है, और आपको केवल आवश्यक निर्देशों के साथ एक स्पष्ट, सरल मानचित्र देता है: "2 मील में बाएं मुड़ें, गति बढ़ाएं, फिर धीमे हो जाएं।" आप सुचारू रूप से गाड़ी चलाते हैं और ठीक समय पर पहुँचते हैं।

संक्षेप में: TESS मानव भाषा की अव्यवस्थित दुनिया और संख्याओं की सटीक दुनिया के बीच के अंतर को पाटता है, यह सुनिश्चित करता है कि कहानियाँ भविष्य की भविष्यवाणी करने में हमारी मदद करें, न कि हमें भ्रमित करें।

यहाँ शोध पत्र "From Text to Forecasts: Bridging Modality Gap with Temporal Evolution" (TESS) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

टाइम-सीरीज फोरकास्टिंग (समय-श्रृंखला पूर्वानुमान) वित्त और ऊर्जा जैसे डोमेन के लिए महत्वपूर्ण है, लेकिन यह इवेंट-ड्रिवन नॉन-स्टेशनैरिटी (घटना-प्रेरित गैर-स्थिरता) के कारण महत्वपूर्ण चुनौतियों का सामना करती है। जबकि ऐतिहासिक संख्यात्मक डेटा (numerical data) टेम्पोरल डिपेंडेंसीज़ को कैप्चर करता है, यह अक्सर बाहरी घटनाओं (जैसे दुर्घटनाएं, नीति परिवर्तन, सेंटीमेंट शॉक) के कारण होने वाले अचानक रिजीम शिफ्ट (regime shifts) की भविष्यवाणी करने में विफल रहता है।

हालिया दृष्टिकोण इस कमी को दूर करने के लिए टेक्स्ट डेटा (समाचार, सोशल मीडिया) को शामिल करने का प्रयास करते हैं। हालांकि, एक मौलिक मोडैलिटी गैप (modality gap) मौजूद है:

संख्यात्मक डेटा (Numerical Data): स्पष्ट, मात्रात्मक और कालानुक्रमिक रूप से व्यवस्थित।
टेक्स्ट डेटा (Textual Data): अंतर्निहित (implicit), गुणात्मक और असंरचित। टेक्स्ट प्रभावों का वर्णन विसरित रूप से करता है (जैसे, "महत्वपूर्ण वृद्धि") न कि मात्रात्मक रूप से (जैसे, "+15.3%")।

प्रारंभिक विश्लेषण से प्राप्त मुख्य निष्कर्ष:
लेखकों ने नियंत्रित सेमी-सिंथेटिक प्रयोगों के माध्यम से दो महत्वपूर्ण बाधाओं का खुलासा किया जो मौजूदा मल्टीमॉडल फ्यूजन विधियों में देखी गईं:

अटेंशन डिस्ट्रैक्शन (Attention Distraction): मॉडल भविष्यवाणी के लिए प्रासंगिक टोकन पर ध्यान केंद्रित करने में विफल रहते हैं, और इसके बजाय अनावश्यक और शोर युक्त (noisy) टेक्स्ट कंटेंट पर अत्यधिक ध्यान केंद्रित करते हैं।
रिप्रेजेंटेशनल मिसमैच (Representational Mismatch): भले ही अनावश्यक टोकन हटा दिए जाएं, मॉडल गुणात्मक टेक्स्ट अर्थों (semantics) को उपयोगी मात्रात्मक संकेतों में डिकोड करने में संघर्ष करते हैं, जिससे ऑप्टिमाइज़ेशन अस्थिरता और खराब फोरकास्टिंग प्रदर्शन होता है।

2. कार्यप्रणाली: TESS फ्रेमवर्क (Methodology: TESS Framework)

इस अंतर को पाटने के लिए, लेखक TESS (Temporal Evolution Semantic Space) प्रस्तावित करते हैं, जो एक दो-चरणीय फ्रेमवर्क है जो टेक्स्ट और न्यूमेरिकल टाइम सीरीज़ के बीच एक मध्यवर्ती बॉटलनेक के रूप में कार्य करता है। कच्चे टेक्स्ट एम्बेडिंग्स को सीधे टाइम सीरीज़ के साथ फ्यूज करने के बजाय, TESS टेक्स्ट को व्याख्या योग्य, संख्यात्मक रूप से आधारित टेम्पोरल सिमेंटिक प्रिमिटिव्स (TSPs) में आसवित (distill) करता है।

A. टेम्पोरल इवोल्यूशन सिमेंटिक स्पेस (मध्यवर्ती प्रतिनिधित्व)

मुख्य नवाचार चार विशिष्ट प्रिमिटिव्स के एक स्पेस को परिभाषित करना है जो विशेषज्ञ पूर्वानुमान प्रथाओं से प्रेरित होकर टेम्पोरल डायनेमिक्स को चित्रित करते हैं:

मीन शिफ्ट (Mean Shift): औसत स्तर में परिवर्तनों को मापता है (जैसे, 'मजबूत वृद्धि', 'हल्की गिरावट')।
वोलैटिलिटी शिफ्ट (Volatility Shift): वेरिएंस/फ्लक्चुएशन की तीव्रता में बदलाव को मापता है।
शेप (Shape): फोरकास्ट होराइजन की रूपात्मक प्रवृत्ति (morphological trend) को एनकोड करता है (जैसे, 'चढ़ना', 'शिखर', 'दोलन')।
लैग और डिके (Lag & Decay): किसी घटना के प्रभाव के समय और निरंतरता को स्थानीयकृत करता है (जैसे, 'जल्दी कम होना', 'देर से प्रकट होना')।

ये प्रिमिटिव्स संख्यात्मक सत्यापन क्षमता (numerical verifiability) के साथ परिभाषित किए गए हैं, जिसका अर्थ है कि वास्तविक टाइम सीरीज़ डेटा से ग्राउंड-ट्रुथ मानों की गणना की जा सकती है, जिससे सुपरवाइज्ड लर्निंग संभव होती है।

B. चरण 1: टेक्स्ट $\to$ सिमेंटिक स्पेस (गेटिंग के साथ LLM एक्सट्रैक्शन)

LLM क्लासिफिकेशन: एक फ्रोजन लार्ज लैंग्वेज मॉडल (LLM) को इनपुट टेक्स्ट को चार प्रिमिटिव्स की डिस्क्रीट श्रेणियों में वर्गीकृत करने के लिए स्ट्रक्चर्ड डेफिनिशन के साथ प्रॉम्प्ट किया जाता है।
कॉन्फिडेंस-अवेयर गेटिंग (Confidence-Aware Gating): चूंकि LLM भ्रमित (hallucinate) हो सकते हैं या अस्पष्ट टेक्स्ट की गलत व्याख्या कर सकते हैं, इसलिए एक लर्नबल गेटिंग नेटवर्क प्रत्येक निकाले गए प्रिमिटिव की विश्वसनीयता का अनुमान लगाता है।
- यह टॉप-1 और टॉप-2 LLM भविष्यवाणियों के बीच लॉग-प्रोबेबिलिटी मार्जिन का उपयोग अनिश्चितता सिग्नल के रूप में करता है।
- एक गेटिंग स्कोर $g_{t,k} \in [0,1]$ उत्पन्न किया जाता है। इन्फरेंस के दौरान, सिमेंटिक एम्बेडिंग को इस स्कोर द्वारा भारित (weighted) किया जाता है ( $\tilde{h} = g \cdot h$ ), जिससे अविश्वसनीय निष्कर्षण को दबाया जा सके।

C. चरण 2: सिमेंटिक स्पेस $\to$ न्यूमेरिकल स्पेस (कंडीशनड फोरकास्टिंग)

गेटेड प्रिमिटिव वेक्टर्स को सिमेंटिक प्रीफिक्स टोकन्स के रूप में माना जाता है और उन्हें ऐतिहासिक टाइम सीरीज़ के पैच एम्बेडिंग्स के साथ जोड़ा (concatenate) जाता है।
इस संयुक्त अनुक्रम को एक ट्रांसफार्मर-आधारित फोरकास्टर (विशेष रूप से PatchTST) में फीड किया जाता है।
मॉडल इन स्पष्ट टेम्पोरल इवोल्यूशन सिग्नल्स पर अपने संख्यात्मक भविष्यवाणियों को कंडीशन करना सीखता है, जो प्रभावी रूप से सिमेंटिक जानकारी को देखे गए डायनेमिक्स में ग्राउंड करता है।

3. मुख्य योगदान (Key Contributions)

मोडैलिटी गैप का निदान: यह पेपर प्रमाण देता है कि मौजूदा विधियाँ रेडंडेंसी के कारण अटेंशन डिस्ट्रैक्शन और गुणात्मक टेक्स्ट को मात्रात्मक संकेतों में अनुवाद करने में असमर्थता के कारण विफल होती हैं।
TESS फ्रेमवर्क: एक मध्यवर्ती "टेम्पोरल इवोल्यूशन सिमेंटिक स्पेस" का परिचय जो टेक्स्ट को चार व्याख्यात्मक प्रिमिटिव्स (Mean, Volatility, Shape, Lag) में विभाजित करता है।
कॉन्फिडेंस-अवेयर गेटिंग: शोर युक्त LLM एक्सट्रैक्शन को फ़िल्टर करने के लिए एक नवीन तंत्र, जो यह सुनिश्चित करता है कि केवल उच्च-विश्वास वाले सिमेंटिक सिग्नल ही फोरकास्ट को प्रभावित करें।
सैद्धांतिक गारंटी: थ्योरम 4.1 सिद्ध करता है कि टेक्स्ट को पर्याप्त सांख्यिकी (sufficient statistics/primitives) में संकुचित करने से टोकन-लेवल नॉइज़ पर निर्भरता कम होते हुए भी प्रेडिक्टिव इंफॉर्मेशन सुरक्षित रहती है, जो सैद्धांतिक रूप से सामान्यीकरण (generalization) में सुधार करती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने चार वास्तविक दुनिया के डेटासेट्स पर TESS का मूल्यांकन किया: FNSPID और Bitcoin (वित्तीय/उच्च नॉन-स्टेशनैरिटी) और Electricity और Environment (सामान्य/निम्न नॉन-स्टेशनैरिटी)।

प्रदर्शन लाभ: TESS ने स्टेट-ऑफ-द-आर्ट यूनिमोडल और मल्टीमॉडल बेसलाइन्स (जैसे, PatchTST, TimeLLM, NewsForecasting) की तुलना में MSE में 29.1% तक की कमी हासिल की।
- Bitcoin डेटासेट पर, इसने सर्वश्रेष्ठ बेसलाइन पर MAE में 18.2% और MSE में 29.1% का सुधार दिखाया।
- FNSPID पर, इसने सभी मेट्रिक्स में निरंतर सुधार दिखाया।
नॉन-स्टेशनरी परिदृश्य: TESS ने विशेष रूप से शेप ट्रांजिशन, वोलैटिलिटी परिवर्तन और मीन शिफ्ट वाले परिदृश्यों में उत्कृष्ट प्रदर्शन किया, जिसने MSE में बेसलाइन्स को 21–52% से पीछे छोड़ दिया।
एब्लेशन स्टडीज (Ablation Studies):
- सिमेंटिक स्पेस (TESS) को हटाने से प्रदर्शन में भारी गिरावट आई (Bitcoin पर MSE ~46% बढ़ गया), जो मध्यवर्ती प्रतिनिधित्व की आवश्यकता की पुष्टि करता है।
- गेटिंग मैकेनिज्म को हटाने से प्रदर्शन में छोटी लेकिन महत्वपूर्ण गिरावट आई, जो LLM त्रुटियों को फ़िल्टर करने में इसकी भूमिका को सिद्ध करता है।
कन्वर्जेंस (Convergence): TESS ने डायरेक्ट टेक्स्ट फ्यूजन विधियों की तुलना में तेज़ और सुचारू ट्रेनिंग कन्वर्जेंस दिखाया, जो इंगित करता है कि सिमेंटिक स्पेस क्रॉस-मोडल ऑप्टिमाइज़ेशन चुनौतियों को कम करता है।

5. महत्व (Significance)

यह कार्य मल्टीमोडल टाइम-सीरीज फोरकास्टिंग में एक महत्वपूर्ण सीमा को संबोधित करता है: गुणात्मक टेक्स्ट और मात्रात्मक डेटा का सीधा फ्यूजन अक्सर सिमेंटिक मिसअलाइनमेंट के कारण उप-इष्टतम (suboptimal) होता है। एक व्याख्या योग्य, संख्यात्मक रूप से आधारित मध्यवर्ती स्थान पेश करके, TESS प्रभावी रूप से "मानव-समान" इवेंट विवरणों को "मशीन-पठनीय" सांख्यिकीय स्थितियों में अनुवादित करता है।

यह दृष्टिकोण महत्वपूर्ण है क्योंकि:

यह सरल सेंटीमेंट एनालिसिस या कीवर्ड एक्सट्रैक्शन से आगे बढ़कर स्ट्रक्चरल टेम्पोरल रीजनिंग की ओर बढ़ता है।
यह कॉन्फिडेंस गेटिंग मैकेनिज्म के माध्यम से LLM-आधारित टेक्स्ट एक्सट्रैक्शन की "नॉइज़" समस्या के लिए एक मजबूत समाधान प्रदान करता है।
यह किसी भी टाइम-सीरीज फोरकास्टिंग मॉडल में एक्सोजेनस (exogenous) टेक्स्ट सूचना को एकीकृत करने के लिए एक सामान्यीकरण योग्य फ्रेमवर्क प्रदान करता है, विशेष रूप से वित्त और ऊर्जा बाजारों जैसे अस्थिर, इवेंट-ड्रिवन वातावरण में।