📊 statistics

Plug-In Classification of Drift Functions in Diffusion Processes Using Neural Networks

यह शोधपत्र डिफ्यूजन प्रक्रियाओं के लिए एक प्लग-इन मल्टीक्लास क्लासिफायर प्रस्तावित करता है जो न्यूरल नेटवर्क का उपयोग करके क्लास-विशिष्ट ड्रिफ्ट फंक्शनों का अनुमान लगाता है, एक्सीस रिस्क (excess risk) के लिए अभिसरण दरें (convergence rates) स्थापित करता है और डिफ्यूजन संरचना का लाभ उठाकर तथा उच्च-आयामी कंपोजिशनल ड्रिफ्ट्स को संभालकर मौजूदा विधियों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Yuzhen Zhao, Jiarong Fan, Yating Liu

प्रकाशित 2026-05-14

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yuzhen Zhao, Jiarong Fan, Yating Liu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं। आपके पास संदिग्धों का एक समूह है, और प्रत्येक संदिग्ध की एक अनूठी "चलने की शैली" (शहर में चलने का एक विशिष्ट तरीका) है। आपका काम एक वीडियो को देखना है जिसमें कोई सड़क पर चल रहा है और यह अनुमान लगाना है कि वह संदिग्ध कौन है।

गणित और वित्त की दुनिया में, इन "चालों" को डिफ्यूजन प्रोसेस (diffusion processes) कहा जाता है। वे रैंडम वॉक (random walks) की तरह होते हैं जो दो चीजों से प्रभावित होते हैं:

ड्रिफ्ट (Drift): एक छिपा हुआ बल या आदत जो चलने वाले को एक विशिष्ट दिशा में खींचती है (जैसे कि एक तेज़ हवा या किसी विशेष मार्ग के प्रति व्यक्तिगत पसंद)।
नॉइज़ (Noise): यादृच्छिक झटके और उबड़-खाबड़पन (जैसे कि एक भीड़भाड़ वाला फुटपाथ या हवा का अचानक झोंका) जो पथ को अप्रत्याशित बनाते हैं।

झाओ, फान और लियू का शोध पत्र एक बहुत ही स्मार्ट कंप्यूटर प्रोग्राम (एक न्यूरल नेटवर्क) बनाने के बारे में है जो आपका जासूस बनेगा। उन्होंने इसे कैसे किया, इसका सरल विवरण यहाँ दिया गया है:

समस्या: "ब्लैक बॉक्स" दृष्टिकोण बनाम "स्मार्ट" दृष्टिकोण

आमतौर पर, जब लोग इन चलने की शैलियों को पहचानने के लिए कंप्यूटर को सिखाने की कोशिश करते हैं, तो वे बस कंप्यूटर को चलने का पूरा वीडियो दे देते हैं। वे कहते हैं, "यह पूरी राह है, अब व्यक्ति का अनुमान लगाओ।" यह एक जासूस को 10 घंटे की फिल्म देने और फिर बिना पॉज किए या विशिष्ट कदमों का विश्लेषण किए संदिग्ध का अनुमान लगाने के लिए कहने जैसा है। यह काम करता है, लेकिन यह अक्षम है और आसानी से भ्रमित हो जाता है, खासकर यदि शहर बहुत बड़ा हो (उच्च-आयामी डेटा/high-dimensional data)।

लेखक कहते हैं: "एक मिनट रुकिए! हमें खेल के नियम पता हैं।"
वे जानते हैं कि "चलने की शैली" वास्तव में उस छिपे हुए ड्रिफ्ट (Drift) द्वारा परिभाषित होती है। यदि आप ड्रिफ्ट का पता लगा सकते हैं, तो आप संदिग्ध की पहचान पूरी तरह से कर सकते हैं।

समाधान: "प्लग-इन" जासूस

वीडियो से सीधे संदिग्ध का अनुमान लगाने के बजाय, लेखकों ने एक दो-चरणीय जासूस बनाया:

चरण 1: आदत को समझना (ड्रिफ्ट एस्टीमेशन)। कंप्यूटर वीडियो के प्रत्येक क्षण के बीच के छोटे कदमों को देखता है। यह एक न्यूरल नेटवर्क का उपयोग करता है ताकि उस विशिष्ट "खिंचाव" या "आदत" (ड्रिफ्ट) का पता लगाया जा सके जिसने उन कदमों को जन्म दिया। यह संदिग्ध के पदचिह्नों का विश्लेषण करने जैसा है ताकि यह निर्धारित किया जा सके कि क्या वे हमेशा बाईं ओर झुकते हैं या तेज़ दौड़ते हैं।
चरण 2: इसे प्लग करना। एक बार जब कंप्यूटर प्रत्येक संदिग्ध के लिए "आदत" जान लेता है, तो वह उस ज्ञान को एक गणितीय सूत्र (बेयस नियम/Bayes rule) में डाल देता है। यह सूत्र गणना करता है कि कौन सा संदिग्ध सबसे अधिक संभावना है कि वही व्यक्ति है जो चल रहा है।

यह बेहतर क्यों है?

लेखक दावा करते हैं कि यह विधि दो मुख्य कारणों से श्रेष्ठ है:

यह केवल सारांश नहीं, बल्कि सभी सुरागों का उपयोग करती है: एक मानक AI पूरे पथ को एक बड़े ढेर के रूप में देखता है। यह नया तरीका पथ को हजारों छोटे-छोटे हिस्सों में तोड़ देता है। यह हर एक कदम से सीखता है, जिससे यह बहुत सटीक हो जाता है।
यह बड़े शहरों को बेहतर तरीके से संभालता है: जब "शहर" (डेटा) विशाल और जटिल (उच्च आयाम) हो जाता है, तो मानक "ब्लैक बॉक्स" AI भ्रमित हो जाता है और धीमा हो जाता है। लेखकों की विधि सटीक रहती है क्योंकि यह केवल अस्त-व्यस्त रास्तों को याद करने के बजाय अंतर्निहित नियमों (ड्रिफ्ट) पर ध्यान केंद्रित करती है।

परिणाम: प्रयोग क्या दिखाते हैं

लेखकों ने अपने जासूस का परीक्षण दो परिदृश्यों में किया:

"डबल-लेयर" टेस्ट: उन्होंने जटिल, टेढ़े-मेढ़े स्वभाव वाली नकली चलने की शैलियाँ बनाईं।
- परिणाम: उनका न्यूरल नेटवर्क जासूस पुराने तरीकों (जैसे B-splines) की तुलना में बहुत तेज़ और अधिक सटीक था और "ब्लैक बॉक्स" AI से भी बहुत बेहतर था जो केवल पूरे वीडियो को देखता था। यहाँ तक कि जब शहर बहुत बड़ा (50 आयाम) हो गया, तब भी उनकी विधि अच्छी तरह से काम करती रही।
"क्लासिक" टेस्ट: उन्होंने एक पिछले अध्ययन से एक प्रसिद्ध परीक्षण को फिर से चलाया।
- परिणाम: उनकी विधि मौजूदा सर्वोत्तम विधि के समान ही प्रदर्शन करती है, जो साबित करती है कि यह विश्वसनीय है।

निचोड़

यह शोध पत्र यह वादा नहीं करता कि यह कल बीमारियों का इलाज करेगा या शेयर बाजार की भविष्यवाणी करेगा। इसके बजाय, यह एक बेहतर गणितीय उपकरण प्रदान करता है जो यादृच्छिक गतिविधियों को वर्गीकृत करने के लिए है।

इसे इस तरह सोचें: यदि आप किसी गायक को पहचानना चाहते हैं, तो आप उनके पूरे संगीत कार्यक्रम को सुनकर अनुमान लगा सकते हैं (पुराना तरीका), या आप उनकी विशिष्ट आवाज की फ्रीक्वेंसी का विश्लेषण करके उनके अद्वितीय स्वर तंत्र (vocal cords) को पहचान सकते हैं (नया तरीका)। लेखकों ने दिखाया है कि आधुनिक AI का उपयोग करके "स्वर तंत्र" (ड्रिफ्ट) का विश्लेषण करना पहेली को सुलझाने का एक स्मार्ट और अधिक कुशल तरीका है, खासकर जब संगीत कार्यक्रम लंबा हो और भीड़ शोर भरी हो।

तकनीकी सारांश: न्यूरल नेटवर्कों का उपयोग करके डिफ्यूजन प्रक्रियाओं के ड्रिफ्ट फलनों का प्लग-इन वर्गीकरण

समस्या का निरूपण
यह शोध पत्र उन समय-समरूप (time-homogeneous) डिफ्यूजन प्रक्रियाओं के लिए सुपरवाइज्ड मल्टीक्लास वर्गीकरण समस्या को संबोधित करता है, जिन्हें असतत समय बिंदुओं पर देखा जाता है। अंतर्निहित प्रक्रिया $X = (X_t)_{t \in [0,T]}$ निम्नलिखित स्टोकेस्टिक डिफरेंशियल इक्वेशन (SDE) का पालन करती है:
$dX_t = b_Y(X_t) dt + \sigma(X_t) dB_t$
जहाँ $Y \in \{1, \dots, K\}$ एक डिस्क्रीट क्लास लेबल है, $b_Y$ एक क्लास-विशिष्ट ड्रिफ्ट फंक्शन है, और $\sigma$ एक डिफ्यूजन कोएफिशिएंट है जिसे सभी क्लासेज़ के लिए समान माना गया है। उद्देश्य एक क्लासिफायर $g_{D_N}$ का निर्माण करना है जो एक डिस्क्रीटली ऑब्जर्व की गई ट्रेजेक्टरी $\bar{Z} = (Z_{t_0}, \dots, Z_{t_M})$ को देखते हुए लेबल $Y$ की भविष्यवाणी करता है। अध्ययन यह मानता है कि ड्रिफ्ट फंक्शन विभिन्न क्लासेज़ के लिए अलग-अलग हैं जबकि डिफ्यूजन कोएफिशिएंट स्थिर रहता है, एक ऐसा परिवेश जहाँ क्लास की जानकारी केवल ड्रिफ्ट में समाहित होती है।

कार्यप्रणाली: न्यूरल नेटवर्क-आधारित प्लग-इन क्लासिफायर
प्रस्तावित दृष्टिकोण एक "प्लग-इन" क्लासिफायर है जो स्पष्ट रूप से डेटा की डिफ्यूजन संरचना का लाभ उठाता है, जो "एंड-टू-एंड" विधियों के विपरीत है जो पूरी ट्रेजेक्टरी को एक रॉ इनपुट वेक्टर के रूप में मानती हैं। कार्यप्रणाली दो मुख्य चरणों में आगे बढ़ती है:

बेयस लक्षण वर्णन और विवक्तीकरण (Discretization):
लेखक पहले बेयस क्लासिफायर का एक बहुआयामी लक्षण वर्णन प्राप्त करते हैं। मानक नियमितता धारणाओं (Lipschitz निरंतरता, Novikov की स्थिति) के तहत, इष्टतम क्लासिफायर उस लेबल $k$ को असाइन करता है जो एक फलन $\pi^*_k(X)$ को अधिकतम करता है। यह फलन $F^*_k(X)$ के माध्यम से प्राप्त किया जाता है, जो ड्रिफ्ट $b_k$ और डिफ्यूजन कोएफिशिएंट $\sigma$ से जुड़े पदों के सॉफ्टमैक्स ट्रांसफॉर्मेशन द्वारा परिभाषित है:
$F^*_k(X) = \int_0^T b_k(X_s)^\top (\sigma \sigma^\top)^{-1}(X_s) dX_s - \frac{1}{2} \int_0^T |\sigma^{-1}(X_s) b_k(X_s)|^2 ds$
चूंकि ट्रेजेक्टरीज को $t_m = m\Delta$ पर डिस्क्रीट समय पर देखा जाता है, इसलिए निरंतर फलन $F^*_k$ को एक रीमैन-सम (Riemann-sum) संस्करण $\bar{F}_k$ द्वारा अनुमानित किया जाता है।
न्यूरल नेटवर्क के माध्यम से ड्रिफ्ट अनुमान:
चूंकि वास्तविक ड्रिफ्ट फंक्शन्स $b_k$ अज्ञात हैं, इसलिए उन्हें फीडफॉरवर्ड न्यूरल नेटवर्क (विशेष रूप से स्पार्स ReLU नेटवर्क) का उपयोग करके नॉनपैरामेट्रिक रूप से अनुमानित किया जाता है। प्रत्येक क्लास $k$ के लिए, ड्रिफ्ट का अनुमान उस क्लास से संबंधित प्रशिक्षण ट्रेजेक्टरीज के डिस्क्रीट इंक्रीमेंट्स (increments) के आधार पर एक एम्पिरिकल लॉस को कम करके लगाया जाता है। अनुमानित ड्रिफ्ट $\hat{b}_k$ को फिर अनुमानित क्लास प्रोबेबिलिटी $\hat{\pi}_k$ की गणना करने के लिए डिस्क्रीटेड फलन $\bar{F}_k$ में प्लग किया जाता है, और अंतिम क्लासिफायर उच्चतम संभावना वाले क्लास की भविष्यवाणी करता है।

प्रमुख योगदान
यह शोध पत्र चार प्राथमिक सैद्धांतिक और संख्यात्मक योगदान देता है:

बहुआयामी बेयस लक्षण वर्णन: लेखक एक-आयामी सेटिंग्स (Denis et al. [2020]) से बहुआयामी मामले (Proposition 2.4) तक बेयस क्लासिफायर के लक्षण वर्णन को विस्तारित करते हैं, जो उच्च आयामों में प्लग-इन दृष्टिकोण के लिए सैद्धांतिक आधार प्रदान करता है।
जोखिम अपघटन (Risk Decomposition): थ्योरम 2.5 अतिरिक्त मिसक्लासिफिकेशन रिस्क के अपघटन को स्थापित करता है। यह प्रस्तावित क्लासिफायर और बेयस क्लासिफायर के बीच के अंतर को समय विवक्तीकरण चरण $\Delta$ और ड्रिफ्ट अनुमान की $L^2$ -त्रुटि के संदर्भ में बांधता है।
अभिसरण दरें (Convergence Rates): थ्योरम 2.7 ड्रिफ्ट अनुमान के लिए न्यूरल नेटवर्क का उपयोग करने पर अतिरिक्त जोखिम (excess risk) के लिए स्पष्ट अभिसरण दरें प्राप्त करता है। ये दरें नमूना आकार $N$ , टाइम स्टेप $\Delta$ , और ड्रिफ्ट फंक्शन्स की स्मूथनेस (जो कंपोजिशनल स्ट्रक्चर द्वारा निर्धारित होती है) पर निर्भर करती हैं।
संरचनात्मक लाभ: विश्लेषण इस बात पर प्रकाश डालता है कि डिफ्यूजन संरचना का लाभ उठाने से क्लासिफायर सभी देखे गए इंक्रीमेंट्स (प्रभावी रूप से $N \times M$ डेटा पॉइंट्स) से सीख सकता है, जबकि प्रत्यक्ष ट्रेजेक्टरी-आधारित क्लासिफायर पूरी पाथ को उच्च-आयामी स्थान में एक एकल नमूने के रूप में देखते हैं।

परिणाम और संख्यात्मक प्रयोग
सैद्धांतिक निष्कर्षों का समर्थन दो संख्यात्मक प्रयोगों द्वारा किया गया है:

उदाहरण 1 (डबल-लेयर पोटेंशियल ड्रिफ्ट्स): उतार-चढ़ाव वाले ड्रिफ्ट्स वाली तीन-क्लास समस्या में, प्रस्तावित NN-आधारित प्लग-इन क्लासिफायर B-स्प्लाइन-आधारित विधियों (Denis et al. [2024]) की तुलना में एक आयाम में काफी बेहतर प्रदर्शन करता है, विशेष रूप से बड़े सैंपल साइज के लिए जहां B-स्प्लाइन्स संतृप्त (saturate) हो जाते हैं। महत्वपूर्ण रूप से, यह विधि उच्च आयामों ( $d \in \{2, 5, 10, 50\}$ ) में भी कम्प्यूटेशनल रूप से व्यवहार्य और प्रभावी बनी रहती है। इसके अतिरिक्त, अनुमानित अभिसरण दरें (लॉगारिदमिक कारकों को छोड़कर) $N^{-1/2}$ दर के अनुरूप हैं, जो यह प्रदर्शित करती हैं कि जब ड्रिफ्ट फंक्शन्स में कंपोजिशनल स्ट्रक्चर होता है, तो आयाम स्थिरांकों (constants) को प्रभावित करता है लेकिन घातांक (exponent) को नहीं। इसके अलावा, यह विधि प्रत्यक्ष ट्रेजेक्टरी-आधारित क्लासिफायर्स (FNNs, RNNs, TCNs, Transformers) से काफी बेहतर प्रदर्शन करती है जो SDE संरचना की अनदेखी करते हैं।
उदाहरण 2 (Denis et al. [2024] बेंचमार्क): एक मानक बेंचमार्क को पुनः देखते हुए, प्रस्तावित विधि B-स्प्लाइन-आधारित क्लासिफायर और बेयस बेंचमार्क के तुलनीय वर्गीकरण जोखिम प्राप्त करती है, जो स्थापित सेटिंग्स में इसके प्रदर्शन को प्रमाणित करती है।

महत्व और दावे
यह शोध पत्र दावा करता है कि प्रस्तावित प्लग-इन क्लासिफायर डिफ्यूजन प्रक्रियाओं के लिए प्रत्यक्ष ट्रेजेक्टरी-आधारित लर्निंग के मुकाबले एक मजबूत विकल्प प्रदान करता है। अंतर्निहित SDE संरचना को स्पष्ट रूप से मॉडल करके, यह विधि उस "डायमेंशनलिटी का अभिशाप" (curse of dimensionality) से बचती है जो पूरी ट्रेजेक्टरी को उच्च-आयामी इनपुट वेक्टर के रूप में मानने से जुड़ा है। सैद्धांतिक विश्लेषण पुष्टि करता है कि अभिसरण दर (convergence rate) अवलोकन स्थान के आयाम के बजाय ड्रिफ्ट अनुमान की सटीकता द्वारा निर्धारित होती है (कंपोजिशनल धारणाओं के तहत)।

लेखक सीमाओं को स्वीकार करते हुए कहते हैं कि Burkholder–Davis–Gundy असमानताओं और Gronwall's lemma के अनुप्रयोग के कारण रिस्क बाउंड्स में स्थिरांक (constants) आयाम $d$ के साथ बढ़ते हैं। फलस्वरूप, हालांकि अभिसरण दर (exponent) अनुकूल बनी रहती है, उच्च-आयामी सेटिंग्स में महत्वपूर्ण जोखिम कमी देखने के लिए बड़े सैंपल साइज की आवश्यकता हो सकती है। इसके अतिरिक्त, पेपर नोट करता है कि वर्गीकरण स्वाभाविक रूप से ड्रिफ्ट अनुमान से अधिक चुनौतीपूर्ण है, क्योंकि अतिरिक्त जोखिम (excess risk) 1 द्वारा सीमित है; यदि ड्रिफ्ट एस्टिमेटर सटीक नहीं है, तो क्लासिफायर लगभग रैंडम प्रदर्शन कर सकता है।

कुल मिलाकर, यह कार्य डिफ्यूजन प्रोसेस वर्गीकरण के दायरे को एक-आयामी से बहु-आयामी सेटिंग्स तक बढ़ाता है और इस विशिष्ट प्रकार की समस्याओं के लिए जेनेरिक डीप लर्निंग आर्किटेक्चर के ऊपर स्ट्रक्चर-अवेयर प्लग-इन क्लासिफायर्स के उपयोग के लिए एक सैद्धांतिक औचित्य प्रदान करता है।

समस्या: "ब्लैक बॉक्स" दृष्टिकोण बनाम "स्मार्ट" दृष्टिकोण

समाधान: "प्लग-इन" जासूस

यह बेहतर क्यों है?

परिणाम: प्रयोग क्या दिखाते हैं

निचोड़

इसी तरह के और पेपर