📊 statistics

Bayesian Inference and Learning in Gaussian Process State-Space Models with Particle MCMC

यह शोध पत्र नॉनलीन नॉनपैरामेट्रिक स्टेट-स्पेस मॉडल्स में ट्रांज़िशन डायनेमिक्स पर गॉसियन प्रोसेस प्रायर्स (Gaussian process priors) स्थापित करके और मॉडल की अभिव्यक्ति क्षमता को बनाए रखते हुए तथा स्पार्स एप्रोक्सिमेशन्स (sparse approximations) के माध्यम से कम्प्यूटेशनल स्केलेबिलिटी सक्षम करने के लिए अनुकूलित पार्टिकल मार्कोव चेन मोंटे कार्लो (Particle Markov Chain Monte Carlo) सैंपलर्स का उपयोग करके, संयुक्त अवस्था अनुमान (joint state estimation) और सिस्टम आइडेंटिफिकेशन के लिए एक पूर्ण बेयसियन फ्रेमवर्क प्रस्तुत करता है।

मूल लेखक: Roger Frigola, Fredrik Lindsten, Thomas B. Schön, Carl E. Rasmussen

प्रकाशित 2026-06-04

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 3.0

मूल लेखक: Roger Frigola, Fredrik Lindsten, Thomas B. Schön, Carl E. Rasmussen

मूल पेपर CC BY 3.0 (http://creativecommons.org/licenses/by/3.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक रहस्यमय, अदृश्य मशीन कैसे काम करती है। आप मशीन के गियर या लीवर (आंतरिक "अवस्था" या state) को नहीं देख सकते और न ही आप उन सटीक नियमों को जानते हैं जिनका पालन वह एक क्षण से दूसरे क्षण में जाने के लिए करती है (गतिशीलता या dynamics)। आपके पास केवल अलग-अलग समय पर मशीन कैसी दिखती है, उसके धुंधले और शोर वाले स्नैपशॉट्स (मापन या measurements) उपलब्ध हैं।

यह शोध पत्र बेयसियन इन्फरेंस (Bayesian Inference) और गौसियन प्रोसेस (Gaussian Processes) का उपयोग करके इस पहेली को हल करने का एक नया, अत्यधिक लचीला तरीका प्रस्तुत करता है। यहाँ इसका रोजमर्रा की भाषा में विवरण दिया गया है:

समस्या: "ब्लैक बॉक्स" मशीन

कई वास्तविक दुनिया की प्रणालियों में (जैसे मौसम, शेयर बाजार, या रोबोट की गतिविधियाँ), चीजें समय के साथ कुछ छिपे हुए नियमों के आधार पर बदलती हैं।

छिपी हुई अवस्था (The Hidden State): मशीन की आंतरिक स्थिति के बारे में सोचें। आप इसे सीधे नहीं देख सकते।
गतिशीलता (The Dynamics): यह वह नियम पुस्तिका है जो कहती है, "यदि मशीन यहाँ है, तो वह अगली बार वहाँ जाएगी।" आमतौर पर, हम इस नियम पुस्तिका का अनुमान लगाने की कोशिश करते हैं कि यह एक सरल रेखा या एक विशिष्ट वक्र (curve) की तरह दिखेगी। लेकिन वास्तविक जीवन अव्यवस्थित है; नियम टेढ़े-मेढ़े, जटिल और अप्रत्याशित हो सकते हैं।
शोर (The Noise): आपके स्नैपशॉट्स धुंधले हैं। आप एक छाया देख सकते हैं जो एक वृत्त (circle) जैसी दिखती है, लेकिन वास्तव में वह एक वर्ग (square) भी हो सकती है।

समाधान: एक "आकार बदलने वाली" नियम पुस्तिका

लेखक एक ऐसा तरीका प्रस्तावित करते हैं जो मशीन को एक सरल, पूर्व-निर्धारित नियम पुस्तिका का पालन करने के लिए मजबूर नहीं करता है। इसके बजाय, वे एक गौसियन प्रोसेस (GP) का उपयोग करते हैं।

उपमा: कल्पना कीजिए कि आप कागज के एक टुकड़े पर बिंदुओं की एक श्रृंखला को जोड़ने वाली एक रेखा खींचने की कोशिश कर रहे हैं।

पुराना तरीका (Parametric): आप पहले से तय कर लेते हैं, "मैं केवल एक सीधी स्केल का उपयोग करूँगा।" यदि बिंदु मुड़ते हैं, तो आपका चित्र गलत होगा।
इस शोध पत्र का तरीका (Non-parametric): आप लचीले रबर बैंड का उपयोग करते हैं। आप रबर को उन बिंदुओं पर टिका देते हैं जिन्हें आप जानते हैं, और फिर रबर को खाली जगहों को भरने के लिए स्वाभाविक रूप से खिंचने और मुड़ने देते हैं। रबर इतना लचीला है कि वह किसी भी आकार को सीख सकता है जो डेटा संकेत देता है, बिना इस बात के कि आपको पहले से आकार का अनुमान लगाना पड़े।

जादू का कमाल: रहस्य को "समाप्त" करना (Collapsing the Mystery)

इस समस्या का सबसे कठिन हिस्सा यह है कि आपको न तो रबर बैंड का आकार (नियम पुस्तिका) पता है और न ही आपको बिंदुओं की स्थिति (छिपी हुई अवस्था) पता है। वे एक-दूसरे पर निर्भर हैं।

लेखकों की चतुर तकनीक नियम पुस्तिका को समीकरण से मार्जिनलाइज (marginalize) या "समाप्त" (collapse) करने की है।

रूपक: कल्पना कीजिए कि आप जंगल में एक खोए हुए हाइकर को खोजने की कोशिश कर रहे हैं। आमतौर पर, आपको हाइकर को खोजने के लिए जंगल के मानचित्र की आवश्यकता होती है। लेकिन यहाँ, मानचित्र स्वयं गायब है।
तरीका: मानचित्र और हाइकर दोनों को एक साथ खोजने के बजाय, लेखक कहते हैं, "आइए मान लें कि हमें एक क्षण के लिए मानचित्र के विशिष्ट आकार की परवाह नहीं है। आइए बस इस संभावना की गणना करें कि हाइकर कहाँ हो सकता है, और इसके लिए प्रत्येक संभावित मानचित्र को एक साथ विचार में लें।"
ऐसा करके, वे गणितीय रूप से उस जटिल नियम पुस्तिका के अनुमान की आवश्यकता को समाप्त कर देते हैं। इससे उन्हें छिपी हुई अवस्था के बारे में एक स्पष्ट तस्वीर मिलती है कि वह कहाँ होने की सबसे अधिक संभावना है।

इंजन: पार्टिकल MCMC (एक्सप्लोरर्स का झुंड)

इन संभावनाओं की गणना करने के लिए, वे पार्टिकल मार्कोव चेन मोंटे कार्लो (PMCMC) का एक तरीका उपयोग करते हैं, विशेष रूप से एक संस्करण जिसे PGAS कहा जाता है।

उपमा:
कल्पना कीजिए कि आपके पास 20 खोजकर्ताओं (particles) का एक झुंड है जो समय के माध्यम से छिपे हुए हाइकर के पथ का पता लगाने की कोशिश कर रहा है।

समस्या: यदि खोजकर्ता केवल यादृच्छिक अनुमान लगाते हैं, तो वे सभी एक ही गलत मोड़ पर फंस सकते हैं, या वे भूल सकते हैं कि उन्होंने कहाँ से शुरुआत की थी (इसे "पाथ डिजनरेसी" की समस्या कहा जाता है)।
समाधान (PGAS): खोजकर्ता एक टीम के रूप में काम करते हैं। वे एक "लीडर" पथ (एक विशिष्ट प्रक्षेपवक्र जिसे वे जानते हैं कि अच्छा है) रखते हैं। आगे बढ़ते समय, वे लगातार जाँच करते हैं: "यदि मैं अपने वर्तमान पथ को लीडर के पथ से बदल दूँ, तो क्या यह तर्कसंगnt बनेगा?"
परिणाम: यह झुंड को छिपी हुई अवस्था और जटिल नियम पुस्तिका के कई अलग-अलग संभावनाओं को एक साथ तलाशने की अनुमति देता है, जिससे यह सुनिश्चित होता है कि वे एक ही गलत अनुमान में न फंसें। वे प्रभावी रूप से मशीन के सबसे संभावित इतिहास का "नमूना" (sample) लेते हैं।

प्रतिफल: नियमों को सीखना

एक बार जब खोजकर्ता छिपी हुई अवस्था के सबसे संभावित पथ (smoothing distribution) का पता लगा लेते हैं, तो लेखक अंततः नियम पुस्तिका का पता लगा सकते हैं।

क्योंकि रबर बैंड (गौसियन प्रोसेस) लचीला है, एक बार जब उन्हें पता चल जाता है कि बिंदु वास्तव में कहाँ थे, तो वे उन्हें जोड़ने वाला सटीक वक्र बना सकते हैं।
इसके बाद वे भविष्यवाणी कर सकते हैं कि मशीन आगे क्या करेगी, यहाँ तक कि उन स्थितियों में भी जिन्हें उन्होंने पहले नहीं देखा है।

यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)

लचीलापन (Flexibility): पुरानी विधियों के विपरीत जो प्रणाली को एक सरल रेखा या वक्र होने के लिए मजबूर करती हैं, यह विधि जटिल, टेढ़े-मेढ़े और गैर-रेखीय व्यवहारों को सीख सकती है।
मजबूती (Robustness): भले ही सिस्टम के बारे में आपका प्रारंभिक अनुमान गलत हो (जैसे कि "मॉडल B" का उपयोग करना जो वास्तविकता से स्पष्ट रूप से भिन्न है), यह विधि खुद को ठीक करती है और वास्तविक व्यवहार को खोज लेती है।
दक्षता (Efficiency): उन्होंने यह करने का एक तरीका विकसित किया है कि लंबे डेटा अनुक्रमों के लिए भी कंप्यूटर गणित के बोझ तले क्रैश न हो, इसके लिए "स्पार्स" (sparse) तकनीकों (हर बिंदु के बजाय मुख्य बिंदुओं पर ध्यान केंद्रित करना) का उपयोग किया गया है।

सारांश

यह शोध पत्र एक तरीका पेश करता है जिससे एक जटिल, छिपी हुई प्रणाली के काम करने के तरीके को सीखा जा सकता है, और इसके लिए प्रणाली के नियमों को एक लचीले, आकार बदलने वाले रबर बैंड के रूप में माना जाता है। छिपे हुए पथ को ट्रैक करने के लिए स्मार्ट डिजिटल खोजकर्ताओं (पार्टिकल MCMC) के एक समूह का उपयोग करके, वे अंततः उन नियमों को पूरी तरह से पुनर्गठित कर सकते हैं जो प्रणाली को नियंत्रित करते हैं, भले ही डेटा शोर भरा हो और नियम अज्ञात हों।

तकनीकी सारांश: गाऊसी प्रोसेस स्टेट-स्पेस मॉडल में पार्टिकल MCMC के साथ बेयसियन इन्फरेंस और लर्निंग

समस्या विवरण

स्टेट-स्पेस मॉडल (SSMs) का उपयोग समय श्रृंखला (time series) और डायनेमिकल सिस्टम्स को मॉडल करने के लिए व्यापक रूप से किया जाता है, जो आमतौर पर एक लेटेंट स्टेट ट्राजेक्टरी $x_{0:T}$ और एक स्टेट ट्रांज़िशन फंक्शन $f$ द्वारा परिभाषित होते हैं। एक महत्वपूर्ण चुनौती तब उत्पन्न होती है जब $f$ अज्ञात और अत्यधिक नॉनलीनियर (nonlinear) हो। पारंपरिक दृष्टिकोण अक्सर $f$ के लिए पैरामेट्रिक निरूपणों का सहारा लेते हैं या एक्सपेक्टेशन-मैक्सिमाइजेशन (EM) एल्गोरिदम का उपयोग करते हैं जो ओवरफिटिंग का कारण बन सकते हैं, विशेष रूप से उच्च-आयामी स्टेट स्पेस में या जब स्मूथिंग डिस्ट्रीब्यूशन अनिश्चित हो।

जबकि गाऊसी प्रोसेस (GPs) $f$ के लिए एक लचीला, नॉन-पैरामेट्रिक प्रायर (prior) प्रदान करते हैं, उन्हें SSMs में लागू करना कठिन है क्योंकि लेटेंट स्टेट्स $x_{0:T}$ अनऑब्जर्व्ड (unobserved) होते हैं। मौजूदा तरीके अक्सर GP को टारगेट पॉइंट्स के एक सीमित सेट का उपयोग करके अनुमानित करते हैं, जो प्रभावी रूप से मॉडल को पैरामेट्रिक बना देता है, या स्मूथिंग के लिए निश्चित डायनेमिक्स मॉडल पर निर्भर रहते हैं। यह शोध पत्र जिस मुख्य समस्या को संबोधित करता है वह यह है कि मॉडल की एक्सप्रेसिविटी (expressivity) को कम किए बिना या अत्यधिक कम्प्यूटेशनल लागत के बिना नॉनलीनियर, नॉन-पैरामेट्रिक SSMs में पूर्ण बेयसियन इन्फरेंस और लर्निंग कैसे की जाए।

कार्यप्रणाली

लेखक एक पूर्ण बेयसियन फ्रेमवर्क प्रस्तावित करते हैं जहाँ अज्ञात स्टेट ट्रांज़िशन फंक्शन $f$ पर सीधे एक गाऊसी प्रोसेस प्रायर रखा जाता है। ऑब्जर्वेशन मॉडल $g$ को ज्ञात (संभवतः पैरामीटराइज्ड) माना जाता है, जबकि डायनेमिक्स $f$ को एक रैंडम फंक्शन के रूप में माना जाता है।

1. ट्रांज़िशन फंक्शन का मार्जिनलाइजेशन (Marginalization of the Transition Function)
स्टेट्स, हाइपर-पैरामीटर्स और फंक्शन $f$ के संयुक्त पोस्टीरियर (joint posterior) को एक साथ इन्फर करने के बजाय, लेखक ट्रांज़िशन फंक्शन $f$ को मार्जिनलाइज करते हैं। यह "कोलैप्सिंग" दृष्टिकोण विधि को मॉडल की नॉन-पैरामेट्रिक प्रकृति का सम्मान करने की अनुमति देता है। स्टेट ट्राजेक्टरी $x_{0:T}$ पर कंडीशन करने पर, मार्जिनल प्रायर $p(x_{0:T} | \theta)$ को गाऊसियन्स के उत्पाद (product) के रूप में व्यक्त किया जा सकता है। हालांकि यह डिस्ट्रीब्यूशन स्वयं गाऊसियन नहीं है (मीन और कोवेरिएंस की नॉन-लीनियर निर्भरता के कारण), फिर भी इसमें अनुक्रमिक इन्फरेंस (sequential inference) के अनुकूल संरचना बनी रहती है।

2. पार्टिकल मार्कोव चेन मोंटे कार्लो (PMCMC)
परिणामी संयुक्त स्मूथिंग डिस्ट्रीब्यूशन $p(x_{0:T}, \theta | y_{0:T})$ से सैंपल करने के लिए, लेखक एक पार्टिकल मार्कोव चेन मोंटे कार्लो (PMCMC) सैंपलर, विशेष रूप से पार्टिकल गिब्स विद एंसेस्टर सैंपलिंग (PGAS) का उपयोग करते हैं।

सिक्वेंशियल मोंटे कार्लो (SMC): एल्गोरिदम स्मूथिंग डिस्ट्रीब्यूशन को अनुमानित करने के लिए SMC का उपयोग करता है। हालांकि, मानक SMC 'पाथ डिजनरेसी' (path degeneracy) से ग्रस्त होता है, जहाँ अंतिम ऑब्जर्वेशन से दूर के टाइम स्टेप्स के लिए पार्टिकल विविधता खो जाती है।
PGAS: पाथ डिजनरेसी को कम करने और हाइपर-पैरामीटर्स $\theta$ पर इन्फरेंस सक्षम करने के लिए, PGAS का उपयोग किया जाता है। यह स्टेट ट्राजेक्टरी और हाइपर-पैरामीटर्स के लिए गिब्स सैंपलिंग स्टेप्स को जोड़ता है। महत्वपूर्ण रूप से, यह स्टेट ट्राजेक्टरी को सैंपल करने के लिए कंडीशनल पार्टिकल फिल्टर विद एंसेस्टर सैंपलिंग (CPF-AS) का उपयोग करता है। CPF-AS में, प्रत्येक स्टेप पर एक पार्टिकल ट्राजेक्टरी फिक्स्ड (कंडीशन किया हुआ) होता है, जबकि अन्य को सैंपल किया जाता है। "एंसेस्टर सैंपलिंग" स्टेप फिक्स्ड ट्राजेक्टरी को अपने पूर्वजों (ancestors) को री-सैंपल करने की अनुमति देता है, जिससे यह सुनिश्चित होता है कि मार्कोव कर्नेल सटीक स्मूथिंग डिस्ट्रीब्यूशन को इनवेरिएंट (invariant) छोड़ता है और मिक्सिंग रेट में सुधार करता है।

3. स्पार्स GP कंस्ट्रक्शन (Sparse GP Construction)
कम्प्यूटेशनल जटिलता को संबोधित करने के लिए, जो सहज रूप से $O(T^4)$ या $O(T^3)$ तक स्केल करती है, लेखक फुली इंडिपेंडेंट कंडिशनल (FIC) प्रायर का उपयोग करके एक स्पार्स GP कंस्ट्रक्शन पेश करते हैं। इंड्यूसिंग वेरिएबल्स (inducing variables) का एक सेट पेश करके, कम्प्यूटेशनल जटिलता को $O(M^2T)$ तक कम कर दिया जाता है, जहाँ $M \ll T$ इंड्यूसिंग पॉइंट्स की संख्या है। कार्यान्वयन विवरण पार्टिकल फिल्टर के फॉरवर्ड रिकर्सन के दौरान इस जटिलता को बनाए रखने के लिए कुशल चोलेस्की फैक्टराइजेशन (Cholesky factorizations) के अपडेट शामिल करते हैं।

4. डायनेमिक्स को सीखना (Learning the Dynamics)
एक बार जब स्मूथिंग डिस्ट्रीशन $p(x_{0:T}, \theta | y_{0:T})$ से सैंपल प्राप्त हो जाते हैं, तो ट्रांज़िशन फंक्शन $f$ पर पोस्टीरियर क्लोज्ड फॉर्म में उपलब्ध होता है। एक नए टेस्ट पॉइंट के लिए प्रेडिक्टिव डिस्ट्रीब्यूशन को गाऊसियन्स के मिश्रण (mixture of Gaussians) के रूप में तैयार किया जाता है, जहाँ प्रत्येक घटक स्मूथिंग डिस्ट्रीब्यूशन से एक सैंपल के अनुरूप होता है। यह मिश्रण मेजरमेंट्स की अस्पष्टता से उत्पन्न होने वाली मल्टीमोडैलिटी (multimodality) को सही ढंग से कैप्चर करता है।

मुख्य योगदान

पूर्ण नॉन-पैरामेट्रिक इन्फरेंस: यह पेपर एक ऐसी विधि प्रस्तुत करता है जो SSMs में गाऊसी प्रोसेस की पूर्ण नॉन-पैरामेट्रिक एक्सप्रेसिविटी को बनाए रखती है, जिससे फंक्शन स्पेस को डिस्क्रीटाइज करने या डायनेमिक्स के लिए विशिष्ट पैरामेट्रिक फॉर्म मानने की आवश्यकता नहीं होती।
मार्जिनलाइजेशन रणनीति: ट्रांज़िशन फंक्शन को मार्जिनलाइज करके, लेखक डायनेमिक्स के लर्निंग को स्टेट एस्टीमेशन से अलग करते हैं, जिससे स्टेट ट्राजेक्टरी दिए जाने पर स्मूथिंग डिस्ट्रीब्यूशन का सटीक इन्फरेंस संभव होता है।
SSMs के लिए PGAS: GP-SSMs के लिए पार्टिकल गिब्स विद एंसेस्टर सैंपलिंग का अनुप्रयोग संयुक्त स्मूथिंग डिस्ट्रीब्यूशन और हाइपर-पैरामीटर पोस्टीरियर से कुशल सैंपलिंग को सक्षम बनाता है, जो मानक पार्टिकल फिल्टर की पाथ डिजनरेसी समस्याओं को दूर करता है।
कम्प्यूटेशनल दक्षता: स्पार्स GP मेथड्स (FIC प्रायर) का एकीकरण कम्प्यूटेशनल बोझ को कम करता है, जिससे यह दृष्टिकोण लंबी टाइम सीरीज़ के लिए स्केलेबल बनता है।

प्रयोगात्मक परिणाम

लेखक अपने दृष्टिकोण का मूल्यांकन दो बेंचमार्क पर करते हैं:

नॉनलीनियर सिस्टम बेंचमार्क: एक सिस्टम जिसमें बाइमोडल स्मूथिंग डेंसिटीज हैं (ऑब्जर्वेशन्स में साइन एम्बिग्युटी के कारण)। GP-SSM ने स्टेट ट्राजेक्टरी की बाइमोडल प्रकृति को सफलतापूर्वक कैप्चर किया और डायनेमिक्स को सटीक रूप से सीखा, भले ही इसे एक खराब पैरामेट्रिक मीन फंक्शन के साथ शुरू किया गया हो। सीखे गए डायनेमिक्स के लिए रूट मीन स्क्वायर एरर (RMSE) पैरामेट्रिक बेसलाइन्स की तुलना में काफी कम था और ज्ञात मापदंडों वाले ग्राउंड ट्रुथ मॉडल के तुलनीय था।
कार्ट एंड पोल सिस्टम: एक 4-डायमेंशनल स्टेट स्पेस वाला सुदृढीकरण शिक्षण (reinforcement learning) बेंचमार्क। केवल 100 नॉइजी ऑब्जर्वेशन्स का उपयोग करके, मॉडल ने एक डायनेमिक्स रिप्रेजेंटेशन सीखा जो वन-स्टेप-अहेड प्रेडिक्शन करने में सक्षम है। परिणामी प्रेडिक्टिव डिस्ट्रीब्यूशन (गाऊसियन्स का मिश्रण) ने ट्रेनिंग डेटा से दूर के स्टेट स्पेस क्षेत्रों में उच्च अनिश्चितता और ट्रेनिंग डेटा के पास कम अनिश्चितता को सही ढंग से दर्शाया।

महत्व और दावे

यह पेपर दावा करता है कि इसका प्राथमिक महत्व GP-आधारित SSMs में इन्फरेंस के लिए एक महत्वपूर्ण घटक प्रदान करने में निहित है: GP मॉडल को पूर्ण बेयसियन तरीके से सीखने की क्षमता। पिछले कार्यों के विपरीत जिन्होंने यह माना था कि GP डायनेमिक्स पहले से ही सीखे जा चुके हैं या पैरामेट्रिक एप्रोक्सिमेशन का उपयोग किया था, यह दृष्टिकोण एक एडेप्टिव मॉडल कॉम्प्लेक्सिटी की अनुमति देता है।

लेखक जोर देते हैं कि उनकी विधि मॉडल की पूर्ण नॉन-पैरामेट्रिक एक्सप्रेसिविटी को बनाए रखती है, जिससे यह जटिल डायनेमिकल घटनाओं को कैप्चर करने में सक्षम होता है जिन्हें पैरामेट्रिक मॉडल मिस कर सकते हैं। वे उल्लेख करते हैं कि यह दृष्टिकोण विशेष रूप से उन परिदृश्यों में मजबूत है जहाँ स्मूथिंग डिस्ट्रीब्यूशन में उच्च अनिश्चितता होती है, जहाँ पारंपरिक MAP-आधारित या EM-आधारित दृष्टिकोण ओवरफिट हो सकते हैं। PGAS का उपयोग यह सुनिश्चित करता है कि इन्फरेंस पारंपरिक स्मूथिंग तकनीकों की निश्चित मॉडल धारणाओं तक सीमित नहीं है, जो नॉनलीनियर, नॉन-पैरामेट्रिक सेटिंग्स में सिस्टम आइडेंटिफिकेशन के लिए एक लचीला ढांचा प्रदान करता है।