Bayesian local clustering of functional data via semi-Markovian random partitions

यहाँ जियोवानी टोटो और एंटोनियो कैनाले के शोध पत्र "Bayesian local clustering of functional data via semi-Markovian random partitions" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

फंक्शनल डेटा एनालिसिस (FDA) में अक्सर निरंतर डोमेन (continuous domain) पर परिभाषित कर्व्स या सतहों का क्लस्टरिंग शामिल होता है। पारंपरिक क्लस्टरिंग विधियाँ आमतौर पर ग्लोबल क्लस्टरिंग (global clustering) करती हैं, जहाँ एक संपूर्ण फंक्शनल ऑब्जर्वेशन को एक ही क्लस्टर में असाइन किया जाता है। हालाँकि, फंक्शनल डेटा में अक्सर लोकल हेटेरोजेनिटी (local heterogeneity) देखी जाती है, जहाँ एक ही कर्व के अलग-अलग हिस्से अलग-अलग समूहों से संबंधित हो सकते हैं (उदाहरण के लिए, कर्व्स डोमेन की सीमाओं पर समान व्यवहार कर सकते हैं लेकिन केंद्र में भिन्न हो सकते हैं)।

मौजूदा स्थानीय क्लस्टरिंग दृष्टिकोणों की कुछ सीमाएँ हैं:

• हिडन मार्कोव मॉडल (HMMs): इनका उपयोग क्लस्टर विकास को मॉडल करने के लिए किया जाता है, लेकिन ये सख्त प्रथम-क्रम (first-order) मार्कोवियन निर्भरता लागू करते हैं जो बेसिस एक्सपेंशन (basis expansions) के स्थानीय समर्थन गुणों के अनुरूप नहीं हो सकते हैं।
• मानक डिपेंडेंट रैंडम पार्टीशन मॉडल (जैसे tRPM): हालांकि ये लचीले हैं, मानक टेम्पोरल रैंडम पार्टीशन मॉडल (tRPM) आमतौर पर प्रथम-क्रम निर्भरता मानते हैं। वे उस विशिष्ट आवश्यकता को पकड़ने में संघर्ष करते हैं जहाँ एक फंक्शन स्थानीय रूप से निरंतर बेसिस गुणांकों (coefficients) के एक ब्लॉक (जैसे डिग्री-$d$ के B-spline के लिए $d+1$ गुणांक) द्वारा निर्धारित होता है, न कि केवल एक एकल गुणांक द्वारा।

लेखकों का लक्ष्य एक इनडायरेक्ट लोकल क्लस्टरिंग (indirect local clustering) फ्रेमवर्क विकसित करना है जो B-spline बेसिस एक्सपेंशन के स्थानीय समर्थन गुणों का सम्मान करता है, जिससे प्रतिबंधात्मक मार्कोवियन धारणाओं पर निर्भर किए बिना आंशिक रूप से सहवर्ती (partially coincident) फंक्शनल व्यवहार संभव हो सके।

2. कार्यप्रणाली (Methodology)

प्रस्तावित फ्रेमवर्क B-spline बेसिस एक्सपेंशन को एक नवीन सेमी-मार्कोवियन रैंडम पार्टीशन मॉडल (smRPM) के साथ जोड़ता है।

A. फंक्शनल प्रतिनिधित्व (Functional Representation)

फंक्शनल ऑब्जर्वेशन $y_i(x)$ को $d$-डिग्री B-spline बेसिस का उपयोग करके अनुमानित किया जाता है:
$$y_i(x) \approx \sum_{k=1}^K b_k(x) \theta_{ik}$$
जहाँ $\theta_i$ बेसिस गुणांकों का एक वेक्टर है।

• लोकल क्लस्टरिंग लॉजिक: B-splines के स्थानीय समर्थन (local support) के कारण, एक कर्व एक उप-अंतराल (sub-interval) के भीतर $d+1$ निरंतर गुणांकों द्वारा पूरी तरह से निर्धारित होता है। इसलिए, दो कर्व्स स्थानीय रूप से समान होते हैं यदि वे $d+1$ निरंतर गुणांक साझा करते हैं।
• लेटेंट स्ट्रक्चर (Latent Structure): एक वैश्विक क्लस्टर लेबल $c_i$ के बजाय, मॉडल एक स्थानीय क्लस्टर लेबल मैट्रिक्स $C = (c_{ik})$ का उपयोग करता है, जहाँ $c_{ik}$ कर्व $i$ के $k$-वें बेसिस गुणांक के लिए क्लस्टर असाइनमेंट को दर्शाता है।

B. सेमी-मार्कोवियन रैंडम पार्टीशन मॉडल (smRPM)

मुख्य नवाचार smRPM है, जो एक tRPM का सामान्यीकरण है जो B-spline डिग्री से मेल खाने के लिए उच्च-क्रम (higher-order) की निर्भरता पेश करता है।

1. पार्टीशन विकास (Partition Evolution): मॉडल बेसिस इंडेक्स $k$ के ऊपर विकसित होने वाले विभाजनों (partitions) $\rho_1, \dots, \rho_K$ को परिभाषित करता है।
2. सहायक चर ($\gamma$ - Auxiliary Variables): विकास को नियंत्रित करने के लिए, बाइनरी लेटेंट वेरिएबल्स $\gamma_{ik}$ पेश किए जाते हैं।
   • $\gamma_{ik} = 1$ का अर्थ है कि यूनिट $i$ "लॉक" है और अगले $d_\rho$ ट्रांजिशन के लिए पुन: आवंटित नहीं की जा सकती है।
   • यह एक $d_\rho$-ऑर्डर पर्सिस्टेंस (persistence) बनाता है, जो यह सुनिश्चित करता है कि क्लस्टर असाइनमेंट गुणांकों के एक ब्लॉक पर स्थिर रहे, जो B-spline सपोर्ट से मेल खाता है।
3. निर्भरता संरचना (Dependence Structure):
   • पार्टीशन निर्भरता ($d_\rho$): चरण $k$ पर एक पार्टीशन की संभावना पिछले पार्टीशन और पिछले $d_\rho$ चरणों के सहायक वेरिएबल्स पर निर्भर करती है। यह प्रथम-क्रम मार्कोव धारणा को शिथिल करता है।
   • सहायक चर निर्भरता ($d_\gamma$): लेखक स्वयं सहायक वेरिएबल्स के लिए एक लॉजिस्टिक ऑटोरेग्रेसिव मॉडल प्रस्तावित करते हैं। $\gamma_{ik}$ की संभावना पिछले $d_\gamma$ मानों $\gamma_{i, \cdot}$ पर निर्भर करती है। यह "लॉकिंग" तंत्र में निर्भरता को कैप्चर करता है।
4. गुणांकों पर प्रायर (Prior on Coefficients): क्लस्टर $j$ के लिए बेसिस गुणांक $\theta^*_{kj}$ पदानुक्रमित (hierarchically) रूप से मॉडल किए जाते हैं। उनका प्रायर मीन उन गुणांकों का भारित औसत (weighted average) है जो क्लस्टर $j$ में विलीन होने वाले $k-1$ के क्लस्टर्स से आते हैं, जो क्लस्टर सीमाओं के पार स्मूथनेस और निरंतरता सुनिश्चित करता है।

C. निष्कर्ष (Inference)

गिब्स सैंपलिंग (Gibbs Sampling) के माध्यम से पोस्टीरियर इन्फरेंस किया जाता है। लेखक निम्नलिखित के लिए फुल कंडीशनल डिस्ट्रीब्यूशन निकालते हैं:

• पार्टीशन लेबल्स $c_{ik}$।
• सहायक वेरिएबल्स $\gamma_{ik}$।
• $\gamma$ की निर्भरता को नियंत्रित करने वाले हाइपरपैरामीटर्स (यदि $d_\gamma > 0$ है तो लॉजिस्टिक रिग्रेशन के लिए Polson et al. का डेटा ऑगमेंटेशन उपयोग करते हुए)।
• बेसिस गुणांक और नॉइज़ वेरिएंस।

3. मुख्य योगदान (Key Contributions)

1. नवीन smRPM फ्रेमवर्क: एक सेमी-मार्कोवियन रैंडम पार्टीशन मॉडल का परिचय जो $d_\rho$-ऑर्डर की निर्भरता (पार्टीशन के लिए) और $d_\gamma$-ऑर्डर की निर्भरता (सहायक वेरिएबल्स के लिए) की अनुमति देता है। यह मानक प्रथम-क्रम मार्कोवियन मॉडल (जैसे tRPM) और HMMs की तुलना में एक महत्वपूर्ण प्रगति है।
2. B-Spline गुणों के साथ संरेखण: मॉडल स्पष्ट रूप से निर्भरता क्रम ($d_\rho$) को B-spline बेसिस की डिग्री के साथ मिलाता है। यह सुनिश्चित करता है कि "लोकल क्लस्टरिंग" गणितीय रूप से B-spline स्थानीय समर्थन की परिभाषा के अनुरूप है।
3. लचीला निर्भरता मॉडलिंग: सहायक वेरिएबल्स में ऑटोरेग्रेसिव निर्भरता ($d_\gamma$) पेश करके, मॉडल पिछले डिपेंडेंट पार्टीशन मॉडल्स में पाई जाने वाली अवास्तविक स्वतंत्रता की धारणा से बचता है।
4. सामान्य प्रयोज्यता (General Applicability): हालांकि फंक्शनल डेटा से प्रेरित है, smRPM को किसी भी ऐसी समस्या के लिए एक सामान्य उपकरण के रूप में प्रस्तुत किया गया है जिसमें उच्च-क्रम निर्भरता की आवश्यकता होती है।

4. परिणाम (Results)

सिमुलेशन अध्ययन (Simulation Studies)

• प्रदर्शन बनाम निर्भरता क्रम: लेखकों ने विभिन्न $d_\rho$ और $d_\gamma$ के साथ smRPM की तुलना करने वाले सिमुलेशन किए।
  • निष्कर्ष: मॉडल जहाँ $d_\rho$ डेटा के वास्तविक निर्भरता क्रम से मेल खाता है, वे मार्कोवियन मॉडल ($d_\rho=1$) की तुलना में काफी बेहतर प्रदर्शन करते हैं।
  • निष्कर्ष: $d_\gamma = d_\rho$ सेट करने से आम तौर पर सबसे अच्छा प्रदर्शन और मजबूती मिलती है, जो $d_\gamma=0$ (स्वतंत्र सहायक चर) वाले मामलों से बेहतर है।
  • तुलना: प्रस्तावित smRPM मानक tRPM और हिडन मार्कोव फंक्शनल लोकल क्लस्टरिंग मॉडल (HMFLCM) से बेहतर प्रदर्शन करता है, विशेष रूप से छोटे सैंपल साइज या मामूली मिसस्पेसिफिकेशन (जैसे गलत बेसिस फंक्शन की संख्या) वाले परिदृश्यों में।
• मजबूती (Robustness): मॉडल अनुमान के लिए उपयोग किए जाने वाले बेसिस फंक्शन की संख्या डेटा-जनरेटिंग प्रक्रिया से भिन्न होने पर भी प्रभावी रहता है, बशर्ते कि निर्भरता क्रम को सही ढंग से निर्दिष्ट किया गया हो।

वास्तविक डेटा अनुप्रयोग: वेनिस लैगून टाइड्स (Venice Lagoon Tides)

• डेटा: 11 निगरानी स्टेशनों से प्रति घंटा ज्वार स्तर (tide level) का माप।
• संदर्भ: अध्ययन ने उन अवधियों का विश्लेषण किया जब MOSE बाढ़ अवरोध प्रणाली सक्रिय और निष्क्रिय थी।
• निष्कर्ष:
  • ग्लोबल बनाम लोकल: मॉडल ने सफलतापूर्वक पहचाना कि स्टेशन वैश्विक रूप से समान व्यवहार करते थे जब MOSE निष्क्रिय था, लेकिन सक्रिय होने पर उन्होंने विशिष्ट स्थानीय व्यवहार प्रदर्शित किए।
  • सूक्ष्मता (Nuance): ग्लोबल क्लस्टरिंग के विपरीत, मॉडल ने एक विशिष्ट स्टेशन (लाल क्लस्टर) का पता लगाया जो पूरे अंतराल के दौरान एक अद्वितीय व्यवहार बनाए रखता है, जबकि अन्य उच्च-ज्वार की घटनाओं के दौरान अलग-अलग स्थानीय समूहों (नीले/पीले) में विभाजित हो गए।
  • अनिश्चितता: बेयसियन फ्रेमवर्क ने क्लस्टर्स की संख्या ($J_k$) के लिए पोस्टीरियर डिस्ट्रीब्यूशन प्रदान किया, जो क्लस्टरिंग स्थिरता के एकल पॉइंट एस्टीमेट के बजाय एक संभाव्य मूल्यांकन प्रदान करता है।

5. महत्व और निष्कर्ष (Significance and Conclusion)

यह पेपर फंक्शनल डेटा क्लस्टरिंग में एक महत्वपूर्ण अंतर को संबोधित करता है: अत्यधिक प्रतिबंधात्मक मार्कोवियन धारणाओं को लागू किए बिना स्थानीय, आंशिक रूप से सहवर्ती व्यवहारों को पकड़ने में मानक विधियों की अक्षमता।

• सैद्धांतिक प्रभाव: smRPM उच्च-क्रम निर्भरता को औपचारिक रूप देकर डिपेंडेंट रैंडम पार्टीशन के साहित्य का विस्तार करता है, जो जटिल पदानिधित संरचनाओं के लिए अधिक लचीला प्रायर प्रदान करता है।
• व्यावहारिक प्रभाव: यह कार्यप्रणाली फंक्शनल डेटा के विश्लेषण के लिए एक शक्तिशाली उपकरण प्रदान करती है जहाँ स्थानीय विशेषताओं का महत्व होता है (जैसे मेडिकल सिग्नल, पर्यावरणीय निगरानी, वित्तीय कर्व्स)। वेनिस लैगून अनुप्रयोग यह प्रदर्शित करता है कि यह सूक्ष्म, समय-परिवर्तनीय पैटर्न को उजागर करने में सक्षम है जिन्हें ग्लोबल क्लस्टरिंग मिस कर सकता है।
• भविष्य की दिशाएं: लेखक नॉइज़ मॉडल को गॉसियन प्रोसेस तक विस्तारित करने, सहायक चर वितरण में कोवेरिएट्स को शामिल करने और बढ़ी हुई लचीलेपन के लिए पिटमैन-योर प्रोसेस (Pitman-Yor process) जैसे वैकल्पिक एक्सचेंज योग्य पार्टीशन प्रोबेबिलिटी फंक्शन (EPPFs) का पता लगाने का सुझाव देते हैं।

संक्षेप में, प्रस्तावित smRPM फंक्शनल डेटा के स्थानीय क्लस्टरिंग के लिए एक सांख्यिकीय रूप से कठोर और कम्प्यूटेशनल रूप से व्यवहार्य समाधान प्रदान करता है, जो मौजूदा अत्याधुनिक विधियों की तुलना में बेहतर प्रदर्शन प्राप्त करने के लिए B-spline बेसिस की विशिष्ट ज्यामिति का लाभ उठाता है।