📊 statistics

Hybrid Partial Least Squares Regression with Multiple Functional and Scalar Predictors

यह शोध पत्र हाइब्रिड पार्शियल लीस्ट स्क्वायर्स (Hybrid PLS) का प्रस्ताव करता है, जो एक नवीन प्रतिगमन ढांचा (regression framework) है जो कार्यात्मक (functional) और स्केलर भविष्यवक्ताओं को एक हाइब्रिड हिल्बर्ट स्पेस के भीतर एकीकृत करता है ताकि पर्यवेक्षित आयामी न्यूनीकरण (supervised dimension reduction) और प्रतिगमन किया जा सके, जिसमें रफनेस पेनल्टीज़ (roughness penalties) के साथ एक कुशल NIPALS-आधारित एल्गोरिदम शामिल है और जिसे सैद्धांतिक ज्यामितीय गुणों तथा रीनल इमेजिंग डेटा के अनुप्रयोगों द्वारा सत्यापित किया गया है।

मूल लेखक: Jongmin Mun, Jeong Hoon Jang

प्रकाशित 2026-01-26

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jongmin Mun, Jeong Hoon Jang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक डॉक्टर हैं जो किडनी की किसी समस्या का निदान करने की कोशिश कर रहे हैं। आपके पास प्रत्येक रोगी के बारे में दो प्रकार की जानकारी है:

"मूवी" (फंक्शनल डेटा): एक वीडियो रिकॉर्डिंग कि कैसे एक रेडियोधर्मी ट्रेसर समय के साथ किडनी के माध्यम से घूमता है। यह हजारों डेटा बिंदुओं वाली एक सुचारू, बहती हुई वक्र (curve) है।
"स्टेट्स शीट" (स्केलर डेटा): उस मूवी से प्राप्त 14 सारांश संख्याओं की एक सूची, जैसे कि "पीक हाइट," "टाइम टू पीक," और "टोटल एरिया अंडर द कर्व," साथ ही रोगी की आयु।

समस्या:
परंपरागत रूप से, डॉक्टर मूवी को छोड़कर केवल "स्टेट्स शीट" का उपयोग करना पसंद कर सकते हैं क्योंकि इसे संभालना आसान होता है। लेकिन यह तर्क देता है कि ऐसा करना एक फिल्म के कथानक (plot) को फेंक देने और केवल उसके बॉक्स ऑफिस नंबर रखने जैसा है। आप उन सूक्ष्म विवरणों को खो देते हैं जो निदान के लिए महत्वपूर्ण हो सकते हैं।

हालाँकि, यदि आप मूवी और स्टेट्स शीट दोनों का एक साथ उपयोग करने का प्रयास करते हैं, तो आप एक उलझन में फंस जाते हैं। मूवी और स्टेट्स आपस में गहराई से जुड़े हुए हैं (स्टेट्स वास्तव में मूवी से ही गणना किए गए हैं)। यह सहसंबंधों (correlations) का एक "जटिल जाल" बनाता है। यदि आप मानक गणितीय उपकरणों के साथ इनका विश्लेषण करने का प्रयास करते हैं, तो कंप्यूटर भ्रमित हो जाता है, परिणाम अस्थिर हो जाते हैं, और आप एक ऐसा निदान प्राप्त कर सकते हैं जो कागजों पर तो अच्छा दिखता है लेकिन वास्तविक दुनिया में विफल हो जाता है।

समाधान: हाइब्रिड पीएलएस (Hybrid PLS)
लेखकों, जोंगमिन मुन और जियोंग हुन जेंग ने एक नया गणितीय उपकरण बनाया है जिसे हाइब्रिड पार्शियल लीस्ट स्क्वायर्स (Hybrid PLS) कहा जाता है।

इस उपकरण को एक स्मार्ट अनुवादक और फिल्टर के रूप में सोचें जो तीन चीजें करता है:

एक एकीकृत भाषा का निर्माण करता है: यह एक विशेष "हिल्बर्ट स्पेस" (एक फैंसी गणितीय कमरा) बनाता है जहाँ बहती हुई मूवी कर्व्स और स्थिर संख्याएं एक-दूसरे के साथ बिना भ्रमित हुए अगल-बगल बैठ सकती हैं और बात कर सकती हैं। यह उन्हें दो अलग-अलग, टकराने वाले समूहों के बजाय एक एकल, हाइब्रिड वस्तु के रूप में मानता है।
"स्वर्ण धागे" (Golden Threads) खोजता है: सबसे सामान्य पैटर्न खोजने के बजाय (जैसे कि एक मानक कैमरा करता है), यह विशेष रूप से उन पैटर्न की तलाश करता है जो निदान की भविष्यवाणी करते हैं। यह "शोर" (मूवी के वे हिस्से जो बहुत अधिक बदलते हैं लेकिन यह नहीं बताते कि किडनी अवरुद्ध है या नहीं) को अनदेखा करता है और केवल "सिग्नल" (विशिष्ट आकार परिवर्तन जो रुकावट का संकेत देते हैं) पर ध्यान केंद्रित करता है।
इसे सुचारू रखता है: चूंकि डेटा एक सुचारू जैविक प्रक्रिया से आता है, इसलिए यह उपकरण परिणामों को भी सुचारू होने के लिए मजबूर करता है। यह गणित को डेटा के छोटे, यादृच्छिक उतार-चढ़ाव (wiggles) को अत्यधिक व्याख्या करने या "झटका देने" से रोकता है।

यह कैसे काम करता है ("NIPALS" नृत्य)
पेपर में एक एल्गोरिदम का वर्णन किया गया है जिसे NIPALS (नॉनलीनियर इटरेटिव पार्शियल लीस्ट स्क्वायर्स) कहा जाता है। एक नृत्य की कल्पना करें जहाँ कंप्यूटर बारी-बारी से काम करता है:

चरण 1: यह डेटा को देखता है और सबसे अच्छा "दिशा" (मूवी और स्टेट्स का एक संयोजन) ढूंढता है जो किडनी की रुकावट के बारे में सबसे अधिक स्पष्ट करता है।
चरण 2: यह उस स्पष्टीकरण को डेटा से घटा देता है, जिससे पीछे केवल "बचा हुआ हिस्सा" (वे भाग जिन्हें अभी तक समझाया नहीं गया है) रह जाता है।
चरण 3: यह अगले सबसे अच्छे दिशा को खोजने के लिए बचे हुए हिस्से पर प्रक्रिया को दोहराता है।

यह तब तक चलता रहता है जब तक कि इसने डेटा का एक छोटा, कुशल "सारांश" नहीं बना लिया है जो सब कुछ महत्वपूर्ण कैप्चर करता है।

यह बेहतर क्यों है (परिणाम)
लेखकों ने इसे नकली डेटा और एमोरी यूनिवर्सिटी के वास्तविक किडनी स्कैन पर परखा।

"मूवी बनाम स्टेट्स" परीक्षण: जब उन्होंने किडनी की रुकावट की भविष्यवाणी करने की कोशिश की, तो उनके नए तरीके ने इन "स्वर्ण धागों" में से केवल एक या दो का उपयोग करके उत्तर खोज लिया।
प्रतिस्पर्धा: अन्य तरीकों (जैसे कि मानक प्रिंसिपल कंपोनेंट रिग्रेशन) को समान सटीकता प्राप्त करने के लिए तीन गुना अधिक धागों की आवश्यकता थी, और फिर भी, वे अक्सर शोर से भ्रमित हो जाते थे।
"ओवरफिटिंग" का जाल: मानक तरीके अक्सर प्रशिक्षण डेटा की विशिष्ट खामियों को याद करने की कोशिश करते हैं (ओवरफिटिंग), जिससे वे नए रोगियों पर विफल हो जाते हैं। हाइब्रिड पीएलएस विधि स्थिर और सटीक रही, जो यह साबित करती है कि इसने केवल उदाहरणों को याद करने के बजाय किडनी की रुकावट के वास्तविक नियमों को सीखा है।

संक्षेप में
यह पेपर "मूवी" (कर्व्स) और "संख्याओं" (स्टेट्स) को एक एकल, शक्तिशाली नैदानिक उपकरण में संयोजित करने का एक तरीका प्रस्तुत करता है। यह उनके प्राकृतिक संबंध के कारण होने वाले भ्रम को काटता है, शोर को हटा देता है, और किडनी के स्वास्थ्य की भविष्यवाणी करने का एक सरल, सुचारू और अत्यधिक सटीक तरीका प्रदान करता है। यह एक ऐसे अनुवादक की तरह है जो एक जटिल उपन्यास और एक स्प्रेडशीट दोनों को पढ़ सकता है और आपको बता सकता है कि कहानी वास्तव में क्या है, बिना विवरणों में खोए।

तकनीकी सारांश: बहु-कार्यात्मक और स्केलर भविष्यवक्ताओं के साथ हाइब्रिड पार्शियल लीस्ट स्क्वायर्स रिग्रेशन (Hybrid Partial Least Squares Regression)

1. समस्या विवरण

यह शोध पत्र उन स्थितियों में सुपरवाइज्ड डायमेंशन रिडक्शन (supervised dimension reduction) और रिग्रेशन की चुनौती को संबोधित करता है जहाँ रिस्पॉन्स वेरिएबल (response variable) स्केलर कोवेरिएट्स (scalar covariates) और कई कार्यात्मक भविष्यवक्ताओं (functional predictors/curves) के मिश्रण से प्रभावित होता है। यह हाइब्रिड सेटिंग, जिसे 'पार्शियली फंक्शनल लीनियर मॉडल' (PFLM) के रूप में औपचारिक रूप दिया गया है, दो प्राथमिक कठिनाइयों को प्रस्तुत करती है:

पार्सिमनी (Parsimony): व्याख्या योग्य, निम्न-आयामी (low-dimensional) निरूपणों की आवश्यकता, विशेष रूप से जब नैदानिक निर्णय नियम (clinical decision rules) आवश्यक हों।
मल्टीकोलिनैरिटी (Multicollinearity): चार स्तरों पर जटिल निर्भरताओं की उपस्थिति: (i) फंक्शन के भीतर सहसंबंध (within-function correlations), (ii) फंक्शनों के बीच सहसंबंध (between-function correlations), (iii) स्केलर भविष्यवक्ताओं के बीच सहसंबंध, और (iv) कार्यात्मक और स्केलर भविष्यवक्ताओं के बीच इंटरमोडल सहसंबंध (intermodal correlations)।

मौजूदा विधियाँ अक्सर इन मुद्दों को एक साथ हल करने में विफल रहती हैं। उच्च-आयामी यूक्लिडियन विधियाँ (जैसे Lasso, SCAD) सजातीय डेटा संरचनाओं को मानती हैं। कार्यात्मक रिग्रेशन विधियाँ आमतौर पर एकल कार्यात्मक भविष्यवक्ताओं पर ध्यान केंद्रित करती हैं या दो-चरणीय प्रक्रियाओं (जैसे, अनसुपरवाइज्ड PCA के माध्यम से कार्यात्मक डेटा को परिमित-आयामी निरूपणों में बदलना) का उपयोग करती हैं जो क्रॉस-मोडैलिटी सहसंबंधों की अनदेखी करती हैं और कार्यात्मक निरूपणों को रिस्पॉन्स-अज्ञेय (response-agnostic) मानती हैं।

2. कार्यप्रणाली: हाइब्रिड PLS (Hybrid PLS)

लेखक हाइब्रिड पार्शियल लीस्ट स्क्वायर्स (Hybrid PLS) का प्रस्ताव करते हैं, जो एक सुपरवाइज्ड डायमेंशन रिडक्शन करने के लिए कार्यात्मक और स्केलर भविष्यवक्ताओं को एक एकल गणितीय संरचना में एकीकृत करता है।

A. एकीकृत हाइब्रिड हिल्बर्ट स्पेस (Unified Hybrid Hilbert Space)
यह विधि कार्यात्मक और स्केलर भविष्यवक्ताओं को संयुक्त रूप से संसाधित करने के लिए एक उत्पाद स्थान (product space) $\mathcal{H} := (L^2[0, 1])^K \times \mathbb{R}^p$ का निर्माण करती है। एक तत्व $h \in \mathcal{H}$ एक क्रमित टुपल $(f_1, \dots, f_K, u)$ है। इनर प्रोडक्ट को इस प्रकार परिभाषित किया गया है:
$\langle h_1, h_2 \rangle_{\mathcal{H}} := \sum_{k=1}^K \int_0^1 f_{1k}(t)f_{2k}(t) dt + \omega u_1^\top u_2$
जहाँ $\omega$ एक वेट पैरामीटर (weight parameter) है जो कार्यात्मक और स्केलर घटकों के स्केल को संतुलित करता है। यह हाइब्रिड सेटिंग में नॉन-लीनियर इटरेटिव पार्शियल लीस्ट स्क्वायर्स (NIPALS) एल्गोरिदम के विस्तार की अनुमति देता है।

B. जनसंख्या-स्तरीय एल्गोरिदम (Population-Level Algorithm)
जनसंख्या स्तर पर, विधि PLS दिशाओं $\xi$ की खोज करती है जो ऑर्थोगोनैलिटी बाधाओं (orthogonality constraints) के अधीन, भविष्यवक्ता $W$ और रिस्पॉन्स $Y$ के बीच स्क्वेर्ड कोवेरिएंस को अधिकतम करती है। लेखक स्थापित करते हैं कि अनुकूलन समस्या (optimization problem) एक कंपोजिट ऑपरेटर $U = \Sigma_{YW} \otimes \Sigma_{YW}$ के आइजनफंक्शंस (eigenfunctions) खोजने के समतुल्य है, जो सुनिश्चित करता है कि समस्या हल्के मोमेंट कंडीशंस (moment conditions) के तहत सुव्यवस्थित (well-posed) है। एल्गोरिदम लेटेंट स्कोर्स की ऑर्थोगोनैलिटी और अनकोरिलेटेड रेसिडुअल्स (uncorrelated residuals) की गारंटी देता है।

C. नमूना-स्तरीय कार्यान्वयन (Sample-Level Implementation)
प्रस्तावित नमूना एल्गोरिदम (एल्गोरिदम 3) दो चरणों के बीच बारी-बारी से कार्य करता है:

PLS दिशाओं का रेगुलराइज्ड एस्टीमेशन: ओवरफिटिंग को रोकने और स्मूथनेस (smoothness) सुनिश्चित करने के लिए (जो कार्यात्मक डेटा के लिए महत्वपूर्ण है), PLS दिशा $\hat{\xi}$ $\hat{ξ}$ का अनुमान कार्यात्मक घटकों के दूसरे डेरिवेटिव्स पर रफनेस पेनल्टी (roughness penalty) के अधीन एम्पिरिकल कोवेरिएंस को अधिकतम करके लगाया जाता है। यह एक जनरलाइज्ड रेले क्वोटिएंट (generalized Rayleigh quotient) समस्या की ओर ले जाता है।
- प्रमुख कम्प्यूटेशनल अंतर्दृष्टि: रैंक-एक संरचना के कारण, लेखक एक क्लोज्ड-फॉर्म सॉल्यूशन (closed-form solution) निकालते हैं जिसके लिए केवल लीनियर सिस्टम को हल करना आवश्यक होता है। यह अक्सर जनरलाइज्ड आइजनप्रॉब्लम्स से जुड़ी कम्प्यूटेशनल अस्थिरता से बचाता है।
रेसिडुअलाइजेशन (Residualization): दोनों भविष्यवक्ताओं और रिस्पॉन्स को अनुमानित स्कोर्स के विरुद्ध रेसिडुअलाइज किया जाता है, जो मानक NIPALS प्रक्रिया को दोहराता है लेकिन हाइब्रिड हिल्बर्ट स्पेस के भीतर।

D. अंतिम एस्टीमेशन (Final Estimation)
रिग्रेशन कोएफिशिएंट $\hat{\beta}$ को अनुमानित PLS दिशाओं के एक लीनियर कॉम्बिनेशन के रूप में पुनर्गठित किया जाता है, जिसे मूल मॉडल के साथ निरंतरता सुनिश्चित करने के लिए रेसिडुअलाइजेशन चरणों के लिए समायोजित किया गया है।

3. प्रमुख योगदान

सैद्धांतिक विस्तार: एक एकीकृत हिल्बर्ट स्पेस को परिभाषित करके और संबंधित ऑपरेटर के लिए आइजनफंक्शंस के एक पूर्ण ऑर्थोनॉर्मल सिस्टम के अस्तित्व को सिद्ध करके, कई कार्यात्मक और स्केलर भविष्यवक्ताओं वाले हाइब्रिड सेटिंग में NIPALS एल्गोरिदम का कठोरता से विस्तार किया गया है।
एल्गोरिद्मिक दक्षता: विधि एक कुशल क्लोज्ड-फॉर्म सॉल्यूशन प्रदान करती है, जो इसे घने (dense) या अनियमित कार्यात्मक डेटा के लिए स्केलेबल बनाती है।
ज्यामितिक गुण: प्रस्तावित ढांचा PLS के मूल ज्यामितिक गुणों को संरक्षित करता है, विशेष रूप से (रफनेस-सेंसिटिव इनर प्रोडक्ट के तहत) PLS दिशाओं की ऑर्थोगोनैलिटी और लेटेंट स्कोर्स की ऑर्थोगोनैलिटी।
इंटरमोडल सहसंबंध को संभालना: दो-चरणीय PFLM दृष्टिकोणों के विपरीत, हाइब्रिड PLS स्पष्ट रूप से कार्यात्मक और स्केलर भविष्यवक्ताओं के बीच संयुक्त निर्भरताओं को मॉडल करता है, जिससे क्रॉस-मोडैलिटी सहसंबंधों में निहित प्रेडिक्टिव जानकारी के नुकसान को रोका जा जाता है।

4. परिणाम

संख्यात्मक अध्ययन (Numerical Studies):

ज्यामितिक सत्यापन: सिमुलेशन ने पुष्टि की कि ऑर्थोगोनैलिटी गुण (दिशाओं, स्कोर्स और रेसिडुअल्स के बीच) विभिन्न रेगुलराइजेशन स्ट्रेंथ्स के तहत मजबूती से बने रहते हैं, जिसमें विचलन $10^{-11}$ से $10^{-16}$ के क्रम में है।
प्रेडिक्टिव पावर बनाम पार्सिमनी: डोमिनेंट नॉन-प्रेडिक्टिव वेरिएंस (nuisance factors) और मजबूत क्रॉस-मोडैलिटी सहसंबंधों वाले सिंथेटिक परिदृश्यों में, हाइब्रिड PLS ने प्रिंसिपल कंपोनेंट रिग्रेशन (PCR) को काफी पीछे छोड़ दिया। हाइब्रिड PLS ने पहले घटक में प्रेडिक्टिव सिग्नल की पहचान की, जबकि PCR को उच्च-वेरिएंस वाले न्यूसेंस फैक्टर्स द्वारा भ्रमित किया गया, जिसके परिणामस्वरूप उच्च त्रुटि और रेडंडेंट निरूपण हुआ।
कोएफिशिएंट एस्टीमेशन: संवेदनशीलता विश्लेषणों ने दिखाया कि रफनेस पेनल्टी कार्यात्मक और स्केलर कोएफिशिएंट्स के लिए एस्टीमेशन एरर को प्रभावी ढंग से नियंत्रित करती है, जहाँ रेगुलराइजेशन पैरामीटर्स का चयन क्रॉस-वैलिडेशन के माध्यम से किया जाता है।

वास्तविक डेटा अनुप्रयोग (Emory University Renal Study):

इस विधि को 216 किडनीज़ के एक डेटासेट पर लागू किया गया जिसमें दो कार्यात्मक रीनोग्राम कर्व्स (बेसलाइन और पोस्ट-फ्यूरोसेमाइड) और 14 स्केलर फार्माकोकाइनेटिक कोवेरिएट्स थे।
प्रदर्शन: हाइब्रिड PLS ने पेनलाइज्ड फंक्शनल रिग्रेशन (PFR) और स्केलर-ओनली OLS की तुलना में कम टेस्ट रूट मीन स्क्वेर्ड एरर (RMSE) और अधिक स्थिरता प्राप्त की।
दक्षता: इसने PCR की प्रेडिक्टिव पावर से मेल खाया लेकिन बहुत अधिक पार्सिमनी के साथ। जहाँ PCR को समान सटीकता तक पहुँचने के लिए $3L$ कंपोनेंट्स की आवश्यकता थी, वहीं हाइब्रिड PLS ने केवल $L$ कंपोनेंट्स के साथ तुलनीय प्रदर्शन प्राप्त किया।
व्याख्यात्मकता (Interpretability): हाइब्रिड PLS द्वारा निकाला गया पहला लेटेंट कंपोनेंट किडनी ऑब्स्ट्रक्शन (जैसे, एक्यूमुलेशन बनाम ड्रेनेज पैटर्न के बीच अंतर करना) के नैदानिक ज्ञान के साथ संरेखित था, जबकि PCR ने विभिन्न मोडैलिटीज के बीच संभावित रूप से रेडंडेंट कोरिलेशन प्रदर्शित किया।

5. महत्व और दावे

यह शोध पत्र दावा करता है कि हाइब्रिड PLS मिश्रित डेटा मोडैलिटीज की उपस्थिति में रिग्रेशन के लिए एक पार्सिमोनियस और मजबूत ढांचा प्रदान करता है। एक एकीकृत स्थान में कार्यात्मक और स्केलर भविष्यवक्ताओं को शामिल करके, यह विधि:

मल्टीकोलिनैरिटी को कम करती है: यह जटिल इंटरमोडल सहसंबंधों को प्रभावी ढंग से संभालती है जो मानक दो-चरणीय दृष्टिकोणों के प्रदर्शन को कम कर देते हैं।
प्रेडिक्टिव स्ट्रक्चर को सुरक्षित रखती है: यह उन लेटेंट कंपोनेंट्स को निकालता है जो रिस्पॉन्स के साथ कोवेरिएंस को अधिकतम करते हैं, यह सुनिश्चित करता है कि निम्न-आयामी निरूपण प्रेडिक्टिव शक्ति बनाए रखते हैं, भले ही डेटा में प्राथमिक वेरिएंस गैर-प्रेडिक्टिव हो।
कम्प्यूटेशनल व्यवहार्यता सुनिश्चित करती है: क्लोज्ड-फॉर्म सॉल्यूशन स्मूथनेस और ऑर्थोगोनैलिटी के सैद्धांतिक गारंटियों से समझौता किए बिना कुशल गणना की अनुमति देता है।

लेखक निष्कर्ष निकालते हैं कि यह एकीकृत दृष्टिकोण बायोमेडिकल संदर्भों, जैसे कि रीनल इमेजिंग में, विशेष रूप से मूल्यवान है, जहाँ कार्यात्मक ट्राजेक्टरीज को स्केलर सारांशों के साथ मिलाने से उन विधियों की तुलना में बेहतर प्रेडिक्टिव मॉडल मिलते हैं जो इन डेटा प्रकारों को अलग-अलग या क्रमिक रूप से उपचारित करती हैं। भविष्य के कार्यों में सैद्धांतिक कन्वर्जेंस रेट और मिनिमैक्स ऑप्टिमैलिटी बाउंड्स का निर्धारण शामिल है।

1. समस्या विवरण

2. कार्यप्रणाली: हाइब्रिड PLS (Hybrid PLS)

3. प्रमुख योगदान

4. परिणाम

5. महत्व और दावे

इसी तरह के और पेपर