🔢 mathematics

High-dimensional analysis of ridge regression for non-identically distributed data with a variance profile

यह शोध पत्र एक वेरिएंस प्रोफाइल वाले स्वतंत्र लेकिन गैर-समान रूप से वितरित डेटा के लिए उच्च-आयामी रिज रिग्रेशन विश्लेषण का विस्तार करता है, जो प्रेडिक्टिव रिस्क और डिग्रीज़ ऑफ फ्रीडम के लिए नियतात्मक समकक्ष (deterministic equivalents) प्रदान करता है और साथ ही यह भी प्रकट करता है कि ऐसे प्रोफाइल 'डबल डिसेंट' घटना के उद्भव या संशोधन को कैसे प्रभावित करते हैं।

मूल लेखक: Jérémie Bigot, Issa-Mbenard Dabo, Camille Male

प्रकाशित 2026-05-20

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jérémie Bigot, Issa-Mbenard Dabo, Camille Male

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को मौसम का पूर्वानुमान लगाना सिखाने की कोशिश कर रहे हैं। आप उसे डेटा से भरी एक विशाल नोटबुक देते हैं: तापमान, आर्द्रता, हवा की गति, इत्यादि। सांख्यिकी (statistics) की दुनिया में, इसे लीनियर रिग्रेशन (linear regression) कहा जाता है।

लंबे समय तक, सांख्यिकीविदों ने यह माना कि इस नोटबुक का हर पन्ना एक ही हाथ से और एक ही समान परिस्थितियों में लिखा गया है। उन्होंने माना कि डेटा "आइडेंटिकली डिस्ट्रीब्यूटेड" (identically distributed) है—यानी हर जानकारी समान रूप से विश्वसनीय है और एक ही स्रोत से आई है। यह ऐसा ही है जैसे यह मान लेना कि दुनिया के हर मौसम केंद्र में बिल्कुल एक जैसा थर्मामीटर है, जो पूरी तरह से कैलिब्रेटेड है और एक ही कमरे में रखा गया है।

लेकिन वास्तविक दुनिया में, ऐसा शायद ही कभी होता है। कुछ थर्मामीटर पुराने और डगमगाते हुए हैं; कुछ बिल्कुल नए और सटीक हैं। कुछ सेंसर रेगिस्तान में हैं, तो कुछ वर्षावन में। यह नॉन-आइडेंटिकली डिस्ट्रीब्यूटेड डेटा (non-identically distributed data) है। डेटा की विश्वसनीयता (या विचलन/variance) पंक्ति दर पंक्ति बदलती रहती है।

जेरेमी बिगोट, इस्सा-मेनबार्ड डाबो और कैमिल मेल का यह शोध पत्र एक बड़ा सवाल पूछता है: जब हम यह मानना बंद कर देते हैं कि सारा डेटा एकदम सटीक और एक जैसा है, तो हमारे रोबोट के पूर्वानुमानों का क्या होता है?

यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:

1. "वैरिएंस प्रोफाइल" मैप (The "Variance Profile" Map)

लेखक एक अवधारणा पेश करते हैं जिसे वैरिएंस प्रोफाइल (Variance Profile) कहा जाता है। इसे अपने डेटा के लिए एक "विश्वसनीयता मानचित्र" समझें।

कल्पना करें कि आपकी नोटबुक एक ग्रिड है।
वैरिएंस प्रोफाइल एक दूसरा ग्रिड है जो इसके ऊपर स्थित है, जो आपको बताता है कि प्रत्येक विशिष्ट संख्या कितनी "शोर भरी" (noisy) या "डगमगाती हुई" है।
कुछ सेल बहुत डगमगाते हुए (उच्च विचलन) हो सकते हैं, जबकि अन्य बहुत स्थिर (कम विचलन) हो सकते हैं।
लेखक रैंडम मैट्रिक्स थ्योरी (Random Matrix Theory) नामक एक गणितीय उपकरण का उपयोग करते हैं (जो संख्याओं के विशाल ग्रिड का अध्ययन करने वाली गणित की एक शाखा है) ताकि एक "डिटरमिनिस्टिक इक्विवेलेंट" (deterministic equivalent) बनाया जा सके।

उपमा: शोर भरी नोटबुक के हर संभावित संस्करण के लिए सटीक भविष्यवाणी करने की कोशिश करने के बजाय (जो असंभव है), उन्होंने एक तरीका खोजा जिससे एक एकल, सुचारू और पूर्ण मानचित्र बनाया जा सके जो रोबोट के औसत व्यवहार की भविष्यवाणी करता है। यह मानचित्र इतना सटीक है कि यदि आप प्रयोग को हज़ार बार भी चलाएंगे, तो रोबोट का वास्तविक प्रदर्शन लगभग हमेशा इसी मानचित्र पर आएगा।

2. "डबल डिसेंट" रोलरकोस्टर (The "Double Descent" Rollercoaster)

पुराने समय में, सांख्यिकीविद एक सरल नियम में विश्वास करते थे: अधिक डेटा = बेहतर भविष्यवाणियाँ। यदि आप अधिक फीचर्स (जैसे बैरोमेट्रिक दबाव जोड़ना) जोड़ते हैं, तो पूर्वानुमान त्रुटि कम हो जाती है।

फिर, एक अजीब घटना खोजी गई जिसे डबल डिसेंट (Double Descent) कहा जाता है।

चरण 1 (अंडर-फिटिंग): आपके पास बहुत कम फीचर्स हैं। रोबट भ्रमित है। त्रुटि अधिक है।
चरण 2 (शिखर/The Peak): आप ठीक उतने फीचर्स जोड़ते हैं जितने ट्रेनिंग डेटा को पूरी तरह से याद करने के लिए चाहिए (इंटरपोलेशन थ्रेशोल्ड)। रोबोट अति-आत्मविश्वासी हो जाता है और सिग्नल के बजाय शोर (noise) को याद करने लगता है। त्रुटि एक विशाल शिखर तक बढ़ जाती है।
चरण 3 (ओवर-फिटिंग/डिसेंट): आप और अधिक फीचर्स जोड़ते जाते हैं। आश्चर्यजनक रूप से, रोबोट फिर से स्मार्ट हो जाता है। त्रुटि वापस नीचे गिर जाती है। वह शोर को अनदेखा करना सीख जाता है क्योंकि उसके पास बहुत सारे विकल्प हैं।

शोध पत्र का नया मोड़:
लेखकों ने पाया कि यह "डबल डिसेंट" रोलरकोस्टर एकमात्र आकार नहीं है जो यह ले सकता है।

यदि आपका वैरिएंस प्रोफाइल "निष्पक्ष" है (जैसे एक पूरी तरह से संतुलित तराजू जहाँ हर सेंसर समान रूप से विश्वसनीय है), तो आपको क्लासिक डबल डिसेंट मिलता है।
लेकिन, यदि आपके डेटा का विश्वसनीयता प्रोफाइल अजीब और असमान है (जैसे कि अत्यधिक सटीक लैब सेंसर और टूटे हुए बैकयार्ड थर्मामीटर का मिश्रण), तो रोलरकोस्टर का आकार बदल जाता है।
उन्होंने उदाहरण दिखाए जहाँ त्रुटि ऊपर, नीचे, ऊपर, नीचे और फिर से ऊपर जाती है। वे इसे "ट्रिपल डिसेंट" (Triple Descent) या यहाँ तक कि "क्वाड्रपल डिसेंट" (Quadruple Descent) कहते हैं।

रूपक (Metaphor): कल्पना कीजिए कि एक हाइकर एक पर्वत श्रृंखला को पार करने की कोशिश कर रहा है।

मानक दुनिया में, रास्ता एक पहाड़ी पर जाता है, एक घाटी में उतरता है, और फिर एक और पहाड़ी पर चढ़ता है।
इस शोध पत्र की दुनिया में, "टेरेन" (वैरिएंस प्रोफाइल) के आधार पर, रास्ता ऊपर, नीचे, ऊपर, नीचे और फिर ऊपर जा सकता है। हाइकर (पूर्वानुमान त्रुटि) को पहले की तुलना में बहुत अधिक जटिल परिदृश्य (landscape) को नेविगेट करना पड़ता है।

3. "रिज" और "ऑप्टिमल स्टॉप" (The "Ridge" and the "Optimal Stop")

रोबोट को शोर से भ्रमित होने से बचाने के लिए, सांख्यिकीविद रिज रिग्रेशन (Ridge Regression) नामक तकनीक का उपयोग करते हैं। इसे एक "ब्रेक" या "रेगुलराइज़र" समझें। यह रोबोट को बहुत ज्यादा अनियंत्रित होने से रोकता है। आपको इस ब्रेक को ट्यून करना होता है: यदि यह बहुत ढीला है, तो रोबोट दुर्घटनाग्रस्त हो जाएगा; यदि बहुत सख्त है, तो वह आगे नहीं बढ़ेगा।

यह शोध पत्र एक बहुत ही सुकून देने वाली बात सिद्ध करता है:

भले ही आपका डेटा अव्यवस्थित और गैर-समान हो, इस ब्रेक के लिए एकदम सही सेटिंग (इष्टतम पैरामीटर) वही है जो एकदम साफ और शुद्ध डेटा के लिए होती है।
निष्कर्ष: आपको अपने मॉडल को ट्यून करने के लिए पहिये का पुनरुद्धार करने की आवश्यकता नहीं है। इस ब्रेक के लिए "जादुई नंबर" सार्वभौमिक रूप से काम करता है, चाहे आपका डेटा प्रोफाइल कितना भी अस्त-व्यस्त क्यों न हो।

4. "मिक्सचर मॉडल" अनुप्रयोग (The "Mixture Model" Application)

लेखक यह भी दिखाते हैं कि यह मिक्सचर मॉडल (Mixture Models) पर कैसे लागू होता है।

कल्पना कीजिए कि आपका मौसम डेटा 10 अलग-अलग शहरों (क्लासेस) से आता है।
शहर A का मौसम बहुत स्थिर है (कम विचलन)। शहर B अराजक है (उच्च विचलन)।
जब आप इन शहरों को एक साथ मिलाते हैं, तो आपका डेटा अब "एक जैसा" (identical) नहीं रह जाता।
लेखकों का गणित हमें यह अनुमान लगाने की अनुमति देता है कि मिश्रित डेटा पर एक मॉडल कैसा प्रदर्शन करेगा, यह दिखाते हुए कि जब आप विभिन्न प्रकार के डेटा स्रोतों को मिलाते हैं, तो "ट्रिपल डिसेंट" की घटना हो सकती है।

सारांश

यह शोध पत्र बड़े डेटा (Big Data) की अव्यवस्थित वास्तविकता को समझने के लिए एक मार्गदर्शिका है।

समस्या: वास्तविक दुनिया का डेटा एक समान नहीं होता; इसके कुछ हिस्से शोर भरे होते हैं, तो कुछ साफ।
समाधान: लेखकों ने एक गणितीय "मानचित्र" (डिटरमिनिस्टिक इक्विवेलेंट) बनाया है जो सटीक रूप से भविष्यवाणी करता है कि इस अव्यवस्थित डेटा पर एक मॉडल कैसा व्यवहार करेगा।
आश्चर्य: जब डेटा अव्यवस्थित होता है, तो प्रसिद्ध "डबल डिसेंट" वक्र "ट्रिपल" या "क्वाड्रपल" डिसेंट में बदल सकता है। एक अच्छी भविष्यवाणी का रास्ता पहले की तुलना में कहीं अधिक घुमावदार है।
अच्छी खबर: इस जटिलता के बावजूद, अपने मॉडल को ट्यून करने का सबसे अच्छा तरीका (वह "ब्रेक") वही रहता है जो सरल, साफ डेटा के लिए था।

उन्होंने केवल अनुमान नहीं लगाया; उन्होंने इन पैटर्न को सिद्ध करने के लिए भारी-भरक गणित (रैंडम मैट्रिक्स थ्योरी) का उपयोग किया, और उन्होंने कंप्यूटर कोड भी लिखा जिससे यह पता चलता है कि उनके मानचित्र वास्तविक दुनिया के प्रयोगों से पूरी तरह मेल खाते हैं।

तकनीकी सारांश: वेरियेंस प्रोफाइल वाले गैर-समान रूप से वितरित (non-identically distributed) डेटा के लिए रिज रिग्रेशन का उच्च-आयामी विश्लेषण

समस्या विवरण
उच्च-आयामी रैखिक प्रतिगमन (high-dimensional linear regression) का व्यापक रूप से स्वतंत्र और समान रूप से वितरित (iid) भविष्यवक्ताओं (predictors) की धारणा के तहत विश्लेषण किया गया है। हालांकि, कई व्यावहारिक परिदृश्यों में, डेटा हेटेरोसेडैस्टिसिटी (heteroscedasticity) प्रदर्शित करता है जहाँ भविष्यवक्ताओं का वेरियेंस (variance) नमूनों और विशेषताओं में भिन्न होता है, जो iid धारणा का उल्लंघन करता है। यह शोध पत्र एक उच्च-आयामी शासन (regime) में रिज रिग्रेशन के सांख्यिकीय गुणों को संबोधित करता है जहाँ भविष्यवक्ताओं की संख्या $p$ और प्रेक्षणों की संख्या $n$ एक आनुपातिक दर ( $p/n \to c > 0$ ) पर अनंत की ओर बढ़ती है, लेकिन डेटा स्वतंत्र होते हुए भी गैर-समान रूप से वितरित (non-iid) है। विशेष रूप से, लेखक भविष्यवक्ता मैट्रिक्स $X_n$ को एक iid प्रविष्टियों वाले मैट्रिक्स और एक नियतात्मक वेरियेंस प्रोफाइल मैट्रिक्स $\Upsilon_n$ के हेडामर उत्पाद (Hadamard product) के रूप में मॉडल करते हैं, जहाँ $X_n = \Upsilon_n \circ Z_n$ है। लक्ष्य इस सामान्य वेरियेंस प्रोफाइल के तहत रिज एस्टीमेटर के प्रेडिक्टिव रिस्क (predictive risk), ट्रेनिंग रिस्क (training risk) और डिग्री ऑफ फ्रीडम (DOF) के लिए नियतात्मक समकक्ष (deterministic equivalents) व्युत्पन्न करना है, और यह जांचना है कि ये प्रोफाइल "डबल डिसेंट" (double descent) जैसी घटनाओं को कैसे प्रभावित करते हैं।

कार्यप्रणाली
यह विश्लेषण रैंडम मैट्रिक्स थ्योरी (RMT) के उपकरणों पर निर्भर करता है, विशेष रूप से वेरियेंस प्रोफाइल वाले बड़े रैंडम मैट्रिसेस के स्पेक्ट्रल वितरण के संबंध में परिणामों का विस्तार करता है।

मॉडल सेटअप: लेखक एक रैंडम इफेक्ट मॉडल पर विचार करते हैं जहाँ प्रतिगमन गुणांक (regression coefficients) $\beta^*$ शून्य माध्य और कोवेरियेंस $\alpha^2 I_p/n$ के साथ रैंडम हैं। भविष्यवक्ताओं को इस प्रकार मॉडल किया गया है कि $X_n = \Upsilon_n \circ Z_n$ , जहाँ $Z_n$ में यूनिट वेरियेंस वाली iid सेंटर्ड प्रविष्टियाँ हैं, और $\Upsilon_n$ में नियतात्मक वेरियेंस स्केलिंग कारक हैं। वेरियेंस प्रोफाइल $\Gamma_n = (\gamma_{ij}^2)$ द्वारा नियंत्रित है।
रिजॉलवेंट विश्लेषण (Resolvent Analysis): कार्यप्रणाली का मुख्य भाग रिजॉलवेंट मैट्रिसेस $Q_p(z) = (\hat{\Sigma}_n - zI_p)^{-1}$ और $\tilde{Q}_n(z) = (\tilde{\Sigma}_n - zI_n)^{-1}$ के अध्ययन पर आधारित है, जहाँ $\hat{\Sigma}_n$ और $\tilde{\Sigma}_n$ एम्पिरिकल कोवेरियेंस मैट्रिसेस हैं।
नियतात्मक समकक्ष (Deterministic Equivalents): Hachem, Loubaton, और Najim [HLN07] के कार्य पर निर्माण करते हुए, लेखक स्थापित करते हैं कि रिजॉलवेंट मैट्रिसेस के विकर्ण घटक (diagonal entries) नियतात्मक समकक्षों की ओर अभिसरित होते हैं। वे सिद्ध करते हैं कि रिजॉलवेंट मैट्रिक्स का डायगोनल मैट्रिक्स $\Delta[Q_p(z)]$ , एक नियतात्मक डायगोनल मैट्रिक्स $T_p(z)$ के समकक्ष है, जो फिक्स्ड-पॉइंट समीकरणों (Dyson equations) के एक सिस्टम का समाधान है। यह पिछले RMT परिणामों का विस्तार करता है जो आमतौर पर जोखिम विश्लेषण के लिए आवश्यक डायगोनल प्रविष्टियों के बजाय नॉर्मलाइज्ड ट्रेस (Stieltjes transform) पर केंद्रित थे।
जोखिम अपघटन (Risk Decomposition): इन नियतात्मक समकक्षों का उपयोग करते हुए, लेखक स्पष्ट अभिव्यक्तियों के माध्यम से एसिम्प्टोटिक प्रेडिक्टिव रिस्क $\hat{r}^{test}_{\lambda}$ और ट्रेनिंग रिस्क $\hat{r}^{train}_{\lambda}$ , साथ ही जनरलाइज्ड क्रॉस-वैलिडेशन (GCV) मानदंड को व्युत्पन्न करते हैं।

प्रमुख योगदान

गैर-iid डेटा के लिए नियतात्मक समकक्ष: यह शोध पत्र एक सामान्य वेरियेंस प्रोफाइल की उपस्थिति में डिग्री ऑफ फ्रीडम और रिज रिग्रेशन के प्रेडिक्टिव रिस्क के लिए पहले नियतात्मक समकक्ष प्रदान करता है। iid मामले के विपरीत जहाँ ये मात्राएँ जनसंख्या कोवेरियेंस पर निर्भर करती हैं, यहाँ ये Dyson समीकरण के समाधान के माध्यम से वेरियेंस प्रोफाइल $\Gamma_n$ की विशिष्ट संरचना पर निर्भर करती हैं।
इष्टतम रेगुलाइजेशन पैरामीटर: लेखक सिद्ध करते हैं कि प्रेडिक्टिव रिस्क को न्यूनतम करने वाला इष्टतम रेगुलाइजेशन पैरामीटर $\lambda^*$ सभी वेरियेंस प्रोफाइल के लिए सार्वभौमिक (universal) है और $\lambda^* = \sigma^2 p / (\alpha^2 n)$ द्वारा दिया गया है। यह परिणाम मानक iid सेटिंग [DW18] में पाए गए इष्टतम स्केलिंग से मेल खाता है, जो हेटेरोसेडैस्टिसिटी के विरुद्ध इस श्रिंकेज पैरामीटर की मजबूती को प्रदर्शित करता है।
डबल डिसेंट का सामान्यीकरण: अध्ययन न्यूनतम-नॉर्म लीस्ट-स्क्वायर एस्टीमेटर (जब $\lambda \to 0$ $λ \to 0$ हो) के व्यवहार की जांच करता है।
- क्वासी डबली स्टोकेस्टिक (Quasi doubly stochastic) वेरियेंस प्रोफाइल के लिए (जहाँ वेरियेंस प्रोफाइल के रो और कॉलम सम स्थिर होते हैं), प्रेडिक्टिव रिस्क शास्त्रीय डबल डिसेंट घटना को पुनः प्राप्त करता है जो iid डेटा में देखी जाती है।
- सामान्य वेरियेंस प्रोफाइल के लिए, शोध पत्र यह प्रदर्शित करता है कि प्रेडिक्टिव रिस्क का आकार डबल डिसेंट से काफी भिन्न हो सकता है। संख्यात्मक प्रयोग "ट्रिपल डिसेंट" (triple descent) और विशिष्ट प्रोफाइल (जैसे पीसवाइज कांस्टेंट, ब्लॉक, और पॉलिनॉमियल प्रोफाइल) के लिए "क्वाड्रपल डिसेंट" (quadruple descent) घटनाओं के उद्भव को प्रकट करते हैं।
मिश्रण मॉडलों (Mixture Models) के साथ संबंध: इस ढांचे को मिश्रण मॉडलों (जैसे लेटेंट क्लास वेरिएबल्स) से उत्पन्न डेटा पर लागू किया गया है, जिससे यह दिखाया गया है कि जब डेटा विभिन्न उप-जनसंख्याओं से आता है तो वेरियेंस प्रोफाइल स्वाभाविक रूप से कैसे उभरता है।

परिणाम

रिस्क फॉर्मुला: दिखाया गया है कि प्रेडिक्टिव रिस्क लगभग निश्चित रूप से (almost surely) एक नियतात्मक सीमा $r^{test}_{\lambda}$ की ओर अभिसरित होता है, जो सिग्नल स्ट्रेंथ $\alpha$ , नॉइज़ वेरियेंस $\sigma^2$ , एस्पेक्ट रेश्यो $c$ , और $T_p(z)$ के माध्यम से वेरियेंस प्रोफाइल $\Gamma_n$ का एक फलन है।
इष्टतमता (Optimality): कोरोलरी 3.1 पुष्टि करता है कि $\lambda^* = \sigma^2 p / (\alpha^2 n)$ , वेरियेंस प्रोफाइल की परवाह किए बिना, एम्पिरिकल और डिटर्मिनिस्टिक दोनों प्रेडिक्टिव रिस्क को न्यूनतम करता है।
रिस्क लैंडस्केप: अध्ययन $\lambda=0$ $λ = 0$ (जब $\lambda \to 0$ $λ \to 0$ ) के लिए रिस्क कर्व के आकार की जांच करता है।
- क्वासी डबली स्टोकेस्टिक मामले में, रिस्क मानक डबल डिसेंट प्रदर्शित करता है: $c < 1$ के लिए बढ़ता है, $c=1$ पर चरम पर पहुँचता है, और $c > 1$ के लिए घटता है।
- गैर-स्टोकेस्टिक मामलों (जैसे ब्लॉक या पीसवाइज कांस्टेंट प्रोफाइल) में, रिस्क कई शिखर (ट्रिपल या क्वाड्रपल डिसेंट) प्रदर्शित कर सकता है। लेखक इस व्यवहार को एम्पिरिकल कोवेरियेंस मैट्रिक्स के स्पेक्ट्रल गुणों, विशेष रूप से इंटरपोलेशन थ्रेशोल्ड के पास सबसे छोटे गैर-शून्य आइगेनवैल्यू के व्यवहार से जोड़ते हैं।
संख्यात्मक सत्यापन: पारेटो और गौसियन वितरणों का उपयोग करके किए गए व्यापक संख्यात्मक प्रयोगों से प्राप्त नियतात्मक समकक्षों की सटीकता की पुष्टि होती है। सैद्धांतिक वक्र विभिन्न वेरियेंस प्रोफाइल के माध्यम से एम्पिरिकल रिस्क और GCV मानदंडों के साथ निकटता से मेल खाते हैं।

महत्व
यह शोध पत्र प्रतिबंधात्मक iid धारणा से परे उच्च-आयामी रिज रिग्रेशन की सैद्धांतिक समझ को विस्तारित करने का दावा करता है। गैर-iid डेटा के लिए नियतात्मक समकक्ष प्रदान करके, यह विषम सेटिंग्स में प्रदर्शन की भविष्यवाणी करने के लिए एक "कैलकुलस" प्रदान करता है। यह कार्य इस बात पर प्रकाश डालता है कि जबकि इष्टतम रेगुलाइजेशन स्केलिंग मजबूत (सार्वभौमिक) है, सामान्यीकरण परिदृश्य (विशेष रूप से डबल डिसेंट घटना) वेरियेंस संरचना के प्रति संवेदनशील है। यह डबल डिसेंट घटना की सार्वभौमिकता को चुनौती देता है, यह दिखाते हुए कि यह उच्च-आयामी प्रतिगमन की एक गारंटीकृत विशेषता नहीं है बल्कि यह डेटा के विशिष्ट वेरियेंस प्रोफाइल पर निर्भर करती है। परिणाम जटिल सेटिंग्स जैसे मिश्रण मॉडलों में प्रतिगमन के विश्लेषण के लिए एक सैद्धांतिक आधार प्रदान करते हैं और हेटेरोसेडैस्टिसिटी की उपस्थिति में मॉडल चयन (GCV के माध्यम से) के लिए उपकरण प्रदान करते हैं।

1. "वैरिएंस प्रोफाइल" मैप (The "Variance Profile" Map)

2. "डबल डिसेंट" रोलरकोस्टर (The "Double Descent" Rollercoaster)

3. "रिज" और "ऑप्टिमल स्टॉप" (The "Ridge" and the "Optimal Stop")

4. "मिक्सचर मॉडल" अनुप्रयोग (The "Mixture Model" Application)

सारांश

इसी तरह के और पेपर