💻 computer science

Dense Weak Hiding: Closing Complexity Gaps in Nonconvex and PL Finite-Sum Optimization under Individual Smoothness

यह शोध पत्र व्यक्तिगत स्मूथनेस (individual smoothness) के तहत नॉनकॉन्वेक्स (nonconvex) और पोल्याक-लोजासिएविक (Polyak-Lojasiewicz) फाइनाइट-सम ऑप्टिमाइज़ेशन में खुले जटिलता अंतराल (complexity gap) को हल करता है, जो एक नवीन "डेंस वीक हाइडिंग" (dense weak hiding) निर्माण के माध्यम से टाइट जटिलता गारंटी प्राप्त करने वाले एक रीस्टार्टेड पेज (restarted PAGE) एल्गोरिदम का प्रस्ताव करते हुए रैंडमाइज्ड इंक्रीमेंटल फर्स्ट-ऑर्डर एल्गोरिदम के लिए मिलान वाले लोअर बाउंड्स स्थापित करता है।

मूल लेखक: Yuxing Peng, Zhiqing Tang, Weijia Jia

प्रकाशित 2026-09-02

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yuxing Peng, Zhiqing Tang, Weijia Jia

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

डिजिटल युग में, मशीन लर्निंग का एक विशाल हिस्सा एक विशिष्ट प्रकार की गणितीय चुनौती पर निर्भर करता है: एक ऐसे परिदृश्य (लैंडस्केप) में सबसे निचले बिंदु को खोजना जो उभारों, ढलानों और घुमावों से भरा हो। कल्पना कीजिए कि एक पर्वतारोही एक धुंधले, पहाड़ी क्षेत्र में सबसे गहरी घाटी खोजने की कोशिश कर रहा है जहाँ ज़मीन असमान है और रास्ता सीधा नहीं है। यह नॉनकॉन्वेक्स ऑप्टिमाइज़ेशन (nonconvex optimization) का सार है, जो आर्टिफिशियल इंटेलिजेंस को प्रशिक्षित करने से लेकर जटिल जैविक डेटा का विश्लेषण करने तक, सब कुछ संचालित करता है। यह परिदृश्य उस फलन (फंक्शन) का प्रतिनिधित्व करता जिसे न्यूनतम किया जाना है, और "पर्वतारोही" एक ऐसा एल्गोरिदम है जो सबसे नीचे पहुँचने के लिए स्थानीय जानकारी के आधार पर कदम उठाता है। दशकों से, शोधकर्ता यह जानते रहे हैं कि जब ज़मीन समान रूप से चिकनी होती है, तो इन क्षेत्रों में कुशलतापूर्वक कैसे नेविगेट किया जाए। हालाँकि, एक अधिक कठिन परिदृश्य रहस्य बना हुआ है: क्या होता है जब ज़मीन का चिकनापन एक स्थान से दूसरे स्थान पर बदल जाता है? कई वास्तविक दुनिया की समस्याओं में, डेटा एक एकल, समान द्रव्यमान नहीं है, बल्कि अलग-अलग टुकड़ों का एक संग्रह है, जिनमें से प्रत्येक का अपना स्तर का खुरदरापन होता है। एक एल्गोरिदम कितनी तेज़ी से इन समस्याओं को हल कर सकता है, इसकी पूर्ण सीमाओं को समझना महत्वपूर्ण है क्योंकि यह हमें बताता है कि हम कब समय बर्बाद कर रहे हैं और कब हम गणना की सैद्धांतिक गति सीमा तक पहुँच गए हैं।

शोधकर्ताओं की एक टीम ने अब इन सीमाओं की हमारी समझ में एक लंबे समय से चले आ रहे अंतर को पाट दिया है। उन्होंने एक विशिष्ट परिदृश्य पर ध्यान केंद्रित किया जहाँ एक एल्गोरिदम पूरे चित्र को एक साथ देखने के बजाय, डेटा के एक समय में केवल एक टुकड़े को देख सकता है। वर्षों से, सर्वोत्तम ज्ञात विधियाँ इन समस्याओं को कदमों की एक निश्चित संख्या के भीतर हल कर सकती थीं, लेकिन यह गणितीय प्रमाण कि सैद्धांतिक रूप से कितने कम कदमों की आवश्यकता थी, डेटा के टुकड़ों की संख्या के वर्गमूल (square root) से संबंधित एक कारक से पीछे रह गया था। यह गायब कारक यह दर्शाता था कि बड़े डेटासेट के लिए, जो संभव था और जो आवश्यक माना जाता था, उनके बीच का अंतर महत्वपूर्ण था। शोधकर्ताओं ने सिद्ध किया कि यह अंतर वास्तविक और अपरिहार्य है। उन्होंने प्रदर्शित किया कि कोई भी एल्गोरिदम कितना भी चतुर क्यों न हो, यदि उसे एक ऐसे परिदृश्य में नेविगेट करना है जहाँ विभिन्न हिस्सों में खुरदरेपन का स्तर अलग-अलग है, तो उसे हमेशा एक विशिष्ट मात्रा में प्रयास की आवश्यकता होगी जो डेटासेट के आकार के वर्गमूल के साथ स्केल करता है। यह निष्कर्ष पुष्टि करता है कि वर्तमान सर्वोत्तम विधियाँ पहले से ही गणितीय रूप से जितनी संभव हैं, उतनी ही कुशल हैं, जिससे एक तेज़ सार्वभौमिक समाधान की कोई गुंजाइश नहीं बचती।

इस निष्कर्ष तक पहुँचने के लिए, टीम ने अत्यंत कठिन, कृत्रिम परिदृश्य बनाए जो किसी भी एल्गोरिदम को धोखा देने के लिए डिज़ाइन किए गए थे। इन परिदृश्यों को एक तकनीक का उपयोग करके बनाया गया था जिसे वे "डेंस वीक हाइडिंग" (dense weak hiding) कहते हैं। छिपे हुए संकेतों के एक विशाल ग्रिड की कल्पना करें, जहाँ डेटा का प्रत्येक व्यक्तिगत टुकड़ा वास्तविक दिशा के बारे में केवल एक छोटा सा, लगभग अदृश्य सुराग रखता है। यदि कोई एल्गोरिदम केवल एक टुकड़े को देखता है, तो वह लगभग कुछ भी नहीं सीख पाता है। हालाँकि, यदि वह सभी टुकड़ों से प्राप्त जानकारी का औसत निकालता है, तो छिपी हुई दिशा स्पष्ट हो जाती है। शोधकर्ताओं ने इन परिदृश्यों को इस तरह से इंजीनियर किया कि एक एल्गोरिदम को आगे बढ़ने के लिए पर्याप्त जानकारी एकत्र करने से पहले बड़ी संख्या में अलग-अलग टुकड़ों का दौरा करने के लिए मजबूर होना पड़ता है। उन्होंने दिखाया कि समाधान के केवल एक चरण को प्रकट करने के लिए, एक एल्गोरिदम को डेटा बिंदुओं की एक विशिष्ट संख्या को क्वेरी (query) करना होगा, और यह आवश्यकता समस्या को हल करने के लिए आवश्यक कई चरणों में गुणा होती है। डेटा बिंदुओं की प्रति चरण आवश्यकता और कुल चरणों की संख्या के बीच सावधानीपूर्वक संतुलन बनाकर, उन्होंने सिद्ध किया कि आवश्यक कुल प्रयास में अनिवार्य रूप से वह गायब वर्गमूल कारक शामिल है।

अध्ययन ने एक दूसरे, संबंधित प्रश्न को भी संबोधित किया जो उन परिदृश्यों के बारे में था जिनमें 'पोलाक-लोजासिएविक' (Polyak–Łojasiewicz) स्थिति नामक एक विशेष गुण होता है। यह गुण सुनिश्चित करता है कि यदि कोई एल्गोरिदम तल पर नहीं है, तो ढलान इतनी तीव्र है कि वह इसे तेज़ी से नीचे की ओर निर्देशित कर सके। पिछले शोध ने दिखाया था कि एल्गोरिदम इन समस्याओं को कुशलतापूर्वक हल कर सकते हैं, लेकिन यह स्पष्ट नहीं था कि गति "कंडीशन नंबर" (condition number) पर कैसे निर्भर करती है, जो घाटी के खिंचाव या विरूपण (distortion) का एक माप है। शोधकर्ताओं ने पाया कि उत्तर इस बात पर निर्भर करता है कि विरूपण मध्यम है या गंभीर। जब विरूपण मध्यम होता है, तो एल्गोरिदम की गति डेटा बिंदुओं की संख्या पर निर्भर करती है जो पहले अज्ञात था। जब विरूपण अत्यधिक होता है, तो गति डेटा बिंदुओं और कंडीशन नंबर दोनों पर निर्भर करती है। दोनों मामलों में, उन्होंने सिद्ध किया कि सर्वोत्तम ज्ञात एल्गोरिदम पहले से ही सैद्धांतिक सीमा पर प्रदर्शन कर रहे हैं। उन्होंने "रीस्टार्टेड पेज" (Restarted PAGE) नामक एक मौजूदा एल्गोरिदम में एक मामूली संशोधन भी प्रस्तावित किया, जो विरूपण के स्तर के आधार पर अपनी रणनीति को अनुकूलित करता है, जिससे नए सैद्धांतिक सीमाओं के साथ सटीक तालमेल बैठता है।

यह कार्य केवल एक नया एल्गोरिदम प्रदान नहीं करता है; यह एक सीमा निर्धारित करता है। यह वैज्ञानिक समुदाय को बताता है कि इन विशिष्ट प्रकार की समस्याओं के लिए, वर्तमान उपकरण केवल अच्छे ही नहीं हैं; वे इष्टतम (optimal) हैं। शोधकर्ताओं ने गति की सीमा तोड़ने का तरीका नहीं खोजा; इसके बजाय, उन्होंने सिद्ध किया कि गति सीमा मौजूद है और उन्होंने ठीक से परिभाषित किया कि वह कहाँ है। उनके निष्कर्ष उन रैंडमाइज्ड एल्गोरिदम पर लागू होते हैं जो यह चुनने के लिए डेटा के टुकड़े को चुन सकते हैं कि उन्होंने अब तक जो कुछ भी देखा है उसके आधार पर अगला टुकड़ा क्या देखना है। एक तेज़ विधि की संभावना को खारिज करके, यह शोध अनुकूलन (optimization) के क्षेत्र में लंबे समय से लंबित प्रश्न का एक निर्णायक उत्तर प्रदान करता है। यह पुष्टि करता है कि इन समस्याओं की जटिलता उनकी संरचना में निहित है, न कि केवल वर्तमान तकनीक की सीमा में। अगली पीढ़ी के मशीन लर्निंग सिस्टम बनाने वाले इंजीनियरों और वैज्ञानिकों के लिए, इसका अर्थ यह है कि गति में आगे के सुधार संभवतः उसी गणितीय पहेली को हल करने के लिए तेज़ तरीका आविष्कार करने के बजाय, स्वयं समस्या या डेटा को बदलने से आएंगे। गायब कारक का रहस्य सुलझ गया है, और आगे का रास्ता स्पष्ट है: वर्तमान विधियाँ वही हैं जो हम कर सकते हैं।

तकनीकी सारांश: डेंस वीक हाइडिंग: इंडिविजुअल स्मूथनेस के तहत नॉनकॉन्वेक्स और PL फाइनाइट-सम ऑप्टिमाइज़ेशन में कॉम्प्लेक्सिटी गैप्स को बंद करना

1. समस्या विवरण (Problem Statement)

यह शोध पत्र इंडिविजुअल स्मूथनेस (जिसे कंपोनेंटवाइज स्मूथनेस भी कहा जाता है) के तहत फाइनाइट-सम ऑप्टिमाइज़ेशन समस्याओं के लिए इष्टतम इंक्रीमेंटल फर्स्ट-ऑर्डर ओरैकल (IFO) कॉम्प्लेक्सिटी निर्धारित करने के मौलिक प्रश्न को संबोधित करता है। विशेष रूप से, यह दो व्यवस्थाओं (regimes) की जांच करता है:

नॉनकॉन्वेक्स स्टेशनैरिटी (Nonconvex Stationarity): एक नॉनकॉन्वेक्स ऑब्जेक्टिव $F(x) = \frac{1}{n}\sum_{i=1}^n f_i(x)$ के लिए एक छोटा ग्रेडिएंट नॉर्म ( $\|\nabla F(x)\| \le \epsilon$ ) वाला बिंदु खोजना।
ग्लोबल पोलियाक-लोजसिक (PL) कंडीशन: जब ऑब्जेक्टिव PL कंडीशन को संतुष्ट करता है, तो एक $\epsilon$ -इष्टतम समाधान ( $F(x) - F^* \le \epsilon$ ) खोजना, जो कंडीशन नंबर $\kappa = L/\mu$ द्वारा अभिलक्षित है।

गैप (The Gap): इंडिविजुअल स्मूथनेस के तहत रैंडमाइज्ड एल्गोरिदम (जैसे PAGE, SPIDER) के लिए अपर बाउंड्स ज्ञात हैं, जो नॉनकॉन्वेक्स स्टेशनैरिटी के लिए $O(n + \sqrt{n} \Delta L_{\max}/\epsilon^2)$ हैं, लेकिन मौजूदा लोअर बाउंड्स इस दर से मेल खाने में विफल रहे। पिछले लोअर बाउंड्स या तो एल्गोरिदम को लीनियर-स्पैन क्लासेज तक ही सीमित रखते थे (जिससे $\Omega(n + \Delta L_{\max}/\epsilon^2)$ प्राप्त होता था) या फिर मनमाने क्वेरीज़ की अनुमति देते थे लेकिन औसत ग्रेडिएंट को कमजोर कर देते थे (जिससे $\Omega(\Delta L_{\max}/\epsilon^2)$ प्राप्त होता था)। फलस्वरूप, सामान्य रैंडमाइज्ड IFO एल्गोरिदम के लिए दूसरे पद में $\sqrt{n}$ कारक की अनिवार्यता एक खुला प्रश्न बना हुआ था। इसी तरह, PL कंडीशन के लिए, इंडिविजुअल स्मूथनेस के तहत रैंडमाइज्ड एल्गोरिदम के लिए $\kappa \approx \sqrt{n}$ ट्रांजिशन पॉइंट के पार कंडीशन नंबर $\kappa$ पर निर्भरता को पूरी तरह से स्पष्ट नहीं किया गया था।

2. कार्यप्रणाली: डेंस वीक हाइडिंग (Methodology: Dense Weak Hiding)

इन कॉम्प्लेक्सिटी गैप्स को भरने के लिए, लेखक एक नई निर्माण तकनीक पेश करते हैं जिसे डेंस वीक हाइडिंग कहा जाता है। यह विधि "हार्ड इंस्टेंस" बनाने के लिए डिज़ाइन की गई है जो रैंडमाइज्ड एल्गोरिदम को प्रगति करने से पहले बड़ी संख्या में अलग-अलग कंपोनेंट फंक्शन्स को क्वेरी करने के लिए मजबूर करती है। इस निर्माण में चार प्रमुख प्रिमिटिव्स शामिल हैं:

फिक्स्ड एनकोडिंग टेबल (Fixed Encoding Table): ऑप्टिमाइज़ेशन प्रक्रिया के प्रत्येक चरण $j$ पर, एक छिपा हुआ दिशा $\Theta^{(j)}$ एक फिक्स्ड $n \times D$ साइन टेबल $S^{(j)}$ में एनकोड किया जाता है। टेबल इस तरह बनाई जाती है कि प्रत्येक पंक्ति (जो एक कंपोनेंट फंक्शन के अनुरूप है) छिपी हुई दिशा की ओर केवल कमजोर (weakly) रूप से बायस्ड होती है, लेकिन सभी पंक्तियों का सटीक औसत पूर्ण दिशा (बायस पैरामीटर $\rho$ द्वारा स्केल किया गया) को सुरक्षित रखता है।
- निहितार्थ: एक एकल कंपोनेंट को क्वेरी करने से छिपी हुई दिशा के बारे में बहुत कम जानकारी मिलती है। हालांकि, फाइनाइट-सम औसत (जिसे एल्गोरिदम प्रभावी रूप से कुल ऑब्जेक्टिव के ग्रेडिएंट के माध्यम से एक्सेस करता है) सिग्नल को सुरक्षित रखता है।
बाउंडेड रेडियल मैप (Bounded Radial Map): मनमाने क्वेरी पॉइंट्स को संभालने के लिए (जो सामान्य रैंडमाइज्ड एल्गोरिदम की आवश्यकता है), निर्माण में एक बाउंडेड रेडियल मैप $\Psi(x) = x/\sqrt{1+\|x\|^2}$ का उपयोग किया जाता है। यह किसी भी क्वेरी पॉइंट को यूनिट बॉल में मैप करता है, जिससे यह सुनिश्चित होता है कि एलाइनमेंट वेक्टर $\|x\|$ के परिमाण के बावजूद सीमित रहता है।
स्मूथ थ्रेशोल्ड गेट (Smooth Threshold Gate): एक स्मूथ फंक्शन $G(s)$ चरणों के बीच एक गेट के रूप में कार्य करता है। यह $G(s) = G'(s) = 0$ (जब $s \le a$ ) और $G(s) = 1, G'(s) = 0$ (जब $s \ge b$ ) को संतुष्ट करता है।
- निहितार्थ: यदि छिपी हुई दिशा के साथ एलाइनमेंट अभी तक थ्रेशोल्ड $a$ से ऊपर नहीं हुआ है, तो अगला चरण (stage) जोड़ने वाला संबंधित "लिंक" फंक्शन वैल्यू और ग्रेडिएंट दोनों में शून्य योगदान देता है। यह सुनिश्चित करता है कि अनओपन किए गए चरण एल्गोरिदम के लिए पूरी तरह से अदृश्य रहते हैं, जिससे उसे आगे बढ़ने से रोका जा सके।
बायस ट्रेड-ऑफ (Bias Trade-off): निर्माण दो प्रतिस्पर्धी मात्राओं के बीच संतुलन बनाता है जिन्हें बायस पैरामीटर $\rho$ द्वारा नियंत्रित किया जाता है:
- एक चरण को प्रकट करने के लिए आवश्यक अलग-अलग पंक्तियों (कंपोनेंट क्वेरीज़) की संख्या ( $r_\rho$ )।
- चरणों की संख्या ( $T_\rho$ ) जिन्हें इंडिविजुअल स्मूथनेस बाउंड $L_{\max}$ बनाए रखते हुए एक साथ जोड़ा जा सकता है।
- कुल कॉम्प्लेक्सिटी $r_\rho T_\rho$ के समानुपाती है। $\rho \approx n^{-1/2}$ को ऑप्टिमाइज़ करके, लेखक दिखाते हैं कि $r_\rho \approx n$ और $T_\rho \approx \sqrt{n}$ होता है, जिससे गायब $\sqrt{n}$ कारक प्राप्त होता है।

3. मुख्य योगदान और परिणाम (Key Contributions and Results)

A. टाइट नॉनकॉन्वेक्स कॉम्प्लेक्सिटी (Tight Nonconvex Complexity)

यह शोध पत्र सिद्ध करता है कि इंडिविजुअल स्मूथनेस के तहत अनरिस्ट्रिक्टेड क्वेरी सिलेक्शन वाले रैंडमाइज्ड IFO एल्गोरिदम के लिए, नॉनकॉन्वेक्स स्टेशनैरिटी के लिए मिनिमैक्स IFO कॉम्प्लेक्सिटी है:
$\Theta\left(n + \sqrt{n} \frac{\Delta L_{\max}}{\epsilon^2}\right)$
यह परिणाम पुष्टि करता है कि PAGE और SPIDER द्वारा प्राप्त अपर बाउंड्स यूनिवर्सल कॉन्स्टेंट्स तक इष्टतम हैं। यह लोअर बाउंड किसी भी ऐसे एल्गोरिदम के लिए मान्य है जो फुल हिस्ट्री और प्राइवेट रैंडमनेस के आधार पर कंपोनेंट इंडेक्स और क्वेरी पॉइंट्स चुनता है, बिना लीनियर-स्पैन प्रतिबंधों के।

B. टाइट PL कॉम्प्लेक्सिटी (Tight PL Complexity)

ग्लोबल PL कंडीशन के लिए, यह शोध पत्र टाइट लोअर बाउंड्स स्थापित करता है जो कंडीशन नंबर $\kappa_{\max} = L_{\max}/\mu$ पर निर्भर करते हैं:

छोटा कंडीशन नंबर ( $3 \le \kappa_{\max} \le \sqrt{n}$ ):
$\Theta\left(n + \frac{n \log(\Delta/\epsilon)}{1 + \log(\sqrt{n}/\kappa_{\max})}\right)$
विशेष रूप से, इस शासन (regime) में हार्ड इंस्टेंस का औसत ऑब्जेक्टिव ग्लोबली स्ट्रॉन्गली कॉन्वेक्स है, भले ही व्यक्तिगत घटक कॉन्वेक्स न हों।
बड़ा कंडीशन नंबर ( $\kappa_{\max} \ge \sqrt{n}$ ):
$\Theta\left(n + \kappa_{\max}\sqrt{n} \log(\Delta/\epsilon)\right)$

ये बाउंड्स इंडिविजुअल स्मूथनेस के तहत मान्य हैं और संबंधित मीन-स्क्वेर्ड स्मूथनेस लोअर बाउंड्स का संकेत देते हैं।

C. एल्गोरिथमिक मैचिंग (Restarted PAGE)

लेखक Restarted PAGE प्रस्तावित करते हैं, जो मीन-स्क्वेर्ड स्मूथनेस के तहत व्युत्पन्न लोअर बाउंड्स से मेल खाता है।

$\kappa_{ms} < \sqrt{n}$ के लिए, यह लोअर बाउंड में व्युत्पन्न विशिष्ट लॉगरिदमिक डिपेंडेंस का उपयोग करके मानक PAGE गारंटी में सुधार करता है।
$\kappa_{ms} \ge \sqrt{n}$ के लिए, यह मानक दर से मेल खाता है।
यह दर्शाता है कि व्युत्पन्न सैद्धांतिक सीमाएं व्यावहारिक वेरिएंस-रिडक्शन विधियों द्वारा प्राप्त की जा सकती हैं।

4. महत्व और दावे (Significance and Claims)

यह शोध पत्र "डेंस वीक हाइडिंग" समस्या को हल करने का दावा करता है, जो प्रभावी रूप से फाइनाइट-सम ऑप्टिमाइज़ेशन थ्योरी में बने रहे कॉम्प्लेक्सिटी गैप्स को बंद करता है।

वेरिएंस रिडक्शन की इष्टतमता: यह स्थापित करता है कि इंडिविजुअल स्मूथनेस के तहत रैंडमाइज्ड एल्गोरिदम के लिए नॉनकॉन्वेक्स फाइनाइट-सम ऑप्टिमाइज़ेशन की कॉम्प्लेक्सिटी में $\sqrt{n}$ कारक अपरिहार्य है, जो SPIDER और PAGE की इष्टतमता को प्रमाणित करता है।
परिष्कृत PL समझ: यह इंडिविजुअल स्मूथनेस के तहत रैंडमाइज्ड एल्गोरिदम के लिए PL कॉम्प्लेक्सिटी का पहला पूर्ण लक्षण वर्णन प्रदान करता है, जो पूरे कंडीशन नंबर रेंज को कवर करता है और $\kappa \approx \sqrt{n}$ पर एक ट्रांजिशन पॉइंट की पहचान करता है।
मेथोडोलॉजिकल एडवांस: "डेंस वीक हाइडिंग" तकनीक को अनरिस्ट्रिक्टेड रैंडमाइज्ड एल्गोरिदम के विरुद्ध लोअर बाउंड सिद्ध करने के लिए एक मजबूत उपकरण के रूप में प्रस्तुत किया गया है, जो पिछले "स्पार्स-लिंक" या "लीनियर-स्पैन" निर्माणों की सीमाओं को पार करता है।

लेखक स्पष्ट रूप से कहते हैं कि उनके लोअर बाउंड्स यह मानकर चलते हैं कि $n$ एक यूनिवर्सल थ्रेशोल्ड से ऊपर है और डाइमेंशन $d$ समस्या के मापदंडों पर निर्भर हो सकता है। वे खुले दिशाओं की पहचान करते हैं जिनमें फिक्स्ड एम्बिएंट डाइमेंशन में लोअर बाउंड, नॉइजी ओरकल मॉडल और $\kappa < 3$ वाला शासन शामिल है।