🔬 condensed matter

Statistics of Min-max Normalized Eigenvalues in Random Matrices

यह अध्ययन संचयी वितरण स्केलिंग नियमों का मूल्यांकन करने के लिए एक प्रभावी वितरण को लागू करके और मैट्रिक्स गुणनखंडन में अवशिष्ट त्रुटि को व्युत्पन्न करके रैंडम मैट्रिसेस (random matrices) में मिन-मैक्स सामान्यीकृत आइजनमानों (eigenvalues) के सांख्यिकीय गुणों की जांच करता है, जिसके सैद्धांतिक अनुमानों को संख्यात्मक प्रयोगों के माध्यम से सत्यापित किया गया है।

मूल लेखक: Hyakka Nakada, Shu Tanaka

प्रकाशित 2026-06-03

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Hyakka Nakada, Shu Tanaka

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: शोर वाले डेटा को साफ करना

कल्पना कीजिए कि आप लोगों की एक विशाल, अराजक भीड़ (यह आपका डेटा मैट्रिक्स है) को समझने की कोशिश कर रहे हैं। प्रत्येक व्यक्ति का एक निश्चित "ऊर्जा स्तर" या प्रभाव होता है। गणित में, हम इन प्रभाव स्तरों को आइगेनवैल्यूज़ (eigenvalues) कहते हैं।

आमतौर पर, कुछ लोग बहुत शोर मचाने वाले होते हैं (विशाल आइगेनवैल्यूज़), और कुछ फुसफुसाते हैं (बहुत छोटे आइगेनवैल्यूज़)। यह तुलना करना कठिन बना देता है। इसे ठीक करने के लिए, डेटा वैज्ञानिक मिन-मैक्स नॉर्मलाइज़ेशन (Min-Max Normalization) नामक तकनीक का उपयोग करते हैं। इसे एक स्टीरियो पर वॉल्यूम एडजस्ट करने जैसा समझें ताकि सबसे शांत फुसफुसाहट 0% वॉल्यूम बन जाए और सबसे तेज़ चिल्लाहट 100% वॉल्यूम बन जाए। बाकी सभी लोग इनके बीच कहीं दब जाते हैं।

यह शोध पत्र एक सरल लेकिन गहरा प्रश्न पूछता है: यदि हम एक यादृच्छिक (random), अराजक भीड़ को लें और हर किसी के वॉल्यूम को उस 0–100% की सीमा में मजबूर करें, तो परिणामी वितरण (distribution) कैसा दिखेगा?

मुख्य खोज: अराजकता का "स्वर्ण अनुपात" (Golden Ratio)

लेखक, हयाका नकादा और शु तनाका ने पाया कि एक बार जब आप डेटा को नॉर्मलाइज़ कर देते हैं, तो भीड़ का विशिष्ट आकार (मैट्रिक्स का आकार, $N$ ) या व्यक्तियों का पूर्ण शोर उतना महत्वपूर्ण नहीं रह जाता जितना कि आप सोच सकते हैं।

इसके बजाय, वितरण का आकार पूरी तरह से एक विशिष्ट अनुपात पर निर्भर करता है: सिग्नल-टू-नॉइज़ रेशियो (Signal-to-Noise Ratio)।

उपमा: एक पार्टी की कल्पना करें।
- $J_0$ (औसत/Mean): यह पार्टी की सामान्य पृष्ठभूमि की गूँज (background hum) है—औसत ऊर्जा स्तर।
- $J_1$ (मानक विचलन/Standard Deviation): यह "अराजकता कारक" (chaos factor) है—कि कैसे व्यक्तिगत लोग उस औसत से विचलित होते हैं। कुछ पागलों की तरह नाच रहे हैं; अन्य स्थिर खड़े हैं।

यह शोध पत्र सिद्ध करता है कि यदि आप अराजकता ( $J_1$ ) और पृष्ठभूमि की गूँज ( $J_0$ ) के अनुपात को स्थिर रखते हैं, तो नॉर्मलाइज़ किए गए वॉल्यूम का पैटर्न बिल्कुल वैसा ही दिखेगा, चाहे आपके पास 10 लोग हों या 1,000 लोग।

यदि गूँज की तुलना में अराजकता कम है ( $J_1 < J_0$ ), तो वितरण का एक विशिष्ट, अनुमानित आकार होता है जिसमें एक "मोड़" (kink) या पठार (plateau) होता है।
यदि अराजकता अधिक है ( $J_1 > J_0$ ), तो आकार एक अलग सुचारू वक्र (smooth curve) में बदल जाता है।

इसे स्केलिंग लॉ (Scaling Law) कहा जाता है। इसका अर्थ है कि आपको समग्र रूप से नॉर्मलाइज्ड डेटा के पैटर्न की भविष्यवाणी करने के लिए भीड़ के हर एक व्यक्ति के सटीक विवरण को जानने की आवश्यकता नहीं है; आपको बस यह जानने की आवश्यकता है कि भीड़ अपनी औसत ऊर्जा के सापेक्ष कितनी अराजक है।

दूसरी खोज: सरलीकरण की लागत

शोध पत्र का दूसरा भाग मैट्रिक्स फैक्टराइजेशन (Matrix Factorization) से संबंधित है। यह मशीन लर्निंग में एक सामान्य तकनीक है (जैसे नेटफ्लिक्स द्वारा फिल्में रिकमेंड करना या गूगल द्वारा छवियों को कंप्रेस करना)। यह पूरी भीड़ का वर्णन केवल कुछ प्रमुख "आर्कटाइप्स" या "नेताओं" के रूप में करने जैसा है।

यदि आप केवल शीर्ष $k$ सबसे प्रभावशाली लोगों का उपयोग करके पूरी भीड़ का वर्णन करने का प्रयास करते हैं, तो आप कुछ जानकारी खो देते हैं। यह शोध पत्र गणना करता है कि आप वास्तव में कितनी जानकारी खो रहे हैं। वे इसे कपलिंग एरर (Coupling Error) कहते हैं।

उपमा: कल्पना कीजिए कि आप भीड़ का एक विस्तृत चित्र (portrait) बना रहे हैं, लेकिन आपको 100 रंगों के बजाय केवल 5 रंगों का उपयोग करने की अनुमति है। "कपलिंग एरर" वास्तविक भीड़ और आपके सरलीकृत 5-रंगों वाले पेंटिंग के बीच का अंतर है।

लेखकों ने इस त्रुटि की भविष्यवाणी करने के लिए एक सूत्र निकाला है। उन्होंने पाया कि यह त्रुटि भी उसी स्केलिंग लॉ का पालन करती है। आपके द्वारा की गई त्रुटि की मात्रा केवल उसी अराजकता-से-गूँज अनुपात ( $J_1/J_0$ ) और आपके द्वारा रखे गए "रंगों" (रैंक $k$ ) की संख्या पर निर्भर करती है।

यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)

लेखकों ने कंप्यूटर सिमुलेशन के साथ अपने गणित को सत्यापित किया (उनके चित्रों में रंगीन रेखाएं काली सैद्धांतिक रेखाओं से पूरी तरह मेल खाती हैं)।

वे उल्लेख करते हैं कि यह फैक्टराइजेशन मशीन्स (FMs) के लिए उपयोगी है, जो ऐसे मॉडल हैं जिनका उपयोग किया जाता है:

रिकमेंडेशन सिस्टम: जैसे यह भविष्यवाणी करना कि आप क्या खरीदना पसंद कर सकते हैं।
ब्लैक-बॉक्स ऑप्टिमाइज़ेशन: जटिल समस्याओं को हल करना जहाँ आप आंतरिक नियमों को नहीं जानते, जिसका उपयोग अक्सर क्वांटम कंप्यूटिंग के संदर्भ में किया जाता है।

यह समझकर कि "नॉर्मलाइज्ड" डेटा कैसे व्यवहार करता है और इसे सरल बनाने पर कितनी त्रुटि आती है, इंजीनियर इन मॉडलों को बेहतर ढंग से ट्यून कर सकते हैं। उदाहरण के लिए, वे भविष्यवाणी कर सकते हैं कि यदि वे एक बड़े डेटासेट को एक छोटे, तेजी से प्रोसेस होने वाले संस्करण में कंप्रेस करने का प्रयास करते हैं, तो वे कितनी सटीकता खो देंगे।

संक्षेप में

नॉर्मलाइजेशन: जब आप रैंडम डेटा को 0–1 की सीमा में दबाते हैं, तो परिणामी पैटर्न अब रैंडम नहीं रहता; यह अत्यधिक अनुमानित होता है।
मुख्य अनुपात: पैटर्न केवल "अराजकता" (विचलन) और "औसत" (मीन) के अनुपात पर निर्भर करता है।
अनुमानित त्रुटि: यदि आप इस डेटा को सरल बनाते हैं (फैक्टराइजेशन), तो आप उसी अनुपात के आधार पर गणना कर सकते हैं कि आप कितनी जानकारी खो रहे हैं।
सत्यापन: गणित वास्तविक कंप्यूटर प्रयोगों के साथ पूरी तरह मेल खाता है, भले ही डेटा का आकार बहुत बड़ा हो जाए।

यह इस बारे में अध्ययन है कि जब आप डेटा को एक मानक बॉक्स में फिट करने के लिए मजबूर करते हैं तो अराजकता से व्यवस्था कैसे उभरती है, और उस संपीड़न (compression) की लागत को कैसे मापा जाए।

तकनीकी सारांश: रैंडम मैट्रिसेस में मिन-मैक्स नॉर्मलाइज्ड आइगेनवैल्यूज़ के सांख्यिकी (Statistics)

समस्या विवरण
यह अध्ययन रैंडम मैट्रिसेस में मिन-मैक्स नॉर्मलाइज्ड आइगेनवैल्यूज़ के सांख्यिकीय गुणों को संबोधित करता है, जो एक व्यावहारिक डेटा साइंस पाइपलाइन से प्रेरित है जहाँ फीचर स्केलिंग को एक निश्चित रेंज $[0, 1]$ में करना मानक अभ्यास है। जबकि अन-नॉर्मलाइज्ड मैट्रिसेस के एसिम्प्टोटिक स्पेक्ट्रल गुणों की भविष्यवाणी करने के लिए रैंडम मैट्रिक्स थ्योरी (RMT) सुस्थापित है, मिन-मैक्स नॉर्मलाइजेशन—जिसे $\hat{\lambda} = (\lambda - \lambda_N)/(\lambda_1 - \lambda_N)$ के रूप में परिभाषित किया गया है—के बाद आइगेनवैल्यूज़ का वितरण मैट्रिक्स फैक्टराइजेशन अनुप्रयोगों के संदर्भ में पूरी तरह से लक्षणित नहीं किया गया है। विशेष रूप से, लेखक इन नॉर्मलाइज्ड आइगेनवैल्यूज़ का संचयी वितरण (cumulative distribution) निर्धारित करने और लो-रैंक मैट्रिक्स फैक्टराइजेशन के दौरान उत्पन्न होने वाली अवशिष्ट त्रुटि (रेसिड्यूअल एरर या कपलिंग एरर) को व्युत्पन्न करने का लक्ष्य रखते हैं, जो फैक्टरइजेशन मशीन्स (FMs) जैसे मॉडल्स के लिए मौलिक है।

कार्यप्रणाली (Methodology)
लेखक आयाम $N$ वाले एक रैंडम मैट्रिक्स $Q$ पर विचार करते हैं, जहाँ ऑफ-डायगोनल तत्व $Q_{ij}$ ( $i < j$ ) स्वतंत्र और समान रूप से वितरित (i.i.d.) गाऊसी वितरण $\mathcal{N}(\mu, \sigma^2)$ के अनुसार होते हैं, और डायगोनल तत्व $\mathcal{N}(\mu, 2\sigma^2)$ का पालन करते हैं। यह सेटअप एक परिमित माध्य (finite mean) वाले ऑर्थोगोनल रैंडम मैट्रिक्स के अनुरूप है, जो स्पिन ग्लास फिजिक्स के शेरिंगटन-किर्कपैट्रिक (SK) मॉडल के समान है।

विश्लेषण दो मुख्य सैद्धांतिक चरणों में आगे बढ़ता है:

संचयी वितरण व्युत्पत्ति (Cumulative Distribution Derivation): पिछले कार्यों पर आधारित, लेखक विग्नर के सेमीसर्कल लॉ (Wigner’s semicircle law) और सबसे बड़े आइगेनवैल्यू वितरण सिद्धांत के आधार पर सबसे बड़े और सबसे छोटे आइगेनवैल्यू के अनुमानों का उपयोग करते हैं: $\lambda_1 \approx N\mu + \sigma^2/\mu$ , $\lambda_2 \approx 2\sqrt{N}\sigma$ , और $\lambda_N \approx -2\sqrt{N}\sigma$ । वे नॉर्मलाइज्ड आइगेनवैल्यूज़ $\hat{\lambda}$ के संचयी वितरण फलन (CDF) को व्युत्पन्न करते हैं, जिसमें उन क्षेत्रों के बीच अंतर किया गया है जहाँ मानक विचलन $\sigma$ , $\sqrt{N}\mu$ से कम या अधिक है।
स्केलिंग लॉ और कपलिंग एरर: लेखक स्पिन ग्लास थ्योरी में प्रचलित एक स्केलिंग ट्रांसफॉर्मेशन पेश करते हैं, जिसमें $\mu = J_0/N$ और $\sigma = J_1/\sqrt{N}$ को परिभाषित किया जाता है। यह उन्हें नॉर्मलाइज्ड दूसरे सबसे बड़े आइगेनवैल्यू $r$ और CDF को केवल $J_1/J_0$ के अनुपात के रूप में व्यक्त करने की अनुमति देता है। इसके अतिरिक्त, वे विश्लेषणात्मक रूप से अपेक्षित अवशिष्ट त्रुटि (कपलिंग एरर) $\Delta_\alpha$ को व्युत्पन्न करते हैं, जब रेगुलराइज्ड मैट्रिक्स $Q - \lambda_N I$ को लो-रैंक फॉर्म $V V^T$ में फैक्टराइज किया जाता है। त्रुटि को एक थ्रेशोल्ड अनुपात $\alpha$ के नीचे नॉर्मलाइज्ड आइगेनवैल्यूज़ को ट्रंकेट (truncate) करके परिभाषित किया जाता है, और इसकी अपेक्षा (expectation) व्युत्पन्न CDF के निरंतर अनुमानों (continuum approximations) का उपयोग करके गणना की जाती है।

प्रमुख योगदान

नॉर्मलाइज्ड आइगेनवैल्यूज़ के लिए स्केलिंग लॉ: शोध पत्र यह प्रदर्शित करता है कि नॉर्मलाइज्ड आइगेनवैल्यूज़ का संचयी वितरण विशेष रूप से मानक विचलन और माध्य के अनुपात ( $J_1/J_0$ ) पर निर्भर करता है, न कि मैट्रिक्स के पूर्ण मानों या आयाम $N$ पर (एसिम्प्टोटिक लिमिट में)। यह एक विशिष्ट गुण है जो अन-नॉर्मलाइज्ड आइगेनवैल्यू वितरणों में नहीं देखा जाता है।
कपलिंग एरर के लिए विश्लेषणात्मक सूत्र: लेखक ट्रंकेशन थ्रेशोल्ड $\alpha$ और अनुपात $J_1/J_0$ के फलन के रूप में मैट्रिक्स फैक्टराइजेशन में अपेक्षित कपलिंग एरर के लिए क्लोज्ड-फॉर्म विश्लेषणात्मक अभिव्यक्ति प्रदान करते हैं। ये सूत्र $J_1 \le J_0$ और $J_1 > J_0$ दोनों रेजीमों के लिए व्युत्पन्न किए गए हैं।
सैद्धांतिक-प्रायोगिक निरंतरता: अध्ययन रैंडम मैट्रिक्स सिमुलेशन से प्राप्त अनुभवजन्य परिणामों और व्युत्पन्न स्केलिंग लॉ/एरर बाउंड्स के बीच मजबूत सहमति दिखाकर अपने सैद्धांतिक अनुमानों को संख्यात्मक प्रयोगों के माध्यम से मान्य करता है।

परिणाम
संख्यात्मक प्रयोग $N = 10$ से $500$ तक के मैट्रिक्स आयामों के साथ किए गए।

वितरण सत्यापन: चित्र 1 और 2 पुष्टि करते हैं कि नॉर्मलाइज्ड आइगेनवैल्यूज़ के अनुभवजन्य संचयी वितरण समीकरण (4) और (5) से प्राप्त सैद्धांतिक रेखाओं की ओर अभिसरित (converge) होते हैं। जब इन्हें $J_1/J_0$ के अनुपात के विरुद्ध प्लॉट किया जाता है, तो वितरण एक एकल वक्र (curve) पर समाहित हो जाते हैं, जो स्केलिंग लॉ को सत्यापित करता है।
एरर सत्यापन: चित्र 3 और 4 दिखाते हैं कि अनुभवजन्य कपलिंग एरर $\Delta_\alpha$ , समीकरण (16)–(19) से प्राप्त सैद्धांतिक भविष्यवाणियों के साथ निकटता से संरेखित होते हैं। सैद्धांतिक रेखाएं प्रायोगिक डेटा के वेरिएंस क्षेत्रों के भीतर आती हैं। लेखक नोट करते हैं कि छोटे $N$ के लिए मानक विचलन बढ़ जाता है, लेकिन सिद्धांत बड़े $N$ के लिए सटीक व्यवहार का वर्णन करता है, जो व्यावहारिक अनुप्रयोगों के लिए प्रासंगिक है।
प्लेटो व्यवहार (Plateau Behavior): $J_1 \le J_0$ के लिए, नॉर्मलाइज्ड कपलिंग एरर $r$ (नॉर्मलाइज्ड दूसरे सबसे बड़े आइगेनवैल्यू) द्वारा निर्धारित मान से शुरू होने वाला एक प्लेटो प्रदर्शित करता है, जो सैद्धांतिक व्युत्पत्ति के अनुरूप है।

महत्व
लेखक दावा करते हैं कि ये निष्कर्ष रैंडम मैट्रिसेस में नॉर्मलाइज्ड आइगेनवैल्यूज़ के सांख्यिकीय व्यवहार को समझने के लिए एक सैद्धांतिक आधार प्रदान करते हैं, जो सीधे तौर पर रिकमेंडेशन सिस्टम और ब्लैक-बॉक्स ऑप्टिमाइजेशन में उपयोग किए जाने वाले फैक्टरइजेशन मशीन्स और संबंधित मॉडल्स के लिए लागू होता है। यह स्थापित करके कि सांख्यिकी केवल $J_1/J_0$ के अनुपात पर निर्भर करती है, यह कार्य उच्च-आयामी सेटिंग्स में मॉडल व्यवहार और अवशिष्ट त्रुटियों की भविष्यवाणी करने के लिए एक सरलीकृत ढांचा प्रदान करता है। लेखक सुझाव देते हैं कि ये अंतर्दृष्टि FM-आधारित ब्लैक-बॉक्स ऑप्टिमाइज़र के तीव्र अभिसरण (convergence) को समझाने में मदद कर सकती है और भविष्य के कार्य में उच्च-क्रम सांख्यिकी (higher-order statistics) का अनुमान लगाने के लिए एक आधार प्रदान कर सकती है।

मुख्य विचार: शोर वाले डेटा को साफ करना

मुख्य खोज: अराजकता का "स्वर्ण अनुपात" (Golden Ratio)

दूसरी खोज: सरलीकरण की लागत

यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)

संक्षेप में

इसी तरह के और पेपर