तकनीकी सारांश: केली-टेबल पूर्णता (Cayley-Table Completion) के माध्यम से ज्यामितीय और एल्गोरिद्मिक संपीड़न का पृथक्करण

1. समस्या विवरण

यह शोध पत्र सांख्यिकीय शिक्षण सिद्धांत (Statistical Learning Theory - SLT) के बीच एक मौलिक सैद्धांतिक विभाजन की पहचान करता है: ज्यामितीय संपीड़न (Geometric Compression) और एल्गोरिद्मिक संपीड़न (Algorithmic Compression)।

• ज्यामितीय संपीड़न: आधुनिक डीप लर्निंग निरंतर क्षमता नियंत्रण तंत्र (जैसे, नॉर्म-आधारित नियमितीकरण, मार्जिन मैक्सिमाइजेशन, लो-रैंक बायस) पर निर्भर करती है। ये विधियाँ मानती हैं कि संक्षिप्त अवधारणाएँ (parsimonious concepts) सुचारू मैनिफोल्ड्स या निम्न-आयामी रैखिक उप-स्थानों (low-dimensional linear subspaces) पर स्थित होती हैं। हालांकि निरंतर डेटा के लिए ये सफल हैं, लेकिन यह प्रतिमान सटीक एल्गोरिद्मिक या असतत बीजगणितीय नियमों को निकालने में विफल रहता है।
• एल्गोरिद्मिक संपीड़न: शास्त्रीय शिक्षण सिद्धांत (PAC Learning, Occam's Razor, MDL) ने शिक्षण को सटीक, न्यूनतम तार्किक नियमों की प्राप्ति के रूप में परिभाषित किया। हालाँकि, असतत एल्गोरिद्मिक जटिलता को अनुकूलित करना सामान्यतः NP-hard है, जिससे आधुनिक SLT ने इसे काफी हद तक त्याग दिया है।
• अंतराल (The Gap): डीप लर्निंग में एल्गोरिद्मिक जटिलता न्यूनीकरण की ओर एक प्रेरक पूर्वाग्रह (inductive bias) का अभाव है। परिणामस्वरूप, न्यूरल नेटवर्क उन कार्यों में संघर्ष करते हैं जिनमें सटीक असतत बीजगणितीय संरचनाओं (जैसे, एल्गोरिद्मिक कार्यों पर लेंथ जनरलाइजेशन, सटीक समरूपता की खोज) की आवश्यकता होती है, और वे नियम सार (rule abstraction) के बजाय भंगुर स्मृति (brittle memorization) का सहारा लेते हैं।

यह शोध पत्र केली-टेबल पूर्णता (Cayley-table completion) को इस लुप्त प्रेरक पूर्वाग्रह को संबोधित करने के लिए एक मानक परीक्षण स्थल (canonical testbed) के रूप में प्रस्तावित करता है। इस कार्य में आंशिक अवलोकनों से एक असतत बाइनरी ऑपरेशन (एक समूह या क्वासिकूप संरचना) को पुनः प्राप्त करना शामिल है, जो मैट्रिक्स पूर्णता (matrix completion) के असतत बीजगणितीय समकक्ष के रूप में कार्य करता है।

2. कार्यप्रणाली और सैद्धांतिक ढांचा

मानक कार्य: केली-टेबल पूर्णता (Cayley-Table Completion)

मैट्रिक्स पूर्णता के विपरीत, जो निम्न रैखिक रैंक (जहाँ पंक्तियाँ रैखिक रूप से निर्भर होती हैं) की तलाश करती है, समूहों के केली टेबल्स 'लैटिन स्क्वेयर्स' होते हैं जहाँ पंक्तियाँ एक-दूसरे के परिमेलन (permutations) होती हैं। यह संरचना स्वाभाविक रूप से रैखिक अतिरेक (linear redundancy) को रोकती है। बीजगणितीय समूहों की वास्तविक संक्षिप्तता सहचर्य नियम (associativity axiom) से उत्पन्न होती है, जो संरचनात्मक विवरण की लंबाई को कम करने के लिए वैश्विक संरचना को प्रतिबंधित करती है।

ऑपरेटर-वैल्यूड टेंसर गुणनखंड (Operator-Valued Tensor Factorization)

इस जटिल कॉम्बिनेटोरियल खोज के बिना इसे हल करने के लिए, यह शोध पत्र हूह (Huh, 2025) के हालिया कार्य पर आधारित एक निरंतर, अवकलनीय (differentiable) दृष्टिकोण का उपयोग करता है:

1. टेंसर प्रतिनिधित्व: एक परिमित सेट $Q$ (आकार $n$) पर बाइनरी ऑपरेशन $\circ$ को एक संरचना टेंसर $\delta \in \{0, 1\}^{n \times n \times n}$ द्वारा दर्शाया जाता है, जहाँ $\delta_{abc} = 1$ यदि $a \circ b = c$।
2. गुणनखंड मॉडल: टेंसर को एक ऑपरेटर-वैल्यूड गुणनखंड के माध्यम से मॉडल किया जाता है:
   $$T_{abc}(\Theta) := \frac{1}{n} \text{Tr}(A_a B_b C_c)$$
   जहाँ $\Theta = (A, B, C)$ और $A_a, B_b, C_c$ $n \times n$ मैट्रिक्स स्लाइस (रैखिक ऑपरेटर) हैं।
3. फ्लैटनेस प्रायर (Flatness Prior): अनुकूलन उद्देश्य में एक फ्लैटनेस प्रायर शामिल है जो अनुभवजन्य पुनर्निर्माण हानि के हेसियन (Hessian) के ट्रेस को दंडित करता है:
   $$H(\Theta) := \text{Tr}\left(\nabla^2 \sum_{(a,b,c) \in \Omega} (T_{abc}(\Theta) - \delta_{abc})^2\right)$$

वेरिएशनल लक्षण वर्णन (Variational Characterization)

उद्देश्य फलन $H(\Theta)$ दो महत्वपूर्ण घटकों में विभाजित होता है जो असतत गुणों को प्रेरित करते हैं:

• ज्यामितीय संरेखण (Collinearity): यह सहचर्य (associativity) नियम को लागू करता है।
• इनवर्स $\ell_2$ पेनल्टी: यह कोलीनियर मैनिफोल्ड के भीतर एक सटीक इनवर्स रैंक दंड के रूप में कार्य करता है।

महत्वपूर्ण रूप से, यह तंत्र मापदंडों को पूर्ण-रैंक यूनिटैरिटी (full-rank unitarity) की ओर ले जाता है, जो मानक ज्यामितीय संपीड़न के लो-रैंक बायस के बिल्कुल विपरीत है।

3. मुख्य परिणाम और प्रमाण

यह शोध पत्र प्रस्तावित ढांचे के आधार पर निम्नलिखित सैद्धांतिक निष्कर्ष प्रस्तुत करता है:

• सटीक रिकवरी बाउंड (Exact Recovery Bound): पूर्णतः-अवलोकित सीमा में, ज्यामितीय इन्फिमम $H_{\inf}(\delta) := \inf_{T(\Theta)=\delta} H(\Theta)$ बीजगणितीय जटिलता के एक सटीक, अवकलनीय माप के रूप में सिद्ध होता है।
• निम्नतम सीमा (Lower Bound): उद्देश्य फलन एक पूर्ण निचली सीमा $H_{\inf}(\delta) \ge 3|\delta|$ (जहाँ $|\delta| = n^2$) स्थापित करता है।
• न्यूनतमकर्ताओं का लक्षण वर्णन (Characterization of Minimizers): यह सीमा तभी प्राप्त होती है जब लक्षित ऑपरेशन एक समूह (group) के आइसोटोपिक हो। इस स्थिति में, ग्लोबल मिनिमाइज़र अद्वितीय रूप से अंतर्निहित समूह के रेगुलर रिप्रेजेंटेशन को (यूनिटरी गेज तक) लक्षणित करता है।
• प्रूफ ऑफ कॉन्सेप्ट: यह एक औपचारिक प्रमाण प्रदान करता है कि निरंतर ग्रेडिएंट-आधारित अनुकूलन (gradient-based optimization) कॉम्बिनेटोरियल खोज के बिना भी स्वाभाविक रूप से असतत बीजगणितीय नियमों (विशेष रूप से सहचर्य) की खोज कर सकता है।

4. प्रस्तुत खुली समस्याएँ (Open Problems)

यह शोध पत्र दो विशिष्ट खुली समस्याओं के माध्यम से समुदाय को चुनौती देता है:

1. खुली समस्या 1 (औपचारिक पृथक्करण): ज्यामितीय क्षमता नियंत्रण (जैसे, रेडेमेकर कॉम्प्लेक्सिटी, मार्जिन बाउंड्स) और एल्गोरिद्मिक संपीड़न के बीच एक सख्त पृथक्करण प्रमेय स्थापित करना। लक्ष्य उन परिकल्पना वर्गों (hypothesis classes) को लक्षणित करना है (जैसे, असतत बीजगणितीय नियम) जहाँ विशुद्ध रूप से ज्यामितीय सामान्यीकरण बाउंड्स (generalization bounds) प्रमाणित रूप से निरर्थक (vacuous) होते हैं, जबकि अवकलनीय एल्गोरिद्मिक जटिलता माप सटीक, बहुपद गारंटी (polynomial guarantees) प्रदान करते हैं।
2. खुली समस्या 2 (केली-टेबल पूर्णता की नमूना जटिलता): फ्लैटनेस-रेगुलराइज्ड टेंसर गुणनखंड के लिए एक सटीक रिकवरी गारंटी को औपचारिक रूप से स्थापित करना। विशेष रूप से, क्या यह सिद्ध किया जा सकता है कि ग्लोबल मिनिमाइज़र केवल $O(n \log n)$ समान रूप से नमूना लिए गए प्रविष्टियों के साथ समूह तालिका को पूर्ण रूप से पूरा कर देता है? यह मानक मैट्रिक्स पूर्णता सिद्धांत के विपरीत होगा, जो पूर्ण-रैंक संरचनाओं के लिए $O(n^2)$ से अधिक के निरर्थक बाउंड प्रदान करता है।

5. महत्व और सीमाएँ

महत्व

शोध पत्र का तर्क है कि केली-टेबल पूर्णता समस्या को औपचारिक बनाने और हल करने से:

• शास्त्रीय तर्क-संचालित युग और आधुनिक ज्यामिति-संचालित युग के बीच एक कठोर गणितीय सेतु प्रदान होगा।
• एक 'प्रूफ-ऑफ-कॉन्सेप्ट' मिलेगा कि सावधानीपूर्वक डिज़ाइन किए गए, शुद्ध रूप से निरंतर प्रायर (continuous priors) ग्रेडिएंट डिसेंट को स्वाभाविक रूप से सटीक कॉम्बिनेटोरियल गुणों को अनुकूलित करने के लिए मजबूर कर सकते हैं।
• उन क्षेत्रों के संबंध में SLT के महत्वपूर्ण लापता आधार को संबोधित करेगा जहाँ ज्यामितीय सरोगेट्स विफल होते हैं और एल्गोरिद्मिक संपीड़न सफल होता है।

सीमाएँ और वर्तमान स्थिति

• आंशिक परिणाम: शोध पत्र स्वीकार करता है कि जबकि अस्तित्व प्रमाण (existence proofs) और लैंडस्केप विश्लेषण मौजूद हैं (हूह, 2025), मौलिक प्रश्न का सटीक सैद्धांतिक सीमा अभी भी खुला है।
• न्यूरोसिंबोलिक सीमाएँ: वर्तमान न्यूरोसिंबोलिक दृष्टिकोणों की आलोचना इस आधार पर की जाती है कि वे या तो तर्क को अनुमानित संभावनाओं (approximate probabilities) में ढीला करते हैं (कठोर संरचनाओं को प्राप्त करने में विफल) या बाहरी सिंबोलिक इंजन पर निर्भर करते हैं (नेटिव एल्गोरिद्मिक खोज प्राप्त करने में विफल)।
• दायरा: यह पत्र मुख्य रूप से एक सैद्धांतिक ढांचा स्थापित करने और खुली समस्याओं को प्रस्तुत करने पर केंद्रित है। यह दावा नहीं करता है कि इसने नमूना जटिलता बाउंड (खुली समस्या 2) या सामान्य पृथक्करण प्रमेय (खुली समस्या 1) को हल कर लिया है, बल्कि यह उन्हें क्षेत्र के लिए आवश्यक अगले चरणों के रूप में प्रस्तुत करता है।