तकनीकी सारांश: "देखने के लिए बहुत सममित: परिमित-सममिति ज्यामितीय शिक्षण में अति-अपरिवर्तनीयता का निदान"

1. समस्या विवरण: मौन अति-अपरिवर्तनीयता (Silent Over-Invariance)

यह शोध पत्र ज्यामितिक गहन शिक्षण (geometric deep learning) में एक विशिष्ट विफलता मोड को संबोधित करता है जिसे अति-अपरिवर्तनीयता (over-invariance) कहा जाता है। जबकि ज्ञात सममितियों को न्यूरल नेटवर्क में शामिल करना नमूना जटिलता (sample complexity) को कम करने और भौतिक निरंतरता सुनिश्चित करने के लिए एक मानक अभ्यास है, लेखक का तर्क है कि प्रतिनिधित्व (representations) बहुत अधिक सममित हो सकते हैं।

विशेष रूप से, जब एक लक्षित फलन (target function) में केवल एक परिमित (finite) चरण सममिति (जैसे, एक विविक्त रूट-ऑफ-यूनिटी समूह के तहत अपरिवर्तनीयता) होती है, लेकिन मॉडल का प्रतिनिधित्व एक सतत (continuous) चरण सममिति (जैसे, केवल परिमाण विशेषताओं का उपयोग करके पूर्ण वृत्त समूह $U(1)$ के तहत अपरिवर्तनीयता) लागू करता है, तो मॉडल लक्षित-प्रासंगिक जानकारी को चुपचाप त्याग देता है।

• तंत्र (The Mechanism): जटिल निर्देशांकों (complex coordinates) को उनके परिमाणों (या वर्ग परिमाणों) से बदलना एक निरंतर टॉरस के तहत अपरिवर्तनीय प्रतिनिधित्व बनाता है। यदि वास्तविक लक्ष्य केवल उस टॉरस के एक परिमित उपसमूह (finite subgroup) के तहत अपरिवर्तनीय है, तो प्रतिनिधित्व उन तंतुओं (fibers) को ढहा देता है जिनमें विशिष्ट लक्षित मान होते हैं।
• परिणाम (The Consequence): इसके परिणामस्वरूप एक "अपरिहार्य त्रुटि" (irreducible error/सूचना की हानि) होती है जिसे बेहतर अनुकूलन (optimization) या अधिक डेटा द्वारा ठीक नहीं किया जा सकता है। महत्वपूर्ण रूप से, क्योंकि मॉडल घोषित समूह क्रियाओं के तहत सटीक रूप से अपरिवर्तनीय बना रहता है, यह विफलता मानक सममिति-त्रुटि चेतावनियों को ट्रिगर नहीं करती है, जिससे यह "मौन" (silent) हो जाती है।

2. कार्यप्रणाली और नैदानिक ढांचा

2.1 नैदानिक: सशर्त प्रसरण के रूप में अपरिहार्य त्रुटि

लेखक अति-अपरिवर्तनीयता को एक नैदानिक समस्या के रूप में औपचारिक रूप देते हैं। एक लक्ष्य $T$ और प्रतिनिधित्व $R$ के लिए, $R$ तक सीमित किसी भी भविष्यवक्ता (predictor) की अपरिहार्य वर्ग त्रुटि (irreducible squared loss) सशर्त प्रसरण (conditional variance) है:
$$\inf_f \mathbb{E}[(T - f \circ R)^2] = \mathbb{E}[\text{Var}(T | R)]$$
यदि $\text{Var}(T | R) > 0$ है, तो प्रतिनिधित्व $R$ ने $T$ के लिए प्रासंगिक जानकारी को त्याग दिया है। शोध पत्र एक नियंत्रित सिंथेटिक बेंचमार्क प्रदान करता है जहाँ इस अपरिहार्य त्रुटि की गणना बंद रूप (closed form) में की जा सकती है, जिससे परिमाण-मात्र मॉडलों और प्रशिक्षित मॉडलों के बीच सीधा तुलना संभव होती है।

2.2 मरम्मत: प्रोजेक्टिव कैरेक्टर पूलिंग (PCP)

शोध पत्र एक विशिष्ट वर्ग के परिमित-सममिति क्रियाओं के लिए एक स्कोपड, ऑर्बिट-मुक्त मरम्मत के रूप में प्रोजेक्टिव कैरेक्टर पूलिंग (PCP) का प्रस्ताव करता है। PCP एक सख्त अपरिवर्तनीय अवशेष (residual) का निर्माण करता है जो चरण सूचना को बनाए रखता है, बिना महंगे ऑर्बिट औसत (orbit averaging) की आवश्यकता के।

• निर्माण: यह संरेखित ब्लॉकों (aligned blocks) के निर्देशांकों पर कार्य करता है। यह घोषित रूट-फेज रोटेशन को निरस्त करने के लिए विशिष्ट घातों ($d_k$) का उपयोग करके सामान्यीकृत ब्लॉकों को 'फैसर' (phasors) में बदलता है।
• तंत्र: ये फैसर साझा स्लॉट एनकोडर के साथ संकुचित (contracted) किए जाते हैं। निर्माण में विशिष्ट 'चार्ज-कैंसलिंग' वैश्विक उत्पाद शामिल हैं ताकि घोषित परिमित उपसमूह के तहत सटीक अपरिवर्तनीयता सुनिश्चित हो सके, जबकि उन सापेक्ष चरण अंतरों को संरक्षित किया जा सके जिन्हें परिमाण त्याग देते हैं।
• गारंटी: यह निर्माण घोषित विकर्ण रूट-फेज क्रियाओं और समवर्ती स्लॉट क्रमपरिवर्तन (simultaneous slot permutations) के तहत सटीक रूप से अपरिवर्तनीय है, और यह उत्पाद प्रोजेक्टिव स्पेस पर एक सुचारू फलन के रूप में उतरता है।

2.3 मूल्यांकन प्रोटोकॉल

अध्ययन प्रतिनिधित्व-स्तर की सूचना हानि और अनुकूलन कलाकृतियों (optimization artifacts) के बीच अंतर करने के लिए एक बहु-स्तरीय मूल्यांकन रणनीति का उपयोग करता है:

1. सिंथेटिक बेंचमार्क: एक ट्यून करने योग्य लक्ष्य जिसमें ज्ञात विश्लेतिक "मॉडुली-ओनली फ्लोर" होता है, ताकि यह सत्यापित किया जा सके कि परिमाण-मात्र मॉडल अनुकूलन के बजाय सूचना हानि द्वारा निर्धारित प्रदर्शन सीमा (performance ceiling) तक पहुँचते हैं।
2. आणविक नियंत्रण ($H_3^+$): एक स्थानीय इलेक्ट्रॉनिक-संरचना सतह जिसमें $D_3$ सममिति है, यह परीक्षण करने के लिए कि क्या यह घटना जटिल प्रोजेक्टिव ज्यामिति से परे जाती है।
3. ज्यामितिक बेंचमार्क:
   • ड्वार्क क्विंटिक (Dwork Quintic): एक कैलाबी-यौ (Calabi–Yau) मैनिफोल्ड का एक एक-पैरामीटर परिवार जहाँ मॉडुलस के साथ सममिति समूह बदल जाता है, जिससे "अति-अपरिवर्तनीयता दंड" (over-invariance penalty) को ट्यून किया जा सकता है।
   • सिमेट्रिक बायसिक्यूबिक (Symmetric Bicubic): एक उत्पाद-प्रोजेक्टिव हाइपरसरफेस ($CP^2 \times CP^2$) जो विभिन्न परिवेशी स्थानों और समूह संरचनाओं के लिए हस्तांतरणीयता का परीक्षण करता है।
4. नियंत्रण (Controls): अध्ययन में समान क्षमता वाले बेसलाइन, "गलत-चार्ज" नियंत्रण, जेनेरिक-फेज नियंत्रण और सटीक ऑर्बिट औसत (जहाँ कम्प्यूटेशनल रूप से संभव हो) शामिल हैं ताकि विशिष्ट चरण-जागरूक निर्माण के योगदान को अलग किया जा सके।

3. मुख्य परिणाम

3.1 सिंथेटिक और आणविक नियंत्रण

• सिंथेटिक: नियंत्रित बेंचमार्क में, परिमाण-मात्र मॉडल चरण-सामग्री अंश ($\gamma$) बढ़ने के साथ लगातार विश्लेतिक अपरिहार्य त्रुटि फ्लोर तक पहुँच गए। PCP मॉडल इस फ्लोर से काफी नीचे रहे, जिससे उच्च चरण सामग्री पर MSE में 95% तक की कमी आई।
• आणविक ($H_3^+$): एक रेडियल (परिमाण-मात्र) मॉडल प्रशिक्षण बजट (9,000 अपडेट तक) के बावजूद एक निश्चित त्रुटि सीमा से आगे बढ़ने में विफल रहा, जो $D_3$-अनुमत कोणीय घटक के नुकसान की पुष्टि करता है। इसके विपरीत, कैरेक्टर-जागरूक मॉडल ने कम त्रुटि तेजी से प्राप्त की, और सटीक ऑर्बिट औसत केवल बड़े बजट पर ही इसकी बराबरी कर पाया।

3.2 ज्यामितिक परिणाम (ड्वर्क क्विंटिक)

• डिटरमिनेंट-रेशियो फ्लैटनेस: ड्वर्क क्विंटिक पर, कैरेक्टर-जागरूक अवशेषों (PCP) ने सभी परीक्षण किए गए मॉडुल ($\psi = 0.3, 0.5, 0.8$) में परिमाण-मात्र बेसलाइन की तुलना में काफी कम वैलिडेशन फ्लैटनेस ($\sigma(\eta)$) प्राप्त की।
• नियंत्रण: परिमाण-मात्र मॉडल को व्यापक बनाना, जेनेरिक प्रोजेक्टिव MLPs का उपयोग करना, या लंबे समय तक प्रशिक्षण देना इस अंतर को पाटने में विफल रहा। "गलत-चार्ज" नियंत्रणों में सुधार नहीं हुआ, जो पुष्टि करता है कि प्रभाव सही चरण अंशांकन (calibration) पर निर्भर करता है।
• कैनोनिकलाइजेशन विफलता: एक कैनोनिकलाइजेशन-आधारित दृष्टिकोण ने निम्न स्थानीय त्रुटि दिखाई लेकिन सीमाओं के पार सुचारू रूप से जुड़ने में विफल रहा, जो यह दर्शाता कि बिंदुवार अपरिवर्तनीयता वैश्विक ज्यामितिक वैधता की गारंटी नहीं देती है।

3.3 ज्यामितिक परिणाम (बायसिक्यूबिक थ्रीफोल्ड)

• हस्तांतरणीयता: PCP ने बायसिक्यूबिक थ्रीफोल्ड पर परिमाण-मात्र और जेनेरिक प्रोजेक्टिव नियंत्रणों की तुलना में काफी बेहतर प्रदर्शन किया।
• बजट ट्रेड-ऑफ: सटीक ऑर्बिट औसत (972 तत्व) के साथ एक तुलना ने एक परिमित-बजट ट्रेड-ऑफ प्रकट किया: PCP ने प्रशिक्षण के शुरुआती चरण (30 अपडेट) में कम त्रुटि प्राप्त की, जबकि सटीक ऑर्बिट औसत ने लंबे बजट (200 और 1,000 अपडेट) में इसे पीछे छोड़ दिया। यह सुझाव देता है कि PCP प्रारंभिक अभिसरण (early convergence) के लिए एक कुशल समन्वय प्रणाली है, जबकि पर्याप्त कंप्यूट दिए जाने पर ऑर्बिट औसत स्पर्शोन्मुख रूप से (asymptotically) श्रेष्ठ है।

4. योगदान और महत्व

यह शोध पत्र निम्नलिखित विशिष्ट योगदान देता है:

1. अति-अपरिवर्तनीयता का निदान: यह अति-अपरिवर्तनीयता को एक मौन विफलता मोड के रूप में पहचानता और औपचारिक रूप देता है जहाँ निरंतर-अपरिवर्तनीय प्रतिनिधित्व (जैसे परिमाण) आवश्यक जानकारी को त्याग देते हैं।
2. विश्लेतिक निचली सीमा (Analytic Lower Bound): यह एक बंद-रूप अपरिहार्य त्रुटि फ्लोर के साथ एक नियंत्रित सिंथेटिक सेटिंग प्रदान करता है, जो प्रतिनिधित्व सीमाओं को अनुकूलन सीमाओं से अलग करता है।
3. प्रोजेक्टिव कैरेक्टर पूलिंग (PCP): यह एक ठोस, ऑर्बिट-मुक्त न्यूरल निर्माण पेश करता है जो घोषित वर्ग के विकर्ण रूट-फेज क्रियाओं के लिए सटीक रूप से अपरिवर्तनीय है, जबकि आवश्यक चरण अंतरों को बनाए रखता है।
4. अनुभवजन्य सत्यापन: यह प्रदर्शित करता है कि यह विफलता मोड और प्रस्तावित मरम्मत गैर-तुच्छ ज्यामितिक सेटिंग्स (कैलाबी-यौ मेट्रिक लर्निंग) में प्रासंगिक है, जहाँ वे मानक परिमाण-मात्र दृष्टिकोणों की तुलना में सीखे गए कैलर पोटेंशियल (Kähler potentials) की गुणवत्ता में सुधार करते हैं।

5. दावे और सीमाएं (सीमित दायरा)

लेखक अपने दावों की सीमाओं के बारे में स्पष्ट हैं:

• सार्वभौमिक कंपाइलर नहीं: PCP एक "स्कोपड कंस्ट्रक्शन" है जो विकर्ण रूट-फेज क्रियाओं और समवर्ती क्रमपरिवर्तन के लिए है। यह मनमाने यूनिटरी परिमित समूहों, निरंतर समूहों, या स्वतंत्र ब्लॉक क्रमपरिवर्तन (जैसे, बायसिक्यूबिक ब्लॉक-एक्सचेंज के लिए एक अलग हाथ से लिखा गया सिमेट्राइजेशन आवश्यक था) को कवर नहीं करता है।
• कोई सार्वभौमिक सन्निकटन (Universal Approximation) नहीं: शोध पत्र यह दावा नहीं करता है कि PCP अपरिवर्तनीयता के पूर्ण बीजगणित (algebra of invariants) का निर्माण करता है या सार्वभौमिक सन्निकटन प्रमेय प्रदान करता है।
• परिमित-बजट परिणाम: ऑर्बिट औसत के साथ तुलना एक परिमित-बजट अवलोकन है: PCP जल्दी जीतता है, ऑर्बिट औसत बाद में जीतता है, यह PCP की स्पर्शोन्मुख श्रेष्ठता का दावा नहीं है।
• नैदानिक फोकस: प्राथमिक लक्ष्य अति-अपरिवर्तनीयता को मापने योग्य और मिथ्याकरणीय (falsifiable) बनाना है। शोध पत्र सभी ज्यामितिक शिक्षण समस्याओं को हल करने या मौजूदा संख्यात्मक सॉल्वर को बदलने का दावा नहीं करता है, बल्कि यह पता लगाने के लिए एक उपकरण प्रदान करता है कि कब एक प्रतिनिधित्व "देखने के लिए बहुत सममित" है।

संक्षेप में, शोध पत्र का तर्क है कि जब एक लक्ष्य में परिमित चरण सममिति होती है, तो निरंतर-अपरिवर्तनीय परिमाण विशेषताओं का उपयोग एक बचने योग्य सूचना बाधा (information bottleneck) डालता है। PCP इस विशिष्ट बेमेल के लिए एक लक्षित मरम्मत प्रदान करता है, जिसे विश्लेतिक सीमाओं और ज्यामितिक बेंचमार्क के माध्यम से सत्यापित किया गया है।