तकनीकी सारांश: पर्याप्त हार्मोनिक निरूपणों का ज्यामितीय गुणनखंड (Geometric Factorization of Sufficient Harmonic Representations)

समस्या विवरण (Problem Statement)

मशीन अनलर्निंग (Machine unlearning) और निरूपण शिक्षण (representation learning) को अक्सर प्रदर्शन मेट्रिक्स के आधार पर मूल्यांकित किया जाता है, जिससे मॉडलों की ज्यामितीय संरचना की जांच कम ही की जाती है। संबोधित मुख्य समस्या यह परिभाषित करना है कि कब एक सीखा गया निरूपण (learned representation) डेटा के सटीक कार्य-प्रासंगिक (task-relevant) ढांचे को धारण करता है और उससे अधिक कुछ नहीं। विशेष रूप से, यह शोध पत्र इस बात की जांच करता है कि समूह-संरचित समरूपताओं (group-structured symmetries) वाले डेटा के लिए "न्यूनतम पर्याप्त निरूपण शिक्षण" (minimal sufficient representation learning) को कैसे औपचारिक रूप दिया जाए।

शास्त्रीय सांख्यिकी में, एक सांख्यिक (statistic) पर्याप्त (sufficient) होता है यदि वह पैरामीटर के अनुमान के लिए प्रासंगिक सभी जानकारी को संरक्षित करता है, और न्यूनतम पर्याप्त (minimally sufficient) तब होता है जब वह ऐसा सबसे मोटा (coarsest) सांख्यिक हो। समरूपता वाले निरूपण शिक्षण के संदर्भ में, प्रश्न यह है कि: जब एक समूह $G$ एक नमूना स्थान $X$ पर कार्य करता है, और कार्य इस क्रिया के प्रति अपरिवर्तनीय (invariant) है, तो वह न्यूनतम निरूपण क्या है जो बाधा संबंधी भिन्नता (nuisance variation - समूह कक्षाओं/orbits) को हटा देता है जबकि कार्य-प्रासंगिक जानकारी को बनाए रखता है?

कार्यप्रणाली (Methodology)

यह शोध पत्र ज्यामितीय कोटिएंट्स (geometric quotients) और सांख्यिकीय पर्याप्तता के बीच के अंतर को पाटने के लिए शास्त्रीय सांख्यिकीय सिद्धांत, समूह सिद्धांत (group theory) और हार्मोनिक विश्लेषण (harmonic analysis) के संश्लेषण का उपयोग करता है।

1. कोटिएंट्स के माध्यम से ज्यामितीय गुणनखंड (Geometric Factorization via Quotients): लेखक एक मापने योग्य (measurable) कॉम्पैक्ट समूह $G$ के तहत एक नमूना स्थान $X$ को औपचारिक रूप देते हैं। वे कोटिएंट मैप $\pi: X \to X/G$ को एक न्यूनतम पर्याप्त निरूपण के उम्मीदवार के रूप में प्रस्तावित करते हैं। यह मानचित्र प्रत्येक समूह कक्षा (group orbit) को एक एकल तुल्यता वर्ग (equivalence class) में सिकोड़ देता है।
2. सांख्यिकीय पर्याप्तता प्रमाण (Statistical Sufficiency Proofs): फिशर-नेमन गुणनखंड प्रमेय (Fisher-Neyman factorization theorem) और न्यूनतम पर्याप्तता के लाइकलीहुड-अनुपात लक्षण वर्णन (likelihood-ratio characterization) का उपयोग करते हुए, यह शोध पत्र सिद्ध करता है कि यदि लाइकलीहुड (या सशर्त लक्ष्य नियम) समूह कक्षाओं के साथ अपरिवर्तनीय है, तो कक्षा कोटिएंट (orbit quotient) पर्याप्त है। एक अतिरिक्त "ऑर्बिट-सेपरेशन" (orbit-separation) स्थिति के तहत (जहाँ अलग-अलग कक्षाएं गैर-स्थिर लाइकलीहुड अनुपात उत्पन्न करती हैं), यह सिद्ध किया गया है कि कोटिएंट न्यूनतम पर्याप्त है।
3. कॉम्पैक्ट समूहों पर हार्मोनिक विश्लेषण (Harmonic Analysis on Compact Groups): कार्यप्रणाली कॉम्पैक्ट ली समूहों (compact Lie groups) और होमोजेनियस स्पेस (homogeneous spaces) के लिए विशिष्ट है। पीटर-वेयल प्रमेय (Peter-Weyl theorem) का लाभ उठाते हुए, यह शोध पत्र वर्ग-मापनीय फलनों (square-integrable functions) को अपरिवर्तनीय यूनिटरी निरूपणों के मैट्रिक्स गुणांकों (matrix coefficients) में अपघटन (decomposition) के रूप में उपयोग करता है।
4. फाइनाइट-बैंड हार्मोनिक एक्सपोनेंशियल फैमिली (Finite-Band Harmonic Exponential Families): यह शोध पत्र मॉडलों के एक विशिष्ट वर्ग को परिभाषित करता है जहाँ लॉग-घनत्व (log-density) मैट्रिक्स गुणांकों का एक सीमित रैखिक संयोजन (finite linear combination) है (एक "फाइनाइट-बैंड" सन्निकटन)। यह इन परिवारों के अनुभवजन्य सामान्यीकृत फूरियर गुणांकों (empirical generalized Fourier coefficients) का विश्लेषण करता है।
5. बीजगणितीय सामान्यीकरण (Algebraic Normalization): इन एक्सपोनेंशियल फैमिली के लिए विभाजन फलन (partition function - नॉर्मलाइजेशन कांस्टेंट) की कम्प्यूटेशनल कठिनाई को संबोधित करने के लिए, यह शोध पत्र क्लेबश-गॉर्डन अपघटन (Clebsch-Gordan decomposition) का उपयोग करता है। यह बीजगणितीय उपकरण अपरिवर्तनीय निरूपणों के टेंसर उत्पादों को अपघटित करता है, जिससे विभाजन फलन को 'ट्रिवियल रिप्रेजेंटेशन' (trivial representation) के गुणांकों की एक श्रृंखला के रूप में व्यक्त किया जा सकता है।

प्रमुख योगदान (Key Contributions)

यह शोध पत्र तीन प्राथमिक सैद्धांतिक योगदान देता है:

1. न्यूनतम पर्याप्त निरूपण को एक कोटिएंट समस्या के रूप में रूपायित करना: यह स्थापित करता है कि लाइकलीहुड परिवारों के लिए जो एक समूह क्रिया के तहत अपरिवर्तनीय हैं, कक्षा कोटिएंट $X/G$ न केवल एक अपरिवर्तनीय निरूपण है, बल्कि एक पर्याप्त (sufficient) निरूपण भी है। ऑर्बिट-सेपरेशन स्थिति के साथ, यह न्यूनतम पर्याप्त (minimally sufficient) भी है। यह सांख्यिकीय पर्याप्तता को सीधे ज्यामितीय गुणनखंड से जोड़ता है।
2. हार्मोनिक सांख्यिकी के साथ संबंध: कॉम्पैक्ट समूहों और होमोजेनियस स्पेस के लिए, यह शोध पत्र प्रदर्शित करता है कि कक्षा कोटिएंट संरचना हार्मोनिक विश्लेषण के माध्यम से मानक निर्देशांकों (canonical coordinates) को स्वीकार करती है। विशेष रूप से, फाइनाइट-बैंड हार्मोनिक एक्सपोनेंशियल फैमिली के लिए, अनुभवजन्य सामान्यीकृत फूरियर गुणांक (अपरिवर्तनीय यूनिटरी निरूपणों के मैट्रिक्स गुणांक) मॉडल मापदंडों के लिए न्यूनतम पर्याप्त सांख्यिकी के रूप में कार्य करते हैं, बशर्ते कि मानक फुल-रैंक स्थितियां पूरी हों।
3. विभाजन फलन का बीजगणितीय निरूपण: यह शोध पत्र फाइनाइट-बैंड हार्मोनिक एक्सपोनेंशियल फैमिली के लिए विभाजन फलन का एक सटीक बीजगणितीय निरूपण प्रदान करता है। ऊर्जा फलन के एक्सपोनेंशियल का विस्तार करके और क्लेबश-गॉर्डन अपघटन लागू करके, यह दिखाया गया है कि नॉर्मलाइजेशन कांस्टेंट, ऊर्जा फังก์ชัน के $k$-वें घात से ट्रिवियल रिप्रेजेंटेशन के गुणांक का प्रोजेक्शन है। यह निरंतर एकीकरण (continuous integration) को 'ट्रिवियल रिप्रेजेंटेशन घटक' के बीजगणितीय निष्कर्षण से बदल देता है।

प्रमुख परिणाम (Key Results)

• प्रमेय 3.1 (ऑर्बिट कोटिएंट की पर्याप्तता): सिद्ध करता है कि यदि $p_\theta(gx) = p_\theta(x)$ सभी $g \in G$ के लिए, तो ऑर्बिट मैप $\pi(X)$, $\theta$ के लिए पर्याप्त है। इसका प्रमाण फिशर-नेमन गुणनखंड पर आधारित है जहाँ घनत्व डेटा पर केवल ऑर्बिट के माध्यम से निर्भर करता है।
• प्रमेय 3.2 (न्यूनतम पर्याप्त ऑर्बिट कोटिएंट): सिद्ध करता है कि यदि अलग-अलग कक्षाएं सांख्यिकीय रूप से विशिष्ट हैं (लाइकलीहुड अनुपात $\theta$ में स्थिर नहीं हैं), तो $\pi(X)$ न्यूनतम पर्याप्त है। यह स्थापित करता है कि ऑर्बिट स्पेस कार्य-प्रासंगिक जानकारी को संरक्षित करने वाला सबसे मोटा (coarsest) निरूपण है।
• प्रमेय 3.3 (हार्मोनिक सांख्यिकी की न्यूनतम पर्याप्तता): एक फुल-रैंक फाइनाइट-बैंड हार्मोनिक एक्सपोनेंशियल फैमिली के लिए, सांख्यिकिक $T_N$, जिसमें अनुभवजन्य सामान्यीकृत फूरियर गुणांकों का योग शामिल है, प्राकृतिक मापदंडों (natural parameters) के लिए न्यूनतम पर्याप्त है। इसका प्रमाण लाइकलीहुड-अनुपात लक्षण वर्णन का उपयोग करता है, जो दिखाता है कि अनुपात $\theta$ में तभी स्थिर होता है जब सांख्यिक (statistics) समान हों।
• प्रमेय 3.4 (क्लेबश-गॉर्डन सामान्यीकरण): विभाजन फलन $e^{A(\theta)}$ को एक अनंत श्रेणी के रूप में व्यक्त करता है:
  $$e^{A(\theta)} = \sum_{k=0}^{\infty} \frac{1}{k!} \text{Coeff}_1(E_\theta^k)$$
  जहाँ $\text{Coeff}_1$, ऊर्जा फलन $E_\theta$ के $k$-वें घात से ट्रिवियल रिप्रेजेंटेशन के गुणांक को निकालता है, जिसे क्लेबश-गॉर्डन नियमों के माध्यम से संगणना किया जाता है।
• प्रमेय 3.5 (हार्मोनिक रिकवरी): पुष्टि करता है कि मैट्रिक्स गुणांकों का बीजगणितीय विस्तार (algebraic span) $L^2(G)$ में सघन (dense) है, जो यह सुनिश्चित करता है कि अनंत-बैंड सीमा में कोई जानकारी नष्ट नहीं होती है, हालांकि पर्याप्तता के परिणाम विशेष रूप से फाइनाइट-बैंड परिवारों के लिए फ्रेम किए गए हैं।

महत्व और दावे (Significance and Claims)

यह शोध पत्र अपरिवर्तनीयता (invariance), संपीड़न (compression) और सांख्यिकीय पर्याप्तता के बीच संबंधों को स्पष्ट करने का दावा करता है। इसका महत्व निम्नलिखित में निहित है:

• पर्याप्तता की ज्यामितीय व्याख्या: यह न्यूनतम निरूपण शिक्षण को बाधा संबंधी समरूपताओं (orbits) को पहचानने और उन्हें सिकोड़ने की समस्या के रूप में पुनर्गठित करता है, बिना भविष्यवाणी के लिए आवश्यक जानकारी को नष्ट किए।
• कार्य-निर्भर न्यूनतमता (Task-Dependent Minimality): यह अपरिवर्तनीय (invariant) और इक्विवैरिएंट (equivariant) कार्यों के बीच अंतर करता है, यह नोट करते हुए कि न्यूनतमता निरूपण की कार्य के सापेक्ष एक संपत्ति है। जबकि अपरिवर्तनीय निरूपण मौलिक हार्मोनिक मोड की पहचान करते हैं, वे केवल अपरिवर्तनीय कार्यों के लिए न्यूनतम पर्याप्त होते हैं यदि वे ट्रिवियल रिप्रेजेंटेशन या विशिष्ट ऑर्बिट संरचनाओं के अनुरूप हों।
• बीजगणितीय सुलभता (Algebraic Tractability): क्लेबश-गॉर्डन अपघटन के माध्यम से विभाजन फलन को व्यक्त करके, यह शोध पत्र फाइनाइट-बैंड हार्मोनिक मॉडलों के लिए, जटिल एकीकरण के बजाय बीजगणितीय रूप से नॉर्मलाइजेशन कांस्टेंट की गणना करने की विधि प्रदान करता है।

यह कार्य कोई नए मशीन लर्निंग आर्किटेक्चर या प्रयोगात्मक बेंचमार्क प्रस्तावित नहीं करता है। इसके बजाय, यह प्रतिनिधित्व शिक्षण, समूह सिद्धांत और शास्त्रीय सांख्यिकी को जोड़ने वाला एक सैद्धांतिक आधार प्रदान करता है, जो यह सुझाव देता है कि ज्यामितीय कोटेंटिंग (geometric quotienting), अपरिवर्तनीय संरचनाओं के तहत सांख्यिकीय पर्याप्तता को प्रेरित करता है।