तकनीकी सारांश: O(2) के असतत उपसमूहों (Discrete Subgroups) के प्रति समरूप (Equivariant) विजन ट्रांसफॉर्मर हेतु एक एकीकृत ढांचा

समस्या विवरण

विजन ट्रांसफॉर्मर (ViTs) ने दृश्य पहचान (visual recognition) के लिए स्वयं को प्रमुख आर्किटेक्चर के रूप में स्थापित किया है, फिर भी मानक मॉडल उन योजनाबद्ध सममितिों (planar symmetries) को स्पष्ट रूप से एनकोड करने में विफल रहते हैं जो कई विजन डोमेन में अंतर्निहित होती हैं। जबकि समूह-समरूप (group-equivariant) कनवल्शनल न्यूरल नेटवर्क (CNNs) ने सममितिओं (जैसे अनुवाद और रोटेशन) को इंडक्टिव बायस के रूप में सफलतापूर्वक शामिल किया है, ट्रांसफॉर्मर-आधारित आर्किटेक्चर के लिए एक नए सैद्धांतिक ढांचे की आवश्यकता है। मौजूदा समरूप ViT प्रस्ताव विशिष्ट सममिति समूहों (जैसे फ्लिपिंग या $D_4$ सममिति) या विशिष्ट कार्यान्वयन रणनीतियों तक सीमित रहे हैं। एक ऐसे एकीकृत ढांचे की आवश्यकता है जो इन दृष्टिकोणों को $O(2)$ के किसी भी असतत उपसमूह (discrete subgroup) के लिए सामान्यीकृत (generalize) कर सके, जिससे एक विशिष्ट सममिति समूह पर निर्भर रहे बिना समरूप ViTs का व्यवस्थित निर्माण, तुलना और विश्लेषण किया जा सके।

कार्यप्रणाली

सैद्धांतिक आधार

लेखक एक परिमित समूह $G \leq O(2)$ के प्रति समरूप ViTs के निर्माण के लिए एक प्रतिनिधित्व-सैद्धांतिक (representation-theoretic) दृष्टिकोण अपनाते हैं। यह ढांचा फीचर स्पेस को $G$ के अपरिवर्तनीय निरूपणों (irreducible representations - irreps) में विघटित करने पर आधारित है।

• फीचर स्पेस: टोकन फीचर्स को एक $G$-प्रतिनिधित्व $V$ के तत्वों के रूप में मॉडल किया गया है, जिसे irreps के प्रत्यक्ष योग (direct sum) के रूप में विघटित किया गया है: $V = \bigoplus_{\rho \in \hat{G}} \mathbb{R}^{C_\rho} \otimes V_\rho$, जहाँ $C_\rho$ बहुलता (multiplicity) है।
• पैचिफाइड ग्रिड्स (Patchified Grids): इनपुट को एक $G$-पैचिफाइड ग्रिड $H_0 = U + H$ पर परिभाषित किया गया है, जहाँ $U$ एक आधार पैच है और $H$ अनुवादों (translations) का एक सेट है, जो $G$-एक्शन के तहत स्थिर (stable) दोनों हैं। यह मॉडल को विभिन्न ग्रिड संरचनाओं (जैसे $D_4$ के लिए वर्गाकार, $D_6$ के लिए हेक्सागोनल) को संभालने की अनुमति देता है।

मुख्य वास्तुशिल्प घटक (Core Architectural Components)

यह ढांचा मानक ViT घटकों के समरूप एनालॉग्स का निर्माण करता है:

1. लीनियर लेयर्स (Linear Layers): शूर के लेम्मा (Schur's Lemma) के आधार पर, प्रत्येक irrep के चैनल आयामों पर कार्य करने वाले समरूप लीनियर मैप्स का निर्माण किया जाता है। कॉम्प्लेक्स-टाइप irreps (जो $O(2)$ उपसमूहों में सामान्य हैं) के लिए, लीनियर मैप्स एक ऐसे आधार (basis) का उपयोग करते हैं जो $\mathbb{C}$ के आइसोमॉर्फिक सब-अल्जेब्रा को स्पैन करता है।
2. पैच एम्बेडिंग और पोजीशनल एनकोडिंग: पैच एम्बेडिंग इमेज स्पेस से टोकन फीचर स्पेस तक एक $G$-समरूप एफाइन मैप है। पोजीशनल एनकोडिंग्स को सीखे जाने योग्य (learnable), $G$-अपरिवर्तनीय (invariant) वेक्टर्स के रूप में लागू किया जाता है जिन्हें टोकन्स में जोड़ा जाता है।
3. नॉन-लिनियैरिटीज़ (Nonlinearities): समरूपता बनाए रखते हुए नॉन-लिनियैरिटी पेश करने के लिए, लेखक एक "फूरियर-जैसे" निर्माण का प्रस्ताव करते हैं। फीचर्स को irrep बेसिस से एक $G$-सेट $X$ (एक होमोजेनियस स्पेस) में मैप किया जाता है, एक पॉइंटवाइज नॉन-लिनियैरिटी $\sigma$ लागू की जाती है, और परिणाम को वापस irrep बेसिस में मैप किया जाता है। $G$-सेट $X$ (जो $G/H$ के होमोजेनियस स्पेस से बना है) का चयन नॉन-लिनियैरिटी की अभिव्यक्ति क्षमता (expressivity) को निर्धारित करता है।
4. सेल्फ-अटेंशन (Self-Attention): लेखक एक $G$-इनवेरिएंट आंतरिक उत्पाद (inner product) का उपयोग करके अटेंशन स्कोर की गणना करने और $G$-स्थिर उपस्थानों (attention heads) पर प्रोजेक्ट करने के माध्यम से समरूप सेल्फ-अटेंशन के लिए एक सामान्य निर्माण का प्रस्ताव करते हैं। दो विशिष्ट तंत्र परिभाषित किए गए हैं:
   • इरेप-वाइज अटेंशन (Irrep-wise Attention): हेड्स को प्रत्येक irrep के अनुसार विघटित किया जाता है।
   • कपल्ड अटेंशन (Coupled Attention): हेड्स को irreps को मिश्रित करके बनाया जाता है।
     लेखक सिद्ध करते हैं कि सिंगल-हेड सेटिंग में, समरूप पैरामीट्राइजेशन साधारण सेल्फ-अटेंशन जितना ही अभिव्यंजक है, बशर्ते कि मैप $G$-समरूप हो।
5. वर्गीकरण हेड (Classification Head): अपरिवर्तनीय कार्यों (जैसे इमेज क्लासिफिकेशन) के लिए, एक क्लास टोकन जोड़ा जाता है। अंतिम आउटपुट को अपरिवर्तनीय सुनिश्चित करने के लिए, क्लास टोकन के गैर-तुच्छ (non-trivial) घटकों को अंतिम लीनियर क्लासिफिकेशन लेयर से पहले "इनवेरिएंटाइज" (मानों में परिवर्तित) किया जाता है।

सैद्धांतिक परिणाम

• एम्बेडिंग प्रमेय (Embedding Theorem): लेखक सिद्ध करते हैं कि यदि $H \leq G$, तो $G$-समरूप ViTs का वर्ग स्वाभाविक रूप से $H$-समरूप ViTs के वर्ग में एम्बेड होता है। इसका तात्पर्य यह है कि एक बड़ी सममिति समूह लागू करने से फंक्शन क्लास प्रतिबंधित हो जाता है (अभिव्यक्ति क्षमता कम होती है) लेकिन इंडक्टिव बायस बढ़ जाता है।
• अटेंशन की अभिव्यक्ति क्षमता (Expressivity of Attention): सिंगल-हेड समरूप सेल्फ-अटेंशन लेयर किसी भी ऐसे $G$-समरूप मैप को प्रदर्शित कर सकती है जिसे साधारण सेल्फ-अटेंशन द्वारा प्राप्त किया जा सकता है, बशर्ते कि वह मैप $G$-समरूप हो।

प्रयोगात्मक परिणाम

ढांचे का मूल्यांकन PatternNet हवाई छवि डेटासेट (38 क्लास) पर डेटा-दुर्लभ (data-scarce) शासन (10%, 40%, और 100% प्रशिक्षण डेटा) के तहत $D_4$ (वर्गाकार ग्रिड) और $D_6$ (हेक्सागोनल ग्रिड) के उपसमूहों के लिए किया गया।

• समरूपता का प्रभाव (Impact of Equivariance): मिलानित पैरामीटर बजट के तहत प्रारंभिक परिणामों से पता चलता है कि समरूप मॉडल (विशेष रूप से वर्गीकरण के लिए अपरिवर्तनीयता लागू करने वाले) गैर-समरूप बेसलाइन की तुलना में पहचान सटीकता में सुधार कर सकते हैं, विशेष रूप से कम-डेटा शासन में। यह इस परिकल्पना का समर्थन करता है कि समरूपता एक प्रभावी डेटा ऑग्मेंटेशन रणनीति के रूप में कार्य करती है।
• अटेंशन मैकेनिज्म: "इरेप-वाइज" और "कपल्ड" अटेंशन मैकेनिज्म के बीच तुलना ने डेटा शासन और मॉडल क्षमता के आधार पर प्रदर्शन अंतर दिखाया, हालांकि इनमें से कोई भी तंत्र सभी सेटिंग्स में सार्वभौमिक रूप से श्रेष्ठ नहीं था।
• नॉन-लिनियैरिटी कॉन्फ़िगरेशन: प्रयोगों ने यह विश्लेषण किया कि नॉन-लिनियैरिटीज़ में होमोजेनियस-स्पेस कॉन्फ़िगरेशन (उपयोग किया गया $G$-सेट $X$) का चयन प्रदर्शन को कैसे प्रभावित करता है, जिससे यह रेखांकित हुआ कि नॉन-लिनियैरिटी लेयर में वास्तुशिल्प विकल्प मॉडल की प्रभावकारिता के लिए महत्वपूर्ण हैं।

मुख्य योगदान और महत्व

• एकीकृत ढांचा: यह पेपर किसी भी $O(2)$ के असतत उपसमूह के लिए समरूप ViTs के निर्माण के लिए एक सामान्य निर्माण प्रदान करता है, जिसमें $D_1$ (फ्लिपिंग) और $D_4$ समरूप ViTs को विशेष मामलों के रूप में समाहित किया गया है।
• सैद्धांतिक गारंटी: यह अभिव्यक्ति क्षमता की कठोर गारंटी स्थापित करता है, यह सिद्ध करता है कि समरूप लेयर्स मानक लेयर्स की तुलना में अपनी अभिव्यक्ति क्षमता नहीं खोती हैं (जब उन्हें समरूप मैप्स तक सीमित किया जाता है), और सममिति की शक्ति और मॉडल की अभिव्यक्ति क्षमता के बीच के ट्रेड-ऑफ को औपचारिक रूप देता है।
• हेक्सागोनल अनुकूलता: ढांचा हेक्सागोनल पैचिंग तक सफलतापूर्वक विस्तारित होता है, जिससे $D_6$-समरूप मॉडल सक्षम होते हैं जो छह-गुना रोटेशनल सममिति का सम्मान करते हैं, जो हवाई इमेजरी के लिए प्रासंगिक हैं।
• संयमित दावे: लेखक इस बात पर जोर देते हैं कि प्रयोगों को बड़े पैमाने के बेंचमार्क प्रदर्शन को अनुकूलित करने के बजाय नियंत्रित, छोटे-पैमाने के सेटिंग्स में वास्तुशिल्प विकल्पों की जांच करने के लिए डिज़ाइन किया गया है। परिणाम आगे के अध्ययन को प्रेरित करने के लिए प्रारंभिक साक्ष्य के रूप में प्रस्तुत किए गए हैं कि कैसे असतत सममिति समूह ट्रांसफॉर्मर-आधारित विजुअल रिकग्निशन को आकार देते हैं।

इस कार्य का उद्देश्य प्रतिनिधित्व-सैद्धांतिक संरचना को समूह-विशिष्ट कार्यान्वयन विवरणों से अलग करना है, जो विभिन्न प्लेनर सममिति समूहों में समरूप ViTs के निर्माण और विश्लेषण के लिए एक सामान्य आधार प्रदान करता है।