🤖 machine learning

Bases of Steerable Kernels for Equivariant CNNs: From 2D Rotations to the Lorentz Group

यह शोध पत्र विभिन्न सममिति समूहों (symmetry groups) और टेंसर प्रकारों के लिए पॉइंट-वाइज इनवेरिएंस कंडीशन और स्टीयरेबिलिटी समीकरण का लाभ उठाते हुए, क्लेबश-गोर्डन गुणांकों (Clebsch-Gordan coefficients) की गणना करने की आवश्यकता को समाप्त करते हुए, इक्विवेरिएंट सीएनएन (equivariant CNNs) के लिए स्पष्ट वास्तविक और जटिल स्टीयरेबल कर्नेल के निर्माण के लिए एक सामान्य और सुलभ विधि प्रस्तुत करता है।

मूल लेखक: Alan Garbarz

प्रकाशित 2026-03-16

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alan Garbarz

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबट को कमरे में वस्तुओं को पहचानना सिखा रहे हैं। यदि आप रोबट को बिल्ली की एक तस्वीर दिखाते हैं, और फिर आप उस तस्वीर को 90 डिग्री घुमा देते हैं, तो रोबट को अभी भी पता होना चाहिए कि वह एक बिल्ली है। लेकिन यदि रोबट केवल एक "वैनिला" न्यूरल नेटवर्क है, तो उसे हर बार तस्वीर घुमाने पर बिल्ली के रूप को फिर से शून्य से सीखना होगा। यह अक्षम है।

Steerable Equivariant CNNs ऐसे रोबट को एक अंतर्निहित नियम पुस्तिका (rulebook) के साथ प्रशिक्षित करने जैसा है: "यदि मैं इनपुट को घुमाता हूँ, तो आउटपुट को भी ठीक उसी तरह घूमना चाहिए।" यह रोबट को बहुत अधिक स्मार्ट और प्रशिक्षण के लिए तेज़ बनाता है।

हालाँकि, इसमें एक पेच है। इसे काम करने योग्य बनाने के लिए, रोबट के "दिमाग" (गणितीय कर्नेल) को नियमों के एक बहुत ही सख्त और जटिल सेट का पालन करना होता है। आमतौर पर, इन नियमों को समझना एक विशाल, उलझे हुए पहेली को सुलझाने जैसा है, जिसके लिए Clebsch-Gordan coefficients नामक एक जटिल निर्देश पुस्तिका की आवश्यकता होती है। यह कठिन है, गणनात्मक रूप से महंगा है, और उन्नत गणित के गहरे ज्ञान की आवश्यकता है।

यह शोध पत्र उस पहेली को हल करने का एक बहुत सरल और सीधा तरीका प्रस्तुत करता है।

यहाँ लेखक के विचार का रोजमर्रा के उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: "घूमता हुआ कमरा" (The Rotating Room)

कल्पना कीजिए कि आप एक कमरे में हैं जिसमें मेज पर एक विशिष्ट वस्तु रखी है (इनपुट)। आप वर्णन करना चाहते हैं कि वह वस्तु कमरे के हर संभव कोण से कैसी दिखती है।

पुराना तरीका: आप एक साथ सभी कोणों से दृश्य की गणना करने का प्रयास करते हैं, जो सभी कोणों को एक साथ जोड़ने वाले एक विशाल समीकरण को हल करता है। यह वायुमंडल के हर परमाणु के लिए एक विशाल समीकरण हल करके पूरी दुनिया के मौसम की भविष्यवाणी करने जैसा है।
इस शोध पत्र का तरीका: लेखक कहता है, "आइए पहले केवल एक विशिष्ट स्थान को देखते हैं।"

2. रणनीति: "एंकर पॉइंट" (The Anchor Point)

लेखक की विधि इस प्रकार है:

एक "होम बेस" चुनें: कमरे में एक विशिष्ट बिंदु चुनें (मान लीजिए $x_0$ ) और एक विशिष्ट कोण (जैसे, उत्तर की ओर मुख करके)।
आसान भाग को हल करें: पूछें, "यदि मैं यहीं खड़ा हूँ और उत्तर की ओर देख रहा हूँ, तो नियम कैसा दिखेगा?" क्योंकि आप एक निश्चित स्थान पर हैं, नियम बहुत सरल हैं। आपको बस कुछ बुनियादी आकृतियों या पैटर्न को खोजने की आवश्यकता है जो थोड़ा हिलने-डुलने पर भी स्थिर रहते हैं (invariant)।
"स्टीयरिंग" चाल: एक बार जब आपके पास उस एक स्थान के लिए समाधान हो जाता है, तो आपको बाकी कमरे के लिए गणित को फिर से हल करने की आवश्यकता नहीं है। आप बस अपने समाधान को किसी भी अन्य कोण के अनुरूप घुमा (या "स्टीयर") सकते हैं।
- उपमा: कल्पना कीजिए कि आपके पास एक तारे का स्टेंसिल (stencil) है। यदि आप जानना चाहते हैं कि 45 डिग्री घूमने पर वह तारा कैसा दिखता है, तो आपको शून्य से नया तारा बनाने की आवश्यकता नहीं है। आपको बस अपने मूल स्टेंसिल को लेकर कागज को घुमाना है। कागज खुद काम कर देता है।

3. यह एक बड़ी बात क्यों है

कोई "जादुई नंबर" नहीं: पुराने तरीकों के लिए Clebsch-Gordan coefficients की गणना करने की आवश्यकता थी। इन्हें एक विशाल, पूर्व-निर्धारित शब्दकोश की तरह समझें जो बताता है कि विभिन्न आकृतियाँ घूमने पर कैसे जुड़ती हैं। इन्हें खोजना धीमा है और नई आकृतियों के लिए इन्हें बनाना कठिन है। यह नया तरीका इस शब्दकोश को पूरी तरह से दरकिनार कर देता है।
प्रत्यक्ष अनुवाद: "आकार A" को "आकार B" में एक जटिल बिचौलिए के माध्यम से अनुवाद करने के बजाय, लेखक की विधि रोटेशन नियमों का उपयोग करके "आकार A" को सीधे "आकार B" में अनुवादित करती है।
उपयोग के लिए तैयार: यह शोध पत्र केवल एक सिद्धांत नहीं देता; यह कई अलग-अलग प्रकार की समरूपता (symmetry) के लिए वास्तविक "स्टेंसिल" (bases) प्रदान करता है, जिनमें शामिल हैं:
- 2D रोटेशन: जैसे मेज पर फोटो को घुमाना।
- 3D रोटेशन: जैसे ग्लोब को घुमाना।
- Lorentz Group: यह कठिन वाला है। यह आइंस्टीन के विशेष सापेक्षता (Special Relativity) के पीछे का गणित है। यह बताता है कि कैसे अंतरिक्ष और समय आपस में मिलते हैं जब आप प्रकाश की गति के करीब चलते हैं। यह शोध पत्र दिखाता है कि कैसे भौतिकी सिमुलेशन के लिए इन "स्टीरेबल" नियमों को बनाया जा सकता है, जो कि बहुत महत्वपूर्ण है।

4. "विशाल" (Massive) बनाम "द्रव्यमान रहित" (Massless) कण

यह शोध पत्र भौतिकी में दो प्रकार के कणों को संभालने के तरीके को भी समझाता है:

विशाल कण (जैसे इलेक्ट्रॉन): उनका एक "रेस्ट फ्रेम" (rest frame) होता है (आप उनके बगल में स्थिर बैठ सकते हैं)। यहाँ का गणित एक गेंद को घुमाने जैसा है; यह स्थिर है।
द्रव्यमान रहित कण (जैसे प्रकाश): वे हमेशा प्रकाश की गति से चलते हैं। उनका कोई "रेस्ट फ्रेम" नहीं होता। यहाँ का गणित अधिक पेचीदा है क्योंकि केवल प्रकाश की "दिशा" ही मायने रखती है। लेखक दिखाता है कि कैसे एक विशेष प्रकार के प्रोजेक्टर का उपयोग करके इन "प्रकाश-गति" वाले कणों के लिए नियम बनाए जाते हैं जो शोर (noise) को फ़िल्टर करता है, जिससे यह सुनिश्चित होता है कि नियम तब भी काम करें जब पर्यवेक्षक कितनी भी तेजी से चल रहा हो।

सारांश

संक्षेप से, यह शोध पत्र एक शॉर्टकट है।

डेटा को घुमाने को समझने के लिए एक जटिल, वैश्विक पहेली को हल करने के बजाय, लेखक कहता है: "एक आसान स्थान के लिए इसे हल करें, फिर उत्तर को घुमा दें।"

यह AI बनाना संभव बनाता है जो 3D स्पेस, 4D स्पेस-टाइम और सापेक्षतावादी भौतिकी (relativistic physics) को बहुत अधिक कुशलता से समझता है, बिना इसे सेटअप करने के लिए ग्रुप थ्योरी (group theory) में पीएचडी किए। यह जटिल गणित के पहाड़ को एक सरल, पुन: प्रयोज्य टूलकिट में बदल देता है।

यहाँ एलन गारबार्ज़ (Alan Garbarz) के शोध पत्र "Bases of Steerable Kernels for Equivariant CNNs: From 2D Rotations to the Lorentz Group" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र स्टीयरेबल इक्विवेरिएंट कनवल्शनल न्यूरल नेटवर्क (Steerable Equivariant CNNs) के डिज़ाइन को संबोधित करता है। इन नेटवर्कों में, फीचर मैप्स एक विशिष्ट समरूपता समूह (symmetry group) $G$ (जैसे, रोटेशन या लोरेन्त्ज़ बूस्ट) के निरूपणों (representations) के अनुसार रूपांतरित होते हैं। एक कनवल्शनल लेयर के लिए इक्विवेरिएंट होने के लिए, इसके कर्नेल $K$ को एक विशिष्ट स्टीयरेबिलिटी बाधा (steerability constraint) को संतुष्ट करना चाहिए:
$K(g \cdot x) = \frac{1}{|\det g|} \rho_{\text{out}}(g) K(x) \rho_{\text{in}}(g)^{-1}$
जहाँ $\rho_{\text{in}}$ और $\rho_{\text{out}}$ इनपुट और आउटपुट फीचर मैप्स के निरूपण हैं।

चुनौती:
मनमानी समूहों और टेंसर प्रकारों के लिए इस बाधा के समाधानों का आधार (basis) खोजना गणितीय रूप से जटिल है। मौजूदा विधियाँ आमतौर पर निम्नलिखित पर निर्भर करती हैं:

टेंसर उत्पादों को अपरिवर्तनीय निरूपणों (irreducible representations) में डीकंपोज़ करना (coupled basis)।
अनकप्ल्ड (uncoupled) और कपल्ड (coupled) बेसिस के बीच रूपांतरण के लिए क्लीbsch-गोर्डन (Clebsch-Gordan - CG) गुणांकों की गणना करना।
होमोजेनियस स्पेस पर हार्मोनिक बेसिस फंक्शन का उपयोग करना।

ये दृष्टिकोण कम्प्यूटेशनल रूप से महंगे हैं (विशेष रूप से लोरेन्त्ज़ समूह जैसे नॉन-कॉम्पैक्ट समूहों के लिए) और प्रतिनिधित्व सिद्धांत (representation theory) के गहरे ज्ञान की आवश्यकता होती है, जो व्यावहारिक कार्यान्वयन के लिए एक बाधा उत्पन्न करते हैं।

2. कार्यप्रणाली (Methodology)

लेखक CG गुणांकों की पूर्व-गणना करने या कपल्ड बेसिस में बदलने के बिना, स्टीयरेबिलिटी बाधा को हल करने के लिए एक प्रत्यक्ष, ज्यामितीय रणनीति (direct, geometric strategy) प्रस्तावित करते हैं। मुख्य अंतर्दृष्टि यह है कि समस्या को एक एकल बिंदु $x_0$ पर इंटरविनर्स (intertwiners/homomorphisms) खोजने में बदलना और फिर उन्हें शेष ऑर्बिट (orbit) तक "स्टीयर" (steer) करना है।

एल्गोरिदम:

एक संदर्भ बिंदु (Reference Point) चुनें: समूह $G$ के एक विशिष्ट ऑर्बिट पर एक बिंदु $x_0$ चुनें।
स्टेबिलाइज़र (Stabilizer) की पहचान करें: स्टेबिलाइज़र सबग्रुप $H = \text{Stab}(x_0)$ निर्धारित करें, जो $x_0$ को अपरिवर्तित रखता है।
स्थानीय बाधा (Local Constraint) को हल करें: $V_{\text{in}} \to V_{\text{out}}$ $V_{in} \to V_{out}$ के रैखिक मानचित्रों (linear maps) के स्थान $K(x_0)$ $K (x_{0})$ को खोजें जो $H$ $H$ की क्रिया के साथ कम्यूट (commute) करते हैं।
- शर्त यह है: $K(x_0) = \rho_{\text{out}}(h) K(x_0) \rho_{\text{in}}(h)^{-1}$ सभी $h \in H$ के लिए।
- चूंकि $H$ अक्सर एक सरल समूह होता है (जैसे, $SO(3) $के भीतर$ SO(2) $),$ \rho|_H$ निरूपणों को इरैप्स (irreps) के डायरेक्ट सम (direct sums) में डीकंपोज़ किया जा सकता है।
- शूर के लेम्मा (Schur's Lemma) के अनुसार, समाधान स्थान ब्लॉक-डायगोनल मैट्रिसेस का समूह है जहाँ गैर-शून्य ब्लॉक्स केवल इनपुट और आउटपुट के आइसोमॉर्फिक (isomorphic) अपरिवर्तनीय उप-स्थानों के बीच ही मौजूद होते हैं।
ऑर्बिट तक स्टीयर करें (Steer to the Orbit): एक बार $x_0$ पर समाधानों का आधार मिल जाने के बाद, किसी भी मनमाने बिंदु $x = g \cdot x_0$ पर कर्नेल को समूह क्रिया लागू करके जनरेट किया जाता है:
$K(x) = \rho_{\text{out}}(g) K(x_0) \rho_{\text{in}}(g)^{-1}$
यह चरण स्पष्ट रूप से आवश्यक कार्यात्मक निर्भरता (जैसे, गोलाकार हार्मोनिक्स या लोरेन्त्ज़ बूस्ट कारक) को उत्पन्न करता है, बिना स्पष्ट CG गुणांक गणना के।

3. मुख्य योगदान (Key Contributions)

क्लीbsch-गोordan गुणांकों का उन्मूलन: यह विधि CG गुणांकों की गणना या भंडारण की आवश्यकता को समाप्त करती है, जो नॉन-कॉम्पैक्ट समूहों के लिए कठिन और बड़े आयामों के लिए कम्प्यूटेशनल रूप से भारी होते हैं।
एकीकृत ढांचा (Unified Framework): यह एक एकल, सुसंगत रणनीति प्रदान करता है जो कॉम्पैक्ट समूहों (SO(2), O(2), SO(3), O(3)) और नॉन-कॉम्पैक्ट समूहों (लोरेन्त्ज़ समूह $SO^+(1,3)$ ) दोनों पर लागू होती है।
स्पष्ट वास्तविक और जटिल आधार (Explicit Real and Complex Bases): यह शोध पत्र ऊपर सूचीबद्ध समूहों के लिए, मनमाने टेंसर प्रकारों (स्केलर, वेक्टर, टेंसर, स्पिनर) पर कार्य करने वाले कर्नेल के लिए तैयार-उपयोग (ready-to-use) बेसिस प्रदान करता है।
ज्यामितीय व्याख्या: यह स्टीयरेबिलिटी को एक प्रोजेक्शन समस्या के रूप में पुनर्गठित करता है। पूर्णांक स्पिन (integer spins) के लिए, $x_0$ पर इंटरविनर्स अपरिवर्तनीय उप-स्थानों पर प्रोजेक्टर (projectors) के रूप में कार्य करते हैं (उदाहरण के लिए, एक 4-वेक्टर को उसके टाइम-लाइक या स्पेस-लाइक घटकों पर प्रोजेक्ट करना)।

4. मुख्य परिणाम और उदाहरण (Key Results and Examples)

यह शोध पत्र कई समूहों के लिए बेसिस के व्युत्पन्न (derivation) का विवरण देता है:

SO(2) और O(2):
- 2D रोटेशन के लिए, स्टेबिलाइज़र ट्रिवियल (identity) है, जिससे स्थानीय बाधा ट्रिवियल हो जाती है। स्टीयरिंग ऑपरेशन स्वाभाविक रूप से त्रिकोणमितीय फलनों ( $\cos, \sin$ ) को उत्पन्न करता है जो रोटेशन कोणों के अनुरूप होते हैं।
- O(2) (रिफ्लेक्शन सहित) के लिए, स्टेबिलाइज़र में एक रिफ्लेक्शन मैट्रिक्स शामिल है, जो कर्नेल घटकों पर पैरिटी (parity) बाधाएं लगाता है, जिससे समाधान स्थान कम हो जाता है।
SO(3) और O(3):
- एक गोले (sphere) पर बिंदु का स्टेबिलाइज़र $SO(2) $है। विधि 3D निरूपणों को$ SO(2) $इरैप्स (चुंबकीय क्वांटम संख्या$ m$ द्वारा लेबल किए गए) में डीकंपोज़ करती है।
- समाधान स्थान $m$ मानों को इनपुट और आउटपुट में मिलाने (matching) द्वारा निर्धारित होता है। परिणामी कर्नेल सीधे विग्नर D-मैट्रिक्स (या रियल स्फेरिकल हार्मोनिक्स) के रूप में व्यक्त किए जाते हैं, जो स्पष्ट 3j/6j सिम्बल्स के उपयोग से बचते हैं।
लोरेन्त्ज़ समूह $SO^+(1,3)$ :
- मैसिव पार्टिकल्स (Timelike orbits): स्टेबिलाइज़र $SO(3) $है। विधि लोरेन्त्ज़ निरूपणों$ $है।विधिलोरेन्त्ज़निरूपणों$ (j_L, j_R) $को$ $को$ SO(3) $स्पिन में डीकंपोज़ करती है। कर्नेल को$ $स्पिनमेंडीकंपोज़करतीहै।कर्नेलको$ SO(3) $प्रोजेक्टर्स (जैसे, 4-वेलोसिटी$ $प्रोजेक्टर्स (जैसे, 4 - वेलोसिटी$ u^\mu$ के लंबवत उप-स्थान पर प्रोजेक्ट करना) को स्टीयर करके बनाया जाता है।
  - परिणाम: 4-वेक्टर, रैंक-2 टेंसर और स्पिनर्स पर कार्य करने वाले कर्नेल के लिए स्पष्ट सूत्र, जिन्हें प्रोजेक्शन टेंसर $\Delta^{\mu}_{\nu} = \delta^{\mu}_{\nu} - u^\mu u_\nu$ का उपयोग करके व्यक्त किया गया है।
- मासलेस पार्टिकल्स (Lightlike orbits): यह शोध पत्र इसे केवल $SO(2)$ सबग्रुप पर विचार करके सरल बनाता है (गैर-सेमी-सिंपल ट्रांसलेशन भाग को अनदेखा करता है, जो मानक कणों के लिए भौतिक रूप से अप्रासंगिक है)।
  - परिणाम: कर्नेल को ट्रांसवर्स प्रोजेक्टर $\Delta^{\mu\nu} = \eta^{\mu\nu} - n^\mu \bar{n}^\nu - n^\nu \bar{n}^\mu$ का उपयोग करके बनाया जाता है, जहाँ $n$ नल दिशा (null direction) है।

5. महत्व और प्रभाव (Significance and Impact)

कम्प्यूटेशनल दक्षता: कपल्ड बेसिस रूपांतरण से बचकर, यह विधि इक्विवेरिएंट लेयर्स को जनरेट करने से जुड़े कम्प्यूटेशनल ओवरहेड को कम करती है, विशेष रूप से उच्च-रैंक टेंसर और नॉन-कॉम्पैक्ट समूहों के लिए।
सुलभता: यह दृष्टिकोण उन्नत प्रतिनिधित्व सिद्धांत के बजाय बुनियादी रैखिक बीजगणित (Schur's Lemma) और समूह क्रियाओं पर निर्भर करता है, जिससे यह मशीन लर्निंग अभ्यासकर्ताओं के व्यापक दर्शकों के लिए सुलभ हो जाता है।
लचीलापन: यह विधि इनपुट और आउटपुट फीचर मैप इरैप्स पर स्वतंत्र कटऑफ की अनुमति देता है, जो फिक्स्ड कपल्ड-बेसिस दृष्टिकोणों की तुलना में अधिक अभिव्यंजक और लचीले नेटवर्क आर्किटेक्चर की ओर ले जा सकता है।
सापेक्षतावादी भौतिकी अनुप्रयोग (Relativistic Physics Applications): लोरेन्त्ज़-स्टीयरेबल कर्नेल का स्पष्ट निर्माण उन सापेक्षतावादी प्रणालियों (जैसे, कण भौतिकी सिमुलेशन, कॉस्मोलॉजिकल डेटा विश्लेषण) के लिए CNN के डिज़ाइन को सक्षम बनाता है जहाँ मानक यूक्लिडियन इक्विवेरिएंट CNN विफल हो जाते हैं।

निष्कर्षतः, गारबार्ज़ एक मजबूत, सामान्यीकरण योग्य और कम्प्यूटेशनल रूप से कुशल ढांचा प्रस्तुत करते हैं जो स्टीयरेबल कर्नेल के निर्माण के लिए, यूक्लिडियन और सापेक्षतावादी समरूपताओं दोनों के बीच के अंतर को पाटता है।