🤖 machine learning

Bayesian 3D Steerable CNNs: Enabling Equivariance and Uncertainty Quantification Simultaneously

यह शोध पत्र एक बेयसियन स्टीयरेबल-सीएनएन (Bayesian Steerable-CNN) ढांचे को प्रस्तुत करता है जो सटीक SE(3)-इक्विवैरिएंस (SE(3)-equivariance) को संरक्षित करते हुए वेरिएशनल इन्फरेंस (variational inference) के माध्यम से एक साथ अनिश्चितता परिमाणीकरण (uncertainty quantification) को सक्षम बनाता है, जिससे वितरण संबंधी बदलावों (distributional shifts) के प्रति बेहतर सुदृढ़ता और अनिश्चितता-निर्देशित भविष्यवाणियों के माध्यम से उन्नत प्रदर्शन प्राप्त होता है।

मूल लेखक: Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

प्रकाशित 2026-06-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को 3D वस्तुओं, जैसे कि कुर्सियाँ, बिस्तर या शौचालय, को केवल देखकर पहचानने के लिए सिखाने की कोशिश कर रहे हैं। पेचीदा बात यह है कि ये वस्तुएं किसी भी दिशा में घूम सकती हैं। एक साधारण रोबोट भ्रमित हो सकता है यदि कोई कुर्सी बगल की ओर मुड़ी हुई हो, और उसे एक पूरी तरह से अलग वस्तु समझ सकता है।

इस समस्या को हल करने के लिए, वैज्ञानिक Steerable CNNs का उपयोग करते हैं। इन्हें "स्मार्ट लेंस" के एक विशेष सेट के रूप में सोचें जो रोटेशन (घूर्णन) को समझते हैं। वस्तु चाहे किसी भी दिशा में घूमी हो, रोबोट उसे एक ही चीज़ के रूप में पहचानता है। यह एक ऐसे मानचित्र की तरह है जो आपके साथ अपने आप घूम जाता है ताकि आप कभी रास्ता न भटकें।

हालाँकि, इन स्मार्ट लेंसों के साथ एक पेंच है: वे डिटरमिनिस्टिक (deterministic) हैं। इसका मतलब है कि वे एक कठोर रोबोट की तरह हैं जो आपको 100% आत्मविश्वास के साथ एक ही उत्तर देता है, भले ही वह गलत क्यों न हो। उनके पास यह समझने का कोई विचार नहीं है कि "मुझे यकीन नहीं है।" वास्तविक दुनिया में, विशेष रूप से शोर वाले या अव्यवस्थित डेटा के साथ, यह जानना कि "आप कितने आश्वस्त हैं" उतना ही महत्वपूर्ण है जितना कि सही उत्तर प्राप्त करना।

मुख्य विचार: "आत्मविश्वासी लेकिन विनम्र" रोबोट

लेखकों ने इन स्मार्ट लेंसों का एक नया संस्करण बनाया जिसे Bayesian 3D Steerable CNNs कहा जाता है। उन्होंने रोबोट को एक साथ दो महाशक्तियाँ प्रदान कीं:

रोटेशन जागरूकता: यह अभी भी समझता है कि एक घूमी हुई कुर्सी अभी भी एक कुर्सी ही है।
अनिश्चितता जागरूकता: अब यह कह सकता है, "मुझे काफी यकीन है कि यह एक कुर्सी है," या "मैं वास्तव में भ्रमित हूँ, यह एक कुर्सी या एक अजीब मेज हो सकती है।"

उन्होंने यह कैसे किया? (रसोई का उदाहरण)

उनके तरीके को समझने के लिए, केक (वह "कर्नेल" जो वस्तु को पहचानता है) के लिए एक रेसिपी की कल्पना करें।

पुराना तरीका (Deterministic): रेसिपी पत्थर पर लिखी गई है। "ठीक 2 कप मैदा डालें।" यदि आप इसका पालन करते हैं, तो आपको हर बार एक ही केक मिलेगा।
समस्या: यदि सामग्री खराब है (शोर वाला डेटा), तो केक विफल हो सकता है, लेकिन रेसिपी को इसका पता नहीं चलेगा।
नया तरीका (Bayesian): "2 कप" लिखने के बजाय, रेसिपी कहती है, "संभावना के आधार पर 1.8 और 2.2 कप के बीच मैदा डालें।"
- लेखकों ने रेसिपी के ढांचे (steerable basis) को कठोर रखा ताकि यह रोटेशन को समझ सके।
- लेकिन उन्होंने मात्राओं (coefficients) को लचीला और यादृच्छिक (random) बना दिया।
- हर बार जब रोबोट किसी वस्तु को देखता है, तो वह रेसिपी के थोड़े अलग संस्करण का नमूना लेता है। कभी-कभी यह थोड़ा अधिक मैदा डालता है, कभी-कभी थोड़ा कम।

ऐसा करके, रोबोट केवल एक उत्तर नहीं देता; यह आपको उत्तरों का एक विस्तार देता है। यदि सभी अलग-अलग रेसिपी संस्करण सहमत होते हैं, तो रोबोट आत्मविश्वासी (confident) होता है। यदि वे सभी अलग-अलग परिणाम देते हैं, तो रोबोट जानता है कि वह अनिश्चित (uncertain) है।

उन्हें क्या मिला?

शोधकर्ताओं ने इस नए रोबोट का परीक्षण ModelNet10 नामक 3D मॉडल के एक डेटासेट पर किया (जिसमें बाथटब, डेस्क और सोफे जैसी चीजें शामिल हैं)। यहाँ क्या हुआ:

अनुमान लगाने में यह उतना ही अच्छा है: नया "अनिश्चित" रोबिम पुराने "कठोर" रोबोट की तरह ही वस्तुओं की पहचान करने में कुशल था।
यह शोर (Noise) को संभालने में बेहतर है: जब उन्होंने छवियों में "स्टैटिक" या "शोर" जोड़ा (जैसे कि तस्वीर को दानेदार बनाना), तो कठोर रोबोट तेजी से विफल होने लगा। हालाँकि, नया रोबोट बहुत अधिक मजबूत था। इसने अपनी सटीकता बनाए रखी, भले ही शोर बहुत अधिक था, और पुराने रोबोट से लगभग 6% बेहतर प्रदर्शन किया। यह ऐसा है जैसे लचीली रेसिपी वाला रोबोट खराब सामग्री के साथ भी एक अच्छा केक बना सकता था, जबकि कठोर वाला इसे जला देता।
यह जानता है कि यह कब गलत है: सबसे रोमांचक बात यह है कि रोबोट का "अनिश्चितता स्कोर" वास्तव में सार्थक था। जब रोबोट ने कहा, "मैं सुनिश्चित नहीं हूँ," तो वह अनिश्चित होने के बारे में आमतौर पर सही था। जब उसने कहा, "मैं 100% निश्चित हूँ," तो वह आमतौर पर सही था।
- उन्होंने पाया: रोबोट जितना अधिक अनिश्चित था, उसके गलती करने की संभावना उतनी ही अधिक थी। यह साबित करता है कि रोबोट केवल रैंडम अनुमान नहीं लगा रहा है; वह वास्तव में अपनी सीमाओं को समझता है।
कैलिब्रेशन (Calibration): रोबोट का आत्मविश्वास वास्तविकता से पूरी तरह मेल खाता था। यदि उसने कहा कि वह 90% आश्वस्त है, तो वह 90% बार सही था।

एक समझौता (Trade-off)

इसमें एक छोटी सी लागत है। क्योंकि रोबोट को केवल एक निश्चित रेसिपी के बजाय इन सभी अलग-अलग "रेसिपी विविधताओं" (संभावनाओं) को ट्रैक करना पड़ता है, इसलिए यह दोगुनी मेमोरी का उपयोग करता है और सोचने में थोड़ा अधिक समय लेता है। यह एक साधारण इंडेक्स कार्ड के बजाय पूरे रेसिपी बुक को साथ ले जाने जैसा है।

सारांश

यह पेपर 3D ऑब्जेक्ट रिकग्निशन सिस्टम बनाने का एक तरीका पेश करता है जो दोनों रूप से सक्षम हैं: रोटेशन-प्रूफ (वे वस्तु के घूमने पर भी काम करते हैं) और विनम्र (वे जानते हैं कि वे कब अनिश्चित हैं)। सिस्टम के आंतरिक गणित को एक निश्चित संख्या के बजाय संभावनाओं की एक सीमा के रूप में मानकर, उन्होंने एक ऐसा मॉडल बनाया जो अव्यवस्थित डेटा के प्रति अधिक मजबूत है और विश्वसनीय आत्मविश्वास स्कोर प्रदान करता है, और यह सब उन नियमों को तोड़े बिना जो इन प्रणालियों को कार्यशील बनाते हैं।

तकनीकी सारांश: बेयसियन 3D स्टीयरेबल CNNs (Bayesian 3D Steerable CNNs)

समस्या विवरण (Problem Statement)
स्टीयरेबल कनवल्शनल न्यूरल नेटवर्क (Steerable-CNNs) ने 3D डेटा प्रोसेसिंग के लिए एक शक्तिशाली प्रतिमान (paradigm) स्थापित किया है, जो स्टीयरेबल बेसिस फंक्शन्स के रैखिक संयोजन (linear combinations) के रूप में कनवल्शनल कर्नेल को पैरामीटराइज़ करके SE(3)-इक्विवैरियंस (equivariance) की गारंटी देते हैं। यह आर्किटेक्चरल बाधा यह सुनिश्चित करती है कि इनपुट को बदलने (जैसे, 3D रोटेशन के माध्यम से) पर, एक अनुरूप परिवर्तित आउटपुट प्राप्त होता है, जिससे हाइपोथीसिस स्पेस काफी कम हो जाता है और शेप रिकग्निशन एवं मॉलिक्यूलर प्रॉपर्टी प्रेडिक्शन जैसे डोमेन में सामान्यीकरण (generalization) में सुधार होता है। हालांकि, मौजूदा Steerable-CNNs पूरी तरह से नियत (deterministic) हैं। वे संबद्ध कॉन्फिडेंस मेजर के बिना एकल पॉइंट एस्टीमेट उत्पन्न करते हैं, जो उन्हें सुरक्षा-महत्वपूर्ण अनुप्रयोगों (जैसे, मेडिकल इमेजिंग, ऑटोनॉमस सिस्टम) के लिए अनुपयुक्त बनाता है जहाँ अनिश्चितता परिमाणीकरण (uncertainty quantification - UQ) आवश्यक है।

बेयसियन Steerable-CNNs विकसित करने में एक प्राथमिक चुनौती यह है कि नेटवर्क वेट्स में सहज रूप से स्टोकेस्टिसिटी (stochasticity) पेश करने से आमतौर पर इक्विवैरियंस गुण टूट जाता है। यदि कनवल्शनल कर्नेल को यादृच्छिक रूप से सैंपल किया जाता है, तो वे सामान्यतः "इंटरट्विनर" (intertwiner) या स्टीयरेबिलिटी बाधा का उल्लंघन करते हैं, जिसका अर्थ है कि उनके परिणामी स्टोकेस्टिक वास्तविक रूप (realizations) इक्विवैरिएंट नहीं होंगे, भले ही उनका माध्य (mean) इक्वीवैरिएंट हो।

कार्यप्रणाली (Methodology)
लेखक एक बेयसियन स्टीयरेबल-CNN फ्रेमवर्क प्रस्तावित करते हैं जो इस संघर्ष को हल करता है: यह कर्नेल मैट्रिसेस के बजाय स्टीयरेबल बेसिस फंक्शन्स के स्केलर गुणांकों (scalar coefficients) पर पोस्टीरियर डिस्ट्रीब्यूशन रखता है।

स्टोकेस्टिक इक्वीवैरिएंट कर्नेल्स (Stochastic Equivariant Kernels): कनवल्शनल कर्नेल $K(x)$ को पूर्व-निर्धारित स्टीयरेबल बेसिस फंक्शन्स $\{\kappa_b(x)\}$ (जो SO(3) के लिए विगनर डी-मैट्रिसेस से प्राप्त होते हैं) के एक रैखिक संयोजन के रूप में परिभाषित किया गया है:
$K(x; w) = \sum_{b=1}^{B} w_b \kappa_b(x)$
यहाँ बेसिस फंक्शन्स $\kappa_b$ निश्चित हैं और निर्माण द्वारा स्टीयरेबिलिटी बाधा को संतुष्ट करते हैं। गुणांक $w = (w_1, \dots, w_B)$ को रैंडम वेरिएबल्स के रूप में माना जाता है।
इक्विवैरियंस का संरक्षण (Preservation of Equivariance): पेपर यह सिद्ध करता है (प्रपोजिशन 1) कि यदि बेसिस फंक्शन्स स्टीयरेबिलिटी बाधा को संतुष्ट करते हैं, तो उनका कोई भी रैखिक संयोजन—चाहे गुणांक नियत हों या किसी संभाव्यता वितरण से सैंपल किए गए हों—इक्वीवैरिएंट रहता है। यह इक्विवैरियंस को लागू करने के लिए बिना किसी आर्किटेक्चरल संशोधन के स्टोकेस्टिक कर्नेल्स की अनुमति देता है।
वेरिएशनल इन्फरेंस (Variational Inference): मॉडल बेज-बाय-बैकप्रोपैगेशन (Bayes-by-Backpropagation) दृष्टिकोण का उपयोग करता है। गुणांकों के लिए एक मीन-फील्ड गौसियन वेरिएशनल पोस्टीरियर $q(w|\theta)$ माना जाता है, जिसे एक माध्य $\mu$ और एक लॉग-वेरिएंस $\rho$ द्वारा पैरामीटराइज़ किया गया है। मॉडल को ELBO (एविडेंस लोअर बाउंड) को मैक्सिमाइज करके प्रशिक्षित किया जाता है, जिसमें एक क्रॉस-एन्ट्रॉपी लॉस टर्म और एक गौसियन प्रायर के विरुद्ध पोस्टीरियर को रेगुलराइज करने वाला कुलबैक-लीब्लर (KL) डाइवर्जेंस टर्म शामिल है।
अनिश्चितता का विखंडन (Uncertainty Decomposition): इन्फरेंस के समय, मॉडल $N$ $N$ स्टोकेस्टिक फॉरवर्ड पास निष्पादित करता है। कुल प्रेडिक्टिव अनिश्चितता को निम्नानुसार विभाजित किया जाता है:
- एलियटोरिक अनिश्चितता (Aleatoric Uncertainty): डेटा में अंतर्निहित शोर (जिसे व्यक्तिगत भविष्यवाणियों के औसत एंट्रॉपी द्वारा कैप्चर किया जाता है)।
- एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty): सीमित डेटा के कारण मॉडल की अनिश्चितता (जिसे $N$ सैंपल्स के बीच भविष्यवाणियों के वेरिएंस द्वारा कैप्चर किया जाता है)।

प्रमुख योगदान (Key Contributions)

नवीन बेयसियन सूत्रीकरण (Novel Bayesian Formulation): स्टीयरेबल कनवल्शंस के साथ स्टोकेस्टिक इन्फरेंस का पहला एकीकरण, जो कर्नेल बेसिस कोएफिशिएंट्स का पोस्टीरियर प्राप्त करता है और सटीक SE(3)-इक्विवैरियंस बनाए रखता है।
सैद्धांतिक प्रमाण (Theoretical Proof): एक औपचारिक प्रमाण जो दर्शाता है कि कोएफिशिएंट स्पेस में स्टोकेस्टिसिटी इंटरट्विनर बाधा का उल्लंघन नहीं करती है, जिससे यह सुनिश्चित होता है कि प्रत्येक सैंपल किया गया कर्नेल इक्वीवैरिएंट रहता है।
विभाजित अनिश्चितता (Decomposable Uncertainty): एक फ्रेमवर्क जो 3D इक्वीवैरिएंट मॉडल्स के लिए कैलिब्रेटेड, विभाज्य अनिश्चितता अनुमान (एपिस्टेमिक बनाम एलियटोरिक) प्रदान करता है।

प्रायोगिक परिणाम (Experimental Results)
मॉडल का मूल्यांकन escnn लाइब्रेरी पर आधारित एक आर्किटेक्चर का उपयोग करके ModelNet10 डेटासेट (3D CAD मॉडल्स) पर किया गया।

वर्गीकरण प्रदर्शन (Classification Performance): बेयसियन मॉडल ने 86.34% का टेस्ट एक्यूरेसी प्राप्त किया, जो नियत (deterministic) समकक्षों के प्रतिस्पर्धी है।
कैलिब्रेशन (Calibration): मॉडल ने 0.0263 के एक्सपेक्टेड कैलिब्रेशन एरर (ECE) के साथ उत्कृष्ट कैलिब्रेशन प्रदर्शित किया, जो इंगित करता है कि अनुमानित कॉन्फिडेंस स्कोर अनुभवजन्य सटीकता (empirical accuracy) के करीब हैं।
डिस्ट्रीब्यूशन शिफ्ट के प्रति मजबूती (Robustness to Distribution Shift): एडिटिव गौसियन नॉइज़ के तहत, बेयसियन मॉडल ने नियत बेसलाइन की तुलना में बेहतर मजबूती दिखाई। उच्च शोर स्तर ( $\epsilon_{noise} = 0.9$ ) पर, बेयरेयन मॉडल ने 81.83% एक्यूरेसी बनाए रखी, जो नियत मॉडल (75.66%) की तुलना में 6.17% अधिक है।
अनिश्चितता उपयोगिता (Uncertainty Utility):
- चयनात्मक भविष्यवाणी (Selective Prediction): उच्च अनिश्चितता वाले सैंपल्स को फ़िल्टर करके, मॉडल ने टेस्ट डेटासेट के 84% हिस्से पर (उन सैंपल्स पर जिनकी अनिश्चितता एक विशिष्ट थ्रेशोल्ड से नीचे है) ~4% का एक्यूरेसी गेन प्राप्त किया।
- सिमेंटिक अर्थ (Semantic Meaning): एपिस्टेमिक अनिश्चितता और प्रेडिक्शन एरर के बीच एक सांख्यिकीय रूप से महत्वपूर्ण नकारात्मक स्पीयरमैन रैंक कोरिलेशन (-0.3989) पाया गया, जो पुष्टि करता है कि उच्च अनिश्चितता विश्वसनीय रूप से उच्च वर्गीकरण त्रुटि की भविष्यवाणी करती है।
- अनिश्चितता अभिसरण (Uncertainty Convergence): प्रशिक्षण के दौरान, कुल अनिश्चितता लगातार कम हुई, जबकि एपिस्टेमिक अनिश्चितता लगातार कम रही, जो सुझाव देती है कि मॉडल अपने सीखे गए वेट डिस्ट्रीब्यूशन में आश्वस्त हो गया।

महत्व और दावे (Significance and Claims)
यह पेपर दावा करता है कि यह इक्वीवैरेंट CNNs के इंडक्टिव बायस (inductive bias) के साथ बेयसियन अनिश्चितता परिमाणीकरण को एकीकृत करता है। लेखक इस बात पर जोर देते हैं कि यह एकल डिस्क्रिमिनेटिव मॉडल में स्टोकेस्टिक इन्फरेंस और स्टीयरेबल कनवल्शंस को सफलतापूर्वक एकीकृत करने वाला पहला कार्य है। इसका महत्व 3D डोमेन में जोखिम-जागरूक निर्णय लेने (risk-aware decision-making) को सक्षम करने में निहित है: मॉडल न केवल ज्यामितीय समरूपता (geometric symmetries) का सम्मान करता है बल्कि सिद्धांतित, विभाज्य कॉन्फिडेंस अनुमान भी प्रदान करता है। यह चिकित्सकों को डेटा में अंतर्निहित अस्पष्टता (एलियटोरिक) और मॉडल के ज्ञान की कमी (एपिस्टेमिक) के बीच अंतर करने में सक्षम बनाता है, जिससे लक्षित मॉडल शोधन और सुरक्षा-संवेदनशील अनुप्रयोगों में सुरक्षित तैनाती सुलभ होती है। यह फ्रेमवर्क उन लाभों को प्राप्त करता है जो SE(3)-इक्विवैरियंस गारंटी से समझौता किए बिना मिलते हैं जो 3D डेटा के लिए Steerable-CNNs को प्रभावी बनाते हैं।