💻 computer science

Equivariant Splitting: Self-supervised learning from incomplete data

यह शोध पत्र एक नवीन स्व-पर्यवेक्षित शिक्षण रणनीति प्रस्तुत करता है जो इक्विवैरिएंस (equivariance) की एक नई परिभाषा को स्प्लिटिंग लॉस (splitting losses) के साथ जोड़ती है ताकि उन इन्वर्स समस्याओं में निष्पक्ष, अत्याधुनिक पुनर्निर्माण को सक्षम बनाया जा सके जहाँ ग्राउंड-ट्रुथ डेटा उपलब्ध नहीं है।

मूल लेखक: Victor Sechaud, Jérémy Scanvic, Quentin Barthélemy, Patrice Abry, Julián Tachella

प्रकाशित 2026-03-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Victor Sechaud, Jérémy Scanvic, Quentin Barthélemy, Patrice Abry, Julián Tachella

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत बड़े जिग्सॉ पज़ल (jigsaw puzzle) को हल करने की कोशिश कर रहे हैं, लेकिन आपको एक ऐसा डिब्बा दिया गया है जिसके आधे हिस्से गायब हैं, और जो हिस्से आपके पास हैं वे 'स्टैटिक नॉइज़' (static noise) से ढके हुए हैं। यह मेडिकल इमेजिंग (MRI, CT स्कैन) या खगोल विज्ञान जैसे क्षेत्रों में इनवर्स प्रॉब्लम्स (inverse problems) पर काम करने वाले वैज्ञानिकों के लिए रोज़मर्रा का संघर्ष है। उनके पास वास्तविकता की एक धुंधली, अधूरी तस्वीर होती है और उन्हें उस स्पष्ट, मूल छवि को फिर से बनाना होता है।

आमतौर पर, कंप्यूटर को इस पज़ल को ठीक करना सिखाने के लिए, आपको एक "शिक्षक" (ग्राउंड ट्रुथ डेटा) की आवश्यकता होती है—एक आदर्श, स्पष्ट छवि जिसे आप कंप्यूटर को दिखा सकें कि उत्तर कैसा दिखना चाहिए। लेकिन कई वास्तविक दुनिया के परिदृश्यों में (जैसे दूर के सितारों को देखना या किसी मरीज के मस्तिष्क को स्कैन करना), ऐसी एक आदर्श "शिक्षक" छवि प्राप्त करना असंभव या बहुत महंगा है।

यह पेपर एक चतुर नई तकनीक पेश करता है जिसे इक्विवैरिएंट स्प्लिटिंग (Equivariant Splitting - ES) कहा जाता है। यह एक ऐसा तरीका है जिससे कंप्यूटर केवल टूटे हुए, शोर वाले टुकड़ों का उपयोग करके इन पज़लों को हल करना सीख सकता है, बिना कभी समाधान देखे।

यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ समझाया गया है:

1. समस्या: "एक हाथ वाला" पज़ल

अधिकांश मौजूदा तरीके कई अलग-अलग पज़लों को एक साथ देखकर सीखने की कोशिश करते हैं। यदि आपके पास एक ऐसा पज़ल है जहाँ हर छवि के लिए गायब हिस्से अलग-अलग जगहों पर होते हैं, तो कंप्यूटर तुलना करके अनुमान लगा सकता है कि क्या गायब है।

लेकिन क्या होगा यदि आपके पास केवल एक ही प्रकार का पज़ल हो? कल्पना कीजिए कि एक स्कैनर है जो हमेशा छवि का एक ही 50% हिस्सा मिस कर देता है। कंप्यूटर फंस जाता है क्योंकि वह कभी भी गायब हिस्सों को नहीं देख पाता ताकि वह यह सीख सके कि वे कैसे दिखते हैं। यह "सिंगल इनकम्प्लीट ऑब्जर्वेशन" (single incomplete observation) की समस्या है।

2. पुराने तरीके (और वे धीमे क्यों थे)

"कॉपीकैट" विधि (Splitting): यह उपलब्ध डेटा को आधा काटने की कोशिश करता है, जिसमें एक आधे हिस्से का उपयोग "प्रश्न" के रूप में और दूसरे का उपयोग "उत्तर" के रूप में किया जाता है। यह तब बहुत अच्छा काम करता है जब आपके पास कई अलग-अलग प्रकार के स्कैनर हों, लेकिन यदि आपके पास केवल एक ही प्रकार का स्कैनर है, तो यह विफल हो जाता है।
"मिरर" विधि (Equivariant Imaging): यह मान लेता है कि दुनिया सममित (symmetrical) है। यदि आप एक बिल्ली की तस्वीर को घुमाते हैं, तो वह अभी भी एक बिल्ली ही रहती है। इसलिए, यदि कंप्यूटर एक धुंधली बिल्ली देखता है, तो वह छवि को घुमाने, उसे ठीक करने और फिर वापस घुमाने की कोशिश कर सकता है ताकि यह देख सके कि परिणाम सही है या नहीं।
- नुकसान: यह एक छात्र को गणित का सवाल हल करने के लिए कहने जैसा है, फिर कागज को घुमाने के बाद फिर से वही सवाल हल करने के लिए कहना, और फिर से काम की जाँच करने के लिए उसे पलटने के लिए कहना। यह बहुत सटीक है लेकिन बहुत धीमा है क्योंकि कंप्यूटर हर एक स्टेप के लिए 2 या 3 बार वही काम करता है।

3. नया तरीका: इक्विवैरिएंट स्प्लिटिंग (ES)

लेखकों ने इन दोनों बेहतरीन तरीकों को मिलाकर एक ऐसा तरीका बनाया है जो तेज़ और स्मार्ट है।

"मैजिक मिरर" आर्किटेक्चर

कंप्यूटर को इमेज घुमाने और सब कुछ फिर से कैलकुलेट करने के लिए मजबूर करने के बजाय (धीमा तरीका), उन्होंने कंप्यूटर के दिमाग (न्यूरल नेटवर्क) को इस तरह बनाया है कि वह प्राकृतिक रूप से समरूपता (symmetry) को समझता है।

उपमा: कल्पना कीजिए कि एक शेफ जानता है कि यदि आप पिज्जा को 90 डिग्री घुमाते हैं, तो टॉपिंग्स बस अलग जगहों पर होती हैं, लेकिन पिज्जा अभी भी वही रहता है। एक सामान्य शेफ को चेक करने के लिए पिज्जा को भौतिक रूप से घुमाना पड़ता है। हमारा "इक्विवैरिएंट शेफ" पिज्जा के नियमों को इतनी अच्छी तरह जानता है कि वह एक भी स्लाइस हिलाए बिना तुरंत रोटेशन की कल्पना कर सकता है।
इस तरह से नेटवर्क के बने होने के कारण, इसे अतिरिक्त काम के रूप में इमेज को घुमाने और फिर से हल करने की आवश्यकता नहीं होती है। इसे "सिमेट्री" मुफ्त में मिल जाती है।

"स्प्लिट एंड शफल" रणनीति

अब, असली जादू वाला हिस्सा यहाँ है। क्योंकि नेटवर्क समरूपता को समझता है, कंप्यूटर अपने दिमाग में स्कैनर के दृष्टिकोण को गणितीय रूप से "घुमाकर" यह दिखा सकता है कि एक ही अधूरी छवि को अलग-अलग स्कैनरों द्वारा लिया गया था।

यह एक एकल, अधूरी छवि लेता है।
यह डेटा को दो भागों में "विभाजित" (split) करता है (कॉपीकैट विधि की तरह)।
यह समरूपता के नियमों का उपयोग करके यह दिखाने का नाटक करता है कि एक हिस्सा इनपुट है और दूसरा लक्ष्य (target) है, जिससे यह केवल एक ही छवि से लाखों अलग-अलग "परिदृश्य" (scenarios) बना देता है।

4. यह बड़ी बात क्यों है

शिक्षक की आवश्यकता नहीं: यह बिना किसी पूर्ण संदर्भ छवि के, केवल टूटे हुए डेटा से सीखता है।
गति: क्योंकि नेटवर्क स्वाभाविक रूप से सिमेट्री को संभालने के लिए बनाया गया है, इसे पुराने "मिरर" तरीके की तरह दोहराव वाले धीमे कैलकुलेशन करने की आवश्यकता नहीं है। यह एक रेसिपी को मैन्युअल रूप से कैलकुलेट करने के बजाय एक स्मार्ट ओवन का उपयोग करने जैसा है जो इसे स्वचालित रूप से करता है।
सटीकता: लेखकों ने गणितीय रूप से सिद्ध किया है कि यह विधि गायब हिस्सों के लिए "सर्वश्रेष्ठ संभव अनुमान" (Minimum Mean Squared Error) पाती है, बशर्ते नेटवर्क पर्याप्त स्मार्ट हो।

वास्तविक दुनिया का प्रभाव

टीम ने इसका परीक्षण किया:

MRI स्कैन: तेज़, धुंधले स्कैन से स्पष्ट मस्तिष्क छवियों को फिर से बनाना।
CT स्कैन: बहुत कम एक्स-रे एंगल से स्पष्ट 3D दृश्य बनाना (विकिरण जोखिम को कम करना)।
इमेज इनपेंटिंग (Image Inpainting): फोटो के गायब हिस्सों को भरना (जैसे छुट्टियों की फोटो से किसी पर्यटक को हटाना)।

हर परीक्षण में, उनकी नई विधि ने "सुपरवाइज्ड" विधियों (जो पूर्ण शिक्षक डेटा का उपयोग करती हैं) के लगभग बराबर प्रदर्शन किया और पिछले "सेल्फ-सुपरवाइज्ड" तरीकों की तुलना में काफी बेहतर प्रदर्शन किया।

निष्कर्ष

यह पेपर एक छात्र को एक टूटा हुआ जिग्सॉ पज़ल देने और उन्हें एक विशेष नियम सिखाने जैसा है: "यदि आप जानते हैं कि टुकड़े एक दिशा में कैसे फिट होते हैं, तो आप स्वतः ही जानते हैं कि वे अन्य सभी दिशाओं में कैसे फिट होते हैं।" इस नियम को सीधे छात्र के दिमाग में शामिल करके, वे पज़ल को बहुत तेज़ी से और सटीकता से हल कर सकते हैं, भले ही उन्होंने कभी बॉक्स पर बनी तस्वीर न देखी हो।

यहाँ शोध पत्र "Equivariant Splitting: Self-Supervised Learning from Incomplete Data" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र इमेजिंग में इनवर्स प्रॉब्लम्स (inverse problems) को संबोधित करता है, जिसे $y = Ax + \epsilon$ के रूप में निरूपित किया गया है, जहाँ $x$ वास्तविक छवि (ground truth image) है, $y$ प्रेक्षित माप (observed measurement) है, $A$ एक ज्ञात फॉरवर्ड ऑपरेटर (अक्सर रैंक-डेफिसिएंट) है, और $\epsilon$ शोर (noise) है।

चुनौती: कई अनुप्रयोगों में (जैसे मेडिकल MRI, CT, खगोल विज्ञान), सुपरवाइज्ड ट्रेनिंग के लिए वास्तविक छवियों ( $x$ ) को प्राप्त करना महंगा या असंभव है।
विशिष्ट सेटिंग: लेखक सबसे चुनौतीपूर्ण परिदृश्य पर ध्यान केंद्रित करते हैं: सिंगल इनकम्प्लीट फॉरवर्ड ऑपरेटर्स। विविध मास्क वाले परिदृश्यों (जहाँ "स्प्लिटिंग" विधियाँ काम करती हैं) या डिनोइज़िंग (जहाँ $A=I$ ) के विपरीत, यहाँ ऑपरेटर $A$ स्थिर और अधूरा है, जिसका अर्थ है कि केवल ऑपरेटर विविधता के माध्यम से $A$ के नुलस्पेस (nullspace) का अन्वेषण नहीं किया जा सकता है।
मौजूदा विधियों की सीमाएँ:
- मेजरमेंट स्प्लिटिंग (Measurement Splitting): पूर्ण सिग्नल स्पेस तक पहुँचने के लिए कई ऑपरेटरों या विविध मास्क की आवश्यकता होती है। यह एकल स्थिर ऑपरेटर के साथ विफल हो जाता है।
- इक्विवेरिएंट इमेजिंग (Equivariant Imaging - EI): यह मानता है कि इमेज डिस्ट्रीब्यूशन रूपांतरणों (जैसे रोटेशन, ट्रांसलेशन) के प्रति अपरिवर्तनीय (invariant) है। हालांकि यह एकल ऑपरेटरों के साथ काम करता है, लेकिन यह कम्प्यूटेशनल रूप से महंगा है (प्रत्येक इटरेशन के लिए 2-3 नेटवर्क पास की आवश्यकता होती है) और यह इष्टतम मिनिमम मीन स्क्वेयर्ड एरर (MMSE) एस्टीमेटर तक अभिसरण (convergence) की गारंटी नहीं देता है।

2. कार्यप्रणाली: इक्विवैरिएंट स्प्लिटिंग (Methodology: Equivariant Splitting - ES)

लेखक इक्विवैरिएंट स्प्लिटिंग (ES) का प्रस्ताव करते हैं, जो एक स्व-पर्यवेक्षित (self-supervised) रणनीति है जो स्प्लिटिंग लॉस की कम्प्यूटेशनल दक्षता को इक्विवैरिएंट इमेजिंग के सैद्धांतिक गारंटियों के साथ जोड़ती है।

A. मुख्य अवधारणा: वर्चुअल मल्टी-ऑपरेटर संरचना

यह विधि धारणा 1 (Assumption 1) पर आधारित है: ग्राउंड ट्रुथ छवियों का वितरण $p(x)$ रूपांतरणों के एक समूह $\mathcal{G}$ के तहत अपरिवर्तनीय है (अर्थात, $p(T_g x) = p(x)$ )।

छवि पर एक रूपांतरण $T_g$ लागू करके, मेजरमेंट समीकरण बनता है:
$y = Ax + \epsilon = A(T_g T_g^{-1} x) + \epsilon = (A T_g) (T_g^{-1} x) + \epsilon$
यह एकल मेजरमेंट $y$ को एक वर्चुअल फॉरवर्ड ऑपरेटर $A_g = A T_g$ के रूप में पुनर्व्याख्या करता है जो एक वर्चुअल ग्राउंड ट्रुथ $x_g = T_g^{-1} x$ पर कार्य करता है।
चूंकि $x$ और $x_g$ सांख्यिकीय रूप से अविभेद्य (indistinguishable) हैं (अपरिवर्तनीयता के कारण), यह समस्या प्रभावी रूप से एक मल्टी-ऑपरेटर समस्या बन जाती है जहाँ ऑपरेटर $\{A T_g\}_{g \in \mathcal{G}}$ हैं।

B. लॉस फंक्शन (The Loss Function)

ES लॉस इस वर्चुअल मल्टी-ऑपरेटर संरचना का लाभ उठाकर एक स्प्लिटिंग लॉस लागू करता है:
$L_{ES}(y, A, f) = \mathbb{E}_{g} \left[ L_{SPLIT}(y, A T_g, f) \right]$
जहाँ $L_{SPLIT}$ मेजरमेंट $y$ को एक इनपुट भाग ( $y_1$ ) और एक टारगेट भाग ( $y_2$ ) में विभाजित करता है जो वर्चुअल ऑपरेटर $A T_g$ के अनुरूप है। नेटवर्क को वर्चुअल ऑपरेटर $A T_g$ से पूर्ण मेजरमेंट $y$ की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है।

मुख्य सैद्धांतिक परिणाम (Theorem 1):
शोर रहित मेजरमेंट्स और $G$ -इनवेरिएंट $p(x)$ की धारणा के तहत, यदि मैट्रिक्स $Q_{A_1} = \mathbb{E}_g[(A T_g)^\top (A T_g)]$ का फुल रैंक है, तो ES लॉस का ग्लोबल मिनिमाइज़र MMSE एस्टीमेटर ( $f^*(y) = \mathbb{E}[x|y]$ ) है। यह मानक EI की तुलना में एक महत्वपूर्ण सुधार है, जो MMSE इष्टतमता की गारंटी नहीं देता है।

C. इक्विवैरिएंट आर्किटेक्चर और दक्षता

EI में एक प्रमुख बाधा नेटवर्क को प्रत्येक रूपांतरण $g$ के लिए इवैल्यूएट करने की आवश्यकता है। लेखक इनवर्स प्रॉब्लम्स के लिए इक्विवेरिएंट रिकंस्ट्रक्टर्स की एक नई परिभाषा पेश करते हैं:
$f(y, A T_g) = T_g^{-1} f(y, A)$
वे सिद्ध करते हैं (Theorem 2) कि सामान्य आर्किटेक्चर (आर्टिफैक्ट रिमूवल नेटवर्क, अनरोल्ड नेटवर्क, MAP, MMSE) इस गुण को संतुष्ट करते हैं यदि उनके आंतरिक डिनोइज़िंग ब्लॉक्स इक्विवैरिएंट हैं।

Theorem 3 (Synergy): यदि नेटवर्क $f$ एक इक्विवैरिएंट रिकंस्ट्रक्टर है, तो ES लॉस गणितीय रूप से मानक स्प्लिटिंग लॉस $L_{SPLIT}(y, A, f)$ में सरल हो जाता है।
व्यावहारिक प्रभाव: यह मॉडल को प्रति इटरेशन केवल एक नेटवर्क पास (मानक सुपरवाइज्ड लर्निंग की तरह) का उपयोग करके प्रशिक्षित करने की अनुमति देता है, जिससे EI का कम्प्यूटेशनल ओवरहेड समाप्त हो जाता है और इसके सैद्धांतिक लाभ बरकरार रहते हैं।

3. मुख्य योगदान (Key Contributions)

इक्विवेरिएंट्स की नई परिभाषा: रिकंस्ट्रक्शन फंक्शन $f(y, A)$ के लिए विशिष्ट इक्विवैरिएंट्स को परिभाषित किया गया, यह दिखाते हुए कि मानक आर्किटेक्चर (जैसे इक्विवैरिएंट डिनोइज़र्स के साथ अनरोल्ड नेटवर्क) स्वाभाविक रूप से इस गुण को संतुष्ट करते हैं।
इक्विवैरिएंट स्प्लिटिंग (ES) लॉस: एक नया स्व-पर्यवेक्षित लॉस जो स्प्लिटिंग और इक्विवैरिएंट इमेजिंग को एकीकृत करता है। यह एक अनबायस्ड एस्टीमेटर प्रदान करता है और सौम्य शर्तों के तहत MMSE एस्टीमेटर तक अभिसरण की गारंटी देता है।
कम्प्यूटेशनल दक्षता: ES को इक्विवैरिएंट आर्किटेक्चर के साथ जोड़कर, यह विधि EI की प्रदर्शन क्षमता प्राप्त करती है बिना उसके 2-3x कम्प्यूटेशनल लागत के, जिसमें प्रशिक्षण के प्रत्येक स्टेप के लिए केवल एक फॉरवर्ड पास की आवश्यकता होती है।
सैद्धांतिक गारंटी: इन्होंने सिद्ध किया कि विधि MMSE एस्टीमेटर प्रदान करती है, एक ऐसी गारंटी जो पहले सिंगल-ऑपरेटर स्व-पर्यवेक्षित विधियों में अनुपस्थित थी।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने चार विविध इनवर्स प्रॉब्लम्स पर ES का मूल्यांकन किया: इमेज इनपेंटिंग (Image Inpainting), कंप्रेसिव सेंसिंग (Compressive Sensing), एक्सीलरेटेड MRI, और स्पार्स-व्यू CT (Sparse-View CT)।

प्रदर्शन:
- ES लगातार PSNR और SSIM के मामले में इक्विवेरिएंट इमेजिंग (EI) और अन्य बेसलाइन्स (SURE, MC, IDFT) को पछाड़ता है।
- अत्यधिक रैंक-डेफिसिएंट सेटिंग्स में (जैसे कम कंप्रेशन दरों के साथ कंप्रेसिव सेंसिंग, स्पार्स-व्यू CT), ES पूरी तरह से सुपरवाइज्ड विधियों के प्रदर्शन के करीब पहुँच जाता है, जबकि EI अक्सर पीछे रह जाता है।
- उदाहरण: MRI (8x एक्सीलरेशन) में, ES ने 28.54 dB PSNR प्राप्त किया, जबकि EI के लिए यह 27.88 dB था, और सुपरवाइज्ड के लिए 28.74 dB था।
एब्लेशन स्टडीज (Ablation Studies):
- आर्किटेक्चर: इक्विवैरिएंट आर्किटेक्चर (जैसे शिफ्ट-इनवेरिएंट के साथ UNets या रोटेशन के लिए रेनॉल्ड्स एवरेजिंग) का उपयोग करने से स्प्लिटिंग लॉस के साथ मिलकर प्रदर्शन में उल्लेखनीय वृद्धि होती है।
- Corollary 1 का सत्यापन: प्रयोगों ने पुष्टि की कि यदि फॉरवर्ड ऑपरेटर $A$ स्वयं चुने गए रूपांतरणों के प्रति इक्विवैरिएंट है (जैसे शिफ्ट इनवेरिएंट फिक्स्ड ग्रिड मास्क), तो विधि सीखने में विफल रहती है (प्रदर्शन गिर जाता है), जो गैर-इक्विवैरिएंट ऑपरेटरों की सैद्धांतिक आवश्यकता को प्रमाणित करता है।
मजबूती (Robustness): विधि तब भी स्थिर रहती है जब शोर वितरण अज्ञात हो या जब इनवेरिएंस धारणा केवल अनुमानित हो (जैसे मेडिकल इमेज)।

5. महत्व (Significance)

अंतर को पाटना: यह कार्य "स्प्लिटिंग" विधियों (कुशल लेकिन कई ऑपरेटरों की आवश्यकता) और "इक्विवेरिएंट" विधियों (एकल ऑपरेटर सक्षम लेकिन कम्प्यूटेशनल रूप से भारी) के बीच के अंतर को सफलतापूर्वक पाटता है।
व्यावहारिक प्रभाव: यह उन परिदृश्यों में स्टेट-ऑफ-द-आर्ट रिकंस्ट्रक्शन को सक्षम बनाता है जहाँ ग्राउंड ट्रुथ उपलब्ध नहीं है और डेटा अधिग्रहण एक एकल, स्थिर, अधूरे मेजरमेंट मॉडल (मेडिकल इमेजिंग और रिमोट सेंसिंग में सामान्य) द्वारा सीमित है।
दक्षता: इसे मानक सुपरवाइज्ड लर्निंग की लागत तक प्रशिक्षण लागत को कम करके, यह उन्नत इनवर्स प्रॉब्लम सॉल्विंग को अधिक सुलभ और स्केलेबल बनाता है।
सैद्धांतिक प्रगति: यह स्थापित करता है कि आर्किटेक्चरल बाधाएं जो इक्विवैरिएंस पर आधारित हैं, वे केवल सामान्यीकरण (generalization) के लिए एक ह्यूरिस्टिक नहीं हैं, बल्कि सिद्ध इष्टतमता के साथ जटिल इनवर्स प्रॉब्लम्स को हल करने के लिए एक मौलिक उपकरण हैं।