🤖 machine learning

JEPAMatch: Geometric Representation Shaping for Semi-Supervised Learning

यह शोध पत्र JEPAMatch प्रस्तुत करता है, जो एक अर्ध-पर्यवेक्षित शिक्षण (semi-supervised learning) विधि है जो LeJEPA से प्रेरित एक लेटेंट-स्पेस रेगुलराइजेशन टर्म को एकीकृत करके FixMatch फ्रेमवर्क को उन्नत करता है, जिससे ज्यामितीय निरूपणों (geometric representations) को स्पष्ट रूप से आकार देने में मदद मिलती है, और इस प्रकार क्लास इम्बैलेंस (class imbalance) तथा शोर युक्त सूडो-लेबल्स (noisy pseudo-labels) को कम करते हुए अभिसरण (convergence) की गति को महत्वपूर्ण रूप से बढ़ाता है और गणनात्मक लागत को कम करता है।

मूल लेखक: Ali Aghababaei-Harandi, Aude Sportisse, Massih-Reza Amini

प्रकाशित 2026-04-24

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ali Aghababaei-Harandi, Aude Sportisse, Massih-Reza Amini

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बच्चे को विभिन्न जानवरों को पहचानना सिखाने की कोशिश कर रहे हैं, लेकिन आपके पास केवल कुछ ही चित्र वाली किताबें हैं जिनमें नाम लिखे हैं (लेबल वाला डेटा) और जानवरों के अनगिनत बिना नाम वाले फोटो का एक विशाल, अव्यवस्थित ढेर है (बिना लेबल वाला डेटा)।

यह सेमी-सुपरवाइज्ड लर्निंग (Semi-Supervised Learning) की चुनौती है। लक्ष्य यह है कि उस बिना लेबल वाले फोटो के विशाल ढेर का उपयोग करके बच्चे को तेजी से और बेहतर तरीके से सिखाया जा सके, बिना हजारों और महंगी चित्र पुस्तकें खरीदे।

यह पेपर एक नई विधि पेश करता है जिसे JEPAMatch कहा जाता है। यह समझने के लिए कि यह क्यों खास है, आइए देखते हैं कि "पुराना तरीका" कैसे काम करता है बनाम JEPAMatch का "नया तरीका"।

पुराना तरीका: अति-आत्मविश्वासी शिक्षक (The Overconfident Teacher)

पिछले तरीके (जैसे FixMatch) एक ऐसे शिक्षक की तरह काम करते हैं जो थोड़ा बहुत ज्यादा ही उत्साहित है।

अनुमान लगाने का खेल: शिक्षक एक बिना लेबल वाले फोटो को देखता है और अनुमान लगाता है, "मुझे लगता है कि यह एक बिल्ली है!"
आत्मविश्वास का जाल: यदि शिक्षक को बहुत अधिक विश्वास है (मान लीजिए 90% यकीन है), तो वे फोटो पर "CAT" लिख देते हैं और बच्चे को सिखाने के लिए उसका उपयोग करते हैं। यदि वे सुनिश्चित नहीं हैं, तो वे उस फोटो को फेंक देते हैं।
समस्या:
- लोकप्रिय बच्चा प्रभाव (The Popular Kid Effect): शिक्षक "कुत्ता" का अनुमान लगाने में बहुत माहिर हो जाते हैं क्योंकि कुत्तों के बहुत सारे फोटो हैं। वे हर चीज़ के लिए "कुत्ता" का अनुमान लगाने लगते हैं, भले ही वह एक लोमड़ी हो। बच्चा सीख जाता है कि सब कुछ एक कुत्ता है, और दुर्लभ जानवर (जैसे जगुआर) अनदेखे रह जाते हैं।
- धीमी शुरुआत: शुरुआत में, शिक्षक अनुमान लगाने में खराब होते हैं। वे लगभग सभी फोटो फेंक देते हैं। बच्चा कुछ लेबल वाली किताबों से ही सीखता हुआ लंबे समय तक बैठा रहता है, इस इंतजार में कि शिक्षक कब बिना लेबल वाले ढेर पर अनुमान लगाने के लिए बहादुर बनेगा। इसमें बहुत समय लगता है।

नया तरीका: JEPAMatch (द आर्किटेक्ट एंड द कोच)

JEPAMatch रणनीति को बदल देता है। केवल लेबल का अनुमान लगाने के बजाय, यह इस बात पर ध्यान केंद्रित करता है कि मस्तिष्क सूचनाओं को कैसे व्यवस्थित करता है। यह काम को दो भूमिकाओं में विभाजित करता है:

1. कोच (करिकुलम लेवल - Curriculum Level)

यह हिस्सा "अनुमान लगाने" (pseudo-labeling) को संभालता है, लेकिन यह अधिक स्मार्ट है।

सबके लिए एक ही नियम देने के बजाय, यह अलग-अलग जानवरों के लिए अलग-अलग आत्मविश्वास के नियम देता है। यह जानता है कि "कुत्ते" को पहचानना आसान है, इसलिए यह शिक्षक से मांग करता है कि कुत्ते को लेबल करने से पहले उसे बहुत ज्यादा सुनिश्चित होना चाहिए। लेकिन "जगुआर" के लिए, यह कम आत्मविश्वास के स्तर को भी स्वीकार करता है ताकि बच्चा उन्हें मिस न कर दे।
परिणाम: कोई भी एक जानवर पाठ पर हावी नहीं होता। दुर्लभ जानवरों को भी उचित ध्यान मिलता है।

2. आर्किटेक्ट (रिप्रेजेंटेशन लेवल - Representation Level)

यही असली जादू है। जब कोच लेबल का अनुमान लगा रहा होता है, तब आर्किटेक्ट बच्चे के मानसिक मानचित्र (mental map) को पुनर्गठित कर रहा होता है।

पुराना मानचित्र: पिछले तरीकों में, मानसिक मानचित्र अव्यवस्थित था। सभी "कुत्ते" वाले विचार एक साथ गुच्छों में हो सकते थे, लेकिन "बिल्ली" वाले विचार बिखरे हुए थे, या पूरा मानचित्र एक छोटे से कोने में दब गया था (एक समस्या जिसे "डायमेंशनल कोलैप्स" कहा जाता है)।
JEPAMatch का मानचित्र: आर्किटेक्ट LeJEPA नामक एक अवधारणा का उपयोग करता है। कल्पना कीजिए कि मानसिक स्थान एक विशाल, पूरी तरह से गोल गुब्बारे की तरह है।
- नियम: हर प्रकार का जानवर (क्लास) इस गुब्बारे के अंदर अपना खुद का एक आदर्श, गोल बुलबुला बनाना चाहिए।
- जादू: सिस्टम एक फोटो को अलग-अलग कोणों से देखता है (एक ज़ूम-आउट दृश्य, एक ज़ूम-इन दृश्य, एक धुंधला दृश्य)। यह बच्चे के मस्तिष्क को यह महसूस करने के लिए मजबूर करता है: "भले ही यह धुंधला हिस्सा पूरी तस्वीर से अलग दिखता है, फिर भी वे एक ही 'बिल्ली' के बुलबुले का हिस्सा हैं।"
- लाभ: इन "बुलबुलों" को साफ, गोल और एक-दूसरे से अलग रखने के लिए मजबूर करके, बच्चा अवधारणा के आकार को सीखता है, न कि केवल उसके नाम को। यह सीखने की प्रक्रिया को बहुत तेज बनाता है क्योंकि मस्तिष्क को एक उलझी हुई गांठ को सुलझाने की आवश्यकता नहीं होती; गांठें पहले से ही करीने से बंधी हुई हैं।

यह एक बड़ी बात क्यों है?

पेपर दिखाता है कि JEPAMatch सीखने के लिए एक टर्बोचार्जर की तरह है:

गति: क्योंकि "आर्किटेक्ट" मानसिक मानचित्र को इतनी सफाई से व्यवस्थित करता है, इसलिए बच्चा 3 गुना तेजी से सीखता है। वे बहुत कम समय में समान स्तर की बुद्धिमत्ता प्राप्त कर लेते हैं।
निष्पक्षता: यह "लोकप्रिय बच्चे" (बहुसंख्यक वर्गों) को शिक्षक का ध्यान खींचने से रोकता है। दुर्लभ जानवरों को भी ठीक से सिखाया जाता है, जिससे एक अधिक संतुलित और सटीक मॉडल बनता है।
दक्षता: यह फोटो फेंकने में कम समय बर्बाद करता है। भले ही शिक्षक 100% निश्चित न हो, फिर भी "आर्किक्ट" उन फोटो का उपयोग मानसिक बुलबुलों के आकार को परिष्कृत करने के लिए कर रहा होता है।

निचोड़ (The Bottom Line)

JEPAMatch को एक ऐसे शिक्षक के रूप में सोचें जो केवल उत्तर चिल्लाता है, बनाम एक मास्टर आर्किटेक्ट के रूप में जो छात्र के मन में एक आदर्श, व्यवस्थित पुस्तकालय बनाता है।

केवल "यह एक बिल्ली है" रटने के बजाय, छात्र यह सीखता है कि उनके मन में "बिल्ली" कहाँ रहती है, उसका "कुत्ते" से क्या संबंध है, और अंधेरे में भी उसे कैसे पहचाना जाए। इसके परिणामस्वरूप एक अधिक स्मार्ट छात्र मिलता है जो तेजी से सीखता है, कम संसाधनों का उपयोग करता है, और लोकप्रिय भीड़ से भ्रमित नहीं होता।

यहाँ शोध पत्र "JEPAMatch: Geometric Representation Shaping for Semi-Supervised Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

सेमी-सुपरवाइज्ड लर्निंग (SSL) का लक्ष्य लेबल वाले डेटा की कमी होने पर अनलेबल डेटा की बड़ी मात्रा का लाभ उठाकर मॉडल के प्रदर्शन में सुधार करना है। जबकि FixMatch (कमजोर/मजबूत ऑगमेंटेशन को कॉन्फिडेंस-आधारित स्यूडो-लेबलिंग के साथ जोड़ना) पर आधारित विधियों ने अत्याधुनिक परिणाम प्राप्त किए हैं, वे दो महत्वपूर्ण बाधाओं से ग्रस्त हैं:

वर्ग असंतुलन और पूर्वाग्रह (Class Imbalance and Bias): स्यूडो-लेबल चयन निश्चित या अनुकूलित कॉन्फिडेंस थ्रेशोल्ड (threshold) पर निर्भर करता है। यह अक्सर बहुसंख्यक वर्गों (majority classes) को सीखने की प्रक्रिया पर हावी होने देता है, क्योंकि वे आसानी से थ्रेशोल्ड को पार कर लेते हैं, जबकि अल्पसंख्यक वर्गों (minority classes) को विरल पर्यवेक्षण (sparse supervision) प्राप्त होता है। गलत स्यूडो-लेबल इस पूर्वाग्रह को बढ़ा देते हैं, जिससे मॉडल पक्षपाती हो जाता है।
धीमी अभिसरण (Slow Convergence): प्रशिक्षण के शुरुआती चरणों में, मॉडल का आत्मविश्वास कम होता है, जिससे अधिकांश अनलेबल नमूनों को हटा (mask out) दिया जाता है। मॉडल कई इटरेशन के लिए छोटे लेबल वाले सेट पर अत्यधिक निर्भर रहता है, जिसके परिणामस्वरूप कंप्यूटेशनल संसाधनों का अक्षम उपयोग होता है और इसे अभिसरण (converge) करने के लिए बड़ी संख्या में प्रशिक्षण चरणों (अक्सर >220k इटरेशन) की आवश्यकता होती है।
ज्यामितीय पतन (Geometric Collapse): मानक SSL विधियाँ अक्सर डिस्क्रीट क्लासिफिकेशन पर ध्यान केंद्रित करती हैं लेकिन लेटेंट फीचर स्पेस (latent feature space) को प्रभावी ढंग से संरचित करने में विफल रहती हैं, जिससे "डायमेंशनल कोलैप्स" होता है जहाँ रिप्रजेंटेशन अपनी आइसोट्रोपिक (isotropic) विशेषताओं को खो देते हैं और अच्छी तरह से सामान्यीकरण (generalize) करने में विफल रहते हैं।

2. कार्यप्रणाली: JEPAMatch

लेखक JEPAMatch का प्रस्ताव करते हैं, जो विशुद्ध रूप से लॉजिकल आउटपुट थ्रेशोल्डिंग से हटकर स्पष्ट ज्यामितीय रिप्रजेंटेशन शेपिंग (explicit geometric representation shaping) की ओर एक बदलाव है। यह विधि LeJEPA (Latent-Euclidean Joint-Embedding Predictive Architecture) फ्रेमवर्क को FlexMatch के एडेप्टिव थ्रेशोल्डिंग के साथ एकीकृत करती है।

सीखने की प्रक्रिया को दो सहक्रियात्मक (synergistic) स्तरों में विभाजित किया गया है:

A. करिकुलम स्तर (स्यूडो-लेबल चयन)

लक्ष्य: विश्वसनीय स्यूडो-लेबल चुनना जबकि वर्ग असंतुलन को कम करना।
तंत्र: यह FlexMatch का उपयोग करता है, जो एक एकल वैश्विक थ्रेशोल्ड के बजाय वर्ग-वार डायनेमिक कॉन्फिडेंस थ्रेशोल्ड ( $\tau_c$ ) का उपयोग करता है।
प्रक्रिया:
- कमजोर ऑगमेंटेड व्यूज़ ( $x^w$ ) भविष्यवाणियाँ उत्पन्न करते हैं।
- डायनेमिक थ्रेशोल्ड यह निर्धारित करते हैं कि क्या कोई भविष्यवाणी स्यूडो-लेबल के रूप में पर्याप्त रूप से आत्मविश्वासी है।
- मजबूत ऑगमेंटेड व्यूज़ ( $x^s$ ) को इन स्यूडो-लेबल्स का उपयोग करके क्रॉस-एन्ट्रॉपी लॉस के माध्यम से प्रशिक्षित किया जाता है।
- यह स्तर सुनिश्चित करता है कि क्लासिफायर बिना बहुसंख्यक वर्गों की ओर झुके उच्च गुणवत्ता वाला पर्यवेक्षण प्राप्त करे।

B. रिप्रजेंटेशन स्तर (ज्यामितीय शेपिंग)

लक्ष्य: लेटेंट फीचर स्पेस को मजबूत, अपरिवर्तनीय (invariant) और आइसोट्रोपिक बनाने के लिए संरचित करना, ताकि डायमेंशनल कोलैप्स को रोका जा सके।
तंत्र: यह LeJEPA पर आधारित है, जो यह मानता है कि उच्च गुणवत्ता वाले रिप्रजेंटेशन को एक आइसोट्रोपिक गौसियन वितरण (isotropic Gaussian distribution) का पालन करना चाहिए।
आर्किटेक्चर:
- मल्टी-व्यू रणनीति (Multi-View Strategy): प्रत्येक अनलेबल इमेज के लिए, मॉडल जनरेट करता है:
  1. कमजोर व्यू ( $x^w$ ): हल्का ऑगमेंटेशन (ग्लोबल कॉन्टेक्स्ट)।
  2. मजबूत व्यू ( $x^s$ ): भारी ऑगमेंटेशन (ग्लोबल कॉन्टेक्स्ट)।
  3. लोकल व्यूज़ ( $x^{loc}$ ): हल्के ऑगमेंटेशन के साथ $K$ छोटे, स्थानीय क्रॉप्स।
- स्व-पर्यवेक्षित भविष्यवाणी हानि ( $L_{pred}$ ): मॉडल कमजोर व्यू के रिप्रजेंटेशन ( $z^w$ ) की भविष्यवाणी मजबूत व्यू ( $z^s$ ) और लोकल व्यूज़ ( $z^{loc}$ ) का उपयोग करके करता है। यह एनकोडर को ग्लोबल और लोकल भागों के बीच ज्यामितीय निरंतरता (geometric consistency) सीखने के लिए मजबूर करता है।
- एडेप्टिव क्लास-वाइज़ SIGReg: डायमेंशनल कोलैप्स को रोकने और क्लास सेपरेबिलिटी बनाए रखने के लिए, लेखक एक दो-चरणीय रेगुलाइजेशन रणनीति पेश करते हैं:
  1. वार्मअप चरण (Warmup Phase): ग्लोबल SIGReg (Sketched Isotropic Gaussian Regularization) लागू करता है। यह लोकल फीचर्स के वितरण को मानक सामान्य वितरण $N(0, I)$ के अनुरूप होने के लिए मजबूर करता है। यह सुनिश्चित करता है कि नेटवर्क सभी आयामों (dimensions) का उपयोग करे और एक गैर-कोलैप्स्ड स्पेस बनाए, इससे पहले कि विश्वसनीय क्लास क्लस्टर्स मौजूद हों।
  2. मुख्य चरण (Main Phase): यह Adaptive Class-Wise SIGReg की ओर स्थानांतरित होता है।
    - क्लास मीन्स (Class Means): लेबल वाले और आत्मविश्वासी स्यूडो-लेबल वाले डेटा का उपयोग करके प्रत्येक वर्ग के लिए माध्य $\mu_c$ की गणना करता है।
    - सेंटरिंग (Centering): फीचर्स को उनके क्लास मीन के सापेक्ष सेंटर्ड किया जाता है।
    - वैरिएंस एनीलिंग (Variance Annealing): लक्षित वेरिएंस $\sigma$ को 1.0 से घटाकर 0.1 तक एनेलेट (anneal) किया जाता है, जो फीचर्स को प्रत्येक क्लास के लिए टाइट, आइसोलेटेड गौसियन क्लस्टर्स बनाने के लिए मजबूर करता है।
    - एक्टिव रिपल्शन (Active Repulsion): एक लॉस टर्म ( $L_{repulsion}$ ) अलग-अलग क्लास मीन्स के बीच समानता को दंडित करता है ताकि वे एक ही बिंदु में कोलैप्स न हों।

C. कुल हानि (Total Loss)

अंतिम उद्देश्य सुपरवाइज्ड लॉस, अनसुपरवाइज्ड कंसिस्टेंसी लॉस और रिप्रजेंटेशन लॉस को जोड़ता है:
$\mathcal{L}_{total} = \mathcal{L}_{sup} + \lambda_{unsup}\mathcal{L}_{unsup} + \lambda_{rep}\mathcal{L}_{rep}$
जहाँ $\mathcal{L}_{rep}$ में प्रेडिक्शन लॉस, SIGReg और रिपल्शन लॉस शामिल है।

3. मुख्य योगदान

पैराडाइम शिफ्ट: यह SSL को केवल कॉन्फिडेंस थ्रेशोल्ड पर निर्भर रहने के बजाय LeJEPA सिद्धांतों का उपयोग करके लेटेंट स्पेस की ज्यामिति को स्पष्ट रूप से आकार देने की ओर ले जाता है।
दो-स्तरीय डिकपलिंग (Two-Level Decoupling): यह डिस्क्रीट क्लासिफिकेशन कार्य (करिकुलम लेवल) को फीचर्स के ज्यामितीय संगठन (रिप्रजेंटेशन लेवल) से अलग करता है, जिससे प्रत्येक को स्वतंत्र रूप से लेकिन सहक्रियात्मक रूप से अनुकूलित किया जा सकता है।
एडेप्टिव क्लास-वाइज़ SIGReg: एक नवीन रेगुलाइजेशन तकनीक जो एक ग्लोबल आइसोट्रोपिक बाधा (कोलैप्स को रोकने के लिए) से क्लास-विशिष्ट टाइट क्लस्टर्स (डिस्क्रिमिनेशन में सुधार के लिए) में संक्रमण करती है, जो प्रभावी रूप से स्यूडो-लेबलिंग में निहित क्लास असंतुलन की समस्या को हल करती है।
मल्टी-व्यू ज्योमेट्री: लेटेंट स्पेस में स्ट्रक्चरल कंसिस्टेंसी को लागू करने के लिए ग्लोबल व्यू के साथ लोकल क्रॉप्स का उपयोग करने वाली एक रणनीति पेश करता है।

4. प्रयोगात्मक परिणाम

विधि का मूल्यांकन CIFAR-100, STL-10, और Tiny-ImageNet पर किया गया।

प्रदर्शन: JEPAMatch ने लगातार अत्याधुनिक बेसलाइन्स (FixMatch, FlexMatch, FreeMatch, SoftMatch, SimMatch, आदि) को पछाड़ दिया।
- CIFAR-100 (400 लेबल) पर, इसने 34.25% एरर रेट प्राप्त किया (FreeMatch के 37.98% के मुकाबले)।
- STL-10 (40 लेबल) पर, इसने 13.44% एरर रेट प्राप्त किया।
- इसने अत्यधिक क्लास असंतुलन (इम्बैलेंस फैक्टर्स $\gamma=20, 50, 100$ ) के तहत महत्वपूर्ण मजबूती दिखाई।
अभिसरण गति (Convergence Speed):
- JEPAMatch, FlexMatch की तुलना में 3 गुना तेज़ अभिसरण करता है।
- यह FlexMatch की तुलना में लगभग 50,000 इटरेशन पहले पीक एक्यूरेसी तक पहुँच जाता है।
- इसे केवल 217 इटरेशन की आवश्यकता होती है (कई SSL विधियों के मानक 220k+ के मुकाबले), जो कंप्यूटेशनल लागत को काफी कम कर देता है।
स्यूडो-लेबल की गुणवत्ता: JEPAMatch प्रशिक्षण के दौरान असाइन किए गए स्यूडो-लेबल्स की सटीकता को काफी उच्च बनाए रखता है (जैसे, CIFAR-100 पर FlexMatch के ~35% के मुकाबले ~50%), जो बेहतर नॉइज़ फ़िल्टरिंग का संकेत देता है।

5. महत्व

दक्षता (Efficiency): अभिसरण को तेज करके, JEPAMatch सेमी-सुपरवाइज्ड लर्निंग को संसाधन-बाधित वातावरण के लिए अधिक व्यावहारिक बनाता है।
मजबूती (Robustness): ज्यामितीय शेपिंग दृष्टिकोण "कन्फर्मेशन बायस" और क्लास असंतुलन की समस्याओं को प्रभावी ढंग से कम करता है जो पारंपरिक कॉन्फिडेंस-आधारित SSL विधियों को प्रभावित करती हैं।
सैद्धांतिक आधार (Theoretical Grounding): LeJEPA को एकीकृत करके, यह शोध पत्र सेल्फ-सुपरवाइज्ड रिप्रजेंटेशन लर्निंग (जो संरचना पर ध्यान केंद्रित करता है) और सेमी-सुपरवाइज्ड क्लासिफिकेशन (जो लेबल पर ध्यान केंद्रित करता है) के बीच के अंतर को पाटता है, यह सुझाव देता है कि लेटेंट स्पेस को व्यवस्थित करना लेबलिंग रणनीति जितना ही महत्वपूर्ण है।

संक्षेप में, JEPAMatch प्रदर्शित करता है कि एक आइसोट्रोपिक, सुव्यवस्थित ज्यामितीय रिप्रजेंटेशन स्पेस को स्पष्ट रूप से लागू करने से SSL मॉडल कम लेबल वाले नमूनों और कम प्रशिक्षण इटरेशन के साथ तेजी से सीख सकते हैं, असंतुलन को बेहतर ढंग से संभाल सकते हैं और उच्च सटीकता प्राप्त कर सकते हैं।