🤖 machine learning

Sub-JEPA: Subspace Gaussian Regularization for Stable End-to-End World Models

यह शोध पत्र Sub-JEPA का प्रस्ताव करता है, जो विश्व मॉडलिंग (world modeling) के लिए जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर (JEPAs) की स्थिरता और लचीलेपन में सुधार करने हेतु पूर्ण एम्बिएंट स्पेस के बजाय कई रैंडम सबस्पेस में गॉसियन रेगुलराइजेशन लागू करता है, जिससे एक बेहतर बायस-वेरिएंस ट्रेडऑफ़ प्राप्त होता है और यह स्टेट-ऑफ-द-आर्ट LeWorldModel से बेहतर प्रदर्शन करता है।

मूल लेखक: Kai Zhao, Dongliang Nie, Yuchen Lin, Zhehan Luo, Yixiao Gu, Deng-Ping Fan, Dan Zeng

प्रकाशित 2026-05-12

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kai Zhao, Dongliang Nie, Yuchen Lin, Zhehan Luo, Yixiao Gu, Deng-Ping Fan, Dan Zeng

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: एक रोबोट को भविष्य की कल्पना करना सिखाना

कल्पना कीजिए कि आप एक रोबोट को भूलभुलैया (maze) में रास्ता खोजना सिखा रहे हैं। दीवार की हर एक ईंट और फर्श की धूल के कण दिखाने के बजाय (जो बहुत अधिक डेटा हो जाएगा), आप चाहते हैं कि वह एक "मानसिक मानचित्र" (mental map) बनाना सीख जाए। यह मानचित्र इस बात का एक सरल सारांश है कि वह कहाँ है और कहाँ जा रहा है।

AI की दुनिया में, इस मानसिक मानचित्र को वर्ल्ड मॉडल (World Model) कहा जाता है। JEPA नामक एक विशिष्ट प्रकार का मॉडल लोकप्रिय है क्योंकि यह कुशल है: यह वर्तमान मानसिक मानचित्र और एक क्रिया (जैसे "बाएं मुड़ें") के आधार पर यह भविष्यवाणी करता है कि अगला मानसिक मानचित्र कैसा दिखेगा।

समस्या: एक "बहुत सख्त" शिक्षक

यह शोध पत्र इस बात की पहचान करता है कि इन मॉडलों को वर्तमान में कैसे प्रशिक्षित किया जाता है, उसमें एक बड़ी समस्या है।

रोबोट के मानसिक मानचित्र को एक छात्र की तरह समझें जो परीक्षा दे रहा है। यह सुनिश्चित करने के लिए कि छात्र नकल न करे या हार न मान जाए (एक समस्या जिसे "कोलैप्स" कहा जाता है, जहाँ छात्र हर सवाल के लिए एक ही उत्तर लिख देता है), शिक्षक एक नियम लागू करता है: "आपके उत्तर पूरी तरह से समान रूप से फैले होने चाहिए, जैसे कि बिंदुओं का एक आदर्श गोला।"

यही वह तरीका था जिसे पिछले तरीके, LeWorldModel (LeWM) ने अपनाया था। इसने रोबोट के मानसिक मानचित्र को एक विशाल, उच्च-आयामी स्थान (high-dimensional space) में एक पूर्ण, समान क्लाउड की तरह दिखने के लिए मजबूर किया।

दोष:
लेखकों का तर्क है कि यह नियम कई वास्तविक दुनिया के कार्यों के लिए बहुत सख्त है।

उपमा (Analogy): एक रस्सी पर चलने वाले (tightrope walker) की कल्पना करें। उसकी गति जटिल है, लेकिन वह ज्यादातर एक एकल, पतली रेखा (रस्सी) के साथ होती है। यदि आप रस्सी पर चलने वाले को रस्सी के चारों ओर एक पूर्ण 3D गोले में घूमने के लिए मजबूर करते हैं, तो आप उसकी स्वाभाविक गति को प्रतिबंधित कर रहे हैं। आप उसे उन दिशाओं में जाने के लिए मजबूर कर रहे हैं जिनकी उसे आवश्यकता नहीं है।
तकनीकी शब्दों में, शोध पत्र कहता है कि वास्तविक दुनिया के कार्य अक्सर एक "लो-डायमेंशनल मैनिफोल्ड" (सरल पथ) में रहते हैं जो एक "हाई-डायमेंशनल स्पेस" (एक विशाल, खाली कमरे) के भीतर होता है। डेटा को पूरे कमरे में समान रूप से भरने के लिए मजबूर करना एक बुरा पूर्वाग्रह पैदा करता है जो प्रदर्शन को नुकसान पहुँचाता है।

समाधान: Sub-JEPA (एक "सबस्पेस" दृष्टिकोण)

लेखक Sub-JEPA का प्रस्ताव देते हैं। रोबोट के मानसिक मानचित्र को पूरे विशाल कमरे में एक पूर्ण गोले के रूप में बनाने के बजाय, वे कमरे को कई छोटे, यादृच्छिक (random) "उप-कमरों" (subspaces) में विभाजित करते हैं।

यह कैसे काम करता है:

डेटा को काटना (Slice the Data): कल्पना कीजिए कि आप रोबोट के मानसिक मानचित्र को लेते हैं और उसे कई अलग-अलग, यादृच्छिक 2D या 3D दृश्यों में काटते हैं (जैसे किसी मूर्ति को कई अलग-अलग कोणों से देखना)।
स्लाइस की जाँच करना: प्रत्येक छोटे स्लाइस में, मॉडल यह जाँचता है कि क्या डेटा एक सुंदर, समान बेल कर्व (Gaussian distribution) की तरह दिखता है।
परिणाम: मॉडल को पूरे बड़े कमरे में एक पूर्ण गोला होने की आवश्यकता नहीं है। इसे बस इन छोटे, यादृच्छिक स्लाइस में "सुंदर और समान" दिखना होगा।

लाभ:
यह रस्सी पर चलने वाले को यह बताने जैसा है: "आपको पूरे 3D कमरे को भरने की आवश्यकता नहीं है। बस यह सुनिश्चित करें कि यदि हम आपको बगल से देखें, तो आप संतुलित दिखें, और यदि हम आपको सामने से देखें, तो भी आप संतुलित दिखें।"

यह सुरक्षा जाल बनाए रखता है (रोबोट को एक उबाऊ, दोहराव वाले उत्तर में ढहने से रोकना)।
लेकिन यह रोबोट को कार्य के वास्तविक पथ पर स्वाभाविक रूप से चलने की स्वतंत्रता देता है, न कि एक कृत्रिम, अत्यधिक सख्त नियम के खिलाफ लड़ने की।

प्रयोगों ने क्या दिखाया

शोधकर्ताओं ने चार अलग-अलग वीडियो गेम जैसे नियंत्रण कार्यों (जैसे एक रोबोटिक हाथ द्वारा ब्लॉक को धकेलना या एक ड्रोन का कमरों के माध्यम से उड़ना) पर इसका परीक्षण किया।

बेहतर प्रदर्शन: Sub-JEPA ने लगातार पुराने तरीके (LeWM) को पछाड़ दिया। रोबोट ने बेहतर योजना बनाना और चलना सीख लिया।
"रैंक" का संबंध: उन्होंने यह मापा कि रोबोट का मानसिक मानचित्र कितना "जटिल" था। उन्होंने पाया कि जब नए तरीके ने मानचित्र को सरल (अधिक संक्षिप्त, कार्य के अनुकूल) बनने की अनुमति दी, तो रोबोट अधिक स्मार्ट हो गया। पुराने तरीके ने मानचित्र को अनावश्यक रूप से जटिल बनाने के लिए मजबूर किया।
सुचारू पथ (Smoother Paths): जब उन्होंने रोबोट की मानसिक यात्रा को विज़ुअलाइज़ किया, तो नए तरीके ने अधिक सीधी, सुचारू रेखाएं बनाईं। पुराने तरीके ने रोबोट के विचारों को समय के साथ डगमगाने और भटकने के लिए मजबूर किया।
दीर्घकालिक स्थिरता: वास्तविक दुनिया को देखे बिना भविष्य के कदमों के एक लंबे क्रम की कल्पना करने के लिए पूछे जाने पर, नया तरीका लंबे समय तक सटीक रहा। पुराना तरीका भ्रमित (hallucinate) होने लगा और रास्ते से भटक गया।

सारांश

Sub-JEPA एक जटिल समस्या का एक सरल समाधान है। यह महसूस करता है कि एक विशाल, अमूर्त स्थान में AI मॉडलों को "पूरी तरह से समान" होने के लिए मजबूर करना अक्सर बहुत प्रतिबंधात्मक होता है। उस स्थान के कई छोटे, यादृच्छिक स्लाइस में व्यवस्था की जाँच करके, यह AI को दुनिया की अधिक प्राकृतिक, कुशल और स्थिर समझ सीखने की अनुमति देता है।

यह एक मछली को एक पूर्ण घन (cube) में तैरने के लिए मजबूर करने (पुराना तरीका) बनाम उसे पानी में स्वाभाविक रूप से तैरने देने के बीच का अंतर है, जब तक कि वह किसी भी कोण से देखे जाने पर संतुलित रहे (नया तरीका)।

तकनीकी सारांश: Sub-JEPA

समस्या विवरण (Problem Statement)

जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर (JEPAs) भविष्य के लेटेंट रिप्रेजेंटेशन (latent representations) की भविष्यवाणी करने के लिए एक ढांचा प्रदान करते हैं, जो कच्चे पिक्सेल को पुनर्गठित (reconstruct) करने के बजाय भविष्य के लेटेंट स्टेट्स का अनुमान लगाते हैं। हालाँकि, इन मॉडलों को एंड-टू-एंड प्रशिक्षित करना एक महत्वपूर्ण बायस-वेरिएंस ट्रेडऑफ (bias-variance tradeoff) का सामना करता है। पर्याप्त बाधाओं (constraints) के बिना, एनकोडर कोलैप्स (collapse) होकर ट्रिवियल समाधानों की ओर चला जाता है (सभी इनपुट को समान एम्बेडिंग्स में मैप करना); इसके विपरीत, अत्यधिक बाधाएं सीखे गए रिप्रेजेंटेशन की समृद्धि को दबा देती हैं।

हालिया कार्य, LeWorldModel (LeWM), ने लेटेंट एम्बेडिंग्स पर एक आइसोट्रोपिक गौसियन प्रायोर (isotropic Gaussian prior) लागू करके इसे संबोधित किया, जिससे स्थिर एंड-टू-एंड प्रशिक्षण संभव हुआ। हालाँकि, लेखकों ने इस दृष्टिकोण में एक मौलिक सीमा की पहचान की है: प्राकृतिक नियंत्रण कार्य (natural control tasks) आमतौर पर उच्च-आयामी एम्बिएंट स्पेस के भीतर लो-डायमेंशनल मैनिफोल्ड्स (low-dimensional manifolds) पर स्थित होते हैं। उच्च-आयामी एम्बिएंट स्पेस में वैश्विक आइसोट्रोपिक गौसियन प्रायोर को लागू करना एक अत्यधिक मजबूत बायस (overly strong bias) पेश करता है जो अंतर्निहित गतिकी (underlying dynamics) की आंतरिक ज्यामिति से मेल नहीं खाता है, जिससे कम अंतर्निहित आयामीता (low intrinsic dimensionality) वाले कार्यों पर प्रदर्शन बाधित हो सकता है।

कार्यप्रणाली: Sub-JEPA (Methodology: Sub-JEPA)

लेखक Sub-JEPA (सबस्पेस गौसियन रेगुलराइजेशन) प्रस्तावित करते हैं, जो एक ऐसा तरीका है जो बायस-वेरिएंस फ्रंटियर पर एक अनुकूल ऑपरेटिंग पॉइंट खोजने का प्रयास करता है। यह गौसियन बाधाओं को एम्बिएंट स्पेस से हटाकर कई लो-डायमेंशनल सबस्पेस (subspaces) में स्थानांतरित कर देता है।

मुख्य तंत्र (Core Mechanism)

ऑर्थोगोनल सबस्पेस प्रोजेक्शन (Orthogonal Subspace Projection): पूरे $D$ -डायमेंशनल लेटेंट वेक्टर $z$ को रेगुलराइज करने के बजाय, यह विधि $z$ को $K$ फ्रीज़्ड, रो-ऑर्थोनॉर्मल रैंडम प्रोजेक्शन मैट्रिसेस $\{P_k\}$ पर प्रोजेक्ट करती है। प्रत्येक प्रोजेक्शन लेटेंट वेक्टर को $d_s$ आयाम के लो-डायमेंशनल सबस्पेस में मैप करता है (जहाँ $d_s \approx D/K$ )।
$z^{(k)} = P_k z$
मल्टी-सबस्पेस गौसियन रेगुलराइजेशन (Multi-Subspace Gaussian Regularization): गौसियन बाधा को प्रत्येक $K$ $K$ सबस्पेस के भीतर स्वतंत्र रूप से लागू किया जाता है।
- प्रत्येक सबस्पेस $k$ के भीतर, प्रोजेक्ट किए गए एम्बेडिंग्स को आगे $M$ रैंडम यूनिट वेक्टर्स पर प्रोजेक्ट किया जाता है।
- गौसियनिटी (Gaussianity) को लागू करने के लिए इन 1D प्रोजेक्शन्स के लिए एप्स-पली नॉर्मलिटी स्टैटिस्टिक (Epps–Pulley normality statistic) की गणना की जाती है।
- कुल रेगुलराइजेशन लॉस $L_{reg}$ इन सभी सबस्पेस और रैंडम दिशाओं के माध्यम से इन स्टैटिस्टिक्स का औसत है।
प्रशिक्षण उद्देश्य (Training Objective): मॉडल को एक संयुक्त लॉस का उपयोग करके एंड-टू-एंड प्रशिक्षित किया जाता है:
$L_{total} = L_{pred}(\hat{z}_{t+1}, z_{t+1}) + \lambda L_{reg}(Z)$
जहाँ $L_{pred}$ लेटेंट स्टेट प्रेडिक्शन एरर (MSE) है और $\lambda$ रेगुलराइजेशन वेट है।

डिज़ाइन विकल्प (Design Choices)

फ्रीज़्ड प्रोजेक्शन्स (Frozen Projections): प्रोजेक्शन मैट्रिसेस को ऑर्थोगोनली इनिशियलाइज़ किया जाता है और फ्रीज़ रखा जाता है। यह सुनिश्चित करता है कि रेगुलराइज़र विकसित हो रहे लेटेंट डिस्ट्रीब्यूशन के अनुकूल न हो, जिससे बाधा स्थिर और स्वतंत्र बनी रहती है।
ऑर्थोगोनैलिटी (Orthogonality): ऑर्थोगोनल प्रोजेक्शन का उपयोग यह सुनिश्चित करता है कि सबस्पेस लेटेंट रिप्रेजेंटेशन के गैर-अतिरेक (non-redundant) और संतुलित दृश्य प्रदान करें, जिससे ज्यामितीय संरचना सुरक्षित रहती है।

मुख्य योगदान (Key Contributions)

बायस की पहचान: पेपर पहचान करता है कि LeWM में ग्लोबल आइसोट्रोपिक गौसियन प्रायोर कम अंतर्निहित आयामीता वाले कार्यों के लिए अत्यधिक बायस पैदा करता है, जो कार्य की अंतर्निहित ज्यामिति से मेल नहीं खाता।
Sub-JEPA फ्रेमवर्क: लेखक एक विधि प्रस्तावित करते हैं जो कई रैंडम, लो-डायमेंशनल, रो-ऑर्थोनॉर्मल प्रोजेक्टेड व्यूज के माध्यम से गौसियन रेगुलराइजेशन लागू करके ग्लोबल प्रायर को शिथिल (relax) करती है। यह एंटी-कोलैप्स प्रभाव को बनाए रखते हुए लेटेंट स्पेस को गतिकी की अंतर्निहित आयामीता के साथ बेहतर ढंग से संरेखित होने की अनुमति देता है।
अनुभवजन्य सत्यापन (Empirical Validation): चार निरंतर-नियंत्रण (continuous-control) वातावरणों में व्यापक प्रयोगों से पता चलता है कि Sub-JEPA लगातार LeWM से बेहतर प्रदर्शन करता है। प्रदर्शन में सुधार सीखे गए एम्बेडिंग्स के इफेक्टिव रैंक (effective rank) में कमी के साथ सह-संबंधित है, जो पुष्टि करता है कि यह विधि अंतर्निहित आयामीता का बेहतर सम्मान करती है।

प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन चार निरंतर-नियंत्रण बेंचमार्क पर किया गया: Two-Room (लो इंट्रिन्सिक डायमेंशन), Reacher, PushT, और OGB-Cube (विजुअली रिच 3D)।

प्लानिंग प्रदर्शन (Planning Performance): Sub-JEPA ने सभी वातावरणों में लगातार LeWM से बेहतर प्रदर्शन किया। सुधार सबसे अधिक Two-Room पर देखा गया, जहाँ LeWM का फुल-स्पेस गौसियन प्रायोर इसकी कम आयामीता के साथ सबसे अधिक असंगत था। Sub-JEले भी कई कार्यों पर बिना किसी प्री-ट्रेन्ड विजुअल बैकबोन के PLDM (एक मल्टी-ऑब्जेक्टिव बेसलाइन) और DINO-WM (एक फ्रोजन एनकोडर बेसलाइन) से आगे निकल गया।
इफेक्टिव रैंक विश्लेषण (Effective Rank Analysis): इफेक्टिव रैंक में कमी (LeWM से Sub-JEPA तक) और प्लानिंग सफलता दर में वृद्धि के बीच एक सीधा संबंध देखा गया। जिन कार्यों में बड़े रैंक कंप्रेशन (Two-Room, OGB-Cube) देखे गए, उनमें सबसे अधिक प्रदर्शन लाभ हुआ।
फिजिकल डिकोडेबिलिटी (Physical Decodability): PushT वातावरण पर प्रोबिंग प्रयोगों ने दिखाया कि Sub-JEPA रिप्रेजेंटेशन ने LeWM की तुलना में या उसके बराबर ही भौतिक स्थिति की जानकारी (एजेंट स्थान, ब्लॉक स्थान) को संरक्षित किया, जिसमें बेहतर नॉन-लीनियर डिकोडेबिलिटी देखी गई।
लेटेंट ट्रजेक्टरी क्वालिटी (Latent Trajectory Quality):
- टेम्पोरल कोहेरेंस (Temporal Coherence): विज़ुअलाइज़ेशन ने दिखाया कि LeWM की तुलना में Sub-JEPA अधिक टेम्पोरल कोहेरेंट लेटेंट ट्रजेक्टरीज उत्पन्न करता है।
- पाथ स्ट्रेटनिंग (Path Straightening): Sub-JEPA ने लेटेंट वेलोसिटी वेक्टर्स में उच्च "सीधापन" (straightness) प्राप्त किया, जो अधिक सुचारू, अधिक रैखिक रूप से विकसित होने वाली गतिकी का संकेत देता है, जो प्लानिंग के लिए महत्वपूर्ण है।
- लॉन्ग-होरिज़न स्टेबिलिटी (Long-Horizon Stability): ओपन-लूप रोलआउट्स में, Sub-JEPA ने सीन ज्योमेट्री को बनाए रखा और LeWM की तुलना में लंबे समय तक कम स्थानिक विचलन (spatial drift) प्रदर्शित किया।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि Sub-JEPA JEPA-आधारित वर्ल्ड मॉडल्स में बायस-वेरिएस ट्रेडऑफ के लिए एक सरल लेकिन प्रभावी समाधान प्रदान करता है। मल्टीपल सबस्पेस में गौसियन रेगुलराइजेशन को ले जाकर, यह विधि:

एंटी-कोलैप्स लाभों को खोए बिना ग्लोबल आइसोट्रोपिक प्रायर को शिथिल (relax) करती है।
अंतर्नि tentang गतिकी की अंतर्निहित आयामीता (intrinsic dimensionality) के साथ बेहतर तालमेल बिठाती है, विशेष रूप से उन कार्यों के लिए जहाँ स्टेट स्पेस लो-डायमेंशनल है।
भविष्य के JEPA-आधारित वर्ल्ड मॉडल अनुसंधान के लिए एक मजबूत बेसलाइन के रूप में कार्य करती है, यह प्रदर्शित करती है कि संरचनात्मक बाधाओं को स्थिरता से समझौता किए बिना सरल और अधिक लचीला बनाया जा सकता है।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण LeWM की सरलता (केवल प्रेडिक्शन लॉस और एक रेगुलराइज़र का उपयोग करना) को बनाए रखता है, जबकि एक अधिक लचीला स्ट्रक्चरल प्रायर पेश करता है जो बेहतर प्लानिंग प्रदर्शन और रिप्रेजेंटेशन गुणवत्ता प्रदान करता है।