📊 statistics

When Does LeJEPA Learn a World Model?

यह शोध पत्र यह सिद्ध करता है कि LeJEPA केवल तभी लेटेंट वर्ल्ड वेरिएबल्स की लीनियर आइडेंटिफिएबिलिटी (linear identifiability) प्राप्त करता है जब अंतर्निहित लेटेंट डिस्ट्रीब्यूशन गॉसियन (Gaussian) हो, जिससे योजना (planning) और कंपोजिशनल जनरलाइजेशन (compositional generalization) को विश्वसनीय रूप से समर्थन देने वाले वर्ल्ड मॉडल्स के निर्माण के लिए एक सैद्धांतिक आधार प्राप्त होता है।

मूल लेखक: David Klindt, Yann LeCun, Randall Balestriero

प्रकाशित 2026-05-27

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: David Klindt, Yann LeCun, Randall Balestriero

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "When Does LeJEPA Learn a World Model?" शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ हिंदी अनुवाद दिया गया है।

बड़ी तस्वीर: दुनिया की रेसिपी को सुलझाना

कल्पना कीजिए कि आप एक केक बनाना सीख रहे हैं। लेकिन एक पेंच है: आप कभी भी सामग्री (मैदा, अंडे, चीनी) को सीधे देख नहीं सकते। इसके बजाय, आप केवल अंतिम, बिखरा हुआ और मिला-जुला केक का घोल (बैटर) देखते हैं। यह बैटर एक जटिल मिश्रण है जहाँ मैदा अंडों से चिपक गया है, और चीनी मक्खन के साथ उलझ गई है।

AI की दुनिया में, यह "बैटर" वह डेटा है जिसे हम देखते हैं (जैसे वीडियो या इमेज के पिक्सेल), और "सामग्री" लेटेंट वेरिएबल्स (latent variables) हैं—दुनिया के वास्तविक, छिपे हुए तथ्य, जैसे किसी वस्तु की स्थिति, गति या रंग।

इस शोध पत्र का लक्ष्य एक सरल प्रश्न का उत्तर देना है: क्या एक AI केवल बिखरे हुए बैटर को देखकर सामग्री (मैदा और अंडे) को अलग करना सीख सकता है?

लेखक कहते हैं: हाँ, लेकिन केवल बहुत विशिष्ट परिस्थितियों में। वे सिद्ध करते हैं कि एक विशिष्ट AI विधि जिसे LeJEPA कहा जाता है, दुनिया की सामग्री को पूरी तरह से सुलझा सकती है, लेकिन केवल तभी जब वे सामग्रियाँ स्वयं एक विशिष्ट सांख्यिकीय पैटर्न (एक "गौसियन" या बेल-कर्व वितरण) का पालन करती हों और AI को नियमों के एक विशिष्ट सेट के साथ प्रशिक्षित किया गया हो।

समस्या: "बिखरा हुआ" कैमरा

असली दुनिया को एक साफ, व्यवस्थित रसोई के रूप में सोचें।

लेटेंट्स (सामग्री): ये वास्तविक तथ्य हैं: "कप स्थिति X पर है," "कप Y गति से चल रहा है।" एक आदर्श दुनिया में, ये स्वतंत्र होते हैं। कप की स्थिति जादुई रूप से उसके रंग को नहीं बदलती।
मिक्सिंग (कैमरा): जब आप फोटो खींचते हैं या वीडियो देखते हैं, तो एक रहस्यमय, गैर-रैखिक प्रक्रिया (कैमरा लेंस, लाइटिंग, फिजिक्स इंजन) इन साफ तथ्यों को एक एकल, अस्त-व्यस्त छवि में मिला देती है। स्थिति और रंग आपस में उलझ जाते हैं।
AI (शेफ): AI का काम उस बिखरे हुए चित्र को देखना और सामग्रियों की साफ सूची को पुनर्गठित करने का प्रयास करना है।

यदि AI खराब काम करता है, तो वह यह सीख सकता है कि "लाल" रंग का मतलब हमेशा "तेज़" होता है। यदि दुनिया बदलती है (एक लाल वस्तु धीरे चलती है), तो AI विफल हो जाएगा क्योंकि उसने एक गलत संबंध सीख लिया था। इसे "एंटैंगलमेंट" (उलझन) कहा जाता है।

समाधान: LeJEPA और "गौसियन" नियम

यह शोध पत्र LeJEPA नामक एक विधि पर केंद्रित है। LeJEPA को बैटर को सुलझाने के लिए दो विशिष्ट नियमों वाले एक शेफ के रूप में सोचें:

"आकर्षित करें" (Attract) नियम: यदि दो छवियां बहुत समान हैं (जैसे एक वीडियो के दो फ्रेम जो एक सेकंड के अंतराल पर लिए गए हों), तो AI को उनके आंतरिक प्रतिनिधित्व (representations) को भी बहुत समान बनाना चाहिए। यह AI को सिखाता है कि वह छोटे, यादृच्छिक शोर (noise) को अनदेखा करे और स्थिर तथ्यों पर ध्यान केंद्रित करे।
"गौसियन" (Gaussian) नियम: AI को मजबूर किया जाता है कि वह अपनी आंतरिक सामग्री की सूची को इस तरह व्यवस्थित करे कि वे एक पूर्ण, सममित बेल-कर्व (Gaussian distribution) की तरह दिखें। यह AI को एक उबाऊ, बेकार उत्तर (जैसे "सब कुछ शून्य है") में ढहने से रोकता है।

मुख्य खोज: "यूनिक की" (अद्वितीय कुंजी)

लेखकों ने एक गणितीय प्रमेय सिद्ध किया है जो कुछ ऐसा कहता है:

LeJE पहुँचा (LeJEPA) दुनिया की सामग्री को एक साफ, रैखिक सूची में पूरी तरह से सुलझा सकता है यदि और केवल यदि सामग्रियाँ स्वयं एक पूर्ण बेल-कर्व (Gaussian) की तरह वितरित हों।

यहाँ उपमा दी गई है:

कल्पना करें कि सामग्रियाँ एक मेज पर लुढ़कते हुए मार्बल्स (कंकड़) हैं।
यदि मार्बल्स इस तरह से लुढ़कते हैं कि वे एक पूर्ण, सममित बेल-कर्व पैटर्न (Gaussian) बनाते हैं, तो LeJEPA एक जादू की छड़ी की तरह है जो उन्हें तुरंत वापस सीधी पंक्तियों में व्यवस्थित कर सकती है।
महत्वपूर्ण बात: यदि मार्बल्स एक अजीब, टेढ़े-मेढ़े या "हेवी-टेल्ड" (heavy-tailed) पैटर्न में व्यवस्थित हैं (गैर-गौसियन), तो LeJEPA उन्हें पूरी तरह से नहीं सुलझा पाएगा। यह अटक जाएगा, और सामग्रियाँ उलझी हुई ही रहेंगी।

शोध पत्र सिद्ध करता है कि गौसियन वितरण ही वह एकमात्र (unique) आकार है जो इस पूर्ण अनस्कैम्बलिंग (सुलझाने) की अनुमति देता है। यह एकमात्र "चाबी" है जो LeJEPA विधि के "लॉक" में फिट बैठती है।

यह क्यों मायने रखता है? ("वर्ल्ड मॉडल")

यदि AI सफलतापूर्वक सामग्री को सुलझा लेता है, तो उसने एक वर्ल्ड मॉडल (World Model) बना लिया है।

रैखिक योजना (Linear Planning): एक बार जब AI के पास साफ सामग्री (जैसे "स्थिति: 5, गति: 2") होती है, तो वह कार्यों की योजना आसानी से बना सकता है। वह बिंदु A से बिंदु B तक जाने के लिए मानचित्र पर एक सीधी रेखा खींच सकता है।
गारंटी: शोध पत्र सिद्ध करता है कि यदि AI यह साफ मॉडल सीख लेता है, तो उसके "दिमाग" (लेटेंट स्पेस) में बनाई गई कोई भी योजना वास्तविक दुनिया में पूरी तरह से लागू होगी। यदि AI सोचता है "सीधे चलो," तो वह वास्तव में वास्तविक दुनिया में सीधा चलेगा, भले ही नग्न आंखों के लिए वास्तविक दुनिया बिखरी हुई और उलझी हुई दिखे।

प्रयोग: सिद्धांत का परीक्षण

लेखकों ने केवल गणित नहीं किया; उन्होंने लैब में इसका परीक्षण भी किया:

2D सिमुलेशन: उन्होंने नकली दुनिया बनाई जहाँ वे सटीक "सामग्री" जानते थे। उन्होंने उन्हें जटिल गणित (स्पाइरल, शीयर) के साथ बिखेरा। जब उन्होंने इन पर LeJEPA का उपयोग किया, तो इसने उन्हें मूल आकार में सफलतापूर्वक वापस सुलझा दिया, बस थोड़ा घुमाव बदलकर।
"गलत" सामग्री: उन्होंने "अजीब" सामग्री (गैर-गौसियन) के साथ वही विधि आजमाई। AI उन्हें सुलझाने में विफल रहा, जिससे यह पुष्टि हुई कि गौसियन आकार की आवश्यकता है।
रोबोट नियंत्रण: उन्होंने एक सिम्युलेटेड रोबोटिक आर्म ("Reacher") पर इसका परीक्षण किया।
- जब रोबट ने यादृच्छिक, अन्वेषण संबंधी तरीके से गति की (गौसियन-जैसी डेटा बनाई), तो AI ने जोड़ों की वास्तविक स्थिति को पूरी तरह से सीख लिया।
- जब रोबट ने एक विशिष्ट, लक्ष्य-निर्देशित तरीके से गति की (गैर-गौसियन डेटा बनाया), तो AI भ्रमित हो गया और वास्तविक स्थितियों को नहीं सीख सका।
स्केलिंग: उन्होंने दिखाया कि यह तब भी काम करता है जब सामग्रियों की संख्या 2 से बढ़कर 1,024 हो जाती है।

निचोड़ (The Bottom Line)

यह शोध पत्र एक विशिष्ट प्रकार की AI लर्निंग के लिए गणितीय "रसीद" प्रदान करता है। यह कहता है:

यदि आप चाहते हैं कि एक AI दुनिया का एक विश्वसनीय, उपयोगी मानचित्र (World Model) बनाए जो पूर्ण योजना बनाने की अनुमति दे...
और आप LeJEPA विधि का उपयोग करते हैं...
तो दुनिया का अंतर्निहित डेटा गौसियन (बेल-कर्व आकार) होना चाहिए।
यदि डेटा गौसियन है, तो AI गणितीय रूप से गारंटी देता है कि वह दुनिया की वास्तविक संरचना को सीख लेगा, केवल एक साधारण रोटेशन (जैसे मानचित्र को उल्टा घुमाना, जिससे भूगोल नहीं बदलता) को छोड़कर।

यह एक सफल "रेसिपी" को, जिसका उपयोग इंजीनियर करते हैं, एक सिद्ध गणितीय तथ्य में बदल देता है, जो स्पष्ट करता है कि यह विधि वास्तव में कब और क्यों दुनिया की वास्तविक समझ बनाने के लिए काम करती है।

तकनीकी सारांश: LeJEPA एक वर्ल्ड मॉडल कब सीखता है?

समस्या विवरण (Problem Statement)

यह शोध पत्र स्व-पर्यवेक्षित शिक्षण (self-supervised learning - SSL) में एक मौलिक अंतर को संबोधित करता है: जबकि जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर (JEPAs) ने विजन, वीडियो और प्लानिंग के लिए रिप्रजेंटेशन सीखने में अनुभवजन्य सफलता प्रदर्शित की है, लेकिन इस बात की कोई सैद्धांतिक गारंटी नहीं है कि ये रिप्रजेंटेशन एक "वर्ल्ड मॉडल" (World Model) का निर्माण करते हैं। विशेष रूप से, यह स्पष्ट नहीं है कि सीखा गया रिप्रजेंटेशन दुनिया के अंतर्निहित विलेंट स्ट्रक्चर (जैसे स्थिति, वेग, रंग) को कितनी सटीकता से पुनः प्राप्त करता है, या क्या वह इन कारकों को आपस में उलझा (entangle) देता है।

एक ऐसा रिप्रजेंटेशन जो वास्तविक डिग्री ऑफ फ्रीडम को मिला देता है (उदाहरण के लिए, किसी वस्तु की स्थिति को उसके रंग के साथ मिला देना) संकीर्ण कार्यों पर तो अच्छा प्रदर्शन कर सकता है, लेकिन जब दुनिया बदलती है या जब इसका उपयोग कंपोजिशनल जनरलाइजेशन के लिए किया जाता है, तो यह विफल हो जाता है। मुख्य प्रश्न यह है: कब एक सीखा गया रिप्रजेंटेशन दुनिया के विलेंट वेरिएबल्स को रैखिक रूप से (linearly) पुनः प्राप्त करता है? लेखक इस गुण को लीनियर आइडेंटिफिएबिलिटी (linear identifiability) के रूप में परिभाषित करते हैं, जो विश्वसनीय लीनियर प्रोबिंग और इष्टतम लेटेंट-स्पेस प्लानिंग के लिए एक आवश्यक शर्त है।

कार्यप्रणाली और सैद्धांतिक ढांचा (Methodology and Theoretical Framework)

वर्ल्ड मॉडल (The World Model)

लेखक "दुनिया" को एक ऐसे सिस्टम के रूप में औपचारिक रूप देते हैं जिसमें विलेंट वेरिएबल्स $z \in \mathbb{R}^n$ हैं जो अप्रत्यक्ष (unobserved) हैं। प्रेक्षित डेटा $x$ एक अज्ञात, संभावित रूप से अत्यधिक नॉनलीनियर मिक्सिंग फंक्शन $g$ द्वारा उत्पन्न होता है, जहाँ $x = g(z)$ । लर्निंग ऑब्जेक्टिव सकारात्मक जोड़ों (positive pairs) $(z, z')$ को शामिल करता है जो एक स्टेशनरी प्रक्रिया द्वारा उत्पन्न होते हैं, जिसमें स्वतंत्र, एडिटिव-नॉइज़ ट्रांजिशन होते हैं।

शोध पत्र विशेष रूप से गौसियन वर्ल्ड (Gaussian World) नामक क्लास पर ध्यान केंद्रित करता है, जहाँ $z \sim \mathcal{N}(0, I_n)$ । इन धारणाओं के तहत, ट्रांजिशन डायनेमिक्स एक ऑर्नस्टीन-उहलेनबेक (Ornstein–Uhlenbeck - OU) प्रक्रिया के अनुरूप होते हैं: $z' = \rho z + \sqrt{1-\rho^2}\eta$ ।

लर्नर: LeJEPA

लर्निंग आर्किटेक्चर LeJEPA (LeCun's JEPA) है, जो एक एनकोडर $f$ को प्रशिक्षित करता है ताकि एम्बेडिंग्स $h(z) = f(g(z))$ बनाई जा सकें, और यह एक लॉस फंक्शन को कम करता है जो दो पदों (terms) से बना है:

अलाइनमेंट लॉस (Alignment Loss): सकारात्मक जोड़ों के एम्बेडिंग्स के बीच की दूरी को कम करता है, $E[\|h(z') - h(z)\|^2]$ । यह रिप्रजेंटेशन को धीमे और अनुमानित फीचर्स कैप्चर करने के लिए प्रोत्साहित करता है।
SIGReg (Sketched Isotropic Gaussian Regularization): एम्बेडिंग डिस्ट्रीब्यूशन को स्पष्ट रूप से एक आइसोट्रोपिक गौसियन, $h(z) \sim \mathcal{N}(0, I_n)$ , के रूप में रेगुलराइज करता है, जिससे रिप्रजेंटेशन कोलैप्स (collapse) को रोका जा सके।

ऑप्टिमाइजेशन समस्या है:
$\min_h E[\|h(z') - h(z)\|^2] \quad \text{s.t.} \quad h(z) \sim \mathcal{N}(0, I_n)$

सैद्धांतिक दृष्टिकोण (Theoretical Approach)

लेखक ट्रांजिशन ऑपरेटर $T$ के स्पेक्ट्रल विश्लेषण (spectral analysis) का उपयोग करते हैं, जिसे $(Th)(z) = E[h(z')|z]$ के रूप में परिभाषित किया गया है।

हर्मिट एक्सपेंशन (Hermite Expansion): गौसियन लेटेंट्स के लिए, ट्रांजिशन ऑपरेटर के आइजनफंक्शंस (eigenfunctions) हर्मिट पॉलीनोमियल्स (Hermite polynomials) हैं। आइजनवैल्यू $\rho^d$ के रूप में ज्यामितीय रूप से घटते हैं, जहाँ $d$ पॉलीनोमियल की डिग्री है।
स्पेक्ट्रल पेनल्टी (Spectral Penalty): अलाइनमेंट लॉस उच्च-डिग्री (नॉनलीनियर) घटकों को लीनियर घटकों की तुलना में अधिक दंडित करता है क्योंकि वे ट्रांजिशन के तहत तेजी से डिकोरिलेट (decorrelate) होते हैं।
स्टर्म-लिउविल थ्योरी (Sturm-Liouville Theory): सामान्य (गैर-गौसियन) डिस्ट्रीब्यूशन के लिए, आइजनफंक्शंस को स्टर्म-लिउविल थ्योरी द्वारा वर्णित किया जाता है। पहला नॉन-कांस्टेंट आइजनफंक्शन हमेशा मोनोटोनिक होता है, लेकिन लीनेरिटी केवल तभी गारंटीकृत होती है जब डिस्ट्रीब्यूशन गौसियन हो।

मुख्य योगदान (Key Contributions)

1. फॉरवर्ड डायरेक्शन: गौसियन वर्ल्ड्स के लिए लीनियर आइडेंटिफिएबिलिटी

थ्योरम 1 सिद्ध करता है कि यदि विलेंट वेरिएबल्स गौसियन हैं और ट्रांजिशन एक OU प्रक्रिया है, तो LeJEPA ऑब्जेक्टिव का कोई भी मिनिमाइज़र (गौसियनिटी बाधाओं के अधीन) वास्तविक लेटेंट्स का एक लीनियर ऑर्थोगोनल ट्रांसफॉर्मेशन होगा: $h(z) = Qz $(जहाँ$ Q$ एक ऑर्थोगोनल मैट्रिक्स है)।

मैकेनिज्म: प्रमाण एक स्पेक्ट्रल डीकंपोजिशन पर निर्भर करता जहाँ कोई भी नॉनलिनैरिटी सकारात्मक जोड़ों के बीच सहसंबंध (correlation) को सख्ती से कम करती है। चूंकि अलाइनमेंट लॉस इस सहसंबंध को अधिकतम करने की कोशिश करता है, इसलिए ग्लोबल ऑप्टिमम शुद्ध रूप से लीनियर (डिग्री-1 हर्मिट पॉलीनोमियल्स) होने के लिए मजबूर करता है।
परिणाम: सीखा गया रिप्रजेंटेशन वैश्विक रोटेशन तक वास्तविक लेटेंट्स को पुनः प्राप्त करता है, और ट्रांजिशन डायनेमिक्स को लेटेंट स्पेस में सटीक रूप से रिकवर किया जाता है।

2. कन्वर्स डायरेक्शन: गौसियन की विशिष्टता (Uniqueness of the Gaussian)

थ्योरम 2 यह स्थापित करता है कि गौसियन डिस्ट्रीब्यूशन ही एकमात्र विलेंट डिस्ट्रीब्यूशन है जिसके लिए इस क्लास के वर्ल्ड्स में लीनियर आइडेंटिफिएबिलिटी बनी रहती है।

मैकेनिज्म: स्टर्म-लिउविल थ्योरी का उपयोग करते हुए, लेखक दिखाते हैं कि ट्रांजिशन ऑपरेटर के पहले आइजनफंक्शन को एफाइन (लीनियर) होने की मांग करना, लेटेंट डिस्ट्रीब्यूशन के स्कोर फंक्शन को लीनियर होने के लिए मजबूर करता है। यह स्थिति अनन्य रूप से गौसियन डिस्ट्रीब्यूशन को परिभाषित करती है।
निहितार्थ: यदि विलेंट वेरिएबल्स नॉन-गौसियन हैं, तो LeJEPA लीनियर आइडेंटिफिएबिलिटी की गारंटी नहीं दे सकता; सीखा गया रिप्रजेंटेशन अनिवार्य रूप से लेटेंट्स का एक नॉनलीनियर ट्रांसफॉर्मेशन होगा।

3. अनुमानित पहचान (Approximate Identifiability)

थ्योरम 3 एक क्वांटिटेटिव बाउंड प्रदान करता है कि जब ऑब्जेक्टिव केवल अनुमानित रूप से संतुष्ट होते हैं (अर्थात, अपूर्ण अलाइनमेंट और अपूर्ण व्हाइटनिंग), तो रिकवरी एरर क्या होता है।

एरर अलाइनमेंट गैप $\delta$ और व्हाइटनिंग एरर $\epsilon$ के साथ स्केल होता है।
बाउंड यह उजागर करता है कि अलाइनमेंट गैप रिकवरी एरर के लिए प्रमुख कारक है, जबकि अनुमानित व्हाइटनिंग को प्राप्त करना अपेक्षाकृत आसान है।

4. इष्टतम लेटेंट प्लानिंग (Optimal Latent Planning)

थ्योरम 4 कंट्रोल थ्योरी के साथ लीनियर आइडेंटिफिएबिलिटी को जोड़ता है। यह सिद्ध करता है कि यदि एनकोडर लीनियरली आइडेंटिफिएबल है ($h(z) = Qz$), तो कोई भी ऑप्टिमल कंट्रोल प्रॉब्लम जिसमें ऑर्थोगोनल ट्रांसफॉर्मेशन्स के तहत इनवेरिएंट कॉस्ट (जैसे लक्ष्य तक यूक्लिडियन दूरी) होती है, उसे सीखे गए लेटेंट स्पेस में इष्टतम रूप से हल किया जा सकता है। लेटेंट स्पेस में ऑप्टिमल एक्शन्स और वैल्यू फंक्शन्स सीधे वास्तविक दुनिया से मैप होते हैं, जिसके लिए कॉस्ट फंक्शन में किसी संशोधन की आवश्यकता नहीं होती है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक अपने सिद्धांत को कई प्रयोगात्मक सेटिंग्स में सत्यापित करते हैं:

2D सिमुलेशन: विभिन्न नॉनलीनियर मिक्सिंग फंक्शन्स (स्पाइरल, शीयर, RealNVP) का उपयोग करके, LeJEPA रोटेशन तक वास्तविक विलेंट वेरिएबल्स को सफलतापूर्वक रिकवर करता है, जो थ्योरम 1 की पुष्टि करता है।
हाई-डायमेंशनल स्केलिंग: $N=1024$ आयामों तक के प्रयोग दिखाते हैं कि बैच-सांख्यिकीय रेगुलराइज़र (SIGReg, VICReg) लगभग पूर्ण लीनियर आइडेंटिफिएबिलिटी ( $R^2 > 0.999$ ) बनाए रखते हैं, जबकि कंट्रास्टिव मेथड्स (InfoNCE) स्केल पर घटते जाते हैं।
डिस्ट्रिब्यूशनल एब्लेशन: लेटेंट डिस्ट्रीब्यूशन शेप (हेवी-टेल्ड से यूनिफॉर्म तक) को स्कैन करने से पता चलता है कि लीनियर रिकवरी गौसियन ( $\alpha=2$ ) पर चरम पर होती है और नॉन-गौसियन डिस्ट्रीब्यूशन के लिए घट जाती है, जो थ्योरम 2 को सत्यापित करती है।
पिक्सेल-आधारित रोबोटिक कंट्रोल: DeepMind Control Suite Reacher का उपयोग करके, लेखक सिंथेटिक गौसियन ट्रांजिशन (OU) बनाम वास्तविक RL ट्रेजेक्टरीज पर प्रशिक्षण की तुलना करते हैं।
- OU कंडीशन: उच्च लीनियर आइडेंटिफिएबिलिटी ( $R^2 \approx 0.95$ ) प्राप्त करता है।
- ट्रेजेक्टरी कंडीशन: वास्तविक-दुनिया की पॉलिसियाँ नॉन-गौसियन, एनिसोट्रोपिक मार्जिनल्स प्रेरित करती हैं, जिसके परिणामस्वरूप काफी कम आइडेंटिफिएबिलिटी ( $R^2 < 0.5$ ) होती है।
प्लानिंग वैलिडेशन: Reacher टास्क में, गौसियन-प्रशिक्षित एनकोडर के सीखे गए लेटेंट स्पेस में स्ट्रेट-लाइन इंटरपोलेशन, जॉइंट स्पेस में लगभग सीधे पथों को डिकोड करता है (इष्टतम प्लानिंग)। इसके विपरीत, ट्रेजेक्टरी-प्रशिक्षित एनकोडर घुमावदार, सब-ऑप्टिमल पथ बनाता है, जो थ्योरम 4 की पुष्टि करता है।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि यह JEPAs के लिए पहला आइडेंटिफिएबिलिटी रिजल्ट प्रदान करता है, जो एक अनुभवजन्य रूप से सफल रेसिपी को एक गणितीय गारंटी में बदल देता है।

मौलिक गारंटी: यह कार्य स्थापित करता है कि LeJEPA विशिष्ट, अच्छी तरह से परिभाषित स्थितियों (गौसियन लेटेंट्स, स्टेशनरी एडिटिव नॉइज़) के तहत दुनिया की संरचना (विलेंट वेरिएबल्स और डायनेमिक्स) को प्रमाणित रूप से पुनः प्राप्त करता है।
गौसियनिटी की भूमिका: यह पेपर क्लासिकल ICA नैरेटिव को उलट देता है। लीनियर ICA में, गौसियनिटी वह डिस्ट्रीब्यूशन है जहाँ सोर्स सेपरेशन विफल हो जाता है। इस नॉनलीनियर, स्व-पर्यवेक्षित सेटिंग में, गौसियनिटी वह अनन्य डिस्ट्रीब्यूशन है जो लीनियर आइडेंटिफिएबिलिटी को सक्षम बनाती है।
व्यावहारिक निहितार्थ: यह सिद्धांत समझाता है कि क्यों अन्वेषण रणनीतियाँ (exploration strategies) जो आइसोट्रोपिक रैंडम वॉक के करीब होती हैं (डेटा को गौसियन रिजीम में रखती हैं), उपयोगी वर्ल्ड मॉडल सीखने के लिए महत्वपूर्ण हैं, जबकि लक्ष्य-निर्देशित पॉलिसियाँ (जो डेटा को लो-एन्ट्रॉपी क्षेत्रों में कोलैप्स करती हैं) आइडेंटिफिएबिलिटी को तोड़ सकती हैं।
प्लानिंग फाउंडेशन: यह सिद्ध करके कि लीनियर आइडेंटिफिएबिलिटी ऑर्थोगोनल ट्रांसफॉर्मेशन के तहत इनवेरिएंट कॉस्ट के साथ इष्टतम प्लानिंग को सक्षम बनाती है, यह पेपर वास्तविक भौतिक निर्देशांकों में मैप किए बिना कंट्रोल के लिए सीखे गए लेटेंट स्पेस का उपयोग करने के लिए एक सैद्धांतिक औचित्य प्रदान करता है।

लेखक सीमाओं को नोट करते हैं: सिद्धांत मानता है कि एनकोडर डायमेंशन विलेंट डायमेंशन के बराबर है और यह जनसंख्या-स्तर की इष्टतमता (optimality) पर निर्भर करता है। हालांकि, वे प्रदर्शित करते हैं कि गारंटी सीमित नमूनों (finite samples) और ऑप्टिमाइजेशन त्रुटियों के साथ धीरे-धीरे घटती है, और उन्होंने Lean 4 थ्योरम प्रूवर का उपयोग करके अपने सभी मुख्य थ्योरम्स को औपचारिक रूप से सत्यापित किया है।