The SIGReg Objective as Variational Free Energy: A Theoretical Active-Inference Account of JEPA World Models
यह शोध पत्र जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर (JEPAs) के लिए एक सैद्धांतिक एक्टिव इन्फरेंस फ्रेमवर्क स्थापित करता है, यह सिद्ध करते हुए कि SIGReg रेगुलराइज़र पूर्व-मिसकैलिब्रेशन अंतराल (prior-miscalibration gap) को समाप्त करके प्रशिक्षण उद्देश्य को एक वैध वेरिएशनल फ्री एनर्जी में अनन्य रूप से रूपांतरित करता है, जबकि अन्य सामान्य रेगुलराइज़र आवश्यक सरप्राइज बाउंड्स को बनाए रखने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को दुनिया को समझना सिखाने की कोशिश कर रहे हैं। आप नहीं चाहते कि वह केवल एक वीडियो के हर एक पिक्सेल को रट ले (जो असंभव और बर्बादी है); आप चाहते हैं कि वह एक मानसिक मानचित्र बनाए, वास्तविकता का एक संकुचित "लेटेंट" (latent) संस्करण, जहाँ वह भविष्यवाणी कर सके कि आगे क्या होने वाला है। यह जॉइंट-एम्बेडिंग प्रेडिक्टिव आर्किटेक्चर (JEPA) का सपना है। इसे एक छात्र द्वारा नोट्स लेने की तरह समझें: पूरे लेक्चर को शब्द-दर-शब्द कॉपी करने के बजाय, वे मुख्य अवधारणाओं और उनके बीच के संबंधों को लिखते हैं।
लेकिन इसमें एक पेच है। जब आप जानकारी को संकुचित करते हैं, तो आप उन विवरणों को खोने का जोखिम उठाते हैं जो महत्वपूर्ण हैं, या इससे भी बुरा, रोबोट धोखाधड़ी कर सकता है और अपने सभी नोट्स को एक ही उबाऊ "सब कुछ एक जैसा है" वाले उत्तर में समेट सकता है। इस धोखाधड़ी को रोकने के लिए, वैज्ञानिक एक विशेष नियम का उपयोग करते हैं जिसे रेगुलराइज़र (regularizer) कहा जाता है। यह एक शिक्षक के लाल पेन की तरह है जो कहता है, "हे, सुनिश्चित करें कि आपके नोट्स विविध और फैले हुए हों!"
ब्रह्मांड के दूसरी ओर, एक्टिव इन्फरेंस (Active Inference) नामक एक सिद्धांत है। यह सिद्धांत सुझाव देता है कि बुद्धिमान जीव (जैसे हम या रोबोट) "आश्चर्य" (surprise) को कम करने के लिए कार्य करते हैं। हम दुनिया का एक मॉडल बनाते हैं, और जब वास्तविकता हमारे मॉडल से मेल नहीं खाती, तो हमें "आश्चर्य" महसूस होता है (या गणितीय शब्दों में, हमारे पास उच्च "फ्री एनर्जी" होती है)। जीवित रहने के लिए, हम या तो अपने मॉडल को बदलते हैं या दुनिया के अनुरूप फिट होने के लिए अपने कार्यों को बदलते हैं। वैज्ञानिक अब तक एक बड़ा सवाल पूछ रहे हैं: इन रोबोट नोट-टेकर (JEPA) को प्रशिक्षित करने के लिए हम जिन ट्रिक्स का उपयोग करते हैं, क्या वे वास्तव में वही गणित है जो आश्चर्य को कम करने के नियमों को नियंत्रित करता है? अब तक, हमने ज्यादातर केवल अनुमान लगाया है कि वे कितने अच्छे प्रदर्शन करते हैं, लेकिन हमारे पास कोई सख्त प्रमाण नहीं था।
यह शोध पत्र एक जासूसी कहानी की तरह है जो अंततः इन दो दुनियाओं के बीच के बिंदुओं को जोड़ता है। लेखक, फैबियो अर्नेज़ और एलेक्जेंड्रा गोमेज़-विला, आधुनिक रोबोट प्रशिक्षण में उपयोग किए जाने वाले एक विशिष्ट प्रकार के "एंटी-चीटिंग नियम" की जांच करते हैं। वे पूछते हैं: क्या वह नियम जिसका उपयोग हम रोबोट के नोट्स को विविध रखने के लिए करते है, वास्तव में यह गारंटी देता है कि रोबोट गणितीय रूप से सही तरीके से आश्चर्य को कम कर रहा है?
इसका उत्तर पूरी तरह से इस पर निर्भर करता है कि आप कौन सा नियम चुनते हैं। लेखक चार अलग-अलग नियमों को एक पदानुक्रम में व्यवस्थित करते हैं, जो सटीकता की एक सीढ़ी की तरह है। सबसे नीचे, आपके पास VICReg जैसे लोकप्रिय नियम हैं। ये "असुरक्षित" हैं। कल्पना कीजिए कि एक छात्र अपने स्कोर को एक नकली टेस्ट पर बढ़ाकर अपना ग्रेड अधिकतम करने की कोशिश करता है। शिक्षक (गणित) एक उच्च स्कोर देखता है, लेकिन छात्र ने वास्तव में कुछ सीखा नहीं है। उसी तरह, VICReg रोबोट को यह सोचने के लिए धोखा दे सकता है कि उसके पास एक विविध, सूचनात्मक मानचित्र है जबकि वास्तव में ऐसा नहीं है। यह रोबोट के ज्ञान पर एक "अपर बाउंड" (upper bound) सेट करता है, जिसका अर्थ है कि रोबोट सोच सकता है कि वह बहुत अच्छा कर रहा है जबकि वास्तव में वह दुनिया को समझने में विफल हो रहा है।
फिर, एक नियम है जिसे SIGReg कहा जाता है। लेखक सिद्ध करते हैं कि यह "गोल्डन टिकट" है। अन्य नियमों के विपरीत, SIGReg केवल अनुमान नहीं लगाता या सन्निकटन (approximation) नहीं करता; यह रोबोट के मानसिक मानचित्र को पूरी तरह से संतुलित और फैला हुआ (गणितीय रूप से, एक "आइसोट्रोपिक गौसियन") होने के लिए मजबूर करता है। जब रोबोट SIGReg का उपयोग करता है, तो गणित पूरी तरह से बदल जाता है। वह "अंतराल" (gap) जो रोबोट को लगता है कि वह जानता है और जो वह वास्तव में जानता है, गायब हो जाता है। अचानक, रोबोट का प्रशिक्षण उद्देश्य एक्टिव इन्फरेंस फॉर्मूले का एक सटीक मिलान बन जाता है। यह अब केवल एक मोटा अनुमान नहीं है; यह एक पूर्ण अनुवाद है।
यह पत्र दिखाता है कि यदि आप SIGReg का उपयोग करते हैं, तो रोबोट का "भविदन त्रुटि को कम करने" का लक्ष्य "आश्चर्य को कम करने" के बिल्कुल समान है। इसके अलावा, लेखक वर्तमान रोबोट मस्तिष्क में एक लापता चीज़ की खोज करते हैं। ये रोबोट एक लक्ष्य तक पहुँचने के लिए आगे की योजना बनाने में तो माहिर हैं (प्रैग्मैटिक वैल्यू), लेकिन उनमें एक विशिष्ट "जिज्ञासा" संकेत की कमी है। उनके पास भविष्य के बारे में अधिक सीखने के लिए केवल नए अवस्थाओं (states) को खोजने का आंतरिक आग्रह (state-epistemic value) नहीं है। यह पत्र बताता है कि यह वह हिस्सा है जिसे वर्तमान रोबोट अनदेखा कर रहे हैं।
लेखक बहुत सावधानी से कहते हैं कि हालांकि गणित विशिष्ट परिस्थितियों में (जैसे कि जब रोबोट का प्रशिक्षण डेटा अनंत हो और शोर स्थिर हो) सटीक रूप से सिद्ध है, लेकिन वास्तविक दुनिया का परीक्षण अभी बाकी है। उन्होंने एक सैद्धांतिक पुल बनाया है, लेकिन उन्होंने अभी तक उस पर कार नहीं चलाई है। वे भविष्यवाणी करते हैं कि SIGReg के साथ प्रशिक्षित रोबोट पुराने तरीकों की तुलना में अधिक स्थिर, बेहतर योजना बनाने वाले और अपने ज्ञान के बारे में अधिक "ईमानदार" होंगे। लेकिन वे अंतिम निर्णय भविष्य के प्रयोगों पर छोड़ देते हैं।
संक्षेप में, यह शोध पत्र हमें बताता है कि एक वास्तव में "सक्रिय" रोबोट बनाने का रहस्य—एक ऐसा रोबोट जो एक जिज्ञासु खोजकर्ता की तरह सीखता है और कार्य करता है—शायद एक पुराने, थोड़े टूटे हुए नियम को एक नए, गणितीय रूप से पूर्ण नियम से बदलकर ही मिल सकता है। यह एक ह्यूरिस्टिक ट्रिक को एक कठोर वैज्ञानिक सिद्धांत में बदल देता है, जो हमें दिखाता है कि कैसे रोबोट के मस्तिष्क को भौतिकी और सूचना के नियमों के साथ संरेखित किया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।