SCALE: State-Calibrated Latent Embeddings for JEPA Planning in the Right Geometry
यह शोध पत्र SCALE का प्रस्ताव करता है, जो एक हल्का प्रशिक्षण-समय नियमितकर्ता (training-time regularizer) है जो एंड-टू-एंड सीखे गए लेटेंट एम्बेडिंग्स की ज्यामिति को एक मानकीकृत कार्य-प्रासंगिक स्टेट स्पेस के साथ संरेखित करता है, जिससे बिना किसी अतिरिक्त प्लानिंग-टाइम ओवरहेड के यह सुनिश्चित होता है कि एम्बेडिंग स्पेस में उच्च-विचलन दिशाएं प्रभावी रूप से स्टेट जानकारी को कैप्चर करती हैं, जिससे JEPA प्लानिंग प्रदर्शन में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जीवित प्राणियों की तरह सोचने और कार्य करने वाली मशीनें बनाने की खोज में, शोधकर्ता लंबे समय से "वर्ल्ड मॉडल" (विश्व मॉडल) नामक एक अवधारणा पर निर्भर रहे हैं। एक ऐसे रोबोट की कल्पना करें जो केवल वही नहीं करता जो वह अभी देख रहा है, बल्कि भविष्य का एक मानसिक सिमुलेशन (अनुकरण) भी चलाता है। अपनी एक भी मांसपेशी हिलाने से पहले, वह खुद से पूछता है, "यदि मैं उस कप की ओर हाथ बढ़ाता हूँ, तो क्या होगा?" वह घटनाओं के क्रम की कल्पना करता है, परिणाम का पूर्वानुमान लगाता है, और उसके बाद ही वह क्रिया चुनता है जो सर्वोत्तम परिणाम की ओर ले जाती है। इन सिमुलेशनों के काम करने के लिए, मशीन को दुनिया का प्रतिनिधित्व करने के एक ऐसे तरीके की आवश्यकता होती है जो गणना करने के लिए पर्याप्त संक्षिप्त हो लेकिन उपयोगी होने के लिए पर्याप्त विस्तृत भी हो। यदि प्रतिनिधित्व बहुत अव्यवज़ित है, तो रोबोट शोर में खो जाता है; यदि यह बहुत सरल है, तो वह सफलता के लिए आवश्यक महत्वपूर्ण विवरणों को चूक जाता है। चुनौती एक ऐसे संतुलन को खोजने में है जहाँ मशीन का आंतरिक मानचित्र न केवल सटीक हो, बल्कि इस तरह से व्यवस्थित भी हो कि योजना बनाना आसान हो जाए।
बोस्टन यूनिवर्सिटी और यूनिटी टेक्नोलॉजीज के शोधकर्ताओं द्वारा किया गया एक हालिया अध्ययन उन तरीकों में एक सूक्ष्म लेकिन महत्वपूर्ण दोष को संबोधित करता है जिनसे वर्तमान में ये मानसिक मानचित्र बनाए जाते हैं। उन्होंने पाया कि एक मशीन किसी कार्य को समझने में पूरी तरह सक्षम हो सकती है, फिर भी योजना बनाने का प्रयास करते समय उस समझ का उपयोग करने में विफल हो सकती है। समस्या यह नहीं है कि जानकारी गायब है, बल्कि यह है कि वह मशीन के आंतरिक ज्यामिति (geometry) के गलत हिस्से में छिपी हुई है। इसे ठीक करने के लिए, टीम ने SCALE नामक एक नई विधि विकसित की, जो मशीन के आंतरिक मानचित्र को इस तरह से नया आकार देती है कि कार्य के लिए सबसे महत्वपूर्ण विवरण वे बन जाते हैं जो निर्णय लेते समय सबसे अधिक स्पष्ट रूप से उभर कर आते हैं।
शोधकर्ताओं ने दो अलग-अलग तरीकों से शुरुआत की जिनसे मशीनें दुनिया का प्रतिनिधित्व करना सीखती हैं। एक दृष्टिकोण, जो DINO-WM नामक प्रणाली में उपयोग किया जाता है, उन विशेषताओं पर निर्भर करता है जो रोबोट के किसी विशिष्ट कार्य को देखने से पहले ही भारी मात्रा में डेटा से सीखी गई होती हैं। यह विधि स्वाभाविक रूप से एक ऐसा मानचित्र बनाती है जहाँ महत्वपूर्ण अवस्थाओं के बीच के अंतर को देखना आसान होता है। दूसरा दृष्टिकोण, जिसे LeWorldModel के रूप में जाना जाता है, मशीन को शून्य से भविष्य की भविष्यवाणी करना सिखाता है। जबकि यह विधि लचीली है और तेजी से सीखती है, शोधकर्ताओं ने पाया कि इसके परिणामस्वरूप बनने वाला मानचित्र अक्सर सबसे महत्वपूर्ण जानकारी को छिपा देता है। भले ही मशीन सीधे पूछे जाने पर सही उत्तर निकालने में सक्षम हो, लेकिन भविष्य की विभिन्न संभावनाओं के बीच की दूरी मापने का तरीका अप्रासंगिक विवरणों से प्रभावित रहता है। यह ऐसा ही था जैसे मशीन के पास एक पुस्तकालय हो जहाँ हर किताब को सही ढंग से सूचीबद्ध किया गया हो, लेकिन लाइब्रेरियन वास्तविक सामग्री को अनदेखा करके केवल किताब के कवर के रंग को देखकर यह तय करता हो कि किसे चुनना है।
यह समझने के लिए कि यह क्यों होता है, विचार करें कि एक मशीन यह निर्णय कैसे लेती है कि कौन सा कार्य करना है। वह कई संभावित भविष्य की कल्पना करती है और जहाँ वह समाप्त होने की उम्मीद करती है और जहाँ वह जाना चाहती है, उसके बीच की दूरी को मापती है। शून्य से सीखने वाली प्रणालियों में, मशीन की दूरी का आंतरिक माप डेटा के सबसे सामान्य परिवर्तनों से अत्यधिक प्रभावित होता है, जो अक्सर हाथ में मौजूद कार्य के लिए महत्वहीन होते हैं। कार्य के बारे में महत्वपूर्ण जानकारी, जैसे कि किसी वस्तु की स्थिति या किसी जोड़ (joint) का कोण, मशीन की स्मृति में कूटबद्ध (encoded) हो सकती है, लेकिन वह मानचित्र के एक शांत कोने में स्थित होती है जिसे योजना प्रक्रिया शायद ही कभी नोटिस करती है। मशीन जानकारी को निकाल सकती है यदि उसे मजबूर किया जाए, लेकिन जब उसे चुनाव करने की आवश्यकता होती है, तो वह इसका उपयोग नहीं करती है।
टीम ने मशीन को अपना मानचित्र अलग तरह से व्यवस्थित करने के लिए मजबूर करने हेतु एक समाधान प्रस्तावित किया। उन्होंने एक प्रशिक्षण नियम पेश किया जो सीधे मशीन की दूरी की आंतरिक समझ को वास्तविक दुनिया की अवस्थाओं के बीच की भौतिक दूरी से जोड़ता है। प्रशिक्षण के दौरान, सिस्टम को स्थितियों के जोड़े दिखाए जाते हैं और यह बताया जाता है कि यदि दो स्थितियाँ वास्तविकता में दूर हैं, तो उन्हें मशीन के आंतरिक प्रतिनिधित्व में भी दूर होना चाहिए। यह मशीन की सीखने की प्रक्रिया को प्रतिस्थापित नहीं करता है; इसके बजाय, यह एक कोमल मार्गदर्शक के रूप में कार्य करता है, जो मशीन को अपने आंतरिक मानचित्र को पुनर्गठित करने के लिए प्रेरित करता है ताकि सबसे कार्य-प्रासंगिक अंतर सबसे प्रमुख विशेषताएं बन सकें। यह सुनिश्चित करता है कि जब मशीन भविष्य की क्रिया की लागत की गणना करती है, तो गणना उन विवरणों द्वारा संचालित होती है जो वास्तव में सफलता के लिए मायने रखते हैं।
इस दृष्टिकोण के परिणाम आश्चर्यजनक थे। शोधकर्ताओं ने अपने नए तरीके, SCALE का परीक्षण पांच अलग-अलग वातावरणों में किया, जिसमें ब्लॉक को धकेलने से लेकर भूलभुलैया में नेविगेट करने तक शामिल था, और तीन अलग-अलग योजना एल्गोरिदम का उपयोग किया गया। प्रत्येक परीक्षण में, SCALE के साथ प्रशिक्षित प्रणाली ने शून्य से सीखने वाली मानक प्रणाली से बेहतर प्रदर्शन किया। सुधार निरंतर था, चाहे कितनी भी कंप्यूटिंग शक्ति उपलब्ध हो या कौन सा योजना एल्गोरिदम उपयोग किया गया हो। यह सिद्ध करने के लिए कि सफलता नए ज्यामिति के कारण थी न कि केवल बेहतर स्मृति के कारण, उन्होंने इसकी तुलना एक अलग विधि से की जो केवल मशीन की स्मृति से कार्य की जानकारी को आसानी से पढ़ने का प्रयास करती थी। वह वैकल्पिक विधि वास्तव में जानकारी को सटीक रूपता से पढ़ सकती थी, लेकिन वह SCALE की तरह लगातार योजना प्रदर्शन में सुधार करने में विफल रही। इसने पुष्टि की कि सफलता की कुंजी केवल जानकारी का होना नहीं था, बल्कि उसका इस तरह व्यवस्थित होना था जिसे प्लानर वास्तव में उपयोग कर सके।
यह अध्ययन कृत्रिम बुद्धिमत्ता के बारे में एक मौलिक अंतर्दृष्टि प्रकट करता है: प्रतिनिधित्व की गुणवत्ता केवल इस बात से नहीं है कि उसमें क्या जानकारी है, बल्कि इस बात से है कि वह जानकारी कैसे संरचित है। एक मशीन अपने मन में सही उत्तर रख सकती है, लेकिन यदि उस उत्तर तक पहुँचने का मार्ग गलत प्रकार के शोर द्वारा बाधित है, तो मशीन विफल हो जाएगी। वर्ल्ड मॉडल की आंतरिक ज्यामिति को कार्य की वास्तविकता के अनुरूप कैलिब्रेट करके, शोधकर्ताओं ने दिखाया कि योजना बनाना काफी अधिक विश्वसनीय हो जाता है। यह कार्य सुझाव देता है कि मशीनों के जटिल कार्यों में महारत हासिल करने के लिए, हमें उन्हें न केवल दुनिया को देखना सिखाना चाहिए, बल्कि उसे इस तरह देखना सिखाना चाहिए जो उनके द्वारा लिए जाने वाले निर्णयों के लिए सार्थक हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।