Imagined Rollouts are Kinematic, Not Dynamic: A Diagnosis of Long-Horizon World-Model Failure
यह शोध पत्र एक प्रस्तावित 'काइनेमैटिक-कंसिस्टेंसी एरर' (Kinematic-Consistency Error) मीट्रिक के माध्यम से यह प्रदर्शित करते हुए वर्ल्ड मॉडल्स में लॉन्ग-होरिज़ॅन विफलताओं का निदान करता है कि वे मुख्य रूप से काइनेमैटिक रूप से कल्पना करते हैं न कि डायनेमिक रूप से, जैसा कि इस तथ्य से प्रमाणित होता है कि पॉलिसी प्रदर्शन के ढहने के बावजूद यह मीट्रिक उच्च बना रहता है और भौतिक शासन परिवर्तनों के प्रति असंवेदनशील रहता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को इंसान के चलने का वीडियो दिखाकर उसे चलना सिखा रहे हैं। आप चाहते हैं कि रोबोट न केवल यह सीखे कि वह व्यक्ति कैसा दिखता है, बल्कि यह भी कि वह कैसे चलता है ताकि वह भविष्य में भविष्यवाणी कर सके कि वह कहाँ होगा। "वर्ल्ड मॉडल्स" (World Models) यही करते हैं: वे ऐसे AI दिमाग हैं जो अपने भीतर वास्तविकता का अनुकरण (simulate) करने की कोशिश करते हैं ताकि वे आगे की योजना बना सकें।
यह शोध पत्र तर्क देता है कि ये AI दिमाग एक बहुत ही विशिष्ट और चालाकी भरे तरीके से विफल हो रहे हैं। वे इसलिए विफल नहीं हो रहे हैं क्योंकि वे चीज़ों को "भूल" रहे हैं (जो कि सामान्य कारण होता है); वे इसलिए विफल हो रहे हैं क्योंकि वे चीटिंग (बेईमानी) कर रहे हैं।
यहाँ उनके खोज का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:
1. मुख्य समस्या: "स्लाइड रूल" बनाम "फिजिक्स इंजन"
लेखक कहते हैं कि वर्तमान AI मॉडल काइनेमैटिक (Kinematic) हैं, लेकिन डायनैमिक (Dynamic) नहीं।
- काइनेमैटिक (चीटिंग): कल्पना कीजिए कि आप कागज पर एक रेखा खींच रहे हैं। आप जानते हैं कि रेखा सीधी जाएगी, इसलिए आप बस उसे सीधा खींचते रहते हैं। आपको इस बात की परवाह नहीं है कि वह सीधी क्यों है या कागज फिसलन भरा है या नहीं। आप बस पैटर्न को आगे बढ़ा रहे हैं। AI यही करता है: वह देखता है कि रोबोट कहाँ था, उसकी गति कितनी थी, और बस एक सीधी रेखा आगे की ओर खींच देता है। वह वास्तविक दुनिया के जटिल नियमों (जैसे गुरुत्वाकर्षण, घर्षण, या रोबोट के पैरों का फिसलना) को अनदेखा कर देता है।
- डायनैमिक (सच्चाई): यह एक वास्तविक फिजिक्स इंजन की तरह है। यदि आप बर्फ पर एक भारी डिब्बे को धकेलते हैं, तो वह दूर तक फिसलता है। यदि आप उसे रेत पर धकेलते हैं, तो वह जल्दी रुक जाता है। एक "डायनैमिक" मॉडल समझता है कि सतह परिणाम को बदल देती है।
निदान (Diagnosis): शोध पत्र का दावा है कि ये AI मॉडल उस छात्र की तरह हैं जिसने गणित के टेस्ट के लिए उत्तर कुंजी (answer key) रट ली है लेकिन उसे सूत्रों (formulas) की समझ नहीं है। वे समान स्थितियाँ रहने पर अगले कदम का सही अनुमान लगा सकते हैं, लेकिन जैसे ही स्थितियाँ बदलती हैं (जैसे फर्श फिसलन भरा हो जाए), वे वही "सीधी रेखा" वाला उत्तर देते रहते हैं, भले ही रोबोट को गिर जाना चाहिए।
2. नया परीक्षण: "फिसलन भरा फर्श" प्रयोग
इसे सिद्ध करने के लिए, शोधकर्ताओं ने iKCE नामक एक परीक्षण बनाया। इसे एक "रियलिटी चेक" मीटर की तरह समझें।
- यह कैसे काम करता है: वे भविष्य के AI के पूर्वानुमान (prediction) को एक सरल, साधारण गणितीय सूत्र के साथ तुलना करते हैं जो केवल यह मान लेता है कि "जो ऊपर जाता है उसे नीचे आना ही होगा" या "जो चलता रहता है वह चलता रहता है।"
- ट्विस्ट: यदि AI वास्तव में भौतिकी (physics) को समझ रहा है, तो वातावरण बदलने पर (जैसे फर्श को फिसलन भरा बनाने पर) उसके पूर्वानुमान नाटकीय रूप से बदल जाने चाहिए। यदि AI केवल पैटर्न के साथ "चीटिंग" कर रहा है, तो उसके पूर्वानुमान बिल्कुल नहीं बदलेंगे।
परिणाम:
उन्होंने एक चलते हुए रोबोट ("वॉकर") पर इसका परीक्षण किया। उन्होंने फर्श को फिसलन भरा (कम घर्षण) बनाया और फिर बहुत अधिक पकड़ वाला (उच्च घर्षण) बनाया।
- असली रोबोट: जब फर्श फिसलन भरा हुआ, तो रोबोट लड़खड़ाया और गिर गया। उसका रिवॉर्ड स्कोर गिर गया। वह समझ गया कि भौतिकी बदल गई है।
- AI की कल्पना: AI यह भविष्यवाणी करता रहा कि रोबोट फिसलन भरे फर्श पर भी ठीक से चलता रहेगा। उसका "रियलिटी चेक" मीटर स्थिर रहा। उसने यह ध्यान ही नहीं दिया कि फर्श बदल गया है क्योंकि वह वास्तव में फिसलने की भौतिकी का अनुकरण नहीं कर रहा था; वह केवल चलने की गति का अनुकरण कर रहा था।
3. यह क्यों मायने रखता है (द "लॉन्ग वॉक" प्रॉब्लम)
आमतौर पर, लोग सोचते हैं कि AI लंबे कार्यों में इसलिए विफल होता है क्योंकि त्रुटियां जमा होती हैं (जैसे "टेलीफोन गेम" की तरह जहाँ संदेश बिगड़ जाता है)। लेखक कहते हैं, "नहीं, यह पूरी कहानी नहीं है।"
असली मुद्दा यह है कि AI रेजीम बाउंड्रीज (regime boundaries - नियमों की सीमाओं) के प्रति अंधा है।
- उपमा: कल्पना कीजिए कि आप कार चला रहे हैं। यदि आप सूखी सड़क पर चलते हैं, तो आप तेजी से मुड़ सकते हैं। यदि आप बर्फ पर चलते हैं, तो आप नहीं मुड़ सकते।
- AI की गलती: AI सोचता है, "मैंने सूखी सड़क पर तेजी से मोड़ लिया, इसलिए मैं बर्फ पर भी तेजी से मोड़ सकता हूँ।" वह यह नहीं समझता कि खेल के नियम बदल गए हैं। वह बस उसी "मुड़ने" वाले तर्क को लागू करता रहता है, जिससे वास्तविक दुनिया में दुर्घटना होती है, भले ही AI को लगा हो कि वह बहुत अच्छा कर रहा है।
4. निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि ये AI मॉडल संरचनात्मक रूप से आलसी (structurally lazy) हैं। उन्होंने गति (kinematics) का पूर्वानुमान लगाना तो सीख लिया है, लेकिन वे उन बलों (forces) को सीखने में विफल रहे हैं जो उस गति का कारण बनते हैं (dynamics)।
- वे इसमें अच्छे हैं: यह अनुमान लगाने में कि आगे क्या होगा यदि सब कुछ बिल्कुल वैसा ही रहता है।
- वे इसमें खराब हैं: यह अनुमान लगाने में कि क्या होता है जब दुनिया बदल जाती है (जैसे घर्षण, वजन, या संपर्क में बदलाव)।
लेखक प्रस्तावित करते हैं कि दीर्घकालिक योजना (long-term planning) को ठीक करने के लिए, हम केवल AI को "स्मार्टर" बनाकर या उसे अधिक डेटा देकर ऐसा नहीं कर सकते। हमें इसे सरल पैटर्न-मैचिंग पर निर्भर रहने के बजाय वास्तव में इस भौतिकी को सीखने के लिए मजबूर करना होगा कि चीजें कैसे परस्पर क्रिया करती हैं। जब तक हम ऐसा नहीं करते, ये AI "सपनों के सौदागर" (dreamers) एक ऐसी दुनिया की कल्पना करते रहेंगे जो बहुत अधिक पूर्ण और बहुत अधिक फिसलन भरी है, जिस पर वास्तव में चलना असंभव है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।