From Interface to Inference: Eliciting Any-Order Inference from Any-Order Models
यह शोध पत्र इंसर्शन-आधारित और लेटेंट-स्पेस दृष्टिकोणों का प्रस्ताव करके मास्क किए गए डिफ्यूजन मॉडल्स के एनी-ऑर्डर ट्रेनिंग इंटरफेस और इन्फरेंस क्षमताओं के बीच के अंतर को संबोधित करता है जो पोजीशनल अनसर्टेनिटी को हल करते हैं, जिससे नेटिव एनी-ऑर्डर इन्फरेंस सक्षम होता है और कोड जनरेशन और गणित की समस्याओं जैसे डिस्क्रीट रीजनिंग कार्यों पर प्रदर्शन में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को कहानी लिखना या गणित की समस्या हल करना सिखाने की कोशिश कर रहे हैं। लंबे समय तक, रोबोट को यह सिखाने का सबसे अच्छा तरीका यह था कि उसे एक बार में एक शब्द बोलना सिखाया जाए, जो सख्ती से बाएं से दाएं चलता है, जैसे कोई इंसान किताब पढ़ता है। इसे "ऑटोरिग्रेसिव" (autoregressive) जनरेशन कहा जाता है। यह अच्छा काम करता है, लेकिन यह थोड़ा कठोर है। यदि रोबक पहली पंक्ति में गलती करता है, तो उसे उस गलती के आधार पर बाकी की कहानी लिखनी पड़ती है, या उसे फिर से शुरू से शुरू करना पड़ता है। वह बीच में लिखते समय शुरुआत को ठीक करने के लिए वापस नहीं कूद सकता, जैसा कि एक मानव संपादक करता है।
हाल ही में, वैज्ञानिकों ने "मास्क्ड डिफ्यूजन मॉडल" (Masked Diffusion Model) नामक एक नए प्रकार के AI की खोज की है। इसे "खाली स्थान भरो" (fill-in-the-blanks) खेल की तरह समझें। शब्दों को एक-एक करके लिखने के बजाय, AI एक ऐसे वाक्य को देखता है जहाँ कुछ शब्द छिपे हुए (मास्क्ड) होते हैं और वह अनुमान लगाने की कोशिश करता है कि वे क्या हैं। क्योंकि वह किसी भी समय किसी भी छिपे हुए शब्द को देख सकता है, इसलिए वह आसानी से आगे-पीछे कूद सकता है, शुरुआत को ठीक कर सकता है, फिर अंत को, फिर बीच को, किसी भी क्रम में। यह कोडिंग जैसे जटिल कार्यों के लिए एक आदर्श उपकरण लगता है, जहाँ प्रोग्रामर अक्सर बड़ी तस्वीर और सूक्ष्म विवरणों के बीच कूदते रहते हैं। लेकिन यहाँ एक पेंच है: भले ही AI के पास कूदने की क्षमता हो, लेकिन इसका मतलब यह नहीं है कि वह ऐसा करता भी है।
यह शोध पत्र इस बात की जांच करता है कि ये शक्तिशाली "खाली स्थान भरने वाले" रोबट अक्सर एक ही ढर्रे में क्यों फंस जाते हैं, और पुराने "बाएं-से-दाएं" वाले रोबट की तरह ही व्यवहार करने लगते हैं, जबकि उनके पास इससे कहीं अधिक स्वतंत्रता थी। लेखकों ने, जो टेक्सास विश्वविद्यालय के ऑस्टिन और हार्वर्ड विश्वविद्यालय के शोधकर्ताओं की एक टीम है, पाया कि इसमें "पोज़िशनल अनसर्टेन्टी" (positional uncertainty - स्थिति संबंधी अनिश्चितता) नामक एक छिपा हुआ जाल है। उन्होंने पाया कि जबकि AI को पता हो सकता है कि उसे क्या शब्द चाहिए (जैसे कि कंप्यूटर प्रोग्राम में एक विशिष्ट फंक्शन), वह इस बात को लेकर भ्रमित रहता है कि वह शब्द अंतिम वाक्य में कहाँ होना चाहिए। क्योंकि वह स्थान को लेकर अनिश्चित है, वह सुरक्षित खेलने के लिए एक उबाऊ और अनुमानित क्रम में खाली स्थानों को भर देता है, जिससे वह उस रचनात्मक, गैर-रेखीय सोच को खो देता है जिसके लिए वह जाना जाता था।
इसे ठीक करने के लिए, शोधकर्ताओं ने केवल रोबोट के आत्मविश्वास को ही नहीं सुधारा, बल्कि उसे दो नई महाशक्तियाँ भी दीं। पहली शक्ति ऐसी है जैसे आपने रोबोट को कैंची और गोंद (glue stick) दे दिया हो। निश्चित संख्या में खाली स्थानों के साथ फंसे रहने के बजाय, रोबोट अब जहाँ आवश्यक हो वहाँ नए खाली स्थान डाल सकता है, जिससे पूरा वाक्य नए विचारों के लिए जगह बनाने हेतु खिसक सकता है। दूसरी शक्ति ऐसी है जैसे आपने रोबोट को व्यक्तिगत शब्दों के बजाय "चंक्स" (chunks) या "अनुच्छेदों" में सोचने के लिए सिखाया हो। एक-एक अक्षर का अनुमान लगाने के बजाय, वह अर्थ के पूरे ब्लॉकों का अनुमान लगाता है, जिससे वह यह तय कर पाता है कि अगला बड़ा विचार क्या होगा, बिना विवरणों में खोए।
टीम ने इन विचारों का परीक्षण कंप्यूटर कोडिंग और गणित की समस्याओं पर किया। उन्होंने पाया कि इन नए तरीकों का उपयोग करके, रोब रहे वास्तव में मानव प्रोग्रामरों की तरह सोचने लगे, जो अपने काम को परिष्कृत करने के लिए कोड के विभिन्न हिस्सों के बीच आगे-पीछे कूदते हैं। इससे बेहतर परिणाम मिले, जहाँ रोबोटों ने पहले की तुलना में अधिक समस्याओं को सही ढंग से हल किया। यह पत्र सुझाव देता है कि AI को वास्तव में मानव की तरह तर्क करने के लिए सक्षम बनाने के लिए, हमें ऐसे मॉडल डिजाइन करने की आवश्यकता है जिनमें केवल कूदने की क्षमता ही न हो, बल्कि उन्हें इस तरह बनाया गया हो कि कूदना एक स्वाभाविक और आसान विकल्प बन जाए।
समस्या: "फिक्स्ड कैनवस" का जाल
शोधकर्ताओं ने यह देखने के लिए शुरुआत की कि क्यों ये "खाली स्थान भरने वाले" मॉडल (मास्क्ड डिफ्यूजन मॉडल, या MDM) अपनी चर्चा के अनुरूप प्रदर्शन नहीं कर पा रहे थे। सिद्धांत रूप में, एक MDM को किसी भी अनुक्रम (sequence) में किसी भी छिपे हुए टोकन को किसी भी समय प्रकट करने में सक्षम होना चाहिए। यदि आप इसे पायथन प्रोग्राम लिखने के लिए कहते हैं, तो इसे फंक्शन का नाम लिखना चाहिए, फिर लूप पर कूदना चाहिए, फिर वेरिएबल परिभाषा पर वापस जाना चाहिए, यह सब एक अराजक, मानव-समान क्रम में होना चाहिए।
हालाँकि, जब उन्होंने मॉडलों को काम करते देखा, तो उन्हें निराशा हुई। भले ही मॉडलों के पास किसी भी क्रम को चुनने की स्वतंत्रता थी, वे लगभग हमेशा बाएं से दाएं खाली स्थानों को भरने का चुनाव करते थे, ठीक पुराने जमाने के रोबोटों की तरह। लेखक इसे "कॉज़ल कोलैप्स" (causal collapse) कहते हैं। यह ऐसा है जैसे रोबोट के पास पूरे शहर का नक्शा हो लेकिन वह फिर भी एक समय में एक ब्लॉक चलकर सड़क पर चलने का फैसला करता है, सभी शॉर्टकटों को अनदेखा कर देता है।
पत्र का तर्क है कि यह केवल एक बुरी आदत नहीं है; यह इस बात की मौलिक खामी है कि ये मॉडल कैसे बनाए गए हैं। मुद्दा पोज़िशनल अनसर्टेन्टी (स्थिति संबंधी अनिश्चितता) है। कल्पना कीजिए कि आप एक लेगो (LEGO) महल बना रहे हैं। आप जानते हैं कि आपको एक "टावर" वाला हिस्सा चाहिए। लेकिन आप अभी यह नहीं जानते कि वह टावर ठीक कहाँ जाएगा क्योंकि आपने अभी तक उसके चारों ओर दीवारें नहीं बनाई हैं। यदि आप अभी टावर रखने की कोशिश करते हैं, तो हो सकता है कि आप उसे गलत जगह रख दें।
एक मानक MDM में, "कैनवस" (टोकन का अनुक्रम) निश्चित होता है। मॉडल को निर्णय लेना होता है: "क्या मैं 'रिटर्न' (return) शब्द यहाँ रखूँ, या यहाँ, या यहाँ?" यदि मॉडल जानता है कि उसे एक 'रिटận' स्टेटमेंट की आवश्यकता है लेकिन वह अनिश्चित है कि यह लूप के अंदर होना चाहिए या उसके बाद, तो उसका आत्मविश्वास कई संभावित स्थानों में बंट जाता है। क्योंकि आत्मविश्वास बिखरा हुआ है, मॉडल उस 'रिटर्न' स्टेटमेंट को रखने के बारे में उतना आश्वस्त महसूस नहीं करता जितना कि वह एक साधारण शब्द को रखने के बारे में होता है जो स्पष्ट रूप से पिछले शब्द के बाद आता है। इसलिए, सुरक्षित रहने के लिए, वह बस आसान, स्थानीय शब्दों को पहले भर देता है, जिससे वह प्रभावी रूप से खुद को बाएं-से-दाएं क्रम में लॉक कर देता है। शोध पत्र दिखाता है कि यह तब भी होता है जब मॉडल बहुत बुद्धिमान हो; फिक्स्ड ग्रिड वाला कैनवस उसे समय से पहले निर्णय लेने के लिए मजबूर करता है।
समाधान 1: FlexMDM (कैंची और गोंद)
"मैं इसे कहाँ रखूँ?" वाली समस्या को ठीक करने के लिए, पहला समाधान FlexMDM है। यह दृष्टिकोण एक निश्चित कैनवस को हटाकर खेल के नियम बदल देता है।
कल्पना कीजिए कि आप कागज पर एक कहानी लिख रहे हैं, लेकिन उन रेखाओं में फंसने के बजाय जो आपने शुरू की थीं, आपके पास एक जादुई इरेज़र और एक गोंद (glue stick) है। यदि आप एक वाक्य लिखते हैं और महसूस करते हैं कि आपको बीच में एक नया पैराग्राफ चाहिए, तो आप जादुई रूप से वहां एक नई खाली लाइन डाल सकते हैं। आपके द्वारा पहले लिखे गए शब्द नई जगह बनाने के लिए खिसक सकते हैं।
FlexMDM बिल्कुल यही करता है। यह मॉडल को जनरेशन प्रक्रिया के दौरान नए टोकन (या मास्क) सम्मिलित (insert) करने की अनुमति देता है। जब मॉडल एक टोकन को प्रकट करने का निर्णय लेता है, तो उसे अंतिम अनुक्रम में एक स्थायी स्थान के लिए प्रतिबद्ध होने की आवश्यकता नहीं होती। बाद में, यदि मॉडल को अधिक स्थान या अलग संरचना की आवश्यकता महसूस होती है, तो वह नए अंतराल डाल सकता है, और पहले से प्रकट किए गए टोकन अपनी नई, सही स्थिति में खिसक सकते हैं।
यह सरल परिवर्तन "पोज़िशनल अनसर्टेन्टी" के जाल को तोड़ देता है। मॉडल को अब "क्या यह सही जगह है?" की चिंता करने की आवश्यकता नहीं है क्योंकि वह जगह बदल सकती है। शोधकर्ताओं ने पाया कि इसने मॉडल को बहुत अधिक मानव-समान तरीके से कोड उत्पन्न करने में सक्षम बनाया। एक लाइन को पूरी तरह से खत्म करने के बजाय, मॉडल एक फंक्शन का नाम लिख सकता है, फिर लूप लिखने के लिए कूद सकता है, और फिर फंक्शन के विवरण भरने के लिए वापस जा सकता है। उन्होंने इसे कोड की "ट्री" (tree) संरचना को देखकर मापा और पाया कि FlexMDM कोड की विभिन्न शाखाओं के बीच कूदने में बहुत अधिक सक्षम था, जबकि मानक मॉडल बस एक ही पथ पर सीधा चलता रहा।
अपने परीक्षणों में, उन्होंने एक 7-बिलियन-पैरामीटर वाले मॉडल (Dream-Coder) को इस पद्धति का उपयोग करने के लिए फाइन-ट्यून किया। HumanEval और MBPP जैसे कोडिंग बेंचमार्क पर, इस नए "लचीले" मॉडल ने मूल मॉडल की तुलना में बेहतर प्रदर्शन किया, विशेष रूप से जब उन्होंने इसे कई प्रयास (Pass@16) करने की अनुमति दी। इसने दिखाया कि कैनवस को पुनर्व्यवस्थित करने की अनुमति देकर, यह अधिक रचनात्मक समाधान खोजने में सक्षम था।
समाधान 2: LatentMDM (चंक्स में सोचना)
दूसरा समाधान, LatentMDM, एक अलग दृष्टिकोण अपनाता है। व्यक्तिगत शब्दों की स्थिति से लड़ने के बजाय, यह उस स्तर को बदल देता है जिस पर मॉडल सोचता है।
कल्पना कीजिए कि आप अपने दोस्त को एक फिल्म का वर्णन करने की कोशिश कर रहे हैं। यदि आप इसे शब्द-दर-शब्द बताने की कोशिश करते हैं ("आदमी चला, फिर वह रुका, फिर उसने देखा..."), तो बड़ी तस्वीर देखना कठिन है। लेकिन यदि आप इसे "दृश्यों" या "चंक्स" में बताते हैं ("पहले, नायक कमरे में प्रवेश करता है। फिर, वह खलनायक को देखता है। अंत में, वे लड़ते हैं।"), तो इधर-उधर कूदना बहुत आसान हो जाता है। आप कह सकते हैं, "आइए पहले लड़ाई के दृश्य के बारे में बात करते हैं," बिना इस बात की चिंता किए कि प्रवेश दृश्य में सटीक शब्दों का उपयोग कैसे किया गया था।
LatentMDM इसे टोकन को सिमेंटिक सेगमेंट (semantic segments - जैसे कोड की लाइनें या तार्किक ब्लॉक) में समूहित करके और प्रत्येक सेगमेंट को एक "लेटेंट स्पेस" (एक संकुचित, अमूर्त प्रतिनिधित्व) में एक एकल इकाई के रूप में मानकर करता है। एक समय में एक टोकन का अनुमान लगाने के बजाय, मॉडल यह अनुमान लगाता है कि अगला सेगमेंट कौन सा प्रकट करना है।
यह "पोज़िशनल अनसर्टेन्टी" को व्यक्तिगत शब्दों के स्तर से हटाकर पूरे विचारों के स्तर पर ले जाता है। मॉडल को यह चिंता करने की आवश्यकता नहीं है कि एक विशिष्ट शब्द स्लॉट 5 में जाएगा या स्लॉट 6 में; वह बस यह तय करता है, "मैं अगला 'लूप' सेगमेंट लिखूंगा।" चूंकि सेगमेंट बड़े होते हैं, इसलिए मॉडल विचारों के क्रम के बारे में बहुत अधिक आश्वस्त हो सकता है, भले ही उनके अंदर के सटीक शब्द अभी भी समझे जा रहे हों।
शोधकर्ताओं ने TinyGSM नामक गणितीय डेटासेट का उपयोग करके इस पद्धति का उपयोग करके एक छोटा 125-मिलियन-पैरामीटर वाला मॉडल शुरू से प्रशिक्षित किया। उन्होंने पाया कि यह मॉडल वास्तव में सेगमेंट को बाएं-से-दाएं क्रम के अलावा अन्य क्रम में प्रकट करने का विकल्प चुन सकता था, जो कि मानक मॉडल प्रभावी ढंग से नहीं कर सके। वास्तव में, LatentMDM ने गणित की समस्याओं पर मानक मॉडलों और यहाँ तक कि कुछ बड़े ऑटोरिग्रेसिव मॉडलों को भी पीछे छोड़ दिया, और यह सब बहुत तेज़ी से किया। यह सुझाव देता है कि "चंक्स" में सोचकर, मॉडल समाधान के स्थान (solution space) को अधिक कुशलता से नेविगेट कर सकता है, बिना विवरणों में फंसे सही रास्ता खोज सकता है।
इसका क्या अर्थ है
शोध पत्र निष्कर्ष निकालता है कि "किसी भी क्रम में अनुमान" (any-order inference) के लिए इंटरफ़ेस (किसी भी खाली स्थान को चुनने की क्षमता) होना ही पर्याप्त नहीं है। मॉडल के आंतरिक तंत्र को भी इसका समर्थन करना चाहिए। यदि मॉडल शब्दों के एक निश्चित ग्रिड पर अटका हुआ है, तो वह स्वाभाविक रूप से बाएं-से-दाएं क्रम में सिमट जाएगा क्योंकि वह इस बात के बारे में गलती करने से डरता है कि चीजें कहाँ होनी चाहिए।
चाहे ग्रिड को लचीला बनाकर (FlexMDM) या बड़े चंक्स में सोचकर (LatentMDM), शोधकर्ताओं ने दिखाया है कि AI वास्तव में "बाएं-से-दाएं" की आदत से मुक्त हो सकता है। ये मॉडल केवल टेक्स्ट उत्पन्न नहीं करते हैं; वे इसे एक ऐसी संरचना के साथ उत्पन्न करते हैं जो मानव की तरह सोचने और जटिल चीजों को बनाने के तरीके की नकल करती है—इधर-उधर कूदना, विचारों को परिष्कृत करना और अंतिम समाधान पर पहुँचने से पहले विभिन्न रास्तों का पता लगाना।
लेखक सावधानी बरतते हुए कहते हैं कि ये आशाजनक कदम हैं, न कि सभी AI तर्क समस्याओं का अंतिम समाधान। उन्होंने इन विचारों का परीक्षण मुख्य रूप से कोडिंग और गणित पर किया, और हालांकि परिणाम मजबूत थे, वे सुझाव देते हैं कि यह देखने के लिए और काम करने की आवश्यकता है कि क्या ये "किसी भी क्रम" वाले व्यवहार अन्य प्रकार के कार्यों या बड़े पैमाने पर काम करते हैं। लेकिन मुख्य संदेश स्पष्ट है: AI को मानव की तरह तर्क करने के योग्य बनाने के लिए, हमें केवल टाइपराइटर की तरह लिखने के लिए मजबूर करना बंद करना होगा और उसे एक वास्तुकार (architect) की तरह सोचने देना शुरू करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।