When Machines Speak: A Unified Generative Framework for Integrating Machine-Native Symbols into Pretrained Large Language Models
यह शोध पत्र UniLang को प्रस्तुत करता है, जो एक एकीकृत जनरेटिव फ्रेमवर्क है जो प्रीट्रेन्ड लार्ज लैंग्वेज मॉडल्स को प्राकृतिक भाषा के साथ-साथ मशीन-नेटिव प्रतीकों (symbols) को मूल रूप से संसाधित और उत्पन्न करने के लिए विस्तारित करता है, जिससे बिना किसी मौखिककरण (verbalization) या कार्य-विशिष्ट आर्किटेक्चर की आवश्यकता के भाषाई मॉडलिंग और संरचित भविष्यवाणी (structured prediction) के बीच के अंतर को पाटा जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के विशाल परिदृश्य में, दुनिया को वर्णित करने के दो तरीकों के बीच लंबे समय से एक शांत तनाव बना हुआ है। एक तरफ हमारी बोली जाने वाली भाषा है, जो एक तरल और समृद्ध माध्यम है जिसका उपयोग मनुष्य कहानियाँ, विचार और भावनाएँ साझा करने के लिए करते हैं। लार्ज लैंग्वेज मॉडल्स (LLMs), जो शक्तिशाली कंप्यूटर प्रोग्राम हैं जो निबंध लिख सकते हैं या प्रश्नों के उत्तर दे सकते हैं, इसी मानवीय भाषा पर प्रशिक्षित होते हैं। वे शब्दों के माध्यम से दुनिया को समझते हैं। दूसरी ओर मशीनों की भाषा है, जो कोड और संख्याओं की एक कठोर और संक्षिप्त प्रणाली है। कंप्यूटर अक्सर जटिल जानकारी, जैसे कि कोई विशिष्ट फिल्म या कानूनी निर्णय, टेक्स्ट के पैराग्राफ के रूप में नहीं, बल्कि प्रतीकों की एक छोटी, कुशल स्ट्रिंग के रूप में संग्रहीत करते हैं। ये प्रतीक गणना और भंडारण के लिए तो उत्तम हैं, लेकिन वे उन लैंग्वेज मॉडल्स के लिए अदृश्य हैं जो मानवीय शब्दों पर निर्भर करते हैं। वर्षों तक, शोधकर्ताओं को इन दोनों दुनियाओं में से किसी एक को चुनना पड़ता था। मशीन कोड को समझने के लिए उन्हें अक्सर इसे पहले एक वाक्य में अनुवादित करना पड़ता था, जिससे महत्वपूर्ण विवरण खो सकते थे। या उन्हें केवल कोड के लिए विशेष, अलग सिस्टम बनाने पड़ते थे, जिससे लैंग्वेज मॉडल्स का शक्तिशाली ज्ञान पीछे छूट जाता था।
गूगल के शोधकर्ताओं की एक टीम ने अब बिना अनुवाद किए इन दोनों दुनियाओं को एक साथ लाने का एक तरीका प्रस्तावित किया है। उन्होंने 'यूनिलैंग' (UniLang) नामक एक नया एकीकृत फ्रेमवर्क पेश किया है, जो एक मानक लैंग्वेज मॉडल को मशीन कोड के साथ इस तरह व्यवहार करने की अनुमति देता है जैसे कि वे शब्द हों। मशीन प्रतीक को "1999 की एक फिल्म" जैसे वाक्य में बदलने के बजाय, मॉडल स्वयं उस प्रतीक को अपने आउटपुट के एक प्रत्यक्ष हिस्से के रूप में उत्पन्न करना सीख जाता है, ठीक वैसे ही जैसे वह "मूवी" शब्द उत्पन्न करता है। शोधकर्ताओं ने इस विचार का परीक्षण दो बहुत अलग समस्याओं पर किया: एक व्यक्ति के इतिहास के आधार पर यह अनुमान लगाना कि वह आगे क्या देख सकता है, और पिछले अदालती मामले के उस सटीक वाक्य को खोजना जो एक नए कानूनी तर्क का समर्थन करता हो। दोनों मामलों में, यह नई विधि उन मौजूदा प्रणालियों से बेहतर रही जो या तो शुद्ध टेक्स्ट या केवल कोड पर निर्भर थीं। मशीन की भाषा और मानवीय शब्दों दोनों में बोलने की अनुमति देकर, शोधकर्ताओं ने दिखाया कि आर्टिफिशियल इंटेलिजेंस संरचित डेटा (structured data) को अधिक सटीकता से संभाल सकता है, जबकि वह मानवीय पुस्तकों और वेबसाइटों को पढ़ने से प्राप्त विशाल ज्ञान का भी उपयोग कर सकता है।
इस कार्य का मूल तत्व यह है कि शोधकर्ताओं ने कंप्यूटर को इन मशीन प्रतीकों को देखना कैसे सिखाया। कल्पना कीजिए कि एक पुस्तकालय है जहाँ हर किताब का एक अद्वितीय बारकोड है। लंबे समय तक, एक लाइब्रेरियन जो केवल अंग्रेजी बोलता है, वह बारकोड को नहीं समझ सकता था; उसे यह जानने के लिए कि वह क्या है, कवर पर लिखे शीर्षक को पढ़ना पड़ता था। नया तरीका लाइब्रेरियन को उपकरणों का एक नया सेट प्रदान करता है। वे बारकोड लेते हैं और लाइब्रेरियन को सिखाते हैं कि रेखाओं का यह विशिष्ट पैटर्न "अंतरिक्ष यात्रा के बारे में पुस्तक" का अर्थ है, न कि विवरण पढ़कर, बल्कि उस पैटर्न और वस्तु के बीच सीधा संबंध सीखकर। अध्ययन में, शोधकर्ताओं ने हजारों वस्तुओं, जैसे कि फिल्में या कानूनी मामले, को लिया और उन्हें इन संक्षिप्त मशीन कोड में बदल दिया। फिर उन्होंने इन कोड्स को उन्हीं वस्तुओं के टेक्स्ट विवरणों के साथ संरेखित (align) करने के लिए एक लर्निंग प्रक्रिया का उपयोग किया। इसका अर्थ यह था कि जब कंप्यूटर ने किसी विशिष्ट फिल्म के कोड को देखा, तो वह इसे उसी तरह समझता था जैसे वह "1980 के दशक की एक्शन मूवी" जैसे शब्दों को समझता था।
जब कंप्यूटर ने यह नई शब्दावली सीख ली, तो शोधकर्ताओं ने उसे ऐसे कार्य करने के लिए कहा जिनमें आमतौर पर दो अलग-अलग प्रकार की सोच की आवश्यकता होती है। पहले परीक्षण में, कंप्यूटर एक 'रेकमेंडेशन इंजन' के रूप में कार्य करता है। उसे एक व्यक्ति द्वारा देखी गई फिल्मों की सूची दिखाई गई, जो सामान्य अंग्रेजी में उनके शीर्षक और शैलियों (genres) द्वारा वर्णित थी, जिसके बाद उन फिल्मों के मशीन कोड दिए गए। फिर कंप्यूटर को अगली फिल्म का अनुमान लगाना था। शीर्षक का अनुमान लगाने के बजाय, उसने अगली फिल्म का मशीन कोड, उसके वर्ष और शैली के साथ उत्पन्न किया। इस दृष्टिकोण ने डेटा की सटीक संरचना को बरकरार रखा। दूसरे परीक्षण में, कंप्यूटर एक कानूनी शोधकर्ता के रूप में कार्य करता था। उसे एक नए अदालती मामले से एक पैराग्राफ दिया गया और उससे पुराने मामले के उस विशिष्ट वाक्य को खोजने के लिए कहा गया जो तर्क का समर्थन करता हो। यहाँ भी, कंप्यूटर ने केवल कीवर्ड्स की खोज नहीं की; बल्कि उसने पुराने मामले के उस सटीक पैराग्राफ का मशीन कोड उत्पन्न किया जो संदर्भ से मेल खाता था।
इन परीक्षणों के परिणाम स्पष्ट और सुसंगत थे। मूवी रेकमेंडेशन कार्य पर, नई विधि उन अन्य प्रणालियों की तुलना में काफी बेहतर रही जिन्होंने केवल टेक्स्ट या केवल कोड का उपयोग करके समस्या को हल करने का प्रयास किया था। फिल्मों के सबसे बड़े डेटासेट पर, इस नए दृष्टिकोण ने कुछ पिछली विधियों की तुलना में सही सिफारिश खोजने की सटीकता में सौ प्रतिशत से अधिक सुधार किया। कानूनी कार्य में, इसने उस वाक्य को बहुत अधिक बार खोजा जो कानूनी टेक्स्ट के लिए विशेष रूप से डिज़ाइन किए गए सिस्टम की तुलना में अधिक सटीक था। शोधकर्ताओं ने पाया कि सफलता की कुंजी केवल कोड जोड़ना नहीं था, बल्कि मानवीय भाषा को भी शामिल रखना था। जब उन्होंने टेक्स्ट विवरणों को हटा दिया और कंप्यूटर को केवल कोड के साथ काम करने के लिए कहा, तो सिस्टम संघर्ष करने लगा और अपना रास्ता भटक गया। मानवीय भाषा ने एक आवश्यक संदर्भ प्रदान किया, एक प्रकार का आधार (grounding) जिसने कंप्यूटर को प्रतीकों के पीछे के अर्थ को समझने में मदद की।
यह कार्य यह सुझाव देता है कि आर्टिफिशियल इंटेलिजेंस कैसे विकसित हो सकता है। लंबे समय से, इस क्षेत्र ने भाषा और संरचित डेटा को अलग डोमेन माना है, जिनके लिए अलग-अलग उपकरणों की आवश्यकता होती है। शोधकर्ताओं ने प्रदर्शित किया कि एक एकीकृत फ्रेमवर्क दोनों भाषाओं को धाराप्रवाह बोलना सीख सकता है, एक मशीन कोड और एक मानवीय शब्द को बातचीत में समान भागीदार के रूप में देख सकता है। इसका मतलब यह नहीं है कि कंप्यूटर मानवीय भाषा को समझना बंद कर देता है; बल्कि, यह डिजिटल दुनिया के साथ सीधे बातचीत करने की उसकी क्षमता का विस्तार करता है। अध्ययन ने दिखाया कि इन मशीन-नेटिव प्रतीकों को मॉडल की शब्दावली में एकीकृत करके, सिस्टम जटिल, संरचित जानकारी को संभाल सकता है, बिना उस समृद्ध विश्व-ज्ञान को खोए जो उसने मानवीय टेक्स्ट पढ़कर प्राप्त किया है। शोधकर्ताओं ने उल्लेख किया कि जबकि सिस्टम इन भविष्यवाणी कार्यों में उत्कृष्ट रहा, उन्होंने यह परीक्षण नहीं किया कि क्या इस नए तरीके से सोचने से मॉडल की कविता लिखने या कहानियाँ सुनाने की क्षमता प्रभावित होती है, यह प्रश्न भविष्य के अन्वेषण के लिए छोड़ दिया गया है।
इस दृष्टिकोण के निहितार्थ केवल फिल्मों और अदालती मामलों तक ही सीमित नहीं हैं। शोधकर्ताओं ने दिखाया कि इसी फ्रेमवर्क को मॉडल की मूल संरचना को बदले बिना विभिन्न प्रकार के संरचित डेटा पर लागू किया जा सकता है। चाहे कार्य एक अनुक्रम (sequence) में अगली वस्तु की भविष्यवाणी करना हो या विशाल कानूनी डेटाबेस में एक विशिष्ट अंश खोजना हो, विधि समान रही। यह लचीलापन बताता है कि भविष्य में, आर्टिफिशियल इंटेलिजेंस सिस्टम को हर नए प्रकार के डेटा के लिए शून्य से बनाने की आवश्यकता नहीं हो सकती है। इसके बजाय, एक एकीकृत फ्रेमवर्क को किसी भी प्रणाली की अनूठी "भाषा" को समझने के लिए सिखाया जा सकता है, चाहे वह मेडिकल रिकॉर्ड हो या वित्तीय लेनदेन, बस सही प्रतीकों को उत्पन्न करना सीखकर। यह अध्ययन इस बात का प्रमाण (proof of concept) प्रदान करता है कि मानवीय भाषा और मशीन को
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।