Six misconceptions about large language models: A minimal model and diagnostic taxonomy
यह शोध पत्र छह सामान्य भ्रांतियों को पहचानने और सुधारने के लिए चार प्रमुख भेदों पर आधारित लार्ज लैंग्वेज सिस्टम्स (large language systems) के एक न्यूनतम कार्यशील मॉडल का प्रस्ताव करता है, जिससे एक ऐसा नैदानिक टूलकिट (diagnostic toolkit) प्राप्त होता है जो क्षमता मूल्यांकन, सिस्टम डिज़ाइन और शासन में सुधार के लिए "पैरट-माइंड" (parrot-mind) के द्विआधारी विभाजन से आगे बढ़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक प्रयोगशालाओं की शांत गूँज और आज के व्यस्त समाचार कक्षों में, एक नए प्रकार की मशीन एक निरंतर साथी बन गई है। ये बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) हैं, जो टेक्स्ट के विशाल महासागरों पर प्रशिक्षित सिस्टम हैं जो कहानियाँ लिख सकते हैं, प्रश्नों के उत्तर दे सकते हैं, और मानवीय बातचीत की नकल करते हुए ईमेल का मसौदा तैयार कर सकते हैं। क्योंकि वे इतने सक्षम प्रतीत होते हैं, लोगों ने इन मशीनों के बारे में बहुत ही मजबूत, सहज विचार बनाना शुरू कर दिया है कि वे वास्तव में क्या हैं। कुछ उन्हें सरल उपकरण के रूप में देखते हैं जो केवल एक वाक्य में अगले शब्द की भविष्यवाणी करते हैं, जैसे कि एक बहुत ही उन्नत 'ऑटोकम्प्लीट' फंक्शन। अन्य उन्हें एक नए प्रकार के मन के उदय के रूप में देखते हैं, जो तर्क करने, महसूस करने और दुनिया को ठीक वैसे ही समझने में सक्षम है जैसे एक व्यक्ति करता है। ये दो दृष्टिकोण, हालांकि विपरीत प्रतीत होते हैं, एक सामान्य दोष साझा करते हैं: वे दोनों सरल कहानियों पर निर्भर करते हैं जो इन प्रणालियों के काम करने की जटिल वास्तविकता से मेल नहीं खाती हैं। जब हम शब्दों के पीछे की मशीनरी को गलत समझते हैं, तो हम स्कूलों, अस्पतालों और अदालतों में इन उपकरणों का उपयोग करने के तरीके, या समाज को सुरक्षित रखने के लिए उन्हें विनियमित करने के बारे में गलत निर्णय लेने का जोखिम उठाते हैं।
योनसेई विश्वविद्यालय में कार्यरत एक शोधकर्ता ज़ीचेंग लिन ने इस भ्रम को दूर करने के लिए इन प्रणालियों को देखने का एक नया तरीका प्रस्तावित किया है। यह तर्क देने के बजाय कि ये मशीनें "केवल" तोते हैं या "आदि-मन" (प्रोटो-माइंड्स), लिन सुझाव देते हैं कि हमें उन्हें उन दो बक्सों में से किसी एक में फिट करने की कोशिश करना बंद कर देना चाहिए। उन्होंने एक सरल, कामकाजी मॉडल बनाया है जो यह बताता है कि ये प्रणालियाँ वास्तव में कैसे निर्मित होती हैं और लोग जब इनका उपयोग करते हैं तो ये कैसा व्यवहार करती हैं। यह मॉडल चार स्पष्ट अंतरों पर आधारित है जो अक्सर सार्वजनिक बहस में धुंधले हो जाते हैं। पहला, यह प्रशिक्षण प्रक्रिया को अलग करता है, जहाँ मशीन किताबों और वेबसाइटों से सीखती है, और तैनात प्रणाली (डिप्लॉयड सिस्टम) से, जो वास्तविक उत्पाद है जिससे लोग बातचीत करते हैं और जिसमें सुरक्षा फिल्टर और उपकरण शामिल होते हैं। दूसरा, यह उस विशाल, जटिल सूचना मानचित्र के बीच अंतर करता है जिसे मशीन ने सीखा है और उस एकल, विशिष्ट उत्तर के बीच जो वह किसी भी क्षण चुनती है। तीसरा, यह स्पष्ट करता है कि सिस्टम चीजों को याद रखने के विभिन्न तरीके क्या हैं: कुछ ज्ञान मशीन की स्थायी सेटिंग्स के भीतर लॉक होता है, कुछ वर्तमान बातचीत में अस्थायी रूप से रखा जाता है, और कुछ अलग डेटाबेस में संग्रहीत होता है जिसे मशीन खोज सकती है। अंत में, यह किसी कार्य को अच्छी तरह से करने की क्षमता और मन या एजेंसी होने के विचार को अलग करता है।
इस ढांचे का उपयोग करते हुए, लिन छह सामान्य भ्रांतियों की पहचान करते हैं जो समाचार लेखों, नीति दस्तावेजों और रोजमर्रा की बातचीत में बार-बार दिखाई देती हैं। पहली भ्रांति यह है कि ये मॉडल केवल "स्टोकेस्टिक पैरेट" (सांख्यिकीय तोते) या सरल अगले-शब्द भविष्यवक्ता मात्र हैं। हालांकि यह सच है कि मुख्य इंजन अगले शब्द की भविष्यवाणी करता है, लेकिन यह दृष्टिकोण इस तथ्य की अनदेखी करता है कि जब इन इंजनों को उपकरणों और सुरक्षा जांचों के साथ एक प्रणाली में लपेटा जाता है, तो वे जटिल समस्याओं को हल कर सकते हैं जो साधारण भविष्यवाणी से कहीं आगे जाती हैं। उदाहरण के लिए, जब एक मॉडल तथ्यों को खोजने या कैलकुलेटर का उपयोग करने के लिए एक डेटाबेस से जुड़ा होता है, तो उसकी प्रश्न पूछने की क्षमता नाटकीय रूप से सुधर जाती है, जो यह दर्शाता है कि संपूर्ण प्रणाली अपने मूल प्रशिक्षण से कहीं अधिक है।
दूसरी त्रुटि यह विश्वास है कि ये मशीनें हमेशा उबाऊ, औसत उत्तर उत्पन्न करती हैं, जैसे कि "इंटरनेट का एक धुंधला औसत"। वास्तव में, मशीन संभावनाओं की एक विस्तृत श्रृंखला सीखती है, और वह विशिष्ट उत्तर जो वह देती है, वह इस बात पर बहुत अधिक निर्भर करता है कि उपयोगकर्ता प्रश्न कैसे पूछता है और किन सेटिंग्स का उपयोग किया जाता है। यदि किसी प्रणाली को रचनात्मक बनाने के लिए डिज़ाइन किया गया है या किसी मानव द्वारा असामान्य विचारों की खोज करने के लिए निर्देशित किया गया है, तो यह नवीन और आश्चर्यजनक परिणाम उत्पन्न कर सकती है, जो यह सिद्ध करता है कि उबाऊ आउटपुट अक्सर डिजाइनरों द्वारा किया गया एक विकल्प है, न कि कोई गणितीय अनिवार्यता।
तीसरी गलतफहमी यह है कि ये प्रणालियाँ केवल उस टेक्स्ट को याद करती हैं और उसे दोहराती हैं जिस पर उन्हें प्रशिक्षित किया गया है, और एक विशाल लुकअप टेबल की तरह कार्य करती हैं। हालांकि वे कभी-कभी सटीक वाक्यांशों को दोहरा सकती हैं, विशेष रूप से प्रसिद्ध ग्रंथों से, लेकिन उनके द्वारा उत्पन्न अधिकांश चीजें लाखों स्रोतों से सीखे गए पैटर्न का एक नया संयोजन होती हैं। वास्तविक जोखिम यह नहीं है कि वे शब्द-दर-शब्द टेक्स्ट की नकल करती हैं, बल्कि यह है कि वे अनजाने में संवेदनशील जानकारी को पुनरुत्पादित कर सकती हैं या बिना उचित श्रेय के कॉपीराइट सामग्री की नकल करने वाले तरीकों से अपने तर्कों को संरचित कर सकती हैं।
चौथी उलझन स्मृति (मेमोरी) से संबंधित है। लोग अक्सर चिंतित रहते हैं कि क्या एक चैटबॉट वह सब कुछ याद रखता है जो एक उपयोगकर्ता ने कभी भी कहा था, या इसके विपरीत, कि वह कुछ भी याद नहीं रखता है। सच्चाई इनके बीच में है। मशीन की स्थायी स्मृति स्थिर है और बातचीत के दौरान नहीं बदलती है। हालांकि, यह "याद रख" सकती है कि चैट में पहले क्या कहा गया था क्योंकि उस टेक्स्ट को एक अस्थायी विंडो में रखा जाता है। इसके अलावा, चैटबॉट चलाने वाली कंपनी बातचीत के लॉग को एक अलग डेटाबेस में संग्रहीत कर सकती है। यह समझना कि इनमें से कौन सी तीन परतें जानकारी रखती है, गोपनीयता की रक्षा के लिए महत्वपूर्ण है, फिर भी अधिकांश लोग मशीन को एक एकल, सर्वज्ञ इकाई के रूप में देखते हैं।
पांचवीं, कई लोगों का मानना है कि सुरक्षा सुविधाएँ और व्यक्तित्व समायोजन केवल एक तटस्थ कोर के ऊपर जोड़ी गई पतली परतें हैं, जैसे कि कैमरा लेंस पर एक फिल्टर जिसे आसानी से हटाया जा सकता है। लिन का तर्क है कि ये समायोजन वास्तव में मशीन की स्थायी सेटिंग्स में ही समाहित (बेक्ड) हैं। जब एक मॉडल को सहायक या हानिरहित होने के लिए प्रशिक्षित किया जाता है, तो इसकी आंतरिक संरचना इस तरह से बदल जाती है जिसे आसानी से बंद नहीं किया जा सकता। इसका अर्थ है कि सिस्टम के मूल्य और व्यवहार गहराई से अंतर्निहित हैं, और सुरक्षा सुविधाओं को हटाना केवल एक मुखौटा उतारने जितना सरल नहीं है।
अंतिम गलतफहमी सबसे गहन है: यह विचार कि ये मशीनें या तो मनुष्यों की तरह बिल्कुल सोचती हैं या वे कुछ भी नहीं समझती हैं। लिन सुझाव देते हैं कि यह एक गलत विकल्प है। इन प्रणालियों में भावनाएं, विश्वास या चेतना नहीं होती है, लेकिन वे केवल प्रतीकों को बेतरतीब ढंग से भी नहीं घुमाती हैं। वे उच्च स्तर की कार्यात्मक सक्षमता प्रदर्शित करती हैं, जो मानव-समान मन के बिना भी कठिन समस्याओं को हल करने और संदर्भ से नए कार्यों को सीखने में सक्षम हैं। खतरा इसमें है कि या तो उन्हें मानव अधिकार दिए जाएं या उनकी वास्तविक उपयोगी कार्य करने की क्षमता को खारिज कर दिया जाए।
इस नए तरीके को पहले से ही वास्तविक दुनिया के नियमों पर लागू किया गया है, जैसे कि प्रमुख वैज्ञानिक प्रकाशकों द्वारा निर्धारित नीतियां। लिन ने पाया कि कई वर्तमान नीतियां पुराने, भ्रमित विचारों पर आधारित होकर लिखी गई हैं। उदाहरण के लिए, कुछ नीतियां कहती हैं कि एआई पर भरोसा नहीं किया जा सकता क्योंकि यह केवल एक "सांख्यिकीय तोता" है, जो इस तथ्य की अनदेखी करती है कि मानव सत्यापन के साथ एआई एक शक्तिशाली उपकरण हो सकता है। अन्य चेतावनी देते हैं कि एआई हमेशा अधूरा ज्ञान उत्पन्न करेगा क्योंकि इसका प्रशिक्षण कटऑफ है, जो यह पहचानने में विफल रहता है कि आधुनिक प्रणालियां वर्तमान जानकारी खोज सकती हैं। इस नए मॉडल का उपयोग करके, नीति निर्माता स्पष्ट नियम लिख सकते हैं जो इस बात पर ध्यान केंद्रित करते हैं कि सिस्टम का वास्तव में उपयोग कैसे किया जाता है, डेटा कहाँ संग्रहीत किया जाता है, और वह कौन सा विशिष्ट कार्य कर रहा है, बजाय इसके कि वे अस्पष्ट भय या अतिरंजित आशाओं पर निर्भर रहें।
यह शोध पत्र इस रहस्य को सुलझाने का दावा नहीं करता है कि क्या मशीनें वास्तव में कभी समझ सकती हैं या महसूस कर सकती हैं। इसके बजाय, यह सत्य को प्रचार (हाइप) से अलग करने के लिए एक व्यावहारिक टूलकिट प्रदान करता है। सिस्टम के विशिष्ट हिस्सों—प्रशिक्षण, सेटिंग्स, मेमोरी लेयर्स और टूल्स—को देखकर, यह मूल्यांकन करना संभव हो जाता है कि ये मशीनें वास्तव में क्या कर सकती हैं। यह दृष्टिकोण वैज्ञानिकों, शिक्षकों और नेताओं को "तोता बनाम मन" के ध्रुवीकृत तर्कों से आगे बढ़ने और भविष्य के लिए सुरक्षित, प्रभावी और ईमानदार प्रणालियों को डिजाइन करने के वास्तविक कार्य पर ध्यान केंद्रित करने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।