Knowledgeless Language Models: Suppressing Parametric Recall for Evidence-Grounded Language Modeling
यह शोध पत्र नॉलेज-लेस लैंग्वेज मॉडल्स (KLLMs) को प्रस्तुत करता है, जो एक नवीन प्रशिक्षण प्रतिमान (पैराडाइम) है जो पैरामीट्रिक तथ्यात्मक रिकॉल को दबाने के लिए प्रीट्रेनिंग के दौरान नामित संस्थाओं (नेम्ड एंटिटीज) को अनामित करता है, जिससे ऐसे मॉडल उत्पन्न होते हैं जो बाहरी साक्ष्यों पर अधिक निर्भर करते हैं और मानक भाषा मॉडलों की तुलना में साक्ष्य-आधारित कार्यों में बेहतर सुदृढ़ता, अंशांकन (कैलिब्रेशन) और प्रदर्शन प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक सुपर-स्मार्ट रोबोट दोस्त है जिसने लाइब्रेरी की लगभग हर किताब पढ़ ली है। आमतौर पर, जब आप उससे कोई सवाल पूछते हैं, तो वह अपनी याददाश्त से सीधे तथ्यों को निकालकर जवाब देता है। लेकिन यहाँ एक समस्या है: कभी-कभी उसकी याददाश्त पुरानी हो जाती है, या रोबोट बस इसलिए अंदाज़ा लगा लेता है क्योंकि वह सुनने में सही लगता है, भले ही वह गलत हो। इसे "हैलुसिनेशन" (hallucinating) कहा जाता है, और यह बिल्कुल वैसा ही है जैसे रोबोट आत्मविश्वास के साथ आपको बता दे कि चाँद हरे पनीर से बना है क्योंकि यह सुनने में मज़ेदार लगता है।
शोधकर्ताओं ने इस पेपर में एक जंगली सवाल पूछा: क्या होगा अगर हम रोबोट को जानबूझकर अपनी याददाश्त भूलने के लिए सिखाएं?
महान स्मृति विलोपन (The Great Memory Wipe)
इसका परीक्षण करने के लिए, टीम ने एक विशेष प्रकार का प्रशिक्षण डेटा बनाया। कल्पना कीजिए कि समाचार लेखों और विश्वकोशों का एक विशाल ढेर लिया गया है, लेकिन रोबट द्वारा उन्हें पढ़ने से पहले, एक जादुई इरेज़र हर एक नाम को मिटा देता है। "Barack Obama" बन जाता है "Person1", "Paris" बन जाता है "City42", और "The Great San Francisco Earthquake" बन जाता है "Event19"।
उन्होंने एक नए प्रकार का मॉडल प्रशिक्षित किया, जिसे वे नॉलेज-"लेस" लैंग्वेज मॉडल (KLLM) कहते हैं, जिसे इस नामहीन टेक्स्ट पर प्रशिक्षित किया गया। लक्ष्य रोबोट को लोगों और जगहों के बारे में विशिष्ट तथ्य याद करने से रोकना था। "राष्ट्रपति कौन है?" यह सीखने के बजाय, रोबोट ने यह सीखा कि एक वाक्य को कैसे पढ़ा जाए, उसके अंदर के सुरागों को कैसे खोजा जाए, और केवल उसी के आधार पर उत्तर कैसे निकाला जाए जो उसके सामने मौजूद है।
परिणाम: एक रोबोट जो स्वीकार करता है "मुझे नहीं पता"
जब उन्होंने इन नए रोबोटों का परीक्षण किया, तो परिणाम आश्चर्यजनक और बहुत विशिष्ट थे:
- याददाश्त जा चुकी है: जब बिना किसी मदद के (एक "क्लोज्ड-बुक" टेस्ट) सवाल पूछे गए, तो KLLMs लगभग सब कुछ भूल गए। उनकी सटीकता गिरकर लगभग रैंडम स्तर पर आ गई। उदाहरण के लिए, LAMA नामक एक टेस्ट पर, एक मानक रोबोट ने लगभग 43% सही उत्तर दिए, जबकि एक KLLM ने केवल लगभग 3% सही उत्तर दिए। पेपर सुझाव देता है कि यह साबित करता है कि उन्होंने सफलतापूर्वक रोबोट को उसकी आंतरिक मेमोरी बैंक पर निर्भर रहने से रोक दिया।
- जासूसी कौशल में सुधार हुआ: लेकिन यहाँ एक ट्विस्ट है: जब शोधकर्ताओं ने रोबोट को एक दस्तावेज़ पढ़ने के लिए दिया और उससे उस दस्तावेज़ में उत्तर खोजने को कहा, तो KLLMs बहुत बेहतर हो गए। FEVER (तथ्य सत्यापन) जैसे टेस्ट पर, वे मानक रोबोटों की तुलना में 7.8 पॉइंट्स तक सुधरे। HaluBench नामक एक टेस्ट पर, उनमें 10.4% का सुधार हुआ।
- यह जानने में बेहतर कि वे क्या नहीं जानते: मानक रोबोट अक्सर तब अंदाज़ा लगाते हैं जब वे अनिश्चित होते हैं। ये नए रोबोट यह कहने में बेहतर हैं कि, "मेरे पास पर्याप्त जानकारी नहीं है।" जहाँ साक्ष्य अस्पष्ट या अधूरे थे, वहाँ KLLMs मानक रोबोटों की तुलना में 20–25% अधिक सटीक थे। उन्होंने रिट्रीवल-ग्राउंडेड सेटिंग्स में भी 20–25% सापेक्ष लाभ दिखाया।
यह क्यों मायने रखता है (और यह क्या नहीं है)
पेपर का तर्क है कि यह केवल रोबोट को "बेवकूफ" बनाने या चीज़ों को भूलने के बारे में नहीं है। यह रोबोट के सोचने के तरीके को बदलने के बारे में है। प्रशिक्षण के दौरान नाम हटाकर, रोबोट ने अपने दिमाग से अंदाज़ा लगाने के बजाय सामने मौजूद साक्ष्यों पर भरोसा करना सीखा।
लेखक सावधानी बरतते हुए कहते हैं कि यह हर चीज़ के लिए जादुई समाधान नहीं है। वे नोट करते हैं कि यदि आप साक्ष्य हटा देते हैं, तो रोबोट उत्तर नहीं दे सकता। यह एक ऐसे जासूस की तरह है जो अपराध स्थल की तस्वीरों के साथ केस सुलझाने में माहिर है, लेकिन यदि आप उनसे बिना फोटो वाला कोई पुराना केस सुलझाने को कहें, तो वे फंस जाते हैं।
साथ ही, पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि यह केवल "रैंडम नॉइज़" है जो मदद कर रहा है। उन्होंने अन्य तरकीबें भी आजमाईं, जैसे शब्दों को बेतरतीब ढंग से हटाना या नामों को शफल करना, लेकिन वे इतने अच्छे से काम नहीं कर पाए। नामों को गुमनाम (anonymize) करने की विशिष्ट क्रिया ही अंतर पैदा करने वाली थी।
निचोड़ (The Bottom Line)
शोधकर्ता सुझाव देते हैं कि मॉडल्स को नामों को अनदेखा करने और संदर्भ (context) पर ध्यान केंद्रित करने के लिए प्रशिक्षित करके, हम ऐसा AI बना सकते हैं जो झूठ बोलने की कम संभावना रखता है और उसे दिए गए तथ्यों पर टिके रहने की अधिक संभावना रखता है। उन्होंने पाया कि ये मॉडल अधिक विश्वसनीय हैं, विशेष रूप से जब उन्हें दी गई जानकारी अपूर्ण हो।
यह एक छात्र को टेक्स्टबुक रटने के बजाय रहस्य उपन्यास में सुरागों को पढ़ना सिखाने जैसा है। वे शायद याददाश्त से यह नहीं जान पाएंगे कि "राष्ट्रपति कौन है?" लेकिन यदि आप उन्हें एक समाचार लेख थमाते हैं, तो वे एक ऐसे छात्र की तुलना में उत्तर तेज़ी से और अधिक सटीकता से ढूंढ लेंगे जो केवल अपनी याददाश्त से अंदाज़ा लगाने की कोशिश करता है। पेपर दिखाता है कि यह दृष्टिकोण अलग-अलग आकार के मॉडल्स पर काम करता है, छोटे मॉडल्स से लेकर 20 बिलियन टोकन्स पर प्रशिक्षित मॉडल्स तक, और सुझाव देता है कि यह AI को अधिक ईमानदार और वास्तविकता में जमी हुई बनाने के लिए एक शक्तिशाली उपकरण हो सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।