A Model That Does Not Forget. A Logbook That Corrects and a Sleep That Consolidates, on a Frozen Language Model

एक डिजिटल सहायक की कल्पना करें जो आपकी जेब में रहता है, एक ऐसा सहायक जिससे आप हर दिन सवाल पूछते हैं। इस सहायक के वास्तव में उपयोगी होने के लिए, इसे केवल दुनिया के तथ्यों को जानने की आवश्यकता नहीं है; इसे आपके संवादों के विशिष्ट इतिहास को याद रखने की आवश्यकता है। इसे याद होना चाहिए कि आपने पिछले सप्ताह उसे बताया था कि आपके कुत्ते का नाम टोबी है, लेकिन इस सप्ताह आपने खुद को सुधारते हुए कहा कि वास्तव में आपके पास दो कुत्ते हैं, टोबी और लूना। इसे इस बदलाव को बिना भ्रमित हुए थामे रखना चाहिए, और इसे यह भी पता होना चाहिए कि कब कहना है, "मुझे नहीं पता," यदि आप उससे किसी ऐसी चीज़ के बारे में पूछते हैं जिसके बारे में उसने पहले कभी नहीं सुना है। यह एक ऐसी मशीन बनाने की चुनौती है जो पहले से ज्ञात जानकारी को भूले बिना निरंतर सीख सके, एक ऐसी समस्या जिसने लंबे समय से आर्टिफिशियल इंटेलिजेंस पर काम करने वाले वैज्ञानिकों को उलझा रखा है।

मुख्य कठिनाई यह है कि ये कंप्यूटर प्रोग्राम जानकारी को कैसे संग्रहीत करते हैं। पारंपरिक रूप से, जब कोई मॉडल कुछ नया सीखता है, तो उसे अपनी आंतरिक स्मृति को फिर से लिखना पड़ता है, जिससे अक्सर उसकी पुरानी यादें अनजाने में मिट जाती हैं। यह एक नोटबुक में नया नोट लिखने के लिए पुराने पर घिसे जाने जैसा है; नई जानकारी तो आ जाती है, लेकिन पुरानी खो जाती है। अन्य तरीके मुख्य मेमोरी के बाहर तथ्यों की एक अलग सूची रखने की कोशिश करते हैं, लेकिन जैसे-जैसे वह सूची बढ़ती है, सिस्टम धीमा और महंगा हो जाता है। शोधकर्ता एक तरीका खोजना चाहते थे जिससे एक 'फ्रोजन' (जमे हुए) कंप्यूटर मॉडल—जिसकी मूल संरचना नहीं बदलती—सैकड़ों तथ्यों को याद रख सके, उन्हें बदलने पर सुधार सके, और यह भी जान सके कि अज्ञानता कब स्वीकार करनी है, और यह सब बिना इतिहास लंबा होने पर धीमा हुए।

मैक्सिमिलियानो स्पेरांज़ा नामक एक शोधकर्ता ने एक छोटे, फ्रोजन लैंग्वेज मॉडल पर एक दो-भाग वाली प्रणाली का परीक्षण करके इस समस्या को हल किया। पहला भाग एक "लॉगबुक" है, जो एक बाहरी रिकॉर्ड है जो प्रत्येक तथ्य को उसके संस्करण इतिहास के साथ संग्रहीत करता है। यह लॉगबुक एक त्वरित-संदर्भ शीट की तरह कार्य करती है जिसे मॉडल आवश्यकता पड़ने पर किसी कहानी के नवीनतम संस्करण को देखने के लिए उपयोग कर सकता है। दूसरा भाग एक प्रक्रिया है जिसे "नींद" (sleep) कहा जाता है, जो समय-समय पर होती है। इन नींद के चक्रों के दौरान, मॉडल लॉगबुक से सबसे हालिया तथ्यों को लेता है और उनका अभ्यास करता है, उन्हें धीरे-धीरे मुख्य मॉडल से जुड़ी एक छोटी, समायोज्य मेमोरी घटक में स्थानांतरित करता है। यह समेकन सुनिश्चित करता है कि हालिया यादें मॉडल के स्थायी ज्ञान का हिस्सा बन जाएं, ताकि उसे हमेशा के लिए लॉगबुक पर निर्भर न रहना पड़े।

इस प्रयोग में आठ हफ्तों की एक श्रृंखला शामिल थी, जहाँ मॉडल ने प्रत्येक सप्ताह 100 नए तथ्य सीखे। इसे सफल बनाने की कुंजी केवल लॉगबुक या नींद के चक्र अकेले नहीं थे, बल्कि नींद के दौरान उपयोग की जाने वाली एक विशिष्ट तकनीक थी। मॉडल को उन तथ्यों को फिर से दोहराने (replay) के लिए कहा गया था जो उसने पिछले हफ्तों में सीखे थे, नए तथ्यों के साथ उनका अभ्यास करना था। यह अभ्यास (rehearsal) अत्यंत महत्वपूर्ण था। जब शोधकर्ताओं ने इस 'रीप्ले' चरण को हटा दिया, तो मॉडल पहले सप्ताह में सीखी गई सभी बातें लगभग तुरंत ही भूल गया, और एक ही सत्र में इसकी सटीकता लगभग पूर्ण से घटकर लगभग शून्य हो गई। रीप्ले ने एक गोंद की तरह कार्य किया, जो नए तथ्यों को जोड़ने के दौरान पुरानी यादों को अपनी जगह पर बनाए रखता था।

परिणामों ने दिखाया कि यह विधि भूलने को रोकने में उल्लेखनीय रूप से प्रभावी थी। आठ हफ्तों तक नए तथ्य सीखने के बाद भी, मॉडल पहले सप्ताह के तथ्यों को 88 से 97 प्रतिशत की सटीकता के साथ याद रख सका। इसके विपरीत, अन्य मौजूदा तरीके जो इस 'स्लीप-एंड-रीप्ले' प्रक्रिया के बिना सीधे मॉडल की मेमोरी को अपडेट करने की कोशिश करते हैं, बुरी तरह विफल रहे। वे आठवें सप्ताह तक पहले सप्ताह के केवल 1 से 10 प्रतिशत तथ्यों को ही बरकरार रख पाए और, इससे भी बुरा यह कि उन्होंने मॉडल की उन अन्य कार्यों को करने की क्षमता को भी नुकसान पहुँचाया जिन्हें बदलने के लिए उन्हें कभी सिखाया ही नहीं गया था। हालाँकि, नए दृष्टिकोण ने मॉडल के अन्य कौशल सुरक्षित रखे, जिससे सिद्ध हुआ कि वह जो पहले से जानता था उसे तोड़े बिना नई चीजें सीख सकता है।

यह प्रणाली यह जानने में भी उत्कृष्ट थी कि वह क्या नहीं जानता। उन तथ्यों के बारे में पूछे जाने पर जिन्हें उसे सिखाया नहीं गया था, मॉडल अधिकांश समय सही ढंग से "मुझे नहीं पता" कहता है। हालाँकि, शोधकर्ताओं ने इस क्षमता की एक विशिष्ट सीमा पाई। जब मॉडल से एक ऐसा प्रश्न पूछा गया जिसमें दो ऐसी चीजें शामिल थीं जिन्हें वह जानता था—एक ज्ञात व्यक्ति और एक ज्ञात संबंध जिसे उसने पहले कभी नहीं देखा था—तो वह अनजाने में उत्तर देने के बजाय कभी-कभी उत्तर बना लेता है। प्रयोग के अंत तक लगभग आधे मामलों में ऐसा हुआ। शोधकर्ताओं ने तथ्यों को अधिक समान रूप से फैलाकर इसे ठीक करने की कोशिश की, लेकिन इससे परिणाम में कोई बदलाव नहीं आया। यह सुझाव देता है कि मॉडल के भीतर एक प्रवृत्ति है कि जब वह प्रश्न के हिस्सों को पहचान लेता है, तो वह अनुमान लगाने लगता है, भले ही वह विशिष्ट संयोजन नया हो।

अंत में, अध्ययन ने इस दो-चैनल प्रणाली की तुलना 'रिट्रीवल-ऑगमेंटेड जनरेशन' (RAG) नामक एक सामान्य विकल्प से की, जो हर बार आपसे पूछे जाने पर पूरे संवाद इतिहास को मॉडल के प्रॉम्प्ट में पेस्ट कर देता है। जबकि दोनों विधियों ने समान सटीकता प्राप्त की, नया सिस्टम कहीं अधिक कुशल था। लॉगबुक सिस्टम प्रत्येक प्रश्न के लिए केवल 16 शब्दों को प्रोसेस करता था, जबकि वैकल्पिक विधि को इतिहास बढ़ने के साथ सैकड़ों या हजारों शब्दों को प्रोसेस करना पड़ता था। इस अंतर का अर्थ है कि नया सिस्टम महीनों के उपयोग के बाद भी तेज़ और सस्ता बना रहता है, जबकि दूसरा तरीका व्यावहारिक होने के लिए बहुत धीमा और महंगा हो जाएगा।

यह कार्य प्रदर्शित करता है कि एक कंप्यूटर मॉडल को अतीत को भूले बिना एक लंबा, बदलता हुआ इतिहास याद रखने के लिए सिखाया जा सकता है, बशर्ते उसे नए तथ्य सीखते समय पुराने तथ्यों का अभ्यास करने का एक तरीका दिया जाए। यह दिखाता है कि निरंतर सीखने की कुंजी केवल जानकारी संग्रहीत करना नहीं है, बल्कि पुराने को सुदृढ़ करते हुए नए को एकीकृत करने के तरीके से सक्रिय रूप से अभ्यास करना है। हालाँकि यह प्रणाली ज्ञात तथ्यों को मिलाने पर एक विशिष्ट प्रकार की अनुमान लगाने वाली त्रुटि (guessing error) के साथ संघर्ष करती है, फिर भी यह उपयोगकर्ताओं से समय के साथ वास्तव में याद रखने और सीखने वाले सहायकों के निर्माण के लिए एक स्पष्ट मार्ग प्रदान करती है।