Learned, Then Lost: A Measured Single-Example Counterfactual in Pre-training
यह अध्ययन अनुभवजन्य रूप से यह प्रदर्शित करता है कि जबकि एक एकल प्रशिक्षण उदाहरण तेजी से सीखा जाता है और मॉडल के तात्कालिक भविष्यवाणियों को मापने योग्य रूप से प्रभावित करता है, इसका विशिष्ट योगदान प्री-ट्रेनिंग के दौरान पूरी तरह से समाप्त हो जाता है, जिससे अलग-अलग रैंडम सीड्स के कारण होने वाली प्राकृतिक भिन्नता के परे अंतिम मॉडल के लॉस (loss), वेट्स (weights) या ज्योमेट्री (geometry) पर कोई पता लगाने योग्य दीर्घकालिक प्रभाव नहीं बचता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के विशाल परिदृश्य में, शोधकर्ता टेक्स्ट की विशाल पुस्तकालयों को फीड करके विशाल कंप्यूटर प्रोग्राम बनाते हैं जिन्हें भाषा मॉडल (लैंग्वेज मॉडल्स) कहा जाता है। ये प्रोग्राम अरबों वाक्यों को पढ़कर सीखते हैं, और एक अनुक्रम (सीक्वेंस) में अगले शब्द की भविष्यवाणी करने के लिए अपने आंतरिक सेटिंग्स को धीरे-धीरे समायोजित करते हैं। वर्षों से, वैज्ञानिक यह जानना चाहते थे कि एक एकल वाक्य या एक विशिष्ट तथ्य मॉडल की अंतिम बुद्धिमत्ता में कितना योगदान देता है। यह कारण और प्रभाव का प्रश्न है: यदि आप प्रशिक्षण पुस्तकालय से डेटा का एक छोटा सा हिस्सा हटा देते हैं, तो क्या बना हुआ मॉडल बदल जाता है? इसका उत्तर खोजना अविश्वसनीय रूप से कठिन है क्योंकि इसे पता लगाने का मानक तरीका मॉडल को शून्य से दो बार प्रशिक्षित करने की मांग करेगा—एक बार उस वाक्य के साथ और एक बार उसके बिना—जबकि अन्य हर विवरण को बिल्कुल समान रखना होगा। चूंकि इन मॉडलों को प्रशिक्षित करने में अत्यधिक समय और पैसा लगता है, इसलिए शोधकर्ता सीधे मापने के बजाय उत्तर का अनुमान लगाने के लिए गणितीय शॉर्टकट पर निर्भर रहते हैं।
एक टीम के शोधकर्ताओं ने अनुमान लगाना बंद करने और मापना शुरू करने का निर्णय लिया। उन्होंने एक सटीक प्रयोग डिजाइन किया यह देखने के लिए कि जब भाषा मॉडल के प्रशिक्षण की प्रक्रिया में एक विशिष्ट टेक्स्ट का हिस्सा डाला जाता है, तो क्या होता है। उन्होंने तैंतीस अलग-अलग मॉडल बनाए, जो सभी एक ही समान यादृच्छिक शुरुआत से शुरू हुए थे। उन्होंने प्रत्येक को इंटरनेट टेक्स्ट के एक विशाल संग्रह पर प्रशिक्षित किया, लेकिन प्रक्रिया के एक विशिष्ट क्षण पर, उन्होंने हस्तक्षेप किया। इन तैंतीस मॉडलों में से चौबीस के लिए, उन्होंने प्रशिक्षण डेटा में एक पंक्ति को एक नए, 194-शब्दों के अनुच्छेद के साथ बदल दिया। उन्होंने यह तीन अलग-अलग तरीकों से किया: एक समूह को एक वास्तविक व्यक्ति के बारे में एक अच्छी तरह से लिखा गया पैराग्राफ मिला जो वास्तव में उनके प्रशिक्षण डेटा में दिखाई देता है; दूसरे समूह को एक काल्पनिक व्यक्ति के बारे में एक अच्छी तरह से लिखा गया पैराग्राफ मिला जो डेटा में मौजूद नहीं है; और तीसरे समूह को रैंडम कीबोर्ड कैरेक्टर्स की एक पंक्ति मिली। शेष आठ मॉडल एक नियंत्रण (कंट्रोल) के रूप में कार्य करते थे, जिन्हें कोई बदलाव नहीं मिला, जिससे शोधकर्ताओं को एक आदर्श जुड़वां के विरुद्ध परिणामों की तुलना करने की अनुमति मिली।
शोधकर्ता मॉडल की आंतरिक संरचना में एक विशिष्ट प्रकार के परिवर्तन की तलाश कर रहे थे। वे देखना चाहते थे कि क्या उस एकल वाक्य की "याददाश्त" का मॉडल के अंतिम आकार पर कोई स्थायी निशान पड़ेगा। उन्होंने हजारों चरणों तक मॉडल के सीखने की प्रक्रिया को ट्रैक किया। परिणामों ने सीखने और भूलने के एक दिलचस्प पैटर्न को दिखाया। नए अनुच्छेद को देखने के केवल पचास चरणों के बाद, मॉडल उस अनुच्छेद के शब्दों की भविष्यवाणी उन मॉडलों की तुलना में काफी बेहतर तरीके से कर सका जिन्होंने उसे कभी नहीं देखा था। इसने सिद्ध किया कि मॉडल ने वास्तव में एक बार के संपर्क से जानकारी सीख ली थी। हालांकि, जैसे-जैसे प्रशिक्षण जारी रहा, यह लाभ फीका पड़ता गया। जब तक मॉडलों ने अपना प्रशिक्षण पूरा किया, उस विशिष्ट अनुच्छेद की भविष्यवाणी करने की क्षमता गायब हो गई थी, और वे मॉडल जिन्होंने टेक्स्ट देखा था, वे उन मॉडलों से अविभेद्य (indistinguishable) हो गए जिन्होंने नहीं देखा था।
जब शोधकर्ताओं ने मॉडलों की अंतिम स्थिति को देखा, तो उन्होंने पाया कि उस एकल वाक्य ने मॉडल के मौलिक व्यवहार या सामान्य रूप से भाषा को समझने की उसकी क्षमता को नहीं बदला था। उन्होंने मॉडलों के अंतिम सेटिंग्स के बीच की दूरी को मापा, जिन्होंने टेक्स्ट देखा था और उनके जुड़वां मॉडलों के बीच, और हालांकि मॉडल अपनी आंतरिक सेटिंग्स में थोड़ा विस्थापित हुए थे, वे एक नए क्षेत्र में नहीं पहुंचे थे। वे अभी भी समाधान के उसी "बेसिन" (basin) में थे, जिसका अर्थ है कि वे कार्यात्मक रूप से समान ही थे। शोधकर्ताओं ने यह भी परीक्षण किया कि क्या पैराग्राफ के वास्तविक व्यक्ति के बारे में होने या काल्पनिक व्यक्ति के बारे में होने से कोई अंतर पड़ता है। उन्होंने पाया कि इसमें कोई मापने योग्य अंतर नहीं था; मॉडल ने तथ्यात्मक और काल्पनिक कहानियों के साथ बिल्कुल एक जैसा व्यवहार किया। यहाँ तक कि रैंडम कैरेक्टर्स ने भी, जिन्होंने अधिक प्रारंभिक विक्षोभ (disturbance) पैदा किया था, अंततः एक ऐसी स्थिति में स्थिरता प्राप्त की जो अन्य के कार्यात्मक रूप से समान थी।
यह अध्ययन एक मॉडल के आंतरिक नंबरों के बदलने और उसके वास्तविक व्यवहार के बदलने के बीच एक महत्वपूर्ण अंतर को उजागर करता है। शोधकर्ताओं ने पाया कि जबकि एकल वाक्य ने मॉडल के आंतरिक निर्देशांकों (coordinates) में एक ध्यान देने योग्य बदलाव किया—जिसने दो पूरी तरह से अलग मॉडलों के बीच की दूरी का लगभग 44 प्रतिशत तय किया—लेकिन इसने मॉडल के कार्यात्मक प्रदर्शन में लगभग कोई बदलाव नहीं किया। नए, अनदेखे टेक्स्ट पर अगले शब्द की भविष्यवाणी करने की मॉडल की क्षमता अपरिवर्तित रही। यह सुझाव देता है कि इन मॉडलों की आंतरिक सेटिंग्स लचीली हैं; वे अंतिम आउटपुट को बदले बिना काफी अधिक शिफ्ट हो सकती हैं। प्रयोग ने यह भी खुलासा किया कि माप का समय अत्यंत महत्वपूर्ण है। यदि आप मॉडल के तथ्य सीखने के ठीक बाद जांच करते हैं, तो आपको एक मजबूत प्रभाव दिखाई देता है। यदि आप प्रशिक्षण पूरा होने तक प्रतीक्षा करते हैं, तो वह प्रभाव कम हो जाता है। शोधकर्ताओं ने निष्कर्ष निकाला कि एक एकल उदाहरण के लिए, मॉडल इसे सीखता है, इसका उपयोग करता है, और फिर इसे छोड़ देता है, जिससे अंतिम उत्पाद उस अकेले डेटा से काफी हद तक अप्रभावित रहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।