Understanding Contextual Recall in Transformers: How Finetuning Enables In-Context Reasoning over Pretraining Knowledge
यह शोध पत्र यह प्रदर्शित करता है कि जबकि प्रीट्रेनिंग अकेले ट्रांसफॉर्मर्स को तथ्यात्मक ज्ञान से सुसज्जित करती है, निहित अनुमान (implicit inference) की आवश्यकता वाले कार्यों पर फाइनट्यूनिंग, साझा विशेषता प्रकारों (shared attribute types) के निम्न-आयामी लेटेंट एनकोडिंग (low-dimensional latent encodings) बनाने के माध्यम से कॉन्टेक्स्टुअल रिकॉल के उद्भव को ट्रिगर करने के लिए आवश्यक है, जिसे सिंथेटिक प्रयोगों और एक निर्मित अटेंशन-ओनली ट्रांसफॉर्मर मॉडल दोनों के माध्यम से मान्य किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास Transformer नाम का एक प्रतिभाशाली छात्र है। इस छात्र ने एक विशाल पुस्तकालय की हर किताब को पढ़ने में कई साल बिताए हैं (यह Pretraining है)। उसने लाखों तथ्य याद कर लिए हैं: "एफिल टॉवर पेरिस में है," "कोलोसियम रोम में है," "नियाग्रा फॉल्स कनाडा में है।"
हालाँकि, एक पेंच है। जब यह छात्र इन तथ्यों को पढ़ता है, तो उन्हें हमेशा एक विशिष्ट "लेबल" या "संकेत" के साथ प्रस्तुत किया जाता है, जैसे कि कोई व्याकरण टैग।
- टेक्स्ट: "द एफिल टॉवर [स्थान: पेरिस]।"
- टेक्स्ट: "द कोलोसियम [स्थान: रोम]।"
छात्र "एफिल टॉवर" शब्द को "पेरिस" से केवल इसलिए जोड़कर सीखता है क्योंकि वह उससे ठीक पहले [स्थान] टैग देखता है। वह एक ऐसे तोते की तरह है जो केवल तभी कोई वाक्यांश दोहराता है जब वह पहले एक विशिष्ट सीटी की आवाज़ सुनता है।
समस्या: "मौन" परीक्षा (The "Silent" Test)
अब, कल्पना कीजिए कि एक शिक्षक छात्र को एक नए प्रकार का टेस्ट देता है। शिक्षक बोर्ड पर लिखता है:
"नियाग्रा फॉल्स, कनाडा। कोलोसियम, इटली। पार्थेनन, ______।"
शिक्षक पूछता है: "खाली जगह में क्या आएगा?"
छात्र घबरा जाता है। यहाँ कोई टैग जैसे [स्थान] या [देश] नहीं है। छात्र को स्वयं पैटर्न को समझना होगा। उसे पहले दो उदाहरणों को देखना होगा, और यह महसूस करना होगा, "ओह! पैटर्न है 'लैंडमार्क, देश'," और फिर उस तर्क को तीसरे वाले पर लागू करने के लिए उसे "ग्रीस" का अनुमान लगाना होगा।
इसे Contextual Recall कहा जाता है। छात्र को बिना किसी स्पष्ट संकेत के, संदर्भ (उदाहरणों) का उपयोग करके तथ्य को याद करना होगा।
खोज: केवल पढ़ना काफी नहीं है
शोधकर्ताओं ने इस पेपर में कुछ आश्चर्यजनक पाया:
- केवल लाइब्रेरी पढ़ना (Pretraining) पर्याप्त नहीं है। भले ही छात्र सभी तथ्य जानता है, वह "मौन परीक्षा" में विफल हो जाता है। वह पैटर्न को समझ नहीं पाता क्योंकि वह "सीटी" (व्याकरण टैग) पर निर्भर रहने का बहुत आदी हो चुका है।
- उन्हें एक विशेष प्रकार के अभ्यास (Finetuning) की आवश्यकता है। इसे ठीक करने के लिए, शोधकर्ताओं ने छात्र को एक विशेष प्रशिक्षण सत्र दिया। उन्होंने उसे केवल और अधिक तथ्य नहीं दिए; बल्कि उन्होंने उसे ऐसी पहेलियाँ दीं जहाँ "सीटी" गायब थी या छिपी हुई थी, जिससे उसे उदाहरणों के आधार पर पैटर्न का अनुमान लगाने के लिए मजबूर होना पड़ा।
जादू: पैटर्न में "सोचना" सीखना
यहाँ इस पेपर का सबसे रोमांचक हिस्सा है। शोधकर्ताओं को छात्र को नए तथ्य सिखाने की आवश्यकता नहीं थी। उन्होंने उसे केवल विषयों के एक छोटे समूह पर सिखाया (शायद 256 लैंडमार्क्स में से केवल 50 लैंडमार्क्स पर)।
लेकिन यहाँ जादू है: एक बार जब छात्र ने उन 50 लैंडमार्क्स के लिए पहेली सुलझाना सीख लिया, तो वह उन अन्य 206 लैंडमार्क्स के लिए भी इसे तुरंत हल कर सका जिन्हें उसने इस विशिष्ट प्रारूप में कभी नहीं देखा था!
उन्होंने यह कैसे किया?
छात्र के मस्तिष्क को एक "स्टिकी नोट" प्रणाली के रूप में सोचें।
- प्रशिक्षण से पहले: छात्र यह जानने के लिए एक विशिष्ट स्टिकी नोट (व्याकरण टैग) की तलाश करता था कि क्या करना है।
- प्रशिक्षण के बाद: छात्र ने अपने मन के भीतर एक नया, अदृश्य "स्टिकी नोट" बनाना सीख लिया। जब वह "नियाग्रा फॉल्स, कनाडा" देखता है, तो वह एक मानसिक टैग बनाता है जो कहता है "यह एक देश वाला खेल है।" फिर वह उस अदृश्य टैग का उपयोग करके पार्थेनन के लिए देश का पता लगाता है।
पेपर दिखाता है कि इस विशेष प्रशिक्षण के दौरान, छात्र का मस्तिष्क एक लो-डायमेंशनल "टास्क वेक्टर" (Task Vector) बनाता है।
- उपमा: कल्पना कीजिए कि छात्र का मस्तिष्क एक विशाल मानचित्र है। पहले, सभी तथ्य बिखरे हुए थे। प्रशिक्षण के बाद, छात्र ने अपने दिमाग में एक नया, अदृश्य हाईवे बनाया जो सभी "देश" वाले तथ्यों को आपस में जोड़ता है। जब वह पहला उदाहरण देखता है, तो वह इस हाईवे पर कूद जाता है और अगले उत्तर तक तेज़ी से पहुँच जाता है।
यह क्यों महत्वपूर्ण है
यह समझाता है कि कैसे AI मॉडल (जैसे वे जिनसे आप चैट करते हैं) स्मार्ट बनना सीखते हैं।
- Pretraining उन्हें कच्चा डेटा (विश्वकोश) देती है।
- Finetuning उन्हें यह कौशल सिखाती है कि कुछ उदाहरणों को देखकर नियम कैसे समझे जाएँ, भले ही नियम बदल जाएँ या संकेत गायब हो जाएँ।
यह पेपर सिद्ध करता है कि AI को और अधिक समझदार बनाने के लिए आपको उसे सब कुछ शुरू से फिर से सिखाने की आवश्यकता नहीं है। आपको बस उसे यह सिखाना है कि कुछ उदाहरणों में पैटर्न कैसे खोजा जाए, और वह उस कौशल को उस सभी चीज़ों पर लागू कर देगा जो वह पहले से जानता है।
एक वाक्य में सारांश
Pretraining AI के मस्तिष्क को तथ्यों से भर देती है, लेकिन एक विशेष प्रकार का अभ्यास (finetuning) AI को स्पष्ट संकेतों को अनदेखा करना और खुद से छिपे हुए नियमों को समझना सिखाता है, जिससे वह पुराने ज्ञान का उपयोग करके नई पहेलियों को हल करने में सक्षम होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।