A Circuit for In-Context Learning
यह शोधपत्र ट्रांसफार्मर मॉडलों में एक विशिष्ट, संरक्षित तंत्रिका परिपथ (न्यूरल सर्किट) की पहचान और कारण संबंधी रूप से पुष्टि करता है जो एक गेटेड एसोसिएटिव मेमोरी मैकेनिज्म को लागू करके कुछ-शॉट वाक्य वर्गीकरण के लिए इन-कॉन्टेक्स्ट लर्निंग को सक्षम बनाता है, जहाँ मध्य-परत के हेड्स लेबल-वर्ग मैपिंग को संग्रहीत करते हैं और ऊपरी-परत के हेड्स उन्हें क्वेरी मिलान के आधार पर पुनर्प्राप्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक भाषा मॉडल की कल्पना मानव ज्ञान के एक विशाल पुस्तकालय के रूप में करें, जिसे अरबों वाक्यों पर प्रशिक्षित किया गया है। जब आप इससे कोई प्रश्न पूछते हैं, तो यह आमतौर पर जो कुछ भी इसने याद किया है, उसके आधार पर उत्तर देता है। लेकिन यह एक विशेष ट्रिक कर सकता है जिसे "इन-कॉन्टेक्स्ट लर्निंग" (in-context learning) कहा जाता है। यदि आप मॉडल को अपने प्रश्न पूछने से ठीक पहले एक नए कार्य के कुछ उदाहरण दिखाते हैं—जैसे कि उसे बनाए गए लेबल के साथ एक दर्जन वाक्य दिखाना—तो यह तुरंत पैटर्न को सीख सकता है और आपके नए वाक्य पर उसे लागू कर सकता है, बिना अपने आंतरिक भार (weights) को बदले या पुन: प्रशिक्षित हुए। यह एक ही क्षण में पढ़ने के माध्यम से नियम को समझ लेता है। वर्षों तक, वैज्ञानिकों को पता था कि ऐसा होता है, लेकिन वे यह नहीं जानते थे कि मशीन वास्तव में इसे कैसे करती है। वे परिणाम देख सकते थे, लेकिन उस अंधेरे बॉक्स के भीतर घूमते हुए गियर एक रहस्य बने हुए थे।
शोधकर्ताओं की एक टीम ने अब उस बॉक्स को खोल दिया है और इस क्षमता के पीछे की सटीक मशीनरी का मानचित्र तैयार कर दिया है। तीन अलग-अलग बड़े भाषा मॉडलों का अध्ययन करके, उन्होंने पाया कि मॉडल पारंपरिक अर्थों में किसी नियम को "सीखता" नहीं है। इसके बजाय, यह प्रॉम्प्ट के भीतर ही एक अस्थायी स्मृति (temporary memory) बनाता है, जिसमें अटेंशन हेड्स (attention heads)—नेटवर्क के भीतर विशिष्ट प्रसंस्करण इकाइयाँ—का उपयोग लेखक, पाठक और द्वारपाल के रूप में किया जाता है। उन्होंने पाया कि मॉडल आपके द्वारा दिए गए उदाहरणों को एक 'की-वैल्यू मेमोरी सिस्टम' (key-value memory system) के रूप में मानता है। जब आप एक वाक्य के बाद एक लेबल दिखाते हैं, तो मॉडल उस लेबल की पहचान को अपनी स्मृति के एक विशिष्ट स्लॉट में लिख देता है, और साथ ही एक "की" (key) लिख देता है जो उस प्रकार के वाक्य का वर्णन करती है जिसे उसने अभी देखा है। बाद में, जब मॉडल अंतिम प्रश्न का सामना करता है, तो वह उस प्रश्न के लिए एक कोड की गणना करता है और अपनी अस्थायी स्मृति में खोजने के लिए उसका उपयोग करता है, जो पहले संग्रहीत कुंजियों (keys) के विरुद्ध प्रश्न के प्रकार का मिलान करके सही लेबल प्राप्त करता है।
शोधकर्ताओं ने इस प्रक्रिया को चरण-दर-चरण ट्रैक किया, उन्होंने एक ऐसी विधि का उपयोग किया जिससे वे विभिन्न प्रॉम्प्ट्स के बीच मॉडल की आंतरिक गतिविधि के हिस्सों को बदल सकते थे ताकि यह देखा जा सके कि कौन से हिस्से आवश्यक हैं। उन्होंने पाया कि लगभग बीस मध्य-परत वाले हेड्स (middle-layer heads) लेखकों के रूप में कार्य करते हैं, जो प्रत्येक प्रदर्शन वाक्य के वर्ग को लेते हैं और उसे अगले लेबल के मेमोरी स्लॉट में जमा कर देते हैं। फिर, लगभग नब्बे ऊपरी-परत वाले हेड्स (upper-layer heads) पाठकों के रूप में कार्य करते हैं। ये पाठक स्मृति को स्कैन करते हैं, उन स्लॉट्स की तलाश करते हैं जहाँ संग्रहीत 'की' वर्तमान प्रश्न के वर्ग से मेल खाती है। जब उन्हें मिलान मिलता है, तो वे उस स्लॉट से लेबल को अंतिम उत्तर में कॉपी कर देते हैं। हालाँकि, यह रिट्रीवल (retrieval) प्रणाली हमेशा सक्रिय नहीं होती है। शोधकर्ताओं ने एक "गेट" (gate) की खोज की जो यह तय करता है कि स्मृति को पढ़ना है या नहीं। यह गेट जाँचता है कि क्या उदाहरणों में कोई लेबल एक से अधिक बार आया है। यदि कोई लेबल दोहराया जाता है, तो गेट खुल जाता है, जिससे पाठक स्मृति को खोजने के लिए स्वतंत्र हो जाते हैं। यदि कोई लेबल नहीं दोहराया जाता है, तो गेट बंद रहता है, और मॉडल उदाहरणों को अनदेखा करने का निर्णय लेता है, यह व्यवहार इसे तब गलत अनुमान लगाने से रोकता है जब कोई स्पष्ट पैटर्न मौजूद नहीं होता।
यह सुनिश्चित करने के लिए कि मॉडल सही उत्तर दे, लगभग दो दर्जन अन्य हेड्स "ब्रेक" (brakes) के रूप में कार्य करते हैं। ये हेड्स हाल ही में देखे गए लेबल के विरुद्ध कार्य करते हैं, जिससे मॉडल केवल अंतिम देखे गए उदाहरण को कॉपी करने से बच जाता है, जिसे 'रिसेंसी बायस' (recency bias) नामक एक सामान्य पूर्वाग्रह कहा जाता है। इन ब्रेक्स के बिना, मॉडल अक्सर पैटर्न को अनदेखा कर देगा और बस अंतिम देखे गए लेबल को दोहरा देगा। शोधकर्ताओं ने यह भी पाया कि मॉडल एक "सिंक" (sink) पर निर्भर करता है, जो एक डिफ़ॉल्ट स्थिति है जहाँ ध्यान तब जाता है जब किसी विशिष्ट चीज़ पर ध्यान केंद्रित करने के लिए कुछ नहीं होता है। गेट इस सिंक के प्रति आकर्षण को कम करके काम करता है, जिससे पाठकों को वास्तविक मेमोरी स्लॉट्स को देखने के लिए मजबूर किया जाता है।
इस खोज को जो चीज़ विशेष रूप से सुदृढ़ बनाती है वह यह है कि शोधकर्ताओं ने केवल व्यवहार का अवलोकन ही नहीं किया; उन्होंने कनेक्शन काटकर इसे सिद्ध भी किया। जब उन्होंने लेखकों (writers) को ब्लॉक किया, तो मॉडल कुंजियों को संग्रहीत नहीं कर सका। जब उन्होंने पाठकों (readers) को ब्लॉक किया, तो वह उन्हें खोज नहीं सका। जब उन्होंने गेट को हटाया, तो मॉडल स्मृति को पढ़ने का प्रयास करने लगा, भले ही कोई पैटर्न मौजूद नहीं था, जिससे त्रुटियां हुईं। उन्होंने इस सर्किट का एक छोटा, हाथ से बनाया गया संस्करण भी बनाया, और यह बिल्कुल वैसा ही काम करता है जैसा कि भविष्यवाणी की गई थी, जिससे पुष्टि हुई कि ये विशिष्ट भाग इस कार्य को करने के लिए पर्याप्त हैं। अध्ययन ने यह भी खुलासा किया कि जबकि इस कार्य को करने वाले विशिष्ट हेड्स अलग-अलग मॉडलों के बीच थोड़े भिन्न होते हैं, सर्किट की समग्र संरचना समान रहती है।
शायद सबसे आश्चर्यजनक निष्कर्ष कार्य के आकार से संबंधित है। शोधकर्ताओं ने पाया कि मॉडल पूरे कार्य को करने के लिए एक एकल शक्तिशाली हेड पर निर्भर नहीं करता है। इसके बजाय, कार्य को कई हेड्स के बीच साझा किया जाता है जो मिलकर काम करते हैं। कोई भी एकल रीडर हेड अकेले अंतिम उत्तर देने के लिए पर्याप्त शक्तिशाली नहीं है; मॉडल को एक विश्वसनीय भविष्यवाणी उत्पन्न करने के लिए दर्जनों हेड्स के संयुक्त आउटपुट की आवश्यकता होती है। यह समझाता है कि मॉडल इस कार्य के लिए इतने बड़े जनसंख्या वाले हेड्स का उपयोग क्यों करता है। इसके अलावा, अध्ययन ने दिखाया कि जैसे-जैसे मॉडल बड़े होते हैं, वे समस्या को हल करने के लिए नए हिस्से नहीं बनाते हैं। इसके बजाय, वे मौजूदा आबादी को मजबूत करते हैं। वे "ब्रेक्स" जो मॉडल को हालिया उदाहरण से पक्षपाती होने से रोकते हैं, बड़े मॉडलों में अधिक मजबूत हो जाते हैं, यही कारण है कि बड़े मॉडल उदाहरणों में दिए गए पैटर्न का पालन करने में बेहतर होते हैं बजाय इसके कि वे शब्दों के सामान्य अर्थों के बारे में अपने पूर्व-प्रशिक्षित ज्ञान पर भरोसा करें।
यह कार्य संदर्भ से सीखने के बारे में हमारी समझ को बदल देता है। यह बताता है कि मॉडल जादुई रूप से नियमों का अनुमान नहीं लगा रहा है या जटिल गणितीय अपडेट नहीं कर रहा है। इसके बजाय, यह एक अत्यधिक संगठित, यांत्रिक लुकअप (lookup) कर रहा है। यह एक अस्थायी स्मृति में जानकारी लिखता है, जाँच करता है कि क्या कोई पैटर्न मौजूद है, और फिर उस पैटर्न के आधार पर उत्तर प्राप्त करता है। शोधकर्ताओं ने दिखाया कि यह तंत्र विभिन्न मॉडल आकारों में सुसंगत है और यहाँ तक कि जब मॉडल को अन्य कार्यों के लिए फाइन-ट्यून किया जाता है, तब भी जीवित रहता है। कुछ उदाहरणों से सीखने की क्षमता एक रहस्यमय उभरता हुआ गुण नहीं है, बल्कि एक ठोस, पता लगाने योग्य सर्किट है जो पहचाने जाने योग्य घटकों से बना है जिसे मापा, हेरफेर किया और समझा जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।