FishBack: Pullback Fisher Geometry for Optimal Activation Steering in Transformers
यह शोधपत्र FishBack को प्रस्तुत करता है, जो एक नवीन एक्टिवेशन स्टीयरिंग विधि है जो दोषपूर्ण यूक्लिडियन धारणा के स्थान पर फिशर सूचना मेट्रिक (Fisher information metric) का उपयोग करके एक इष्टतम स्टीयरिंग दिशा प्राप्त करती है, जिससे विभिन्न आकार और परतों वाले ट्रांसफॉर्मर मॉडलों में ऑफ-टारगेट विरूपण (off-target distortions) को काफी कम किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स कृत्रिम न्यूरॉन्स के विशाल नेटवर्क हैं जिन्होंने वाक्यों में अगले शब्द की भविष्यवाणी करना सीखने के लिए ट्रिलियन उदाहरणों को पढ़ा है। एक बार प्रशिक्षित होने के बाद, ये मॉडल अविश्वसनीय रूप से उपयोगी हो सकते हैं, लेकिन वे जिद्दी या असुरक्षित भी हो सकते हैं, जो ऐसा टेक्स्ट उत्पन्न कर सकते हैं जो पक्षपाती, बेईमान, या बस वह नहीं होता जो उपयोगकर्ता चाहता था। वर्षों से, शोधकर्ताओं ने मॉडल की आंतरिक गणनाओं में काम करते समय एक छोटा सा 'नज' (धक्का) देकर इन व्यवहारों को ठीक करने की कोशिश की है। यह तकनीक, जिसे 'एक्टिवेशन स्टीयरिंग' कहा जाता है, मॉडल की छिपी हुई परतों (हिडन लेयर्स) में एक विशिष्ट दिशा खोजने और डेटा को उस पथ पर धकेलने में शामिल है ताकि एक वांछित गुण, जैसे कि सत्यनिष्ठा या एक विशिष्ट व्याकरणिक काल (टेन्स), को प्रोत्साहित किया जा सके। यह पूरे मॉडल को फिर से प्रशिक्षित करने का एक हल्का विकल्प है, जो महंगा और समय लेने वाला है। हालाँकि, ये 'नज' भरोसेमंद नहीं रहे हैं। एक नज जो नेटवर्क के एक हिस्से में पूरी तरह से काम करता है, वह अक्सर दूसरे हिस्से में विफल हो जाता है, या इससे भी बुरा, यह एक समस्या को ठीक करता है जबकि अनजाने में कुछ और पूरी तरह से बिगाड़ देता है, जिससे मॉडल अर्थहीन शब्द (गिबरिश) पैदा करने लगता है या अपना मूल व्यक्तित्व खो देता है।
साउथ चाइना यूनिवर्सिटी ऑफ टेक्नोलॉजी के शोधकर्ताओं के एक नए अध्ययन के अनुसार, इस अस्थिरता का मुख्य कारण उन स्थानों के प्रति मौलिक गलतफहमी है जिनमें ये मॉडल कार्य करते हैं। अधिकांश मौजूदा तरीके मॉडल की आंतरिक स्थिति के साथ इस तरह व्यवहार करते हैं जैसे कि वह एक सपाट, साधारण ग्रिड हो, जहाँ किसी भी दिशा में एक निश्चित दूरी तय करने में समान प्रयास लगता है। शोधकर्ता तर्क देते हैं कि यह दृष्टिकोण गलत है। वास्तव में, एक भाषा मॉडल के भीतर का स्थान घुमावदार और असमान होता है, ठीक वैसे ही जैसे पृथ्वी की सतह एक सपाट मानचित्र की तुलना में होती है। एक दिशा में छोटी दूरी तय करने से मॉडल का आउटपुट नाटकीय रूप रूप से बदल सकता है, जबकि उसी दूरी की एक पड़ोसी दिशा में जाने से लगभग कोई प्रभाव नहीं पड़ सकता है। पुराने तरीके, सपाट सतह मानकर, अनिवार्य रूप से एक पर्वत श्रृंखला के पार एक सीधी रेखा में कार चलाने की कोशिश कर रहे थे, जो उन खड़ी ढलानों और घाटियों की अनदेखी कर रहे थे जो वास्तव में पथ निर्धारित करती हैं।
इसे हल करने के लिए, टीम ने 'फिशबैक' (FishBack) नामक एक नया दृष्टिकोण विकसित किया। सही दिशा का अनुमान लगाने के बजाय, उन्होंने उस परिदृश्य (लैंडस्केप) के वास्तविक आकार की गणना की जिसमें मॉडल नेविगेट कर रहा है। उन्होंने पाया कि यह नियम कि नेटवर्क के बीच में एक छोटा सा परिवर्तन अंतिम आउटपुट को कैसे प्रभावित करता है, 'फिशर इंफॉर्मेशन मेट्रिक' नामक एक विशिष्ट गणितीय गुण द्वारा निर्धारित होता है। यह मेट्रिक एक टोपोग्राफिक मैप की तरह कार्य करता है, जो बिल्कुल दिखाता है कि हर दिशा में परिदृश्य कितना "खड़ा" या "सपाट" है। इस मानचित्र को मॉडल की अंतिम आउटपुट परत से उन मध्यवर्ती परतों तक वापस खींचकर, जहाँ स्टीयरिंग होती है, शोधकर्ता समस्या के वास्तविक ज्यामिति (जियोमेट्री) को देख सके। फिर उन्होंने इस मानचित्र का उपयोग मॉडल की स्थिति को स्थानांतरित करने के लिए सबसे अच्छे पथ को खोजने के लिए किया। यह पथ एक सीधी रेखा नहीं है; यह एक घुमावदार मार्ग है जो वांछित व्यवहार परिवर्तन प्राप्त करता है और मॉडल के शेष ज्ञान को कम से कम बाधित करते हुए न्यूनतम "ऊर्जा" का उपयोग करता है।
शोधकर्ताओं ने सात सौ साठ आंतरिक आयामों वाले एक छोटे मॉडल से लेकर चार हजार से अधिक आयामों वाले विशाल मॉडलों तक, विभिन्न आकारों के तीन अलग-अलग भाषा मॉडलों पर इस पद्धति का परीक्षण किया। उन्होंने तीन विशिष्ट कार्यों पर ध्यान केंद्रित किया: एक क्रिया को उसके तृतीय पुरुष एकवचन रूप में बदलना, उसे प्रगतिशील रूप (प्रोग्रेसिव फॉर्म) में बदलना, या उसे भूतकाल (पास्ट टेंस) में बदलना। प्रत्येक मामले में, उन्होंने अपने नए ज्यामितीय तरीके की तुलना मानक, सपाट-स्थान तकनीकों से की। परिणाम आश्चर्यजनक थे। छोटे मॉडल पर, नए तरीके ने अनचाहे दुष्प्रभावों को—जिसे शोधकर्ता 'ऑफ-टारगेट डिस्ट्रोशन' कहते हैं—मौजूदा सर्वोत्तम तरीकों की तुलना में छह गुना से अधिक कम कर दिया। बड़े, अधिक जटिल मॉडलों पर, सुधार और भी सुसंगत था, जिसने नेटवर्क की शुरुआती और मध्य परतों में अनचाहे परिवर्तनों को लगभग चार गुना कम कर दिया।
महत्वपूर्ण रूप से, अध्ययन ने यह भी दिखाया कि पुराने तरीके न केवल थोड़े कम कुशल थे, बल्कि वे अपने दृष्टिकोण में मौलिक रूप से त्रुटिपूर्ण भी थे। जब शोधकर्ताओं ने जटिल ज्यामितीय मानचित्र को एक सरल सपाट धारणा से बदल दिया, तो उनके अपने सिस्टम का प्रदर्शन काफी गिर गया, जिससे यह सिद्ध हुआ कि स्थान का घुमाव (कर्वेचर) ही सफलता की कुंजी थी। नया तरीका प्रत्येक विशिष्ट स्थिति के लिए एक सटीक, इष्टतम दिशा की गणना करके काम करता है, न कि सभी इनपुट के लिए एक ही निश्चित वेक्टर का उपयोग करके। यह मॉडल को उस सटीक क्षण में उसकी आंतरिक स्थिति के अद्वितीय आकार के अनुकूल होने की अनुमति देता है। शोधकर्ताओं ने इस जटिल दिशा की गणना करने का एक तरीका भी विकसित किया जिसमें पूरे मानचित्र को स्पष्ट रूप से बनाने की आवश्यकता नहीं थी, जो सबसे बड़े मॉडलों के लिए बहुत धीमा होता। इसके बजाय, उन्होंने एक चतुर सन्निकटन (अपॉक्सिमेशन) का उपयोग किया जो केवल कुछ सौ गणनाओं के साथ परिदृश्य के आवश्यक आकार को पकड़ लेता है, जिससे यह तकनीक वास्तविक दुनिया के उपयोग के लिए व्यावहारिक बन जाती है।
निष्कर्ष बताते हैं कि वर्तमान एक्टिवेशन स्टीयरिंग विधियों को परेशान करने वाली अस्थिरता मॉडलों में कोई बग नहीं है, बल्कि उन्हें नेविगेट करने के लिए गलत ज्यामिति का उपयोग करने का परिणाम है। यह स्वीकार करके कि एक भाषा मॉडल की आंतरिक दुनिया घुमावदार है और दिशा के आधार पर गति की लागत बहुत भिन्न होती है, फिशबैक विधि इन प्रणालियों को निर्देशित करने का एक स्थिर और कुशल तरीका प्रदान करती है। शोधकर्ताओं ने प्रदर्शित किया कि यह ज्यामितीय सुधार नेटवर्क की शुरुआती और मध्य परतों में सबसे अधिक मूल्यवान है, जहाँ परिदृश्य सबसे असमान होता है। जैसे-जैसे डेटा अंतिम आउटपुट की ओर बढ़ता है, परिदृश्य समतल होता जाता है, और जटिल पद्धति का लाभ कम हो जाता है, जो सिद्धांत के साथ पूरी तरह मेल खाता है। यह कार्य भाषा मॉडलों को अधिक विश्वसनीय और नियंत्रणीय बनाने के लिए एक स्पष्ट मार्ग प्रदान करता है, जो एक नाजुक, परीक्षण-और-त्रुटि (ट्रायल-एंड-एरर) की प्रक्रिया को एक सटीक, गणितीय रूप से आधारित उपकरण में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।