Toward a First-Principles Update Geometry for the Language-Model Head

आधुनिक कृत्रिम बुद्धिमत्ता के विशाल परिदृश्य में, सबसे दृश्यमान उपलब्धियां अक्सर उन प्रणालियों से आती हैं जो मानव-समान पाठ उत्पन्न करती हैं। इन बातचीत के पीछे एक जटिल मशीन लर्निंग मॉडल होता है, एक डिजिटल मस्तिष्क जिसे डेटा की विशाल मात्रा पर प्रशिक्षित किया गया है। इस मशीन की प्रोसेसिंग श्रृंखला के बिल्कुल अंत में एक विशिष्ट घटक स्थित होता है जिसे 'लैंग्वेज-मॉडल हेड' (language-model head) कहा जाता है। इसका कार्य भ्रामक रूप से सरल है: यह एक आंतरिक छिपी हुई अवस्था (hidden internal state)—जो कंप्यूटर के सोचने का एक गणितीय प्रतिनिधित्व है—को लेता है और उसे इसके शब्दावली के प्रत्येक शब्द के लिए संभावनाओं की एक सूची में परिवर्तित करता है। यदि मॉडल वाक्य को "The sky is" (आकाश है) के साथ पूरा करने की कोशिश कर रहा है, तो यह घटक गणना करता है कि अगले शब्द के "blue" (नीला), "cloudy" (बादल वाला), या "falling" (गिरता हुआ) होने की कितनी संभावना है, और प्रत्येक संभावना को एक स्कोर प्रदान करता है। वर्षों से, इंजीनियरों ने इस अंतिम रूपांतरण को चलाने वाले गणित को एक मानक समस्या माना है, और इस नेटवर्क के शुरुआती परतों के लिए लागू किए जाने वाले सामान्य नियमों को ही इस मॉडल के भार (weights) को समायोजित करने के लिए उपयोग करते रहे हैं।

हालाँकि, एक नया दृष्टिकोण यह सुझाव देता है कि यह अंतिम चरण इस मशीन के बाकी हिस्सों से मौलिक रूप से भिन्न है। चूँकि आउटपुट एक प्रायिकता वितरण (probability distribution) है—प्रतिशतों का एक समूह जिसे सौ प्रतिशत होना चाहिए—इसलिए इसे बदलने के नियम प्रायिकता की अनूठी ज्यामिति का सम्मान करने चाहिए, न कि केवल कच्चे नंबरों को बदलने के नियमों का। कोलंबिया विश्वविद्यालय के आदित्य सोमसुंदरम द्वारा लिखित एक हालिया शोध पत्र इस विचार की खोज करता है कि अंतिम परत और प्रायिकता रूपांतरण को एक एकल, एकीकृत मॉड्यूल के रूप में माना जाए। लेखक का तर्क है कि इस प्रणाली को बेहतर बनाने के तरीके को समझने के लिए, हमें यह देखना चाहिए कि अपडेट कैसे शब्दों के बीच सापेक्ष संभावनाओं (relative odds) को बदलता है, न कि केवल यह कि संख्याएँ कितनी बदलती हैं। एक विशिष्ट गणितीय दूरी का उपयोग करते हुए, जो इन सापेक्ष संभावनाओं में परिवर्तन को मापती है, यह अध्ययन अपडेट के आकार को मापने का एक नया तरीका निकालता है। परिणाम एक नया ज्यामितीय चित्र है जहाँ परिवर्तन का "आकार" विभिन्न शब्दों के लिए मॉडल के आंतरिक निरूपणों के प्रसार (spread) द्वारा निर्धारित होता है, जो एक नए प्रकार के ऑप्टिमाइज़र (optimizer) के प्रस्ताव की ओर ले जाता है जो इन मॉडलों को अधिक कुशलता से सीखने में सक्षम बना सकता है।

इस जांच का मूल एक प्रश्न से शुरू होता है कि हम परिवर्तन को कैसे मापते हैं। जब एक कंप्यूटर अपनी गलती से सीखने के लिए अपनी आंतरिक सेटिंग्स को अपडेट करता है, तो वह संख्याओं की एक विशाल तालिका में एक सूक्ष्म समायोजन करता है। मानक प्रशिक्षण विधियों में, इंजीनियर अक्सर इस समायोजन के परिमाण को उन कच्चे नंबरों में होने वाले सबसे बड़े संभावित परिवर्तन को देखकर मापते हैं जिन्हें बाद में प्रायिकता में बदला जाता है। लेकिन लेखक बताते हैं कि अंतिम परत के लिए, कच्चे नंबर अंतिम उत्पाद नहीं हैं; प्रायिकताएं हैं। रूपांतरण प्रक्रिया, जिसे 'सॉफ्टमैक्स' (softmax) कहा जाता है, का एक विशेष गुण है: यदि आप सूची के प्रत्येक नंबर में समान मात्रा जोड़ते हैं, तो परिणामी प्रायिकताएं बिल्कुल नहीं बदलती हैं। इसका अर्थ है कि अपडेट के कच्चे आकार को मापना भ्रामक है, क्योंकि यह उन परिवर्तनों को गिनता है जिनका अंतिम आउटपुट पर कोई प्रभाव नहीं पड़ता है। इस समस्या को हल करने के लिए, शोध पत्र 'हिल्बर्ट के प्रोजेक्टिव डिस्टेंस' (Hilbert's projective distance) की अवधारणा की ओर मुड़ता है। यह प्रायिकताओं के दो सेटों के बीच की दूरी को मापने का एक तरीका है जो पूरी तरह से इस बात पर केंद्रित है कि किन्हीं दो शब्दों के बीच का अनुपात कैसे बदलता है। यह संख्याओं के पूर्ण आकार को अनदेखा करता है और केवल एक शब्द के दूसरे के विरुद्ध सापेक्ष स्थान को देखता है।

इस विशिष्ट दूरी माप को लागू करके, शोधकर्ता ने अपडेट की ज्यामिति और मॉडल के व्यवहार के बीच एक आश्चर्यजनक और स्पष्ट संबंध की खोज की। अध्ययन दिखाता है कि एक अपडेट द्वारा प्रायिकता वितरण में किया जाने वाला अधिकतम परिवर्तन सीधे तौर पर अपडेट मैट्रिक्स की पंक्तियों (rows) के भौतिक प्रसार से जुड़ा हुआ है। अपडेट को वेक्टर्स (vectors) के एक संग्रह के रूप में कल्पना करें, जहाँ प्रत्येक वेक्टर शब्दावली में एक विशिष्ट शब्द के अनुरूप होता है। अपडेट का "आकार", इस संदर्भ में कि यह प्रायिकताओं को कितना हिला सकता है, उन दो वेक्टर्स के बीच की दूरी द्वारा निर्धारित होता है जो एक-दूसरे से सबसे दूर हैं। यदि विभिन्न शब्दों के वेक्टर्स कसकर एक साथ क्लस्टर (clustered) किए गए हैं, तो अपडेट छोटा और सुरक्षित है। यदि वे दूर-दूर तक फैले हुए हैं, तो अपडेट बड़ा है और मॉडल की भविष्यवाणियों में भारी उतार-चढ़ाव ला सकता है। यह निष्कर्ष लैंग्वेज-मॉडल हेड को अपडेट करने की समस्या को एक नया रूप देता है: संख्याओं के समग्र परिमाण की चिंता करने के बजाय, लक्ष्य शब्दों का प्रतिनिधित्व करने वाले बिंदुओं के क्लाउड (cloud) के व्यास (diameter) को प्रबंधित करना बन जाता है।

यह ज्यामितीय अंतर्दष्टि इन अपडेट्स के निर्माण के लिए एक नया प्रस्ताव देती है, जो 'म्यून' (Muon) नामक एक हालिया विधि से प्रेरणा लेती है जो न्यूरल नेटवर्क के अन्य हिस्सों में सफल रही है। म्यून अपडेट की विभिन्न दिशाओं को इस तरह संतुलित करता है कि वे सभी समान रूप से मजबूत हों, जिससे मॉडल सीखने के परिदृश्य की संकीर्ण घाटियों में फंसने से बच जाता है। लेखक का सुझाव है कि इसी तरह के सिद्धांत को लैंग्वेज-मॉडल हेड पर भी लागू किया जाना चाहिए, लेकिन एक मोड़ के साथ। एकल दिशाओं की शक्ति को संतुलित करने के बजाय, लक्ष्य यह होना चाहिए कि सभी शब्द-वेक्टर्स के जोड़ों के बीच की दूरियाँ यथासंभव समान हों। आदर्श अपडेट वेक्टर्स को इस तरह फैला देगा कि प्रत्येक शब्द दूसरे शब्द से लगभग समान दूरी पर हो, जिससे एक पूर्णतः संतुलित क्लाउड बन सके। यह सुनिश्चित करेगा कि मॉडल किसी भी शब्द के जोड़े के बीच के अंतर को समान संवेदनशीलता के साथ देखता है।

हालाँकि, शोध पत्र इस आदर्श के लिए एक कठिन भौतिक सीमा की भी पहचान करता है। लैंग्वेज-मॉडल हेड में, शब्दावली में शब्दों की संख्या उन्हें प्रदर्शित करने के लिए उपलब्ध आयामों (dimensions) की संख्या से बहुत अधिक होती। यह गणितीय रूप से असंभव है कि बिंदुओं की एक बड़ी संख्या को एक छोटे स्थान में इस तरह व्यवस्थित किया जाए कि वे सभी एक-दूसरे से समान दूरी पर हों। जिस तरह आप एक सपाट कागज पर सौ बिंदुओं को इस तरह नहीं रख सकते कि वे सभी एक-दूसरे से समान दूरी पर हों, उसी तरह आप शब्द-वेक्टर्स को पूरी तरह से समदूरस्थ (equidistant) नहीं बना सकते जब शब्दावली विशाल हो और हिडन स्पेस छोटा हो। अध्ययन इस बाधा को स्वीकार करता है और सुझाव देता है कि लक्ष्य सर्वोत्तम संभव सन्निकटन (approximation) खोजना होना चाहिए। प्रस्तावित ऑप्टिमाइज़र दो शब्दों के बीच की न्यूनतम दूरी को अधिकतम करने का प्रयास करेगा जबकि सबसे बड़ी दूरी को एक सुरक्षित सीमा के भीतर रखेगा। यह दृष्टिकोण एक ऐसा अपडेट बनाने का लक्ष्य रखता है जो ज्यामिति द्वारा संभव हो सके उतना समान रूप से वितरित हो, यह सुनिश्चित करता है कि शब्दों के किसी भी जोड़े को अनदेखा न किया जाए या अविभाज्य न माना जाए, जबकि दूसरों को बहुत दूर न धकेला जाए।

इस कार्य के निहितार्थ मुख्य रूप से सैद्धांतिक और संरचनात्मक हैं, जो भाषा निर्माण के अंतिम चरण को देखने के लिए एक नया दृष्टिकोण प्रदान करते हैं। लेखक यह दावा नहीं करता है कि उन्होंने एक पूरी तरह से प्रशिक्षित मॉडल बनाया है जो व्यावहारिक रूप से इस पद्धति की श्रेष्ठता को सिद्ध करता है, बल्कि वे एक कठोर व्युत्पत्ति (derivation) प्रदान करते हैं कि यदि कोई प्रायिकता के प्रथम सिद्धांतों का पालन करता है तो अपडेट की ज्यामिति कैसी होनी चाहिए। शोध पत्र का तर्क है कि वर्तमान विधियाँ, जो अक्सर इस अंतिम परत को मानक अनुकूलन तकनीकों के लिए छोड़ देती हैं, एक अवसर खो रही हैं जो इस मॉड्यूल के विशिष्ट कार्य का सम्मान करती हैं। इस मॉड्यूल के रूप में प्रायिकता में रूपांतरण को अपडेट प्रक्रिया के अभिन्न अंग के रूप में मानकर, और एक ऐसे दूरी माप का उपयोग करके जो सॉफ्टमैक्स फंक्शन की अपरिवर्तनीयता (invariance) का सम्मान करता है, प्रस्तावित ज्यामिति सीखने के परिदृश्य में नेविगेट करने का एक अधिक स्वाभाविक तरीका प्रदान करती है। अध्ययन इस निष्कर्ष के साथ समाप्त होता है कि हालांकि बड़ी शब्दावलियों के लिए पूर्ण समदूरस्थ व्यवस्था असंभव है, फिर भी एक लगभग समदूरस्थ विन्यास की खोज भविष्य के ऑप्टिमाइज़र्स को डिजाइन करने के लिए एक स्पष्ट, सिद्धांतवादी दिशा प्रदान करती है जो विशेष रूप से लैंग्वेज-मॉडल हेड की अनूठी मांगों के लिए तैयार किए गए हों।