How Do Transformers Learn to Associate Tokens: Gradient Leading Terms Bring Mechanistic Interpretability
यह शोध पत्र एक यांत्रिक व्याख्या प्रदान करता है कि कैसे ट्रांसफॉर्मर प्रशिक्षण ग्रेडिएंट गतिकी (training gradient dynamics) के आधार पर बिग्रैम (bigram), टोकन-परस्परविनिमेयता (token-interchangeability), और संदर्भ मैपिंग (context mappings) के संयोजन के रूप में प्रारंभिक-चरण के भारों (early-stage weights) के लिए क्लोज्ड-फॉर्म अभिव्यक्तियों को व्युत्पन्न करके अर्थ संबंधी जुड़ाव (semantic associations) सीखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ट्रांसफॉर्मर (जो आधुनिक AI चैटबॉट्स के पीछे का मस्तिष्क है) एक विशाल, खाली नोटबुक है। जब हम इसे प्रशिक्षित (train) करना शुरू करते हैं, तो इसके पन्ने खाली होते हैं। आप जिस कागज के बारे में पूछ रहे हैं, वह एक सरल लेकिन गहरा सवाल पूछता है: यह नोटबुक लाखों वाक्यों को पढ़कर "bird" और "flew" जैसे शब्दों को आपस में जोड़ना कैसे सीखती है?
तैयार, जटिल AI को देखने के बजाय, लेखकों ने सीखने के बिल्कुल शुरुआती क्षणों पर ध्यान केंद्रित करने का निर्णय लिया। उन्होंने AI की याददाश्त को अपडेट करने के पहले कुछ चरणों को देखने के लिए एक गणितीय "आवर्धक लेंस" (magnifying glass) का उपयोग किया।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) के साथ विवरण दिया गया है:
1. "पहला कदम" का शॉर्टकट (The "First Step" Shortcut)
AI को प्रशिक्षित करना एक वाक्य में अगले शब्द की भविष्यवाणी करने जैसा है। आमतौर पर, AI अपनी याददाश्त को कैसे अपडेट करता है, इसके पीछे का गणित अविश्वसनीय रूप से जटिल और उलझा हुआ होता है।
लेखकों ने महसूस किया कि शुरुआत में, AI को जटिल कैलकुलस (calculus) करने की आवश्यकता नहीं है। इसे बस डेटा में मौजूद सबसे मजबूत, सबसे स्पष्ट संकेत का पालन करने की आवश्यकता है। वे इसे "लीडिंग टर्म" (leading term) कहते हैं। इसे एक ऐसे हाइकर की तरह समझें जो पहाड़ की चढ़ाई शुरू कर रहा है। शुरुआत में, रास्ता स्पष्ट और सीधा होता है। यह केवल बाद में होता है, जब वे ऊपर पहुँच जाते हैं, तब रास्ता घुमावदार और जटिल हो जाता है। लेखकों ने सिद्ध किया कि एक आश्चर्यजनक लंबे समय तक, AI के "मेमोरी वेट्स" (memory weights) उस सरल, सीधे शुरुआती पथ के बहुत करीब रहते हैं।
2. तीन निर्माण खंड (The Three Building Blocks)
पेपर से पता चलता है कि AI की याददाश्त कोई रैंडम अव्यवस्था नहीं है। इसके बजाय, इसे तीन विशिष्ट प्रकार के "लेगो ब्लॉक्स" (Lego blocks) को एक के ऊपर एक रखकर बनाया गया है (जिन्हें लेखक 'बेसिस फंक्शन्स' कहते हैं)। ये ब्लॉक सीधे उस टेक्स्ट के सांख्यिकी (statistics) से प्राप्त होते हैं जिसे AI पढ़ रहा है:
"अगला-शब्द" ब्लॉक (Bigram Mapping):
- उपमा: कल्पना कीजिए कि एक बच्चा सीख रहा है कि "The" के बाद लगभग हमेशा "cat" या "dog" जैसा संज्ञा (noun) आता है।
- यह क्या करता है: यह ब्लॉक बस यह रिकॉर्ड करता है: "यदि आप शब्द A देखते हैं, तो अगला सबसे संभावित शब्द B क्या होगा?" यह सरल, तत्काल संबंधों को पकड़ता है।
"बदलने योग्य" ब्लॉक (Interchangeability Mapping):
- उपमा: एक शब्दकोश (thesaurus) के बारे में सोचें। यदि आप व्याकरण को तोड़े बिना एक वाक्य में "car" को "truck" से बदल सकते हैं, तो वे "बदलने योग्य" हैं।
- यह क्या करता है: यह ब्लॉक सीखता है कि कुछ शब्द समान भूमिका निभाते हैं। यदि "red" आमतौर पर "car" का वर्णन करता है, और "fast" भी "car" का वर्णन करता है, तो यह ब्लॉक AI को यह समझने में मदद करता है कि "red" और "fast" आपस में संबंधित हो सकते हैं क्योंकि वे अक्सर एक ही तरह के शब्दों के साथ रहते हैं। यह शब्दों को उनके तात्कालिक पड़ोसियों के बजाय उनके कार्य (function) के आधार पर समूहित करता है।
"संदर्भ" ब्लॉक (Context Mapping):
- उपमा: कल्पना कीजिए कि आप एक "मछली" (fish) के बारे में कहानी पढ़ रहे हैं। भले ही "तालाब" (pond) शब्द "मछली" के ठीक बगल में न हो, लेकिन कहानी में पहले "पानी", "झील" या "नाव" का उल्लेख हो सकता है।
- यह क्या करता है: यह ब्लॉक वाक्य में और पीछे देखता है। यह सीखता है कि यदि कोई शब्द एक विशिष्ट संदर्भ (जैसे प्रकृति की कहानी) में दिखाई देता है, तो इसकी संभावना है कि वह उसी संदर्भ के अन्य शब्दों से जुड़ा होगा, भले ही वे एक-दूसरे से दूर हों।
3. वे एक साथ कैसे काम करते हैं
पेपर दिखाता है कि AI के आंतरिक "वेट्स" (वे संख्याएँ जो यह निर्धारित करती हैं कि वह कैसे सोचता है) इन तीन ब्लॉकों के संयोजन (combinations) हैं।
- आउटपुट लेयर (वह हिस्सा जो अगले शब्द का अनुमान लगाता है) मुख्य रूप से केवल "अगला-शब्द" ब्लॉक है। यह AI द्वारा कहा जा रहा है, "जो मैंने अभी देखा, उसके आधार पर, आगे क्या आएगा?"
- अटेंशन लेयर (वह हिस्सा जो यह तय करता है कि कहाँ ध्यान केंद्रित करना है) "बदलने योग्य" और "संदर्भ" ब्लॉकों का मिश्रण है। यह AI द्वारा कहा जा रहा है, "मैं 'मछली' शब्द देख रहा हूँ। मुझे 'तालाब' शब्द की ओर देखना चाहिए क्योंकि वे अक्सर एक ही तरह की कहानियों में एक साथ आते हैं, भले ही वे एक-दूसरे के संपर्क में न हों।"
4. प्रमाण: यह वास्तव में काम करता है
लेखकों ने केवल समीकरण नहीं लिखे; उन्होंने वास्तविक AI मॉडल पर इनका परीक्षण किया।
- उन्होंने एक छोटे AI को बच्चों की कहानियों के डेटासेट पर प्रशिक्षित किया।
- उन्होंने AI की वास्तविक सीखी हुई याददाश्त की तुलना अपने गणितीय सूत्र से की।
- परिणाम: मिलान अविश्वसनीय रूप से सटीक था (कुछ मामलों में 99% से अधिक समानता)। यहाँ तक कि जब उन्होंने एक विशाल, वास्तविक दुनिया के AI (Pythia-1.4B) को देखा, तो वही पैटर्न कायम रहे। AI वास्तव में इन तीन सरल सांख्यिकीय निर्माण खंडों का उपयोग करके अपनी याददाश्त को व्यवस्थित कर रहा था।
मुख्य निष्कर्ष (The Big Takeaway)
पेपर का तर्क है कि हमें AI को एक रहस्यमय "ब्लैक बॉक्स" के रूप में देखने की आवश्यकता नहीं है जो जादुई रूप से भाषा को समझता है। इसके बजाय, अपने मूल में, यह केवल दुनिया को सांख्यिकीय रूप से व्यवस्थित कर रहा है:
- यह नोट करना कि क्या चीज़ आमतौर पर किसके बाद आती है।
- उन शब्दों को समूहित करना जो एक ही काम करते हैं।
- उन शब्दों को जोड़ना जिनका बैकग्राउंड (पृष्ठभूमि) एक जैसा है।
इन तीन सरल नियमों को समझकर, हम अंततः देख सकते हैं कि मशीन "bird" को "flew" के साथ और "country" को "capital" के साथ जोड़ना कैसे सीखती है। यह जादू नहीं है; यह उसके द्वारा पढ़े गए टेक्स्ट का एक बहुत ही संरचित सारांश निकालने का तरीका है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।