Stable FP4 Training via Transposition-Invariant Block Quantization
यह शोध पत्र बड़े भाषा मॉडलों (large language models) के लिए एक स्थिर FP4 प्रशिक्षण ढांचे (training framework) को प्रस्तुत करता है जो पारंपरिक माइक्रोस्केलिंग दृष्टिकोणों में टेंसर ट्रांसपोज़िशन (tensor transposition) के कारण होने वाली अनुकूलन अस्थिरता (optimization instability) को ट्रांसपोज़िशन-अपरिवर्तनीय 2D ब्लॉक क्वांटिज़ेशन (transposition-invariant 2D block quantization) को लागू करके हल करता है, जिससे 30B पैरामीटर्स तक के मॉडलों में न्यूनतम गिरावट के साथ BF16 के तुलनीय प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस की दुनिया एक विशाल, हलचल भरी लाइब्रेरी है जहाँ विशाल रोबोट (जिन्हें लार्ज लैंग्वेज मॉडल्स कहा जाता है) पढ़ना, लिखना और तर्क करना सीखने की कोशिश कर रहे हैं। यह करने के लिए, उन्हें सूचना के पहाड़ों को प्रोसेस करने की आवश्यकता होती है, जिसके लिए ऊर्जा और मेमोरी की भारी मात्रा की आवश्यकता होती है। यह एक सुपरकंप्यूटर को सिंगल AA बैटरी पर चलाने जैसा है; यह अच्छी तरह से काम नहीं करता है। वैज्ञानिक इन रोबोट्स को "सरल" संख्याओं में सोचने के लिए सिखाकर उन्हें अधिक कुशल बनाने की कोशिश कर रहे हैं। जटिल, उच्च-परिशुद्धता वाले दशमलव (जैसे कि एक मिलीमीटर के दस लाखवें हिस्से तक दूरी मापना) के बजाय, वे उन्हें मोटे तौर पर 4-बिट संख्याओं (जैसे कि पूरे इंचों में मापना) का उपयोग करने की कोशिश करते हैं। यह स्थान और ऊर्जा की एक बड़ी मात्रा बचाता है। हालाँकि, इसमें एक पेंच है: जब रोबट इन मोटे नंबरों के साथ सीखने की कोशिश करते हैं, तो वे अक्सर भ्रमित हो जाते हैं, गलतियाँ करते हैं, और पूरी तरह से सीखना बंद कर देते हैं। यह एक भूलभुलैया में नेविगेट करने जैसा है जहाँ उसका नक्शा अपने ही नियम बदलता रहता है।
यह शोध पत्र इसी विशिष्ट भ्रम को संबोधित करता है। यह पूछता है: इन अल्ट्रा-सिंपल नंबरों के साथ इन AI रोबोट्स को सिखाने से वे क्रैश क्यों हो जाते हैं? लेखकों ने पाया कि समस्या केवल यह नहीं है कि संख्याएँ सरल हैं; बल्कि यह है कि जिस तरह से ये रोबोट इन संख्याओं को व्यवस्थित करते हैं, वह तब बदल जाता है जब वे "फॉरवर्ड लर्निंग" (एक वाक्य पढ़ना) से "बैकवर्ड लर्निंग" (अपनी गलतियों की जाँच करना) में स्विच करते हैं। यह ऐसा ही है जैसे रोबोट एक किताब को बाएँ-से-दाएँ पढ़ता है, लेकिन जब वह अपने नोट्स की जाँच करता है, तो अचानक वह उन्हें दाएँ-से-बाएँ पढ़ने लगता है, जिससे पेज नंबर गड़बड़ा जाते हैं और कहानी का सार खो जाता है। यह पेपर एक चतुर समाधान प्रस्तावित करता है: संख्याओं को व्यवस्थित करने का एक नया तरीका ताकि नियम समान रहें, चाहे रोबोट किसी भी दिशा में देख रहा हो। यह उन्हें स्थिर रूप से सीखने की अनुमति देता है, यहाँ तक कि सबसे सरल संख्याओं के साथ भी, जिससे वे अपनी बुद्धिमत्ता खोए बिना तेज़ और सस्ते बनते हैं।
द ग्रेट नंबर शफल: AI के मेमोरी ग्लिच को ठीक करना
तो, आप एक सुपर-स्मार्ट AI बनाना चाहते हैं, लेकिन आपका कंप्यूटर ऊर्जा और मेमोरी की कमी का सामना कर रहा है। सामान्य चाल यह है कि AI को "लो-प्रिसिजन" गणित का उपयोग करने के लिए कहना। इसे इस तरह सोचें: सामान्य रूप से, AI चीजों को एक अत्यंत सटीक रूलर के साथ मापता है जिसमें बहुत-बहुत छोटे निशान होते हैं (जैसे BF16 या FP8)। लेकिन जगह बचाने के लिए, हम चाहते हैं कि यह केवल चार बड़े, मोटे निशानों वाले रूलर का उपयोग करे (FP4)। यह बहुत तेज़ है और कम जगह लेता है। लेकिन यहाँ समस्या है: जब AI इन मोटे निशानों के साथ सीखने की कोशिश करता है, तो वह अक्सर बिखर जाता है। वह अजीब अंदाज़े लगाने लगता है, और ट्रेनिंग क्रैश हो जाती है।
लंबे समय से, वैज्ञानिकों ने सोचा कि समस्या केवल यह है कि मोटे निशान पर्याप्त विस्तृत नहीं हैं। उन्होंने नंबरों को समूहों में बांटकर और प्रत्येक समूह को एक साझा "स्केल" (नंबरों को फिट करने के लिए उन्हें खींचने या सिकोड़ने का एक तरीका) देकर इसे ठीक करने की कोशिश की। यह ठीक-ठाक काम करता था, लेकिन मेहदी रहीमिफार और उनकी टीम के नए पेपर में कहा गया है, "एक मिनट रुकिए! हमने असली अपराधी को ढूंढ लिया है।"
वह अपराधी एक चालाक ग्लिच है जिसे ट्रांसपोज़िशन (transposition) कहा जाता है।
"बाएँ-से-दाएँ बनाम दाएँ-से-बाएँ" की समस्या
कल्प laइए कि आपके पास दीवार पर स्टिकी नोट्स का एक ग्रिड है, जो पंक्तियों (rows) में व्यवस्थित है। आप प्रत्येक नोट पर एक नंबर लिखते हैं और पूरी पंक्ति पर एक लेबल लगाते हैं कि नंबर कितने बड़े हैं। AI आमतौर पर अपने डेटा को इसी तरह व्यवस्थित करता है।
अब, कल्पना कीजिए कि AI सीख रहा है। पहले, वह नोट्स को बाएँ से दाएँ पढ़ता है ("फॉरवर्ड पास")। वह नंबरों और लेबल को देखता है, और सीखता है। लेकिन फिर, अपने काम की जाँच करने और गलतियों को सुधारने के लिए, उसे ग्रिड को पलटना पड़ता है (जिसे गणित में "ट्रांसपोज़िशन" कहा जाता है)। अचानक, पंक्तियाँ कॉलम बन जाती हैं।
यहाँ आपदा आती है: पुराने तरीके में (जिसे 1D ब्लॉक क्वांटाइजेशन कहा जाता है), जब ग्रिड पलटता है, तो स्टिकी नोट्स नए समूहों में इधर-उधर हो जाते हैं। एक नोट जो एक विशिष्ट लेबल के साथ "ग्रुप A" में था, अब "ग्रुप B" में होता है जिसका लेबल बिल्कुल अलग है। AI सोचता है, "रुको, मुझे लगा था कि यह नंबर छोटा था, लेकिन अब लेबल कहता है कि यह बहुत बड़ा है!" जो AI ने सीखते समय देखा था और जो वह काम चेक करते समय देखता है, उसके बीच यह बेमेल स्थिति एक भ्रमित करने वाला, पक्षपाती सिग्नल पैदा करती है। यह एक ऐसी रेसिपी का पालन करने जैसा है जहाँ हर बार पन्ना पलटने पर सामग्री की सूची बदल जाती है। परिणाम? AI चक्कर खा जाता है, ट्रेनिंग अस्थिर हो जाती है, और वह सीखना बंद कर देता है।
2D स्क्वायर सॉल्यूशन
लेखकों के पास एक शानदार विचार था: ग्रिड को पलटने पर समूहों को बदलने न दें।
उन्होंने 2D स्क्वायर ब्लॉक्स का उपयोग करने का प्रस्ताव दिया। कल्पना कीजिए कि स्टिकी नोट्स की लंबी पंक्तियों के बजाय, आप उन्हें सटीक वर्गों (जैसे कि 32x32 का चेकरबोर्ड) में व्यवस्थित करते हैं। जब आप एक वर्गाकार ग्रिड को पलटते हैं, तो वर्ग वर्ग ही रहते हैं। जो स्टिकी नोट्स ऊपर-बाएँ वाले वर्ग में थे, वे अभी भी उसी समूह के एक वर्ग में होते हैं, बस वे पलटे हुए होते हैं। लेबल (स्केल) उन नंबरों के लिए बिल्कुल वही रहता है, चाहे AI आगे देख रहा हो या पीछे।
इस ट्रांसपोज़िशन-इनवेरिएंट (transposition-invariant) नियम को लागू करके, AI अब भ्रमित नहीं होता। जिस नंबर को वह सीखते समय देखता है, वही नंबर वह सुधार करते समय देखता है। यह सरल परिवर्तन "चक्कर आने" की समस्या को ठीक कर देता है और AI को अल्ट्रा-सिंपल FP4 नंबरों का उपयोग करके स्थिर रूप से प्रशिक्षित होने की अनुमति देता है।
सुरक्षा जाल: नो क्लिपिंग और रैंडम गेसिंग
लेकिन रुकिए, अभी और भी है! केवल समूहों को ठीक करना पर्याप्त नहीं था। क्योंकि FP4 नंबर इतने सरल हैं, वे आसानी से बहुत बड़े (ओवरफ्लो) हो सकते हैं या इस तरह से राउंड (गोल) किए जा सकते हैं कि वे एक पक्षपात (bias) पैदा करें (उदाहरण के लिए, हमेशा ऊपर की ओर राउंड करना)।
इसे ठीक करने के लिए, टीम ने दो सुरक्षा सुविधाएँ जोड़ीं:
- ट्रंकेशन-फ्री स्केलिंग (Truncation-Free Scaling): नंबरों को काटने (जो डेटा को विकृत करता है) के बजाय, वे स्वयं "रूलर" को समायोजित करते हैं ताकि हर नंबर आराम से रेंज के भीतर आ सके। यह रूलर को इस तरह खींचने जैसा है कि कमरे के सबसे लंबे व्यक्ति का सिर भी कटे बिना वह उसमें समा सके।
- स्टोकेस्टिक राउंडिंग (Stochastic Rounding): जब कोई नंबर रूलर के दो निशानों के बीच आता है, तो निकटतम निशान तक राउंड करने (जो एक पक्षपात पैदा करता है) के बजाय, AI एक सिक्का उछालता है। कभी-कभी यह ऊपर की ओर राउंड करता है, कभी नीचे की ओर। समय के साथ, औसत पूरी तरह से सटीक रहता है। यह एक निष्पक्ष खेल की तरह है जहाँ घर (house) धोखाधड़ी नहीं करता।
अटेंशन के लिए "स्पेशल सॉस"
AI के मस्तिष्क का एक पेचीदा हिस्सा है जिसे "अटेंशन" (Attention) कहा जाता है, जहाँ मॉडल यह तय करता है कि वाक्य के कौन से शब्द महत्वपूर्ण हैं। यह हिस्सा बहुत संवेदनशील है। यदि आप यहाँ सरल FP4 नंबरों का उपयोग करते हैं, तो AI भ्रमित हो जाता है।
इसलिए, लेखकों ने एक मिक्स्ड-प्रिसिजन (mixed-precision) रणनीति विकसित की। वे भारी काम के लिए अत्यधिक कुशल FP4 नंबरों का उपयोग करते हैं, लेकिन "अटेंशन" वाले हिस्से के लिए थोड़ा अधिक सटीक प्रारूप (MXFP8) का उपयोग करते हैं। यह एक बड़े गड्ढे को खोदने के लिए एक मोटे, तेज़ फावड़े का उपयोग करने जैसा है, लेकिन बीच में एक नाजुक फूलों की क्यारी के लिए एक सटीक छोटी कुदाल पर स्विच करने जैसा है। यह सबसे संवेदनशील हिस्सों की रक्षा करते हुए पूरे सिस्टम को तेज़ और कुशल बनाए रखता है।
क्या यह वास्तव में काम करता है?
टीम ने इस विचार का परीक्षण कुछ बहुत बड़े AI मॉडल्स पर किया, जिनमें 30 बिलियन पैरामीटर्स (यानी बहुत सारे ब्रेन सेल्स!) तक के मॉडल शामिल थे। उन्होंने इन्हें 100 बिलियन टोकन (शब्दों और प्रतीकों) तक प्रशिक्षित किया।
परिणाम प्रभावशाली थे:
- स्थिरता (Stability): मॉडल्स शुरू से अंत तक सुचारू रूप से प्रशिक्षित हुए। पुराने तरीके, जिन्होंने इस 2D स्क्वायर ट्रिक का उपयोग नहीं किया था, वे जल्दी ही क्रैश हो गए।
- प्रदर्शन (Performance): इस नए तरीके से प्रशिक्षित AI मॉडल्स ने लगभग उसी तरह प्रदर्शन किया जैसा कि धीमे, भारी, उच्च-परिशुद्धता वाले नंबरों से प्रशिक्षित मॉडल्स ने किया। गुणवत्ता में अंतर बहुत कम था—कुछ परीक्षणों में 1.3% से भी कम।
- दक्षता (Efficiency): उन्होंने मेमोरी की भारी बचत की (लगभग 65% कम) और भविष्य के हार्डवेयर पर सैद्धांतिक रूप से 3.5 गुना तेज़ चल सकते हैं।
निचोड़
यह पेपर सुझाव देता है कि AI ट्रेनिंग को सुपर-एफिशिएंट बनाने में सबसे बड़ी बाधा केवल छोटे नंबरों का उपयोग करना नहीं है; बल्कि यह सुनिश्चित करना है कि वे नंबर सुसंगत व्यवहार करें, चाहे AI उन्हें किसी भी तरह से देखे। अस्त-व्यस्त, बदलते हुए रो (rows) से हटकर व्यवस्थित, स्थिर वर्गों (squares) की ओर स्विच करके, लेखकों ने एक तरीका खोजा जिससे AI ट्रेनिंग तेज़ भी और ठोस भी बन गई।
बेशक, अभी भी कुछ बाधाएं हैं। टीम को इसे वर्तमान कंप्यूटरों पर सिम्युलेट करना पड़ा क्योंकि विशेष चिप्स जो इस गणित को मूल रूप से (natively) कर सकते हैं, अभी व्यापक रूप से उपलब्ध नहीं हैं। लेकिन गणित सही है, और आगे का रास्ता स्पष्ट है: यदि हम चाहते हैं कि AI तेज़ और सस्ता हो, तो हमें नंबरों के इस हेर-फेर को रोकना होगा और नियमों को सुसंगत रखना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।