TetraJet-v2: Accurate NVFP4 Training for Large Language Models with Oscillation Suppression and Outlier Control
TetraJet-v2 एक एंड-टू-एंड 4-बिट पूर्णतः-क्वांटाइज्ड (fully-quantized) ट्रेनिंग विधि है जो लार्ज लैंग्वेज मॉडल्स के लिए सभी लीनियर लेयर्स में NVFP4 प्रिसिजन का उपयोग करती है और वेट ऑसिलेशन (weight oscillation) को प्रभावी ढंग से दबाने और आउटलायर्स को नियंत्रित करने के लिए OsciReset और OutControl को पेश करती है, जिससे FP8 की तुलना में महत्वपूर्ण स्पीडअप के साथ लगभग लॉसलेस (near-lossless) प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, बुद्धिमान छात्र (एक लार्ज लैंग्वेज मॉडल) को बहुत सारी जानकारी सिखाने की कोशिश कर रहे हैं। आमतौर पर, इसे प्रभावी ढंग से करने के लिए, आपको एक उच्च-गुणवत्ता वाले, महंगे क्लासरूम की आवश्यकता होती है जिसमें बेहतरीन रोशनी और विशाल व्हाइटबोर्ड (हाई-प्रिसिजन कंप्यूटिंग) हो। इसमें बिजली और हार्डवेयर पर बहुत अधिक खर्च होता है।
यह पेपर एक नई विधि पेश करता है जिसे TetraJet-v2 कहा जाता है, जो इसी छात्र को एक छोटे, कम लागत वाले क्लासरूम में सिखाने की कोशिश करता है जिसमें एक छोटा ब्लैकबोर्ड और मंद रोशनी (4-बिट प्रिसिजन) है। लक्ष्य इस प्रशिक्षण प्रक्रिया को 1.67 गुना तेज़ बनाना और बहुत सस्ता बनाना है, बिना यह सुनिश्चित किए कि छात्र गलत चीजें सीख रहा है या जो उसने अभी सीखा है उसे भूल रहा है।
उन्होंने उन समस्याओं को हल करने के लिए यहाँ बताया है जो आमतौर पर ऐसे "कम-गुणवत्ता" वाले क्लासरूम में प्रशिक्षण के दौरान आती हैं:
1. समस्या: "कांपता हुआ हाथ" (वेट ऑसिलेशन - Weight Oscillation)
कल्पना कीजिए कि छात्र ब्लैकबोर्ड पर एक संख्या लिखने की कोशिश कर रहा है। एक आदर्श क्लासरूम में, वे "0.25" बिल्कुल सटीक रूप से लिख सकते हैं। लेकिन इस कम-प्रिसिजन वाले क्लासरूम में, वे केवल पूर्ण संख्याएं या आधी संख्याएं (जैसे 0 या 0.5) ही लिख सकते हैं।
यदि छात्र का वास्तविक उत्तर ठीक बीच में (0.25) है, तो उनका हाथ कांपने लगता है। एक पल में वे "0" लिखते हैं, अगले ही पल "0.5" लिखते हैं, फिर वापस "0" पर आते हैं। वे एक लूप में फंस जाते हैं, बार-बार इधर-उधर झूलते रहते हैं। इसे वेट ऑसिलेशन (Weight Oscillation) कहा जाता है। यह ऊर्जा बर्बाद करता है और छात्र को सही उत्तर तक कभी भी स्थिर होने से रोकता है।
समाधान: OsciReset (द "सेंटरिंग" ट्रिक)
लेखकों ने एक तकनीक का आविष्कार किया जिसे OsciReset कहा जाता है। कल्पना कीजिए कि एक शिक्षक छात्र के हाथ पर नज़र रख रहा है। जैसे ही वे देखते हैं कि छात्र दो विकल्पों के बीच कांपना शुरू कर रहा है, शिक्षक धीरे से चाक को पकड़ता है और उसे सुरक्षित क्षेत्र के ठीक बीच (बिन सेंटर) में ले आता है।
- यह कैसे काम करता है: यह कांपने को तुरंत रोक देता है। यह छात्र को रोकता नहीं है (क्योंकि रुकने से सीखना बंद हो जाएगा); यह बस उन्हें एक नया, अधिक सुचारू दिशा में सीखने के लिए एक स्थिर शुरुआती बिंदु प्रदान करता है। यह पहली बार है जब इस विशिष्ट "कांपने" वाली समस्या को इन विशाल मॉडलों के लिए हल किया गया है।
2. समस्या: "ज़ोर से चिल्लाने वाले" (आउटलायर्स - Outliers)
एक सामान्य क्लासरूम में, अधिकांश छात्र सामान्य आवाज़ में बोलते हैं। लेकिन इन विशाल मॉडलों में, कुछ विशिष्ट "चैनल" (सोचिए कि ये विशिष्ट माइक्रोफ़ोन हैं) अचानक अधिकतम वॉल्यूम पर चिल्लाने लगते हैं। इन्हें आउटलायर्स (Outliers) कहा जाता है।
चूंकि ब्लैकबोर्ड बहुत छोटा है (लो प्रिसिजन), यदि एक माइक्रोफ़ोन बहुत ज़ोर से चिल्लाता है, तो शिक्षक को बाकी सभी लोगों की आवाज़ कम करनी पड़ती है ताकि चिल्लाने वाला माइक्रोफ़ोन बोर्ड को तोड़ न दे। इसका मतलब है कि अन्य छात्रों की धीमी लेकिन महत्वपूर्ण फुसफुसाहट शोर में खो जाती है।
समाधान: OutControl (द "वीआईपी माइक्रोफोन्स")
लेखकों ने महसूस किया कि ये चिल्लाने वाले माइक्रोफ़ोन अनुमानित होते हैं; वे हमेशा वही कुछ विशिष्ट चैनल होते हैं। इसलिए, उन्होंने OutControl नामक एक प्रणाली बनाई।
- यह कैसे काम करता है: वे इन "वीआईपी माइक्रोफोन्स" (आउटलायर्स) की पहचान जल्दी कर लेते हैं और उन्हें अपना विशेष, उच्च-गुणवत्ता वाला माइक्रोफ़ोन देते हैं (उन्हें उच्च प्रिसिजन फॉर्मेट जैसे FP8 में रखते हैं)। बाकी छात्र छोटे, सस्ते ब्लैकबोर्ड (FP4) का उपयोग करना जारी रखते हैं।
- परिणाम: ज़ोर से चिल्लाने वाला व्यक्ति सभी के लिए वॉल्यूम कम करने के लिए मजबूर नहीं करता, जिससे अन्य छात्रों की धीमी फुसफुसाहट भी स्पष्ट रूप से सुनी जा सकती है।
3. "डबल-ब्लॉक" ब्लैकबोर्ड
यह सुनिश्चित करने के लिए कि इस छोटे बोर्ड पर गणित पूरी तरह से काम करे, उन्होंने संख्याओं को लिखने के तरीके को फिर से डिज़ाइन किया है। एक बड़ी संख्या को एक छोटे से वर्ग में फिट करने की कोशिश करने के बजाय, वे डबल-ब्लॉक (Double-Block) प्रणाली का उपयोग करते हैं।
- कल्पना कीजिए कि छात्रों का एक बड़ा समूह (128 का एक ब्लॉक) एक बड़े रूलर (ग्लोबल स्केल) को साझा कर रहा है, लेकिन उस समूह के भीतर, उन्हें 16 की छोटी टीमों में विभाजित किया गया है, जिनमें से प्रत्येक के पास अपना स्वयं का छोटा रूलर है। यह उन्हें सटीकता खोए बिना बहुत छोटी और बहुत बड़ी दोनों संख्याओं को संभालने की अनुमति देता है।
परिणाम
जब उन्होंने इन सभी ट्रिक्स को एक साथ मिलाया (सेंटरिंग ट्रिक, वीआईपी माइक्रोफोन्स और डबल-ब्लॉक ब्लैकबोर्ड):
- गति: उन्होंने मॉडलों को वर्तमान मानक (FP8) की तुलना में 1.67 गुना तेज़ी से प्रशिक्षित किया।
- सटीकता: मॉडलों ने लगभग उतना ही अच्छा सीखा जितना कि यदि उन्हें महंगे, उच्च-प्रिसिजन वाले क्लासरूम में प्रशिक्षित किया गया होता। उन्होंने सस्ते तरीके और महंगे तरीके के बीच के प्रदर्शन के अंतर को 50% से अधिक कम कर दिया।
- पैमाना: उन्होंने 370 मिलियन पैरामीटर्स तक के मॉडलों का परीक्षण किया, जिन्हें 200 बिलियन से अधिक शब्दों पर प्रशिक्षित किया गया।
संक्षेप में: TetraJet-v2 नियमों का एक नया सेट है जो हमें अपने मॉडलों को कांपने से रोककर, ऊंची आवाज़ों की रक्षा करके और अपने ब्लैकबोर्ड को अधिक कुशलता से व्यवस्थित करके, बहुत सस्ते और तेज़ हार्डवेयर पर विशाल AI मॉडल को प्रशिक्षित करने की अनुमति देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।